1
resposta

[Dúvida] Criação do crawler da tabela silver

Não há como eu criar um schema a partir do meu schema bronze e fazer as modificações necessárias para a silver? A dúvida é mais sobre a produtividade desse processo, pois muitas vezes temos uma tabela na silver para cada tabela na bronze e este trabalho de criar todos os schemas da silver pode se mostrar muito custoso.

1 resposta

Ei, Leandro! Tudo bem?

Sim, é possível e é uma boa prática para a produtividade e automatização.

No AWS Glue, o Glue Crawler, para inferir o schema inicial da Bronze e, depois, criar scripts em PySpark ou utilizar Glue Jobs para transformar e refinar os dados para a Silver, aplicando as modificações necessárias (como limpeza, agregação ou enriquecimento). Para otimizar, use os jobs para lidar com múltiplas tabelas, reduzindo o trabalho manual. Outra dica é usar o AWS Glue Data Catalog para gerenciar metadados e facilitar a reutilização de schemas.

Estes conteúdos podem abrir em inglês e se preferir ler em português, recomendo que utilize o tradutor automático do navegador.

Continue se dedicando aos estudos e qualquer dúvida, compartilhe no fórum.

Caso este post tenha lhe ajudado, por favor, marcar como solucionado!