Dados

Engenharia de Dados

Trilha focada em pipelines, arquitetura de dados e sistemas distribuídos, com foco em prática e operação em produção.

Intermediário 6 passos sugeridos

Sequência sugerida de estudos

Cada módulo é um passo no seu aprendizado. Siga de cima para baixo, adaptando o ritmo à sua realidade.

  1. Etapa 2

    Pipelines de Dados

    Construção, orquestração e monitoramento de pipelines batch e streaming.

    Tópicos

    • ETL vs ELT
    • Orquestração (Airflow, Dagster ou similar)
    • Mensageria (Kafka, Pub/Sub, Kinesis)
    • Boas práticas de versionamento de dados
    • Estratégias de backfill e reprocessamento
    • Monitoramento de SLA/SLO de pipelines
    • Alertas para falhas e atrasos de jobs
  2. Etapa 4

    Arquitetura de Dados em Escala

    Design de plataformas de dados modernas.

    Tópicos

    • Data Lake e Data Warehouse
    • Data Lakehouse
    • Catálogo de dados e governança
    • Padrões de arquitetura orientada a dados
    • Domínios de dados e malha de dados (data mesh)
    • Evolução incremental de arquitetura
    • Integração com times de produto e analytics
  3. Etapa 5

    Qualidade, Testes e Observabilidade de Dados

    Garantindo qualidade e confiabilidade dos dados ao longo dos pipelines.

    Tópicos

    • Testes de schema e qualidade de dados
    • Data contracts entre times
    • Detectando anomalias e quedas de volume
    • Catálogo de datasets críticos
    • Reprocessamento seguro em caso de falhas
  4. Etapa 6

    Plataformas de Dados em Nuvem

    Aplicando os conceitos da trilha em um provedor específico (AWS, GCP ou Azure).

    Tópicos

    • Serviços de ingestão e mensageria no provedor escolhido
    • Serviços de armazenamento (objetos, data lake, warehouses)
    • Serviços gerenciados de orquestração e processamento
    • Integração com ferramentas de BI
    • Boas práticas de custo e segurança em dados

Como usar esta trilha

Esta página não é um curso completo. Ela só organiza, em ordem, temas que fazem sentido estudar se você quer se aprofundar nesse assunto.