Schema Avro: Uma Introdução ao Sistema de Serialização de Dados

O que é Schema Avro?
Avro é uma especificação para formato de dados mantida pelo grupo Apache. Ele tem muitas utilidades e a principal e mais utilizada com Apache Kafka® é a Schema Resolution. Nos exemplos anteriores, na Versão 2 foi incluído um campo chamado metadados , ele é requerido porque não define um valor padrão.
Aprender mais sobre blog.kafkabr.com

Schema Avro é um sistema de serialização de dados que é usado para representar estruturas de dados em um formato compacto, eficiente e portátil. É um projeto de código aberto que é mantido pela Apache Software Foundation e é amplamente utilizado em sistemas de processamento de big data, como Apache Hadoop, Apache Kafka e Apache Spark.

Em sua essência, o Schema Avro é um sistema de serialização de dados independente de linguagem que pode ser usado para serializar e desserializar dados em várias linguagens de programação. Ele foi projetado para ser leve e eficiente, tornando-o ideal para uso em sistemas distribuídos onde o desempenho e a escalabilidade são críticos.

Uma das principais características do Schema Avro é o suporte à evolução do esquema. Isso significa que podem ser feitas alterações no esquema de uma estrutura de dados sem quebrar a compatibilidade com os sistemas existentes que usam o esquema antigo. Isto é conseguido através da utilização de regras de resolução de esquemas que permitem a adição de novos campos e a remoção ou renomeação de campos antigos sem afectar a compatibilidade dos dados.

O Schema Avro também suporta uma vasta gama de tipos de dados, incluindo tipos primitivos como inteiros, flutuantes e booleanos, bem como tipos complexos como matrizes, mapas e registos. Também suporta a utilização de tipos de dados personalizados, que podem ser definidos através de um esquema JSON.

Para além do seu suporte para a evolução de esquemas e da sua vasta gama de tipos de dados, o Schema Avro também oferece uma série de outras funcionalidades que o tornam uma escolha popular para o processamento de grandes volumes de dados. Isso inclui seu suporte para compressão eficiente, sua capacidade de serializar dados em um formato binário compacto e seu suporte para chamadas de procedimento remoto (RPCs) através do uso do Avro IDL.

No geral, o Schema Avro é um sistema de serialização de dados poderoso e flexível que se adapta bem às necessidades dos sistemas de processamento de grandes volumes de dados. O seu suporte para a evolução do esquema, a vasta gama de tipos de dados e a serialização e compressão eficientes fazem dele uma escolha popular para programadores e cientistas de dados que trabalham com sistemas de processamento de dados em grande escala.

FAQ