Ingestão de dados do MySQL para o ClickHouse (usando CDC)

O ClickPipe do MySQL oferece uma maneira totalmente gerenciada e resiliente de fazer a ingestão de dados de bancos de dados MySQL e MariaDB para o ClickHouse Cloud. Ele oferece suporte tanto a carga em massa para ingestão única quanto a Change Data Capture (CDC) para ingestão contínua.

Os ClickPipes do MySQL podem ser implantados e gerenciados manualmente usando a UI do ClickPipes, bem como de forma programática usando OpenAPI e Terraform.

Para começar, primeiro você precisa garantir que seu banco de dados MySQL esteja configurado corretamente para replicação de binlog. As etapas de configuração dependem de como o MySQL está implantado, portanto siga o guia apropriado abaixo:

Depois que o banco de dados MySQL de origem estiver configurado, você poderá continuar criando seu ClickPipe.

Certifique-se de estar conectado à sua conta do ClickHouse Cloud. Se você ainda não tem uma conta, pode se cadastrar aqui.

1. No console do ClickHouse Cloud, acesse seu serviço do ClickHouse Cloud.

2. Selecione o botão Data Sources no menu lateral esquerdo e clique em "Set up a ClickPipe"

3. Selecione o bloco MySQL CDC

4. Preencha os detalhes da conexão com o banco de dados MySQL de origem que você configurou na etapa de pré-requisitos.

Por padrão, seu ClickPipe será criado com TLS habilitado e verificação de certificados. Essas configurações padrão podem ser alteradas durante a criação do ClickPipe:

Ou editadas na seção Connection settings da aba Settings do seu ClickPipe pausado:

Onde:

• Disable TLS ativa ou desativa o TLS para a conexão. Desativar o TLS significa que os dados são enviados em texto simples pela rede, potencialmente incluindo credenciais e dados sensíveis.
• Skip certificate verification ativa ou desativa a verificação do certificado apresentado pelo banco de dados de origem. Leve em consideração as implicações de segurança de ignorar a verificação de certificados.
• TLS Host (opcional, usa o Host de origem por padrão) é o hostname ao qual o CN do certificado deve corresponder quando a verificação de certificados está habilitada.
• Upload CA pode ser usado para fornecer uma CA a ser utilizada quando a verificação de certificados estiver habilitada.

Você pode especificar os detalhes do túnel SSH se o seu banco de dados MySQL de origem não estiver acessível publicamente.

1. Ative a opção "Usar túnel SSH".

2. Preencha os detalhes da conexão SSH.

   

3. Para usar autenticação por chave, clique em "Revogar e gerar par de chaves" para gerar um novo par de chaves e copie a chave pública gerada para o seu servidor SSH em ~/.ssh/authorized_keys.

4. Clique em "Verificar conexão" para verificar a conexão.

Depois de preencher os detalhes da conexão, clique em Próximo.

Você pode configurar as opções avançadas, se necessário. Uma breve descrição de cada configuração é apresentada abaixo:

• Intervalo de sincronização: Este é o intervalo em que o ClickPipes consultará o banco de dados de origem em busca de alterações. Isso afeta o serviço ClickHouse de destino; para usuários que precisam controlar custos, recomendamos manter esse valor mais alto (acima de 3600).
• Threads paralelas para a carga inicial: Este é o número de workers paralelos que serão usados para buscar o snapshot inicial. Isso é útil quando você tem um grande número de tabelas e quer controlar a quantidade de workers paralelos usados para buscar o snapshot inicial. Essa configuração é por tabela.
• Tamanho do lote de extração: O número de linhas a serem buscadas em um único lote. Esta é uma configuração de melhor esforço e pode não ser seguida em todos os casos.
• Número de linhas por partição no snapshot: Este é o número de linhas que serão buscadas em cada partição durante o snapshot inicial. Isso é útil quando você tem um grande número de linhas em suas tabelas e quer controlar o número de linhas buscadas em cada partição.
• Número de tabelas em paralelo no snapshot: Este é o número de tabelas que serão buscadas em paralelo durante o snapshot inicial. Isso é útil quando você tem um grande número de tabelas e quer controlar o número de tabelas buscadas em paralelo.
• ID do servidor: Parâmetro opcional para definir o ID do servidor para a replicação do binlog do MySQL. Se não for definido, o ClickPipes gerará um ID de servidor aleatório que pode mudar ao longo do ciclo de vida do ClickPipe. Use-o para identificar seu ClickPipe de forma determinística no lado do servidor MySQL de origem.

5. Aqui, você pode selecionar o banco de dados de destino do seu ClickPipe. Você pode escolher um banco de dados existente ou criar um novo.

   

6. Você pode selecionar as tabelas do banco de dados MySQL de origem que deseja replicar. Ao selecionar as tabelas, você também pode optar por renomeá-las no banco de dados ClickHouse de destino, bem como excluir colunas específicas.

7. Além disso, você pode fornecer uma expressão personalizada PARTITION BY <expr> para controlar o particionamento da tabela de destino do ClickHouse.

   

8. Selecione a função "Full access" no menu suspenso de permissões e clique em "Complete Setup".

   

Por fim, consulte a página "FAQ do ClickPipes para MySQL" para mais informações sobre problemas comuns e como resolvê-los.

Depois de configurar seu ClickPipe para replicar dados do MySQL para o ClickHouse Cloud, você pode se concentrar em como consultar e modelar seus dados para obter o melhor desempenho. Para dúvidas comuns sobre MySQL CDC e solução de problemas, consulte a página de FAQs do MySQL.