Lecciones: claves de depuración

Esta guía forma parte de una colección de conclusiones extraídas de encuentros de la comunidad. Para conocer más soluciones y aprendizajes prácticos, puede explorar por problema específico. ¿Tiene costos operativos elevados? Consulte la guía de la comunidad sobre Optimización de costos.

Tablas del sistema esenciales

Estas tablas del sistema son fundamentales para la depuración en entornos de producción:

system.errors

Muestra todos los errores activos en su instancia de ClickHouse.

SELECT name, value, changed 
FROM system.errors 
WHERE value > 0 
ORDER BY value DESC;

system.replicas

Contiene información sobre el retraso de replicación y el estado para supervisar el estado del clúster.

SELECT database, table, replica_name, absolute_delay, queue_size, inserts_in_queue
FROM system.replicas 
WHERE absolute_delay > 60
ORDER BY absolute_delay DESC;

system.replication_queue

Proporciona información detallada para diagnosticar problemas de replicación.

SELECT database, table, replica_name, position, type, create_time, last_exception
FROM system.replication_queue 
WHERE last_exception != ''
ORDER BY create_time DESC;

system.merges

Muestra las operaciones de merge en curso y permite identificar procesos atascados.

SELECT database, table, elapsed, progress, is_mutation, total_size_bytes_compressed
FROM system.merges 
ORDER BY elapsed DESC;

system.parts

Esencial para monitorizar el número de partes e identificar problemas de fragmentación.

SELECT database, table, count() as part_count
FROM system.parts 
WHERE active = 1
GROUP BY database, table
ORDER BY count() DESC;

Problemas habituales en producción

Problemas de espacio en disco

El agotamiento del espacio en disco en configuraciones replicadas genera problemas en cascada. Cuando un nodo se queda sin espacio, los demás nodos siguen intentando sincronizarse con él, lo que provoca picos de tráfico de red y síntomas confusos. Un miembro de la comunidad pasó 4 horas depurando un problema que en realidad era simplemente falta de espacio en disco. Consulta esta consulta para supervisar el almacenamiento en disco de un clúster concreto.

Si usas AWS, debes tener en cuenta que los volúmenes EBS de uso general predeterminados tienen un límite de 16 TB.

Error "Too many partes"

Las inserciones pequeñas y frecuentes provocan problemas de rendimiento. La comunidad ha identificado que las tasas de inserción superiores a 10 por segundo suelen desencadenar errores "Too many partes" porque ClickHouse no puede fusionar las partes con suficiente rapidez.

Soluciones:

Agrupe los datos en lotes con umbrales de 30 segundos o 200 MB
Habilite async_insert para agrupar automáticamente en lotes
Use tablas búfer para agrupar en lotes del lado del servidor
Configure Kafka para controlar el tamaño de los lotes

Recomendación oficial: mínimo 1.000 filas por inserción, idealmente entre 10.000 y 100.000.

Problemas con marcas de tiempo no válidas

Las aplicaciones que envían datos con marcas de tiempo arbitrarias generan problemas de partición. Esto da lugar a particiones con datos de fechas inverosímiles (como 1998 o 2050), lo que provoca un comportamiento de almacenamiento inesperado.

Riesgos de la operación `ALTER`

Las operaciones ALTER de gran tamaño en tablas de varios terabytes pueden consumir una cantidad considerable de recursos y, potencialmente, bloquear bases de datos. En un caso compartido por la comunidad, se cambió un Integer por un Float en 14 TB de datos, lo que bloqueó toda la base de datos y obligó a reconstruirla a partir de copias de seguridad.

Supervise las mutaciones costosas:

SELECT database, table, mutation_id, command, parts_to_do, is_done
FROM system.mutations 
WHERE is_done = 0;

Pruebe primero los cambios en el esquema con conjuntos de datos más pequeños.

Memoria y rendimiento

Agregación externa

Habilita la agregación externa para operaciones con un uso intensivo de memoria. Es más lenta, pero evita fallos por falta de memoria al volcar los datos en disco. Puedes hacerlo con max_bytes_before_external_group_by, lo que ayuda a evitar fallos por falta de memoria en operaciones GROUP BY de gran tamaño. Puedes obtener más información sobre esta configuración aquí.

SELECT 
    column1,
    column2,
    COUNT(*) as count,
    SUM(value) as total
FROM large_table
GROUP BY column1, column2
SETTINGS max_bytes_before_external_group_by = 1000000000; -- 1GB threshold

Detalles de async insert

Async insert agrupa automáticamente las inserciones pequeñas en lotes en el servidor para mejorar el rendimiento. Puede configurar si se debe esperar a que los datos se escriban en disco antes de devolver la confirmación; la devolución inmediata es más rápida, pero menos duradera. Las versiones modernas admiten deduplicación para gestionar datos duplicados dentro de los lotes.

Documentación relacionada

Seleccionar una estrategia de inserción

Configuración de la tabla distribuida

De forma predeterminada, las tablas distribuidas realizan las inserciones en un solo hilo. Habilita insert_distributed_sync para procesarlas en paralelo y enviar los datos de inmediato a los segmentos.

Supervisa la acumulación de datos temporales al usar tablas distribuidas.

Umbrales de monitorización del rendimiento

Umbrales de monitorización recomendados por la comunidad:

Partes por partición: preferiblemente, menos de 100
Inserciones retrasadas: deben mantenerse en cero
Tasa de inserción: limítela a alrededor de 1 por segundo para un rendimiento óptimo