A análise de séries temporais no ClickHouse pode ser feita com funções SQL padrão de agregação e funções de janela. Ao trabalhar com dados de séries temporais, você normalmente encontrará três tipos principais de métricas:
- Métricas do tipo Counter, que aumentam monotonicamente ao longo do tempo (como visualizações de página ou total de eventos)
- Métricas do tipo Gauge, que representam medições em um determinado momento e podem aumentar ou diminuir (como uso de CPU ou temperatura)
- Histogramas, que amostram observações e as contabilizam em buckets (como durações de requisição ou tamanhos de resposta)
Padrões comuns de análise dessas métricas incluem comparar valores entre períodos, calcular totais acumulados, determinar taxas de variação e analisar distribuições.
Tudo isso pode ser feito por meio de combinações de agregações, funções de janela como sum() OVER e funções especializadas como histogram().
Mudanças de um período para outro
Ao analisar dados de séries temporais, muitas vezes precisamos entender como os valores mudam entre diferentes períodos.
Isso é essencial tanto para métricas do tipo gauge quanto para métricas do tipo counter.
A função de janela lagInFrame nos permite acessar o valor do período anterior para calcular essas mudanças.
A consulta a seguir demonstra isso ao calcular as variações diárias nas visualizações da página de Wikipedia de "Weird Al" Yankovic. A coluna trend mostra se o tráfego aumentou (valores positivos) ou diminuiu (valores negativos) em relação ao dia anterior, ajudando a identificar picos ou quedas incomuns na atividade.
SELECT
toDate(time) AS day,
sum(hits) AS h,
lagInFrame(h) OVER (ROWS BETWEEN UNBOUNDED PRECEDING AND UNBOUNDED FOLLOWING) AS p,
h - p AS trend
FROM wikistat
WHERE path = '"Weird_Al"_Yankovic'
GROUP BY ALL
LIMIT 10;┌────────day─┬────h─┬────p─┬─trend─┐
│ 2015-05-01 │ 3934 │ 0 │ 3934 │
│ 2015-05-02 │ 3411 │ 3934 │ -523 │
│ 2015-05-03 │ 3195 │ 3411 │ -216 │
│ 2015-05-04 │ 3076 │ 3195 │ -119 │
│ 2015-05-05 │ 3450 │ 3076 │ 374 │
│ 2015-05-06 │ 3053 │ 3450 │ -397 │
│ 2015-05-07 │ 2890 │ 3053 │ -163 │
│ 2015-05-08 │ 3898 │ 2890 │ 1008 │
│ 2015-05-09 │ 3092 │ 3898 │ -806 │
│ 2015-05-10 │ 3508 │ 3092 │ 416 │
└────────────┴──────┴──────┴───────┘Valores cumulativos
As métricas do tipo Counter se acumulam naturalmente ao longo do tempo. Para analisar esse crescimento cumulativo, podemos calcular totais acumulados usando funções de janela.
A consulta a seguir demonstra isso usando a cláusula sum() OVER, que cria um total acumulado. A função bar() fornece uma representação visual desse crescimento.
SELECT
toDate(time) AS day,
sum(hits) AS h,
sum(h) OVER (ROWS BETWEEN UNBOUNDED PRECEDING AND 0 FOLLOWING) AS c,
bar(c, 0, 50000, 25) AS b
FROM wikistat
WHERE path = '"Weird_Al"_Yankovic'
GROUP BY ALL
ORDER BY day
LIMIT 10;┌────────day─┬────h─┬─────c─┬─b─────────────────┐
│ 2015-05-01 │ 3934 │ 3934 │ █▉ │
│ 2015-05-02 │ 3411 │ 7345 │ ███▋ │
│ 2015-05-03 │ 3195 │ 10540 │ █████▎ │
│ 2015-05-04 │ 3076 │ 13616 │ ██████▊ │
│ 2015-05-05 │ 3450 │ 17066 │ ████████▌ │
│ 2015-05-06 │ 3053 │ 20119 │ ██████████ │
│ 2015-05-07 │ 2890 │ 23009 │ ███████████▌ │
│ 2015-05-08 │ 3898 │ 26907 │ █████████████▍ │
│ 2015-05-09 │ 3092 │ 29999 │ ██████████████▉ │
│ 2015-05-10 │ 3508 │ 33507 │ ████████████████▊ │
└────────────┴──────┴───────┴───────────────────┘Cálculos de taxa
Ao analisar séries temporais, muitas vezes é útil entender a taxa de eventos por unidade de tempo. Esta consulta calcula a taxa de visualizações de página por segundo dividindo os totais por hora pelo número de segundos em uma hora (3.600). O gráfico de barras ajuda a identificar os horários de pico de atividade.
SELECT
toStartOfHour(time) AS time,
sum(hits) AS hits,
round(hits / (60 * 60), 2) AS rate,
bar(rate * 10, 0, max(rate * 10) OVER (), 25) AS b
FROM wikistat
WHERE path = '"Weird_Al"_Yankovic'
GROUP BY time
LIMIT 10;┌────────────────time─┬───h─┬─rate─┬─b─────┐
│ 2015-07-01 01:00:00 │ 143 │ 0.04 │ █▊ │
│ 2015-07-01 02:00:00 │ 170 │ 0.05 │ ██▏ │
│ 2015-07-01 03:00:00 │ 148 │ 0.04 │ █▊ │
│ 2015-07-01 04:00:00 │ 190 │ 0.05 │ ██▏ │
│ 2015-07-01 05:00:00 │ 253 │ 0.07 │ ███▏ │
│ 2015-07-01 06:00:00 │ 233 │ 0.06 │ ██▋ │
│ 2015-07-01 07:00:00 │ 359 │ 0.1 │ ████▍ │
│ 2015-07-01 08:00:00 │ 190 │ 0.05 │ ██▏ │
│ 2015-07-01 09:00:00 │ 121 │ 0.03 │ █▎ │
│ 2015-07-01 10:00:00 │ 70 │ 0.02 │ ▉ │
└─────────────────────┴─────┴──────┴───────┘Histogramas
Um caso de uso comum de dados de séries temporais é criar histogramas com base em eventos rastreados.
Suponha que quiséssemos entender a distribuição das páginas com base no total de hits, incluindo apenas as páginas com mais de 10.000 hits.
Podemos usar a função histogram() para gerar automaticamente um histograma adaptativo com base no número de intervalos:
SELECT
histogram(10)(hits) AS hist
FROM
(
SELECT
path,
sum(hits) AS hits
FROM wikistat
WHERE date(time) = '2015-06-15'
GROUP BY path
HAVING hits > 10000
)
FORMAT Vertical;Row 1:
──────
hist: [(10033,23224.55065359477,60.625),(23224.55065359477,37855.38888888889,15.625),(37855.38888888889,52913.5,3.5),(52913.5,69438,1.25),(69438,83102.16666666666,1.25),(83102.16666666666,94267.66666666666,2.5),(94267.66666666666,116778,1.25),(116778,186175.75,1.125),(186175.75,946963.25,1.75),(946963.25,1655250,1.125)]Podemos então usar arrayJoin() para ajustar os dados e bar() para visualizá-los:
WITH histogram(10)(hits) AS hist
SELECT
round(arrayJoin(hist).1) AS lowerBound,
round(arrayJoin(hist).2) AS upperBound,
arrayJoin(hist).3 AS count,
bar(count, 0, max(count) OVER (), 20) AS b
FROM
(
SELECT
path,
sum(hits) AS hits
FROM wikistat
WHERE date(time) = '2015-06-15'
GROUP BY path
HAVING hits > 10000
);┌─lowerBound─┬─upperBound─┬──count─┬─b────────────────────┐
│ 10033 │ 19886 │ 53.375 │ ████████████████████ │
│ 19886 │ 31515 │ 18.625 │ ██████▉ │
│ 31515 │ 43518 │ 6.375 │ ██▍ │
│ 43518 │ 55647 │ 1.625 │ ▌ │
│ 55647 │ 73602 │ 1.375 │ ▌ │
│ 73602 │ 92880 │ 3.25 │ █▏ │
│ 92880 │ 116778 │ 1.375 │ ▌ │
│ 116778 │ 186176 │ 1.125 │ ▍ │
│ 186176 │ 946963 │ 1.75 │ ▋ │
│ 946963 │ 1655250 │ 1.125 │ ▍ │
└────────────┴────────────┴────────┴──────────────────────┘