system.tokenizers

View as MarkdownEdit this pageReport an issueSet up docs MCP

Descrição

Exibe todos os tokenizadores disponíveis. Eles podem ser usados nas funções tokens, hasAllTokens, hasAnyTokens e no índice de texto.

Colunas

name (String) — Nome do tokenizador

Exemplo

SELECT * FROM system.tokenizers;

┌─name────────────┐
│ ngrams          │
│ splitByNonAlpha │
│ sparseGrams     │
│ tokenbf_v1      │
│ ngrambf_v1      │
│ array           │
│ splitByString   │
│ sparse_grams    │
│ asciiCJK        │
│ icu             │
│ japanese        │
└─────────────────┘