system.tokenizers

View as MarkdownEdit this pageReport an issueSet up docs MCP

Descripción

Muestra todos los tokenizadores disponibles. Se pueden usar en las funciones tokens, hasAllTokens, hasAnyTokens y en el índice de texto.

Columnas

name (String) — Nombre del tokenizador

Ejemplo

SELECT * FROM system.tokenizers;

┌─name────────────┐
│ ngrams          │
│ splitByNonAlpha │
│ sparseGrams     │
│ tokenbf_v1      │
│ ngrambf_v1      │
│ array           │
│ splitByString   │
│ sparse_grams    │
│ asciiCJK        │
│ icu             │
│ japanese        │
└─────────────────┘