system.tokenizers

View as MarkdownEdit this pageReport an issueSet up docs MCP

説明

利用可能なすべてのトークナイザーを表示します。これらは、tokens、hasAllTokens、hasAnyTokens の各関数、およびテキスト索引で使用できます。

カラム

name (String) — トークナイザー名

例

SELECT * FROM system.tokenizers;

┌─name────────────┐
│ ngrams          │
│ splitByNonAlpha │
│ sparseGrams     │
│ tokenbf_v1      │
│ ngrambf_v1      │
│ array           │
│ splitByString   │
│ sparse_grams    │
│ asciiCJK        │
│ icu             │
│ japanese        │
└─────────────────┘