ai_function_* セッション設定

これらの設定は system.settings で確認でき、source から自動生成されています。

false (デフォルト) の場合、AI 関数は、プロンプトと API キーを暗号化されていない接続でリモートホストに送信する名前付きコレクションの endpoint の使用を拒否します。ホストがループバックでない HTTPS 以外のエンドポイントは、例外とともに拒否されます。ループバックエンドポイント (例: ローカルの http://localhost モデルサーバー) は常に許可されます。リモートホスト上の平文 http:// エンドポイントを許可するには、true に設定します。

呼び出し時にパラメータマップで credentials が渡されない場合に、埋め込み関数 (aiEmbed、aiSimilarity) が使用する 名前付きコレクション の名前です。空の場合はデフォルトがないことを意味し、そのような呼び出しでは credentials を明示的に渡す必要があります。これらの関数は model を必須の位置引数として受け取り、名前付きコレクション からは取得しません。埋め込み用のエンドポイントはチャット用のものとは異なるため、ai_function_text_default_credentials とは分けて管理されています。

埋め込み関数 (aiEmbed、aiSimilarity) が 1 回の HTTP リクエストに含められるテキストの最大数です。API 呼び出しのオーバーヘッドを減らすため、テキストはこのサイズのバッチにまとめられます。たとえば、一意なテキストが 500 件あり、バッチサイズが 100 の場合、HTTP リクエストは 5 回になります。

AI 関数が 1 クエリあたりに送信できる HTTP リクエストの最大数です。各サーバーおよびクエリフラグメントごとに個別に適用されます。1 つの実行コンテキスト内では、その中のすべての AI 関数、block、thread で共有される厳密な上限ですが、分散クエリ (分片または並列レプリカフラグメント間) では、分片/フラグメントごとにこの数までのリクエストを送信できます。最上位クエリで設定する必要があり、サブクエリの オーバーライド は無視されます。無効にするには 0 に設定します。

1 回のクエリ内で、すべての AI 関数の API 呼び出しにおける入力 (プロンプト) トークン総数の上限です。これはプロバイダのレスポンスに基づいて累積的に追跡されます。呼び出しの入力トークン数はレスポンスが到着するまでわからないため、この上限は処理中のリクエストごとに 1 回の呼び出し分の入力トークン数まで超過する可能性がある点に注意してください。他の AI クォータと同様に、これはサーバー / クエリフラグメントごとに適用され、分散クエリ全体で合算されることはありません。また、最上位クエリで設定する必要があり、サブクエリの SETTINGS オーバーライドは無視されます。無効にするには 0 に設定します。

この上限は、レスポンス内で usage オブジェクトを返すプロバイダ (OpenAI、Anthropic、vLLM) に対してのみ適用されます。トークン使用量を返さないプロバイダ (特に HuggingFace TEI) の場合、カウンターは 0 のままになるため、そのような呼び出しを制限するには代わりに ai_function_max_api_calls_per_query を使用してください。

1 つのクエリ内における、すべての AI 関数 API 呼び出し にまたがる出力 (補完) トークン の合計上限です。これはプロバイダからのレスポンスに基づいて累積的に追跡されます。呼び出しの出力 トークン 数はレスポンスが到着するまでわからないため、処理中のリクエストごとに 1 回の呼び出し分まで、この上限を超過する場合があります。他の AI クォータと同様に、これは server / クエリフラグメント ごとに適用され、分散クエリ全体で合算されることはありません。また、最上位クエリで設定する必要があり、サブクエリの オーバーライド は無視されます。無効にするには 0 に設定します。

この制限が適用されるのは、レスポンス内で usage オブジェクト を返すプロバイダ (OpenAI、Anthropic、vLLM) のみです。埋め込み関数 (aiEmbed、aiSimilarity) には適用されません。これらは出力 トークン を生成しないためです。

個々のAPIリクエストに対して、一時的なエラー発生時に行う再試行の最大回数です。各再試行では、ai_function_retry_initial_delay_ms を初期値とする指数バックオフを使用します。

AI 関数 (AI Chat の補完および埋め込み API 呼び出し) が行う個々の HTTP リクエストのタイムアウトを秒単位で指定します。リクエストがこの時間内に完了しない場合は失敗とみなされ、ai_function_max_retries に従って再試行されることがあります。

失敗した AI 関数の API リクエストを最初に再試行するまでの初期遅延を、ミリ秒単位で指定します。この遅延は、以降の試行ごとに 2 倍になります (指数バックオフ) 。たとえば、デフォルト設定では 1000ms、2000ms、4000ms です。

呼び出し時にパラメータマップで credentials が渡されない場合、テキスト AI 関数 (aiGenerate、aiClassify、aiFilter、aiExtract、aiTranslate、aiRedact) が使用する名前付きコレクションの名前です。空の場合はデフォルトがないことを意味し、そのような呼び出しでは credentials を明示的に渡す必要があります。chat-completions の エンドポイント は 埋め込み 用のものとは異なるため、これは ai_function_embedding_default_credentials とは別です。

true の場合 (デフォルト) 、再試行をすべて使い切っても AI 関数呼び出しが最終的に失敗すると、例外を発生させてクエリを中断します。false の場合、失敗した行にはカラム型のデフォルト値 (String の場合は空文字列) が設定され、処理は継続されます。

true (デフォルト) の場合、AI 関数のクォータ制限 (ai_function_max_input_tokens_per_query、ai_function_max_output_tokens_per_query、または ai_function_max_api_calls_per_query) を超えると、例外が発生してクエリは中止されます。false の場合、残りの行にはカラムの型のデフォルト値 (String の場合は空文字列) が設定されます。クォータ制限と同様に、これは最上位クエリで設定する必要があります。サブクエリの オーバーライド は無視されます。