query() には 2 つのモデル選択モードがあります:
- 固定モデル(デフォルト):セッション全体で 1 つのモデルを使用します。
- 動的選択:LLM リクエストごとにコールバック関数を呼び出してモデルを返します。用途(メイン会話、サブエージェント、コンテキスト圧縮など)に応じて異なるモデルにルーティングしたり、BYOK 認証情報を返して自分の API キーを使うことができます。
固定モデル
モデルオプションで指定します。省略するとアカウントのデフォルトが使われます:
動的選択
LLM リクエストごとに呼び出されるコールバック関数を提供します:
用途別のルーティング
用途ごとに異なるモデルを使用します:
モデルパラメータを返す
選択したモデルと一緒に parameters を返すと、この LLM リクエストのコンテキストウィンドウと思考の深さを上書きできます。これらのキーは SDK 制御境界では camelCase です:
availableModels を通じて ModelInfo.context_config と ModelInfo.thinking_config に公開されます。
タイムアウト
コールバックにはデフォルトのタイムアウト(ミリ秒単位)があります。コールバックがリモート I/O を行う場合は緩和できます:
BYOK:自分の API キーを使用
コールバックは BYOK 認証情報オブジェクトを返すこともできます——このリクエストはサードパーティのプロバイダーにルーティングされます。
この機能を使用する前に、アカウントに BYOK 権限があることを確認してください。