仕組み
Qoderのスマートコンテキストコントロールは、会話のコンテキストウィンドウを可視化し、詳細度、パフォーマンス、コストのバランスを取るのに役立ちます。 システムは継続的にトークン使用量を監視します。会話が閾値(通常は最大コンテキストウィンドウの40%以上)に達すると、Qoderは2つのインテリジェントなアクションを提示します:チャットを圧縮
- 会話全体を要約し、重要なロジック、決定事項、コードを保持した簡潔で濃密なコンテキストにします。
- 今後のトークン消費を大幅に削減します。
- 注意:これは_非可逆圧縮_です。効率化のため、細かい詳細が一般化されたり省略されたりする場合があります。
新規チャット
- 空のコンテキストウィンドウで新しいチャットを開始します。
- まったく無関係なタスクに切り替える際に最適です。無関係な履歴がトークン使用量を増やしたり、モデルを混乱させたりするのを防ぎます。
品質を保護するため、スマートコンテキストコントロールは2つのシナリオで無効になります:
- 会話の初期段階(トークンの節約効果が小さい場合)。
- AIが応答を生成している間(出力の中断や破損を避けるため)。