AIはコンテキストウィンドウ(短期記憶)を使用して会話を追跡します。最新のメッセージと、このウィンドウに収まる以前のメッセージを処理します。ウィンドウのサイズはトークン数で測定される固定値です。チャットが長くなるほど、各メッセージで使用されるトークン数が増えます。Documentation Index
Fetch the complete documentation index at: https://docs.qoder.com/llms.txt
Use this file to discover all available pages before exploring further.
仕組み
Qoderのスマートコンテキストコントロールは、会話のコンテキストウィンドウを可視化し、詳細度、パフォーマンス、コストのバランスを取るのに役立ちます。 システムは継続的にトークン使用量を監視します。会話が閾値(通常は最大コンテキストウィンドウの40%以上)に達すると、Qoderは2つのインテリジェントなアクションを提示します:チャットを圧縮
- 会話全体を要約し、重要なロジック、決定事項、コードを保持した簡潔で濃密なコンテキストにします。
- 今後のトークン消費を大幅に削減します。
- 注意:これは_非可逆圧縮_です。効率化のため、細かい詳細が一般化されたり省略されたりする場合があります。
新規チャット
- 空のコンテキストウィンドウで新しいチャットを開始します。
- まったく無関係なタスクに切り替える際に最適です。無関係な履歴がトークン使用量を増やしたり、モデルを混乱させたりするのを防ぎます。
品質を保護するため、スマートコンテキストコントロールは2つのシナリオで無効になります:
- 会話の初期段階(トークンの節約効果が小さい場合)。
- AIが応答を生成している間(出力の中断や破損を避けるため)。