メインコンテンツへスキップ

Documentation Index

Fetch the complete documentation index at: https://docs.qoder.com/llms.txt

Use this file to discover all available pages before exploring further.

AIはコンテキストウィンドウ(短期記憶)を使用して会話を追跡します。最新のメッセージと、このウィンドウに収まる以前のメッセージを処理します。ウィンドウのサイズはトークン数で測定される固定値です。チャットが長くなるほど、各メッセージで使用されるトークン数が増えます。

仕組み

Qoderのスマートコンテキストコントロールは、会話のコンテキストウィンドウを可視化し、詳細度、パフォーマンス、コストのバランスを取るのに役立ちます。 システムは継続的にトークン使用量を監視します。会話が閾値(通常は最大コンテキストウィンドウの40%以上)に達すると、Qoderは2つのインテリジェントなアクションを提示します:

チャットを圧縮

  • 会話全体を要約し、重要なロジック、決定事項、コードを保持した簡潔で濃密なコンテキストにします。
  • 今後のトークン消費を大幅に削減します。
  • 注意:これは_非可逆圧縮_です。効率化のため、細かい詳細が一般化されたり省略されたりする場合があります。

新規チャット

  • 空のコンテキストウィンドウで新しいチャットを開始します。
  • まったく無関係なタスクに切り替える際に最適です。無関係な履歴がトークン使用量を増やしたり、モデルを混乱させたりするのを防ぎます。
品質を保護するため、スマートコンテキストコントロールは2つのシナリオで無効になります
  • 会話の初期段階(トークンの節約効果が小さい場合)。
  • AIが応答を生成している間(出力の中断や破損を避けるため)。