注意力、文脈、思考の深さ
映画 ソーシャル ネットワークでは、マーク ザッカーバーグの登場人物が弁護士に会話に注意を払っていたかどうか尋ねられるシーンがあります。
彼は、「はい、注意を払っていましたが、100%ではありませんでした。この会話には十分です。」のような答えをします。
このシーンは、私たち全員が日常的に経験していることを示しています。すべての作業に最大限の精神的能力が必要なわけではありません。
注意力の一部で解決できる単純なタスクと、全体的な集中力が必要な複雑なタスクがあります。
AIは常に注意を払っているため、違いはここから始まりますが、パラメータが異なります。
人間の場合は、気が散ってしまうという追加の要因があります。
私たちはタスクを変更したり、行っていることを中断したりしますが、このコンテキストの切り替えにはコストがかかります。
AI は気が散ることはなく、タスクを自動的に切り替えることもありません。
そして、AIのタスクスイッチングには、人間の場合と同じ注意スイッチングコストがかかりません。
人間が中断後に完全な集中力を取り戻すには 数分かかると推定されています。
それは単に注意力の問題ではなく、思考の継続の問題です。
AI にタスクを与えると、その時点で、利用可能なすべての容量が使用されます。
しかし、それはすべての AI の「思考」が同じ深さを持っているという意味ではありません。
AI の思考には 2 つのタイプが考えられます。
- 浅い考え: 簡単な答え、ほとんど詳しく説明せず、表面的な分析。
- 深い考え: 詳細でよく構造化された、より発展的な回答。
この深さを決定するのは、AI モデルの知能だけでなく、AI が考慮できる情報の量と、推論を展開するために必要なスペースの量という 2 つの要素でもあります。
ここで、コンテキストとトークンという 2 つの重要な概念が登場します。
AI は「コンテキスト ウィンドウ」を使用して動作します。これは、その時点で AI の「頭」に収まるすべてのものです: あなたが尋ねた質問、あなたが与えた指示、会話履歴、あなたが提供した文書。
これらはすべてスペースを占有し、そのスペースは限られています。
この制限は、AI が情報を処理するために使用するテキストの部分である トークン で測定されます。
言い換えれば、トークンは利用可能なスペースを表し、コンテキストはこのスペースがどのように使用されるかを表します。
ここで、マネージャーとして最も重要な点は、AI を使用するとき、インテリジェンス を選択するだけではないということです。
また、実際には、AI が「考える」ためにどれだけのスペースを必要とするか、そして AI が答えをどれだけ開発するかを決定することになります。
「思考」を購入しているようなものです。
多くの単純なタスクを簡単に答えて実行することも、より深く、より複雑な答えに投資することもできます。
2 つの例について考えてみましょう。
- 簡単なタスク: 顧客のフィードバックが肯定的か否定的かを分類します。
これは複雑さの低いタスクです。
この場合、非常にインテリジェントなモデルも、多くのコンテキストも、長い回答も必要ありません。
- 複雑なタスク: 法的、財務的、または運営上の戦略の分析。
ここでは、より多くのコンテキスト、より詳細な説明、推論のためのより多くの余地が必要です。
深さは問題の複雑さに一致する必要があります。
ただし、複雑なタスクであっても、常に注意を払って非常にインテリジェントな単一のエージェントを使用することが最善の解決策であるとは限りません。
多くの場合、本書の後半で説明するように、複数のエージェント間でタスクを分割し、学際的な AI チームを編成する方が効率的である可能性があります。
それは、頭が 1 つよりも 2 つ（または複数）の方が優れているという考えです。
ここに重要な戦略的ポイントがあります。
社内のすべての職務に医師を雇用するだけではないのと同じように、すべてのタスクに常に最も高価なインテリジェンスを使用する必要があるわけでもありません。
多くの場合、特定のタスクにはコンテキストが少なく、より単純なインテリジェンスを使用し、重要なタスクにはより多くのコンテキストと詳細を備えたより高度なインテリジェンスを予約できます。
これは 最適化 ゲームです。
コスト、品質、スピードのバランスをとることになりますが、これはプロセスによって大きく異なります。
定期的なタスクでは、テスト、測定、最適化を行うことができます。
どのレベルのインテリジェンスを使用するか、どの程度のコンテキストを提供するか、どの程度の応答開発が必要かを把握し、時間をかけて調整できます。
単一のルールはありません。
それは練習、テスト、調整です。
もう 1 つの重要な点は、最も高価な AI であっても、多くの状況において、人間のコストと比較すると依然として非常に安価であるということです。
しかし、AIがまだ人間に取って代わらない業務もあります。
したがって、一定のルールを見つけようとするよりも、メンタルモデルを理解することが重要です。
あなたはインテリジェンス、コンテキスト、思考の深さを考慮して仕事をしており、マネージャーとしての役割は、これらの要素を可能な限り効率的に調整することです。
水の流れを管理するものだと考えてください。
水の質 (知能レベル) と水の量 (トークン、思考のためのスペース) が異なります。
あなたの使命は、各タスクに適切な水を適切な量で供給することです。
場合によっては、平均的な品質の大量の水 (平均的な AI からの多数のトークン) が必要になることがあります。
また、少量の水が必要ですが、高純度の水 (高度な AI からのトークンがほとんどない) が必要な場合もあります。
そして場合によっては、大量の高品質の水（高度なAIからの大量のトークン）が必要になります。
その秘訣は、各タスクのニーズを理解し、リソースを戦略的に割り当てることです。