AIは間違いを犯しますか？
古いことわざに、「間違いを犯すのは人間の常だ」というものがあります。
さて、間違いを犯すのが人間であり、私たちが人間の脳を模倣する「脳」を作っているのであれば、その「脳」も間違いを犯すことほど自然なことはありませんよね？
実際、「エラーは人間と AI のせい」という格言を更新する必要があります。
しかし真剣に、何が起こるかというと、次のようなことです。
自動化は間違いを犯しません。
自動化が間違いを犯すのは、その目的が本当に果たせていないからです。
何らかのバグが発生しました。何か非常に間違ったことが発生しました。
計算機が間違いを犯すようなものです。
自動化によってアカウントが見逃されることはあってはならないことであり、もしそれが起こっている場合、それは非常に重大な欠陥があるためです。
AI は間違いを犯しますが、より一般的な方法で間違いを犯します。
ある意味、最終的にはそうなることを期待することもできます。
なぜなら、考えるという練習をするときには、知らないことについて考える必要があるからです。
これは不正確さの練習です。
チェスについて私が述べた例を覚えていますか?
ボードに駒がほとんど残っていないときは、考えられるすべての動きをマッピングできる自動化機能がすでにあり、決して負けることはありません。
すでにゲームの初期段階では、可能性が多すぎるため、決して間違いを犯さない自動化をマッピングして構築することができません。
このようにして、私たちは人間の脳を使うか、人間のように考え、すべての可能性をスキャンするわけではなく、最終的には何らかの間違いを犯しますが、それでも創造的にプレーする AI を構築する必要があります。
そして、それは良い結果を生み出すのに十分です。
三目並べでは話は異なります。
三目並べはもっと単純なゲームです。
その中で、私たちはあらゆる可能性を網羅する、決して負けることのない自動化を作成することができました。
これらは 従来のコンピュータであり、正確です。
チェスをしたり、犬の絵を描いたりするような複雑な問題は、可能性が膨大でマッピングが不可能なため、これだけ正確に解決することはできません。
しかし、人工知能を構築するとき、つまり人間の思考を再現するマシンを構築するとき、何か興味深いことが起こります。
人間と同じように考えるため、従来の機械では解決できなかったこれらの問題を解決できます。
しかし、人間の脳と同じように、AI にもエラーを修正し回避するための戦術があります。
たとえば、航空会社のパイロットに、離陸前にクリップボードにあるプロセスのチェックリストを確認するよう依頼するとき、私たちは人間が間違いを犯す可能性があることを認識していることになります。
この場合、クリップボードはアナログ自動化メカニズムとして機能し、パイロットが必要なすべての手順を実行できるようにし、物忘れや注意散漫によるエラーの可能性を減らします。
そこで私たちは、パイロットが間違いをしないことをただ祈るのではなく、人間の認知の限界を回避するシステムを作成しました。
同じことをAIでも行う必要があります。
AI が間違いを犯さないことを期待することはできません。
あなたがしなければならないのは、AI エラーを軽減する方法と、それが起こることを予測して回避する戦術を採用することです。
冗長性、ピアレビュー、自動化メカニズム、トレーニング、より組織化されたシステム、エラーが発生しにくい環境、正しい AI の選択など、いくつかの技術や戦術を使用するかどうかは、第 3 章で詳しく説明します。