AI会犯错误吗？
有句老话说：人都会犯错误。
好吧，如果人类会犯错误，而我们正在制造模仿人类大脑的“大脑”，那么没有什么比这些“大脑”也会犯错误更自然的了，对吧？
事实上，我们必须将这句话更新为“错误是人类和人工智能的错误”。
但说真的，发生的事情是这样的：
自动化不会犯错误。
当自动化犯错误时，那是因为它确实没有达到其目的。
发生了一些错误，发生了一些非常错误的事情。
这就像计算器犯了错误。
对于自动化来说漏掉账户是不应该发生的事情，如果发生了，那是因为存在非常严重的缺陷。
人工智能会犯错误，而且犯错误的方式要普遍得多。
在某种程度上，我们甚至可以希望它最终会发生。
因为当你进行思考练习时，它涉及到思考你不知道的事情。
这是一个不准确的练习。
还记得我提到的关于国际象棋的例子吗？
当棋盘上只剩下很少的棋子时，我们已经拥有可以映射所有可能的移动并且永远不会被击败的自动化。
在游戏的早期阶段，可能性如此之多，以至于我们无法映射和构建永远不会出错的自动化。
这样，我们就必须使用人脑，或者构建像人类一样思考的人工智能，并且不会扫描所有可能性，最终会犯某种错误，但仍然发挥创造性。
这足以产生良好的结果。
在井字棋中，故事是不同的。
井字棋是一种更简单的游戏。
在其中，我们成功地创建了一种永远不会被击败的自动化，因为它席卷了所有可能的可能性。
这些是传统计算机，它们精确。
复杂的问题，例如下棋或画狗，无法用这种精确度来解决，因为可能性是巨大的并且无法映射。
但当你构建人工智能时，也就是说，当你构建一台复制人类思维的机器时，就会发生一些有趣的事情。
它可以解决这些传统机器无法解决的问题，因为它以人类的方式思考。
但就像人脑一样，你也有纠正和避免人工智能错误的策略。
例如，当我们要求航空公司飞行员在起飞前检查剪贴板上的流程清单时，我们认识到人类可能会犯错误。
在这种情况下，剪贴板充当模拟自动化机制，帮助飞行员遵循所有必要的步骤，减少由于健忘或分心而出错的机会。
因此，我们不是简单地希望飞行员不会犯错误，而是创建了一个绕过人类认知限制的系统。
人工智能也必须这样做。
你不能指望人工智能不犯错误。
你所要做的就是采取减轻人工智能错误的方法和规避它们的策略，并预测它们将会发生。
无论是使用冗余、同行评审、自动化机制、培训、更有组织的系统、不易出错的环境、正确的人工智能选择，还是我们将在第 3 章详细讨论的其他几种技术和策略。