故障和错误
有一句名言：人都会犯错。
既然我们已经开始在电子元件中复制部分人类推理，也许是时候更新这句格言了。
人都会犯错。这也是人工智能。
人工智能也会犯错误。而且你还会继续犯错误。
正如人会犯错误一样，人工智能代理也会犯错误。这不是一个细节。这是系统本质的一部分。
这里重要的一点是，成熟的经理不会基于他会找到一个从不犯错误的人的幻想来工作。
没有经验丰富的经理会在组建团队时期望每个员工都绝对完美。这从来都不是管理层的工作。
管理的工作就是处理不完美的事情。它是从不完美的系统中提取结果。就是减少出错的机会，减少错误的影响，并创建机制让某些错误不会通过。
与人相处时，我们总是这样做。
我们创建流程。我们创建评论。我们创建清单。我们创造裁员。我们创建双重批准。我们为更关键的任务创建验证。
在低风险活动中，我们接受更大的误差幅度。在高风险活动中，我们加强控制、监督和会议。
这就是我们与实习生、分析师、协调员、经理和董事打交道的方式。不是因为他们没有能力，而是因为所有人类工作都带有潜在的失败。
对于人工智能来说，逻辑是一样的。
你不需要一个永远不会犯错误的人工智能。你需要了解她是如何犯错误的，她在哪里犯错误，她犯错误的频率以及该错误的成本是多少。
从那里，您围绕它组装系统。
在某些情况下，这意味着让人工智能单独工作。在其他情况下，这意味着在响应之后放置自动验证。在其他情况下，这意味着有一个人进行审查。在其他情况下，这仅仅意味着在那个阶段不使用人工智能。
这是中心点。
问题不在于人工智能会犯错误。问题是你建立的系统不知道如何处理人工智能错误。
就像经理审查实习生在更敏感任务上的工作一样，您也可以为代理创建审查层。
这篇评论可能是：
- 自动化
- 其他 代理
- 系统规则
- 或 人类
这完全取决于所涉及的风险。
错误越严重，您对单层的信任就越少。 便宜且可逆错误，您可以给予的自主权就越多。
管理人意味着管理不完美的人。也管理人工智能。
逻辑没有改变。改变的是不完美的本质。
对于人类来说，错误可能来自于分心、疲劳、自我、仓促、恐惧、混乱或缺乏知识。在人工智能中，错误可能来自于缺乏背景、有偏见的模式、糟糕的解释、模型限制或简单的错误生成。
但是，在这两种情况下，管理层的反应是相似的。
你不能带着希望来对抗错误。您可以使用 process 来解决该错误。