偏见和成见
人类不会以中立的方式看待世界。
在不同的文化中，不同的身体特征被视为美丽、地位或价值的标志。
在埃塞俄比亚的博迪部落，有一种仪式，叫做Ka’el。在其中，男性竞相获得尽可能最大的身体体积。
几个月来，他们遵循特定的饮食来增加体重。肚子越大，威望就越大。
在那里，在许多文化中被视为过度的东西被视为美丽和地位。
在东南亚的 Kayan Lahwi 人中，还有另一种模式。
女性从小就在脖子上戴金属环。随着时间的推移，这些环会产生更长的脖子的外观。
这种伸展与美丽和文化认同相关。
另一个历史例子来自中国，即缠足的习俗。
女孩们的脚在很小的时候就被绷带以防止自然生长。目的是保持小脚，被认为更精致和有吸引力。
这导致永久变形。但是，在这种背景下，它被视为美丽。
这里的要点很简单。
这些模式并不是凭空出现的。随着时间的推移，它们被教授、重复并强化。
在这种环境下长大的孩子会认为这是“自然的”。
这就是偏见的形成方式。
对于人工智能代理来说，逻辑是相似的。
人工智能代理从人类产生的数据中学习。换句话说，他们从已经带有人类解释、扭曲和标准的内容中了解世界。
因此，人工智能代理也带有偏见。
这些偏见并非来自感觉。人工智能代理不会感觉，不会偏好，也不会选择。
但它们复制习得的模式。
这些标准可能存在偏见。
这里的教训是不要试图完全消除偏见。
这甚至不会发生在人类身上。
当您雇用员工时，您无法保证他们没有任何偏见。你要做的就是创建一个系统，让这些偏见无法显现出来。
你定义文化。定义规则。为行为设定明确的限制。
例如，你无法完全控制一个人的想法。但它可以明确表明某些行为，例如种族主义，在组织内是不可接受的。
换句话说，你不相信这个人没有偏见。您相信系统可以防止这种偏见产生影响。
对于人工智能代理来说，逻辑是相同的。
您无需保证代理没有偏见。您需要建立一个不受偏见影响的系统。