偏見と偏見
人間は世界を中立な方法で見ているわけではありません。
文化が異なれば、さまざまな身体的特徴が美しさ、ステータス、または価値のしるしとみなされてきました。
エチオピアのボディ族にはカエルと呼ばれる儀式があります。この競技では、男性が可能な限り 最大の体積 を達成するために競い合います。
彼らは数か月間、体重を増やすために特定の食事療法を続けます。お腹が大きいほど名声も高くなります。
そこでは、多くの文化では過剰と見なされるものが、美と地位として見なされます。
東南アジアのカヤン・ラウィ族の中には、別のパターンもあります。
女性は若い頃から金属の指輪を首に掛けています。時間が経つにつれて、これらのリングは 首が長く見えるようになります。
このストレッチは美しさと文化的アイデンティティに関連しています。
もう 1 つの歴史的な例は、纏足の習慣であり、中国からもたらされています。
女の子は自然な成長を防ぐために、幼い頃から足に包帯を巻いていました。目的は、繊細で魅力的であると考えられる小さな足を維持することでした。
これにより 永久的な変形が発生しました。しかし、その文脈の中でそれは美しさとして見られました。
ここでのポイントは簡単です。
これらのパターンはどこからともなく現れるものではありません。それらは、時間をかけて教え、繰り返し、強化されます。
このような状況で育った子供は、それが自然であると考えるようになります。
これがバイアスが形成される仕組みです。
AI エージェントの場合もロジックは同様です。
AI エージェントは人間が生成した データ から学習します。言い換えれば、彼らは、人間の 解釈、歪み*、標準がすでに含まれているコンテンツから世界について学びます。
したがって、AI エージェントも バイアス を抱えています。
こうした偏見は感情から来るものではありません。 AI エージェントは感じません、好みもしません。
しかし、それらは学習したパターンを再現します。
そして、これらの基準には偏りがある可能性があります。
ここでの教訓は、偏見を完全に排除しようとすることではないということです。
これは人間でも起こりません。
従業員を雇用する場合、その従業員が偏見を持たないことを保証することはできません。あなたがすることは、これらの偏見が現れないシステムを作成することです。
文化を定義するのはあなたです。 ルールを定義します。行動に対して明確な制限を設定します。
たとえば、人の考えを完全にコントロールすることはできません。しかし、人種差別などの特定の行為が組織内で受け入れられないことが明確になる可能性があります。
言い換えれば、あなたはその人に偏見がないことを信頼していないのです。あなたは、この偏見の影響を防ぐシステムを信頼しています。
AI エージェントの場合もロジックは同じです。
エージェントに偏見がないことを保証する必要はありません。 偏見に影響されないシステムを構築する必要があります。