⚖️ データミラー

仕組み: バイアス - データミラー

ニューラル ネットワークは、膨大なテキスト内のパターンを数えることによって学習します。それらの中で「医者」が「彼」の隣に何百倍も立つ場合、モデルはこの関係を言語の事実として同化します。それはそれが「正しい」からではなく、データ内でそうであったからです。

したがって、AI のバイアスはデータの鏡であり、マシンの悪意ではありません。同じ影響が現実世界のシステムにも現れます。企業の過去の決定に基づいて訓練された採用ツールは、過去の偏見を繰り返します。トレーニングではそのような絵が多かったので、絵ジェネレーターは「リーダー」を男性として描きます。

それを使って行うこと: データのバランスをとり、モデルの公平性をテストし、ルールを追加します。そして、ユーザーとして覚えておくと役に立ちます。AI の自信を持った答えは真実ではなく、データの中で最も一般的なパターンです。確認と明確化はAIのスキルの一部です。無料レッスンで実践していただけます。