AI ビジョンの限界と検証

視覚のある AI は真実を「撮影」するのではなく、最も可能性の高いものを想定します。鮮明な写真では、これはほとんどの場合当てはまりますが、ぼやけたり、ぎらぎらしたり、切り取られた領域では、モデルはもっともらしいことを完璧に実行します。つまり、3 と 8 を混同し、そこに存在しないテキストを読み取り、自信を持って間違ったブランドの名前を付けます。そして、その口調は正しい答えと同じくらい自信に満ちています - これが主な罠です。テスト手法: 読み取りと解釈を分離します。まず AI に、見たもの (たとえば、カウンターの各桁を順番に) を逐語的に書き換えるように依頼し、解釈を別々に書き換えるように依頼します。 「既読」と「結論」の間に矛盾がある場合は危険信号です。 2 番目のテクニック: 彼は、判読できないものを推測ではなく「不明」としてマークし、各断片にどの程度自信があるかを示すように直接指示されました。隠しレバー: 争点となっている領域を別の角度またはより大きな角度から再撮影し、2 つの答えを比較します。安定した一致は、1 つの自信のある一致よりも信頼性が高くなります。典型的な新人の間違い：スムーズで自信に満ちた答えを事実として受け取り、AI に曖昧な数字をフィクションで埋めてもらうことです。