एआई विज़न सीमाएँ और सत्यापन

दृष्टिबाधित एआई सत्य की "तस्वीर" नहीं लेता - यह सबसे संभावित मान लेता है। एक स्पष्ट तस्वीर में यह लगभग हमेशा सच होता है, लेकिन धुंधले, चमकदार या कटे हुए क्षेत्र में, मॉडल वह पूरा करता है जो प्रशंसनीय है: यह 3 और 8 को भ्रमित करता है, जो पाठ वहां नहीं है उसे पढ़ता है, और आत्मविश्वास से गलत ब्रांड का नाम बताता है। और लहजा उतना ही आश्वस्त है जितना सही उत्तर के साथ - यही मुख्य जाल है। परीक्षण तकनीक: अलग पढ़ना और व्याख्या। एआई से पहले उसे शब्दशः फिर से लिखने के लिए कहें जो वह देखता है (उदाहरण के लिए, काउंटर का प्रत्येक अंक क्रम में), और अलग से - व्याख्या। "पढ़ें" और "निष्कर्ष" के बीच विसंगति एक खतरे का संकेत है। दूसरी तकनीक: उन्हें सीधे निर्देश दिया गया था कि अपठनीय को अनुमान लगाने के बजाय "अज्ञात" के रूप में चिह्नित करें, और यह इंगित करें कि वह प्रत्येक टुकड़े में कितना आश्वस्त था। छिपा हुआ लीवर: विवादित क्षेत्र की एक अलग कोण से या बड़े कोण से दोबारा तस्वीर लें और दोनों उत्तरों की तुलना करें - एक आश्वस्त मिलान की तुलना में एक स्थिर मिलान अधिक विश्वसनीय होता है। एक सामान्य नौसिखिया गलती: एक सहज, आत्मविश्वासपूर्ण उत्तर को एक तथ्य के रूप में लेना और एआई को अस्पष्ट संख्याओं को कल्पना से भरने देना।