📅 ما يعرفه الذكاء الاصطناعي وما لا يعرفه
الشبكة العصبية ليست كلي العلم - فهي تعرف فقط ما كان موجودًا في بيانات التدريب الخاصة بها حتى نقطة معينة (التاريخ النهائي). يبدو أن كل ما حدث لاحقًا غير موجود بالنسبة لها. حرك شريط تمرير "تاريخ التدريب" وشاهد ما يمكن أن يخبرك به النموذج وما لا يمكنه إخبارك به.
بالنسبة للأحداث التي تقع بعد الموعد النهائي، إما أن يقول النموذج بصراحة "لا أعرف" أو، الأسوأ من ذلك، أن يأتي بإجابة معقولة. لذلك، للحصول على أحدث الأخبار والأسعار والحقائق، تقوم الشبكات العصبية بتوصيل البحث على الإنترنت (وهذا ما يسمى RAG). لا تعتمد أبدًا على الشبكة العصبية لمعرفة ما حدث مؤخرًا دون التحقق منه.
كيف يعمل: تاريخ قطع المعرفة
يتم تدريس النموذج مرة واحدة على شريحة كبيرة من النصوص التي تم جمعها قبل تاريخ معين. بعد ذلك "تجمدت" معرفتها: فهي لا تقرأ الأخبار في الوقت الفعلي ولا تتذكر الأمس. لذلك، كل نموذج له تاريخ قطع (قطع المعرفة)، وبعد ذلك يوجد فراغ له.
ويكمن الخطر في أن النموذج لا يعترف دائمًا بالجهل بصدق. اسألها عن حدث ما بعد الانقطاع، ويمكنها أن تتوصل بثقة إلى إجابة معقولة ولكنها خاطئة (وهذا ما يسمى الهلوسة). ظاهريًا، لا يمكن تمييز مثل هذه الإجابة عن الإجابة الحقيقية، لذا يجب دائمًا التحقق مرة أخرى من الحقائق والأرقام والتواريخ الجديدة.
لتزويد النموذج ببيانات جديدة، يقومون بتوصيله ببحث على الإنترنت أو بقاعدة بيانات المستندات ويضعون ما يجدونه مباشرة في الاستعلام - وتسمى هذه التقنية RAG (توليد الاسترجاع المعزز). ومن هنا الاستنتاج العملي: بالنسبة للواقع، اسأل عن نموذج مع إمكانية الوصول إلى البحث، وللأهم، تحقق من المصدر الأصلي. يعد فهم حدود الذكاء الاصطناعي جزءًا من مهارة الذكاء الاصطناعي ويمكن ممارستها في درس مجاني.
ابدأ مجانًا