📅 AI가 아는 것과 모르는 것
신경망은 전지적이지 않습니다. 특정 지점(컷오프 날짜)까지 훈련 데이터에 무엇이 있었는지만 알 수 있습니다. 나중에 일어난 모든 일은 그녀에게 존재하지 않는 것 같습니다. "훈련 날짜" 슬라이더를 이동하여 모델이 알려줄 수 있는 것과 알 수 없는 것을 확인하세요.
마감일 이후의 이벤트에 대해서는 모델이 솔직하게 "모르겠어요"라고 말하거나, 더 나쁘게는 그럴듯한 답변을 내놓습니다. 따라서 최신 뉴스, 가격 및 사실에 대해 신경망은 인터넷 검색(RAG라고 함)을 연결합니다. 확인하지 않고 최근에 무슨 일이 일어났는지 알아내기 위해 신경망에 의존하지 마십시오.
작동 방식: 지식 마감일
모델은 특정 날짜 이전에 수집된 텍스트의 거대한 단면에 대해 한 번 교육됩니다. 그 후 그녀의 지식은 "동결"되었습니다. 그녀는 실시간으로 뉴스를 읽지 않고 어제를 기억하지 못합니다. 따라서 각 모델에는 컷오프 날짜(지식 컷오프)가 있으며 그 이후에는 공백이 있습니다.
위험은 모델이 항상 무지를 정직하게 인정하지 않는다는 것입니다. 그녀에게 컷오프 이후의 사건에 대해 물어보면 그녀는 그럴듯하지만 거짓된 대답을 자신있게 내놓을 수 있습니다(이것을 환각이라고 합니다). 겉으로는 이러한 답변은 실제 답변과 구별할 수 없으므로 항상 새로운 사실, 수치 및 날짜를 다시 확인해야 합니다.
모델에 최신 데이터를 제공하기 위해 이를 인터넷 검색이나 문서 데이터베이스에 연결하고 찾은 내용을 쿼리에 직접 넣습니다. 이 기술을 RAG(검색 증강 생성)라고 합니다. 따라서 실질적인 결론은: 실제의 경우 검색에 액세스할 수 있는 모델을 요청하고 중요한 경우 원본 소스를 확인하세요. AI의 한계를 이해하는 것은 AI 기술의 일부이며 무료 레슨을 통해 실습할 수 있습니다.
무료로 시작하세요