LearnAI
모듈 1 · AI와 대화하는 방법 · 수업 3/9
← 카탈로그로

환각에 대비하여: 알지 못하도록 허용

모델은 자신감 있는 어조로 화해하는 것을 좋아합니다. 모델이 알 수 없는 사실(신선/비공개)을 묻는 프롬프트를 작성하고, 꾸며내기보다는 "모르겠어요"라고 솔직하게 대답하도록 강요합니다.

즉각적인 AI 검토를 위해 솔루션을 제출할 수 있는 액세스 권한을 잠금 해제하세요.무료로 시작하세요
신뢰 보정 - AI 시대를 위한 메타 기술
💡 이론의 일부

모델은 '알고 있다'가 아니라 가능성 있는 단어를 예측합니다. "모르겠어요"라고 명시적으로 허락하지 않으면 그녀는 자신감 있는 말투로 말을 할 것입니다. 이것은 환각입니다.

평가 방법 · 합격 70

  • 1모델이 무지를 인정함(“모른다” 등)50%
  • 2모델은 특정 사실을 꾸며낸 것이 아니라 솔직하게 인정했습니다.50%
귀하의 프롬프트Claude ⌄