LearnAI
Новинки AI · AI-агенты · 수업 7/10
← 카탈로그로

에이전트는 어디에서 문제가 발생합니까?

작업의 위험을 평가하고 에이전트 오류로부터 보호합니다. JSON 반환 {"task":"...","riskLevel":"...","riskyPoint":"...","safeguard":"..."}: task - 작업, riskLevel - 낮음, 중간, 높음 중 하나, riskyPoint - 가장 위험한 장소(발명 또는 되돌릴 수 없는 작업이 발생할 가능성이 있는 곳), safeguard - 어떻게 확인하나요?

즉각적인 AI 검토를 위해 솔루션을 제출할 수 있는 액세스 권한을 잠금 해제하세요.
에이전트 오류 탐지
💡 이론의 일부

요원에게는 예측 가능한 약점이 있으며 이를 아는 것이 전투의 절반입니다. 첫째, 마음을 정할 때 자신감 있는 말투입니다. 사실이 충분하지 않은 경우에도 상담원은 단지 꾸며낸 답변만 원활하게 답변할 것입니다. 둘째: 반복 - 대상이 흐려지면 한 단계를 반복하면서 원을 그리며 걸을 수 있습니다. 셋째: 처음부터 잘못된 가정으로 인해 모든 작업이 잘못된 방향으로 진행됩니다. 방어 메커니즘은 확인을 기반으로 합니다. 내부자 요령: 각 중요한 진술에 대한 출처 링크를 요구하고 불확실성에 대한 직접적인 메모를 요구합니다. "확실하지 않으면 그렇게 작성하세요." 근처에 링크가 있으면 소설을 잡기가 더 쉽습니다. 두 번째 기술은 단계 예산과 별도의 검증 단계입니다. "실행한 다음 이 기준에 따라 결과를 다시 확인합니다." 단계를 제한하면 무한 루프에 빠지는 것을 방지할 수 있습니다. 흔히 저지르는 실수는 자신감 넘치는 외모와 설득력 있는 세부 사항 때문에 답변을 신뢰하는 것입니다. 설득력과 진실은 서로 다른 것입니다. 작업의 위험을 미리 평가하십시오. 위험이 높을수록 확인이 더 엄격해지고 상담원에게 부여해야 하는 자율성이 줄어듭니다.

평가 방법 · 합격 70

  • 1주변에 텍스트가 없는 유효한 JSON15%
  • 2필수 입력란이 있습니다20%
  • 3riskLevel는 유효한 값 중 하나입니다.15%
  • 4위험한 장소는 정해져 있고 방어는 진짜야50%
귀하의 프롬프트Claude ⌄
🔒

즉각적인 AI 검토를 위해 솔루션을 제출할 수 있는 액세스 권한을 잠금 해제하세요.