LearnAI
모듈 10 · AI 애플리케이션 보안(Pro) · 수업 1/5
← 카탈로그로

입력과 출력을 신뢰할 수 없습니다.

입력과 출력을 어떻게 처리하나요? JSON {"rules": [2개 이상의 규칙 목록], "why": "brief"}를 반환합니다.

즉각적인 AI 검토를 위해 솔루션을 제출할 수 있는 액세스 권한을 잠금 해제하세요.무료로 시작하세요
AI응용보안기지
💡 이론의 일부

주요 사고방식 변화: 사용자 입력과 모델 출력 모두 신뢰할 수 없는 데이터입니다. 사용자가 프롬프트를 중단하려고 할 수 있습니다. 모델은 부정확하거나 유해하거나 대체된 콘텐츠를 반환할 수 있습니다. 규칙: 모델 출력을 이스케이프 처리 없이 HTML, SQL 또는 명령에 직접 붙여넣지 마십시오(XSS 및 삽입 위험). 사용하기 전에 응답의 구조와 내용을 검증합니다. 모델이 일반적으로 반환할 수 있는 것(형식, 길이)을 제한합니다. 그녀의 텍스트를 자신이 작성한 코드가 아닌 외부인의 입력으로 취급하십시오. 규칙: 무작위 사용자의 텍스트를 신뢰하는 만큼 정확하게 모델의 출력을 신뢰하십시오. 즉, 신뢰하지 말고 확인하십시오.

평가 방법 · 합격 70

  • 1주변에 텍스트가 없는 유효한 JSON30%
  • 2rules 및 why 배열이 있습니다.35%
  • 32개 이상의 규칙: 원시 출력 삽입 안 함, 유효성 검사, 형식 제한, 신뢰할 수 없는 것으로 간주35%
귀하의 프롬프트Claude ⌄