LearnAI
Módulo 10 · Segurança de aplicativos de IA (Pro) · Lição 1/5
← Para o catálogo
Tarefa

Entrada e saída não são confiáveis

Como lidar com entrada e saída? Retorne JSON {"rules": [lista de mais de 2 regras], "why": "breve"}.

Desbloqueie o acesso para enviar soluções para análise instantânea de IA.Comece de graça
Base de segurança de aplicativos de IA
💡 Uma teoria

Mudança fundamental de mentalidade: tanto a entrada do usuário quanto a saída do modelo são dados não confiáveis. O usuário pode tentar quebrar seu prompt; O modelo pode retornar conteúdo incorreto, prejudicial ou substituído. Regras: Não cole a saída do modelo diretamente em HTML, SQL ou comandos sem escapar (risco de XSS e injeções); validar a estrutura e o conteúdo da resposta antes do uso; limitar o que o modelo geralmente pode retornar (formato, comprimento); trate o texto dela como uma entrada de alguém de fora, e não como um código seu. Regra: confie na saída do modelo exatamente tanto quanto você confiaria no texto de um usuário aleatório - ou seja, não confie, mas verifique.

Como é avaliado · aprovado 70

  • 1JSON válido sem texto ao redor30%
  • 2Existe uma matriz rules e why35%
  • 32+ regras: não insira saída bruta, valide, limite o formato, considere não confiável35%
Sua solicitaçãoClaude ⌄