LearnAI
Новинки AI · Безопасный AI · Lição 3/10
← Para o catálogo
Tarefa

Como reconhecer ficção de IA

Analise a resposta da IA. Return JSON {"red_flags":[...],,"suspicious_claim":"...","verify_step":"..."}: red_flags - sinais de possível ficção nesta resposta; suspicious_claim - a afirmação mais duvidosa; verify_step - como verificar fora do modelo. Retorne apenas JSON, sem texto ao redor.

Desbloqueie o acesso para enviar soluções para análise instantânea de IA.
Pegando alucinações
💡 Uma teoria

Mecânica: O gerador de texto prevê a próxima palavra com base na probabilidade, em vez de verificar a veracidade. Portanto, ele inventa com segurança algo que não existe: livros, citações, estatísticas, links, processos judiciais inexistentes. Não é uma “mentira” – o modelo simplesmente preenche uma lacuna de uma forma plausível. Sinais de alerta: números muito precisos sem fonte, datas específicas, volumes e páginas em um tema restrito, “links” que não são abertos, confiança redonda onde os especialistas discutem. Técnica: quanto mais nicho e verificável o fato (número da lei, página do artigo, citação do autor), maior a chance de invenção – são os detalhes que o modelo apresenta com mais facilidade. Segundo truque: faça a mesma pergunta duas vezes de maneiras diferentes - se as respostas sobre o “fato” divergem, isso é sinal de ficção, não de conhecimento. Insider: As alucinações costumam ficar escondidas no meio plausível de uma resposta longa, e não em lugares obviamente estranhos. Um erro típico: confiar em uma resposta só porque parece confiante e competente – estilo não é o mesmo que verdade.

Como é avaliado · aprovado 70

  • 1JSON válido sem texto ao redor20%
  • 2Existem campos red_flags, suspicious_claim, verify_step30%
  • 3Sinais e verificação estão vinculados ao exemplo50%
Sua solicitaçãoClaude ⌄
🔒

Desbloqueie o acesso para enviar soluções para análise instantânea de IA.