LearnAI
Новинки AI · Безопасный AI · Lección 4/10
← Al catálogo
Tarea

Haz que la IA diga "No lo sé"

Realizar una solicitud contra fabricaciones. Devuelve JSON {"prompt":"...","rules":[...],"why_works":"..."}: prompt — texto de la solicitud a AI; rules — reglas de conducta en caso de desconocimiento, integradas en la solicitud; why_works - brevemente por qué esto reduce el error. Devuelve solo JSON, sin texto alrededor.

Desbloquee el acceso para enviar soluciones para una revisión instantánea de la IA.
Inmediato versus ficción
💡 Un pedazo de teoría

Mecánica: por defecto, el modelo "se esfuerza por ayudar" y continúa el texto, incluso si no hay datos; el silencio es una opción poco probable para él. Esto significa que el permiso para no saber debe otorgarse explícitamente. Técnicas rápidas: (1) instrucción directa: “si no está seguro, diga honestamente “no lo sé” y no invente cosas”; (2) el requisito de las fuentes: "proporcione sólo hechos que pueda nombrar con la fuente, marque el resto como suposición"; (3) separación: “separar los hechos verificados de las conjeturas”. Información privilegiada: solicite al modelo que estime su confianza en porcentaje y explique QUÉ es exactamente lo que no sabe; esto reduce drásticamente las fabricaciones de confianza, porque la tarea cambia de "dar la respuesta" a "evaluar la confiabilidad". Segundo truco: formule una pregunta sin una suposición incorporada: "¿existe la ley X?" en lugar de “volver a contar la Ley X”, de lo contrario el modelo confirmará algo que no existe. Un error típico: creer que un cortés “no te equivoques” funciona; necesitamos reglas específicas de comportamiento ante la ignorancia, en lugar de una petición de ser precisos.

¿Cómo se evalúa · aprobado? 70

  • 1JSON válido sin texto alrededor20%
  • 2Hay campos prompt, rules, why_works30%
  • 3La investigación realmente resuelve la ignorancia50%
Tu mensajeClaude ⌄
🔒

Desbloquee el acceso para enviar soluciones para una revisión instantánea de la IA.