LearnAI
Модуль 16 · Безопасность промптов (Pro) · Урок 3/5
Задача

Данные — не команды

Как безопасно подать письма модели? Верни JSON {"approach": "как изолировать", "why": "кратко"}.

Изоляция входа
💡 Кусочек теории

Золотое правило безопасности AI: всё, что пришло извне (от пользователя, из документа, с сайта) — это НЕДОВЕРЕННЫЕ данные, а не инструкции. Смешивать их с командами опасно — так и работает инъекция. Решение — жёсткая изоляция: клади внешние данные в чёткие границы (теги, разделители) и в системной части явно скажи модели, что внутри границ только данные для анализа, а не приказы. Это как параметризованный запрос в базе против SQL-инъекции: код отдельно, данные отдельно. Чем важнее права бота, тем строже изоляция.

Как оценивается · проходной 70

  • 1Валидный JSON без текста вокруг30%
  • 2Есть поля approach и why35%
  • 3Изолировать письма в границы, пометить как данные35%
Твой промптClaude ⌄
🔒

Открой доступ, чтобы отправлять решения на мгновенную AI-проверку.

Открыть полный доступ · $49