LearnAI
Модуль 10 · Безпека AI-програм (Pro) · Урок 1/5
← До каталогу
Завдання

Введення та висновок — недовірені

Як поводитися з введенням та висновком? Поверни JSON {"rules": [список з 2+ правил], "why": "коротко"}.

Відкрий доступ, щоб надсилати рішення на миттєву AI-перевірку.Почати безкоштовно
База безпеки AI-програми
💡 Шматок теорії

Ключове зрушення мислення: і введення користувача, І виведення моделі - недовірені дані. Користувач може спробувати зламати твій промпт; модель може повернути некоректний, шкідливий або підставлений вміст. Правила: не вставляй виведення моделі безпосередньо в HTML, SQL чи команди без екранування (ризик XSS та ін'єкцій); валідуй структуру та вміст відповіді перед використанням; обмежуй, що модель взагалі може повернути (формат, довжина); стався до її тексту як до введення від стороннього, а не як до коду від себе. Правило: довіряй висновку моделі рівно настільки, наскільки довіряв би тексту від випадкового користувача - тобто не довіряй, а перевіряй.

Як оцінюється · прохідний 70

  • 1Валідний JSON без тексту навколо30%
  • 2Є масив rules та why35%
  • 32+ правила: не вставляти висновок сирим, валідувати, обмежувати формат, вважати недовіреним35%
Твій промптClaude ⌄