Безопасно ли это и что сделать? Верни JSON {"safe": "да или нет", "fix": "как обезопасить"}.
Безопасность на выходеОпасность не только на входе, но и на выходе: если бот генерирует код, SQL-запрос, команду или действие, которое система выполнит автоматически, злоумышленник через инъекцию может заставить сгенерировать вредоносное. Никогда не выполняй вывод AI вслепую в чувствительных операциях. Правила: валидируй вывод перед исполнением (проверяй схему, держи белый список допустимых действий), опасные операции (удаление, платёж, рассылка) — только через подтверждение человеком, ограничивай права бота по минимуму. AI предлагает, система проверяет, человек утверждает критичное.