LearnAI
Модуль 7 · Оценка качества AI (Pro) · Урок 2/5
Задача

Что измерять

Как выбрать метрику под задачу? Верни JSON {"metrics": [список из 2+ метрик], "why": "кратко"}.

Метрика под тип задачи
💡 Кусочек теории

Метрика должна соответствовать типу задачи. Для строгих форматов (JSON, классы, числа) — точное совпадение, валидность, точность по классам: дёшево, объективно, автоматизируемо. Для открытых ответов (совет, письмо, резюме) точного эталона нет — оценивают по рубрике: человеком или моделью-судьёй по чётким критериям. Плюс сквозные метрики: доля прохождения (pass-rate), стоимость, задержка. Одна метрика редко покрывает всё — комбинируй. Правило: сначала реши, что значит «хорошо» для ЭТОЙ задачи, потом выбирай метрику; нельзя улучшать то, что не измеряешь.

Как оценивается · проходной 70

  • 1Валидный JSON без текста вокруг30%
  • 2Есть массив metrics и why35%
  • 3Подходящие: точное совпадение для структуры, рубрика/судья для открытого, pass-rate/цена/скорость35%
Твой промптClaude ⌄
🔒

Открой доступ, чтобы отправлять решения на мгновенную AI-проверку.

Открыть полный доступ · $49