Какие минусы у локального запуска? Верни JSON {"costs": [список из 2+ минусов], "why": "кратко"}.
Бесплатно ≠ даромЛокальный запуск не бесплатен по усилиям, и это важно понимать заранее. Минусы: качество — открытые модели часто слабее топовых закрытых, особенно на сложных задачах; железо — хорошие модели требуют мощных GPU и много памяти, это деньги и настройка; обслуживание — ты сам разворачиваешь, обновляешь, чинишь и масштабируешь (то, что провайдер делает за тебя); скорость — на слабом железе ответы медленные. «Бесплатная» модель оборачивается затратами на железо и время. Правило: локальное «бесплатно» оплачивается железом, качеством и обслуживанием — трезво считай эти затраты против удобства готового API.