Запуск своей модели

Запустить открытую модель — значит выполнять её на своём железе, а не звать чужой API. Как это устроено концептуально: скачать веса модели (файл с параметрами); запустить её через среду инференса (программу, которая гоняет модель) на своём сервере или компьютере; отправлять запросы локально — модель отвечает без интернета и без внешнего API. Важно: модели бывают разного размера — маленькие бегают на обычном железе, большие требуют мощных GPU и много памяти. Выбирай размер под своё железо и задачу. Правило: локальный запуск — это веса модели плюс среда инференса на твоём железе; всё работает у тебя без внешнего API, но размер модели должен влезать в твоё железо.