Найти модель
Перед загрузкой сравни карточки моделей, лицензии, число параметров, квантование и требования к оборудованию.
Открыть модели Hugging Face ↗УКАЗАТЕЛЬ / 02
Твоё оборудование.
Твои модели.
Модели с открытыми весами можно скачать и запустить на своём компьютере или сервере. Найди модель, выбери среду запуска и добавь удобный интерфейс.
03Чат-интерфейсOpen WebUI · Jan
02Среда инференсаOllama · llama.cpp
01Веса моделиHugging Face · карточки моделей
ИНСТРУМЕНТЫ
Три уровня — ничего сложного
Запусти веса
Используй настольное приложение или среду инференса, чтобы загрузить модель на CPU, GPU или поддерживаемый ускоритель.
Открыть Ollama ↗Выбери интерфейс
Общайся через настольное приложение или собственный веб-интерфейс либо подключи совместимый API к своим инструментам.
Открыть Open WebUI ↗01 / КАТАЛОГИ МОДЕЛЕЙ
Где искать модели
Списки моделей и лицензии публикуют и обновляют их владельцы.
Hugging Face
Большой каталог карточек моделей, датасетов и демо.
Каталог моделейИсследования
Ollama Library
Модели, подготовленные для простого локального запуска.
ЛокальноCLI / настольное приложение
OpenRouter
Сравнивай облачные модели и подключай многих провайдеров через единый API.
Облачный сервисAPI
Together AI
Облачный инференс и большой каталог открытых моделей.
APIИнференс
Fireworks AI
Облачный запуск моделей и инструменты для разработчиков.
APIИнференс
Replicate
Запускай и тестируй модели сообщества и коммерческие модели.
Облачный сервисAPI
02 / ЛОКАЛЬНЫЕ СРЕДЫ И ПРИЛОЖЕНИЯ
Запусти самостоятельно
Одни инструменты имеют графический интерфейс, другие рассчитаны на серверы и скрипты.
Ollama
Удобная загрузка моделей и локальный инференс.
Для новичков
LM Studio
Каталог моделей на рабочем столе, локальный чат и совместимый API-сервер.
Настольное приложениеГрафический интерфейс
Jan
Настольный ассистент с открытым кодом для локальной работы.
Настольное приложениеВозможна работа офлайн
Open WebUI
Собственный веб-интерфейс для локальных и подключённых моделей.
На своём сервереВеб-интерфейс
llama.cpp
Эффективный инференс GGUF-моделей на разных конфигурациях оборудования.
Среда запускаДля продвинутых
GPT4All
Настольный чат с локальными моделями и работа с документами.
Настольное приложениеЛокально
AnythingLLM
Рабочее пространство с локальным и облачным ИИ, включая работу с документами.
ДокументыРабочее пространство
vLLM
Движок инференса с высокой пропускной способностью для серверного развёртывания моделей.
СерверДля продвинутых
03 / СЕМЕЙСТВА МОДЕЛЕЙ
С чего начать исследование
Ссылки ведут на общий поиск, чтобы видеть актуальные варианты.
深DeepSeekРассуждения, универсальный чат и модели для кода
文QwenТекст, зрение, код и многоязычные версии
LLlamaСемейство моделей Meta и их дообученные версии
GGemmaСемейство открытых моделей Google
MMistralКомпактные и крупные модели для разных задач
ΦPhiСемейство компактных моделей Microsoft Research
Открытые веса ≠ автоматически открытый исходный код
Всегда читай конкретную карточку модели и её лицензию. Проверь коммерческое использование, требования к указанию авторства, условия применения, требования к оборудованию и соответствие весов тем, которые собираешься развёртывать.