Сбер выложил открытые веса двух моделей GigaChat с лицензией MIT: их можно поставить на свой компьютер или сервер и работать без интернета — это важно, когда данные нельзя отправлять в облако (персональные данные, госсектор, банки, юристы). Облачный GigaChat (сайт и API) — отдельный сервис. Ниже — сколько памяти нужно GigaChat 3.1 Lightning и GigaChat 3.5 Ultra, а также русской модели T-pro 2.1, и ссылки на готовые сборки.
Сборка под GigaChat 3.1 10BВсе модели
Модели и сборки
| Модель | Главное применение | Нужно на «Экономично» | Сборка |
|---|---|---|---|
| GigaChat 3.1 10B | чат-бот и поддержка на русском | 8,2 ГБ | башня · в стойку |
| GigaChat 3.5 Ultra 432B | русскоязычный ИИ в закрытом контуре | ОЗУ 315 ГБ + карта 24 ГБ | башня · в стойку |
| T-pro 2.1 (32B) | деловые тексты на русском | 25,6 ГБ | башня · в стойку |
Какую взять. GigaChat 3.1 Lightning — очень быстрая небольшая модель для чат-бота и поддержки на русском, помещается в видеокарту на 16 ГБ. GigaChat 3.5 Ultra — старшая модель на 432 млрд параметров для работы в закрытом контуре; ей нужен сервер. T-pro 2.1 от Т-Банка — середина между ними: 32 млрд параметров, хороша в деловых текстах.
Уровни: Экономично — самый доступный вариант, на котором модель работает целиком; Сбалансировано — больше бит и длиннее окно; С запасом — несколько пользователей сразу. Цена в тексте не указана: она меняется каждый день и показывается в конфигураторе по ссылке.
GigaChat 3.1 Lightning 10B-A1.8B
Открытая модель Сбера, обученная на русском языке: 10 млрд параметров, на токен — 1,8 млрд. Очень быстрая, свободная лицензия MIT.
Для чего: русскоязычный чат-бот и поддержка клиентов, работа с документами по-русски.
- Разработчик: Сбер, выпуск — март 2026.
- Параметров: 10 млрд, из них на каждый токен работают 1,8 млрд («смесь экспертов», MoE).
- Понимает: текст.
- Контекст: до 256 тыс. токенов.
- Лицензия: MIT. Русский язык: отлично (русская модель).
- Веса: Hugging Face (
ai-sage/GigaChat3.1-10B-A1.8B), файлы GGUF для llama.cpp; в библиотеке Ollama модели нет.
Сколько видеопамяти нужно одному пользователю — веса, кэш контекста в 8 битах и служебная память:
| Сжатие | Файл модели | Видеопамяти с окном 32 тыс. токенов | С окном 128 тыс. |
|---|---|---|---|
| Q4_K_M (4 бита) | 6,5 ГБ | 8,2 ГБ | 9,6 ГБ |
| Q6_K (6 бит) | 8,8 ГБ | 10,5 ГБ | 12 ГБ |
| Q8_0 (8 бит) | 11,3 ГБ | 13,2 ГБ | 14,6 ГБ |
Готовые сборки. Ссылка откроет конфигуратор со сборкой из деталей в наличии и ценой на сегодня; уровень и корпус там можно поменять.
| Уровень | Что заложено | Нужно | Подойдёт | Готовая сборка |
|---|---|---|---|---|
| Экономично | 4 бита (Q4_K_M), окно 32 тыс. токенов, 1 пользователь | 8,2 ГБ | 16 ГБ (RTX 5060 Ti 16 ГБ и выше) | башня · в стойку |
| Сбалансировано | 8 бит (Q8_0), окно 64 тыс. токенов, 1 пользователь | 13,7 ГБ | 16 ГБ (RTX 5060 Ti 16 ГБ и выше) | башня · в стойку |
| С запасом | 8 бит (Q8_0), 4 пользователя по 32 тыс. токенов (vLLM) | 16,3 ГБ | 24 ГБ (RTX PRO 4000 и выше) | башня · в стойку |
GigaChat 3.5 Ultra 432B-A28B
Старшая открытая модель Сбера: 432 млрд параметров, на токен — 28 млрд, обучена прежде всего на русском. Свободная лицензия MIT — можно ставить у себя и встраивать в свои продукты.
Для чего: русскоязычный ИИ в закрытом контуре: госсектор, банки, юристы, работа с персональными данными.
- Разработчик: Сбер, выпуск — июль 2026.
- Параметров: 432 млрд, из них на каждый токен работают 28 млрд («смесь экспертов», MoE).
- Понимает: текст.
- Контекст: до 256 тыс. токенов.
- Лицензия: MIT. Русский язык: отлично (русская модель).
- Веса: Hugging Face (
ai-sage/GigaChat3.5-432B-A28B), файлы GGUF для llama.cpp; в библиотеке Ollama модели нет.
Сколько видеопамяти нужно одному пользователю — веса, кэш контекста в 8 битах и служебная память:
| Сжатие | Файл модели | Видеопамяти с окном 32 тыс. токенов | С окном 128 тыс. |
|---|---|---|---|
| Q4_K_M (4 бита) | 262 ГБ | 271 ГБ | 271 ГБ |
| Q6_K (6 бит) | 356 ГБ | 368 ГБ | 369 ГБ |
| Q8_0 (8 бит) | 461 ГБ | 476 ГБ | 477 ГБ |
Готовые сборки. Ссылка откроет конфигуратор со сборкой из деталей в наличии и ценой на сегодня; уровень и корпус там можно поменять.
| Уровень | Что заложено | Нужно | Подойдёт | Готовая сборка |
|---|---|---|---|---|
| Экономично | модель в оперативной памяти сервера (EPYC или Xeon 6, все каналы DDR5) + видеокарта под общие слои и кэш | ОЗУ 315 ГБ + карта 24 ГБ | сервер на EPYC или Xeon 6 + карта от 24 ГБ | башня · в стойку |
| Сбалансировано | 4 бита (Q4_K_M) целиком в видеопамяти, окно 64 тыс. токенов, 1 пользователь | 271 ГБ | 4 × 96 или 8 × 48 ГБ | в стойку |
| С запасом | 8 бит (Q8_0) целиком в видеопамяти, 4 пользователя по 32 тыс. токенов (vLLM) | 530 ГБ | 8 × 96 ГБ | в стойку |
T-pro 2.1 32B
Модель Т-Банка на основе Qwen3-32B, дообученная на русском языке. Хороша в деловых текстах; кэш контекста у неё тяжёлый — длинное окно требует много видеопамяти.
Для чего: деловая переписка и документы на русском, поддержка клиентов.
- Разработчик: Т-Банк (T-Tech), выпуск — декабрь 2025.
- Параметров: 33 млрд (плотная модель — на каждый токен работают все).
- Понимает: текст.
- Контекст: до 128 тыс. токенов.
- Лицензия: Apache 2.0. Русский язык: отлично (дообучена на русском).
- Веса: Hugging Face (
t-tech/T-pro-it-2.1), файлы GGUF для llama.cpp; в библиотеке Ollama модели нет.
Сколько видеопамяти нужно одному пользователю — веса, кэш контекста в 8 битах и служебная память:
| Сжатие | Файл модели | Видеопамяти с окном 32 тыс. токенов | С окном 128 тыс. |
|---|---|---|---|
| Q4_K_M (4 бита) | 19,8 ГБ | 25,6 ГБ | 38,5 ГБ |
| Q6_K (6 бит) | 26,9 ГБ | 33 ГБ | 45,9 ГБ |
| Q8_0 (8 бит) | 34,8 ГБ | 41,2 ГБ | 54 ГБ |
Готовые сборки. Ссылка откроет конфигуратор со сборкой из деталей в наличии и ценой на сегодня; уровень и корпус там можно поменять.
| Уровень | Что заложено | Нужно | Подойдёт | Готовая сборка |
|---|---|---|---|---|
| Экономично | 4 бита (Q4_K_M), окно 32 тыс. токенов, 1 пользователь | 25,6 ГБ | 32 ГБ (RTX 5090, RTX PRO 4500) | башня · в стойку |
| Сбалансировано | 8 бит (Q8_0), окно 64 тыс. токенов, 1 пользователь | 45,5 ГБ | 48 ГБ (RTX PRO 5000, RTX 6000 Ada) | башня · в стойку |
| С запасом | 8 бит (Q8_0), 4 пользователя по 32 тыс. токенов (vLLM) | 60 ГБ | 96 ГБ (RTX PRO 6000) или 2–4 карты | башня · в стойку |
Как мы считаем видеопамять
Видеопамять = файл модели + проектор картинок (у моделей, которые видят изображения) + кэш контекста в 8 битах + 1 ГБ служебной памяти + 3 % от весов. Кэш растёт с длиной окна и числом одновременных пользователей; для нескольких пользователей (vLLM) берём ещё 10 % запаса. Расчёт сверен с нашим ИИ-сервером: для Qwen 3.8 27B в Q4 формула даёт 20 ГБ, замер — 17,5 ГБ; для Gemma 4 31B QAT — 22 и 19,2 ГБ, то есть с запасом. Если модель не помещается в видеопамять целиком, часть слоёв уходит в оперативную память и ответ замедляется в разы.
Чем запускать
Ollama и LM Studio — проще всего начать, работают на Windows и Linux. llama.cpp — гибкая работа с файлами GGUF, в том числе модель в оперативной памяти с выносом общих слоёв на видеокарту (--n-cpu-moe). vLLM — для нескольких пользователей сразу и для нескольких видеокарт (тензорный параллелизм, поэтому карт 1, 2, 4 или 8). Для больших моделей в оперативной памяти — также ktransformers.
Частые вопросы
Можно ли установить GigaChat локально?
Да: GigaChat 3.1 Lightning (10B) и GigaChat 3.5 Ultra (432B) выложены на Hugging Face с лицензией MIT — их можно ставить у себя и встраивать в свои продукты. Файлы GGUF запускают через llama.cpp; в библиотеке Ollama этих моделей нет.
Сколько памяти нужно GigaChat 3.1 Lightning?
В Q4 с окном 32 тыс. токенов — около 8 ГБ видеопамяти, в Q8 — около 13 ГБ. Хватает видеокарты на 16 ГБ, например GeForce RTX 5060 Ti 16 ГБ.
Какое железо нужно для GigaChat 3.5 Ultra?
Файл в 4 битах — 262 ГБ. Самый доступный вариант — модель в оперативной памяти сервера (около 315 ГБ) и видеокарта на 24 ГБ. Целиком в видеопамяти в 4 битах — около 271 ГБ, это восемь карт по 48 ГБ; в 8 битах на четырёх пользователей — около 530 ГБ, восемь карт по 96 ГБ.
Что такое T-pro 2.1?
Модель Т-Банка на основе Qwen3-32B, дообученная на русском. В Q4 с окном 32 тыс. токенов ей нужно около 26 ГБ видеопамяти — карта на 32 ГБ и больше. Кэш контекста у неё тяжёлый: с окном 128 тыс. токенов нужно уже около 39 ГБ.
Сколько стоит сервер для GigaChat?
Цена зависит от модели, уровня и корпуса и меняется вместе с ценами видеокарт, поэтому в тексте её нет. Нажмите ссылку на сборку — конфигуратор покажет состав и цену на сегодня из деталей в наличии; там же можно сменить уровень, корпус или любую деталь.
Сколько времени занимает сборка и доставка?
Собираем из деталей в наличии и тестируем за 4–5 дней после оплаты. Доставка по России бесплатная — до адреса, со страховкой.
Как оплатить и какая гарантия?
Безналичный расчёт по договору, цены с НДС — работаем с юридическими лицами. Гарантия — 1 год на сервер и комплектующие.
Смотрите также
- Компьютер и сервер для нейросетей — все модели
- Компьютер и сервер для Qwen
- Компьютер и сервер для Gemma 4
- Компьютер и сервер для gpt-oss
- Сервер для DeepSeek V4
- Компьютер и сервер для GLM
- Сервер для Kimi K2.6
- Какая видеокарта нужна для нейросети: таблица по моделям
- Квантование нейросети: Q4, Q6 или Q8 — что выбрать
- Локальная нейросеть: компьютер, рабочая станция или сервер
- Наш ИИ-сервер: RTX 5090 и RTX 5060 Ti, Qwen 3.8 27B и Gemma 4 31B
- Сервер для нейросетей и локальных LLM: какие видеокарты и сколько видеопамяти нужно
- GPU-сервер на 1, 2 или 4 видеокарты
- Профессиональные видеокарты NVIDIA