Сервер для Kimi K2.6 локально — сколько памяти нужно, сборки

Kimi K2.6 — открытая модель Moonshot AI на 1 трлн параметров, одна из лучших открытых моделей для агентов и программирования. Её эксперты изначально обучены в 4 битах (INT4), поэтому файл 632 ГБ — это полное качество. Запустить её у себя можно на сервере с моделью в оперативной памяти или с восемью видеокартами по 96 ГБ.

Сборка под Kimi K2.6 Все модели

Модели и сборки

Модель	Главное применение	Нужно на «Экономично»	Сборка
Kimi K2.6 1T	агенты и программирование	ОЗУ 715 ГБ + карта 37 ГБ	башня · в стойку

Модель в оперативной памяти. На каждый токен у Kimi K2.6 работают 32 млрд параметров из 1 трлн, поэтому веса можно держать в оперативной памяти сервера (AMD EPYC 9004/9005 или Intel Xeon 6, все каналы DDR5), а на видеокарту вынести общие слои и кэш контекста. Это в разы дешевле восьми видеокарт, но медленнее.

Уровни: Экономично — самый доступный вариант, на котором модель работает целиком; Сбалансировано — больше бит и длиннее окно; С запасом — несколько пользователей сразу. Цена в тексте не указана: она меняется каждый день и показывается в конфигураторе по ссылке.

Kimi K2.6 1T-A32B

Модель Moonshot на 1 трлн параметров (на токен — 32 млрд), эксперты изначально в 4 битах — 632 ГБ без потери качества. Одна из лучших открытых моделей для агентов и кода.

Для чего: агенты и программирование уровня лучших облачных моделей, в своём контуре.

Разработчик: Moonshot AI, выпуск — апрель 2026.
Параметров: 1 трлн, из них на каждый токен работают 32 млрд («смесь экспертов», MoE).
Понимает: текст, картинки.
Контекст: до 256 тыс. токенов.
Лицензия: Modified MIT. Русский язык: хорошо.
Веса: Hugging Face (moonshotai/Kimi-K2.6), файлы GGUF для llama.cpp; в библиотеке Ollama модели нет.

Сколько видеопамяти нужно одному пользователю — веса, кэш контекста в 8 битах и служебная память:

Сжатие	Файл модели	Видеопамяти с окном 32 тыс. токенов	С окном 128 тыс.
UD-Q4_K_XL (4 бита)	632 ГБ	653 ГБ	657 ГБ

Модель выпущена в INT4; на Hugging Face есть только 4-битный файл UD-Q4_K_XL, близкий к родному формату. Q6 и Q8 для неё не выпускают.

Готовые сборки. Ссылка откроет конфигуратор со сборкой из деталей в наличии и ценой на сегодня; уровень и корпус там можно поменять.

Уровень	Что заложено	Нужно	Подойдёт	Готовая сборка
Экономично	модель в оперативной памяти сервера (EPYC или Xeon 6, все каналы DDR5) + видеокарта под общие слои и кэш	ОЗУ 715 ГБ + карта 37 ГБ	сервер на EPYC или Xeon 6 + карта от 37 ГБ	башня · в стойку
Сбалансировано	4 бита (UD-Q4_K_XL) целиком в видеопамяти, окно 64 тыс. токенов, 1 пользователь	654 ГБ	8 × 96 ГБ	в стойку
С запасом	4 бита (UD-Q4_K_XL) целиком в видеопамяти, 4 пользователя по 32 тыс. токенов (vLLM)	730 ГБ	8 × 96 ГБ	в стойку

Как мы считаем видеопамять

Видеопамять = файл модели + проектор картинок (у моделей, которые видят изображения) + кэш контекста в 8 битах + 1 ГБ служебной памяти + 3 % от весов. Кэш растёт с длиной окна и числом одновременных пользователей; для нескольких пользователей (vLLM) берём ещё 10 % запаса. Расчёт сверен с нашим ИИ-сервером: для Qwen 3.8 27B в Q4 формула даёт 20 ГБ, замер — 17,5 ГБ; для Gemma 4 31B QAT — 22 и 19,2 ГБ, то есть с запасом. Если модель не помещается в видеопамять целиком, часть слоёв уходит в оперативную память и ответ замедляется в разы.

Чем запускать

Ollama и LM Studio — проще всего начать, работают на Windows и Linux. llama.cpp — гибкая работа с файлами GGUF, в том числе модель в оперативной памяти с выносом общих слоёв на видеокарту (--n-cpu-moe). vLLM — для нескольких пользователей сразу и для нескольких видеокарт (тензорный параллелизм, поэтому карт 1, 2, 4 или 8). Для больших моделей в оперативной памяти — также ktransformers.

Частые вопросы

Можно ли запустить Kimi K2.6 у себя?

Да, веса открыты (Modified MIT). Нужно около 715 ГБ оперативной памяти и видеокарта от 37 ГБ (в сборке — 48 ГБ) или около 654 ГБ видеопамяти — восемь RTX PRO 6000 Blackwell по 96 ГБ.

Почему у Kimi K2.6 нет версии Q8?

Эксперты модели выпущены в 4 битах (INT4) — это родной формат, 8-битной версии нет. Поэтому уровень «С запасом» — те же веса, но запас памяти под четырёх пользователей (около 730 ГБ).

Сколько оперативной памяти ставить?

Больше 715 ГБ: файл модели плюс запас. Важен не только объём, но и число каналов — заполняйте все каналы DDR5 процессора, от этого зависит скорость ответа.

Сколько стоит сервер для Kimi K2.6?

Цена зависит от модели, уровня и корпуса и меняется вместе с ценами видеокарт, поэтому в тексте её нет. Нажмите ссылку на сборку — конфигуратор покажет состав и цену на сегодня из деталей в наличии; там же можно сменить уровень, корпус или любую деталь.

Сколько времени занимает сборка и доставка?

Собираем из деталей в наличии и тестируем за 4–5 дней после оплаты. Доставка по России бесплатная — до адреса, со страховкой.

Как оплатить и какая гарантия?

Безналичный расчёт по договору, цены с НДС — работаем с юридическими лицами. Гарантия — 1 год на сервер и комплектующие.