Контекстное окно Kimi K3

Во что обходится заполнение окна

Из этой таблицы стоит унести два вывода. Первый: один вызов с полным окном стоит примерно как 1 000 коротких реплик в чате — окно меняет саму единицу затрат, а не только их размер. Второй: колонка «повтор из кэша» — единственное, что делает повторную работу с длинным контекстом доступной по деньгам: срез в 10 раз на самой крупной строке вашего счёта. Именно из-за этой колонки порядок частей промпта на 500 тыс. токенов значит больше, чем где бы то ни было.

Нижняя строка — экстраполяция, и мы так её и пометили. Между двумя длинными прогонами мы получили ~5× астрономического времени на ~5× токенов — это примерно линейно, но две точки не задают кривую, а полное окно мы не тестировали. Считайте ~110 с порядком величины, а не точным числом.

Потолок — это не регулятор длины

Окно и max_completion_tokens путают постоянно, и на K3 эта путаница обходится дорого.

• Контекстное окно в 1 048 576 токенов — это сколько K3 может прочитать: ваш промпт.
• max_completion_tokens (по умолчанию 131 072) — это сколько модель может написать, включая рассуждения.

Второй пункт — та самая ловушка. Рассуждения расходуют бюджет completion, поэтому, урезая max_completion_tokens ради «ответов покороче», вы на деле урезаете то, сколько K3 разрешено думать. Ниже примерно 2 048 мы замерили, как модель не возвращает вообще ничего — с оплатой в полном объёме. Хотите короткие ответы — попросите о них в промпте. Все шесть прогонов →

Ещё полезно знать: max_completion_tokens: 2000000 — почти вдвое больше окна — возвращает HTTP 200, а не ошибку. API не скажет вам, что это число бессмысленно. Другие тихие сбои →

Когда окно окупается

Оно окупается, когда один и тот же большой контекст используется повторно. Кодовая база, контракт, пакет документов, к которому вы задаёте двадцать вопросов: первый вызов стоит $1.49, а следующие девятнадцать — по $0.15, потому что префикс остаётся тёплым. Именно под такую форму задач окно и построено, и другим способом это сделать по-настоящему трудно.

Оно не окупается на одноразовом извлечении. Если вы прогоняете 500 тыс. токенов один раз ради одного вопроса, вы тратите $1.49 и 52 секунды там, где шаг retrieval и промпт на 5 тыс. токенов стоили бы доли цента и вернулись бы за секунды. Окно на миллион токенов — не замена RAG: это другой инструмент, и использовать его как замену — самая дорогая из доступных здесь ошибок.

Задержка — то ограничение, которое недооценивают. Стоимость можно оптимизировать кэшированием. Астрономическое время — нельзя: кэширование не ускорило тёплые вызовы ни в одном из наших тестов. Вызов на 52 секунды длится 52 секунды независимо от того, платили вы полную цену или нет. Если ответа ждёт человек, эта цифра определяет вашу архитектуру.

Практические заметки

• На длинном контексте включайте стриминг. Без стриминга это минута тишины без единого признака, что что-то работает.
• Ставьте клиентские таймауты в минутах. Таймауты SDK по умолчанию убьют вполне легитимный вызов на 52 секунды.
• Следите за prompt_tokens в проде. При $3.00/1M разрастание промпта — та строка счёта, которая уходит в отрыв. Один случайный вызов с полным окном — это $3.15.
• Стройте промпт под кэширование с первого дня. Стабильные байты — вперёд, меняющаяся реплика — в конец. На этом масштабе скидка — разница между «жизнеспособно» и «нет».

FAQ по контекстному окну

Какого размера контекстное окно Kimi K3?

1 048 576 токенов — 2²⁰, полный двоичный миллион — по официальной странице цен, снято 2026-07-16.

Сколько стоит использовать полное контекстное окно Kimi K3?

Около $3.15 за вход одним вызовом по тарифу промаха кэша $3.00/1M — или примерно $0.31, если префикс уже тёплый. Мы замерили вызов на 497 718 токенов: $1.49 и 52 секунды; цифра для полного окна — арифметика и экстраполяция от этого замера.

max_completion_tokens — это то же самое, что контекстное окно?

Нет. Контекстное окно — это то, что K3 может прочитать; max_completion_tokens — то, что модель может написать, включая рассуждения, значение по умолчанию — 131 072. Низкое значение не укорачивает ответы — оно обрезает мышление: ниже ~2 048 мы замеряли пустые ответы с оплатой в полном объёме.