ChatGPT не ищет ответ в базе данных и не понимает вопрос в человеческом смысле. Он предсказывает следующий токен, потом ещё один, потом ещё — пока не наберётся связный текст. Каждый шаг занимает доли секунды, но шагов может быть несколько сотен подряд.
ЭКСПЕРТИЗА №2: КАК РАБОТАЕТ CHATGPT
Изделие уже было знакомо Полигону по прошлой экспертизе — там устанавливали, что оно такое. В этот раз задача другая: установить, что именно происходит в момент, когда человек нажимает «отправить».
Комиссия начала с самого вопроса. Промпт — так его называют по протоколу — поступает в систему целиком, но система не читает его, как читает человек, слева направо, вникая в смысл. Она разбивает его на токены и превращает каждый в число. К обеду комиссия признала: то, что выглядит как «понимание вопроса», на самом деле является подготовкой к следующему шагу, и только к нему.
Следующий шаг — самый важный во всём протоколе. Модель не ищет готовый ответ. Она вычисляет, какой токен статистически наиболее вероятен следующим, добавляет его к тексту, а затем повторяет всю процедуру заново — уже с учётом нового токена. Комиссия сверилась с секундомером: одно слово может состоять из нескольких таких шагов, а целый ответ — из нескольких сотен. Всё это происходит быстрее, чем инспектор успевает моргнуть, и от этого выглядит как одна мысль. Протокол настаивает: мыслей не было, был только повторяющийся расчёт.
Комиссия спросила, откуда модель знает, где остановиться. Модель, если бы её спросили напрямую, ответила бы то же самое, что уже вычислила бы на этом шаге — она не «решает» закончить, она просто в какой-то момент предсказывает токен, означающий конец. Заседание сочло это ответом достаточным и перешло к следующему пункту.
Пункт «память» вызвал у комиссии особый интерес. Модель не запоминает предыдущий диалог в человеческом смысле — она видит всю переписку целиком заново на каждом шаге, как будто читает её впервые, но целиком. Стоит переписке стать слишком длинной, самое старое просто перестаёт помещаться в поле зрения и выпадает из расчёта — без предупреждения и без сожаления.
Дело дошло до пункта, из-за которого один инспектор потребовал перерыва: почему на один и тот же вопрос модель иногда отвечает по-разному? Разгадка оказалась скучнее, чем ожидалось. На каждом шаге модель не всегда берёт самый вероятный токен — иногда она берёт один из нескольких вероятных, случайным образом, с заданной степенью риска. Инспектор назвал это «управляемой непредсказуемостью» и потребовал, чтобы формулировку внесли в протокол именно так, без сокращений.
Комиссия зафиксировала: за время испытания модель обработала 340 токенов запроса и вернула 512 токенов ответа, ни разу не обратившись ни к одной внешней базе данных — только к тому, что уже было сжато в неё во время обучения.
ВЫВОД ЭКСПЕРТА: ChatGPT формирует ответ токен за токеном, предсказывая каждый следующий на основе всего текста диалога, увиденного до этого момента, а не подбирая готовый ответ из хранилища. Именно это объясняет три его особенности разом: почему ответ строится не мгновенно, а как бы «печатается» шаг за шагом; почему очень длинный диалог начинает терять ранние детали; и почему один и тот же вопрос иногда даёт разные, но одинаково правдоподобные ответы.
Комиссия закрыла заседание. Изделие в этот момент как раз заканчивало отвечать кому-то другому.
Данные на 01.08.2026
Вопросы и ответы
ChatGPT помнит предыдущие сообщения в диалоге?
В пределах одного разговора — да, потому что видит всю историю переписки заново на каждом шаге. Между разными разговорами — нет, если это не включено отдельно.
Модель обращается в интернет за ответом?
Нет, если это не встроено как отдельная функция. По умолчанию она отвечает только на основе того, что было в неё заложено во время обучения.
Почему один и тот же вопрос иногда даёт разные ответы?
Потому что на каждом шаге модель выбирает не только самый вероятный токен, но иногда один из нескольких вероятных — с заданной долей случайности.
Что такое «контекстное окно»?
Ограничение на объём текста, который модель видит одновременно. Всё, что не помещается в это окно, перестаёт учитываться в расчёте.
Смежные дела
Что такое нейросеть простыми словами — Экспертиза №1
Нейросеть — компьютерная программа, которая учится находить закономерности в данных, а не выполняет заранее прописанный список команд. Она не «думает» в человеческом смысле: она подбирает наиболее вероятный ответ на основе миллиардов примеров, увиденных при обучении. Слово «нейро» — дань уважения нейронам мозга, а не буквальное сходство: связи внутри сети — это просто числа, которые меняются во время обучения.