Термин глоссария

Токен (token)

Токен — это кусочек текста, которым ИИ измеряет объём: примерно слово или часть слова. В токенах считают, сколько помещается в контекст и сколько стоит запрос. Грубо: чем больше текста — тем больше токенов.

Знать про токены полезно по двум причинам. Во-первых, у контекста есть предел в токенах — когда он заполняется, старое «выпадает». Во-вторых, оплата по API считается за токены: и за то, что вы отправили, и за то, что модель ответила.

Подробно в статьях

Связанные термины