Термины на букву Л

Латентность это задержка между запросом к модели и ответом: сколько ждать первого слова и сколько времени уходит на весь ответ.

Лимит запросов (rate limit) это ограничение, сколько запросов и токенов программа может отправить облачной нейросети за минуту или другой отрезок времени.

Логиты это необработанные числовые оценки, которые модель выдает каждому возможному варианту ответа, например каждому токену словаря, до превращения их в вероятности.

Локальная модель это нейросеть, которая работает на вашем компьютере или сервере, а не в облаке поставщика, поэтому данные никуда не уходят.

Лян Вэньфэн это основатель китайской компании DeepSeek, которая выпускает языковые модели с открытыми весами.