Словарь ИИ

Что такое FLOPS

Коротко

FLOPS (floating point operations per second) это число операций с плавающей точкой в секунду, мера вычислительной мощности процессоров и видеокарт для нейросетей.

Инфраструктура · FLOPS

Михаил МозгПроверено: 16 октября 20261 минута чтения

Ребенку

Представь соревнование по устному счету: кто решит больше примеров за минуту. Один ученик решает десять, другой тридцать. Компьютеры тоже соревнуются, только решают миллиарды примеров каждую секунду. Число таких решенных примеров за секунду и показывает, насколько машина сильна в счете. Чем больше это число, тем быстрее она учит и запускает умных помощников.

Простыми словами

Внутри нейросети почти все сводится к умножению и сложению дробных чисел. Каждое такое действие называют операцией с плавающей точкой. Если посчитать, сколько их чип делает за секунду, получится его мощность. Цифры огромные, поэтому используют приставки: терафлопс это триллион операций в секунду, петафлопс в тысячу раз больше. Похожей величиной меряют и объем работы: сколько всего операций ушло на обучение модели. Например, производители видеокарт пишут мощность в терафлопсах в характеристиках, а в отчетах о больших моделях указывают общий объем вычислений на обучение.

Для бизнеса

Объем вычислений задает бюджет обучения: часы аренды видеокарт умножаются на их мощность и реальную загрузку. Для языковых моделей есть ориентир из работы Kaplan и соавторов (2020): обучение требует примерно 6 операций на каждый параметр на каждый токен данных, поэтому стоимость растет и с размером модели, и с объемом корпуса. Пиковая мощность из паспорта не равна рабочей: чипы почти никогда не загружены полностью, а при запуске готовой модели скорость чаще упирается в память. Число операций попало и в регулирование: по Акту ЕС об ИИ модель общего назначения считается моделью с системным риском, если на ее обучение ушло больше 10 в 25 степени операций. Расчет вычислений под вашу задачу делают до аренды или покупки железа, на пилоте.

Для специалиста

FLOPS (floating point operations per second) измеряет скорость, а FLOP, или FLOPs со строчной s, обозначает количество операций; в литературе эти обозначения часто путают. Пиковую производительность ускорителя указывают отдельно для форматов FP64, FP32, TF32, BF16, FP16 и FP8, и цифры для низкой точности намного выше. Kaplan и соавторы (2020) оценивают вычисления на обучение как C ≈ 6N операций на токен, где N число параметров без эмбеддингов, а бюджеты выражают в PF-днях: 10^15 × 24 × 3600 ≈ 8,64 × 10^19 операций. Реальная загрузка железа на обучении заметно ниже пика, ее сравнивают долей полезных операций модели от паспортной мощности. Для инференса LLM важнее арифметическая интенсивность: декодирование читает все веса на каждый токен и упирается в память, а не в вычисления. Европейская комиссия связывает порог системного риска моделей общего назначения с 10^25 операций на обучение и допускает его пересмотр.

Пример

Лаборатория планирует дообучить открытую модель на своих отчетах. Инженер оценивает объем вычислений по числу параметров и токенов, делит его на реальную, а не паспортную мощность арендованных карт и получает срок обучения в часах, а с ним и бюджет.

Связанные термины

Вопросы и ответы

Что такое терафлопс?

Это триллион операций с плавающей точкой в секунду. В таких единицах обычно указывают мощность видеокарт и ускорителей, причем у одного чипа цифры для разных форматов чисел различаются.

Чем FLOPS отличается от FLOPs?

Заглавная S в конце означает операции в секунду, то есть скорость железа. Строчная s означает множественное число: общее количество операций, например объем вычислений, ушедший на обучение модели.

Источники

Где это применяют в компании

Сервер для нейросети: типовые конфигурации и цена в месяц

Не уверены, нужно ли это вашей компании?

Карта ИИ-решений