Словарь ИИ

Что такое закон Мура

Коротко

Закон Мура это наблюдение Гордона Мура о том, что число транзисторов на микросхеме удваивается примерно каждые два года.

История ИИ · Moore's law

Михаил МозгПроверено: 16 октября 20261 минута чтения

Ребенку

Представь, что твой набор конструктора каждые пару лет сам становится вдвое больше, а коробка остается того же размера. Детали просто делаются все мельче. С компьютерными чипами долго происходило похожее. Поэтому телефон в твоем кармане умеет больше, чем огромные машины, которые раньше занимали целую комнату.

Простыми словами

В 1965 году инженер Гордон Мур заметил, что количество элементов на одной микросхеме растет очень быстро и равномерно, и предположил, что так будет и дальше. Через десять лет он уточнил темп: удвоение примерно раз в два года. Предсказание стало ориентиром для всей отрасли, а другие назвали его законом, хотя это не закон природы, а наблюдение. Благодаря такому росту компьютеры дешевели и ускорялись, и в какой-то момент их мощности хватило, чтобы обучать большие нейросети.

Для бизнеса

Для бизнеса это правило долго было скрытым союзником: то, что сегодня дорого считать, через пару лет становилось дешевле. С ИИ расчет работает не напрямую. Вычисления на обучение крупных моделей растут намного быстрее, чем дешевеют чипы, поэтому передовые модели остаются дорогими. Зато запуск готовой модели на своем сервере с новыми поколениями оборудования обходится дешевле. Практический вывод: не покупайте технику с огромным запасом на годы вперед, считайте окупаемость на горизонте одного поколения видеокарт и сравнивайте ее со стоимостью облака. Такой расчет удобно сделать по нашему разбору видеокарт для ИИ.

Для специалиста

Гордон Мур, тогда директор по исследованиям Fairchild Semiconductor, опубликовал статью «Cramming more components onto integrated circuits» в журнале Electronics 19 апреля 1965 года. По пяти точкам 1959-1964 годов он экстраполировал удвоение числа компонентов каждые 12 месяцев и около 65 000 компонентов на кристалле к 1975 году. В 1975 году на конференции IEEE International Electron Devices Meeting Мур пересмотрел темп до удвоения раз в два года; название «закон Мура» предложил Карвер Мид (Carver Mead). Позже Мур стал одним из основателей Intel. Для машинного обучения важна связь с вычислениями на обучение (training compute): по оценке Sevilla и соавторов (2022), до 2010 года они удваивались примерно раз в 20 месяцев, в ногу с законом Мура, а в эпоху глубокого обучения примерно раз в 6 месяцев. Разрыв закрывают параллелизмом: кластерами GPU и специализированными ускорителями.

Пример

Компания выбирает между покупкой сервера с восемью видеокартами и арендой в облаке. Финансовый директор просит считать окупаемость за срок жизни одного поколения карт: через несколько лет та же задача будет стоить заметно дешевле на новом оборудовании.

Связанные термины

Вопросы и ответы

Кто сформулировал закон Мура и когда?

Гордон Мур описал тенденцию в статье журнала Electronics 19 апреля 1965 года, тогда он руководил исследованиями в Fairchild Semiconductor. В 1975 году он уточнил темп: удвоение примерно раз в два года.

Как закон Мура связан с ИИ?

Рост мощности чипов сделал возможным обучение больших нейросетей. Но вычисления на обучение моделей с начала 2010-х растут намного быстрее закона Мура, поэтому их добирают числом ускорителей, а не только новыми чипами.

Источники

Где это применяют в компании

Видеокарты для ИИ: память, потребление и цены в России

Не уверены, нужно ли это вашей компании?

Карта ИИ-решений