Словарь ИИ
Что такое технологическая сингулярность
Коротко
Технологическая сингулярность это гипотетический момент, после которого ИИ начнет сам ускорять собственное развитие так быстро, что дальнейший ход событий станет непредсказуемым для людей.
Основы ИИ · technological singularity
Михаил МозгПроверено: 1 минута чтения
Ребенку
Представь снежный ком, который катится с горки. Сначала он маленький, но с каждым оборотом налипает больше снега, и ком растет все быстрее. Некоторые ученые думают, что умные машины однажды начнут сами делать еще более умные машины, и все закрутится так же стремительно. Никто не знает, случится ли это на самом деле.
Простыми словами
Идея такая: если создать ИИ умнее человека, он сможет сам разработать следующий, еще более сильный. Тот сделает следующий, и каждый шаг будет короче предыдущего. Развитие технологий пойдет не постепенно, а взрывом, и предсказать мир после этой точки станет невозможно, как невозможно заглянуть за горизонт. Слово взяли из математики и физики, где сингулярностью называют точку, в которой привычные формулы перестают работать. Одни считают такой сценарий близким, другие называют его фантастикой и указывают на физические и экономические пределы роста.
Для бизнеса
Для компании сингулярность не пункт бюджета, а фон, на котором инвесторы и поставщики продают ожидания. Громкие прогнозы влияют на оценку стартапов, цены на вычисления и решения конкурентов о найме. Трезвая позиция руководителя: следить за реальными возможностями моделей по кварталам, а не по манифестам, и строить системы так, чтобы новую модель можно было подключить без переделки процессов. Тогда быстрый прогресс превращается в выгоду, а не в угрозу устаревания. Риск обратный: отложить внедрение в ожидании «большого скачка» и отстать от рынка. Как перестраивать крупную компанию под быстро меняющиеся инструменты, описывает годовая программа ИИ-трансформации.
Для специалиста
Термин популяризировал В. Виндж в докладе «The Coming Technological Singularity: How to Survive in the Post-Human Era» на симпозиуме VISION-21 (NASA Lewis Research Center, 1993). Он писал, что технические средства для создания сверхчеловеческого интеллекта появятся в ближайшие тридцать лет, и удивился бы, если бы это произошло раньше 2005 или позже 2030 года. Пути к нему, по Винджу: сверхчеловеческий ИИ, сети компьютеров, интерфейсы человек-компьютер и биологическое усиление интеллекта. Механизм опирается на идею И. Дж. Гуда (1965) о взрыве интеллекта (intelligence explosion): ультраразумная машина (ultraintelligent machine) проектирует еще более совершенные машины. Критики отмечают, что рекурсивное самосовершенствование (recursive self-improvement) упирается в пределы вычислений, данных и энергии, а законы масштабирования (scaling laws) описывают рост качества как степенную, а не взрывную функцию от ресурсов. Тема тесно связана с исследованиями безопасности ИИ и контроля над системами сильнее человека.
Пример
На отраслевой конференции спикер обещает, что скоро ИИ сделает ненужными все профессии. Финансовый директор в ответ просит аналитиков показать, какие задачи модели уже решают в компании сегодня и сколько это экономит, и строит план от этих цифр.
Связанные термины
Вопросы и ответы
Что такое сингулярность простыми словами?
Когда наступит технологическая сингулярность?
Источники
Где это применяют в компании
Не уверены, нужно ли это вашей компании?
Карта ИИ-решений