Искусственный Суперинтеллект недостижим, как горизонт

 Искусственный Суперинтеллект недостижим, как горизонт

Всему человечеству потребовалось бы тысячелетия ручного труда, чтобы произвести всего один ответ GPT-5.
В романе Лю Цысиня "Задача трёх тел" есть завораживающая сцена: китайский император Цинь Шихуанди создаёт компьютер из 30 млн солдат. Каждый воин – живой транзистор, поднимающий флаг для единицы, опускающий для нуля. Армия функционирует как гигантский компьютер, медленно, мучительно рассчитывающий орбиты небесных тел. Это художественная гипербола – весь Китай той эпохи насчитывал лишь 20–30 млн душ – но метафора поразительно точна.

Когда мы говорим об искусственном суперинтеллекте (ASI), обычно подразумеваем систему, превосходящую совокупный интеллект всего человечества.
•  Но что это означает?
•  Какого человечества – императора Цинь Шихуанди, наших современников, или людей 2125 года?

Возьмём конкретный пример.
GPT-1, относительно скромная модель 2018 года со 117 млн параметров, потребовала бы для ручного воспроизведения около 2 тыс томов для записи всех весов и примерно сто человеко-лет работы для генерации одного токена текста. Амбициозно, но не абсурдно – примерно как строительство средневекового собора.
Теперь экстраполируем к GPT-5. По оценкам, модель может содержать около 15 трлн параметров. Чтобы записать все веса, понадобилось бы примерно 200 млн книжных томов – примерно 12 Библиотек Конгресса. Но истинная бездна раскрывается в вычислениях.
Для генерации всего 1токена GPT-5 требуется около 30 квадрлн математических операций. Если мобилизовать всё население Земли – 8 миллиардов человек – в гигантский человеческий компьютер, где каждый выполняет арифметические операции карандашом на бумаге, нам понадобилось бы примерно 4 месяца непрерывной работы для производства 1 токена. Средний ответ в сто токенов потребовал бы около трёх млрд человеко-лет – больше, чем существует род Homo на планете.
Один современный датацентр выполняет за секунды то, на что всему человечеству потребовались бы тысячелетия ручного труда. Через десять лет один чип может обладать такой же мощностью.

Здесь проявляется фундаментальный фазовый переход – от биологического субстрата вычислений к кремниевому.

Это не просто количественное ускорение, это качественный скачок в организации материи для обработки информации. Нейроны работают на миллисекундах, транзисторы – на наносекундах. Разница в миллион раз создаёт пропасть между возможным и невозможным.

И здесь кроется парадокс определения ASI.
Мы говорим "превосходит человечество", но вычислительная мощность цивилизации растёт экспоненциально. GPT-4 уже превосходит всё, что человечество 1950 года могло бы вычислить за столетия.
•  Значит ли это, что мы уже создали суперинтеллект относительно прошлого человечества?
•  А если нет, то почему будущий ASI будет суперинтеллектом относительно нас?
Определение ASI как "превосходящего человечество" оказывается движущейся мишенью, удаляющейся целью, которая отодвигается по мере технологического прогресса. Возможно, более честным было бы признать: Мы не ищем систему умнее нас. Мы ищем систему умнее нас настолько, насколько мы умнее императора с его тридцатью миллионами солдат и флагами. И когда мы её создадим, мерить её нашими мерками будет так же наивно, как измерять квантовый компьютер армией людей с абаками.

Резюмируя, скажем так:

суперинтеллект – это не пункт назначения; это горизонт, открывающийся человечеству в процессе технологического восхождения.

#ASI

_______
Источник | #theworldisnoteasy