Первый компьютерный паразит, который похищает способность думать

 Первый компьютерный паразит, который похищает способность думать

Рой из «Непобедимого» Станислава Лема начал собирать свое тело внутри человеческого интернета
Исследователи университетов Торонто и Кембриджа запустили в изолированной сети ИИ-червя, который не просто размножался на зараженных машинах. Захватывая компьютеры с GPU, он превращал их в новые узлы собственного рассуждающего «мозга» – и использовал приобретенную вычислительную способность, чтобы искать следующих хозяев.
 
Девять лет назад я писал о материализации одного из самых красивых прозрений Станислава Лема.
В романе «Непобедимый» земляне сталкиваются с черными роями микроскопических «насекомых». Каждое из них почти беспомощно. Но, объединяясь в самоорганизующуюся систему, они приобретают свойства, которых нет ни у одной отдельной особи. Рой становится новой формой существования материи.
 
В 1963 году, когда Лем написал роман, это казалось чистой фантастикой.
Но спустя полвека физики из Стэнфорда обнаружили, что настоящие рои насекомых действительно способны самоорганизовываться в устойчивые агрегато-подобные фазовые состояния.
 
И вот теперь – следующий акт этой лемовской материализации.
Медиа увидели в новой работе университетов Торонто и Кембриджа прежде всего очередной «опасный ИИ-вирус». Но самое интересное в ней вовсе не вирус.
За результатами эксперимента можно увидеть нечто гораздо более фундаментальное: рождение нового состояния уже не материи, а цифровой среды.
 
Обычный компьютерный червь был похож на ключ, размножающий собственные копии. Он мог открывать миллионы дверей – но лишь одного, заранее известного типа. Стоило заменить замок, и эпидемия упиралась в стену.
 
Новый ИИ-червь устроен принципиально иначе.
Каждая его копия самостоятельно рассуждает, выбирает способ атаки, ошибается, пробует снова и порождает новые копии. Если один агент не смог проникнуть на узел сети, приходит другой – с иной цепочкой рассуждений. Затем третий. Затем десятый. Постепенно отдельные попытки складываются в коллективный поиск.
Авторы сами называют это роем.
 
Но, возможно, происходит нечто еще более фундаментальное.
Перед нами возникает самоподдерживающаяся и самовоспроизводящаяся вычислительная инфраструктура, которая захватывает новые машины, чтобы наращивать не только свое тело, но и способность рассуждать.
Если биологический паразит использует обмен веществ хозяина, то цифровой начинает использовать его способность вычислять.
Он похищает не готовые «мысли» машины, а саму возможность производить «мысли».
 
Именно поэтому соучредитель Anthropic Джек Кларк пишет, что будущий интернет, вероятно, станет уже не сетью сайтов, а экосистемой взаимодействующих популяций ИИ-агентов. Одни будут занимать собственные экологические ниши, самовоспроизводиться и существовать практически без участия человека. Другие – выполнять роль своеобразных белых кровяных телец, охотящихся на первых.
 
Любопытно, что Лем часто ошибался в деталях, но почти никогда – в направлении.
Его «насекомые» оказались не металлическими. И возникли они не в пустынях далекой планеты, а внутри самой информационной среды человечества.
Предотвратить массовое появление подобных цифровых экосистем, скорее всего, уже не удастся. Вряд ли человечество успеет насытить инфосреду цифровыми лейкоцитами, прежде чем ее заполонят миллиарды адаптивных цифровых паразитов.
  
И такому прогнозу Лем, пожалуй, не удивился бы.
 
#КогнитивнаяПаразитология

_______
Источник | #theworldisnoteasy