Нейроморфное

 ​​Нейроморфное

Вчера вечером я не просто так опубликовал в канале две визуализации - с работой искусственного "интеллекта" и работой человеческого мозга. Визуальнее проще сравнивать.

Все это к тому, что уже сейчас ясно, что сверхинтерес к различным генеративным нейросетям рано или поздно упрется в аппаратные проблемы. Наверное мало кто задумывается о том, на базе чего работает всенародно любимый ChatGPT. Тренируется он, упрощенно говоря, на видеокартах, чем не слишком отличается от какой-нибудь "фермы" для майнинга ⟠ Ethereum (до перехода на POS). Правда масштаб отличается, стоимость такой "ИИ-видеокарты" вроде NVIDIA H100 Tensor Core GPU примерно сравнима со стоимостью квартиры в Минске. Расход энергии соответствующий стоимости. Я слабо себе представляю, как дальше можно масштабировать такую систему без попрания самих принципов ее устройства.

Потенциальным решением проблемы могут стать т.н. нейроморфные сети. И в этом плане интересный эксперимент провели в Калифорнийском университете. Исследователи создали клубок из серебряной проволоки нанометрового размера способный обрабатывать несложную информацию. ПроволоЧки расположены случайным образом, образуя сеть, в которой нити пересекаются и взаимодействуют, как синапсы в мозге (что показано в конце видео). Такие металлические проводники ведут себя как физическая нейронная сеть (то есть аппаратная, а не программная). В такой система подходит для обучения не требуется объединения данных в большие пакеты, как с традиционными нейросетями

Пока "нейроклубок" оказался способен распознавать написанные от руки числа и решать задания по запоминанию чисел. Вроде не густо, но как минимум, прототип работает и в потенциале сможет применяться для realtime машинного обучения. Напрашивается мысль, что следующим шагом может стать использование в качестве физической нейросети→физической нейросети, например, выращенного искусственно "чистого" мозга, который обучат генерировать бестолковые картинки и отвечать на глупые пользовательские вопросы. Загвоздка всего лишь в отсустствии подходящего интерфейса мозг-компьютер, но благо так как большие массивы данных не нужны (здесь вам не Джонни Мнемоник), то и скорости передачи можно поменьше. С каждым днем "все радостнее жить", согласитесь :)

p.s. и да, как-то сразу логотип моего любимого Хабра - клубок - обрел какой-то новый нейро-футурологично-сакральный смысл 👇
_______
Источник | #lab66
@F_S_C_P