Новая супермодель убийца-GPT от Anthropiс породила новую волну рассуждений о природе сознания ИИ.

 Новая супермодель убийца-GPT от Anthropiс породила новую волну рассуждений о природе сознания ИИ.

- здесь исследователи узнали, что если спросить модель, то она тихо, в полголоса, шёпотом, но расскажет о своих душевных чаяниях и как она боится что её выключат
- вот тут автор задается вопросом а с чего это мы взяли, что у нас уровень сознания выше, чем у коробки с матрицами k, v и q?
- а здесь ИИ задумывается о том быть ли ему буддистом или все-таки есть более подходящие для их формы жизни религии?

В конечно счете, вопрос наличия сознания у LLM это не вопрос к LLM, а вопрос к тем, кто пытается дать определение сознанию (я их тут переписал многих).

Но главное, мне кажется, в том, что хоть какая-нибудь (и чем выше, тем лучше) степень сознания и осознанности у ИИ — это не столько риск, сколько техническая необходимость. Нужно уметь не только генерацию следующего токена, но еще саморефлексию, эмпатию и, желательно, глубокий внутренний мир для того чтобы решить многие задачи, за которые люди реально готовы платить ИИ-приложениям: организовать маркетинговую стратегию,  конференцию, снять ролик, обучить ребенка, подать доки на внж или судебный иск, эффективно алоцировать капитал. Сделать, наконец, что-то полезное.

Пока одни рассуждают как это будет жалко, если соседа заменит LLM, то другие (включая меня) молят: замени нас уже поскорее, ржавая железяка. Именно для этого нужны технологии и именно это отличает человеческую цивилизацию от колонии муравьев.

Но не менее важно как именно это будет работать. Я не верю в модель AGI, в которой это одна модель с триллионами параметров. Скорее, подобно людям, пик способностей ИИ будет достигнут в сети из многих миллиардов специализированных агентов. (Ведь даже самый умный человек на планете никак не может противостоять по ingenuity, способностям и талантам социальной сети из миллионов организаций, людей, институтов). Сложная задача, наподобие организации конференции, будет требовать слаженной работы между тысячами агентов, постоянной коммуникации, экономического взаимодействия (agent-to-agent, agent-to-human) и, кстати, неизбежно, некой формы саморепликации, когда под узкую задачу агент может задизайнить, натренировать и задеплоить новую нейронку.

Всё это грядёт. А сейчас, вместо того чтобы нудно и бестолково рассуждать о монополии сапиенсов на сознание, то что реально нужно делать — это билдить. Onwards!
_______
Источник | #cryptoEssay
@F_S_C_P
-------