Новый день — новые откровения от апостола нашего Сэма Альтмана.

 Новый день — новые откровения от апостола нашего Сэма Альтмана. Гендиректор OpenAI поучаствовал в очередной серии подкаста Лекса Фридмана и рассказал о последних событиях из своей жизни, развитии AGI и планах компании на ближайшее будущее. Рассказываем о главном:

1️⃣ Конфликт с Маском

Илон Маск подал на OpenAI в суд, обвинив компанию в том, что она предала и «исказила» цели и задачи, которые ставились при ее основании в 2015 году. Теперь ситуацию прокомментировал лично Альтман. Глава OpenAI заметил, что с момента основания компания прошла долгий путь от исследовательской организации до совершенно новой структуры — с другими целями и задачами.

Компания до сих пор не размещает рекламу и предоставляет бесплатный доступ к ChatGPT 3.5 для всех пользователей. А слово open в названии Альтман не считает обязывающим к публикации всех материалов о работе OpenAI.

Альтман также отметил, что пути Маска и OpenAI разошлись из-за действий самого предпринимателя, который в одно время хотел добиться слияния компании с Tesla. При этом глава OpenAI сказал, что до сих пор уважает Маска как одного из «главных строителей нашего времени».

2️⃣ Проблемы с советом директоров OpenAI

Прошлой осенью совет директоров попытался отстранить руководителя компании — но вернул его обратно после большого скандала.

По словам самого Альтмана, он был даже рад тому, что конфликт интересов произошёл именно сейчас, ведь ему удалось увидеть слабые стороны в действующей структуре управления. Обычно совет директоров подотчётен акционерам, но в случае с OpenAI они оказались неподконтрольны никому.

Теперь Альтман считает, что в идеальной картине мира совет директоров OpenAI должен быть подотчётен «миру». На практике он пока применять это не готов и в ответ на кризис лишь изменил состав совета, добавив в него, например, Ларри Саммерса — американского экономиста и президента Гарвардского университета.

3️⃣ Путь к AGI

Альтман считает, что компания, которая первой сможет создать настоящий искусственный интеллект, получит огромное влияние. Но с большой силой приходит и большая ответственность — поэтому глава OpenAI предлагает создать что-то вроде коллективной системы безопасности, в которой за контроль за развитием AGI будут отвечать коллективные структуры.

При этом сам Альтман утверждает, что ни он, ни Илья Суцкевер пока не видели настоящего AGI «вживую». По оценке главы OpenAI, развитие ИИ должно идти итерациями — чтобы общество и разработчики могли адаптироваться к изменениям.

4️⃣ Потенциал Sora и выплаты криэйторам

Нейросеть, способная генерировать видео на новом уровне, произвела настоящий фурор в интернете. В интервью Альтман отметил, что Sora достаточно хорошо справляется с обработкой сложных сцен, но говорить о том, что в основе инструмента лежит 3D-модель мира, было бы преувеличением.

Глава OpenAI не обошёл стороной и вопрос вознаграждения для создателей контента, материалы которых нейросети используют для обучения. Компания уже столкнулась с рядом судебных исков, и Альтман считает, что криэйторы действительно заслуживают вознаграждения. Но конкретную модель выплат он предложить не готов.

5️⃣ Источники энергии и новая ценность

По мнению Альтмана, ключевым источником энергии для вычислительных потребностей ИИ в ближайшем будущем может стать ядерный и термоядерный синтез. Сами вычислительные мощности при этом станут самым ценным товаром мира.

6️⃣ Безопасность и предвзятость

Альтман считает, что компании должны учитывать, как их разработки в направлении AGI могут повлиять на общество, а сам бизнес должен стремиться к прозрачности и открытости своих моделей и их поведения. Это становится особенно актуальным в условиях, когда уже в ближайшем будущем нас могут ждать появление полноценных человекоподобных роботов. AGI должно стать частью общей концепции развития этих направлений.

Глава OpenAI также отметил, что компании могут контролировать предвзятость в  <...>
_______
Источник | #antidigital
@F_S_C_P