OpenAI, Meta*, Microsoft, Google, Amazon заключили соглашение

 OpenAI, Meta*, Microsoft, Google, Amazon заключили соглашение с администрацией Байдена о «предотвращении распространения вредоносных ИИ-моделей». Правда, юридической силы документ не имеет и является «добровольным обязательством».

‼️ Главное, о чём договорились члены администрации и разработчики — позволять экспертам проводить внешний аудит ИИ-продуктов компаний перед релизом, а также обмениваться информацией друг с другом и федеральным правительством о рисках и уязвимостях.

Внешний аудит потихоньку становится стандартом тестирования ИИ. Например, похожее требование содержится в масштабном законе ЕС о регулировании искусственного интеллекта.

Уже сейчас компании внедряют подход red-teaming (атака «красной команды») — когда внешние эксперты пытаются сломать модель, находящуюся в разработке, и по результатам такого теста публикуют отчёты. Этот подход уже используют Meta*, Google и OpenAI. 

Также компании пообещали:

➖ проверять модели на предвзятость ответов и дискриминацию;
➖ уделять внимание кибербезопасности и учитывать риски более широкого вреда для общества: например, угрозы конфиденциальности или биологические угрозы;
➖ сообщать пользователям об ограничениях своих моделей;
➖ информировать, что контент создан ИИ, в том числе ставить водяные знаки на сгенерированные изображения и видео.

Соглашение подписали не только OpenAI и представители big tech, но и стартапы. Например, на личной встрече с Джо Байденом были также CEO Anthropic (чат-бот, созданный выходцами из OpenAI) и Inflection (разработчик ИИ-ассистента).

Некоторые представители администрации Байдена расценили бум ИИ как «необдуманное первоначальное внедрение технологии». Вероятно, больше всего чиновники опасаются вмешательства ИИ в предвыборную кампанию 2024 года. Развитие ИИ они сравнивают с возникновением соцсетей: если тогда политики запоздали с регулированием, то теперь цель — удержать технологию под контролем.

💭 «Один из извлеченных уроков заключается в том, что мы должны двигаться быстро — мы не можем гнаться за этой технологией», — прокомментировал соглашение Джефф Зинтс, глава аппарата Белого дома.

Предполагается, что добровольное соглашение в будущем обретет форму федерального закона, обязательного к соблюдению, но конкретных сроков в Белом доме не назвали.

* Meta признана экстремистской в России

_______
Источник | #antidigital
@F_S_C_P