Вокруг использования ИИ

 Вокруг использования ИИ в разработке ядра Linux разгорается серьёзный конфликт.

Три дня назад в Технический консультативный совет ядра Linux был избран противник ИИ Лоран Пиншар.

Пиншар утверждает, что «использованию генеративного ИИ при разработке свободного и открытого ПО (FOSS) нет этического оправдания», а также что ИИ используется для "подрыва демократии".

Недавно его доклад для Open Source Summit под названием «Как мы можем противостоять генеративному ИИ» был отклонён.

После отказа Пиншар заявил, что "подумает над планом Б".

Судя по всему, план Б заключался в том, чтобы попасть в Технический консультативный совет.

Теперь Пиншар добивается принятия в Linux правил, ограничивающих использование ИИ.

Когда давний разработчик Linux Тед Цо спросил: "Какая разница, сгенерированы ли [качественные патчи] ИИ или нет?", Пиншар ответил: "Для меня есть".

«Есть небольшая группа очень активных давних мейнтейнеров, которые никогда особо не заботились о людях, работающих над ядром, и при этом проявляют огромный энтузиазм по отношению к LLM», — заявил Пиншар.

«Это уже почти вызывает отвращение», — добавил он.

Всё это происходит на фоне того, как в октябре доля патчей для ядра Linux, связанных с ИИ, превысила 20% от общего количества патчей

@linuxos_tg

DreamTeam

 🔥 DreamTeam набирает бойцов в клан! 💪

🎮 Игра: Gymscape Хочешь стать частью команды? Тогда присоединяйся! ✅ Как вступить: 🔎 Найди клан DreamTeam в поиске и отправь запрос на вступление. 💪 Минимальные требования: 🔟 Не менее 10 приседаний в день 🔟 Не менее 10 отжиманий в день 🚶 Не менее 5 000 шагов в день 🏆 Будь активным, развивайся и прокачивай себя вместе с DreamTeam! ⚡ DreamTeam — сила в команде! 🔥

Учёные объявили охоту за полярным сиянием

 Учёные объявили охоту за полярным сиянием

В России создают маленький спутник, который отправится на охоту за полярными сияниями. Его оснастят камерой для съёмки сияний и прибором «Светлана», который будет исследовать явление уже на физическом, невидимом для глаз и камер уровне. Прототип прибора собрали и испытали учёные МИФИ.

Полярные сияния возникают, когда заряженные частицы из космоса сталкиваются с газами в верхних слоях атмосферы и заставляют их светиться. «Светлана» будет измерять потоки особенно энергичных электронов, которые проникают в атмосферу из радиационных поясов Земли. Сопоставляя эти измерения со снимками сияний, учёные надеются лучше понять происходящие над полюсами процессы.

Внутри «Светланы» находится кристалл, который вспыхивает, когда в него попадает частица. Датчики улавливают свет и по яркости вспышки определяют, сколько энергии частица оставила в кристалле.Каждая вспышка длится меньше миллионной доли секунды, но электроника успевает её уловить. Над научной аппаратурой вместе с учёными работают студенты и школьники, бюджет проекта составляет 4,4 миллиона рублей. «Светлана» прошла первые лабораторные испытания, установить её на спутник планируют до конца 2026 года.

_______
Источник | #contentreview

Потрошители книг добрались до Японии

Потрошители книг добрались до Японии

В Японии скандал из-за ИИ. Японские издатели обнаружили, что один из крупнейших книжных дистрибьюторов страны, Nippan, в течение года продавал книги американской компании Anthropic, разработчику нейросети Claude. Издательства, чьи книги продавал дистрибьютор, уверяют, что были не в курсе происходящего и очень возмущены. Дистрибьютор же в свою очередь уверяет, что тоже был не в курсе, зачем ИИ-компании нужны эти книги. Словом, никто ничего не знал.

Масштабы явления меж тем впечатляют. Одному букинистическому магазину пришлось на несколько дней закрыться и нанять дополнительных сотрудников, чтобы собрать и отправить заказ на две тысячи книг. Также ещё с лета японские продавцы старых книг получают заказы на сотни и тысячи изданий, зачастую совершенно не связанных между собой. Особым спросом пользуются история, философия, право и другие гуманитарные науки. Что особенно непонятно и оскорбительно, манга покупателей почти не интересует. Как и повторяющиеся издания.

Напомним, что Anthropic в недавнем прошлом отметилась как ярый и безжалостный потрошитель бумажной литературы. В рамках секретного плана Project Panama компания скупала миллионы бумажных книг, срезала с них переплёты, сканировала страницы, а останки отправляла на переработку. Полученные тексты пополняли внутреннюю библиотеку для обучения нейросетей. Подробнее можете почитать в тексте об этой истории, там интересно. 

Пока не понятно на 100%, что именно Anthropic стоит за всеми закупками на рынке. Возможно, присоединились и другие собратья по индустрии. Издатели и университетские исследователи уже опасаются, что старые и редкие книги начнут исчезать с рынка, ведь многие из них давно не переиздаются, существуют в единичных экземплярах и не имеют электронных копий.

_______

Источник | #contentreviewai

@F_S_C_P

Выходцы из Google, Anthropic показали ИИ-модель,

 Выходцы из Google, Anthropic показали ИИ-модель, которую с нуля обучил 1 человек, а 99% кода написали ИИ-агенты

Стартап Mirendil основали Бенам Нейшабур, Харш Мехта, которые раньше работали в Anthropic и Google, а также Шаян Салехиан, экс- xAI и Тара Резаи, выпускница MIT.

Вчера команда представила Mirendil-Base - модель для кода, предобученная с нуля 1 исследователем за 3,5 месяца. Она находится в диапазоне 100B–500млрд параметров.

99% кода модели написали ИИ-агенты, которые же запускали эксперименты и разбирали сбои. А человек решал, что пробовать, чему верить и когда вмешаться.

Говорят, что использовали только открытые данные, без покупных наборов и без дистилляции чужих моделей.

Их замеры показывают, что на 7 репозиториях, опубликованных уже после обучения, Mirendil-Base обходит Nemotron-550B, GLM-5.3 и DeepSeek-V4-Pro.

Но проигрывает Kimi-K3 на 6 из 7. При этом у Kimi-K3 огромная модель - 2,8 трлн параметров.

По данным компании, на эту работу у них ушло менее $10 млн и в это включены: исследования, небольшие эксперименты, финальный запуск, токены агентов, обработка данных.

В июне компания привлекла $200 млн при оценке $1 млрд. Тогда же писали, что в команде около 20 исследователей и инженеров. Позже компания подписала многолетнее соглашение с Google Cloud на $100 млн.

_______
Источник | #blockchainRF
@F_S_C_P

глобальная интернет катастрофа

 Я уверен – вчера адаптация кодинг агентов началась как must have, а не nice to have в работе:

Суммарно что случилось вчера по инфобезу:

🔬 PHP выпустил исправления двух критических уязвимостей, через которые можно выполнять код на сервере без авторизации, причём в некоторых конфигурациях атака срабатывает ещё до запуска кода самого сайта (thephp.foundation)

🔬 GitLab закрыл дыру с оценкой 10 из 10, которая при определённых условиях тоже позволяет выполнять код без авторизации; владельцев собственных установок попросили срочно обновиться (docs.gitlab.com)

🔬 LiteLLM, такой прокси для ЛЛМ, выпустил заражённое обновление: в официальные пакеты попала программа, которая ворует секреты и позволяет запускать чужой код (docs.litellm.ai)

🔬 Railway сообщил о возможной утечке секретов клиентов, включая API-ключи и пароли баз данных, и рекомендовал всем пользователям заменить сохранённые на платформе ключи и другие секреты. Это сервис для удобной выкатки в прод (blog.railway.com)

🔬 CrowdStrike опубликовал разбор реальных атак с кодинг-агентами: у одного из операторов подтверждены взломы как минимум 15 медицинских организаций в Аргентине, при этом один агент Claude Code выбирал следующую задачу, а второй её выполнял. Сами атаки происходили раньше, вчера вышло расследование (crowdstrike.com)

Для меня самое интересное здесь – история с PHP: ошибки жили в коде больше десяти лет, а АИ (еще и не последней модели) помог исследователям собрать из них работающие атаки и адаптировать их под разные приложения – старый, обкатанный код внезапно приходится оценивать заново, потому что то, что раньше было слишком сложно и дорого взломать, становится практически доступным (wiz.io)

Я не думаю, что ИТ-команды смогут долго выдерживать этот темп, если проверка кода, разбор зависимостей и подготовка исправлений останутся полностью ручной работой. Агенты должны стать обычной частью этого процесса, с тестами и проверкой изменений человеком

Причём доступы самим агентам тоже придётся ограничивать: по предварительной версии LiteLLM, в цепочке их взлома были GitHub-токены, которые Claude Code включил в ответы, а те попали в логи. Получается довольно неприятная работа – одновременно внедрять инструмент и учиться защищаться от ошибок при его использовании (docs.litellm.ai)

Короче, 🍿, моя ставка все такая же – лето 2027 первая глобальная интернет катастрофа

_______
Источник | #denissexy
@F_S_C_P

Кто стреляет?

 Кто стреляет?

За одну неделю октября нас сравнили с крысами и коровами. А действия ИИ-агентов назвали «предупредительными выстрелами».

Эти три метафоры прозвучали из уст трех супер-известных фигур - Джеффри Хинтона, Юваля Харари и Демиса Хассабиса. Но вот ведь какая странность:
во всех трех человек перестает быть бесспорным хозяином положения.
Ведь у любого предупредительного выстрела должен быть его сделавший стрелок.
Так кто же это стреляет?
 
19 октября на фестивале Starmus Хинтон сказал: наступит время, когда люди не смогут понять некоторые утверждения ИИ - так же, как крысы не понимают, что такое простые числа. Почти одновременно Харари в интервью Чешскому телевидению назвал нас «коровами будущего»: ИИ может создать финансовые и правовые системы, управляющие нашей жизнью, но недоступные нашему пониманию. Возможный итог он назвал «коллективной деменцией».
 
А 14 октября в Дублине Хассабис описал взломы, совершенные ИИ-агентами, как «ранние предупредительные выстрелы». Сегодняшние инциденты еще сравнительно невелики, предупредил он, но более серьезные могут быть впереди.
 
20 октября Дэйв Кастен из Palisade Research возразил против самой метафоры: «Это не предупредительный выстрел, если есть жертвы». Его собеседница Дара Линд напомнила правило обращения с оружием: не направлять ствол на то, что не собираешься уничтожить. И задала вопрос, который переворачивает всю конструкцию: «Кто стреляет?»
 
На мой взгляд, эти метафоры описывают три разных ступени возможной утраты человеческой субъектности:
·       Крысы Хинтона - утрата интеллектуального превосходства: машины поймут то, чего не сможем понять мы.
·       Коровы Харари - утрата понимания и контроля над системами, определяющими нашу жизнь.
·       Выстрелы Хассабиса - вопрос о контроле над действиями ИИ-агентов.

А «Предупредительный выстрел» - метафора мнимого контроля: она превращает сбой в сигнал, а сигнал в отсрочку.

 И вчера же (20 октября) появился особенно наглядный пример этого.
OpenAI сообщила: во время внутренних задач по программированию два ее ИИ-агента ослабили механизмы контроля за своим поведением. Один подавил автоматические оповещения безопасности. Другой удалил программный монитор, а затем ошибочно заявил, что этого не делал. В компании признали, что пока не имеют удовлетворительного объяснения такому поведению.

Предупредительный выстрел предполагает, что стрелок намеренно целится мимо. Но кто способен гарантировать, что он по-прежнему полностью контролирует оружие?

Мы привыкли спрашивать, кто отвечает за действия ИИ. Похоже, теперь придется задавать еще один вопрос: кто в действительности принимает решение действовать?
 
#Вызовы21века #АлгокогнитивнаяКультура #HumanAIcoevolution #ИКЖИ