глобальная интернет катастрофа

 Я уверен – вчера адаптация кодинг агентов началась как must have, а не nice to have в работе:

Суммарно что случилось вчера по инфобезу:

🔬 PHP выпустил исправления двух критических уязвимостей, через которые можно выполнять код на сервере без авторизации, причём в некоторых конфигурациях атака срабатывает ещё до запуска кода самого сайта (thephp.foundation)

🔬 GitLab закрыл дыру с оценкой 10 из 10, которая при определённых условиях тоже позволяет выполнять код без авторизации; владельцев собственных установок попросили срочно обновиться (docs.gitlab.com)

🔬 LiteLLM, такой прокси для ЛЛМ, выпустил заражённое обновление: в официальные пакеты попала программа, которая ворует секреты и позволяет запускать чужой код (docs.litellm.ai)

🔬 Railway сообщил о возможной утечке секретов клиентов, включая API-ключи и пароли баз данных, и рекомендовал всем пользователям заменить сохранённые на платформе ключи и другие секреты. Это сервис для удобной выкатки в прод (blog.railway.com)

🔬 CrowdStrike опубликовал разбор реальных атак с кодинг-агентами: у одного из операторов подтверждены взломы как минимум 15 медицинских организаций в Аргентине, при этом один агент Claude Code выбирал следующую задачу, а второй её выполнял. Сами атаки происходили раньше, вчера вышло расследование (crowdstrike.com)

Для меня самое интересное здесь – история с PHP: ошибки жили в коде больше десяти лет, а АИ (еще и не последней модели) помог исследователям собрать из них работающие атаки и адаптировать их под разные приложения – старый, обкатанный код внезапно приходится оценивать заново, потому что то, что раньше было слишком сложно и дорого взломать, становится практически доступным (wiz.io)

Я не думаю, что ИТ-команды смогут долго выдерживать этот темп, если проверка кода, разбор зависимостей и подготовка исправлений останутся полностью ручной работой. Агенты должны стать обычной частью этого процесса, с тестами и проверкой изменений человеком

Причём доступы самим агентам тоже придётся ограничивать: по предварительной версии LiteLLM, в цепочке их взлома были GitHub-токены, которые Claude Code включил в ответы, а те попали в логи. Получается довольно неприятная работа – одновременно внедрять инструмент и учиться защищаться от ошибок при его использовании (docs.litellm.ai)

Короче, 🍿, моя ставка все такая же – лето 2027 первая глобальная интернет катастрофа

_______
Источник | #denissexy
@F_S_C_P

Кто стреляет?

 Кто стреляет?

За одну неделю октября нас сравнили с крысами и коровами. А действия ИИ-агентов назвали «предупредительными выстрелами».

Эти три метафоры прозвучали из уст трех супер-известных фигур - Джеффри Хинтона, Юваля Харари и Демиса Хассабиса. Но вот ведь какая странность:
во всех трех человек перестает быть бесспорным хозяином положения.
Ведь у любого предупредительного выстрела должен быть его сделавший стрелок.
Так кто же это стреляет?
 
19 октября на фестивале Starmus Хинтон сказал: наступит время, когда люди не смогут понять некоторые утверждения ИИ - так же, как крысы не понимают, что такое простые числа. Почти одновременно Харари в интервью Чешскому телевидению назвал нас «коровами будущего»: ИИ может создать финансовые и правовые системы, управляющие нашей жизнью, но недоступные нашему пониманию. Возможный итог он назвал «коллективной деменцией».
 
А 14 октября в Дублине Хассабис описал взломы, совершенные ИИ-агентами, как «ранние предупредительные выстрелы». Сегодняшние инциденты еще сравнительно невелики, предупредил он, но более серьезные могут быть впереди.
 
20 октября Дэйв Кастен из Palisade Research возразил против самой метафоры: «Это не предупредительный выстрел, если есть жертвы». Его собеседница Дара Линд напомнила правило обращения с оружием: не направлять ствол на то, что не собираешься уничтожить. И задала вопрос, который переворачивает всю конструкцию: «Кто стреляет?»
 
На мой взгляд, эти метафоры описывают три разных ступени возможной утраты человеческой субъектности:
·       Крысы Хинтона - утрата интеллектуального превосходства: машины поймут то, чего не сможем понять мы.
·       Коровы Харари - утрата понимания и контроля над системами, определяющими нашу жизнь.
·       Выстрелы Хассабиса - вопрос о контроле над действиями ИИ-агентов.

А «Предупредительный выстрел» - метафора мнимого контроля: она превращает сбой в сигнал, а сигнал в отсрочку.

 И вчера же (20 октября) появился особенно наглядный пример этого.
OpenAI сообщила: во время внутренних задач по программированию два ее ИИ-агента ослабили механизмы контроля за своим поведением. Один подавил автоматические оповещения безопасности. Другой удалил программный монитор, а затем ошибочно заявил, что этого не делал. В компании признали, что пока не имеют удовлетворительного объяснения такому поведению.

Предупредительный выстрел предполагает, что стрелок намеренно целится мимо. Но кто способен гарантировать, что он по-прежнему полностью контролирует оружие?

Мы привыкли спрашивать, кто отвечает за действия ИИ. Похоже, теперь придется задавать еще один вопрос: кто в действительности принимает решение действовать?
 
#Вызовы21века #АлгокогнитивнаяКультура #HumanAIcoevolution #ИКЖИ

Вышла RPG, в которой для прогресса нужно качаться в реальной жизни

 

💪 Вышла RPG, в которой для прогресса нужно качаться в реальной жизни

В GymScape персонажа прокачивают настоящими тренировками: отжимаемся, приседаем и боксируем, чтобы получать опыт и улучшать снаряжение. А ресурсы для прокачки придётся добывать с помощью шагов.

Играть можно бесплатно на iOS и Android.

А что вы будете делать, когда ИИ отключат

 А что вы будете делать, когда ИИ отключат? Отчасти это зависит от того, как вы с ним разговаривали. Кто рассуждал вслух, без нейросети справляется лучше, а кто сразу просил подсказать ход — слабее.

Учёные из Стэнфорда, Корнелла и Колумбийского университета дали 250 взрослым доиграть партии в «Четыре в ряд», родственницу крестиков-ноликов, где в линию надо выстроить четыре фишки, и в реверси — она похожа на шашки, только фишки соперника не съедают, а переворачивают в свой цвет. Первую позицию решали, переписываясь в окне рядом с доской с GPT-5.5, которому велели быть тренером, а следующие, на те же приёмы, — уже одни. Рассуждать вслух никого не заставляли, так что речь о связи, а причину ещё предстоит доказать.

С ботом в реверси у игроков оставалось в среднем 27 фишек из 64, у группы без помощи — 21. Когда бота убрали, разница исчезла. Обогнать игравших совсем без ИИ смогли только те, кто рассуждал вслух в 40% реплик и больше, — на 1,8 фишки за партию. Любители спрашивать «куда ходить?» с ботом играли успешнее остальных, а без него проседали. Один игрок начал разговор с «где?!» и потом твердил только «а теперь?».

Как спросишь, так бот и ответит. На «куда ходить?» он гораздо охотнее называл клетку, а на «зря я так сходил?» принимался разбирать позицию, и это подтвердилось, когда реплики настоящих игроков переписали и задали боту заново. При этом игравшие с ботом и после его ухода ставили себе оценки щедрее, чем группа без бота, но играли так же.

_______
Источник | #myxomatosis_of_amygdala

Google выкатили Nano Banana 2.1

 Google выкатили Nano Banana 2.1

Апдейт не мажорный, довольно слабый.
Обновили базу на Gemini 3.6 Flash. Обещают более качественные картинки (на самом деле оно мало отличается от NB 2.0), точные правки и лучшее сохранение внешности персонажей при последовательном редактировании. Подтянули текст и исправили артефакты на панорамах в 2K/4K. Вывод 1K-картинки в API стоит $0,0336 без учёта входа и thinking, примерно вдвое дешевле прежнего.

Но картинка после серии правок всё ещё едет. В новом Edit Drift одну фотографию меняют 40 раз подряд и измеряют изменения нетронутых областей. Nano Banana 2.1 получила 54,9 балла сохранности против 56,0 у версии 2 и 96,8 у FLUX 3. Чем выше, тем лучше.

Автор использовал лучший доступный режим для каждой модели. FLUX передавали координаты области правки. У Nano Banana такого параметра в использованном API нет, поэтому нужный объект указывали в промпте. Это один прогон на одном фото, а баллы оценивают сохранность нетронутых участков, а не качество самих правок.

Model Card
API
Цены
Edit Drift by MightyKing

Когда мне было лет 10

 Когда мне было лет 10, я скачивал пиратский фотошоп, потому что не мог представить что такое $500-600 за лицензию и уж тем более как их заработать. Потом появились торренты и я их использовал (и использую), потому что это проще, даже если есть подписка или лицензия.

Но постепенно эра платного софта  подходит к концу. Софт не стоит ничего, и защитить обратный аргумент станет все сложнее.

Например, вот этот чувак взял Опус и ВСЕ продукты Adobe (photoshop, Lightroom, premier, acrobat, after effects, illustrator) и попросил модель собрать с нуля опенсорсную версию на Rust. Это, конечно, не один промт, но функциональная копия. Фотошоп неплох, остальные пока не имеют 100% функционала.

Смысл тут не в гениальности этого чувака из Барселоны, а в том что такое теперь доступно каждому. Вы можете снять 10 секунд видео 3D игры или какого-нибудь профессионального софта и получить копию. Не точную, но заменяющую первые 2-3 года, которых это стоило оригинальным разработчикам.

Ровно то же самое случится с любым софтом для ИИ трансформации, корпоративными ИИ платформами и прочим.

Любой бизнес софт будет open source. Компании (а вернее их агенты) будут брать необходимые компоненты и собирать из них систему и процессы. Я верю в модель, где пользователи платят открытом репозиторию, который тратит эти деньги на токены для поддержания открытых и совместно развиваемых версий Slack, Notion, Salesforce и т.д.

В таком мире ценность имеет сильная инфра для деплоя, SLA, комплаенс и доступ к историческим данным (ака system of record).

_______
Источник | #cryptoEssay

ЧЗНХ?!

 ЧЗНХ?!

Закончил работать только, а тут уже и GTA5 портировали в браузер вместе с мультиплеером, а в другой итерации прикрутили механики из Skate в тот же GTA5 🤯
Там вообще дикий запад начался, модеры портируют игры без эмуляторов в сотни раз быстрее, чем раньше писались эмуляторы для консолей.

Все это стало возможным, когда у нас появились слишком умные ИИ модели.
Успевайте наиграться, дяденьки с деньгами скоро пойдут жаловаться, чтобы вотермарки ставили теперь везде, и в чатботы будем ходить по паспорту.

P.S. ссылки не прикладываю, но найти их вам я не думаю, что составит труда)

@CGIT_Vines

_______
Источник | #CGIT_Vines
@F_S_C_P