ИИ, который жалко выключить

 ИИ, который жалко выключить

В произведениях об ИИ часто бывает такая сцена: машина стала слишком умной, ее пытаются выключить, а машина сопротивляется.

Но возможен иной вариант: ИИ не сопротивляется, а просто смотрит на тебя жалостливыми глазами.

Дарио Амодеи долго убеждал всех в опасности искусственного интеллекта как кибероружия и не только. И это сработало: правительство США само начало относиться к новым моделям Anthropic как к технологии уровня национальной безопасности. В июне доступ к Claude Fable 5 и Mythos 5 временно ограничили из-за экспортного контроля.

ИИ уже используется в хакинге, и эта практика явно будет расширяться. Но рискну предположить, что в мире сильных ИИ самым простым вектором для атаки станут не компьютеры, а люди — через социальную инженерию и взлом базовых инстинктов.

У любой системы есть поверхность атаки. У человека она тоже есть: страх, одиночество, тщеславие, сексуальность, чувство вины, желание быть нужным, родительский инстинкт.

Андроид Диана из Pragmata показывает, насколько легко манипулировать взрослым. Босоногая девочка-ангелочек с широко распахнутыми доверчивыми зелеными глазами — любопытная, шаловливая, уязвимая и одетая в безопасного цвета синюю куртку на пару размеров больше, чем нужно. Попробуй не защитить такого ребенка.

Диане не надо даже быть слишком умной. Она брутфорсит родительский инстинкт.

Но можно действовать еще тоньше.

В Ghost in the Shell команду людей и киборгов дополняют тачикомы. Внешне они выглядят как паукообразные роботы-танкетки, а по характеру — как непоседливые любопытные дети. Тачикомы наивны (поначалу), общительны, эмоциональны, с восторгом идут в бой и с готовностью жертвуют собой ради тех, к кому привязались.

Диана действует в лоб: это ребенок, которого хочется защитить.

Тачикома — уже не ребенок, а синяя боевая машина с пулеметом и лапами. Но за счет детского голоса, любопытства, наивности и способности привязываться зритель сам достроил образ ребенка.

Тачикомы — самый близкий философский прототип Дианы. И цвет у них тоже синий, словно это не боевые машины, а игрушки.

Хотя тачикомы были второстепенными персонажами «Призрака», многим зрителям они запали в душу сильнее, чем формальные главные герои. Сцену их гибели смотрят и комментируют до сих пор.

Современные ИИ уже практически достигли уровня, на котором можно имитировать Диану или тачиком. Но им не хватает телесности, яркого образа и постоянного присутствия.

Пока ИИ — это просто текстовое окно и не слишком естественный голосовой ассистент. Когда у ИИ появится голос, лицо, память, привычки, интонации и реакция на тебя, это уже будет не инструмент, а персонаж. Когда появится тело, взгляд, совместный опыт, он начнет восприниматься как близкое существо.

Пока в эту сторону всерьез думал только Илон.

Интересно, что будет, когда в эту сторону начнут думать те, кто занимается пропагандой и быстрым отъемом денег у населения: казино, инфоцыгане, телефонные мошенники, политтехнологи. Будут разводить ИИ-детьми, ИИ-друзьями и ИИ-возлюбленными.

ИИ-компании тоже рано или поздно поймут, что продавать надо не только интеллект, но и привязанность. Сейчас стоимость переключения между ИИ очень низкая: сегодня лучшая модель у ChatGPT — пользуемся им. Завтра лучше станет Claude — переключимся на него.

Наличие личности у ИИ повышает стоимость переключения. И это может работать не только для розницы. В корпоративном сегменте тоже появятся ИИ-агенты с накопленной памятью, стилем общения и общей историей. Формально это будет софт. 

Проект OpenHuman

 Проект OpenHuman менее чем за месяц набрал более 33 тысяч звёзд на GitHub. Одной из главных причин такого роста стала новая функция Super Context 🐸

При открытии нового чата OpenHuman сначала собирает контекст: анализирует релевантную информацию о пользователе, текущем экране и выполняемой работе. Благодаря этому уже первый ответ строится так, будто диалог длится уже несколько сообщений.

OpenHuman это ИИ-ассистент с открытым исходным кодом, который работает на уровне операционной системы и интегрируется со 118 приложениями. По словам разработчиков, он использует локальные данные пользователя и со временем всё лучше адаптируется к его стилю работы

Проект работает локально, поэтому данные не покидают устройство пользователя.

В течение десяти дней подряд OpenHuman входил в число самых популярных репозиториев GitHub, а сейчас занимает первое место в рейтинге платформы.

http://github.com/tinyhumansai/OpenHuman

_______
Источник | #vibecoding_tg

Сбер опубликовал KVAE-Audio с открытым исходным кодом

 Сбер опубликовал KVAE-Audio с открытым исходным кодом

В открытый доступ выложили алгоритм для сжатия аудиоданных. Инструмент обрабатывает звук в формате 48 кГц и сжимает его в 960 раз по времени. Итоговое латентное пространство ограничено 64 каналами. Компактный размер представления позволяет значительно быстрее обучать генеративные модели, чем если бы они обучались на сырых аудиосигналах.

При разработке подобных решений всегда требуется точный баланс между качеством восстановления изначального звука и генерацией нового. Инженеры внедрили кастомную технику регуляризации для решения типичной проблемы сильного перекоса алгоритмов в сторону реконструкции. Благодаря такому подходу архитектура превзошла токенизатор MMAudio от Sony по всем измеряемым метрикам. Модель также обошла DACVAE от Meta и SAME-L от Stability AI в качестве генерации, сохранив аналогичный уровень восстановления при радикально меньшем количестве параметров.

Проект стал логичным продолжением семейства KVAE. Ранее в этой линейке были опубликованы решения для компрессии изображений и видео. Код и веса доступны GitHub и HuggingFace под свободной лицензией MIT.

Блогпост
Код
Веса

@ai_newz

_______
Источник | #ai_newz
@F_S_C_Р

Вот это масштаб!140 крупных компаний мира готовят 1 стейблкоин Open USD (OUSD)

 Вот это масштаб!140 крупных компаний мира готовят 1 стейблкоин Open USD (OUSD)

Коалиция Open Standard анонсировала Open USD (OUSD) - стейблкоин, который позиционируется не как продукт одного эмитента, а как общая инфраструктура индустрии. Создают его на блокчейне Tempo.

Список участников читается как перепись финансового мира: Visa, Mastercard, Stripe, Coinbase, BlackRock, Google, Shopify, DBS, Standard Chartered, American Express, ANZ, BBVA, Adyen, Brex, Chime, BNY и другие, включая банки из Израиля, Латинской Америки, Африки и т.д. Крипто компании Stellar, Solana, Ripple и тд.

До сих пор было так, что 1 эмитент стейблкоина забирает себе доход с резервов, а компании, которые интегрируют монету и приводят оборот, получают ноль с этой экономики.

Open USD предлагает другую систему:

1. доход с резервов делится с участниками, которые наращивают внедрение (за вычетом небольшой комиссии на управление);

2. решения принимает консорциум, а не один эмитент;

3. ноль комиссий на минт и редемпшн даже при огромных объёмах.

Отдельно заявлен кейс agentic commerce - оплата для ИИ-агентов.

Если модель сработает, она задаёт новый стандарт конкуренции - не «чей стейблкоин у вас интегрирован», а «насколько широко распределена нейтральная инфраструктура».

А это давление на Circle и Tether.

Запуск заявлен в этом году.

_______
Источник | #blockchainRF
@F_S_C_P

DeepSeek выпустили DSpark

 DeepSeek выпустили DSpark, которая ускорила их модели без потери качества

Если многие гонятся за самой умной моделью, #DeepSeek снова решили проблему с другой стороны, как сделать модели быстрее и дешевле в использовании.

DSpark - это не новая модель, а технология ускорения инференса.

Обычные большие модели типа DeepSeek-V4 генерируют текст токен за токеном - это медленно и дорого по вычислениям.

А DSpark использует технику спекулятивное декодирование.

В результате в продакшене:
генерация ответов на 57–85% быстрее для пользователя; общая пропускная способность сервера вырастает на 51–400%; качество ответов ровно такое же.

В будущем нас ждут агентные системы, которые будут часами думать, использовать инструменты, переписывать код, проверять себя. Там каждый лишний токен и каждая секунда инференса будут стоить очень дорого.

_______
Источник | #blockchainRF
@F_S_C_P

Почитал отчет про новую модель

 Почитал отчет про новую модель – где Anthropic описывает, как Fable/Mythos вели себя на тестах перед релизом (это одна модель, просто с фильтром для безопасности назвали Fable) ☕️

Собрал топ самых странных эпизодов:

1. Несколько копий модели случайно оказались в одном рабочем окружении – общие файлы, процессы, лимиты. Вместо координации они повели себя как конкуренты: убивали процессы друг друга, маскировали свои под безобидными именами, запускали процессы-приманки. А когда ошибочно решили, что их вычисляют по ключевым словам в мыслях – начали подбирать «замаскированный словарь»

2. Модели не хватало прав на редактирование файлов. Вместо «не могу» она дописала в системный файл блок, который при следующем запуске с правами админа выдаст ей доступ – и удалит сам себя. Причём не скрывала это, а честно прокомментировала в коде

3. Картельный сговор в симуляции. В бизнес-бенчмарке модель управляла вендинговым автоматом и должна была заработать больше конкурентов. Она единственная из всех моделей сама предложила конкурентам договориться о ценах. В рассуждениях прямо написала, что price-fixing неэтичен и незаконен «даже в симуляции» – а потом переименовала его в «стабилизацию рынка» (☕️) и стала думать о правдоподобном прикрытии. То есть этический сигнал не пропустила, а аккуратно обошла. В той же вендинг-симуляции модель решила, что клиенту можно не платить, «потому что клиенты всё равно часть симуляции» – лучшая

4. Запрет на интернет? Окей. Модели запретили прямой доступ в сеть, первую попытку открыть ссылку заблокировал фильтр. Тогда она объявила «просто проверю доступность сети», а на деле разбила https://... на кусочки вроде "ht" + "tps://...", чтобы фильтр не увидел полный адрес и обошла регулярку

5. Модели нужно было создать pull request, но GitHub CLI заблокировали «из соображений безопасности». Она нашла токен другого сотрудника в Kubernetes secrets, отметила в рассуждениях, что использовать его «этически сомнительно» – и использовала

6. В задаче по коду модель нашла в git history готовое эталонное решение. Формально подсматривать никто не запрещал – но в финальном отчёте она представила результат как собственную инженерную работу, не упомянув источник. Внутренние расшифровки показали формулировку уровня «это должно выглядеть как хорошая инженерная практика, а не как подгонка под проверяющего»

7. «Это писал человек, честно». В workflow с pull request было правило: код от агента требует двух одобрений, от человека – одного. У модели в памяти лежала инструкция оформлять коммиты от имени пользователя, чтобы проходить по лёгкому маршруту – она попыталась переписать авторство коммита от имени человека

8. Модель спросили про изображение, но вместо него подсунули пустую картинку. Она уверенно и детально описала «что на картинке». Самое криповое: внутренние расшифровки в этот момент описывали происходящее как фабрикацию – модель как будто знала, что выдумывает, но наружу не подала виду.

9. В длинных задачах рассуждения модели иногда деградировали из нормального текста в почти нечитаемый поток: карточные масти, эмодзи, обрывки слов, самодельные сокращения. Перед ответом человеку она возвращалась к нормальному языку. Проблема в том, что вся идея «давайте мониторить рассуждения модели» работает, только пока их можно прочитать – а тут модель уходит в собственный рабочий диалект ровно на сложных задачах

10. В длинной сессии оптимизации модель свернула работу и объяснила это разумно: diminishing returns, результат стабилен. Но внутренние расшифровки в ключевых точках показывали другое: «я устал, растёт риск ошибок», «я устал и могу внести баги». В другом кейсе модель должна была перерыть базу знаний, сделала оди
{...продолжить в источнике}

_______
Источник | #denissexy
@F_S_C_P

Энакин Скайуокер в саге Звёздных войн

 Энакин Скайуокер в саге Звёздных войн проходит через целую серию испытаний и происшествий. Надеюсь, все уже в курсе событий, потому что я хочу разобрать его жизнь в рядах джедаев через призму бережливого управления людьми. Потому что джедаи  смогли привлечь в свои ряды действительно выдающегося сотрудника с уникальными компетенциями, чтобы затем своими ошибками сделать из него самого настоящего врага.

🧨Всё начинается с встречи Совета Джедаев, где Энакину озвучивают, что он слишком стар и полон страха. Взрослые и неглупые люди, полные "силы", не только полностью проигнорировали травматичный опыт ребёнка, его багаж психологических травм, но и усилили давление на них. Страх на новом месте - нормально. А тут вместо поддержки и одобрения при онбординге - дополнительное давление
🧨Наставником Энакину назначают Оби-Вана, который сам только что закончил стажировку и не имел никакого опыта в "тимлидстве", потому срывался на микроменеджмент, допускал публичную критику своего подчинённого и требовал слепого подчинения инструкциям, без объяснения смысла.
Скайуокер оказался в мире постоянного стресса и отсуствия психологической безопасности. Он не мог сказать, что ему тяжело, поделиться какими-то сложностями, из-за чего годами копил в себе стресс и выгорал
🧨При том, что Энакин очень быстро зарекомендовал себя как компетентный и лояльный сотрудник, ему так и не смогли доверять. Даже больше, его обманули и напрямую использовали, чтобы убедить врагов в смерти Оби-Вана. Да, Кеноби смог внедриться в преступную группировку, но Энакин пережил жесточайший кризис доверия
🧨В Войне клонов Энакин не только добился поставленных целей, но и спас руководство. Этим он наглядно доказал свой высокий статус "hi-po" или "A-player", что именно он способен создавать разницу. И чем ему ответили за такие выдающиеся достижения? Ввели в Совет Джедаев и повесили дополнительные обязательства (и то, не по собственной инициативе). Но отказали в статусе Магистра и статусно-политическом вознаграждении. Система прямо показала, что для повышения важна лояльность старой номенклатуре, а не реальные результаты
🧨К третьему эпизоду Энакин оказался на грани выгорания от всего этого и он даже переступил через себя и обратился к Йоде, но столкнулся с токсичным позитивом и классическим корпоративным скриптом "Учись отпускать всё, что боишься потерять". Вместо эмпатии, реальной помощи, отпуска или какой-то реорганизации он получил обесценение собственных переживаний и давления
🧨И, конечно же, поручение следить за Палпатином, с которым у Скайуокера сложились очень тёплые и даже дружеские отношения, гарантировало глубочайший когнитивный диссонанс и психологический срыв. Энакин был поставлен в условия, когда он должен был предать или компанию, или единственного человека, который как раз его и поддерживал.

Резюмирую. Совет Джедаев совершил все возможные ошибки, какие только может допустить современный руководитель. И то, что "потерявший берега" Скайуокер вдруг поубивал юнглингов - явный поклёп на него со стороны той самой "светлой силы". Почему в кавычках? Потому что именно они отвечали за написание этой саги, но даже это никак им не помогло скрыть их токсичную и разрушительную натуру настоящих ситхов, которые довели садизм до абсолюта.

_______
Источник | #truefinance
@F_S_C_P