Оказывается не только в телеграме переживает расцвет ботов-комментаторов с chatgpt
Недавно Обсерватория социальных сетей (OSoMe) опубликовала результаты исследования "Анатомия вредоносного социального ботнета на основе ИИ". Результаты исследования, к сожалению, неутешительные:
- С помощью эвристики исследователи обнаружили в Twitterцелую армию ИИ ботов. Это кластер из нескольких тысяч поддельных аккаунтов, работающих на основе ChatGPT, способных генерировать контент, неотличимый от контента людей.
- Соцботы выступают в едином поведенческом шаблоне, следуя единой вероятностной модели деятельности. Они координируют свои действия по продвижению веб-сайтов и распространению комментариев, успешно обходя все средства антифрода.
Очевидно что дальше будет только хуже ина основе LLM могут быть созданы еще более сложные агенты влияния не отличимые от обычных людей. Наверняка в ответ на эту проблему начнут использовать более сложные инструменты верификации по типу виртуальных ID верифицирующих личности, их в свою очередь начнут продавать и в итоге как с этим бороться не ясно. Чтобы сохранить рассудок человечеству придется обучиться фильтровать контент еще лучше.
_______
Источник | #expensivemarketing
@F_S_C_P
Комментариев нет:
Отправить комментарий