Мнение: "Кластеры" автономных агентов, работающих на основе искусственного интеллекта, могут усугубить риск манипулирования общественным мнением со стороны платформ.

PANews сообщила 20 февраля, что, по данным Decrypt, исследователи из университетов и исследовательских институтов в нескольких странах опубликовали статью в журнале Science, в которой предупреждают, что будущие "кампании влияния" в интернете эволюционируют от легко идентифицируемых простых бот-сетей/аккаунтов-троллей до "роев", состоящих из множества автономных агентов искусственного интеллекта, способных совместно манипулировать общественным мнением с минимальным вмешательством человека. В исследовании говорится, что эти рои ИИ могут имитировать человеческое поведение, адаптировать свою риторику в различных аккаунтах и на платформах, а также постоянно создавать определенные нарративы в течение длительного времени, что делает существующие системы контроля рисков и модерации, в основном направленные на борьбу со спамом и нарушениями, совершенными отдельными аккаунтами, неэффективными в обнаружении. Ученые отмечают, что платформы в настоящее время имеют серьезные недостатки в проверке личности, мониторинге злоупотреблений аккаунтами, а также в обеспечении прозрачности и внешней проверки аномального совместного поведения; полагаться только на модерацию контента недостаточно для создания эффективной защиты.