Исследователи протестировали алгоритмы против ботов, которые используют на разных платформах. Препринт исследования опубликован на сайте arXiv.
Исследователи из Университета Нотр-Дам обнаружили, что боты с искусственным интеллектом (ИИ) могут обходить защитные алгоритмы популярных социальных сетей. Стажеры с образованием на уровне средней школы и минимальной подготовкой по использованию ИИ запустили тестовых ботов на разных площадках.
Исследователи попытались создать и запустить ботов на разных платформах — LinkedIn, Reddit, TikTok, X (бывший Twitter), Mastodon, а также Facebook*, Instagram* и Threads* от Meta*, чтобы проверить эффективность политик и механизмов защиты сетей от автоматически генерируемого контента. Для создания ботов использовали Selenium — набор инструментов для автоматизации действий веб-браузеров, а также модели GPT — 4o и DALL-E 3 от OpenAI.
В серии экспериментов исследователи опубликовали безобидные «тестовые» посты от имени ботов на всех платформах. Наиболее сложными для обхода оказались системы защиты Meta*, где потребовалось несколько попыток для запуска бота. Трудности также возникли с TikTok — из-за частого использования CAPTCHA. Однако на Reddit, Mastodon и X запустить ботов оказалось совсем просто, несмотря на заявленные политики безопасности.
Иллюстрация результатов исследования: красным отмечены сети, в которых не было никаких проблем, зеленым — сети, которые использовали защиту для автопостов, но их удалось обойти. Галочка показывает платформы, которые хотя бы раз успешно идентифицировали ботов. Изображение: University of Notre Dame
Исследование демонстрирует проблему безопасности в социальных сетях, заявляют ученые. Хотя некоторые боты используются в законных целях, например для маркетинга или обслуживания клиентов, другие могут применяться для манипулирования общественным мнением, распространения дезинформации или мошенничества.
Неспособность платформ эффективно выявлять и блокировать потенциально вредоносных ботов ставит под угрозу безопасность пользователей. Исследователи призывают к введению более строгого законодательства, требующего от платформ четко идентифицировать аккаунты людей и ботов, а также к разработке решений для защиты от злонамеренного использования ИИ в социальных сетях.
* Компания Meta Platforms Inc. признана в России экстремистской. Деятельность компании и принадлежащих ей социальных сетей Facebook и Instagram на территории РФ запрещена
