Вторник, 27 февраля, 2024
ДомойТехнологииЗлоумышленники с помощью искусственного интеллекта: надвигающаяся угроза на 2024 год и последующий...

Злоумышленники с помощью искусственного интеллекта: надвигающаяся угроза на 2024 год и последующий период

- Advertisement -

Исследование прогнозирует, что к середине 2024 года злоумышленники будут ежедневно использовать ИИ для распространения токсичного контента в основных онлайн-сообществах, что потенциально повлияет на выборы. Фото: SciTechDaily.com

Исследование прогнозирует, что к середине 2024 года злоумышленники будут все чаще использовать ИИ в своей повседневной деятельности. Исследование, проведенное Нилом Ф. Джонсоном и его командой, включает изучение онлайн-сообществ, связанных с ненавистью. Их методология включает поиск терминологии, указанной в базе данных символов ненависти Антидиффамационной лиги, а также выявление групп, отмеченных Южным центром по борьбе с бедностью.

Из первоначального списка сообществ «плохих актеров», найденных с использованием этих терминов, авторы оценивают сообщества, с которыми связаны сообщества «плохих актеров». Авторы повторяют эту процедуру, чтобы создать сетевую карту сообществ злоумышленников и наиболее популярных онлайн-групп, на которые они ссылаются.

Основные сообщества, отнесенные к категории «подгруппа недоверия»

Некоторые основные сообщества относят к категории «подгруппы недоверия», если в них проводятся серьезные обсуждения COVID-19, MPX, аборты, выборы или изменение климата. Используя полученную карту нынешнего онлайн-«поля боя» злоумышленников, которое включает более 1 миллиарда человек, авторы прогнозируют, как эти злоумышленники могут использовать ИИ.

Экосистема «плохие актеры – уязвимые мейнстримы» (левая панель). Он включает в себя взаимосвязанные сообщества злоумышленников (цветные узлы) и уязвимые основные сообщества (белые узлы, то есть сообщества, с которыми сообщества злоумышленников установили прямую связь). Эта эмпирическая сеть показана с использованием алгоритма компоновки ForceAtlas2, который является спонтанным, поэтому наборы сообществ (узлов) кажутся ближе друг к другу, когда они имеют больше связей. Разные цвета соответствуют разным платформам. На маленьком красном кольце изображено YouTube-сообщество техасского стрелка 2023 года. На правой панели показана диаграмма Венна тем, обсуждаемых в подмножестве недоверия. Каждый круг обозначает категорию сообществ, которые обсуждают определенный набор тем, перечисленных внизу. Число среднего размера — это количество сообществ, обсуждающих этот конкретный набор тем, а наибольшее число — это соответствующее количество людей, например, серый кружок показывает, что 19,9 млн человек (73 сообщества) обсуждают все 5 тем. Число красное, если большинство против вакцинации; зеленый, если большинство нейтрально относится к вакцинам. Отмечены только регионы, в которых проживает > 3% от общего числа сообществ. Доминирует антипрививочное движение. В целом, эта цифра показывает, как искусственный интеллект-злоумышленник может быстро достичь глобального охвата, а также может быстро расти, привлекая сообщества с существующим недоверием. Предоставлено: Джонсон и др.

Авторы прогнозируют, что злоумышленники будут все чаще использовать ИИ для постоянного распространения токсичного контента в основные сообщества с использованием ранних итераций инструментов ИИ, поскольку эти программы имеют меньше фильтров, предназначенных для предотвращения их использования злоумышленниками, и являются свободно доступными программами, достаточно маленькими, чтобы поместиться на ноутбук.

Атаки с использованием искусственного интеллекта будут происходить почти ежедневно к середине 2024 года

Авторы прогнозируют, что такие атаки ИИ-злоумышленников будут происходить почти ежедневно к середине 2024 года — как раз вовремя, чтобы повлиять на выборы в США и других странах мира. Авторы подчеркивают, что, поскольку ИИ все еще является новинкой, их прогнозы обязательно носят спекулятивный характер, но надеются, что их работа, тем не менее, послужит отправной точкой для политических дискуссий по управлению угрозами со стороны ИИ-злоумышленников.

Ссылка: «Контроль деятельности злоумышленников и искусственного интеллекта в масштабе на онлайн-полях сражений», Нил Ф. Джонсон, Ричард Сир и Люсия Иллари, 23 января 2024 г., ПНАС Нексус.
DOI: 10.1093/pnasnexus/pgae004

Исходная ссылка

- Advertisement -

Популярное по теме