Количество противоправных действий, совершенных с использованием ИИ, резко увеличится, считают в российском инфобезе. Криминальные методы развиваются вместе с прогрессом ИИ, новые технологии опробуют едва ли не все «цифровые» преступники: по ряду оценок, в 2025 г. не менее 90% кибергруппировок.
Инцидентов, в которых немалая роль отведена ИИ, стоит опасаться не только в ИТ-сегменте, но и в других сферах. В январе 2025 г. для организации взрыва впервые использовался ChatGPT-4. Взломанные версии чат-ботов могут спровоцировать взрывной рост утечек конфиденциальных данных.
Эксперты отмечают, что ежегодный прирост преступлений с помощью ИИ не фиксируется официальными органами. Рост определяется примерно, по числу ботов и генерируемого ими контента. «В 2025 г. прирост таких преступлений может увеличиться даже десятикратно по сравнению с прошлым годом», – считает руководитель департамента расследований T.Hunter Игорь Бедеров.
По мнению депутата ГД, члена комитета по информполитике Антона Немкина, нивелирование рисков, связанных с ускоренным развитием искусственного интеллекта, напрямую зависит от создания доверенных ИИ-систем.
«Доверенный искусственный интеллект, прежде всего, основывается на разделяемых в обществе нормах морали и этики, а также соблюдает положения законодательных актов. То есть, с помощью доверенной системы в принципе невозможно получить доступ к противоправному контенту или использовать ИИ в незаконных целях. Система не пропустит такой запрос и заблокирует его. Схожие технологии внедряются в отечественные генеративные ИИ. Например, активно блокируются запросы, связанные с использованием нейросетей в мошеннических целях. Кроме того, вопрос обеспечения информационной безопасности систем также как никогда важен. Уже сейчас на теневых форумах можно встретить взломанные версии чат-ботов, которые открывают преступникам доступ к запрещенному контенту», – отметил А.Немкин.
Эксперт также считает, что в 2025 г. предопределен рост ИТ-преступлений, связанных с ИИ. «Тренд на это наметился еще раньше. Растет число мошеннических атак, связанных с использованием ИИ. Прежде всего, в части создания фишинговых почтовых рассылок и поддельных лендинговых страниц. Использование ИИ в преступных целях – один из ключевых вызовов всей отрасли инфобеза, Поэтому разработка новых принципов защиты систем сегодня как никогда важна», – считает А.Немкин.
