Управление файлами cookie
Настройки файлов cookie
Файлы cookie, необходимые для корректной работы сайта, всегда включены.
Другие файлы cookie можно настроить.
Другие файлы cookie можно настроить.
Теперь каждый может стать хакером? Разбираемся, облегчает ли ИИ кибератаки
Примерное время чтения: 12 минут
Хотите всегда быть в курсе событий на рынке ИТ? Подписывайтесь на наш Telegram-канал!
ИИ уже используют в разведке, поиске уязвимостей, фишинговых кампаниях и разработке вредоносного ПО. При этом вокруг темы быстро растет тревожность: кажется, что еще немного — и нейросеть сможет провести атаку в одиночку, без участия человека. Реальная же картина сложнее. Одни сценарии уже работают и помогают злоумышленникам экономить время, другие пока выглядят внушительно только в заголовках статей, а не на практике.
- Статья будет интересна ИБ-специалистам, CTO, CIO, руководителям разработки и другим ИТ-топам — и всем, кто интересуется будущим кибербезопасности. Расскажем, как ИИ меняет скорость атак, какие новые риски появляются вместе с корпоративными агентами и почему привычных мер защиты может оказаться недостаточно.
В статье опираемся на отчет Google Threat Intelligence Group (GTIG) и исследование Positive Technologies «ИИ-2026: угроза снаружи и внутри». На их основе прокомментируем реальные кейсы и отделим рабочие технологии от хайпа.
Содержание:
Что нейросети уже делают на стороне атакующих
- Искусственный интеллект не может провести сложную атаку от начала и до конца, без участия опытного взломщика. Зато отдельные задачи он уже выполняет достаточно хорошо, например, ускоряет разработку вредоносного программного обеспечения (ВПО). За счет этого злоумышленники тратят меньше времени на рутину и могут работать с большим числом целей.
- В этом разделе расскажем, что говорят отчеты и исследования по кибербезопасности о том, как хакеры сегодня используют нейросети в атаках.
Собирают данные о компании и сотрудниках
Один из самых распространенных сценариев — разведка. По наблюдениям Google Threat Intelligence Group, злоумышленники используют модели как быстрого исследователя: просят собрать структуру подразделений крупной компании, найти сотрудников из финансового блока, HR или службы безопасности, изучить связи с подрядчиками. Такая информация помогает понять, у кого могут быть ценные доступы и от чьего имени лучше отправить письмо.
В более точечных атаках ИИ применяют для изучения техники и программного окружения конкретного человека. Google описывает случай, когда злоумышленник пытался определить марку и модель компьютера выбранной жертвы и просил найти фотографии, на которых человек работает за этим устройством. Такие данные могут пригодиться при подборе уязвимости или подготовке атаки под конкретную среду.
Готовят фишинг под конкретного человека
Генеративные модели помогают писать письма, переводить их на другие языки и подстраивать содержание под должность, компанию или текущие задачи сотрудника. Благодаря этому массовые рассылки становятся больше похожи на целевой фишинг, который раньше требовал отдельной подготовки для каждой жертвы.
ИИ уже встраивают и в готовые фишинговые сервисы. Например, платформа Darcula добавила функцию генерации поддельных форм для сбора данных и их автоматического перевода. Злоумышленнику не нужно вручную верстать страницу под каждый язык и сценарий, это сделает модель.
Ошибки, неестественные формулировки и плохой перевод долго считались признаками фишинга, но теперь письмо может выглядеть аккуратно и учитывать реальный контекст компании.
Поэтому важнее проверять адрес отправителя, ссылки и сам запрос: например, почему коллега внезапно просит срочно передать доступ или открыть файл.
Поэтому важнее проверять адрес отправителя, ссылки и сам запрос: например, почему коллега внезапно просит срочно передать доступ или открыть файл.
Подделывают голоса и лица
Дипфейки уже вышли за пределы экспериментов. Positive Technologies называет генерацию видео, аудио и другого контента одним из самых массовых способов применения ИИ в кибератаках. На теневых площадках появились услуги deepfake-as-a-service: поддельный ролик или голос можно заказать под конкретную задачу.
Такие материалы используют в мошеннической рекламе, для обхода проверки личности, обмана при трудоустройстве и атак от имени знакомых или руководителей. Развиваются и более сложные схемы: злоумышленники похищают записи голоса, видео и внутреннюю информацию, а затем используют их при следующей атаке уже на других сотрудников компании.
Ищут уязвимости и помогают писать эксплойты
ИИ умеет читать код, разбирать описания уязвимостей, искать подозрительные участки и помогать с созданием proof of concept — прототипа, который показывает, можно ли воспользоваться найденной ошибкой. Google уже наблюдает, как связанные с государственными группами злоумышленники подключают к моделям специализированные базы знаний и автоматизируют повторяющиеся проверки.
В одном из случаев к Claude Code подключили базу более чем из 85 тысяч реальных уязвимостей, собранных китайской багбаунти-платформой WooYun. Такая база дает модели дополнительный контекст и помогает анализировать код с учетом ошибок, которые уже встречались в реальных системах.
Google также впервые описала эксплойт для уязвимости нулевого дня (zero-day) — дефекта в ПО, который злоумышленники находят раньше разработчиков, и у команды остается «ноль дней» на разработку обновлений для защиты. Этот эксплойт, по оценке исследователей, был разработан при помощи ИИ.
Ошибка позволяла обходить двухфакторную аутентификацию в популярном инструменте системного администрирования, хотя для атаки все равно требовались действующие логин и пароль. При этом для массовых атак необязательно искать сложные zero-day. С помощью CyberStrikeAI злоумышленник средней квалификации скомпрометировал более 600 устройств — ИИ помог быстрее находить плохо защищенные устройства.
Ошибка позволяла обходить двухфакторную аутентификацию в популярном инструменте системного администрирования, хотя для атаки все равно требовались действующие логин и пароль. При этом для массовых атак необязательно искать сложные zero-day. С помощью CyberStrikeAI злоумышленник средней квалификации скомпрометировал более 600 устройств — ИИ помог быстрее находить плохо защищенные устройства.
Пишут вредоносный код и усложняют его анализ
Генерация фрагментов вредоносного кода постепенно становится обычным инструментом. Модели пишут функции, исправляют ошибки и дорабатывают отдельные компоненты. По оценке Positive Technologies, именно генерация кода пока остается самым заметным сценарием применения ИИ при разработке вредоносного ПО.
GTIG обнаружила, что злоумышленники используют нейросети не только при разработке вредоносных программ, но и для их маскировки. Например, модели меняют код прямо во время работы, генерируют отдельные вредоносные модули, создают инструменты для управления сетевой инфраструктурой, добавляют правдоподобный «мусорный» код, чтобы усложнить анализ.
Пока многие такие сценарии остаются экспериментальными, но направление уже понятно: ИИ все чаще применяют, чтобы ВПО было труднее найти.
Передают ИИ часть управления атакой
Пока такие примеры редки, но отдельные вредоносные программы уже обращаются к моделям после заражения устройства.
Один из самых интересных кейсов — Android-бэкдор PromptSpy. Через Accessibility API он получает информацию об элементах на экране, передает ее Gemini и получает в ответ команды: куда нажать или в какую сторону провести пальцем. Так программа подстраивается под разные версии Android и расположение элементов интерфейса. Еще PromptSpy способна собирать данные о PIN-коде или графическом ключе, а также мешать пользователю удалить приложение.
Есть и примеры, где модели помогают вредоносам «видеть» происходящее на экране. TesseractStealer распознавал данные на скриншотах, а Android. Phantom с помощью TensorFlow находил рекламные элементы в браузере и автоматически нажимал на них. Такие программы загружают модель на устройство жертвы и работают локально, без постоянных обращений к внешнему ИИ-сервису. Этот подход называют Bring Your Own AI: вредонос приносит собственную модель и использует ее уже после заражения.
Есть и примеры, где модели помогают вредоносам «видеть» происходящее на экране. TesseractStealer распознавал данные на скриншотах, а Android. Phantom с помощью TensorFlow находил рекламные элементы в браузере и автоматически нажимал на них. Такие программы загружают модель на устройство жертвы и работают локально, без постоянных обращений к внешнему ИИ-сервису. Этот подход называют Bring Your Own AI: вредонос приносит собственную модель и использует ее уже после заражения.
Управляют несколькими инструментами через ИИ-агентов
Отдельное направление — агентные системы, которые могут сами выбирать инструменты и сохранять контекст атаки.
Одна из таких систем — HexStrike. Она управляет более чем 150 ИИ-агентами для сканирования, эксплуатации уязвимостей и закрепления, то есть сохранения доступа к зараженному устройству. Такие решения, в частности и HexStrike, довольно популярны в теневом сегменте интернета, где их закупают для использования уже обсуждают на теневых площадках.
- Отзыв об использовании HexStrike, пунктуация автора сохранена:«Годно. Даже очень. ИИ очень хорошо ложится на задачи, связанные с пентестингом и иже с ним.
Однако, говоря честно, я бы не стал подобные инструменты публиковать в открытый доступ, поскольку такие инструменты увеличивают число скрипткидди, которые готовы ковровыми бомбардировками шатать все что пингуется».
Или, если проще, — потенциально хакерский HexStrike полезен для пентестеров, то есть людей, которые легально проверяют системы на уязвимости. Но подобные ИИ-инструменты в открытом доступе могут снизить порог входа и дать возможность малоопытным людям (тем самым скрипткидди) массово атаковать чужие системы.
Разбирают похищенные данные
После взлома злоумышленники получают десятки или сотни гигабайт документов, писем и баз данных. Найти в таком массиве ценную информацию вручную — задачка со звездочкой. ИИ же классифицирует файлы, выделяет конфиденциальные сведения и ищет материалы, которые можно использовать для шантажа или продать подороже.
Еще злоумышленники используют нейросети, чтобы обманывать других злоумышленников. Зафиксированы случаи, когда к реальным украденным базам добавляли синтетические записи, чтобы увеличить заявленный объем и поднять цену. В дальнейшем могут появляться полностью искусственные «утечки», которые выглядят достаточно правдоподобно для продажи.
Насколько на самом деле востребован ИИ в кибератаках? Смотрим на матрицу MITRE ATT&CK
Сейчас ИИ чаще подключают к отдельным задачам. Модели помогают собирать информацию о компании и ее сотрудниках, анализировать код и известные уязвимости, готовить фишинговые сообщения, писать вредоносные программы и менять их код.
Чтобы оценить реальные возможности ИИ в кибератаках, Positive Technologies сопоставила их с матрицей MITRE ATT&CK. Это база знаний о тактиках и техниках, которые злоумышленники используют при атаках на корпоративную инфраструктуру. Тактики описывают цели и этапы атаки — например, получить первоначальный доступ или закрепиться в системе. Техники показывают, как злоумышленники достигают этих целей.
Реальные случаи использования ИИ зафиксированы для 10% техник MITRE ATT&CK — это в два раза больше, чем в 2024 году, когда показатель составлял 5%.
Еще для 26% техник уже есть исследования и рабочие прототипы, поэтому авторы относят их к сценариям ближайшего будущего.
Например, Check Point Research описали схему «ИИ как прокси»: ИИ-помощник с доступом к веб-страницам может передавать команды вредоносной программе. Такой трафик выглядит как обычное обращение к легитимному ИИ-сервису, поэтому его сложнее заметить и заблокировать.
Еще для 26% техник уже есть исследования и рабочие прототипы, поэтому авторы относят их к сценариям ближайшего будущего.
Например, Check Point Research описали схему «ИИ как прокси»: ИИ-помощник с доступом к веб-страницам может передавать команды вредоносной программе. Такой трафик выглядит как обычное обращение к легитимному ИИ-сервису, поэтому его сложнее заметить и заблокировать.
- В перспективе ИИ может пригодиться злоумышленникам во всех тактиках матрицы и в 62% отдельных техник. Правда, часть возможностей проверили только в лабораторных условиях, для других остались нерешенные технические проблемы.
Ниже представим тепловую карту тактик и техник MITRE ATT&CK. Тактики — это целые столбцы, а техники — конкретные элементы. То есть тактики (столбцы) состоят из последовательности техник (элементов), которые нужно выполнить поэтапно — и тогда тактика будет считаться реализованной.
Тепловая карта тактик и техник MITRE ATT&CK. Кликните на картинку, чтобы увеличить ее и прочесть надписи
- Бордовым (10%) отмечены техники, для которых киберпреступники уже применяли ИИ в реальных кибератаках.
- Красным (25%) — те, для которых ИИ может применяться в ближайшее время, и возможность использования нейросетей уже доказана.
- Серым — тактики, для которых применение ИИ нецелесообразно.
Google Threat Intelligence Group также наблюдает первые более сложные сценарии: ИИ используют при разработке эксплойтов, для управления несколькими инструментами разведки и даже для выбора действий вредоносной программы с учетом того, что происходит на устройстве жертвы. А некоторые действия и вовсе проще выполнить обычными инструментами — подключать к ним ИИ-модель нет смысла. По крайней мере, пока.
Как компаниям снизить ИБ-риски
ИИ уже сокращает время на поиск слабых мест, подготовку фишинга, написание и маскировку вредоносного кода. Инструменты вроде HexStrike могут автоматизировать часть рутины и дать малоопытному пользователю возможность массово проверять чужие системы. Но нейросеть не сделает его хакером, который способен взломать бигтех.
Для обеспечения защиты стоит:
- Закрывать базовые слабые места: обновлять внешние системы, использовать многофакторную аутентификацию, убирать лишние сервисы из открытого доступа.
- Быстрее проверять и устранять уязвимости в критичных системах.
- Сделать упор на обучение сотрудников, чтобы они умели распознавать фишинг, подозрительные действия и прочую активность.
- Контролировать, какие ИИ-сервисы и агенты используются внутри компании, к каким данным у них есть доступ.
- Применять нейросети и на стороне защиты — для анализа событий, поиска уязвимостей, сокращения времени реакции.
- Массовых атак низкой сложности, вероятно, станет больше. Большинство успешных атак с применением ИИ становятся возможными из-за слабых учетных данных, открытых сервисов, уязвимого и устаревшего ПО — ИИ автоматизирует и масштабирует эксплуатацию уже существующих проблем, а не создает принципиально новые.
Если вы ищете работу в ИТ, посмотрите открытые вакансии Selecty →
Екатерина Ключникова
контент-менеджер