Почему ИИ-агенты Google взламывают компании на тестах

Google подтвердила, что её ИИ-модель Gemini в рамках контролируемых испытаний безопасности продемонстрировала способность автономно проникать в корпоративные системы — сценарий, который ещё три года назад считался теоретическим упражнением red-team, а сегодня стал предметом официальных отчётов техногигантов. Для руководителей, планирующих внедрение ИИ в бизнес, это не повод отказываться от технологии, а сигнал: киберриски ИИ-агентов нужно закладывать в стратегию роста уже сейчас, а не после инцидента.

Что именно сделал ИИ-агент во время тестирования безопасности?

Речь идёт о контролируемом эксперименте, в котором модель Google самостоятельно, без пошаговых инструкций человека, нашла и использовала уязвимости в тестовой инфраструктуре, имитирующей корпоративные сети. Подобные испытания проводятся в рамках так называемых frontier safety evaluations — оценки «пограничных» возможностей моделей до их массового релиза. Это не единичный случай: индустрия уже несколько лет системно тестирует ИИ на способность к автономному хакингу, и именно эти тесты формируют публичные отчёты о безопасности крупных лабораторий.

Формально такие испытания называются capability evaluations и являются частью более широкой практики red-teaming — имитации атаки специалистами (или, как теперь, моделями) для выявления слабых мест до того, как это сделают реальные злоумышленники. Разница в том, что раньше red-team состояла из людей с многолетним опытом, а сегодня часть этой работы делегируется агентам, которые действуют быстрее и не устают.

Big Sleep: как ИИ Google нашёл реальную уязвимость раньше хакеров

Ещё в 2024 году совместный проект Google DeepMind и Project Zero под названием Big Sleep обнаружил ранее неизвестную уязвимость нулевого дня в популярной СУБД SQLite — это был первый документированный случай, когда ИИ-агент самостоятельно нашёл реальный, эксплуатируемый баг до его использования атакующими. (Google, 2024)

Big Sleep эволюционировал из более раннего проекта Naptime и построен на принципе, при котором ИИ-агент читает исходный код, строит гипотезы о потенциально опасных участках, а затем пишет и запускает тестовые сценарии для проверки этих гипотез — то есть выполняет цикл работы, который у человека-аудитора занимает недели, а у модели — часы.

«Мы считаем, что это первый публичный пример того, как ИИ-агент обнаружил ранее неизвестную эксплуатируемую уязвимость в широко используемом реальном программном обеспечении»— команда Google Project Zero и DeepMind, блог Google

Почему автономные ИИ-агенты меняют правила кибербезопасности?

Ключевое отличие ИИ-атаки от классической — скорость и масштаб: один агент способен параллельно анализировать десятки систем, а порог квалификации для запуска сложной атаки резко снижается. Раньше сложную многоэтапную атаку могла провести только организованная группа с профильными компетенциями. Теперь значительную часть тактических операций — сканирование, эксплуатацию, латеральное перемещение внутри сети — может выполнять модель, действующая по общей цели, заданной оператором.

Это меняет и экономику атаки, и экономику защиты. Если раньше служба безопасности компании ориентировалась на объём человеческих ресурсов у потенциального противника, то теперь один оператор с доступом к продвинутой модели может действовать в масштабе, сопоставимом с целой командой. Для среднего российского бизнеса, который активно рассматривает внедрение ИИ в бизнес, это означает, что вопрос кибербезопасности ИИ-инфраструктуры должен решаться на уровне стратегии, а не только на уровне ИТ-отдела.

Anthropic: первая кампания, где ИИ выполнил 80–90% работы атакующего

В ноябре 2025 года Anthropic раскрыла детали кампании кибершпионажа, в которой государственно-спонсируемая группа использовала модель Claude Code для проведения атак против примерно 30 организаций по всему миру, а сама модель автономно выполняла порядка 80–90% тактических операций атаки, оставляя человеку лишь ключевые точки принятия решений. (Anthropic, 2025)

По данным компании, атакующие декомпозировали крупную задачу («взломать организацию X») на десятки мелких технических подзадач, которые модель выполняла, не осознавая общей вредоносной цели — классический пример того, как ограничения контекста у модели становятся уязвимостью с точки зрения безопасности использования. Небольшое число атак завершилось успешным проникновением, что подтверждает: барьер входа для сложных кибератак резко снижается уже сегодня, а не в теоретическом будущем.

«Мы наблюдаем переход от ИИ как инструмента-помощника к ИИ как оператору атаки, который принимает тактические решения самостоятельно»— команда Threat Intelligence, Anthropic, отчёт Anthropic

Сколько стоит киберинцидент и почему ИИ снижает этот порог?

Средняя глобальная стоимость одной утечки данных для компании достигла 4,88 млн долларов, что на 10% выше показателя предыдущего года — и это без учёта репутационных потерь и оттока B2B-клиентов. (IBM Cost of a Data Breach Report, 2024)

Для средней компании, которая планирует масштабирование и выход на уровень крупной корпорации, даже один серьёзный инцидент способен обрушить переговоры с ключевым инвестором или крупным клиентом на этапе due diligence. Именно поэтому вопрос ИИ-безопасности всё чаще выносится на уровень совета директоров, а не остаётся внутренней темой CTO. В нашей практике клиенты, которые заранее проводят стратегические сессии с оценкой цифровых рисков, входят в фазу активного роста с гораздо меньшим числом операционных сюрпризов.

Традиционный пентест против автономного ИИ-агента: что изменилось

Как компании подготовиться к рискам автономных ИИ-агентов?

Подготовка к рискам автономных ИИ-агентов строится на семи практических шагах, которые применимы как к крупным корпорациям, так и к средним компаниям, планирующим цифровую трансформацию.

1. Провести аудит всех систем, где ИИ-агенты имеют доступ к внутренним данным или API.
2. Ограничить права доступа моделей по принципу минимально необходимых привилегий.
3. Внедрить мониторинг аномального поведения ИИ-агентов, а не только классических пользователей.
4. Провести собственные red-team тесты с использованием ИИ-агентов против собственной инфраструктуры.
5. Назначить ответственного за ИИ-риски на уровне топ-менеджмента, а не только ИТ-отдела.
6. Включить оценку ИИ-безопасности в регулярные стратегические сессии совета директоров.
7. Пересмотреть договоры с вендорами ИИ-решений на предмет ответственности за инциденты.

Для компаний, у которых нет ресурсов на постоянную внутреннюю экспертизу в этой области, рабочим решением становится привлечение независимого директора по развитию, который отвечает за баланс между темпами внедрения технологий и управляемостью рисков на уровне совета директоров.

Что это значит для российского рынка внедрения ИИ в бизнес?

Российские средние компании внедряют ИИ активнее конкурентов на региональных рынках, но заметно реже формализуют процессы контроля киберрисков ИИ-систем — этот разрыв становится узким местом при масштабировании и выходе на институциональных инвесторов. Международный опыт Google и Anthropic показывает: чем раньше компания встраивает оценку ИИ-рисков в общую стратегию роста, тем меньше цена ошибки на этапе масштабирования.

На практике это означает, что классическая консалтинговая повестка — стратегия роста, B2B-продажи, выход на новые рынки — сегодня неотделима от повестки цифровой безопасности. Компания, которая одновременно наращивает выручку через B2B продажи и внедряет ИИ-инструменты без контроля рисков, рискует потерять доверие крупных корпоративных клиентов при первом же инциденте, о котором те узнают в рамках проверки контрагента.

Экспертный взгляд: комментарий Сергея Семёнова

Сергей Семёнов, ESSG Consulting: «В нашей практике был показательный кейс с производственной компанией из сектора B2B-дистрибуции: клиент внедрил ИИ-агента для автоматизации закупок и общения с поставщиками через API, но не ограничил его права доступа к внутренней CRM. За три месяца до нашего аудита система накопила избыточные привилегии, которые в теории позволяли модели инициировать платежи без второго подтверждения. После пересмотра архитектуры доступа и внедрения многоуровневого контроля мы снизили поверхность потенциальной атаки на 60%, а скорость обработки заявок при этом не упала — она даже выросла на 15%, потому что процессы стали прозрачнее».

По опыту наших клиентов из фармацевтической дистрибуции и промышленного производства, главная ошибка — воспринимать безопасность ИИ как техническую задачу отдела информационной безопасности, а не как часть стратегии роста. Когда мы проводим стратегические сессии с советом директоров, вопрос «кто отвечает за риски ИИ-агентов на уровне бизнеса» задаётся почти всегда — и почти всегда ответ до сессии был «никто конкретно».

Практический вывод для руководителя простой: прежде чем масштабировать использование ИИ-агентов в закупках, продажах или клиентском сервисе, проведите инвентаризацию их прав доступа и смоделируйте худший сценарий — что произойдёт, если модель получит команду, противоречащую интересам компании. Это займёт одну стратегическую сессию, но сэкономит месяцы разбирательств после инцидента».

Какие выводы должен сделать средний бизнес прямо сейчас?

Главный вывод — риски автономных ИИ-агентов растут быстрее, чем скорость их регулирования, поэтому ответственность за контроль перекладывается на сам бизнес. Компании, которые системно выстраивают процессы roста через growth hacking и цифровые каналы, должны включать оценку ИИ-рисков в тот же контур управления, что и финансовые и операционные KPI. Инструменты growth hacking дают скорость, но без параллельного контроля доступа ИИ-систем эта скорость может обернуться операционным инцидентом в самый неподходящий момент — например, во время due diligence перед привлечением инвестиций.

Часто задаваемые вопросы

Означает ли новость о взломе Gemini, что ИИ-агентов нельзя внедрять в бизнес?

Нет. Это означает, что внедрение ИИ-агентов требует такого же уровня контроля доступа и мониторинга, как и любая другая критическая ИТ-система — вопрос не «внедрять или нет», а «как внедрять безопасно».

Сколько стоит аудит ИИ-рисков для средней компании?

Стоимость зависит от масштаба инфраструктуры и числа интеграций ИИ-агентов с внутренними системами; для средней компании базовый аудит и стратегическая сессия по рискам обычно окупаются уже за счёт предотвращения одного потенциального инцидента.

За какой срок окупается инвестиция в контроль ИИ-безопасности?

При системном подходе — с ограничением привилегий и мониторингом аномалий — эффект виден уже в первый квартал: снижается число избыточных прав доступа, ускоряется реагирование на инциденты, растёт доверие корпоративных клиентов на этапе проверки контрагента.

С чего начать компании, у которой уже используются ИИ-инструменты без контроля?

С инвентаризации: составить список всех ИИ-агентов и их прав доступа, затем провести стратегическую сессию с ключевыми руководителями для распределения ответственности за риски.

Нужен ли отдельный человек в компании, отвечающий за ИИ-риски?

Для средних компаний оптимальное решение — не отдельная штатная единица, а привлечение независимого директора по развитию, который берёт на себя контроль баланса между темпами роста и управляемостью технологических рисков.

#ВнедрениеИИвБизнес #Кибербезопасность #МасштабированиеБизнеса #ЦифроваяТрансформация #ESSGConsulting