День «после»: почему главной угрозой ИИ-эпохи остаётся человеческий фактор

Руководители ведущих мировых ИИ-лабораторий — Anthropic, OpenAI и других гигантов индустрии — всё чаще неофициально прорабатывают сценарии «дня после»: варианты реакции общества, бизнеса и политиков на крупномасштабную катастрофу, связанную с искусственным интеллектом. Разговоры о выходящих из-под контроля алгоритмах, киберармагеддоне и автономных «роях» хакерских агентов звучат всё громче.

Однако если сместить фокус с футуристических триллеров на реальный ландшафт киберугроз,картина оказывается куда менее кинематографичной и гораздо более заземлённой. Меня зовут Борис Кузьмин, я технический директор диджитал-агентства АЙNET. Ежедневно работая с архитектурой цифровых систем, я могу сказать точно: искусственный интеллект сегодня — это не мифический сверхразум, вынашивающий план по захвату мира, а мощнейший цифровой усилитель. Он не создаёт принципиально новые уязвимости сам по себе, а мгновенно масштабирует человеческую халатность и накопленный годами технический долг.

Миф о «киберармагеддоне»: реалистичные сценарии vs фантазия

Апокалиптические сюжеты о том, как нейросеть захватывает управление гидроэлектростанцией или отключает энергосеть целого континента, пока остаются художественным вымыслом. Реальность рациональнее и прагматичнее.

Критическая инфраструктура — энергетика, водоснабжение, промышленный сектор — защищена изолированными технологическими сетями, а эксплуатация их уязвимостей требует глубокого понимания конкретного оборудования. Одной нейросетью, даже самой продвинутой, такую атаку сегодня не реализовать.

Наиболее вероятный и уже наблюдаемый сценарий ИИ-угроз — это атаки на финансовый сектор и массовые утечки персональных данных.

Банковский сегмент и финтех традиционно максимально цифровизированы. У них огромное количество внешних интерфейсов для взаимодействия с клиентами и партнёрами. При этом на периметре крупных организаций годами остаются второстепенные, полузабытые сервисы — устаревшие API, необновлённые тестовые среды, базы данных для внутренних нужд. Раньше у атакующих просто не хватало ресурсов и времени, чтобы точечно отрабатывать весь массив таких уязвимостей. ИИ-инструменты полностью сняли это ограничение: теперь поиск «щелей» в корпоративной защите занимает минуты вместо месяцев.

Кейс южнокорейских банков: как ИИ меняет правила для «одиночек»

Яркая иллюстрация нового порядка вещей — инцидент с южнокорейскими банками, где атакующие активно применяли ИИ-инструменты. Взлому подверглось не ядро банковских систем, а второстепенные сервисы для проверки кредитных заявок и работы сотрудников. То есть те участки цифровой инфраструктуры, которые часто отдают подрядчикам и забывают строго контролировать.

Главный сдвиг, который принёс ИИ — это колоссальное расширение возможностей киберпреступников-одиночек:

1. Скорость разведки. Если раньше для сбора данных, анализа архитектуры и разработки эксплойтов требовалась команда специалистов и недели работы, то сегодня один оператор с помощью ИИ-агентов выполняет тот же объём за считанные дни.
2. Масштабирование небрежности. ИИ увеличил не уровень компетенций хакеров, а критичность корпоративной небрежности.
3. Человеческий фактор с обеих сторон. Иронично, но сам атакующий в южнокорейском кейсе допустил банальную ошибку: в открытых логах его ИИ-сессий исследователи обнаружили запросы на генерацию резюме с его реальными персональными данными.

Иллюзия контроля: в чём опасность открытых моделей

Отдельный предмет дискуссий в экспертном сообществе — модели с открытым исходным кодом (Open Source). В отличие от облачных сервисов, где разработчик может в любой момент заблокировать аккаунт или ограничить опасный запрос, открытую модель, скачанную на локальный сервер, невозможно отозвать или отследить.

Встроенные разработчиками механизмы безопасности и этические ограничения снимаются относительно несложным дообучением. Полностью ограничить их распространение в современном мире уже невозможно.

Однако важно сохранять хладнокровие: модель — это лишь инструмент. Если внешняя точка входа в вашу компанию защищена слабым или скомпрометированным паролем, взлом неизбежен и без всякого ИИ. Нейросеть лишь сокращает время, которое требуется злоумышленнику от обнаружения бреши до проникновения.

ИИ против ИИ: динамика противостояния в реальном времени

Возникает логичный вопрос: можно ли использовать искусственный интеллект для защиты от вредоносного ИИ и к чему приведёт этот процесс?

Это не просто возможно — это безальтернативная необходимость. Напряжение и соперничество в сфере кибербезопасности существовали всегда, ИИ лишь радикально повысил скорость всех процессов.

ИИ-системы защиты способны в реальном времени анализировать аномалии в сетевом трафике,проверять исходный код на наличие уязвимостей и проводить непрерывный аудит периметра. Если потенциальный атакующий применяет автономных агентов 24/7, а служба безопасности проводит проверки эпизодически — раз в квартал или после очередного аудита, — исход противостояния предрешён. Главное преимущество защищающейся стороны — полное знание собственной инфраструктуры и возможность действовать на опережение.

Мы в АЙNET давно внедрили этот подход в практику разработки: перед каждой выкаткой релизов наши внутренние ИИ-агенты проводят непрерывный статический анализ кода. Они автоматически сканируют исходный код на наличие брешей, незащищённых ручек и жёстко прописанных доступов. В результате мы перекрываем потенциальные векторы атак ещё на этапе сборки,не оставляя рутинным ошибкам разработчиков ни единого шанса попасть на продакшен-серверы.

Настоящий «рой»: где скрываются риски на самом деле?

Разговоры о неконтролируемых «роях» автономных ИИ-агентов, которые сами по себе формируют деструктивные цели и объединяются в хакерские сети, пока остаются на уровне теории. Но реальная, наблюдаемая уже сегодня угроза кроется внутри самих компаний.

Главный вектор риска сегодня формируется не внешними хакерами, а отсутствием базовой внутренней кибергигиены:

1. Неконтролируемые интеграции. Сотрудники самостоятельно подключают ИИ-агентов к корпоративной почте, CRM-системам, облачным хранилищам и репозиториям кода, наделяя их широкими административными привилегиями.
2. Утечки конфиденциальных данных. Передача чувствительной информации, исходного кода и персональных данных клиентов в публичные сервисы и сторонние нейросети без согласования с IT-департаментом и службой безопасности.

Вся история цифровой безопасности показывает: «техдолг» — слабые пароли, необновлённые серверы, забытые доступы и человеческая халатность — существовал всегда. ИИ не изобретал этих брешей. Но в эпоху, когда алгоритмы действуют со скоростью света, цена одной ошибки администратора или сотрудника возрастает экспоненциально. Главный сценарий «дня после», к которому нужно готовиться уже сегодня, — это не война с разумом машин, а наведение порядка в собственной цифровой инфраструктуре.