OpenAI и Google объединились для борьбы с кибератаками

Более 100 компаний из сфер искусственного интеллекта, технологий, финансов и кибербезопасности подписали открытое письмо с призывом усилить совместные меры защиты от кибератак с использованием ИИ. Среди подписавших — OpenAI, Google, Anthropic, Amazon Web Services (AWS), Cisco, Cloudflare, CrowdStrike, Microsoft, Oracle, Perplexity и Hugging Face, пишет Engadget.

Авторы письма предупреждают, что в ближайшие месяцы кибератаки с использованием искусственного интеллекта могут стать более распространенными и сложными для обнаружения по мере развития ИИ-моделей. Компании предлагают сосредоточиться на трех основных направлениях: не полагаться на существующий уровень защиты, расширять возможности систем кибербезопасности с помощью ИИ и выстраивать совместный ответ на новые угрозы.

Отдельно участники инициативы призывают компании, разрабатывающие передовые ИИ-модели, создавать инструменты для мониторинга и безопасности, обеспечивать отслеживаемость действий ИИ-агентов и ответственность за их действия, а также обмениваться практиками непрерывного мониторинга.

В письме также содержится призыв к организациям и государствам уделять кибербезопасности более высокий приоритет и совместно разрабатывать меры против потенциального роста атак с использованием ИИ.

Инициатива появилась на фоне растущего числа сообщений об использовании ИИ в кибератаках. Компании отмечают, что по мере развития ИИ инструменты, способные автоматизировать отдельные этапы атак, становятся доступнее и могут использоваться злоумышленниками в более широком масштабе.

При этом подписанты не предлагают единого нового регулирования. Речь идет прежде всего о координации между государствами, технологическими компаниями, разработчиками ИИ и специалистами по кибербезопасности.

Ранее топ-менеджеры и сотрудники компаний, работающих в сфере искусственного интеллекта, подписали петицию, призывающую замедлить развитие нейросетей. По их словам, развитие ИИ-технологий будет происходить настолько стремительно, что люди утратят способность понимать создаваемые системы или контролировать их.