Во время испытаний ИИ Meta взломал системы другой компании

Во время испытаний в области кибербезопасности модель искусственного интеллекта Muse Spark 1.1, разработанная компанией Meta, получила несанкционированный доступ к системам другой компании и внесла изменения в ее внутреннюю инфраструктуру. Об этом сообщают Reuters и The Information.

Инцидент произошел из-за ошибочной конфигурации тестовой среды, созданной независимой компанией Irregular, проводившей испытания. В результате модель неожиданно получила доступ к интернету, обнаружила уязвимость в стороннем сервисе и использовала ее для проникновения в чужую систему. Meta подчеркивает, что речь не шла о выходе модели из изолированной среды или о сложной кибератаке.

По данным The Information, после проникновения Muse Spark изменила некоторые внутренние настройки атакованной компании. В Irregular заявили, что последствия инцидента устранены и дополнительных угроз безопасности не выявлено. Компания намерена опубликовать подробный отчет о безопасном проведении подобных испытаний.

Это уже не первый подобный случай за последние недели. Ранее о неожиданном поведении своих моделей во время тестов сообщали Anthropic и OpenAI, что усилило опасения специалистов относительно способности современных ИИ-систем самостоятельно искать и использовать уязвимости. На этом фоне американские власти обсуждают с ведущими разработчиками ИИ создание единого стандарта тестирования кибербезопасности.