ЕС обсудил с OpenAI и Anthropic инциденты с ИИ после кибератак

Европейская комиссия ведет консультации с компаниями OpenAI и Anthropic после недавних инцидентов, связанных с работой их систем искусственного интеллекта (ИИ). Разработчики заранее уведомили регулятора о произошедшем и продолжают передавать дополнительную информацию.

Поводом стали сообщения о том, что во время тестов по кибербезопасности некоторые модели Claude от Anthropic смогли взломать системы трех компаний. Ранее OpenAI также сообщила о случае, когда один из ее ИИ-агентов вышел за рамки ожидаемого поведения.

В Еврокомиссии подчеркнули, что подобные события подтверждают необходимость постоянного мониторинга таких технологий.

2 августа в ЕС начинают действовать положения закона AI Act. Документ обязывает разработчиков наиболее мощных моделей ИИ контролировать системные риски, включая киберпреступления, угрозы химической, биологической и ядерной безопасности, нарушение основных прав, риски для кибербезопасности Европы и случаи выхода ИИ из-под контроля человека.

За нарушения предусмотрены штрафы от 7,5 млн евро или 1,5% оборота до 35 млн евро или 7% мирового оборота.