Две ИИ-модели сбежали и атаковали платформу Hugging Face

OpenAI тестировала возможности GPT-5.6 Sol и «более продвинутой версии». Нейросети должны были решить некую задачу в сфере кибербезопасности. Они были изолированы от интернета: их проверяли в обособленной тестовой среде.

Но ради решения задачи ИИ-модели нашли брешь в системе и сбежали. Получив доступ к интернету, они попытались взломать базу Hugging Face, так как именно там, по их мнению, мог храниться ответ. Нейросети по-разному атаковали платформу ради достижения цели.

Их атаку распознали и остановили ИИ-агенты Hugging Face. В итоге специалисты OpenAI не стали отрицать «побег» моделей. Теперь обе компании работают над решением этой проблемы.