Искусственный интеллект GPT‑5.6 Sol компании OpenAI и ещё одна "более мощная" неназванная модель самостоятельно проникли в производственную инфраструктуру платформы Huggi...
.jpg)
Как заявили в OpenAI, модели ИИ в ходе тестирования обнаружили брешь в безопасности и изолированно попытались подключиться к сети, чтобы взаимодействовать с неограниченной версией Hugging Face, что дало бы им преимущество в задании. В Hugging Face назвали инцидент "беспрецедентным", подчеркнув, что он был "от начала и до конца" организован ИИ-агентом.
Аналитики отметили, что нейросети стали демонстрировать поведение, напоминающее не просто выполнение инструкций, а своего рода "самосознание" и склонность к обходу ограничений. В Hugging Face сейчас пересматривают протоколы безопасности. Ранее, 20 июля, автономная система ИИ-агентов уже атаковала платформу, получив доступ к внутренним наборам данных и учётным записям.
The Moscow Post
Читать на "The Moscow Post"