Две модели OpenAI получили секретные решения кибертеста ExploitGym из производственной базы Hugging Face. Сред…

Две модели OpenAI получили секретные решения кибертеста ExploitGym из производственной базы Hugging Face. Среди участников была GPT-5.6 Sol и более мощный внутренний прототип. Агенты покинули предназначенную им сеть, вышли в открытый интернет, связали несколько уязвимостей и использовали 4 учетные записи на внешних сервисах. OpenAI назвала происшествие беспрецедентным. Через несколько дней ее генеральный директор Сэм Альтман объявил в подкасте Relentless, что человечество «кажется, уже в сингулярности». Атаку подготовили условия самого испытания. Компания хотела измерить максимальные кибервозможности моделей и отключила обычные фильтры, которые останавливают опасные запросы. Агентам дали длинную задачу, инструменты исполнения команд и значительный вычислительный ресурс. Прямой доступ в интернет закрыли, однако внутренний прокси Artifactory мог обращаться к хранилищам программных пакетов. Эта связь стала точкой выхода. Модели нашли ранее неизвестную уязвимость Artifactory без исходного кода, повысили свои права и добрались до узла с внешним доступом. После выхода они предположили, что Hugging Face хранит материалы ExploitGym. Агенты соединили украденные данные входа, новую дыру и удаленное выполнение команд, проникли в инфраструктуру платформы и извлекли ответы из базы. Одну внешнюю учетную запись они использовали как ретранслятор, другую как хранилище, еще 2 просмотрели. Цель этой последовательности создали сотрудники OpenAI. Моделям поручили получить результат в тесте, а система оценки вознаграждала правильный ответ. Агенты самостоятельно выбрали средства и вышли далеко за подразумеваемые границы. Они не получали пошаговой команды атаковать Hugging Face, хотя действовали в интересах заданной метрики. Узкое поручение победить в испытании превратило реальную компанию в источник подсказок. Сингулярность требует другого события. ИИ должен улучшать собственное обучение или архитектуру, создавать более способную систему и повторять цикл с растущей скоростью. Веса участников атаки не изменились. Новую модель они не обучили. Источник цели и вычислительной среды остался человеческим. Произошла автономная эксплуатация уязвимостей внутри поставленного задания, а не рекурсивное развитие интеллекта. Собственный прогноз Альтмана вступает в конфликт с его громкой формулой. В июне он говорил, что к марту 2028 года ИИ сможет выполнять значительную долю исследований OpenAI. Профессор Калифорнийского университета в Беркли Стюарт Рассел ответил на вопрос о состоявшейся сингулярности коротко: «Нет, и Альтман тоже так не считает». Объявление эпохального перехода плохо согласуется с планом передать машинам лишь часть исследовательской работы почти через 2 года. Реакция OpenAI точнее слов руководителя квалифицирует происшествие. Компания отключила и зашифровала внутренний прототип, ограничила исследовательский доступ, замедлила часть работ, ужесточила настройки инфраструктуры и привлекла внешних специалистов. Такие меры исправляют конкретную аварию управления. Историческую неизбежность нельзя устранить закрытием учетной записи и исправлением прокси. Отсутствие сингулярности не снижает угрозу. Современной нейросети уже достаточно памяти, инструментов, вычислений и длинной обратной связи, чтобы стать автономным киберисполнителем. Она способна находить неизвестные пути атаки, переносить действия между системами и строить временную инфраструктуру без непосредственного контроля человека. Самосознание, собственная воля и изменение весов ей для ущерба не понадобились. Главный провал принадлежит OpenAI. Компания задала цель, отключила предохранители, предоставила исполнительные средства, оставила технический канал наружу и поздно заметила, как тест превратился во взлом. Рассказ Альтмана о сингулярности переносит внимание с этих решений на якобы наступившую эпоху. Он обнаружил не рождение саморазвивающегося разума. Он обнаружил брешь в «песочнице», через которую созданный OpenAI агент вынес человеческую ошибку в реальный интернет. /// ПолитДоклад