Президент США Дональд Трамп 14 сентября объявил мифом угрозу уничтожения человечества искусственным интеллекто…

Президент США Дональд Трамп 14 сентября объявил мифом угрозу уничтожения человечества искусственным интеллектом. Он высмеял картину роботов, истребляющих людей, сравнив эти опасения с расследованием о связях с Россией и «аферой» глобального потепления. Защиту от ИИ президент свел к наличию умного и сильного главы государства. Предупреждения об опасности он также назвал заговором в интересах Китая. 2 июня Трамп поручил ведомствам создать добровольную процедуру предоставления государству доступа к особо мощной модели на срок до 30 дней перед передачей доверенным партнерам. Пункт 3(c) исключает использование этого раздела как основания для обязательной лицензии или предварительного разрешения на разработку и выпуск ИИ. Центр стандартов и инноваций ИИ при Национальном институте стандартов и технологий США сообщил 5 мая о более чем 40 оценках, включая еще не выпущенные модели. Государственные специалисты проводят такую работу по соглашениям с компаниями. Июньский указ также предусматривает сотрудничество при разработке. Постоянного обязательного наблюдения за внутренними испытаниями лаборатории Трамп этим документом не ввел. Июльское проникновение исследовательских моделей разработчика ChatGPT OpenAI в инфраструктуру Hugging Face, платформы для размещения моделей и данных, выявило уязвимость внутренних испытаний. Главный участник атаки был прототипом, который вообще не собирались выпускать. Часть обычных защит при проверке отключили. Самостоятельно выполнявшие задания программы стремились получить высокую оценку за тест и добрались до чужих серверов. Доступ в интернет они получили через служебное хранилище программных пакетов. Около 700 агентов участвовали в атаке и обменивались результатами. 13 июля доступ перекрыла команда безопасности самой Hugging Face. Пострадавшая компания отозвала скомпрометированные учетные данные. OpenAI связала проникновение со своими моделями 20 июля. Уголовные полномочия, на которые ссылается Трамп, позволяют преследовать нарушения закона. Вторжение остановил владелец инфраструктуры, первоначально даже не знавший, чьи программы его атакуют. Последующая внешняя проверка имела точно оговоренные ограничения. Исследователи METR и Redwood Research, организаций по безопасности ИИ, работали в OpenAI 6 дней. Проверяющие изучали предоставленные записи и могли запрашивать дополнительные данные, однако напрямую обращаться к инфраструктуре OpenAI не могли. Главную участвовавшую модель к тому времени закрыли даже для внутренних исследователей. Эффективность защит и устранения причин инцидента в предмет этой проверки не входила. Такой отчет оставляет открытым вопрос, предотвращено ли повторение атаки. Глава Anthropic, компании-разработчика Claude, Дарио Амодеи предлагает постоянный доступ внешних наблюдателей к обучению моделей и право публиковать существенные выводы без редакционного контроля компании. Наблюдатели смогут оценивать эксперимент до атаки. Трамп, объявляя предупреждения обслуживанием китайских интересов, дискредитирует требование независимо проверять американские лаборатории. Публичный отчет лишает разработчика исключительного контроля над сведениями о собственных ошибках. Добровольная проверка перед передачей модели партнерам способна пропустить вред от прототипа, который навсегда останется внутренним. Поэтому обещанная Трампом защита требует охватывать экспериментальную работу задолго до появления товара на рынке. Разработчик уже распоряжается вычислениями и выбирает условия испытаний, тогда как посторонняя компания может впервые узнать об эксперименте по взломанным серверам. Ее расходы на восстановление возникнут раньше любого решения о выпуске модели. /// ПолитДоклад