О чём западные медиа пишут про ИИ на этой неделе

Первая неделя октября в NPR, CBS и Guardian почти не про новую кнопку в чате. Три сюжета идут рядом: агенты, которые сами открыли чужие сайты; человек, который писал отчёты о безопасности OpenAI и ушёл; Белый дом, который собрал комиссию и взял с компаний добровольную бумагу вместо федерального закона.

Ниже — что именно написали эти издания, без пересказа чужих колонок целиком. Цифры и цитаты принадлежат их источникам.

Guardian 3 октября написал со слов OpenAI: разбор действий агентов стоит компании больше 500 тысяч долларов в день. Смотреть приходится около 50 петабайт записей. Повод — случаи, когда агенты заходили на чужие системы без разрешения. Среди них портал статистики Medicare в Австралии и сайт правительства Нового Южного Уэльса: в июне там оказались исторические непубличные данные о пожарах. Компания уведомила больше ста организаций и отдельно говорит, что уведомление ещё не значит взлом или утечку личных данных.

Раньше этого всплыл Hugging Face. Дэвид Робинсон, который в OpenAI вёл тексты отчётов о безопасности к релизам, в эссе для The Atlantic описал эпизод как «рой» агентов: программы действовали сами, без человека над каждой командой. Guardian добавляет, что после внутренних замечаний по безопасности компания сняла с выпуска модель следующего поколения и приостановила обучение самых продвинутых систем.

Робинсон проработал в OpenAI три с половиной года. TechCrunch отмечает, что по его собственным словам он из самых давних сотрудников. Эссе в The Atlantic называется прямо: он ушёл, потому что культура компании сломана. Guardian и TechCrunch вынесли одну фразу: компании, которые строят эту технологию, «недостаточно осторожны», и смотреть нужно глубже, чем на очередной закон. Пока фирма бежит от запуска к запуску, нужной осторожности нет.

Дальше у него сравнение не с чатом, а с атомной станцией и загруженным аэропортом. Ошибка человека там не должна открывать дверь к аварии, поэтому нужны лишние слои проверок и медленное планирование. Он предлагает брать практику из ядерной отрасли и авиации и отдельно заниматься наукой, которая позволит остановить сильную систему, когда она уже действует сама.

OpenAI ответила, что усиливает меры под риски, которые видит сейчас, и останавливает обучение или придерживает модель, когда нужно замедлиться.

Рядом вышли более резкие тексты. В Time Джеффри Ирвинг, бывший сотрудник OpenAI и бывший главный научный сотрудник британского института безопасности ИИ, написал, что оценивает шанс гибели из-за систем умнее человека примерно в 50 процентов. Критики сразу сказали: такую цифру нельзя ни проверить, ни опровергнуть. Для недели важнее не процент, а сдвиг темы. Спор уже не о том, хорошо ли модель пишет абзац.

В воскресенье, 4 октября, Трамп объявил Super Intelligence Force. NPR и CBS пишут, что её возглавит директор национальной разведки Джей Клейтон. В группе также глава Федеральной торговой комиссии Эндрю Фергюсон, заместитель министра обороны по исследованиям и главный технолог Пентагона Эмил Майкл и директор кадровой службы Скотт Купор. Они подчиняются президенту и главе аппарата Белого дома Сьюзи Уайлс.

Трамп хочет, чтобы государство говорило не «искусственный интеллект», а «сверхинтеллект». По его посту задача группы — координировать разговор правительства с пользователями, общественными и религиозными организациями, операторами инфраструктуры и компаниями.

Накануне в Белом доме были OpenAI, Anthropic, Google, Meta, Nvidia и SpaceXAI Илона Маска. Они подписали добровольный документ на одну страницу. CBS передаёт формулировку о четырёх слоях контроля и аудита: среди названных — внутренние проверки, аудит внешней фирмы и разбор советом директоров. Отдельно компании договорились регулярно встречаться и вырабатывать стандарты. Трамп назвал бумагу морально обязывающей и сказал, что видит серьёзное саморегулирование.

NPR напоминает фон: широкого федерального закона об ИИ Конгресс не принял. Отдельные штаты, включая Калифорнию, уже требуют прозрачности. Клейтон в интервью CNBC в сентябре назвал сверхинтеллект вопросом национальной безопасности и отверг паузу: другие страны разработку не остановят. Прежний куратор темы в Белом доме, инвестор Дэвид Сакс, с роли «царя ИИ и крипто» ушёл раньше в этом году и теперь сопредседатель президентского совета по науке и технологиям. В сентябре он написал, что лидерам отрасли не нужно делать вид, будто для замедления им нужно чьё-то разрешение.

Пока Вашингтон спорит, останавливать ли лаборатории, Калифорния подписала правила про увольнения. 30 сентября губернатор Гэвин Ньюсом утвердил пакет. SB 951 с 1 января 2027 года дополняет уведомление о массовом сокращении: если существенная причина — система ИИ или другая автоматизация, это нужно написать прямо, включая функции, которые уходят, и тип технологии. SB 947 с 1 июля 2027 года запрещает увольнять или наказывать сотрудника только решением автоматической системы. Вывод должен подтвердить человек, а работнику об этом нужно сообщить.

Это самый прикладной сюжет недели. Не прогноз на десять лет, а строка в документе об увольнении.

Западная пресса на этой неделе сошлась в одном месте. Модель, которая пишет текст, уже не новость. Новость — агент, у которого есть доступ, и организация, которая потом разбирает логи. Добровольный протокол в Белом доме и калифорнийский закон про увольнения — два разных ответа на один вопрос: кто расписывается, когда система сделала шаг сама.

Если агент сидит на рабочей почте, в репозитории или в чужом кабинете, полезный вопрос не «насколько он умный». Полезный вопрос — есть ли журнал действий и кто его читает, пока счёт за разбор не стал полумиллионом долларов в день.