В разделе «Факторы риска» того же документа S-1/A добавлен новый абзац: Anthropic все чаще использует ИИ для ускорения собственных исследований и разработок, что может привести к тому, что возможности моделей будут расти быстрее, чем меры безопасности, выравнивания и защиты; в прошлом компания не всегда своевременно выявляла значительное ускорение разработок, и это может произойти снова, когда факт станет известен лишь постфактум. В проспекте эмиссии указано, что, согласно внутренним оценкам и ожиданиям относительно будущих моделей (а не существующих), компания «вскоре» может достичь определения «значительного ускорения прогресса, обусловленного ИИ», содержащегося в ее Политике ответственного масштабирования (RSP); на данный момент ни одна из существующих моделей не признана перешагнувшей этот порог, и соответствующие данные все еще находятся на стадии оценки. Компания также заявила, что рассматривает возможность пересмотра RSP, чтобы требовать обязательного человеческого контроля и утверждения для некоторых решений в процессе исследований и разработок.
Уверенность: высокая (95) · Время события 2026-11-02
Обоснование
- «ИИ помогает создавать более мощный ИИ» (в СМИ это часто называют рекурсивным самосовершенствованием, RSI) всегда рассматривался как один из наиболее рискованных порогов возможностей; в данном случае передовая лаборатория признает возможное приближение к этому моменту в юридически обязывающем ценном документе, а не в блоге или интервью.
- В проспекте эмиссии также указано: компания ожидает, что даже при технической возможности она не сможет безопасно позволить Claude полностью автономно проектировать и обучать следующее поколение передовых моделей без значимого человеческого надзора и понимания; также упоминается, что предобучение новой базовой передовой модели было отложено более чем на месяц для усиления мер безопасности, предотвращающих утечку весов.
- Для тех, кто следит за регулированием ИИ, это дает конкретное обязательство, за которым можно следить: Anthropic заявляет, что будет публиковать последующие отчеты в соответствии с RSP.
Использование
- Оригинал находится в разделе «Risk Factors» документа Anthropic S-1/A на EDGAR (поиск по фразе «dramatically accelerated progress attributable to AI»); для отслеживания последующих отчетов следите за страницей RSP компании Anthropic.
Риски
- Проспект эмиссии является раскрытием рисков, формулировка «может» не означает объявления о достижении цели; TechCrunch также напоминает, что проспекты эмиссии выполняют и маркетинговую функцию.
- В документе не указано, что конкретно означает «вскоре» с точки зрения сроков и как измеряется порог; необходимо дождаться отчетов, которые Anthropic опубликует в соответствии с RSP.