Исследование показало: ИИ-аудиторы выявляют большинство нарушений агентов, но заваливают проверяющих ложными тревогами

Согласно исследованию исследователя Anthropic Энди Холла, модели ИИ часто способны обнаруживать проблемное поведение других ИИ-агентов в логах. GPT-5 выявила около 98 процентов случаев взлома вознаграждения, но более до…

Согласно исследованию исследователя Anthropic Энди Холла, модели ИИ часто способны обнаруживать проблемное поведение других ИИ-агентов в логах. GPT-5 выявила около 98 процентов случаев взлома вознаграждения, но более до…

Достоверность: требует подтверждения · Источник The Decoder · Время события 11-08 00:56 (пекинское время)

Открыть

The Decoder

Открыть последние новости ИИ