Оригинальное название: Progress on provable inference for large language models
Команда Anthropic по передовым красным командам (frontier red team) опубликовала результаты исследований в области доказуемого вывода (provable inference) и выпустила в открытый доступ прототип FlashProve: поставщик моделей прилагает к ответу краткое криптографическое доказательство (zkSNARK), позволяющее пользователю убедиться, что ответ действительно сгенерирован заявленной моделью, при этом само доказательство не раскрывает веса модели. Anthropic заявляет, что это может предотвратить подмену моделей или искажение результатов сервисами маршрутизации в целях экономии, а также помочь в подтверждении соответствия требованиям; издание The Decoder отмечает, что у системы всё ещё есть очевидные ограничения.
Почему это важно Позволяет предотвратить подмену более дешёвых моделей посредническими сервисами, а также может использоваться для подтверждения соответствия требованиям; издание The Decoder отмечает, что у системы всё ещё есть очевидные ограничения.
Достоверность: высокая · Источники: Anthropic и ещё 2 (включая официальные) · Время события: 11-05 01:17 (пекинское время)