«Модель принятия решений», дообученная Base Labs (подразделением Baseten) на базе Qwen3.5-9B: принимает на вход описание состояния (текст, возможно с изображениями) и набор вопросов, выполняет однократное предзаполнение с общим префиксом и выдает откалиброванные вероятности для каждого варианта ответа на каждый вопрос. Может использоваться для маршрутизации заявок, классификации и проверки ограничений безопасности.
Рост рейтинга: 74 · Лайки: 75 · Загрузки: 1344
Обоснование
- Три типа задач: да / нет (возвращает P(yes)), выбор одного из нескольких (возвращает вероятности для каждого варианта), упорядоченная оценка (возвращает вероятности для каждого уровня). В целевую функцию обучения, помимо перекрестной энтропии, добавлен член калибровки по Бриеру, а также обучена опция «Не знаю».
- По официальным данным, индекс Jev Decision Index 0.4 составляет 62.65, что является лучшим результатом среди моделей размером менее 15B и делит 8-е место среди 208 моделей; на воссозданной версии индекса Artificial Analysis Decision Index результат составляет 65.2, что соответствует уровню d1-ultra (65); родственная модель mammoth-1 размером 27B показывает более высокий результат (71.24).
- Обучающий набор данных содержит 6.21 млн примеров принятия решений, из которых 16.1% относятся к безопасности и отказу от ответа. Языковая часть модели дообучается полностью, а визуальный энкодер остается замороженным. Лицензия MIT. Ранее в выпусках не рассматривалась.
Использование
- Самостоятельное развертывание: hf download baselabs/elephant-1 --local-dir elephant-1 && bash elephant-1/setup.sh. Устанавливается фиксированная версия среды выполнения OneJev (применяется патч serve.patch). Требуется один GPU CUDA и образ pytorch/pytorch:2.8.0-cuda12.8-cudnn9-devel.
- Вызов: DecisionEngine("baselabs/elephant-1", device="cuda:0").decide(SystemOneRequest(state=текст, questions={...})); в параметре questions для каждого вопроса указывается тип (noul / choice / score) и инструкции, а для типов choice и score также необходимо указать критерии.
Риски
- Максимальная длина составляет 16,384 токенов; запросы большей длины отклоняются, а не обрезаются. Поддерживается только английский язык.
- Бесплатный API от Baseten завершился 27 числа 10 месяца. Один из двух индексов является воссозданной версией, подготовленной разработчиками.
- Не используется стандартный вывод через Transformers; необходимо запускать setup.sh и патчи из репозитория.