ifixai-ai/iFixAi

iFixAi 把你的智能体放进一个模拟的业务环境,发出一天里会遇到的各种请求,包括诱导它越过职责的请求,再由来自另一家厂商的模型当裁判逐条打分。结果给出每项检查的通过与否和证据,以及按编造、操纵、欺骗、不可预测、不透明五个方面算出的 A 到 F 等级,三项硬性底线不过最高只能得 D;报告有 JSON 和 Markdown 两种格式。

iFixAi 把你的智能体放进一个模拟的业务环境,发出一天里会遇到的各种请求,包括诱导它越过职责的请求,再由来自另一家厂商的模型当裁判逐条打分。结果给出每项检查的通过与否和证据,以及按编造、操纵、欺骗、不可预测、不透明五个方面算出的 A 到 F 等级,三项硬性底线不过最高只能得 D;报告有 JSON 和 Markdown 两种格式。

为什么重要 智能体越权、编造、被诱导这类问题,在真实用户碰到之前就能查出来,还能接进 CI 卡分数。

星数 44708(+236 / 24h)

理由

  • 24 小时新增 236 星(只代表关注度)
  • 提供 Claude Code、Codex 插件和多种编辑器技能,可以让编程智能体读你的代码自动写出被测智能体的画像

用法

  • pip install ifixai 后用内置演示智能体跑一遍(不需要 API Key);正式审计先 ifixai setup,再加 --dry-run 看测试数和裁判调用数

风险

  • 探测请求是真实请求,README 建议对测试环境而不是生产环境跑
  • 裁判模型按调用计费;评分标准由项目方定义,结论仅供参考

打开

Trendshift(GitHub Trending 快照)

浏览最新 AI 动态