garak 能帮你完成什么工作
选一项工作查看准备材料、执行建议和交付检查。
01对授权模型开展风险测试
- 准备材料
- 获准测试的模型端点
- 探针范围
- 测试配置
- 怎样开始
- 确认获准测试的模型目标，选择与关注风险对应的测试探针。
- 在指定范围内运行 Garak 扫描，并保留本轮配置与结果日志。
- 逐条复核被标记的回复，把可复现问题与误报分开整理。
- 交付目标
- 探测日志
- 失败样例
- 人工检查
- 仅测试获授权系统，人工复核检测结果与误报。
garak 是什么
通过命令行探针检查语言模型在提示词注入、信息泄露等场景中的失败表现。
费用与使用条件
正式使用前，查看官方当前账号、功能、导出和输入资料要求，核对结果是否适合你的任务。
