Prompt Fuzzer 能帮你完成什么工作
选一项工作查看准备材料、执行建议和交付检查。
01评估应用提示词防护
- 准备材料
- 系统提示词
- 授权模型配置
- 测试范围
- 怎样开始
- 输入需要检查的系统提示词，说明希望模型遵守的任务边界。
- 在交互式测试中运行动态攻击样例，观察模型回复与检测结果。
- 针对有效攻击修改提示词或应用防护，再对相同样例复测。
- 交付目标
- 测试记录
- 失败样例
- 人工检查
- 复核测试适用性和误报，修订后重新测试。
Prompt Fuzzer 是什么
通过交互测试检查生成式应用的系统提示词在动态模型攻击下的表现。
费用与使用条件
正式使用前，查看官方当前账号、功能、导出和输入资料要求，核对结果是否适合你的任务。
