Agent开发笔记(4)Code Agent 的 Sandbox 和 Tool Permission
在 Eval Harness 之后,我继续给 Mini Agent Harness 加上工具风险等级、命令策略、项目目录沙箱、approval 中断点和安全 eval,让 Code Agent 的行动变得可控、可审计、可评测。
在 Eval Harness 之后,我继续给 Mini Agent Harness 加上工具风险等级、命令策略、项目目录沙箱、approval 中断点和安全 eval,让 Code Agent 的行动变得可控、可审计、可评测。
从 Agent 应用开发角度看,最需要优先考虑的几类安全和工程问题:过度代理能力、提示注入、不当输出处理和敏感信息泄露。