AI 安全与护栏:从机制到独立运用
沿输入、上下文、工具、输出与日志的信任边界,建立可执行授权、审批与数据最小化规则,再用正常与攻击样本评估漏报、误报和事故收敛。
阅读起点
先阅读 Agent 基础 和 工具幂等与审批,了解Python、URL和服务端身份。
标准库实验使用 Python 3.12。每个标注完整实验的代码块单独保存为 lab.py,运行 python lab.py;同页局部替换按文字指示追加或替换。框架课程在正文给出独立虚拟环境与版本安装命令。断言失败会抛出 AssertionError,成功打印的值用于观察过程。网络和付费模型调用均单独标明,先读凭证与成本条件。
阅读顺序
每章正文包含首次运行入口与独立变体,答案在章内单独核对。框架调用、业务副作用与模型质量分别验证;确定性替身能检验控制流,不能证明真实模型准确率。大项目放在实战板块,正文使用小案例建立机制。