Skip to content

AI 安全与护栏:从机制到独立运用 ​

沿输入、上下文、工具、输出与日志的信任边界,建立可执行授权、审批与数据最小化规则,再用正常与攻击样本评估漏报、误报和事故收敛。

阅读起点 ​

先阅读 Agent 基础 和 工具幂等与审批,了解Python、URL和服务端身份。

标准库实验使用 Python 3.12。每个标注完整实验的代码块单独保存为 lab.py,运行 python lab.py;同页局部替换按文字指示追加或替换。框架课程在正文给出独立虚拟环境与版本安装命令。断言失败会抛出 AssertionError,成功打印的值用于观察过程。网络和付费模型调用均单独标明,先读凭证与成本条件。

阅读顺序 ​

  1. 威胁模型与提示注入的执行边界

  2. URL、审批与数据最小化

  3. 红队切片、误报与事故收敛

每章正文包含首次运行入口与独立变体,答案在章内单独核对。框架调用、业务副作用与模型质量分别验证;确定性替身能检验控制流,不能证明真实模型准确率。大项目放在实战板块,正文使用小案例建立机制。

完整学习路线

用心记录每一步成长