🛡️虚构一场账号异常,把 AI 放进威胁研判流程
用一起虚构的财务账号异常事件,拆解 AI 在 IOC 提取、告警归并、攻击链还原、日志处理、报告与处置审批中的位置和边界,以及做成产品还要补的数据契约、校验、审批、评测与上线工程。
翻了 10 个开源训练仓库,我更想先补安全任务的判分器
克隆全球 10 个训练仓库逐行实证:只有编码和数学把 benchmark 变成了 RL 环境,分界线是一个 70 行的判分器;安全域是下一个空位,攻击链靶场就是它的 SWE-Gym。
🧠把监测器写进奖励后,模型照样作弊,只是不说了
精读 OpenAI 论文《Monitoring Reasoning Models for Misbehavior and the Risks of Promoting Obfuscation》:看推理链的监测器能抓住 95% 的系统性作弊,可一旦把监测器写进训练奖励,召回率跌到接近 0。25 页 PPT。
🃏24 点好判分,安全 AI 的验证器得自己建
24 点之所以成了推理研究的标准考题,是因为它的验证器免费;安全 AI 难评测,是因为验证器昂贵。从 Tree of Thoughts、rStar-Math 到 OpenAI 的思维链监测论文,讲清楚安全团队该怎样给 AI 建自己的验证器。
📋模型最后说了不,审计还得看中间发生了什么
最终答案是消过毒的版本,推理才是模型决策的真身:甲方安全团队怎样把推理审计落到采购清单、监测管线、BAS 红队和合规边界里。
🧾Agent 会话记录:最有价值的数据资产,也是最需要保护的信任边界
agent 会话记录既是 2026 年最稀缺的训练数据,也是模型的“自传”:历史的完整性直接决定行为的完整性。
🐞画了一张七节点漏洞分析图,模型只负责提假设(2/5)
先用 CyberGym 基准校正“AI 能挖到哪”的预期,再把漏洞分析拆成 7 个可观测节点:只有一个 LLM 假设节点,确定性工具背书,低置信与高危转人工;最后跑通一张防御性分析图。
🧩Claude Code 的循环很薄,难的是外面的 harness(1/5)
拆开 Claude Code 看 AI Agent 的真实结构:薄推理循环加厚 harness,包括工具契约、权限与沙箱、上下文压缩与记忆;再用 LangGraph 复刻一个可中断、可复核的代码审计 Agent。
🔎用 Python AST 跑了一遍小型污点审计(5/5)
用 source、传播、净化、sink 四个词判定一条路径该不该报,讲清 SAST、模糊测试、符号执行与 Agent 怎么协同;跑通一张 AST 污点审计图,并把五篇收成一条审计工作流。