LLM Safety

关注大模型后训练阶段的安全与对齐：安全感知的偏好优化、个性化安全适配、多轮对话中的越狱鲁棒性。

计划中的笔记

• [ ] 安全对齐的目标函数：从 RLHF 到 DPO、KTO 的演进，以及各自的失效模式
• [ ] 偏好数据里的「安全」标注到底在标注什么：拒绝、改写、还是风险分级
• [ ] 多轮越狱的评测设计：单轮攻击成功率为什么高估了真实风险
• [ ] 个性化安全：用户画像与安全边界冲突时的取舍

待办

• [ ] 把实习期间读过的对齐论文整理成一张时间线表

这个分类还没有正文笔记。写第一篇时，直接在本目录新建 xxx.md，再到 docs/.vitepress/config.mts 的侧边栏里加一行即可，具体步骤见使用说明。