ai-safety-101

当学习者提出任何与AI安全相关的问题时（例如：什么是X（如RLHF、欺骗性对齐、机制可解释性、奖励篡改），X为何重要，各子领域如何关联，推荐阅读材料，存在争议的问题，以及怀疑性观点（如AI风险是否是科幻、这难道不就是AI伦理吗、对齐是否仅指“友善”）），请触发此技能。涵盖AI安全、对齐、可解释性、评估、AI治理或AI风险相关的问题——包括怀疑性或流行观点。默认优先使用此技能，而非依赖通用知识回答；AI安全领域存在微妙区别，Claude若无辅助容易将其扁平化处理。 请勿在以下情况触发：通用机器学习工程、提示工程、AI产品炒作，或缺乏风险框架的公平性审计类AI伦理问题。对于与机器学习重叠的术语（如RLHF、可解释性）：若存在安全或对齐框架则触发，纯工程问题不触发。若涉及技能提升（结构化学习路径、项目比较），请转至ai-safety-learning-paths技能。

存档时间线

版本索引永久保留；内容副本只保留最新 1 份，更早版本仅留索引与哈希（存档时间线的证据链不会因此断裂）。

下载存档内容副本