OpenAI：官网动态·· 2024-12-20AI 评分60
OpenAI 发布 deliberative alignment：通过推理让语言模型更安全
Deliberative alignment: reasoning enables safer language models
AI 导读
OpenAI 推出针对 o1 模型的新对齐策略 deliberative alignment，直接教模型安全规范，并让模型在推理过程中对这些规范进行推理，以提升语言模型的安全性。
来源：OpenAI：官网动态 · openai.com