AI 对齐

Anthropic 研究员展示了自我提升 AI 领域的突破性进展。研究表明，自动化系统能够在不降低模型整体性能的情况下，在 10 个特定的对齐基准上提升表现。

OpenAI 向 The Alignment Project 承诺提供 750 万美元资金，以加强对 AI 对齐的独立研究，重点关注通用人工智能 (AGI) 的安全与安全风险。