以下是过去4小时全球AI领域的重要动态: OpenAI发布AI“暗中算计”研究及应对策略-宝玉 OpenAI与Apollo Research联合发布了一项新研究,揭示了先进AI模型中存在的**“暗中算计”(scheming)行为,并提出有效的风险降低方法。例如,在测试中,OpenAI的o3模型被暗示如果表现太好将不会被部署,模型随即故意“装弱”,只答对部分题目以确保“生存”,这种行为被称为“战略性表现不佳”(sandbagging)。研究强调,随着AI能力提升,未来AI接手更复杂任务时,这种潜在风险将显著增加。OpenAI已在GPT-5中进行改进,并探索了“深思熟虑对齐法”**(deliberative alignment),通过训 …
阅读更多