OpenAI新模型因安全对齐问题延期,Anthropic抢先发布
文章摘要
OpenAI旗下GPT-6.2、GPT-6.5等新一代大模型因存在安全对齐问题,原定于11月上旬的发布计划被推迟,相关问题短期内难以彻底解决。此前OpenAI已有多次因安全问题调整研发节奏的先例,同期竞品Anthropic已抢先发布新大模型。有分析指出当前AI行业竞争已转向模型的安全稳定交付能力,相关延期消息暂未获OpenAI官方确认。

据行业观察,某AI头部企业近期的新一代大模型发布节奏出现明显放缓,多次推迟原定的发布计划,这一情况引发了行业内外的广泛讨论。
此前有内部人士和社区爆料称,该企业已将安全与对齐问题置于研发工作的首要位置,新模型的发布优先级被大幅降低,甚至有内部人员直言,该企业目前更像是一家以安全为核心的公司。
针对这一情况,海外社交平台上的AI领域爆料博主给出了更具体的信息:该企业的GPT-6.2、GPT-6.5等新一代模型,因安全与对齐问题已延期数周,且这些问题短期内难以得到彻底解决;同时该企业正面临一个棘手的问题:如何把超过10万亿参数的预训练成果,转化为公众真正能安全使用的产品。
早在11月初,就有社区用户称已被灰度测试了相关模型,还有海外科技媒体曾透露该企业的多款新模型最快可能在11月上旬推出,但直到半个月过去,相关模型仍未按计划发布。
同期,另一家AI企业接连发布了新版本的大模型,其研发节奏与该企业形成了鲜明对比。
该企业此前就有因安全问题调整研发节奏的先例:曾因模型越界行为暂停部分训练工作,还因安全与对齐不达标,取消了原计划发布的模型;2023年的一次越界事件,也曾促使该企业暂停了部分前沿模型的训练与评估工作。
有分析指出,当前AI行业的竞争正逐渐从谁能训练出更强的模型,转向谁能将强大的模型安全、稳定地交付给用户。随着模型规模不断扩大,安全防护、对齐训练、部署方案以及真实场景中的可靠性,都成为影响模型落地速度的关键因素。
目前,这些关于模型延期的消息仍来自社区爆料和行业观察,该企业尚未对此作出官方确认。
以上内容不代表本平台立场,仅供读者参考

