新的OpenAI模型:全新的能力,甚至危及自己

OpenAI 能力 2023-11-24 82

摘要:17日,2023年APEC峰会在旧金山结束,奥尔特曼在会上曾暗示,OpenAI正致力于比现在最新版GPT-4更强大、远远超出人们期待的产品,第二天他就被解雇了。同时也有内部研究员认为,OpenaAI在Q*上取得的进展,将会成为AGI的一个重要突破,比现在的最新版GPT-4更接近目标。...

元宇宙与碳中和研究院发布的文章称,硅谷的年度大戏《真还传》虽然已经结束,但相关消息仍然备受关注。据悉,2023年APEC峰会在旧金山结束时,OpenAI的奥尔特曼在会上透露,公司正在致力于比现有最新版GPT-4更强大、超出预期的产品。但随后他被解雇,而一封据称发给董事会的警告信则揭示了OpenAI某项目的重大飞跃。据知情人士透露,这封信是导致奥尔特曼被解雇的重要原因之一。

OpenAI的CTO米拉·穆拉蒂在周三提到了名为Q*的项目,并在“政变”发生之前向董事会发过一封信。董事会认为奥尔特曼在秘密推进可能存在威胁的项目,因此有所怀疑。内部研究员认为,Q*项目的进展将成为AGI的一个重要突破,并比最新版GPT-4更接近目标。但随后TradingStrategy.ai联合创始人米克·奥塔马表示,“重大突破”这一说法已被OpenAI内部人士否定。

除米拉的信外,奥尔特曼在APEC会议上的发言也印证了Q*项目的存在,暗示OpenAI已经开发出了比GPT-4更强大、更难以想象的东西,远超人们的预期。不过,奥尔特曼随后被OpenAI董事会解雇,两件事情前后发生,是否相关尚不明确。一些员工认为奥尔特曼的言论可能指的是公司早期的一些创新研究,而这些创新正帮助他们开发日益强大的GPT大模型。然而,这引起了一些员工的担忧,他们认为公司目前缺乏合适的保障措施,无法确保这种先进技术能够商业化。

总的来说,从OpenAI内部流出的消息来看,Q*项目是OpenAI两位研究员雅格和西蒙基于伊尔亚的工作成果建立的大模型,可以解决之前从未见过的数学问题。这无疑是一项重要的技术里程碑,并为训练新款大模型时的数据质量问题提供了新的解决方案。尽管奥尔特曼重新担任CEO,但OpenAI高管之间的矛盾依然存在,可能还会持续一段时间。伊尔亚一直在研究如何让GPT-4解决涉及推理的任务,而他也组建了对齐团队,致力于限制AI系统可能带来的威胁。同时,OpenAI董事长兼联合创始人布罗克曼也致力于将这项技术整合到新产品中。

相关推荐