几天前◈★✿，Sam Altman在YC独家专访中大胆预言◈★✿，2025年AGI降临◈★✿，并期待在同年要一个孩子◈★✿。

　　据称◈★✿，下一代旗舰模型Orion并不像前代实现巨大的飞跃◈★✿，虽然性能会超越OpenAI现有模型◈★✿，但相较于从GPT-3到GPT-4的迭代◈★✿，改进幅度要小得多◈★✿。

　　不仅如此◈★✿，这种提升也基本局限在了语言能力上——Orion的代码能力甚至不如旧模型◈★✿，但成本却更高◈★✿。

　　这篇文章直击OpenAI痛点◈★✿，提出Scaling Law逐渐放缓◈★✿，原因之一是高质量文本数据越来越少◈★✿。

　　为此◈★✿，OpenAI成立专门的基础团队◈★✿，去研究如何解决训练数据匮乏问题改进模型◈★✿，以及Scaling Law还能适用多久◈★✿。

　　为了扭转这一局面◈★✿，多位OpenAI研究人员当场急了◈★✿，纷纷现身为一直以来坚守的LLM定律辩护德扑之星app◈★✿。

　　德扑之父Noam Brown直接追问网友原因◈★✿，对方回复称◈★✿，「都已经过去一年半了◈★✿，Scaling并没有给大模型带去显著的改善」◈★✿。

　　俄勒冈州立大学名誉教授表示◈★✿，「o1-preview是否是一个Scaling的实例？如果是◈★✿，具体是什么在Scaling？在过去◈★✿，『Scaling』指的是同时扩大数据规模◈★✿、神经网络参数和计算资源」◈★✿。

　　OpenAI团队2020年提交的arXiv论文中最先提出这一概念◈★✿，是指LLM性能与计算量◈★✿、参数量◈★✿、数据量三者呈现幂律关系◈★✿。

　　传统的Scaling Law◈★✿，专注于用更长时间（预）训练更大的模型◈★✿，绝对仍然是一个重要因素◈★✿。而且◈★✿，这种规模仍是基础◈★✿。

　　用强化学习训练后的o1在给出回答前◈★✿，会通过一个私有的CoT进行「思考」◈★✿。模型思考时间越长胜者无敌◈★✿，在推理任务上表现的越好◈★✿。

　　这种方法开创了模型scaling的新维度◈★✿，模型性能不再仅仅受限于预训练阶段◈★✿，现在可以通过增加推理计算资源来提升模型表现◈★✿。

　　与此同时◈★✿，Jason Wei昨天发长文更生动地解释了◈★✿，o1思维链前后存在着细微但重要的差异◈★✿。

　　在o1范式之前◈★✿，思维链的实际表现和人类期望它达到的效果之间存在差距◈★✿。它更像是先有了答案◈★✿，再去对答案进行解释德扑之星app◈★✿，列出步骤◈★✿。

　　实际上◈★✿，模型只是模仿了它在预训练中见过的推理路径◈★✿，比如数学作业解答◈★✿，而不是一步步推理得到答案◈★✿。

　　这些数据的问题在于◈★✿，它是作者在其他地方完成所有思考后才总结出来的解答◈★✿，而不是真正的思维过程◈★✿。所以这些解答通常信息密度很差◈★✿。

　　一个明显的例子就是「答案是5◈★✿，因为...」这样的表述◈★✿，其中「5」这个数字突然包含了大量新信息◈★✿。

　　这些思维链更像是「内心独白」或「意识流」◈★✿。你可以看到模型在不断调整思路◈★✿，说一些像「另外◈★✿，让我们试试」或「等等◈★✿，但是」这样的话◈★✿。

　　虽然我没有直接测量过◈★✿，但我敢打赌（我的心理语言学朋友们可能能够确认）◈★✿，思维链中的信息密度比互联网上的普通文本要均匀得多◈★✿。

　　OpenAI产品副总Peter Welinder表示◈★✿，「人们低估了测试时计算能力的强大◈★✿：它可以持续更长时间的运算◈★✿，进行并行处理胜者无敌◈★✿，甚至能够任意地fork和branch——这就像是将你的思维复制1000份胜者无敌◈★✿，然后从中挑选出最好的想法◈★✿。」

　　OpenAI研究人员Clive Chan对此表示同感◈★✿：自一月份加入OpenAI以来◈★✿，我的观点已经从「这些都是无谓的炒作」转变为「AGI基本上已经到来了」◈★✿。

　　依我拙见◈★✿，接下来需要的并不是太多新的科学理论◈★✿，而是需要多年辛苦的工程优化◈★✿，去尝试在这个新范式下所有明显可行的想法胜者无敌◈★✿，扩大Scaling并提升速度◈★✿，同时找到方法来教会AI那些无法直接从网上学习的技能◈★✿。

　　这感觉就像◈★✿，2022年Autopilot范式转变——「端到端机器学习」解决了以前难以解决的问题◈★✿，但同时带来的新的挑战◈★✿，即投入多年时间不断微调架构◈★✿，并在全新的数据问题类型上玩「打地鼠游戏」◈★✿。

　　或许你会说◈★✿，OpenAI提出的Scaling Law◈★✿，当前要坚守辩护了◈★✿。那么◈★✿，其他人怎么看？

　　xAI研究员Hieu Pham用调侃的语气表示◈★✿，我实在忍不住说出这几天一直萦绕在我脑海中的那个俏皮话◈★✿：「技术力」问题◈★✿。

　　那些说大模型Scaling Law已经放缓的人◈★✿，就像再说摩尔定律在硬件领域已经放缓一样◈★✿。从某种意义上说◈★✿，虽然每个人都这么说◈★✿，但总有公司能找到办法突破这些限制◈★✿。

　　抨击Information◈★✿，为什么被一些人称为The [Mis]information的原因

　　随着OpenAI在o1和CoT（思维链）方面的突破◈★✿，发展似乎看不到尽头◈★✿。Q*（代号Strawberry）是带领我们迈向AGI突破性进展◈★✿，这也是Sam Altman如此有信心的原因◈★✿。

　　ChatGPT等其他AI产品的用户数◈★✿，肉眼可见地增长◈★✿。奥特曼最近称◈★✿，ChatGPT已经成为全球第八大网站◈★✿。

　　今年5月◈★✿，Altman曾告诉员工◈★✿，他预计下一代Orion很可能会比一年前发布的最后一个旗舰产品模型显著提升◈★✿。

　　一位人士透露德扑之星app◈★✿，尽管OpenAI仅完成了Orion训练过程的20%◈★✿，但其在智能◈★✿、完成任务◈★✿、回答问题的能力方面已经与GPT-4相媲美◈★✿。

　　但据OpenAI员工测试后发现◈★✿，虽然Orion性能最终优于之前的模型◈★✿，但与GPT-3和GPT-4之间的飞跃相比◈★✿，性能提升要小得多◈★✿。

　　另外◈★✿，一位知情人士表示◈★✿，Orion可能比OpenAI最近发布的其他模型◈★✿，在数据中心的运行成本更高◈★✿。

　　就在昨天◈★✿，科学家Yam Peleg爆料◈★✿，「听说从某个前沿实验室（老实说不是OpenAI）传出消息◈★✿，他们在尝试通过延长训练时间◈★✿，使用越来越多数据来强行提升性能时◈★✿，遇到了一个意想不到的巨大收益递减瓶颈」◈★✿。

　　为了应对GPT改进放缓◈★✿，对基于训练的Scaling Law提出的挑战◈★✿，业界似乎正在转向改进训练后的模型◈★✿，这可能会产生不同类型的Scaling Law◈★✿。

　　一些首席执行官◈★✿，包括小扎在内◈★✿，表示即使在最坏的情况下◈★✿，即使当前技术没有改进胜者无敌◈★✿，仍然有很大的空间可以在其基础上构建消费者和企业产品◈★✿。

　　比如◈★✿，OpenAI正忙于在其模型中嵌入更多代码编写功能◈★✿，对抗最大劲敌Anthropic的重大威胁◈★✿。

　　它还在开发能够控制个人电脑的软件◈★✿，通过点击◈★✿、移动光标◈★✿、文本输入◈★✿，以及其他人类在使用不同应用程序时进行的操作◈★✿，来完成网页浏览或应用程序的白领任务◈★✿。

　　这些产品◈★✿，是朝着处理多步任务AI智能体发展的一个组成部分◈★✿，可能会像最初推出的ChatGPT一样具有革命性◈★✿。

　　此外◈★✿，小扎◈★✿、Altman◈★✿，以及其他AI巨头的首席执行官们也公开表示◈★✿，尚未达到传统Scaling Law的极限◈★✿。

　　这也就不难理解◈★✿，包括OpenAI在内的公司仍在开发昂贵的◈★✿、耗资数十亿美元的数据中心◈★✿，以尽可能多地从预训练模型中获取性能提升◈★✿。

　　然而◈★✿，OpenAI研究员Noam Brown在上个月的TEDAI会议上表示◈★✿，「开发更先进的模型◈★✿，可能在经济上变得不可行」◈★✿。

　　他又表示◈★✿，「毕竟◈★✿，我们真的要训练那些耗资数千亿美元或数万亿美元的模型吗？在某个时候◈★✿，Scaling Law会崩溃」◈★✿。

　　有员工表示◈★✿，当OpenAI在明年年初发布Orion时◈★✿，可能会不同于其传统的「GPT」命名惯例◈★✿，进一步强调了大语言模型改进的不断变化◈★✿。

　　LLM在预训练期间会处理这些数据◈★✿，以理解世界和不同概念之间的关系◈★✿，从而解决诸如撰写博客文章◈★✿、解决编码错误等问题◈★✿。

　　过去几年中◈★✿，LLM使用了各种公开可用的文本以及来自网站◈★✿、书籍◈★✿，以及其他来源的其他数据进行预训练◈★✿。

　　众所周知◈★✿，互联网数据已经耗尽◈★✿。另有Epoch AI研究佐证◈★✿，2026年前全网高质量数据几近用完◈★✿。

　　为此◈★✿，OpenAI组建了一个基础团队◈★✿，由之前负责预训练Nick Ryder领导◈★✿，以探索如何应对训练数据短缺以及Scaling Law还会持续多长时间◈★✿。

　　据一位OpenAI员工透露◈★✿，Orion部分训练是通过由其他OpenAI模型（包括GPT-4和最近发布的o1推理模型）生成的AI数据进行训练的◈★✿。

　　然而◈★✿，他又表示◈★✿，这种所谓的「合成数据」导致了一个新问题——即Orion最终在某些方面可能与那些旧模型相似◈★✿。

　　虽然数据暂时无解◈★✿，但OpenAI的研究人员正在通过改进模型处理特定任务的方式◈★✿，来提升它们在后训练过程中的表现◈★✿。

　　具体来说◈★✿，他们让模型从大量已正确解决的问题（如数学或编程问题）中学习◈★✿，这一过程被称为强化学习（RL）◈★✿。

　　他们还要求人类评估员在特定的编程或问题解决任务上◈★✿，测试预训练模型并对答案进行评分◈★✿，这有助于研究人员微调模型◈★✿，以改进其对某些类型请求（如写作或编码）的回答◈★✿。

　　这一过程称为人类反馈强化学习（RLHF)◈★✿，也在以往AI模型性能改进方面◈★✿，可以看到该方法的有效性◈★✿。

　　为了处理这些评估◈★✿，OpenAI和其他AI开发者通常依赖于◈★✿，诸如Scale AI和Turing这样的初创公司来管理成千上万的合同工◈★✿。

　　此外◈★✿，o1推理模型◈★✿，在给出答案前需要更多时间进行「思考」LLM训练过的数据◈★✿，这一概念被称为测试时计算（Test-Time Compute）◈★✿。

　　这意味着o1的响应质量可以继续提高◈★✿，当模型在回答用户问题时◈★✿，提供额外的计算资源◈★✿，即使不对基础模型进行更改◈★✿。

　　知情人士称◈★✿，如果OpenAI能够继续提高基础模型的质量◈★✿，即使速度较慢◈★✿，也可以产生更好的推理结果◈★✿。

　　Brown在TEDAI会议上表示◈★✿，「这为Scaling打开了全新的维度◈★✿，研究人员可以通过从『每次查询花费一分钱到每次查询花费十美分』来改善模型的响应」◈★✿。

　　与此同时◈★✿，Altman在伦敦开发者日上◈★✿，强调了OpenAI推理模型的重要性◈★✿，这些模型可以与LLM结合使用◈★✿。

　　「我希望『推理』能够解锁我们等待多年的许多事情——例如◈★✿，让这样的模型能够为新科学做出贡献◈★✿，帮助编写更多复杂的代码」◈★✿。

　　在最近与YC首席执行官Garry Tan的采访中◈★✿，Altman表示◈★✿，「我们基本上知道该怎么去做」才能实现与人类能力相当的通用人工智能——其中一部分涉及「以创造性的方式使用当前模型」◈★✿。

　　他在一个YouTube视频中表示◈★✿，「我们正以同样的速度增加用于训练AI的GPU数量◈★✿，但我们根本没有从中获得智能上的改进」◈★✿。

　　Horowitz的同事Marc Andreessen在同一个视频中表示◈★✿，有很多聪明的人正在努力突破渐近线◈★✿，想办法达到更高水平的推理能力◈★✿。

　　Databricks企业软件公司联合创始人兼主席◈★✿，同时也是一个允许应用程序开发者评估不同大模型的网站的共同开发者Ion Stoica表示◈★✿，大模型的性能可能在某些方面进入平台期德扑之星app◈★✿，但在其他方面则没有◈★✿。

　　他继续表示◈★✿，虽然AI在编码和解决复杂的多步问题等任务上继续改善◈★✿，但在执行一般任务的能力上德扑之星app◈★✿，如分析文本的情感◈★✿、描述疾病症状◈★✿，进展似乎放缓◈★✿。

　　对于一般知识问题◈★✿，你可以说目前我们在LLM的表现上看到了一种平台期◈★✿。我们需要更多的事实数据◈★✿，而合成数据的帮助有限◈★✿。

　　未来知识库是“ 欧米伽 未来研究所”建立的在线知识库平台◈★✿，收藏的资料范围包括人工智能◈★✿、脑科学◈★✿、互联网◈★✿、超级智能◈★✿，数智大脑◈★✿、能源◈★✿、军事◈★✿、经济◈★✿、人类风险等等领域的前沿进展与未来趋势◈★✿。目前拥有超过8000篇重要资料◈★✿。每周更新不少于100篇世界范围最新研究资料◈★✿。德扑圈游戏◈★✿，德扑圈最新下载◈★✿，HHpoker德扑官网微信◈★✿，德扑之星◈★✿，DPT德扑之星