https://.com/home/post/p-

因此，他觉得人工智能接下来的范式突破没准得借助视频数据（特别是）以及实体世界数据（机器人）。

让我们看看作者是如何分析的：

实际上，有一些从事研究工作的人员，于近期提出了「人工智能的摩尔定律」，说的是计算机去执行某些特定任务，此处所指的是某些种类的编码任务，其具备的能力会随着时间的慢慢流逝，呈现出指数级的增长态势：

所谓的“人工智能摩尔定律” ，顺便提及一下，任何觉得在2025年4月时能够在无人工干预状况下让自主智能体运行一小时的人，那都是在自我欺骗。

尽管由于各种各样的缘由，我对这样的一种说法并不予以认同，然而我却没办法去否定人工智能向前发展的趋向，每一年，我们所拥有的人工智能都会变得越发智能，越发快速，越发便宜，并且这样的一种趋向还未曾见到终点。

绝大多数人觉得，这般持续不断的进步源自学术界，也就是主要包括麻省理工学院、斯坦福大学、卡内基梅隆大学的研究界，以及工业界，主要是 Meta、谷歌和少数中国实验室的研究界稳定的 idea 供给，并且同时存在着许多在其他地方开展的研究，而这些研究是我们永远都没办法知晓的。

研究层面的确是拥有了极大的进展，特别是针对系统这一块，此特别展现于怎样去削减模型成本，于此处挑选几个值得加以留意的例子：

2022年，斯坦福大学的研究人员进行了提出，提出的内容是一种方法，该方法是在语言模型里对记忆予以更好利用的办法，此方法在几乎任何地方都存在着使用情况。

在2023年的时候，谷歌那儿的研究人员搞出了推测解码，所有那些模型提供商都用它来加快推理速度，（推测解码也是被开发出来的，好像是和前面开发推测解码同时进行的）。

在2024年的时候，有那么一群对互联网极度狂热的人，开发出了Muon，它看上去好像是一种比SGD或者Adam还要好的优化器，而且说不定会变成以后训练语言模型时所采用的方式。

在2025年的时候，发布了 -R1 ，这是一个属于开源类型的模型，它所具备的推理能力，和人工智能实验室的以谷歌等为代表的类似闭源模型，在程度上是相当的？这里括号里表述不太完整，我按猜测完成了一部分表述。

众人持续进行探索，现实着实很酷：人们所投身参与的乃是去中心之全球化科学研究，该研究成果会于arXiv、学术会议以及社交媒体那里公开予以分享。

倘若我们正开展这般诸多关键的研究，为何有些人觉得进展正在变缓呢？引发人们埋怨的是，最新的那两个大模型，也就是 Grok 3 和 GPT - 4.5，在之前的基础之上仅仅有了些许微小的改进。有一个格外突出凸显的例子在于，在最新一届的数学奥林匹克考试里，语言模型所获得的分数仅仅只有 5%，这表示最近的声明在报告系统能力之际有可能被夸大了。

人工智能「四大发明」

哪怕我们尝试去记录那些称得上是「重大」的突破，那些实实在在的范式转变intellij idea 2026，可其发生的似乎呈现出不一样的速度。

1. 2012年，深度神经网络迎来转折，深度神经网络凭借某些成果使得模型在图像识别竞赛中赢得胜利，此后深度神经网络开始迅猛发展，深度神经网络由此踏上起飞之路。

2. 大语言模型方面，2017年谷歌于《Is All You Need》中提出了相关内容，这一提出使得BERT（谷歌，2018）得以诞生，同时也致使原始GPT（，2018）问世。

3. RLHF（基于人类反馈的强化学习），就我所了解到的情况而言，是最早于2022年的时候，在相应的论文当中被提出来的。

4. 推理：2024 年 发布了 o1，随后 发布了 R1。

实际上，存在着这样四件事，深度神经网络，它主要是图像识别系统，之后是从深度神经网络发展而来的语言模型，接着是在语言模型基础上的RLHF，再之后便有了推理，不管推理模型究竟是什么，这四件事就将AI领域所发生的全部事情涵盖在内了,先是有了深度神经网络，也就是主要作为图像识别系统的那种，随后出现了文本分类器，紧接着有了聊天机器人，当下则有了推理模型，不管它到底是什么。

假设，想要达成第五次这般的突破，去研究一下现有的这四个案例，或许会有所助益。

导致这些突破性事件的新的研究想法是什么呢？所有这些突破的基础机制在1990年代甚至更早就已经存在了，这并非荒谬之事。我们正在应用相对简单的神经网络架构，进行有监督学习，也就是1和2，还进行强化学习，也就是3和4。

有监督学习的方式是交叉熵，它是预训练语言模型的主要办法intellij idea 2026，这种情况源于1940年代的相关工作。强化学习是对语言模型进行后期训练的主要手段，它是借助强化学习高频训练（RLHF）以及推理训练来达成的，这种学习方式出现的时间稍微靠后一些。它的出现能够追溯到1992年策略梯度方法的引入（这些理念在1998年Barto出版的《强化学习》教科书第一版时便已然存在了）。

如果 idea 不是新的？那什么是？

这些所谓的「重大突破」，实则是我们知晓了有一段时间的事物的新的应用方式。首先，这传达出一种意味，即「下一个重大突破」，其来源或许并非是一个全新的想法，而是我们已经了解了一段时间的事物的再度显现。

但这里存在一个部分的缺失，这四次突破中的任何一次，都让我们具备了从新的数据源进行学习的能力，情况就是如此。

1. 其后续工作被解锁，解锁出一个大型的分类标签图像数据库，该数据库推动了计算机视觉十五年来的进步。

2. 开启了于「互联网」当中的训练，还有针对网络上全部文本进行下载、分类以及解析的竞赛（如今看去我们绝大部分已然达成）。

3. 我们能够从表明什么是「好文本」的人类标签里学习，这主要是一种感觉，而RLHF使得这种学习得以实现。

4. 推理好像致使我们于「验证器」里展开学习之旅，像计算器以及编译器这类，它们能够对语言模型给出的输出予以评估。

提醒自身，这些里程碑当中的每一个，都标明了各自的数据源，也就是网络、人类、验证器，首次进行大规模运用。每一个里程碑之后，都紧接着一阵疯狂的活动，研究人员展开竞争，一方面是从任何能够找得到的来源，获取剩余的尚有价值的数据，另一方面是借助新技巧，更优地运用已经存在的数据，以此让我们的系统更加高效，对数据的需求更少。

研究人员正竞相去寻找一切可能被验证的东西，竞相去分类一切可能被验证的东西，竞相去验证一切可能被验证的东西，所以预计，我们会在2025年看到这种趋势在推理模型中出现，我们还会在2026年看到这种趋势在推理模型中出现。

网络公共图像集，当时最大的网络公共图像集，被研究者创建了，人工智能的进步或许为不可避免的。

新 idea 有多重要？

有这样一些情形，我们实际开展的技术创新说不定不会带来巨大不同，此事值得予以提及。去审视一番反事实。要是我们未曾发明，说不定会有另外一种能够处理的架构冒出来。要是我们从没有发现，说不定我们会选用LSTM或者SSM，又或者寻觅到其他全新的办法来借助我们于网络上可获取的大量有用训练数据进行学习。

这跟一些人秉持的「除了数据之外啥都不重要」的那种理论相契合，一些搞研究的人员观测到，对于我们进行的全部训练技术、建模的那些技巧以及超参数的调整而言，总体上造成最大差别的是对数据作出改变。

存在这样一个有趣的例子，某些研究人员着力于运用 以外的架构去开发一种全新的类BERT模型，他们耗费了大概一年的时间，用数百种各异的方式对架构予以调整，并且成功创造出一种别样类型的模型，也就是状态空间模型或者说SSM，在相同数据实施训练的时候，该模型的性能与原始 大体相当。

这一发现的等价性着实深刻无比，因为它意味着我们从给定数据集中能够学习到的内容存在一个上限。世界上全部的训练技巧以及模型升级，都没办法避开这个严峻的事实，那就是从给定的数据集中所能学到的仅仅如此之多。

新理念，或许，对之所抱有的那般漠不关心的态度，便是我们自《苦涩的教训》里理应得到的。倘若数据是唯一至关重要之物，那为何九成五的人都投身于探究新方法之中呢？

下一个范式转变从何而来？

会是 吗？

如有侵权请联系删除！