首页 资讯 正文

上周大事件:中国东航荣获2025CAPSE多项大奖、“上海—北京大兴”两舱试点“线上选餐”、携手菜鸟推进航空维修数字化转型

体育正文 81 0

上周大事件:中国东航荣获2025CAPSE多项大奖、“上海—北京大兴”两舱试点“线上选餐”、携手菜鸟推进航空维修数字化转型

上周大事件:中国东航荣获2025CAPSE多项大奖、“上海—北京大兴”两舱试点“线上选餐”、携手菜鸟推进航空维修数字化转型

当地时间6月6日(rì),苹果机器学习研究中心发表论文《思考的幻象:通过(tōngguò)问题复杂性(fùzáxìng)的视角理解推理模型的优势与局限》。论文作者包括谷歌大脑(dànǎo)联合创始人Samy Bengio(图灵奖得主Yoshua Bengio的弟弟)。

该论文认为,现有的推理模型看似会“思考(sīkǎo)”,但其实并没有(méiyǒu)稳定、可理解的思维过程,所谓的推理思考只是一种“幻象”。

论文发布后引发AI圈热议,被(bèi)部分观点(guāndiǎn)解读为“苹果否定所有大模型的推理能力”。也有研究人员提出反驳,认为苹果的测试方法存在问题。AI研究者Lisan al Gaib在复现论文中的汉诺塔测试后发现,模型根本不是因为(yīnwèi)推理能力不佳(bùjiā)而失败(shībài),而是因为输出token限制。

图片来源:论文《思考的幻象:通过问题复杂性(fùzáxìng)的视角理解推理模型的优势(yōushì)与局限》

苹果(píngguǒ)“炮轰”AI推理模型:所谓的思考只是一种“幻象”

论文指出,OpenAI、Anthropic、谷歌和(hé)DeepSeek等公司纷纷推出带有(dàiyǒu)“链式思考”(Chain-of-Thought,CoT)能力的模型,并(bìng)声称它们更接近(jiējìn)“类人思维”。

然而,该(gāi)论文认为,现有的推理模型看似会“思考”,但其实并没有稳定、可理解的思维过程,所谓的推理思考只是一种“幻象(huànxiàng)”

苹果团队(tuánduì)认为,在实验设计上,现有评估主要集中在既定的数学和编码基准上,通过判断模型最终答案是否正确来评估其能力,这种方式可能存在数据污染,即模型在训练(xùnliàn)时可能见过类似(lèisì)题目。此外,这些评估大都缺乏对(duì)“思考过程质量”的分析。

为此,苹果团队设计了四类谜题环境,包括汉诺塔、跳棋交换、过河问题和(hé)积木世界,通过精确控制谜题难度,来测试推理(tuīlǐ)模型的推理能力(nénglì)

图片来源:《思考(sīkǎo)的幻象(huànxiàng):通过问题复杂性的视角理解推理模型的优势与局限》

推理模型(tuīlǐmóxíng)并未解决模型能力瓶颈

实验结果显示,面对低复杂度任务,非(fēi)推理模型(tuīlǐmóxíng)比与之对应的推理模型更准确高效。当问题复杂度适度增加,推理模型优势显现,性能超过(chāoguò)非推理模型。

当问题难度超过一定临界点时,两类模型性能均严重下降,准确率为零。这表明,推理模型并没有实际性地解决模型的能力(nénglì)瓶颈(píngjǐng)。

图片来源(láiyuán):《思考的幻象(huànxiàng):通过问题复杂性的视角理解推理模型的优势与局限》

面对难题,直接“躺平(tǎngpíng)”

同时(shí),研究还发现,随着问题复杂度的增加,推理(tuīlǐ)模型在初期会投入更多(duō)的思考token。然而,当问题难度达到某个临界点时,模型推理能力就会发生崩溃,思考不增反降。

这表明,推理模型似乎存在一个内在的“缩放限制”。当它预感到问题过于(guòyú)困难无法解决时,即便有充足的计算预算(token limit),它也会选择“躺平(tǎngpíng)”,减少思考(sīkǎo)的努力。

过度思考,连“抄作业”都不会(búhuì)

此外,研究人员不仅关注最终答案,还分析(fēnxī)了推理痕迹(hénjì)——即给出答案之前生成的(de)逐步“思考”过程。他们发现,在简单的问题(wèntí)中,模型往往在早期就找到了正确的解决方案,但随后继续进行不必要的思考

在中(zhōng)等复杂度的问题中,模型往往在推理过程中走错(cuò)路径,最终在“思考”的后期才找到正确的答案。但在高(gāo)复杂度的问题中,准确度为零,推理变得混乱或不连贯。

更令人担忧(lìngréndānyōu)的是,在汉诺塔任务中,研究人员直接在提示词中提供了完整的解题算法,要求模型仅仅是“执行(zhíxíng)”这个算法。但模型的表现没有任何改善,依然在相同的复杂度上崩溃(bēngkuì)。

苹果论文引(yǐn)争议:测试设计存在缺陷?

苹果此次发布(fābù)的论文在AI圈引发了不小的争议。

AI研究者Lisan al Gaib在复现论文中的(de)汉诺塔测试后发现,模型根本(gēnběn)不是因为推理能力(nénglì)不佳而失败,而是因为输出token限制

也就是说,不是模型不会解答(jiědá),而是无法输出如此多的内容。

GitHub软件工程师Sean Goedecke称,存在复杂性(fùzáxìng)阈值并(bìng)不意味着推理模型“实际上并不推理”

Sean表示,即使没有推理到第十一步,但前十步(shíbù)仍是(shì)在推理。“根据我自己测试的结果,模型(móxíng)很早就决定数百个算法步骤太多了,根本无法尝试,因此它们干脆不开始。”

Sean举了一个例子(lìzi),“有多少人能坐下来正确地算出一千步汉诺塔?有很多人能做到,但也有很多做不到。那么,那些算不出答案的(de)人就没有推理能力吗?当然有!他们只是没有足够的认真和耐心去手动(shǒudòng)完成一千次算法的迭代(diédài)。”

著名AI越狱(yuèyù)提示词专家Plenny the Liberator直言,如果我是苹果CEO,看到(kàndào)我的团队发表(fābiǎo)一篇只专注于记录当前方法局限性的论文,我会当场解雇所有参与者。

AI博主(bózhǔ)henry表示,“苹果(píngguǒ)作为世界上最富有的公司,拥有无与伦比的优势,全力押注人工智能,许下无数承诺,但(dàn)被所有人瞬间超越。赛程已进行两年,却一无所获,于是写了这篇论文说(shuō)这一切都是不重要的。”

WWDC在(zài)即,苹果“酸了”?

图片来源:苹果(píngguǒ)官网截图

部分观点认为,苹果发布质疑推理模型能力的论文是“吃(chī)不到葡萄说(shuō)葡萄酸”。

北京时间(shíjiān)6月10日凌晨1点,苹果年度开发者大会(WWDC 2025)即将拉开帷幕。然而,外界普遍认为,这次活动在AI方面的进展可能(kěnéng)有限,备受期待的Siri升级也将继续(jìxù)缺席。

据(jù)外媒报道,此次WWDC上苹果在AI方面的更新不会带来太多(duō)惊喜。科技记者马克·古尔曼发文透露,苹果今年WWDC中(zhōng)关于AI的内容预计会比较少,甚至可能“令人失望”

在去年WWDC上发布苹果智能(Apple Intelligence)时,苹果曾高调宣布对语音助手Siri进行(jìnxíng)“彻底重构”,新Siri应该更聪明、更懂用户、能够理解并执行(zhíxíng)复杂任务。然而,一年过去,Siri的升级却迟迟(chíchí)未见实质性(shízhìxìng)进展。

据多位前苹果员工透露,苹果AI领域(lǐngyù)的进展不顺,部分(bùfèn)原因在于公司内部领导风格的差异和组织间的协作问题

另一方面,苹果在AI领域的(de)探索,也受到了技术路线选择(xuǎnzé)和隐私政策带来的双重影响。苹果一直以来引以为傲的“隐私至上”原则,在AI时代给其带来了一些新的负担(fùdān)。一位(yīwèi)熟悉苹果AI和软件开发工作的人表示:“在苹果公司开发AI的过程(guòchéng)中,做任何事情(shìqíng)都可能遇到很多‘不’,你必须与负责隐私的部门反复沟通协调才能推进工作。”

上周大事件:中国东航荣获2025CAPSE多项大奖、“上海—北京大兴”两舱试点“线上选餐”、携手菜鸟推进航空维修数字化转型

欢迎 发表评论:

评论列表

暂时没有评论

暂无评论,快抢沙发吧~