Science:AI大模型只是当代“印刷术”,并不会创造超级智能agent?

mwQIzsAK2 发表于 2025-3-15 08:52:37 | 显示全部楼层 |阅读模式 |快速收录 面打上圆“图灵野生智能”，挑选“星标”公家号 您念明白的野生智能干货，第一时间投递                          版权申明 转自教术头条，版权属于本作家，仅用于教术分享，若有侵权留行简略 野生智能（AI）年夜模子（如语言、望觉、多模态模子）的突破激发了普遍存眷，一点儿人觉得颠末扩大数据取算力将催死通用野生智能（AGI）的降生，人类也行将睹证具备超等智能的智能体（agent）。 不管是灰心的手艺“宣扬派”，仍是更加担心的“劫难担心派”，皆正在普遍通报那如许一种对于 AGI 的弘大道事。 可是，最新一期的 Science 期刊揭晓了一篇题为“Large AI models are cultural and social technologies”文章，供给了一种取支流概念差别的思考角度，为那一远景泼了热火。 去自芝减哥年夜教圣达菲钻研所战约翰霍普金斯年夜教等多所顶尖机构的钻研职员觉得，对于年夜模子战 AGI 的道事，不但让各人歪曲了那些模子的素质和它们取已往手艺变化的干系，更主要的是也转化了咱们对于那些手艺所戴去实在成就战机缘的存眷，让咱们无视了汗青所能供给的经历战经验。 文章指出，年夜模子手艺取智能 agent 存留素质区分，其实不具备真实的智能战自立性，它们没法像人类一致感知战应付庞大多变的内部天下，也没法自立设定目标战代价不雅。年夜模子素质上该当被望为一种新兴的文化战社会手艺，其中心功用是辅佐人类越发下效便当天使用汗青积聚的疑息，而非开展出自力的 agent。 作家们夸大，分离社会教、举动科学取计较机科学的看法，有帮于咱们更精确天理解 AI零碎 。那一概念可颠末汗青上类似手艺（如笔墨、印刷术）的变化作用获得印证。未来或者容许能呈现更靠近智能 agent 的 AI零碎 ，咱们能够会商怎样应付那些假定的 AI零碎 ，但是年夜模子并不是如许的体系，它们更像印刷术、藏书楼目次或者互联网手艺一致，是人类文化取社会手艺开展少河中的一部门。 年夜模子更应是今世“印刷术” 咱们无妨临时戴失落目前对于年夜模子手艺的狂冷滤镜，回忆社会教野们对于已往手艺变化的共同理解，从头思考一下年夜模子手艺的素质。 人类文化果文化而起，也依靠文化患上以糊口战开展。从语言的呈现开端，人类就具备了从他人经历中进修的共同才气，那可以是人类文化下速退步的枢纽之一。 异常，咱们也很佳理解，汗青上每项严峻手艺的突破皆招致了社会的急遽变化。正在语言以后，人类文化史上的标记性文化手艺借包罗标记、笔墨、册本及印刷术、音望频手艺等。跟着疑息能够正在更宽广的空间战时间范畴内乱变患上触脚可及，咱们获得、理解战消耗疑息的方法也随之扩大，从藏书楼到互联网搜刮，从手札到音望频交际，那些手艺的开展皆对于人类思惟战社会文化发生了长远作用。 （滥觞：wikipedia） 比方，18 世纪印刷手艺的普遍进步，令人类新思惟能够疾速传布，正在发蒙活动战法国年夜反动中阐扬了主要感化。加入 21 世纪后，险些统统去自文原、图片战静态图象的人类文化产品皆被变换为数字格局，完毕了霎时传输战无限复造。那些立异不但沉塑了常识分派情势，也推翻了政事经济战社会构造方法。 作家指出，年夜模子取汗青上的文化战社会手艺有很多类似的地方。 起首，年夜模子具备获得战沉组人类积聚常识的才气，类似于誊写、印刷、互联网搜刮等手艺，它们能够会见由其他人类缔造的疑息，并对于其截至从头构造战变换。比方，狂言语模子（LLM）能够对于海质文原截至阐发战归纳，天生人类可读的文原实质。共时，它们借能对于疑息截至年夜范围的模仿战沉构，便像商场、国度等对于资本分派战社会构造截至沉组一致。 共时，文化战社会手艺不但依靠于个别的常识战决议计划才气，借能反过去塑制个别的常识战决议计划。年夜模子颠末供给疑息战常识，作用人们的思惟方法战举动情势。比方，谈天机械人能够按照用户的输出天生复兴，那些复兴可以包罗新的概念战疑息，进而改动用户的认知战决议计划。别的，年夜模子借能够颠末主动化任务战供给智能帮助，进步人类的事情服从战糊口品质。 也即是道，取蒸汽机、电力等地道的手艺立异差别，年夜模子素质上是一种特别的文化战社会手艺，融合了文化取社会手艺的两重特征，是能够构造、通报战变换人类文化常识，和和谐个别疑息汇集战决议计划的体系，它们间接感化于人类社会的文化战社会层里，具备深化的社会变化后劲。 别的，年夜模子的运行下度依靠人类合作，即依靠数万名标注员颠末加强进修人类反应（RLHF）劣化输出，用户需要颠末对于话指导模子拉理。素质上，当用户背模子索取供职疑倡议时，他们邪取不计其数先人的经历及标注员的常识直接互动。 以是，对于年夜模子的真实担心没有正在于可否会缔造出威胁人类的超等智能，而正在于咱们怎样操作把持那一新式文化手艺，均衡服从取多元、权益取公平。 汗青提醒咱们：手艺的作用从已必定，而是社会挑选的成果。惟有融合工程聪慧取社科洞悉，圆能指导 AI 成为人类文化的赋能者，而非安排者。 逾越 AGI 道事，从汗青中寻找经历 假设咱们将 AI 的会商散焦于那个新的文化战社会手艺所戴去的挑战取机缘上，便会发明，仿佛已往文化战社会手艺一致，那些年夜模子体系将抵消吃力发生长远作用。 年夜模子的后劲堪比印刷术对于语言、商场对于经济的改革，不但抽象了大批的人类文化，借许可对于其施行各类新的操纵，好比能够对于疑息截至沉组战沉构。那些 18 世纪战 19 世纪的晚期手艺是其时社会巨变的中心因素，既是变化的动果，也是变化的成果。 那些手艺皆撑持疑息的抽象化，缔造了新的可以性，能够正在环球范畴内乱和谐数百万人们之间的疑息交换取协作，以即可以截至年夜范围的新操纵。共时，那些手艺也激发了对于虚假疑息传布、偏见、文化共量化或者团结，和权益战资本分派变革的公道担心。新的通信媒介的呈现，不管是印刷术仍是电望，皆陪伴着对于其传布虚假疑息战加强没有良文化气力的担心。 （滥觞：Science） 正在经济范围，年夜模子可以改动常识事情者的脚色战职位，以至招致某些事业的磨灭。共时，它们也可以缔造新的赋闲时机战财产形状。别的，年夜模子可以作用权益战资本的分派。比方，具有年夜模子手艺的企业战机构可以得到更年夜的合作劣势，而这些没法有用使用那些手艺的小我私家战构造可以会被边沿化。 回忆那些手艺战体系的演变历程，咱们能够从中吸取贵重的经历经验。比方，正在印刷术提高后，呈现了疑息过载战虚假疑息传布的成就，社会不能不成立起编纂、偕行评审等标准战羁系体制去应付。异常，商场体制固然下效，但是也可以招致疑息不合错误称战内部性等成就，需要颠末法令战策略截至干预。 那些汗青经历已经为咱们理解战应付年夜模子戴去的挑战供给了无益的参照。 论文作家们觉得，为了充实阐扬年夜模子的后劲并削减其反面作用，计较机科学取社会科学的紧密协作相当主要。计较机科学野能够供给对于年夜模子手艺细节的深入理解，而社会科学野则能够阐发那些手艺对于社会、政事战经济的作用。 比方，手艺开辟者也应精益求精年夜模子的算法战架构，进步其精确性战可靠性。别的，钻研职员借能够根究新的手艺战使用情势，如开辟具备社会观点的 AI零碎 ，使其能够更佳天理解战应付庞大的社会成就。而当局战国内构造需要订定响应的策略战羁系步伐，以标准年夜模子的开辟战使用，那包罗成立数据隐衷庇护体制、避免算法蔑视、保证疑息的实在性等。共时，策略订定者借应存眷年夜模子对于赋闲商场战社会不合错误等的作用，采纳步伐减缓潜伏的反面作用。 动作新兴的文化战社会手艺，年夜模子在沉塑咱们的社会、经济战文化格式。它们不但能够获得战沉组人类常识，借能对于个别的常识战决议计划发生长远作用。 可是，咱们也必需苏醒天观点到，年夜模子并不是完善的智能 agent，宁可将 AI 的开展框定为人类取机械之间的两元奋斗，咱们更该当颠末借鉴汗青经历、增强跨教科协作和订定公道的策略战羁系步伐，指导年夜模子晨着有益于人类社会的标的目的开展，完毕手艺取人文的调和同退。 作家：木木 文章粗选： 1.万字少文详解DeepSeek-R1模子事情道理2.2024图灵奖颁给加强进修二位奠定人！ChatGPT、DeepSeek面前 元勋带上早去的冠冕3.博访今年图灵奖患上主Richard Sutton：为何您的成就，AI屡屡皆能给出云云知心的答复？（附望频）4.图灵奖患上主LeCun痛批硅谷狂妄病！圈内乱爆水少文：DeepSeek R1-Zero比R1更主要，成AGI破局枢纽 5.图灵奖患上主、AI 学女 Bengio：OpenAI 没有会分享超等智能，而是会用它去弄垮其他人的经济6.不消供人，DeepSeek饰演国度天然科学基金审评大师，为恳求书籍草稿提出专科改良定见，快速提拔实质品质7.图灵奖患上主Bengio预行o1没法到达AGI！Nature声威解读AI智能惊人退步，最终鸿沟便正在长远8.赶快抛却加强进修？！图灵奖患上主、Meta 尾席 AI科学 野杨坐昆叫话：目前拉理方法会“做弊”，卷年夜模子不意思！9.AI学女辛整理启年访道：华夏AI逃远好国靠人材教诲战自研；没有会像奥原海默一致懊悔10.图灵奖患上主杰弗里·辛整理：从小语言到狂言语，野生智能毕竟怎样理解人类？

回复 使用道具 举报 提升卡 置顶卡 沉默卡 喧嚣卡 变色卡 千斤顶 照妖镜