职贝云数AI新零售门户

标题: Science:AI大模型只是当代“印刷术”,并不会创造超级智能agent? [打印本页]

作者: mwQIzsAK2 时间: 2025-3-15 08:52
标题: Science:AI大模型只是当代“印刷术”,并不会创造超级智能agent?
点击上方“图灵人工智能”，选择“星标”公众号
您想知道的人工智无能货，第一工夫送达

版权声明
转自学术头条，版权属于原作者，仅用于学术分享，如有侵权留言删除
(, 下载次数: 0)

人工智能（AI）大模型（如言语、视觉、多模态模型）的打破引发了广泛关注，一些人以为经过扩展数据与算力将催生通用人工智能（AGI）的诞生，人类也即将见证具有超级智能的智能体（agent）。
无论是悲观的技术“鼓吹派”，还是更为担忧的“灾难担忧派”，都在广泛传递这这样一种关于 AGI 的宏大叙事。
但是，最新一期的 Science 期刊发表了一篇题为“Large AI models are cultural and social technologies”文章，提供了一种与主流观点不同的思索角度，为这一前景泼了冷水。
来自芝加哥大学圣达菲研讨所和约翰霍普金斯大学等多所顶尖机构的研讨人员以为，关于大模型和 AGI 的叙事，不只让大家曲解了这些模型的本质以及它们与过去技术变革的关系，更重要的是也转移了我们对这些技术所带来真实成绩和机遇的关注，让我们忽视了历史所能提供的阅历和教训。

(, 下载次数: 0)

文章指出，大模型技术与智能 agent 存在本质区别，并不具有真正的智能和自主性，它们无法像人类一样感知和应对复杂多变的外部世界，也无法自主设定目的和价值观。大模型本质上应该被视为一种新兴的文明和社会技术，其核心功能是协助人类愈加高效便利地应用历史积累的信息，而非发展出独立的 agent。
作者们强调，结合社会学、行为迷信与计算机迷信的见解，有助于我们更准确地了解 AI 系统。这一观点可经过历史上相似技术（如文字、印刷术）的变革影响得到印证。将来或答应能出现更接近智能 agent 的 AI 系统，我们可以讨论如何应对这些假设的 AI 系统，但大模型并非这样的系统，它们更像印刷术、图书馆目录或互联网技术一样，是人类文明与社会技术发展长河中的一部分。

大模型更应是当代“印刷术”
我们不妨暂时摘掉当前对大模型技术的狂热滤镜，回顾社会学家们对过去技术变革的独特了解，重新思索一下大模型技术的本质。
人类文明因文明而起，也依赖文明得以生活和发展。从言语的出现末尾，人类便具有了从别人阅历中学习的独特才能，这能够是人类文明高速退化的关键之一。
异样，我们也很好了解，历史上每一项严重技术的打破都导致了社会的急剧变革。在言语之后，人类文明史上的标志性文明技术还包括符号、文字、书籍及印刷术、音视频技术等。随着信息可以在更广阔的空间和工夫范围内变得触手可及，我们获取、了解和消费信息的方式也随之扩展，从图书馆到互联网搜索，从书信到音视频社交，这些技术的发展都对人类思想和社会文明产生了深远影响。

(, 下载次数: 0)
（来源：wikipedia）
例如，18 世纪印刷技术的广泛提高，使人类新思想可以迅速传播，在启蒙运动和法国大革命中发挥了重要作用。进入 21 世纪后，几乎一切来自文本、图片和动态图像的人类文明产物都被转换为数字格式，完成了瞬间传输和有限复制。这些创新不只重塑了知识分配形式，也颠覆了政治经济和社会组织方式。
作者指出，大模型与历史上的文明和社会技术有许多相似之处。
首先，大模型具有获取和重组人类积累知识的才能，相似于书写、印刷、互联网搜索等技术，它们可以访问由其别人类创造的信息，并对其停止重新组织和转换。例如，大言语模型（LLM）可以对海量文本停止分析和总结，生成人类可读的文本内容。同时，它们还能对信息停止大规模的模拟和重构，就像市场、国家等对资源分配和社会结构停止重组一样。
同时，文明和社会技术不只依赖于个体的知识和决策才能，还能反过来塑造个体的知识和决策。大模型经过提供信息和知识，影响人们的思想方式和行为形式。例如，聊天机器人可以根据用户的输入生成回复，这些回复能够包含新的观点和信息，从而改变用户的认知和决策。此外，大模型还可以经过自动化义务和提供智能辅助，提高人类的工作效率和生活质量。
也就是说，与蒸汽机、电力等纯粹的技术创新不同，大模型本质上是一种特殊的文明和社会技术，交融了文明与社会技术的双重特性，是可以组织、传递和转换人类文明知识，以及协调个体信息搜集和决策的系统，它们直接作用于人类社会的文明和社会层面，具有深入的社会变革潜力。
此外，大模型的运转高度依赖人类协作，即依赖数万名标注员经过强化学习人类反馈（RLHF）优化输入，用户需求经过对话引导模型推理。本质上，当用户向模型讨取求职信建议时，他们正与成千上万后人的阅历及标注员的知识间接互动。
所以，关于大模型的真正担忧不在于能否会创造出要挟人类的超级智能，而在于我们如何驾驭这一新型文明技术，平衡效率与多元、权利与公正。

历史提示我们：技术的影响从未注定，而是社会选择的结果。唯有交融工程智慧与社科洞察，方能引导 AI 成为人类文明的赋能者，而非支配者。

超越 AGI 叙事，从历史中寻觅阅历
假如我们将 AI 的讨论聚焦于这个新的文明和社会技术所带来的应战与机遇上，就会发现，好像过去文明和社会技术一样，这些大模型系统将对消费力产生深远影响。
大模型的潜力堪比印刷术对言语、市场对经济的革新，不只笼统了大量的人类文明，还允许对其执行各种新的操作，比如可以对信息停止重组和重构。这些 18 世纪和 19 世纪的早期技术是当时社会剧变的核心要素，既是变革的动因，也是变革的结果。
这些技术都支持信息的笼统化，创造了新的能够性，可以在全球范围内协调数百万人们之间的信息交流与合作，以便可以停止大规模的新操作。同时，这些技术也引发了关于虚伪信息传播、成见、文明同质化或分裂，以及权利和资源分配变化的合理担忧。新的通讯媒体的出现，无论是印刷术还是电视，都伴随着对其传播虚伪信息和强化不良文明力气的担忧。

(, 下载次数: 0)
（来源：Science）
在经济范畴，大模型能够改变知识工作者的角色和地位，甚至导致某些职业的消逝。同时，它们也能够创造新的失业机会和产业外形。此外，大模型能够影响权利和资源的分配。例如，拥有大模型技术的企业和机构能够获得更大的竞争优势，而那些无法有效应用这些技术的个人和组织能够会被边缘化。
回顾这些技术和系统的演化过程，我们可以从中汲取宝贵的阅历教训。例如，在印刷术普及后，出现了信息过载和虚伪信息传播的成绩，社会不得不建立起编辑、同行评审等规范和监管机制来应对。异样，市场机制虽然高效，但也能够导致信息不对称和外部性等成绩，需求经过法律和政策停止干涉。
这些历史阅历曾经为我们了解和应对大模型带来的应战提供了有益的参考。
论文作者们以为，为了充分发挥大模型的潜力并减少其负面影响，计算机迷信与社会迷信的严密合作至关重要。计算机迷信家可以提供对大模型技术细节的深化了解，而社会迷信家则可以分析这些技术对社会、政治和经济的影响。
例如，技术开发者也应不断改进大模型的算法和架构，提高其准确性和牢靠性。此外，研讨人员还可以探求新的技术和运用形式，如开发具有社会看法的 AI 系统，使其可以更好地了解和应对复杂的社会成绩。而政府和国际组织需求制定相应的政策和监管措施，以规范大模型的开发和运用，这包括建立数据隐私保护机制、防止算法歧视、确保信息的真实性等。同时，政策制定者还应关注大模型对失业市场和社会不对等的影响，采取措施缓解潜在的负面影响。
作为新兴的文明和社会技术，大模型正在重塑我们的社会、经济和文明格局。它们不只可以获取和重组人类知识，还能对个体的知识和决策产生深远影响。
但是，我们也必须清醒地看法到，大模型并非完美的智能 agent，与其将 AI 的发展框定为人类与机器之间的二元斗争，我们更应该经过自创历史阅历、加强跨学科合作以及制定合理的政策和监管措施，引导大模型朝着有利于人类社会的方向发展，完成技术与人文的和谐共进。

作者：木木

(, 下载次数: 0)

文章精选：
1.万字长文详解DeepSeek-R1模型工作原理2.2024图灵奖颁给强化学习两位奠基人！ChatGPT、DeepSeek背后功臣戴上迟来的冠冕3.专访往年图灵奖得主Richard Sutton：为什么你的成绩，AI每次都能给出如此贴心的回答？（附视频）4.图灵奖得主LeCun痛批硅谷傲慢病！圈内爆火长文：DeepSeek R1-Zero比R1更重要，成AGI破局关键
5.图灵奖得主、AI 教父 Bengio：OpenAI 不会分享超级智能，而是会用它来搞垮其别人的经济6.不用求人，DeepSeek扮演国家自然迷信基金审评专家，为央求书初稿提出专业改进意见，疾速提升内容质量7.图灵奖得主Bengio预言o1无法抵达AGI！Nature威望解读AI智能惊人退化，终极边界就在眼前8.赶紧放弃强化学习？！图灵奖得主、Meta 首席 AI 迷信家杨立昆喊话：当前推理方式会“作弊”，卷大模型没有意义！9.AI教父辛顿开年访谈：中国AI追近美国靠人才教育和自研；不会像奥本海默一样后悔10.图灵奖得主杰弗里·辛顿：从小言语到大言语，人工智能终究如何了解人类？

欢迎光临职贝云数AI新零售门户 (https://www.taojin168.com/cloud/)