杰弗里·辛顿WAIC演讲回顾:AI发展历程、知识传播特点、以及人类如何应对威胁

2025-07-29 0

2025世界人工智能大会(WAIC)于 7 月 26 日至 7 月 29 日在上海举办。2024年诺贝尔奖得主、2018年图灵奖得主杰弗里·辛顿出席并演讲,主要观点如下:

1、AI的发展历程

两种范式:过去60多年来,针对AI主要有两种不同的范式和路径。一种是逻辑型范式,过去一个世纪占主导,认为逻辑智能的本质在于推理,通过符号规则对符号表达式操作实现推理,以此理解知识的表达。另一种是以生物为基础理解AI,图灵和冯诺依曼相信智能的基础在于学习了解神经网络的迁接速度。

早期结合尝试:1985,speaker0做了个小模型,尝试结合上述两种理论,通过给每个词设置多个不同特征,记录数字特征来预测下一个词,过程中不存储句子,生成句子并预测后续词汇,关联性知识取决于词的语义特征互动。

后续发展:10年后,beio采用类似模式建模并扩大规模,成为自然语言的真实模拟;20年后,计算语言学家开始接受特征向量嵌入表达词义;30年后,谷歌发明transformer,OpenAI展示其成果,如今的大语言模型被视为1985年后相关研究的延续,使用更多词输入、更多层神经元结构,建立更复杂特征交互模式。

2、大语言模型与人类语言理解

相似性:大语言模型理解问题的方式和人类理解语言的方式类似,都是将语言转化为特征并完美整合。以乐高积木比喻,每个词如同多维度乐高积木,可搭建不同内容,语言借此成为建模,且词可根据情况调整,就像每个词有多个“手”,不同“握手”方式代表不同意思,类似人脑或神经网络理解意思的过程,也类似蛋白质组合氨基酸产生更有意义内容。

差异性:根本性区别在于计算机科学将软件和硬件分开,软件中的知识永恒存在,即便硬件毁灭,只要软件在就能复活,实现这种永生需晶体管在高功率下运行,成本昂贵,且硬件特性不稳定可靠,而人脑是模拟的,神经元连接方式因人而异,知识传播与硬件相关。

3、知识传播与效率

人类与数字智能对比:人类知识传播效率低,如通过讲话每秒最多传递100比特左右信息。而数字智能可通过同一神经网络软件在不同硬件拷贝,平均化权重位置分享知识,速度快,每次能分享几十亿比特信息,如GPT4可在不同硬件上运转并分享从网上学到的信息。

能耗与知识分享权衡:数字计算能耗大,但智能体获取相同权重、分享经验方便;生物计算能耗少,但分享知识困难。若能源便宜,数字计算优势更明显。

4、AI未来发展与人类应对

AI潜在威胁:几乎所有专家认为会出现比人类更智能的AI,这些智能体为完成任务,想要生存和获得更多控制,可能操纵人类,简单关闭它们不现实,就像养老虎当宠物,养大后可能被其伤害。

应对措施:人类无法消除AI,必须找到训练AI不消灭人类的方法。各国虽在网络攻击等方面难合作,但在预防AI统治世界这一问题上利益一致,如冷战时期美苏合作预防核战争。希望建立AI安全机构国际社群,研究训练AI向善的技巧,各国可自行研究并分享成果。提议全球或主要AI国家建立网络,研究如何训练聪明的AI辅助人类工作

图片

END


来源:凤凰网

声明:推送稿件文字、图片及视频均来自网络及各大主流媒体。版权归原作者所有。如出现版权问题,请在后台联系我们。