图灵奖得主杨立昆:AI的逻辑推理和规划能力有限,会犯事实错误和逻辑错误_每日速读
出品|搜狐科技
作者|郑松毅
6月9日,2023智源人工智能大会在北京举办。法国当地时间凌晨四点,被誉为“世界深度学习三巨头”之一的杨立昆(Yann LeCun)在法国视频连线北京现场,发表了主题为《走向能够学习、推理和规划的大模型》的演讲,表达了对于人工智能的深度思考。
(资料图片)
搜狐科技在智源大会现场观看了这场演讲,从杨立昆演讲时面露微笑的表情中,可以感受到杨立昆对于人工智能发展的积极乐观态度。此前在马斯克等人联名签署联名信提出人工智能发展将给人类文明带来风险时,杨立昆曾公开反驳,认为人工智能尚未发展到给人类构成严重威胁的程度。演讲中,杨立昆再次强调人工智能是可控的,他表示,“恐惧是由对潜在负面结果的预期引起的,而兴高采烈是由对积极结果的预测产生的,像这样由目标驱动的系统,我将之称为‘目标驱动的人工智能’,它会是可控的,因为我们可以通过成本函数为它设定目标,确保这些系统不会想要接管世界,相反,它会屈从于人类和安全。”
杨立昆表示,人工智能距离人类和动物的能力差距在于逻辑推理和规划,这是智能的重要特征,现在的大模型只能“本能反应”。
“如果你用一万亿或两万亿个token来训练它们,机器的性能是惊人的,但最终机器会犯事实错误、逻辑错误,它们的推理能力是有限的。”
杨立昆强调,基于自我监督的语言模型无法获得关于真实世界的知识。他认为,与人类和动物相比,机器的学习能力并不是很好。几十年来,研发系统的方式都是在用监督学习,但监督学习需要太多标签,学习任何东西都需要进行大量的尝试,强化学习的结果却不尽人意,这些系统是脆弱的,会犯愚钝和错误,且并不会真正地推理和计划。
“就像我们在演讲时,如何从一个观点表达到另一个观点,怎么解释事物,大脑里是有计划的,而不是一字一句的即兴发挥。也许在低层次上,我们在即兴发挥,但在高层次上,我们一定是在规划。所以规划的必要性是非常明显的。我的预测是,在相对短的几年内,理智的人肯定不会再使用自回归元素(自监督学习方法中的模型之一)。这些系统将很快被放弃,因为它们是无法修复的。”
他表示,为了让语言模型真正理解真实世界的知识,需要一个新的架构来取代,而这个架构就是他在一年前所发表的论文中提出的架构,“自主智能(Autonomous Intelligence)”。这是由一个配置模块控制整个系统,基于输入信息,进行预测、推理、决策的架构。其中的“世界模块”具备估计缺失信息、预测未来外界状态的能力。
谈及未来几年AI将面临的挑战,杨立昆指出三个方面,其一是学习世界的表征和预测模型;其二是学习推理,即学习如何有意识、有目的地运用思维去完成任务;最后一个挑战是如何通过将复杂任务分解成简单任务,以分层的方式运行来规划复杂的行动序列。
谈到这里,杨立昆介绍了他发表在论文中的另一个模型“世界模型(World Model)”,该模型可以想象一个场景,并根据场景预测行动结果。目的是找出一系列根据其自己的世界模型预测的行动,并最小化一系列成本的行动序列。
当杨立昆在提问环节被问及有关即将参加的一场关于AGI的地位和未来的辩论时,他表示这场辩论将围绕一个问题展开,即人工智能系统是否会对人类构成生存风险。Max Tegmark 和 Yoshua Bengio 将站在“会”的一边,认为强大的 AI 系统可能对人类构成存在风险。而杨立昆和 Melanie Mitchell 将站在“不”的一边。
“我们的观点不是说没有风险,而是说这些风险虽然存在,但很容易通过精心设计来减轻或抑制。”
杨立昆认为,超智能系统尚未被研发出来,待其被发明出后,再讨论“是否能使超智能系统对人类安全”也来得及。
责任编辑:
关键词:
下一篇:最后一页
- 广州科技活动周进入预热 明日正式启动300多场主题活动接踵而来
- 深化重点领域信用建设 广州正式出台新型监管机制实施方案
- 女童不慎掉入20米深井 18岁小姨三次下井成功营救
- 西安3个区域12月28日起每日开展全员核酸 官方提倡民众居家健身
- 浙江乐清一核酸检测结果异常人员 复采复检为阴性
- 浙江本轮疫情报告确诊病例490例 提倡“双节”非必要不出省
- 西安警方通报6起涉疫违法案件
- 西安新一轮核酸筛查日检测能力达160万管
- 西安市累计报告本土确诊病例811例
- 重庆曝光4起违反中央八项规定精神典型问题 警示党员干部清新过节
-
云南清水河边检站查获走私玉石和玉石毛料65公斤
中新网临沧12月28日电 (徐媛 雷珍玉)记者28日从云南清水河出入境边防检查站获悉,该站近日在清水河口岸查获一起利用货车藏匿走私玉石
-
让农民工不再忧“薪” 湖南祁阳高效根治欠薪
中新网永州12月28日电 (刘志军 周盛波)“感谢你们,没有你们不辞辛苦、多次讨要,我们肯定拿不着钱,这个年肯定过不好。”27日,农民
-
浙江缙云九旬老党员20多年义务为乡村老人理发
中新网丽水12月28日电(范宇斌 蒋依笑)在浙江省丽水市缙云县七里乡大园村周坎头自然村,今年90岁的陶岳贵在年近古稀时拾起剃刀,20多年
-
疫情下的边城东兴:停摆的城 夜行的人
(抗击新冠肺炎)疫情下的边城东兴:停摆的城 夜行的人 中新社广西东兴12月28日电 题:疫情下的边城东兴:停摆的城 夜行的人
-
长江流域生态管护员:我与长江的十年之约
中新网江西彭泽12月28日电 (袁昕 记者 王昊阳)“这是我今天第三次巡查了。”穿着新制服的长江流域生态管护员吴成年站立船头,在
-
吉林查干湖冬捕启幕 头鱼拍出2999999元
中新网松原12月28日电 (石洪宇 谭伟旗 薛栋栋)中国查干湖第二十届冰雪渔猎文化旅游节28日开幕,数万名游客现场直击鱼跃湖面的盛况。
-
甘肃中药炮制师研习古法30载:掌心留痕,翻烂资料书
中新网兰州12月28日电 (张婧)从事中药饮片加工技艺30年的张良,右手掌心有一条老疤痕,“20年前跟着老师傅学习中药材性状鉴别,传统方
-
广东启用涉疫风险人员排查12320专号
中新网广州12月28日电 (记者 蔡敏婕)广东省28日正式启用涉疫风险人员排查12320专号。即日起,涉疫风险人员来(返)粤前可在“粤省事”
-
武汉协和医院开设互联网儿童医学中心
中新网武汉12月28日电 (聂文闻 彭锦弦 陈有为)记者28日从华中科技大学附属协和医院(以下简称“武汉协和医院”)获悉,该院在湖北省首
-
四川:力争三年完成638个历史遗留矿山生态修复
中新网成都12月28日电 (杨予頔)28日,四川省自然资源厅发布消息称,近日,四川省自然资源厅印发了《四川省历史遗留矿山生态修复三年行
X 关闭
北京试点全龄友好住宅项目 老年家庭购房首付最低35%
西安新增本土确诊病例150例 详情发布
广东最低气温跌至-6℃现冰挂 部分道路及海上交通受影响
“2022科学跨年系列活动”启动 提高公众对科学类流言“免疫力”
珠科院多举措助力大湾区抗旱防咸保供水
X 关闭
阿玛尼机械表机芯 阿玛尼手表是什么机芯
上午9点,球王来了!梅西抵达北京,第7次来中国,却无缘交手国足 当前速递
【全球速看料】汪涵老了,他也累了,13年努力护着6个兄弟,最后却一个都没留住
手机屏保时间如何设置_如何设置屏保时间 世界报道
受天气影响,上海市部分公交、客轮停运停航 天天短讯