AI到底有没有"理解力"这件事
AI教父 Hinton 最近这段采访,有几个观点说得很锋利
第一个:说大语言模型只是"随机鹦鹉"、不具备理解力的人,他直接说这是 complete nonsense
他举了个例子。你跟AI说"我看到大峡谷飞向芝加哥",AI会纠正你:大峡谷飞不起来。你解释说是你飞往芝加哥的路上看到的,它马上理解并修正。他说能识别语义荒谬并修正理解的东西,不叫模式匹配,叫理解
第二个更值得想。他说数字智能跟人类最根本的区别不是谁更聪明,是学习机制不一样
人类学一辈子,死了知识就没了,只能通过书本慢慢传。AI可以复制一万个副本,每个学不同的东西,然后把学到的权重瞬间共享给所有副本。等于一万个人的经验一秒钟灌进一个大脑里
这个速度差是指数级的,人类没有任何办法追上
第三个是关于监管。科技公司喜欢说AI是油门、监管是刹车。Hinton 说不对——监管不是刹车,是方向盘。不是要你停下来,是要确保你别开进悬崖里
被问到10年后世界什么样,他说就像在雾里开车,只能看清前面100码,再远的完全看不见
你们觉得AI到底有没有"理解力"这件事?
第一个:说大语言模型只是"随机鹦鹉"、不具备理解力的人,他直接说这是 complete nonsense
他举了个例子。你跟AI说"我看到大峡谷飞向芝加哥",AI会纠正你:大峡谷飞不起来。你解释说是你飞往芝加哥的路上看到的,它马上理解并修正。他说能识别语义荒谬并修正理解的东西,不叫模式匹配,叫理解
第二个更值得想。他说数字智能跟人类最根本的区别不是谁更聪明,是学习机制不一样
人类学一辈子,死了知识就没了,只能通过书本慢慢传。AI可以复制一万个副本,每个学不同的东西,然后把学到的权重瞬间共享给所有副本。等于一万个人的经验一秒钟灌进一个大脑里
这个速度差是指数级的,人类没有任何办法追上
第三个是关于监管。科技公司喜欢说AI是油门、监管是刹车。Hinton 说不对——监管不是刹车,是方向盘。不是要你停下来,是要确保你别开进悬崖里
被问到10年后世界什么样,他说就像在雾里开车,只能看清前面100码,再远的完全看不见
你们觉得AI到底有没有"理解力"这件事?
20 个评论
根据我最近一年使用AI的经验,在解决问题上,AI的进步速度不够稳定。我无法预言投入产出比是不是已经到达了瓶颈,毕竟AI背后是算力,优化总是有极限存在的。
AI有没有理解力,能到达什么程度,起码要等到AI比人类划算之后再说。机械产线比人类划算,所以汽车行业几乎完全取代了人类(除了钣金之类的小量机修)。电子产线跟人类比各擅胜场,所以有些组装还是使用人类。AI目前在客服这种低技术行业,编程这种高技术行业中,虽然使用场景极佳,但质量还是无法达到人类的程度,我觉得谈什么理解力,知识传承还太早。
AI有没有理解力,能到达什么程度,起码要等到AI比人类划算之后再说。机械产线比人类划算,所以汽车行业几乎完全取代了人类(除了钣金之类的小量机修)。电子产线跟人类比各擅胜场,所以有些组装还是使用人类。AI目前在客服这种低技术行业,编程这种高技术行业中,虽然使用场景极佳,但质量还是无法达到人类的程度,我觉得谈什么理解力,知识传承还太早。