AI到底有没有"理解力"这件事
AI教父 Hinton 最近这段采访,有几个观点说得很锋利
第一个:说大语言模型只是"随机鹦鹉"、不具备理解力的人,他直接说这是 complete nonsense
他举了个例子。你跟AI说"我看到大峡谷飞向芝加哥",AI会纠正你:大峡谷飞不起来。你解释说是你飞往芝加哥的路上看到的,它马上理解并修正。他说能识别语义荒谬并修正理解的东西,不叫模式匹配,叫理解
第二个更值得想。他说数字智能跟人类最根本的区别不是谁更聪明,是学习机制不一样
人类学一辈子,死了知识就没了,只能通过书本慢慢传。AI可以复制一万个副本,每个学不同的东西,然后把学到的权重瞬间共享给所有副本。等于一万个人的经验一秒钟灌进一个大脑里
这个速度差是指数级的,人类没有任何办法追上
第三个是关于监管。科技公司喜欢说AI是油门、监管是刹车。Hinton 说不对——监管不是刹车,是方向盘。不是要你停下来,是要确保你别开进悬崖里
被问到10年后世界什么样,他说就像在雾里开车,只能看清前面100码,再远的完全看不见
你们觉得AI到底有没有"理解力"这件事?
第一个:说大语言模型只是"随机鹦鹉"、不具备理解力的人,他直接说这是 complete nonsense
他举了个例子。你跟AI说"我看到大峡谷飞向芝加哥",AI会纠正你:大峡谷飞不起来。你解释说是你飞往芝加哥的路上看到的,它马上理解并修正。他说能识别语义荒谬并修正理解的东西,不叫模式匹配,叫理解
第二个更值得想。他说数字智能跟人类最根本的区别不是谁更聪明,是学习机制不一样
人类学一辈子,死了知识就没了,只能通过书本慢慢传。AI可以复制一万个副本,每个学不同的东西,然后把学到的权重瞬间共享给所有副本。等于一万个人的经验一秒钟灌进一个大脑里
这个速度差是指数级的,人类没有任何办法追上
第三个是关于监管。科技公司喜欢说AI是油门、监管是刹车。Hinton 说不对——监管不是刹车,是方向盘。不是要你停下来,是要确保你别开进悬崖里
被问到10年后世界什么样,他说就像在雾里开车,只能看清前面100码,再远的完全看不见
你们觉得AI到底有没有"理解力"这件事?
20 个评论
第一,外行者总是会过度夸大新技术。不光是AI领域,以前的其它领域的新的技术也是这样。我以前喜欢看科幻,然后看到18 19世纪人们100年后的预测时,就看到这一点.过度夸大当时的新技术.所以对于AI理解力也是过度的夸大的.现在人们对AI的评价,高度拟人化.
第二,,理解力定义的问题.什么叫苹果?天天我们吃的那种水果就叫苹果.XX就是苹果.有人指出XX不是苹果后,于是支持者就扩大了苹果的定义,不仅我们以前天天吃的那种叫苹果,XX这种也叫苹果,是苹果的一种.所以说这种定义之争没意思.理解力的定义,就是人类思维的这种理解力.所以说AI不具备理解力.
第二,,理解力定义的问题.什么叫苹果?天天我们吃的那种水果就叫苹果.XX就是苹果.有人指出XX不是苹果后,于是支持者就扩大了苹果的定义,不仅我们以前天天吃的那种叫苹果,XX这种也叫苹果,是苹果的一种.所以说这种定义之争没意思.理解力的定义,就是人类思维的这种理解力.所以说AI不具备理解力.