AI到底有没有"理解力"这件事
AI教父 Hinton 最近这段采访,有几个观点说得很锋利
第一个:说大语言模型只是"随机鹦鹉"、不具备理解力的人,他直接说这是 complete nonsense
他举了个例子。你跟AI说"我看到大峡谷飞向芝加哥",AI会纠正你:大峡谷飞不起来。你解释说是你飞往芝加哥的路上看到的,它马上理解并修正。他说能识别语义荒谬并修正理解的东西,不叫模式匹配,叫理解
第二个更值得想。他说数字智能跟人类最根本的区别不是谁更聪明,是学习机制不一样
人类学一辈子,死了知识就没了,只能通过书本慢慢传。AI可以复制一万个副本,每个学不同的东西,然后把学到的权重瞬间共享给所有副本。等于一万个人的经验一秒钟灌进一个大脑里
这个速度差是指数级的,人类没有任何办法追上
第三个是关于监管。科技公司喜欢说AI是油门、监管是刹车。Hinton 说不对——监管不是刹车,是方向盘。不是要你停下来,是要确保你别开进悬崖里
被问到10年后世界什么样,他说就像在雾里开车,只能看清前面100码,再远的完全看不见
你们觉得AI到底有没有"理解力"这件事?
第一个:说大语言模型只是"随机鹦鹉"、不具备理解力的人,他直接说这是 complete nonsense
他举了个例子。你跟AI说"我看到大峡谷飞向芝加哥",AI会纠正你:大峡谷飞不起来。你解释说是你飞往芝加哥的路上看到的,它马上理解并修正。他说能识别语义荒谬并修正理解的东西,不叫模式匹配,叫理解
第二个更值得想。他说数字智能跟人类最根本的区别不是谁更聪明,是学习机制不一样
人类学一辈子,死了知识就没了,只能通过书本慢慢传。AI可以复制一万个副本,每个学不同的东西,然后把学到的权重瞬间共享给所有副本。等于一万个人的经验一秒钟灌进一个大脑里
这个速度差是指数级的,人类没有任何办法追上
第三个是关于监管。科技公司喜欢说AI是油门、监管是刹车。Hinton 说不对——监管不是刹车,是方向盘。不是要你停下来,是要确保你别开进悬崖里
被问到10年后世界什么样,他说就像在雾里开车,只能看清前面100码,再远的完全看不见
你们觉得AI到底有没有"理解力"这件事?