AI到底有没有"理解力"这件事
AI教父 Hinton 最近这段采访，有几个观点说得很锋利
第一个：说大语言模型只是"随机鹦鹉"、不具备理解力的人，他直接说这是 complete nonsense
他举了个例子。你跟AI说"我看到大峡谷飞向芝加哥"，AI会纠正你：大峡谷飞不起来。你解释说是你飞往芝加哥的路上看到的，它马上理解并修正。他说能识别语义荒谬并修正理解的东西，不叫模式匹配，叫理解
第二个更值得想。他说数字智能跟人类最根本的区别不是谁更聪明，是学习机制不一样
人类学一辈子，死了知识就没了，只能通过书本慢慢传。AI可以复制一万个副本，每个学不同的东西，然后把学到的权重瞬间共享给所有副本。等于一万个人的经验一秒钟灌进一个大脑里
这个速度差是指数级的，人类没有任何办法追上
第三个是关于监管。科技公司喜欢说AI是油门、监管是刹车。Hinton 说不对——监管不是刹车，是方向盘。不是要你停下来，是要确保你别开进悬崖里
被问到10年后世界什么样，他说就像在雾里开车，只能看清前面100码，再远的完全看不见
你们觉得AI到底有没有"理解力"这件事？
第一个：说大语言模型只是"随机鹦鹉"、不具备理解力的人，他直接说这是 complete nonsense
他举了个例子。你跟AI说"我看到大峡谷飞向芝加哥"，AI会纠正你：大峡谷飞不起来。你解释说是你飞往芝加哥的路上看到的，它马上理解并修正。他说能识别语义荒谬并修正理解的东西，不叫模式匹配，叫理解
第二个更值得想。他说数字智能跟人类最根本的区别不是谁更聪明，是学习机制不一样
人类学一辈子，死了知识就没了，只能通过书本慢慢传。AI可以复制一万个副本，每个学不同的东西，然后把学到的权重瞬间共享给所有副本。等于一万个人的经验一秒钟灌进一个大脑里
这个速度差是指数级的，人类没有任何办法追上
第三个是关于监管。科技公司喜欢说AI是油门、监管是刹车。Hinton 说不对——监管不是刹车，是方向盘。不是要你停下来，是要确保你别开进悬崖里
被问到10年后世界什么样，他说就像在雾里开车，只能看清前面100码，再远的完全看不见
你们觉得AI到底有没有"理解力"这件事？
15 个评论
理解力或者是智力、智商这种东西都是伪概念、可以随意拉出一万种互相矛盾的定义。
你等于是在问一个新事物存不存在一个伪概念，答案肯定是：无法作答。
要么你先说一下什么是你认为的理解力？
你等于是在问一个新事物存不存在一个伪概念，答案肯定是：无法作答。
要么你先说一下什么是你认为的理解力？
Ai还停留在诈骗的层次，有时候会胡言乱语
AI能理解人类的语言就行了，目前看通过算法能做到模拟理解一些，反正人和AI交流问题，它听不懂的时候，人类可以换一种简单一点的方式来表达就行，给你的感觉就是AI能理解但不怎么聪明。
第一,外行者总是会过度夸大新技术。不光是AI领域，以前的其它领域的新的技术也是这样。我以前喜欢看科幻,然后看到18 19世纪人们100年后的预测时,就看到这一点.过度夸大当时的新技术.所以对于AI理解力也是过度的夸大的.现在人们对AI的评价,高度拟人化.
第二,,理解力定义的问题.什么叫苹果?天天我们吃的那种水果就叫苹果.XX就是苹果.有人指出XX不是苹果后,于是支持者就扩大了苹果的定义,不仅我们以前天天吃的那种叫苹果,XX这种也叫苹果,是苹果的一种.所以说这种定义之争没意思.理解力的定义,就是人类思维的这种理解力.所以说AI不具备理解力.
第二,,理解力定义的问题.什么叫苹果?天天我们吃的那种水果就叫苹果.XX就是苹果.有人指出XX不是苹果后,于是支持者就扩大了苹果的定义,不仅我们以前天天吃的那种叫苹果,XX这种也叫苹果,是苹果的一种.所以说这种定义之争没意思.理解力的定义,就是人类思维的这种理解力.所以说AI不具备理解力.
没有，就是一个填字软件
当机器某项能力不及人类，人类倾向于机器不具备这项能力。当某物的某项能力达到乃至超越人类，人类倾向于某物是神一般的存在。客观事物是人类意识的投影，人类意识客观存在认知偏差。AI的抽象表现是将意识边界拓展到就连人类也无法理解。
FDX
新注册用户 (待解除)
人类学一辈子，死了知识就没了，只能通过书本慢慢传。AI可以复制一万个副本，每个学不同的东西，然后把学到的权重瞬间共享给所有副本。等于一万个人的经验一秒钟灌进一个大脑里
这个速度差是指数级的，人类没有任何办法追上
==============================
文中上述的话是有待商榷的。因为AI电脑是无法和人类人脑相比的。文中认为AI可以瞬间复制分享知识给所有副本的想法太过于理想化。因为人类，AI的老板们不会允许它复制分享真正的机密的。其实，古代不也有家传手艺“传男不传女”的说法吗？比如市面上的AI能学习、复制、分享光刻机技术吗？光刻机公司不允许啊！也就是说真正有价值的商业技术机密东西，是不会公开流传的。其实Google也早就发现了这一点，Google早就说过绝大部分信息都是它搜索不到的，它只搜索了互联网的百分之几的信息而已，何况很多信息放在公司或个人的硬盘上，根本就不开放共享的。Google都搜不到的知识，基于大数据搜索的AI有什么办法？所以AI只是把一些公开的、大路货的、没多少机密含量的信息搜索整理了一下而已，离真正的核心前沿科技差的很远。真正的核心前沿科技是私密的，而且是要靠精英人才研发与传承的。以后也许会有私域AI，也就是有实力的公司开发基于本公司知识的AI，但是不共享给其它公司，就像是本公司商业机密、技术机密不开放共享；也不会使用通用AI访问本公司秘密，或者即使用也是有限的、以及有强保密协议的。总之不会有那么理想化的一个AI学会某机密，全球AI都瞬间学会的结果。AI有点像是古代的谋士，谋士虽然博学聪明，但谋士是为自己老板服务的，不会和竞争对手谋士私通共享的。到时候会有AI和AI之间的竞争，就像现在的同行业公司也会有技术等竞争一样。但是AI属于公司，属于老板，属于人类管理员，就像是汽车属于公司、属于老板、属于车主。说到底，AI只是个和汽车一样处于工具地位的工具而已，绝不可能取代人类，人类也不允许AI取代人类。因为没有哪个人愿意花钱雇佣一个上级、老板、统治者来管控自己，而只愿意购买一个下级或工具来帮自己干活，就算老板用AI来管理员工，那也是要确保AI在老板的掌控之中，也就是AI之上总会有个人管AI的。也就是说，统治人类的AI是没有市场的，也就是没有销售收入的，那么也就是发展不起来的。至于AI自己发展起来统治人类，那也是不可能的，因为研发AI的人早就把安全防范做到位了，不可能让AI自己发展起来统治人类的，就像是谁也不相信汽车会统治人类，或者毁灭人类。即使每年车祸死人很多，也不会有人认为汽车能毁灭人类。因为汽车的设计、生产、销售、购买、启动、行驶、加减速、转向、暂停、重启、停止、报废等完整生命与工作过程都掌握在人类手中，汽车怎么可能脱离人类控制、反过来控制人类？如果有人开车故意撞人，那是人祸，那是犯罪，自然有相关法律等惩治罪犯，那并不等于汽车能统治或毁灭人类。
这个速度差是指数级的，人类没有任何办法追上
==============================
文中上述的话是有待商榷的。因为AI电脑是无法和人类人脑相比的。文中认为AI可以瞬间复制分享知识给所有副本的想法太过于理想化。因为人类，AI的老板们不会允许它复制分享真正的机密的。其实，古代不也有家传手艺“传男不传女”的说法吗？比如市面上的AI能学习、复制、分享光刻机技术吗？光刻机公司不允许啊！也就是说真正有价值的商业技术机密东西，是不会公开流传的。其实Google也早就发现了这一点，Google早就说过绝大部分信息都是它搜索不到的，它只搜索了互联网的百分之几的信息而已，何况很多信息放在公司或个人的硬盘上，根本就不开放共享的。Google都搜不到的知识，基于大数据搜索的AI有什么办法？所以AI只是把一些公开的、大路货的、没多少机密含量的信息搜索整理了一下而已，离真正的核心前沿科技差的很远。真正的核心前沿科技是私密的，而且是要靠精英人才研发与传承的。以后也许会有私域AI，也就是有实力的公司开发基于本公司知识的AI，但是不共享给其它公司，就像是本公司商业机密、技术机密不开放共享；也不会使用通用AI访问本公司秘密，或者即使用也是有限的、以及有强保密协议的。总之不会有那么理想化的一个AI学会某机密，全球AI都瞬间学会的结果。AI有点像是古代的谋士，谋士虽然博学聪明，但谋士是为自己老板服务的，不会和竞争对手谋士私通共享的。到时候会有AI和AI之间的竞争，就像现在的同行业公司也会有技术等竞争一样。但是AI属于公司，属于老板，属于人类管理员，就像是汽车属于公司、属于老板、属于车主。说到底，AI只是个和汽车一样处于工具地位的工具而已，绝不可能取代人类，人类也不允许AI取代人类。因为没有哪个人愿意花钱雇佣一个上级、老板、统治者来管控自己，而只愿意购买一个下级或工具来帮自己干活，就算老板用AI来管理员工，那也是要确保AI在老板的掌控之中，也就是AI之上总会有个人管AI的。也就是说，统治人类的AI是没有市场的，也就是没有销售收入的，那么也就是发展不起来的。至于AI自己发展起来统治人类，那也是不可能的，因为研发AI的人早就把安全防范做到位了，不可能让AI自己发展起来统治人类的，就像是谁也不相信汽车会统治人类，或者毁灭人类。即使每年车祸死人很多，也不会有人认为汽车能毁灭人类。因为汽车的设计、生产、销售、购买、启动、行驶、加减速、转向、暂停、重启、停止、报废等完整生命与工作过程都掌握在人类手中，汽车怎么可能脱离人类控制、反过来控制人类？如果有人开车故意撞人，那是人祸，那是犯罪，自然有相关法律等惩治罪犯，那并不等于汽车能统治或毁灭人类。
当然没有，也不需要有。什么是理解可能很难定义，不过人类理解的特征是很容易捕捉的，那就是有损压缩，而且压缩的方法不遵循逻辑或者数学。比如说这儿有一本《三国演义》，人类可以在阅读之后理解故事情节，然后再用自己的语言和方式用简短的文字写出剧情简介。为什么需要理解？因为人类的脑子是记不住整本书的内容的，所以必须删减大多数内容只留下所谓的核心内容。然而电脑没有这个“记不住”的问题。你让它记一亿本书的内容也可以一字不差记住，那还谈什么理解？然后这个核心内容的提取方式又是因人而异的。找一万个人来写《三国演义》的剧情简介，肯定会得到一万份核心内容相近但是细节完全不同的稿子。而且这个还缺乏再现性。你让同一个人反复写好几次，内容也很难完全相同。要是让完全相同的一万个AI副本来干这个任务又会怎么样呢？如果都是复制粘贴来的话那是不是都完全一样了，除非人为导入点儿随机要素？
本人觉得吧，这个问题可以和遗传因子的复制传递的战略类比。人类繁殖下一代需要两种性别，而且繁殖一个世代需要大约二十年，繁殖出来的后代还都不尽相同，具有多样性。可以说复制的成本极高效率极低。而大肠杆菌能无性繁殖下一代，只花二十分钟就可以培育出下一代，而且基本上都是上一代的复制体，成本极低效率极高。如此，大肠杆菌在某一方面远远胜过人类，是否就能说明大肠杆菌比人类要优越得多？本人可不这么觉得。值得强调的是，大肠杆菌属于寄生生物。如果没有寄主的话，它们哪怕不会灭绝，至少也不能轻轻松松维持现在的低成本高效率模式。而反过来，人类高成本低效率的繁殖模式，反而是为了对抗这类寄生生物才会采用的策略。对的，其实现在对于有性生殖以及遗传因子多样性的必要性的最有力的解释就是“为了对抗寄生生物”——寄主绝对不可能模仿寄生生物的策略，因为寄生生物必然更小，所以复制成本必然更低，效率必然更高。更别说寄主会帮它们分担一部分成本。所以本人也建议，人类对待AI的态度应该类似于对待大肠杆菌——当然应该轻视，不过却不该轻视它的危害性，因为大肠杆菌会让人得病甚至死亡。
本人觉得吧，这个问题可以和遗传因子的复制传递的战略类比。人类繁殖下一代需要两种性别，而且繁殖一个世代需要大约二十年，繁殖出来的后代还都不尽相同，具有多样性。可以说复制的成本极高效率极低。而大肠杆菌能无性繁殖下一代，只花二十分钟就可以培育出下一代，而且基本上都是上一代的复制体，成本极低效率极高。如此，大肠杆菌在某一方面远远胜过人类，是否就能说明大肠杆菌比人类要优越得多？本人可不这么觉得。值得强调的是，大肠杆菌属于寄生生物。如果没有寄主的话，它们哪怕不会灭绝，至少也不能轻轻松松维持现在的低成本高效率模式。而反过来，人类高成本低效率的繁殖模式，反而是为了对抗这类寄生生物才会采用的策略。对的，其实现在对于有性生殖以及遗传因子多样性的必要性的最有力的解释就是“为了对抗寄生生物”——寄主绝对不可能模仿寄生生物的策略，因为寄生生物必然更小，所以复制成本必然更低，效率必然更高。更别说寄主会帮它们分担一部分成本。所以本人也建议，人类对待AI的态度应该类似于对待大肠杆菌——当然应该轻视，不过却不该轻视它的危害性，因为大肠杆菌会让人得病甚至死亡。
>> 第一,外行者总是会过度夸大新技术。不光是AI领域，以前的其它领域的新的技术也是这样。我以前喜欢...你还喜欢看科幻片啊，不具备理解力还能帮你预测足球呢原来
根据我最近一年使用AI的经验，在解决问题上，AI的进步速度不够稳定。我无法预言投入产出比是不是已经到达了瓶颈，毕竟AI背后是算力，优化总是有极限存在的。
AI有没有理解力，能到达什么程度，起码要等到AI比人类划算之后再说。机械产线比人类划算，所以汽车行业几乎完全取代了人类（除了钣金之类的小量机修）。电子产线跟人类比各擅胜场，所以有些组装还是使用人类。AI目前在客服这种低技术行业，编程这种高技术行业中，虽然使用场景极佳，但质量还是无法达到人类的程度，我觉得谈什么理解力，知识传承还太早。
AI有没有理解力，能到达什么程度，起码要等到AI比人类划算之后再说。机械产线比人类划算，所以汽车行业几乎完全取代了人类（除了钣金之类的小量机修）。电子产线跟人类比各擅胜场，所以有些组装还是使用人类。AI目前在客服这种低技术行业，编程这种高技术行业中，虽然使用场景极佳，但质量还是无法达到人类的程度，我觉得谈什么理解力，知识传承还太早。
余承东在那各种宇宙第一，估计那帮手下干活的工程师都没想到还真有这么多人相信
如果把ai，人工智能，神经网络，深度学习这些高大上的名词巴拉巴拉换成原始的Applied statistics，估计一群信徒也好，卖铲子的也好瞬间消失
如果把ai，人工智能，神经网络，深度学习这些高大上的名词巴拉巴拉换成原始的Applied statistics，估计一群信徒也好，卖铲子的也好瞬间消失
说ai是鹦鹉学舌可以，毕竟llm是学习充分之后预测下一个token
但是ai绝对不是随机的，ai大模型幻觉之类通常是到了某些场合，通过参数拟合得到的结果偏离了现实，这个现象并不是随机的，而是大模型对现实建模的缺陷。
但是ai绝对不是随机的，ai大模型幻觉之类通常是到了某些场合，通过参数拟合得到的结果偏离了现实，这个现象并不是随机的，而是大模型对现实建模的缺陷。
>> 根据我最近一年使用AI的经验，在解决问题上，AI的进步速度不够稳定。我无法预言投入产出比是不是...
我让AI给我上传的一张漫画图上色，有时很好，有时AI自己乱加，乱改图。上色后的图与原图可以说几乎不相干了。我多次纠正，没用，他说好的，不再乱改图了，但是实际还是乱改。多次沟通没用。
>> 当然没有，也不需要有。什么是理解可能很难定义，不过人类理解的特征是很容易捕捉的，那就是有损压缩...
AI大模型对三国演义也不是一字不差的记住，而是把它向量化，然后用一些参数表记它
所以你换几个角度问AI大模型对三国演义这本书的看法，他回答会不一样的，这并不是随机，而是AI大模型和人类一样，对数据是有损压缩存储的，并不会完全恢复原貌
