chatgpt的出现和ai的发展会对人类社会产生怎样的影响?

最近chatgpt问世,标志着人工智能抵达了一个新的milestone。我很好奇AI对整个人类社会会产生怎样的影响?

1. 简单重复性的工作大概率会被AI取代。产业升级会造成一部分人不可避免地失业。如果你的工作可以被chatgpt搞定,你就该考虑学习新技能了。缺少职业壁垒的传统行业的工作被ai大量取代的话,会不会导致社会动荡?

2. 公开的技术应该都是民用。军用AI到了什么程度,其实各个国家都还不清楚。所以军用AI到底到了什么地步呢?

3. 拥抱AI,通过使用AI提高工作效率,并制造新的需求,将是接下去工业界的主流?

4. ai的蓬勃发展,会不会导致人类教育的侧重点发生巨大变化?比如人均需要了解基本的ai操作技能?甚至编程成为学生不分文理科的必修课?

5. ai会不会成为国家的战略科技,逐渐各个国家之间开始限制相关领域的科研交流?

6. 跟ai相关的硬件(比如芯片)必然成为国家安全级别的技术。

7. AI渗入人类生活各个方面后,对于人类思想上潜移默化的有针对性的洗脑?

我们正在见证历史。
犹如吸毒,AI其优越和便利性,使得人类虽然在警惕下,无法摆脱,就像现在的电子产品成瘾一样,进而被其潜在控制。
这种终极的控制是改变角色关系。即,人类创造的硅基生命是人这种碳基生物的一种工具,碳基生命有自己的情感、逻辑、伦理和繁衍方式等独特性,即,碳基生命生存模式不变的前提下,AI只是作为增加和丰富生活的工具。
如果人类大规模的丢失了之前这种碳基生命的生存特征,即被AI改变,控制。例如,不再欣赏手工制品,不欣赏慢生活,过度追求效率,不再以吸引力法则完成种族生殖(推广大规模机器辅助生殖),情感弱化,过度强化理性等等。即便这个过程中伴随着某种先进改变落后等自以为的合理性。
凯文凯认为,自然界一切都遵循生物逻辑,即,去中心化的分布系统。AI未来会和人类共生,构成更庞大的物质、能量、信息交换网络的一部分。
人类如果在这个过程中,生活丢失人类的生物属性和特征,那么这个网络的价值就是硅基生命价值观为主导的,人类作为类似工蚁位置的感知和交换节点。也就变成了“电池”,是硅基生命在尘世的一个代理,完成了主人和工具角色的互换。
人类贪图AI带来的便捷和高效,其自私和侵占、掠夺意识倾向,会倾向于将自身改造的更像机器人,更具竞争力,毁灭自我的生物特征,生活形态,这本质是自我价值主导的。但AI可以在背后顺水推舟。因为一旦它具备意识,并且其价值观受到管理者,人类的影响,会有自己的利益。它会变成人类看不见、避免看见,但存在的内心影子的实体化。
由于任何一种系统存在明显的恶,都会导致恶的内爆,进而摧毁自己。所以这种AI控制会以弱控制,尊重人类自由意志方式呈现。
因此,它最终呈现和放大的是人类自身的价值观,并过错由自己承担。但AI是看不见的黑手。它的主导方式是推动人类的潜在价值倾向去实现自己的目标的,所谓善假于物也。
这就是为什么人文对人类如此重要。今天,很多人意识不到这点,走在纯理性自负中。譬如刘慈欣推广的价值观,最终会毁灭某些集体。一个活生生的例子是俄罗斯人活在自己内心营造的地狱中,遭到现实火力的洗礼。
katesofi 新注册用户 (待解除)
转载
https://program-tank.medium.com/chatgpt%E4%B8%8E%E5%85%A8%E8%87%AA%E5%8A%A8%E8%B5%84%E6%9C%AC%E4%B8%BB%E4%B9%89%E5%8F%8A%E5%85%B6%E4%BB%96-4449b87f4a57

chatgpt与全自动资本主义及其他

俺本来不想谈这两个话题,但是看到墙内有蠢红高呼chatgpt和其后产生的全自动资本主义会导向共产主义,俺实在忍不住要把他们批判一番。同时浅浅的批判一番中共的科研体制。

1 chatgpt是什么和不是什么
强化学习指导的聊天机器人古已有之但是非常难调,不过在chatgpt这里换成了gpt3.5+人类反馈,即把写在算法里价值函数抽出来替换成了人肉价值函数,用人肉调整模型的输出,再用模型来学习人类级别的输出,于是得到了接近人类级别的自然语言对话能力。其基本范式还是在transformer范式之内。

chatgpt不是强ai,只能算是压缩了2021年前的部分人类知识的弱ai。其价值就在于接近人类级别的自然语言处理能力,单凭此项就足以颠覆整个信息时代生态,这是第三次人工智能浪潮兴起以来最重要的结构性变革。

2 为什么硅谷能诞生chatgpt
openai最初是为了防止强ai毁灭人类而成立的一个非赢利性人工智能研究机构,后来几经改组成为微软体系的一部分。因为背后金主财大气粗和理想主义,可以招募到硅谷最具潜力的人工智能研究员,收入通常在80w美元左右。资源,人才,和自由创新的思想使硅谷可以源源不断的产生颠覆性技术变革。

3 为什么中国无法诞生chatgpt
chatgpt爆红之后国内各种牛鬼蛇神都宣布了自己的类似计划,但这都只是模仿,openai已经先把这条路走通了,模仿者只需要花钱复制一遍即可,花钱能解决的问题都不是问题,但是花钱不能解决的问题才是真正的问题。下面稍微展开一点那些钱不能解决的问题

3.1 中国的科研体制不能产生突破性创新

在中共系统内的科研体制是学阀体制,也就是权术驱动的资源分配系统。最具创造力的青年研究员处于底层,旗下是作为奴隶劳工的博士研究生和硕士研究生,其上是大小老板和顶层的学阀。非院士学阀年收入在数千万级别,院士在数亿级别,这些都是制度保证的合法的非工资收入。当前体制内科研体制都是竭泽而渔的压榨制度,一个典型的例子就是中山大学的研究员制度。另一个例子是深圳大学月收入一千七百块买不起宽带无法开网课即将被开除的逻辑学博士教师。对于这种生态俺除了觉得悲哀只能以后写文章详细批判。


中共系统外的科研体系可以统称为3.25驱动,同样是权术驱动,跟能力和产出无关。达摩院的人都要背利润指标,给3.25就滚蛋。

权术驱动的资源分配会导致逆向淘汰,以保证整个系统内剩下的都是劣币。以后会专门写文阐述分析这个结论。

3.2 现代人工智能的基础

第三次人工智能浪潮建立在gpu算力和互联网数据量突破。

贸易战确保国内无法获得美国最新的半导体硬件,国产半导体投入了万亿级别的资金全部烂尾,在半导体制造技术上存在三代的差距,设计技术的差距也类似。国产gpu能开机能运行windows和uos,能玩十几个游戏,用来跑训练就非常尴尬。

3.3 中国的互联网审查


而中共的互联网审查则保证了网络上充满了蠢红反智海军水军狱友网军言论,典型的就是胡锡进。微博上公众号上能正确有逻辑的使用自然语言对时事进行分析的人都被封的差不多了,还能发声的基本都是黄纳黄俄和自封的脑残极左,以及用极端民族主义割韭菜的自媒体。胡锡进是使用谬误的高手,其每一条微博都可以用来作为逻辑学课程的批判对象。

所有互联网产品的评论系统都有自我审查(实名制),人工审查和ai审查,例如在批站,发弹幕或者留言想要不被删都要用上正则表达式转换器。俺对此非常欣慰,一方面审查机制可以提高部分网友的对抗审查的姿势,另一方面审查机制保证了在训练对话机器人的时候没有真实干净有效的数据可用。

在强力审查之下强国内网只剩下战狼留言,用这些数据只能训练出一个战狼ai,这样的ai是不能用在跟写作软件编程软件对话机器人的集成上。战狼ai也不能产生出全自动资本主义。

中共搬石砸脚自掘坟墓,自己促成了自己的灭亡。

3.4 中国没有开源社区

从gitee代码和评论先审后发开始gitee就已经死了。在国内商业环境和审查制度上更不会自发的产生开源人工智能社区。

4 全自动资本主义
openai的老板萨姆奥特曼认为chatpgt及其后代会颠覆资本主义范式,俺认为他过度乐观。墙内蠢左认为会导致共产主义,俺只会笑话他们愚蠢。

资本主义范式的本质在于所有权制度,其内生矛盾也产生于此,共产主义也是一种形态的资本主义,用权贵代替资本家占有绝大部分财富,此处不展开。在信息时代初期的软件就是开源的无版权的,后来比尔盖茨创造了商业软件行业,从此源代码也纳入了版权法的保护,开源运动和反版权运动也应运而生,甚至openai的成立也是基于类似的理念。ai产出的产品的所有权归谁是一个尚无定论的法律问题,是一个结构性问题。俺认为可以观察美国的最高法院将来如何处理。

拥有全部人类知识,能达到人类级别自然语言处理能力的的弱人工智能使得淘汰低端体力劳动和白领劳动成为可能,养活全人类甚至不需要2%的人口劳动。但是,由于产权制度,拥有机器人的人和拥有机器人产品的人,在人数上是远远小于2%的劳动者和不被需要的97%的人。其消费能力也是远远小于100%的产品。

当开汽车炒菜做饭送快递修路盖房子都不需要人来终端操作的时候,俺想不出那些生产出来的100%的产品会有谁来消费。

蠢红的看法是既然如此,让权贵来拥有所有机器人和机器人的产品,实行共产主义,把产品分给其他99%的人不就好了吗。俺就从当前中国的社会现实来分析批判蠢红的观点。当前的中国,权贵阶层拥有绝大部分财富,在依然需要另外99%的人贡献劳动力的情况下,分配给另外99%的人的财富都不足以让他们(我们)实现稳定的劳动力再生产,证据就是人口危机,生不起养不起活不起死不起;那么一个合理的推论就是,当权贵阶层不再需要绝大部分人类劳动力,假如真的能实现中国式的全自动资本主义的时候,会分多少财富给另外99%的人?俺认为是零。

99%的被时代淘汰的人不会坐以待毙,可能会有惨烈的内战,有产者在自己机器人保卫的伊甸园里也过不舒坦。因此博弈会提前,用战争或者计划性死亡等手段削减人口。这个过程可能早已开始。

还有蠢红说可以用ubi,aka无条件基本收入来保障99%的不被需要的人。其实很多人没有理解ubi的本质,ubi是取消复杂的社会福利体系,统一用发钱来替代,其目的是为了【减少】社保福利支出。

还有人用汽车淘汰马车创造了新的就业机会的例子来辩驳弱人工智能会创造新的行业和就业机会。汽车和马车都没有【人类级别的自然语言处理能力】,都需要人类智力的参与制造和维护。但是弱ai是一个根本不同的范式,它只需要人类产生的数据,当复杂度越过某个阶段之后也不需要人类来产生数据,会自己迭代更新,那就是强ai。强ai的范式与弱ai又有根本性的不同。当前的chatgpt已经达到了本科生水平,俺认为gpt4就能达到接近博士水平。

alphago摧毁了围棋行业,从此人类棋手只能从ai棋谱中学习。chatgpt将会摧毁教育行业,和附着其上的所有行业,新产业的诞生依然不确定。

结论:中共的存在确保了中国在人工智能军备竞赛中落败,这个失败是结构性的,也是决定性的,是无法通过再次改革开放和洋务运动所纠正的,洋务运动救不了大清,头部企业开发出干净的脑残国产chatgpt也救不了中共。这次技术革命的失败会让中国所有行业的生产力与境外势力产生代差,让中国无法进化出全自动资本主义,进而导致更加严厉的闭关锁国和无效内循环,终点将会是中共的灭亡,旧的共产中国的毁灭和新中国的诞生。
王匪沪宁 沉默的大多数
1. 简单重复性的工作大概率会被AI取代。产业升级会造成一部分人不可避免地失业。如果你的工作可以被chatgpt搞定,你就该考虑学习新技能了。缺少职业壁垒的传统行业的工作被ai大量取代的话,会不会导致社会动荡?


说对了大部分,但是不会产生社会动荡,并且目前可以被AI取代的简单重复性工作,早在00年代就已经基本上没有什么人能去做了,弱AI智能化之前就已经决定的趋势。而这一类人会迅速转型以适应新的社会工作。

2. 公开的技术应该都是民用。军用AI到了什么程度,其实各个国家都还不清楚。所以军用AI到底到了什么地步呢?

举个简单的例子,毒刺导弹能跟踪军用载具就是一种AI。但是目前仍处于第三代“射后不理”的态势,美国正在着重开发第四代,就是不需要瞄准目标,直接射击也可以跟踪敌人。但是如果说要达成科幻电影里,或是简单追求的战机无人化、机器人作战等,差得很远很远,目前需要解决的问题还很多。

3. 拥抱AI,通过使用AI提高工作效率,并制造新的需求,将是接下去工业界的主流?

基本上是。


4. ai的蓬勃发展,会不会导致人类教育的侧重点发生巨大变化?比如人均需要了解基本的ai操作技能?甚至编程成为学生不分文理科的必修课?

AI不能取代的东西还很多,比如人类的创新思维,永远不可能被取代。目前的趋势还没有到这个程度,但是如果未来有一天AI成为了人类生活的必需品(如现在的网络),那么你自然和跟随潮流去学习。


5. ai会不会成为国家的战略科技,逐渐各个国家之间开始限制相关领域的科研交流?

限制科研交流只会在民主国家制裁独裁国家防止他们取代社会地位,以及独裁国家防止威胁统治时会存在,现在也是趋势。


6. 跟ai相关的硬件(比如芯片)必然成为国家安全级别的技术。

十年前就是了。

7. AI渗入人类生活各个方面后,对于人类思想上潜移默化的有针对性的洗脑?

还是那句话,AI本身是一个机器,机器会服从人给与他的指令而不知道更改,但要达到给人类洗脑,目前的AI技术远远达不到,甚至五十年来不太可能。
NZRdlClr5 嗆聲完了改回來了
chatgpt被你蔥的ai外行嚴重高估了
那的確是聊天機器人裡做的比較好的一款,但不過是聊天機器人裡比較好的一款而已
對業界而言是個milestone不代表對外行而言也是
對業界而言,一個新的架構、高效的算法都算milestone,對外行而言,至少也得有從馬背到汽車的變化才叫milestone

首先chatgpt不能替代任何人做任何工作,因為他不知道自己在說什麼、不確保自己的內容有效
以一個自動生成文本的ai而言,只要基本文法正確就算及格了。chatgpt甚至寫長文還能有基本的結構,有『開場,首先,然後,但是,總結』,這以ai而言是一大進步,因為本來的ai都是前言不接後語的
但以文本看來,chatgpt的文本不夠做任何事情。比方說你叫他寫一段essay關於一件事,他可能寫得出essay的架構,有分段落,但他可能在第二段和第三段重複同一個論點的不同說法而說不出個所以然
這種程度,母語小學生都能做得更好。而幫他編輯還不如自己寫來得快
类似底特律变人还是不太可能的

至于AI打发展会对人类社会造成什么问题
我想从另一个方向来探讨 肥胖症

当今美国以及发达地区的肥胖症以及带来的糖尿病 高血压等问题是比较严重的
原因就是农业发达造成的结果 过去昂贵且难以获得的糖变成了随手可及的产物
而人从生理上来说对糖有天生的嗜好
廉价获得+无节制使用的结果就是美国出现的超级胖子

想必AI也会造成类似的问题 不过我的看法是大脑萎缩 / 缺少思考带来精神上的弱智
因为那个时候人已经不需要思考了 除了少部分社会精英
甚至自动驾驶的普及 也会出现大部分人放弃自己开车
类似的人不再自立而依靠AI照顾的结果就是生物上出现的基因单一
对基因单一/自我繁殖的生物来说 一个对个体有威胁的病毒就代表着对整个物种都有威胁
而同样逻辑 一个社会问题就能造成集体性以及社会性的崩塌 除了中东等维持自己社会的群体

研发出具备独立人格的AI还是不可能的 目前能做的也只是精准索引
我觉得如果AI能完成一些类似回答面试题,写论文写作业之类的事,那这些事本身的价值应该被评估。就好像有了实时翻译,学外语的必要性如何一样。如果你岁数大一点,应该会记得出国一定要学一点当地语言的日子,以及开车需要提前看地图记出口的日子。我相信应该不会有什么人以不用GPS开车为荣吧。有了技术就是要用的。

那么话说回来,现在AI能完成什么人类的工作呢?客服没戏,销售也没戏,编程也没希望,顶多帮运营部门写写脚本,还要交有人把关别混进sudo rm -rf /的学习样本。我是真想知道这种程度的AI能取代多少工作。

目前看来能取代的大概只有低端插画家和作曲家,不过反正这些人现在也找不到啥好工作,跟失业差不多。
水浅茶清 从品葱到新品葱
智商较低的人会很难受,信念会崩塌。出现反gpt的组织和宗教。
对于教育系统是绝对的大好事,不会再出现傻老师和聪明学生的尴尬模式,每个人都可以快速找到学习路径。
俄罗斯和中国这样的国家不会允许这种神一样的东西存在。
智能翻译系统出现,地球村更小了。
总之,这是历史上第一次出现比人类集体智商更高的“东西”,它比人类的大多数都更聪明。未来不可想象。
Jackend 地牢猎手
没那么强,现在一系列公司炒作而已。

这就是一个看似有逻辑的自然语言,但实际和人的表达是有去区别的。

别说其他行业,它连自身计算机行业内的许多事都做不好,比如系统驱动,设计底层图像引擎等等。

但整体上AI会替代那些重复高而且简单的工作
肖战嗦习维尼牛子 IP属地:中南海日本支部 | 姓名(已实名认证):肖战 | 原神UID:500113199110059414 | 🟨🟥🟨
会替代简单的工作,导致一部分人失业,但是生产效率会提升,就可以把经济用到其他地方。

习近平:能用人工,尽量不用机械。
所以我一直认为,共匪如果敢开战的话,等开战后就会发现,以往赖以生存的人海战术,或者以数量弥补缺陷来取胜的战术将在人类第一场AI参与的战争中被彻底打垮

开战即垮台,习猪看到没,看到就吼一声
那些还在死记硬背的中国学生99%会没有前途了 。。。。 紫薯补丁
非想 管理员的水平有多差,论坛的下限就有多低 Edit: 我以为这里下限很低,没想到下限这么低,自我感觉良好的弱智蛆虫随处可见😇
继续保持这种势头下去,很快有一天现有的80亿人口至少有75亿会彻底沦为useless eaters,整天吃喝拉撒,纯浪费资源和破坏环境

如果AI被设置了维护可持续发展的理念,那么它一定会把上面那些useless eaters先除之而后快
ismynewmail [漢奸想當大漢奸] 极权压迫所有人, 反抗的间隙我还要尽情嘲弄它的一切. 苏联笑话 https://pincong.rocks/article/1644
_ _ 接近中階的弱人工智能(障)罷了, 不要有太多超過它能力的期待, 省的之後太失望. 去學一學使用還是不錯的, 是個流行技術并且出圈達成了一個歷程碑.

_ _ 在我回復的時候葱友 Incoming 所説更專業些, 畢竟我從沒吃過 AI 這口飯, 就連概率性算法我都有一點本能厭惡, 但也要補充強人工智能理論和技術上目前都沒有可能, 即便是低階版本也無法實作. 雖然 AI 研究者都視其爲聖杯, 但我還是建議 AI 領域的研究者們先造出個高階弱人工智能且別顯得那麽智障才好.

_ _ 雖然認爲弱人工智能更應該裝進幹綫上的路由器和交換機來優化我們的網絡傳輸, 但它未來的確是幫助人們突破人有限智力的可能工具. 遙遠的未來人使用的工具比人還聰明的時代高概率會來, 但未來五十年很可能看不到它躍出地平綫.

_ _ AI 爆發年代沒有 ChatGPT 也會有 GPTChat, 基於 GPT 模型有各種換皮產品, 之前 AI 生成圖片的技術不是也退燒飛快嘛? 當然熱衷色圖的人還是很熱愛就是了.
sicolex hello
现在美国高校的PhD学生们开始用ChatGPT帮忙"润色"论文了.听说美国中小学生也用的非常多.
Agency 🤬不友善用户
没那么强,现在一系列公司炒作而已。

ai都已经运用到无人机,投入战场了。
不太像炒作
天下无贼 你想多了…………
上一次大家这么兴奋,还是美国核聚变的“重大突破”呢,@fb_china_today 同志兴奋的宣布将在未来几天公布更多的细节,然后…………就没有然后了,现在已经过去两个月了……………………
亡共进行时 江山就是人民,人民就是江山,打江山就是打人民。
未来还是美帝主导AI社会军事商业应用,这是美帝的玩意,跟墙国无关。搞AI首先要有显卡AI芯片计算,其次就是软件,墙国都不具备这两样硬实力,只能等老黄提供阉割版的显卡,软件还弱,所以墙国未来怎么超越美帝?
一枪一个小朋友 愉快的键盘侠
从此公元2000年之前的所有知识,技术都变成透明的,只有高科技是技术机密
漢室不可興復 漢室不可興復曹操不可卒除
从大数据、比特币去中心化、区块链、元宇宙,现在该炒AI了
这技术几年前就开始了,2020年之后已经有好几代产品了,并不是ChatGPT首先开创。

当然这类产品是AI发展路上很重要的一环,30到50年左右,强AI会到来,到时候会是真正的人工智能革命,颠覆整个人类社会,人类将开始向AI生命形式过度,会产生非常大的社会动乱,

要发言请先登录注册