【魔怔】机器独裁/无人性独裁者是可接受的吗?
TLNR:我们暂时不考虑怎么实现一个无人系统统治国家,只是从概念上来思考自己对这个系统的接受程度:你认为一个没有公民参与,但同时也没有独裁者参与的自动化决策与行政系统的统治(失控机仆)是可接受的吗?或者说,独裁统治的罪恶,是来自独裁统治本身,还是来自独裁者的被无限放大的罪恶呢?
在品葱看到过好几次这样的问题了,我觉得这确实是一个值得认真思考的话题。随着你国这十年来行政系统的自动化,很多需要人来进行的事务工作被交给了计算机和数据库。就我观察你国很多人,包括老年人对此是大加赞赏,他们的理由通常是:面对机器的时候,他们再也不用忍受基层官吏的颐指气使、推诿卸责以及层层盘剥了。
我们对这个情景进行一下演绎推广,如果一个国家的行政事务完全自动化,政治决策由天顶星人工智能综合各行政系统的反馈信息后得出。(再次重申,我们只从概念上思考这个问题,不考虑如何实现这种情况,你就当习近平被机械妹抖脑控了)由于这是一个独裁系统,该系统的首要任务被设定为防止系统被内部、外部势力推翻,因此该系统会全力防止有人类爬到头上去,变成独裁者。注意:该国家除了行政和政治部分是自动化,且可以自我维护之外,军事、科研等部分仍然由人类组成,所以系统为了自身存在不可能直接下令军队杀光所有人。如果你要问我怎么压制军队,emmm,习近平怎么压制军队该系统就怎么压制。
这种假设下有一个最明显的好处:不存在权贵阶层——这是我之前提到的“不被基层盘剥”的极端化。很多人之前在类似的问题里提到过说机器独裁一定会基因筛选、种族灭绝云云,但是至少你可以确信这个决策不是哪个领导坚称某某种族天生卑贱或者哪个种族闹得领导很没面子或者不好捞钱导致的。
当然种族灭绝仍然是种族灭绝,但是再仔细想想其实机器独裁之下种族灭绝的可能性其实远远小于人类独裁,乃至人类民主。从历史经验来看,种族灭绝往往都是人的冲动导致的,包括新疆。2014年以前的经验表明,即使是在独裁统治下,新疆问题也大概率是可以通过其他方法解决,习近平的民族主义和帝国主义情节才是这一切悲剧的源头。我们甚至可以说,一战法国是民主国家,但是如果交给人工智能来决定的话法国在很多地方大概率不会跟德国死磕。
自古以来,一个共同体想要成立,必然要有上等人,中等人和下等人,一切的“费拉化”“民主化”和“帝国化”都是基于这个前提讨论的。但是随着技术的发展,我们逐渐能看到这个可能性:把上等人自动化。我们可以想象,在上等人可以被自动化的技术条件下,大部分下等人的工作早已经自动化了,同时机器独裁保证了不会有人类再次成为真正意义上的上等人,这样几乎所有人就都是中等人了,完美!
以前看过一篇科幻小说,里面有人质问说:机器人没有人性的温暖。他得到的回答是:当然没有,不仅没有温暖,也没有人性的脆弱、冲动和残酷。你国的科幻小说当然不敢直球统治者,但我觉得这句话放在独裁者身上太合适了。
当然如果失控机仆打了萌化mod的话那一定是可接受的(
在品葱看到过好几次这样的问题了,我觉得这确实是一个值得认真思考的话题。随着你国这十年来行政系统的自动化,很多需要人来进行的事务工作被交给了计算机和数据库。就我观察你国很多人,包括老年人对此是大加赞赏,他们的理由通常是:面对机器的时候,他们再也不用忍受基层官吏的颐指气使、推诿卸责以及层层盘剥了。
我们对这个情景进行一下演绎推广,如果一个国家的行政事务完全自动化,政治决策由天顶星人工智能综合各行政系统的反馈信息后得出。(再次重申,我们只从概念上思考这个问题,不考虑如何实现这种情况,你就当习近平被机械妹抖脑控了)由于这是一个独裁系统,该系统的首要任务被设定为防止系统被内部、外部势力推翻,因此该系统会全力防止有人类爬到头上去,变成独裁者。注意:该国家除了行政和政治部分是自动化,且可以自我维护之外,军事、科研等部分仍然由人类组成,所以系统为了自身存在不可能直接下令军队杀光所有人。如果你要问我怎么压制军队,emmm,习近平怎么压制军队该系统就怎么压制。
这种假设下有一个最明显的好处:不存在权贵阶层——这是我之前提到的“不被基层盘剥”的极端化。很多人之前在类似的问题里提到过说机器独裁一定会基因筛选、种族灭绝云云,但是至少你可以确信这个决策不是哪个领导坚称某某种族天生卑贱或者哪个种族闹得领导很没面子或者不好捞钱导致的。
当然种族灭绝仍然是种族灭绝,但是再仔细想想其实机器独裁之下种族灭绝的可能性其实远远小于人类独裁,乃至人类民主。从历史经验来看,种族灭绝往往都是人的冲动导致的,包括新疆。2014年以前的经验表明,即使是在独裁统治下,新疆问题也大概率是可以通过其他方法解决,习近平的民族主义和帝国主义情节才是这一切悲剧的源头。我们甚至可以说,一战法国是民主国家,但是如果交给人工智能来决定的话法国在很多地方大概率不会跟德国死磕。
自古以来,一个共同体想要成立,必然要有上等人,中等人和下等人,一切的“费拉化”“民主化”和“帝国化”都是基于这个前提讨论的。但是随着技术的发展,我们逐渐能看到这个可能性:把上等人自动化。我们可以想象,在上等人可以被自动化的技术条件下,大部分下等人的工作早已经自动化了,同时机器独裁保证了不会有人类再次成为真正意义上的上等人,这样几乎所有人就都是中等人了,完美!
以前看过一篇科幻小说,里面有人质问说:机器人没有人性的温暖。他得到的回答是:当然没有,不仅没有温暖,也没有人性的脆弱、冲动和残酷。你国的科幻小说当然不敢直球统治者,但我觉得这句话放在独裁者身上太合适了。
当然如果失控机仆打了萌化mod的话那一定是可接受的(
41 个评论
机器好啊,我不反抗天网了,我接受终结者了,但我不会接受习小丑,就这么简单!
萌化MOD草死,好,支持!但我希望形象是Elf(迫真
比起那个,那篇科幻小说叫什么名字啊,感觉这句话相关的故事会很能消磨时间
比起那个,那篇科幻小说叫什么名字啊,感觉这句话相关的故事会很能消磨时间
>>萌化MOD草死,好,支持!但我希望形象是Elf(迫真比起那个,那篇科幻小说叫什么名字啊,感觉这句话相...
应该是2014或2015年sfw上的文章,名字忘了,大概讲的是机器人逐渐替代人类工作,最后连开发机器人的程序员也被替代掉的故事,可以去相关贴吧问一下。
半開玩笑的答, 機械人統治/管理, 可以, 起碼機械人按規距, 不會雙標
認真答, 不行, 到有天機械人能發長到這地步, AI就會跟人類一樣TM雙標了
認真答, 不行, 到有天機械人能發長到這地步, AI就會跟人類一樣TM雙標了
首先不是所有事物都可以理性评价的, 你要是纯理性机器的话只会按照成功率去分配资源, 这放在科学/创造领域显然是不合理的, 那将会是一个比共产还共产的社会结构, 但是机器存在感性/感情的话有和人类有什么区别, 必然会以自身/自身种族生存为最优先目的.
另外说一个逻辑漏洞, 你中央计算机没有军事控制权怎么保证现有体制/政府不被推翻, 又或者说你怎么保证机器无法控制军队, 因为军事装备的生产肯定是自动化了的, 甚至在机器想独裁的时候人类军队的后勤是完全没有的 , 一句习怎么控制就怎么控制太过笼统.
在不可能实现的基础上谈论如何实现有点........
最后说一个和问题没关系的, 本人是100%义体化及机器人平等的支持者, 甚至人类只需要是文化概念
另外说一个逻辑漏洞, 你中央计算机没有军事控制权怎么保证现有体制/政府不被推翻, 又或者说你怎么保证机器无法控制军队, 因为军事装备的生产肯定是自动化了的, 甚至在机器想独裁的时候人类军队的后勤是完全没有的 , 一句习怎么控制就怎么控制太过笼统.
在不可能实现的基础上谈论如何实现有点........
最后说一个和问题没关系的, 本人是100%义体化及机器人平等的支持者, 甚至人类只需要是文化概念
>>首先不是所有事物都可以理性评价的, 你要是纯理性机器的话只会按照成功率去分配资源, 这放在科学/创造...
1.纯理性机器。这里仅考虑行政和政治的机器统治,之前也写了,科研等领域暂时假设是人类进行的。
2.主要是我也不知道怎么解决这个问题,但我们主要讨论的是纯理性独裁者是否能被接受,所以就笼统略过了。
3.同
>>1.纯理性机器。这里仅考虑行政和政治的机器统治,之前也写了,科研等领域暂时假设是人类进行的。2.主要...
行政不就涉及到各方各面吗, 我就是说人类想要抛开机器统治者的进行其他领域的发展是不是有点想当然了, 万一人类想建造超大型强子对撞机或是探测地外行星之类的大型科研项目是否有可能被纯理性机器根据成功概率或是否有必要判断为不需要的. 总结来说就是科研或是其他创新项目并不只是坐在办公室/实验室里面的, 和政治挂钩的概率真不小, 发生冲突时以谁为准都是要考虑的.
这个问题其实我也考虑过哈哈, 后来想想实现没那么容易.
机器的算法也是人写的。技术只是手段,目的还是为了控制机器的人。
根据谁上也比习近平强的原则,要是把习近平的位置让给机器人,那绝对是好事,天大的好事。但是,什么时候习近平会把这个权力让出去呢
根据谁上也比习近平强的原则,要是把习近平的位置让给机器人,那绝对是好事,天大的好事。但是,什么时候习近平会把这个权力让出去呢
银河漫游指南里面的超级计算机
不可接受。
只有上帝有权主宰人类;
只有上帝有权决定命运;
只有上帝有权判断对错。
重要的事情说三遍,
一切打着理性旗号僭越神的权柄来圈养人类的做法,本质上和红色高棉没任何区别。
只有上帝有权主宰人类;
只有上帝有权决定命运;
只有上帝有权判断对错。
重要的事情说三遍,
一切打着理性旗号僭越神的权柄来圈养人类的做法,本质上和红色高棉没任何区别。
机器统治论终究无法成立,因为机器本质是依靠计算执行任务,但人有很多事物是无法量化的,和共产主义一样,试图在人类文明中寻找一个绝对的规律来制定一套完美的系统作为人造上帝,最后会走向地狱。
人类自带的傲慢总觉得自己能控制一切,
而事实总是不断证明人类的那点小聪明有多可笑。
连共产主义都不能清算的人类,都开始想象出把自己最后的那点自由献给机器了。
我是想不出来会有什么比这个更可笑了。
而事实总是不断证明人类的那点小聪明有多可笑。
连共产主义都不能清算的人类,都开始想象出把自己最后的那点自由献给机器了。
我是想不出来会有什么比这个更可笑了。
前提是這台機器必須是絕對完美的,它不能壞、不能有BUG,且必須永遠不壞、永遠不BUG
因為如果他在運行期間出現BUG的話,沒有人能矯正他,沒有人會發現BUG的存在也沒有人有能力矯正他,馬上就整個玩脫了
一個永遠的獨裁者腦子秀逗了,想想看這後果有多嚴重
而這個完美機器的前提就是不可能達成的(至少如果讓人類來設計製造這台機器是不可能達成的)所以討論這個純理性機器獨裁者就和討論永動機或共產主義一樣毫無意義
機器人沒有人性的溫暖?
說得好像人類獨裁者,或者人類特權階層,會有人性的溫暖一樣
天龍人對下民本來就是不會有人性的溫暖的,所以對下民而言天龍人還是機器天龍人都沒差,或許機器天龍人真的會更好因為機器天龍人不會以欺辱奴隸為樂,如果他們沒有樂的話
因為如果他在運行期間出現BUG的話,沒有人能矯正他,沒有人會發現BUG的存在也沒有人有能力矯正他,馬上就整個玩脫了
一個永遠的獨裁者腦子秀逗了,想想看這後果有多嚴重
而這個完美機器的前提就是不可能達成的(至少如果讓人類來設計製造這台機器是不可能達成的)所以討論這個純理性機器獨裁者就和討論永動機或共產主義一樣毫無意義
機器人沒有人性的溫暖?
說得好像人類獨裁者,或者人類特權階層,會有人性的溫暖一樣
天龍人對下民本來就是不會有人性的溫暖的,所以對下民而言天龍人還是機器天龍人都沒差,或許機器天龍人真的會更好因為機器天龍人不會以欺辱奴隸為樂,如果他們沒有樂的話
>>不可接受。只有上帝有权主宰人类;只有上帝有权决定命运;只有上帝有权判断对错。重要的事情说三遍,一切打...
如果耶主席能亲自管理人类那我当然资瓷啦,多生几个儿子,几个天父天兄下凡也行啊,但是没有啊。你的那三个“只有”的理论依据是人性本恶,大共同体剧烈地放大这种恶,小共同体也只是缓和这种恶罢了,红色高棉正是波尔布特这个人的冲动和愚蠢的结果,是人的恶的极端表现。
现在我们换一种思路,把“人”替换掉试试看,说不定更加符合神学原理。说到底“圈养”这个词本身就是人的傲慢的体现,无人系统没有那么多戏,也不需要下跪这种麻烦的过场。
当然如果你是在cos战锤里面的某些角色那就当我啥都没说。
>>机器统治论终究无法成立,因为机器本质是依靠计算执行任务,但人有很多事物是无法量化的,和共产主义一样,...
50年前人们认为人的情绪表达是无法被量化的,现在sentiment analysis表明这些人还是naive
>>前提是這台機器必須是絕對完美的,它不能壞、不能有BUG,且必須永遠不壞、永遠不BUG因為如果他在運行...
关于“完美机器”的讨论几千年前希腊人就得出过结论:不存在没有bug的系统,但是这不妨碍现在人们搞自动化。因为让bug的几率收敛于0的方法理论上还是存在的,随着自动化的发展这个收敛过程一定会继续下去。
另外我觉得从理论上讨论共产主义很有意义,能量使用级别只有0.7,连一型文明都还没达到的生物直接断言讨论共产主义没有意义也太武断了。
>>关于“完美机器”的讨论几千年前希腊人就得出过结论:不存在没有bug的系统,但是这不妨碍现在人们搞自动...
現在人類搞自動化的原因有兩個
一個是『數學家和工程師的區別』:『數學家』追求完美,而『工程師』認為我不用達到完美,只要足夠接近完美就足夠了。現代自動化大多是『工程師』心態,雖然知道會有BUG會有失誤但只要它的概率足夠小就可以認為是安全的
而且現代的所謂自動化,就算有BUG造成的傷害也是人能承受的範圍內。就算是工廠流水線暴走,大不了就死幾個工人而已。要是掌控全國甚至世界的獨裁者機器暴走了,那就不只是幾千個人的問題了
還有一個是現代自動化不是真正的完全自動化。比方說飛機可以自動駕駛,但是飛機的系統可能有大量的重複系統(學名redundancy,不清楚翻譯的對不對)來確保安全,同時還有人類機師坐在駕駛艙裡以防萬一。在實在是有電腦無法應對的BUG的情況下人類還可以操作
類似的,幾乎所有的自動化都可以通過人力介入強制停止並由人類取回控制權,人類是在自己握有絕對控制權的前提下才會允許自動化的
如果人類無權干政,所有政治交由同一台獨裁者機器處理,那一旦它出問題人類將沒有權限將它關機或重啟
這就好比說一架飛機,你把全人類都塞進去,而且只有自動駕駛,還只有一個自動駕駛系統負責其運轉一樣。有多少人會願意坐進這架飛機,哪怕你知道自動駕駛的飛機失事率很低(理論上坐飛機比走在路上還安全)?
然後我說討論共產主義沒有意義,當然是基於『工程師』心態,打算把它用於人類社會前提下的討論。既然這套理論不可能被應用於人類身上,那對人類而言就沒必要討論之
如果放寬視野,看整個動物界,共產主義在局部物種裡已經實現了。螞蟻就是典型的共產主義社會:螞蟻們各有各的崗位和工作,收集的食物供全蟻群享用,幼蟲由全蟻群共同保護和照顧
但討論螞蟻的生態再多也用不到人類身上,如果你想討論生物學和螞蟻的生態那的確很有意思,但人類不是螞蟻,人類的基因和身體構造決定了人類不可能適應螞蟻的生存方式
这不算魔怔吧,在一个正常的情况下这种话题是当然应该讨论的。
只是在当前语境下,好吧可能就算魔怔吧!
只是在当前语境下,好吧可能就算魔怔吧!
所有合成人都遵随阿西莫夫那个种族歧视规则的话我大概会说"可以" 。毕竟机器人本来就适合做那些重复性的工作; 如果获得智能, 一些低智力的工作显然也会被代替。从物质上来说完全是可以接受的。
不过喽, 从楼里就能看出一大群无毛猴子不要假期也要抱着生物洁癖不放。按你葱的定义, "左派"都是韭精中毒的理想主义费拉;"右派"都是向往自由、武德充沛的大手子。若都是如此认为, 那么你葱绝大多数都不会接受机器统治和最优化命令的现实。
不过喽, 从楼里就能看出一大群无毛猴子不要假期也要抱着生物洁癖不放。按你葱的定义, "左派"都是韭精中毒的理想主义费拉;"右派"都是向往自由、武德充沛的大手子。若都是如此认为, 那么你葱绝大多数都不会接受机器统治和最优化命令的现实。
看了一眼折叠楼里的对话, 行啊。要是岁静看了估计也会变成灵智派和无神论的人。
#soIII的无毛猴子没有一个是无辜的
#对soIII实行地爆天星首先是一种人道主义
#soIII的无毛猴子没有一个是无辜的
#对soIII实行地爆天星首先是一种人道主义
就三個問題。誰設計這款機器?誰有權維修?有問題誰負責任?
把成龙中国人需要管的话反过来说,人为什么一定要有个统治者在头上?“圣君”独裁跟乌托邦无政府主义都是美好的幻想
>>不知道,文章第一句话就说了。
所有「人」創造出來的東西都必須面對這些問題,有這些問題,就有特權階層。
機器人是人製造出來的,就有機會有人的劣根性,「人」很難創造一個永恆且完美的統治者(這個統治者可以是人/制度,或是你說的機器人),必須要時常維護/修正。
永遠完美且不用被修正的統治者,用宗教的角度只有一個-上帝
首先人類連怎樣的領導人才算是最好的也沒有共識
如何能創造出完美的領導人系統?
就算創造大多數人都接受得了的領導系統
如何保障那小數人的權利?
有誰能保證這個系統能永遠不出錯?
出錯了有誰能夠去修正這個系統的錯?
靠另一個AI嗎?那另一個也壞了如何?
還有誰負責保障這個系統順利運作不受人類物理干擾?
負責保障系統運作的人不可能作弊嗎?
如果系統突然失靈的政治真空如何?
而且即使創造出這種系統 有人會不想獨佔然後掌握系統的權理權嗎?
有這種等同上帝權力的系統 很可能會全人類大混戰然後全人類攪炒
有人不想當上帝的嗎?不可能沒有
最後誰能掌握這套系統的管理權 誰就是權貴 誰就是上等人
跟追求賢人獨裁和信仰上帝打救是一樣的
如何能創造出完美的領導人系統?
就算創造大多數人都接受得了的領導系統
如何保障那小數人的權利?
有誰能保證這個系統能永遠不出錯?
出錯了有誰能夠去修正這個系統的錯?
靠另一個AI嗎?那另一個也壞了如何?
還有誰負責保障這個系統順利運作不受人類物理干擾?
負責保障系統運作的人不可能作弊嗎?
如果系統突然失靈的政治真空如何?
而且即使創造出這種系統 有人會不想獨佔然後掌握系統的權理權嗎?
有這種等同上帝權力的系統 很可能會全人類大混戰然後全人類攪炒
有人不想當上帝的嗎?不可能沒有
最後誰能掌握這套系統的管理權 誰就是權貴 誰就是上等人
跟追求賢人獨裁和信仰上帝打救是一樣的