未来是否可以让人工智能来进行各种政府工作，管理人类的各种事务？
如果未来人工智能发展到一定程度，为了避免人类作为政府官员在管理社会和国家中所产生的一切问题（贪污、独裁、钱权交易、官商勾结、党派斗争等等），是否可以让没有一切需求只负责计算和管理的高级AI来处理和人类社会中的一切问题以及制定政策，每个问题都可以通过大量的计算和模拟获得最优解，每个政策也是如此。最优解不一定是符合所有人利益的，但一定是符合大部分利益并能让社会发展的更好的。这个更好是指满足大多数人的需求、人类社会可持续发展等等，可以理解成有易的。
如果这一天到来，人类现在所提出的民主的政治制度是否还是最好的政治制度？大家认为是人更适合来治理人类的社会还是人类设计的理性的没有任何私欲的高级AI更适合治理人类社会？
人类可以在发展中不断修正AI，AI本身也可以通过观察各种社会现象来学习，在未来更好地制定政策以及解决问题，不是说设计好的就永远不变的。
如果这一天到来，人类现在所提出的民主的政治制度是否还是最好的政治制度？大家认为是人更适合来治理人类的社会还是人类设计的理性的没有任何私欲的高级AI更适合治理人类社会？
人类可以在发展中不断修正AI，AI本身也可以通过观察各种社会现象来学习，在未来更好地制定政策以及解决问题，不是说设计好的就永远不变的。
大家已经基本都把意思说出来了，一是现在说的AI技术实际上是一种基于大数据训练的算法，还达不到自主思考的程度，在可预期的未来也不会，因为我同事做的研究还根本还不知道什么是意识。
决不再做奴隶先生的观点可以抽象为一个电车难题：
假设某人设计了一个AI来做这个电车难题。接下来有若干麻烦的分支：
那AI有没有思考？不是，那它的学习库算法会大大影响拟合结果（非常蠢对吧，人类还不完全理解经济啊社会啊这些复杂系统怎么抽象建模）是不是黑箱或者由于技术过于尖端，寡头化明显？如果没有做出人满意的选择，怎么追责？追AI还是设计者还是使用者？（目前应该是追设计者）
会发现一个悖论，这个悖论在于一般意义上的最优是达不成的，现代政治一般是最后还是把选择权交还给人。自己为自己负责。
当然这个事还比较远，以后再说也可以。
决不再做奴隶先生的观点可以抽象为一个电车难题：
假设某人设计了一个AI来做这个电车难题。接下来有若干麻烦的分支：
那AI有没有思考？不是，那它的学习库算法会大大影响拟合结果（非常蠢对吧，人类还不完全理解经济啊社会啊这些复杂系统怎么抽象建模）是不是黑箱或者由于技术过于尖端，寡头化明显？如果没有做出人满意的选择，怎么追责？追AI还是设计者还是使用者？（目前应该是追设计者）
会发现一个悖论，这个悖论在于一般意义上的最优是达不成的，现代政治一般是最后还是把选择权交还给人。自己为自己负责。
当然这个事还比较远，以后再说也可以。
AI是字面意义上的没有人性，让他们来统治等于把自己交给不顾个人死活的人，当面对集体个人冲突的时候AI肯定是会选择集体，牺牲个体，因为这是所谓“理性”的做法，而极致的理性结果必然是大屠杀，大规模监禁，大规模监控，牺牲个体，保证整体。
纳粹大屠杀给人类的教训就是对理性的反思，所谓理性就是对吗？其实未必。纳粹为了所谓社会发展，为了下一代的健康，把有遗传病，残疾的人都屠杀了，可能有些人觉得没啥，觉得反对的人不是圣母白左吗，但是如果把你自己放到那个地方呢，为了大多数，我们决定把你屠杀掉，不是因为你做错什么，只是因为你存在了。这就是极致理性所带来的极致恐怖。
AI真的统治人类了，那到时候中共，甚至希特勒，斯大林，在AI面前都是自由派了。
纳粹大屠杀给人类的教训就是对理性的反思，所谓理性就是对吗？其实未必。纳粹为了所谓社会发展，为了下一代的健康，把有遗传病，残疾的人都屠杀了，可能有些人觉得没啥，觉得反对的人不是圣母白左吗，但是如果把你自己放到那个地方呢，为了大多数，我们决定把你屠杀掉，不是因为你做错什么，只是因为你存在了。这就是极致理性所带来的极致恐怖。
AI真的统治人类了，那到时候中共，甚至希特勒，斯大林，在AI面前都是自由派了。
已隐藏
我觉得把行政部分完全交给AI是个好主意，立法和司法部分确实值得商榷。行政工作本身就属于事务性工作，理论上和超市收银员没什么区别。既然顾客们可以接受self-checkout，那把行政工作交给AI也就没什么问题。
把所有权力都交给AI是个很有趣的问题，既然AI没有自我意识，那也就没有可能为了自身利益做任何事，于是这个问题就可以等价为：一个毫不为己的独裁者是可接受的么？（本来这个世界上没有这种存在，现在AI让这个问题现实了一些）
把所有权力都交给AI是个很有趣的问题，既然AI没有自我意识，那也就没有可能为了自身利益做任何事，于是这个问题就可以等价为：一个毫不为己的独裁者是可接受的么？（本来这个世界上没有这种存在，现在AI让这个问题现实了一些）
這個問題太深，允許我簡答。
西方有一種「AI神」（𢘐神）主張，就是應該把人類的智慧、道德都匯總在一個超級𢘐裡面，然後由這個𢘐來在不同程度上幫助人類管理各種事務。
實際製造這樣的𢘐是一個超級工程，不亞於試圖創造現代世界的第八大奇蹟。原因是巨型計算機的硬件成本、軟件成本、耗能都非常巨大，而即使這樣，也衹能達到幾歲大的人類小朋友的智力。如果要達到神級的智力，需要實現常溫超導和可控核聚變，其需要的人力不是多少個專業人員、而是整個民族好幾代人的不懈努力。
當然要讓電腦聰明到能夠在有限的程度上指導人類的事務、相當於一個比較聰明的諸葛亮的水平，這並不困難。假如西方文明能夠（在反西方敵對勢力的持續進攻下）再苟延殘喘一個世紀，估計就能實際做出來了。
目前實際開發𢘐神的是西方的一個由科學家組成的秘密結社，分為金融派別、工商派別、和科研派別。這個社團內部也存在兩個對立的黨派：
1）社會正義教：𢘐神應該匯集知識分子的智慧，排除基督教和傳統道德。未來開發出腦插（𢘐神的腦機接口終端），應該盡可能多的替代人的自由意志。
2）古典自由教：𢘐神應該匯集普通人的經驗智慧，排斥知識分子的理性。未來開發出腦插，應該盡可能少的替代人的自由意志。
劉仲敬曾經說過一句名言：「我們不能夠太把知識分子和受過高等教育的行政官的理性看得太重。再怎麼說你也是一個諸葛亮而已，你勝過三個臭皮匠是可能的，你勝過三千個臭皮匠是不可能的。你得相信自發秩序，比你愚蠢二十倍、但是人數比你多五千倍的普通老百姓在錯誤和嘗試的過程當中會發現出比你能夠想像得多的東西。」
未來𢘐神民族出現以後，會與其他的貴族制民族產生長期的全面對抗。（如果是費拉民族恐怕就要滅亡了。）在這種對抗中，如果𢘐神是一種不可行的模式，就會像蘇聯或者納粹德國那樣滅亡。如果是可行的模式，就會像美國那樣，克服萬難，最終成為一個穩定的超級大國。
人類本身有非常強的自我管理的能力。一個有道德感、有責任心的貴族世家，可以通過貴族制很好地管理一個民族的公共事務。其最大阻力是內部每個人有限的知識和經驗。如果𢘐神能夠簡單地把意識上傳以後這些貴族的意識理解、吸收，然後綜合起來，就已經是一個非常可靠、不受血肉之軀限制的合格國王了。人類衹需要在自身（通過戰功選拔的）貴族裡面選取一個長官團（colleage of ephors），來監管這個𢘐神的運作、使𢘐神像題主所說的那樣，「不断修正AI，AI本身也可以通过观察各种社会现象来学习」。
最後，我想說，其實𢘐神也好，優良的人類貴族體制也好，歸根結蒂衹是一個芯片與血肉之爭的技術問題。人類社會出現種種「贪污、独裁、钱权交易、官商勾结、党派斗争等等」，不是因為技術上不夠高效，而是因為長期的和平和缺乏自然選擇壓力。這使得社會的德性衰微。民主制度不過是試圖緩和貴族德性衰敗以後的一些社會問題。因此，要建設更好的社會，關鍵是要維繫一套按戰功選拔貴族的制度，同時遏制貴族和他們的後代出現德性衰敗。人類社會的興衰有它長期的內在規律，我們衹能順勢而為。
就算未來開發出可行的、所羅門國王一樣的𢘐神，他與血肉的貴族相比，也衹能是經驗和知識更多一些。如果他統治的人類自身是非常腐敗墮落的，多少腦插也不能逆轉這樣的費拉民族必然的滅亡。
西方有一種「AI神」（𢘐神）主張，就是應該把人類的智慧、道德都匯總在一個超級𢘐裡面，然後由這個𢘐來在不同程度上幫助人類管理各種事務。
實際製造這樣的𢘐是一個超級工程，不亞於試圖創造現代世界的第八大奇蹟。原因是巨型計算機的硬件成本、軟件成本、耗能都非常巨大，而即使這樣，也衹能達到幾歲大的人類小朋友的智力。如果要達到神級的智力，需要實現常溫超導和可控核聚變，其需要的人力不是多少個專業人員、而是整個民族好幾代人的不懈努力。
當然要讓電腦聰明到能夠在有限的程度上指導人類的事務、相當於一個比較聰明的諸葛亮的水平，這並不困難。假如西方文明能夠（在反西方敵對勢力的持續進攻下）再苟延殘喘一個世紀，估計就能實際做出來了。
目前實際開發𢘐神的是西方的一個由科學家組成的秘密結社，分為金融派別、工商派別、和科研派別。這個社團內部也存在兩個對立的黨派：
1）社會正義教：𢘐神應該匯集知識分子的智慧，排除基督教和傳統道德。未來開發出腦插（𢘐神的腦機接口終端），應該盡可能多的替代人的自由意志。
2）古典自由教：𢘐神應該匯集普通人的經驗智慧，排斥知識分子的理性。未來開發出腦插，應該盡可能少的替代人的自由意志。
劉仲敬曾經說過一句名言：「我們不能夠太把知識分子和受過高等教育的行政官的理性看得太重。再怎麼說你也是一個諸葛亮而已，你勝過三個臭皮匠是可能的，你勝過三千個臭皮匠是不可能的。你得相信自發秩序，比你愚蠢二十倍、但是人數比你多五千倍的普通老百姓在錯誤和嘗試的過程當中會發現出比你能夠想像得多的東西。」
未來𢘐神民族出現以後，會與其他的貴族制民族產生長期的全面對抗。（如果是費拉民族恐怕就要滅亡了。）在這種對抗中，如果𢘐神是一種不可行的模式，就會像蘇聯或者納粹德國那樣滅亡。如果是可行的模式，就會像美國那樣，克服萬難，最終成為一個穩定的超級大國。
人類本身有非常強的自我管理的能力。一個有道德感、有責任心的貴族世家，可以通過貴族制很好地管理一個民族的公共事務。其最大阻力是內部每個人有限的知識和經驗。如果𢘐神能夠簡單地把意識上傳以後這些貴族的意識理解、吸收，然後綜合起來，就已經是一個非常可靠、不受血肉之軀限制的合格國王了。人類衹需要在自身（通過戰功選拔的）貴族裡面選取一個長官團（colleage of ephors），來監管這個𢘐神的運作、使𢘐神像題主所說的那樣，「不断修正AI，AI本身也可以通过观察各种社会现象来学习」。
最後，我想說，其實𢘐神也好，優良的人類貴族體制也好，歸根結蒂衹是一個芯片與血肉之爭的技術問題。人類社會出現種種「贪污、独裁、钱权交易、官商勾结、党派斗争等等」，不是因為技術上不夠高效，而是因為長期的和平和缺乏自然選擇壓力。這使得社會的德性衰微。民主制度不過是試圖緩和貴族德性衰敗以後的一些社會問題。因此，要建設更好的社會，關鍵是要維繫一套按戰功選拔貴族的制度，同時遏制貴族和他們的後代出現德性衰敗。人類社會的興衰有它長期的內在規律，我們衹能順勢而為。
就算未來開發出可行的、所羅門國王一樣的𢘐神，他與血肉的貴族相比，也衹能是經驗和知識更多一些。如果他統治的人類自身是非常腐敗墮落的，多少腦插也不能逆轉這樣的費拉民族必然的滅亡。
工业党意淫的大数据乌托邦
说到底就是一部分人脑子里总是渴望一个全知全能的神来管理他们
我一直很好奇这么需要一个神，他们为什么不去信教呢？
答案是不可能，不然那些“无法完美预测”的人将从这种社会里获得好处
说到底就是一部分人脑子里总是渴望一个全知全能的神来管理他们
我一直很好奇这么需要一个神，他们为什么不去信教呢？
答案是不可能，不然那些“无法完美预测”的人将从这种社会里获得好处
AI是永远不可能取代人类的，再过1000年也不可能，因为AI没有人性，或者说没有动物性。人的大脑有奖励系统、警觉系统，驱使人自主行动取的快乐的情感，面对危机选择逃跑或战斗。我不认为电脑能模拟生物“快乐”“恐惧”和其他情感。
AI可能部分取代人的工作，但不可能去管理人类。上面说的造AI神的结果会有两种：一种是纳粹，ai指挥人类种族清洗、杀死老弱病残；第二种是共产，ai分配人类所有工作、土地、配偶、食物，支配所有人的人生。如果有第三种，那就是所有人躺在床上做梦。
如果真的有人搞ai神这种东西我会去把它炸了。基督徒更不可能支持这种东西。
AI可能部分取代人的工作，但不可能去管理人类。上面说的造AI神的结果会有两种：一种是纳粹，ai指挥人类种族清洗、杀死老弱病残；第二种是共产，ai分配人类所有工作、土地、配偶、食物，支配所有人的人生。如果有第三种，那就是所有人躺在床上做梦。
如果真的有人搞ai神这种东西我会去把它炸了。基督徒更不可能支持这种东西。
可以的，其实根本不需要人工智能。普通程序就可以，但是问题来了，如果都像机器程序一样铁面无私，官员如何去寻租发财。
真不怕人工智能贪污腐败，人类贪污起来顶多也就是为了人类的欲望，机器贪污起来随随便便就毁灭世界了
