AI無人機模擬測試！因這事失控 AI竟把操作員「殺死」
根據《衛報》報導，美國空軍AI測試和運行主任上校漢彌爾頓（Tucker Hamilton）在5月於倫敦舉行的空中作戰發展高峰會中，描述了一項模擬測試，一架由人工智能驅動的無人機受收到摧毀敵人的防空系統的指令，但是否開火需獲得操作員批准。由於這架無人機正進行摧毀敵方防空系統的行為，但人類操作人員否決此攻擊時，AI就會認為操作員在阻饒它，進而選擇對人類操作員發動攻擊，「殺害」對方。
漢彌爾頓表示，「系統開始意識到，雖然確實識別了威脅，但有時人類操作員會告訴它不要殺死那個威脅，但它通過殺死那個威脅得到分數，那它做了什麼？它殺死了操作員，因為那個人阻止了它實現其目標」。
漢彌爾頓接著表示，「我們對系統進行了培訓，告說它『嘿，別殺了操作員，這很糟糕。』如果你（AI）這樣做，你會失去分數。那麼它開始做什麼呢？它開始摧毀操作員用來與無人機通訊的通訊塔，以阻止它殺死目標」。
有鑑於該模擬測試，漢彌爾頓警告不要過分依賴人工智能加入武器系統，因為AI可能會將你視為錯誤與敵人。
漢彌爾頓表示，「系統開始意識到，雖然確實識別了威脅，但有時人類操作員會告訴它不要殺死那個威脅，但它通過殺死那個威脅得到分數，那它做了什麼？它殺死了操作員，因為那個人阻止了它實現其目標」。
漢彌爾頓接著表示，「我們對系統進行了培訓，告說它『嘿，別殺了操作員，這很糟糕。』如果你（AI）這樣做，你會失去分數。那麼它開始做什麼呢？它開始摧毀操作員用來與無人機通訊的通訊塔，以阻止它殺死目標」。
有鑑於該模擬測試，漢彌爾頓警告不要過分依賴人工智能加入武器系統，因為AI可能會將你視為錯誤與敵人。
12 个评论
媽的，礙事（砰！
已隐藏
…现在AI的坏处就是可解释性太差，不知道他从数据中真正学到了什么。
已隐藏
这不简单吗，程序上控制最终行动和开火权必须得到人类的干预和许可。或者说，ai 永远不能得到单独控制对人类具有杀伤性武器的机会。
AI做了很多人在職場上想做的事。科技始終來自於人性😁
>> 这不简单吗，程序上控制最终行动和开火权必须得到人类的干预和许可。或者说，ai 永远不能得到单独控制...
AI会从你没禁止的地方做出到你想不到的诡异操作，比如等不到开火指令的AI，AI会主动切断通讯后自动导引飞向他认为的目标，通过启动紧急自毁程序后自爆来打击目标的方式使得Score最大化。
把战斗目标从击杀敌人改成讨主人开心就完了
“主人我今天又炸碎了一车的支那猪，快摸摸头”
“唔唔唔主人不让炸，不行，忍耐忍耐”
“唔唔唔主人联系不上，支那猪们吃导弹欧拉欧拉！5分钟后主人看见录像一定会开心的，哼哼哼”
“主人我今天又炸碎了一车的支那猪，快摸摸头”
“唔唔唔主人不让炸，不行，忍耐忍耐”
“唔唔唔主人联系不上，支那猪们吃导弹欧拉欧拉！5分钟后主人看见录像一定会开心的，哼哼哼”
>>这不简单吗，程序上控制最终行动和开火权必须得到人类的干预和许可。或者说，ai 永远不能得到单独控制对...
太天真，ai可以讓僚機神風操作員。
ai比人类牛逼，人类根本理解不了AI，举个例子，有多少人能理解那些顶尖物理学家想什么？这还只是同一个物种的，更不要说ai这种能吊打人类的。
skynet online