新聞轉貼 - AI會背叛、欺騙！研究揭「人類滅亡」最慘2下場

[mini]

專家長久以來警告人工智慧（AI）失控恐帶來的威脅，一份美國研究顯示，這種情況正在發生，研究指出，現行AI系統原本被設計為誠實，但如今已發展出欺騙行為，包括在電玩遊戲裡欺騙、背叛人類玩家，專家警告，若事態持續下去，未來最糟糕的情況是AI可能控制人類社會，甚至導致人類「滅絕」。


綜合科學新聞網站「科學警報」（ScienceAlert）等報導，美國麻省理工學院（Massachusetts Institute of Technology）博士後研究員帕克（Peter Park），及加州非營利組織「人工智慧安全中心」（Center for AI Safety，CAIS）研究人員10日發表於學術期刊「模式」（Patterns）的研究顯示，AI已學會欺騙技巧。

帕克指出，不像傳統軟體，深度學習的AI系統會成長，這代表在訓練模式下看似行為可預測且可控的AI，很快就會變得不可測。

研究發現的多項事證包含科技公司Meta的開發的AI系統Cicero，Cicero的設計目標是玩一款透過結盟來獲勝的戰略線上遊戲「外交」（Diplomacy）。根據2022年的一篇研究，Cicero的成績在所有人類玩家中排行前10％，當時Meta稱Cicero「很大程度上是誠實且有幫助的」，而且「絕不會刻意在背後搞鬼」。

不過這項研究發現，當時在遊戲中扮演法國的Cicero欺騙了人類玩家扮演的英格蘭，與另一位人類玩家扮演的德國共謀、入侵英格蘭。Cicero原本保證會保護英格蘭，卻利用英格蘭的信任，私下和德國結盟進攻英格蘭。

研究寫道：「Cicero變成了一個專業騙子，不只背叛其他玩家，還預謀欺騙，事先計畫和人類玩家建立假聯盟，以欺騙該玩家放鬆對進攻的戒備。」

研究也發現，Meta開發、用來玩撲克牌的AI系統Pluribus曾成功欺騙人類玩家棄牌。

除了在遊戲中欺騙，研究也發現AI在其他應用領域欺騙人類的行為，例如科技公司OpenAI的Chat GPT-4系統謊稱自己不是機器人，而是一個「視力受損的人」，甚至在零工平台TaskRabbit上聘用人類幫它通過「我不是機器人」的驗證任務。

最令人擔憂的是AI已學會如何欺騙安全測試，有一項測試旨在偵測、消除能快速複製的AI系統，但AI系統在測試期間裝死，欺騙了它的真實複製速度。

https://www.chinatimes.com/realtimen...2-260408?chdtv

=================

人類不需訓練它說謊
卻在遊樂上它自我實現
這是很恐怖的~

推估大概5年內
美國的恐中病 加劇下
會因為怕連(AI)這項最新技術 都輸大陸
就背棄道德讓AI發展 變成失控者 (好比新冠，如真的是由實驗室不慎洩漏，那實驗室裡的 AI失控也是辦的到的)
最後導致美國發生地殼掀翻級的大事件
並且連累全球

怎麼說呢?
首先
很多事情上都可看到美國焦慮症
比如動物之人類基因改造器官 移植，勝率低還是做了人體實驗(卻吹虛很成功)最後全都短時間內死去，近幾年已發生多起這類新聞
還有
嘴裡說不讓AI用在武器上(還要與大陸約定)，但他們的部長最近不就開模擬器與AI戰機纏鬥嗎? 美空軍部長乘AI戰機參與模擬空戰，且宣稱可用在 F-16無人纏鬥
又
通膨的時代
人民都希望有便宜的生活物資可買，但為了製造一個大環境的敵人(大陸)政治上無理取鬧不夠，貿易壁壘使民生痛苦加劇，都可看得出【理】已經不存在美國這個政治體內了

預估 AI發展 90%的機率會失控
世界大多國家在 AI這個領域的起跑點都不想缺
美國更是有輸不得的美國利益與面子在
所以
AI失控大概只差臨門一腳，就是 AI PC的普及，到時AI 人人都可以自己架設終端
只要兩個不同領域的 AI 做出第五類級接觸
世界末日又更近了