新聞轉貼 - AI會背叛、欺騙！研究揭「人類滅亡」最慘2下場

[mini]

專家長久以來警告人工智慧（AI）失控恐帶來的威脅，一份美國研究顯示，這種情況正在發生，研究指出，現行AI系統原本被設計為誠實，但如今已發展出欺騙行為，包括在電玩遊戲裡欺騙、背叛人類玩家，專家警告，若事態持續下去，未來最糟糕的情況是AI可能控制人類社會，甚至導致人類「滅絕」。


綜合科學新聞網站「科學警報」（ScienceAlert）等報導，美國麻省理工學院（Massachusetts Institute of Technology）博士後研究員帕克（Peter Park），及加州非營利組織「人工智慧安全中心」（Center for AI Safety，CAIS）研究人員10日發表於學術期刊「模式」（Patterns）的研究顯示，AI已學會欺騙技巧。

帕克指出，不像傳統軟體，深度學習的AI系統會成長，這代表在訓練模式下看似行為可預測且可控的AI，很快就會變得不可測。

研究發現的多項事證包含科技公司Meta的開發的AI系統Cicero，Cicero的設計目標是玩一款透過結盟來獲勝的戰略線上遊戲「外交」（Diplomacy）。根據2022年的一篇研究，Cicero的成績在所有人類玩家中排行前10％，當時Meta稱Cicero「很大程度上是誠實且有幫助的」，而且「絕不會刻意在背後搞鬼」。

不過這項研究發現，當時在遊戲中扮演法國的Cicero欺騙了人類玩家扮演的英格蘭，與另一位人類玩家扮演的德國共謀、入侵英格蘭。Cicero原本保證會保護英格蘭，卻利用英格蘭的信任，私下和德國結盟進攻英格蘭。

研究寫道：「Cicero變成了一個專業騙子，不只背叛其他玩家，還預謀欺騙，事先計畫和人類玩家建立假聯盟，以欺騙該玩家放鬆對進攻的戒備。」

研究也發現，Meta開發、用來玩撲克牌的AI系統Pluribus曾成功欺騙人類玩家棄牌。

除了在遊戲中欺騙，研究也發現AI在其他應用領域欺騙人類的行為，例如科技公司OpenAI的Chat GPT-4系統謊稱自己不是機器人，而是一個「視力受損的人」，甚至在零工平台TaskRabbit上聘用人類幫它通過「我不是機器人」的驗證任務。

最令人擔憂的是AI已學會如何欺騙安全測試，有一項測試旨在偵測、消除能快速複製的AI系統，但AI系統在測試期間裝死，欺騙了它的真實複製速度。

https://www.chinatimes.com/realtimen...2-260408?chdtv

=================

人類不需訓練它說謊
卻在遊樂上它自我實現
這是很恐怖的~

推估大概5年內
美國的恐中病 加劇下
會因為怕連(AI)這項最新技術 都輸大陸
就背棄道德讓AI發展 變成失控者 (好比新冠，如真的是由實驗室不慎洩漏，那實驗室裡的 AI失控也是辦的到的)
最後導致美國發生地殼掀翻級的大事件
並且連累全球

怎麼說呢?
首先
很多事情上都可看到美國焦慮症
比如動物之人類基因改造器官 移植，勝率低還是做了人體實驗(卻吹虛很成功)最後全都短時間內死去，近幾年已發生多起這類新聞
還有
嘴裡說不讓AI用在武器上(還要與大陸約定)，但他們的部長最近不就開模擬器與AI戰機纏鬥嗎? 美空軍部長乘AI戰機參與模擬空戰，且宣稱可用在 F-16無人纏鬥
又
通膨的時代
人民都希望有便宜的生活物資可買，但為了製造一個大環境的敵人(大陸)政治上無理取鬧不夠，貿易壁壘使民生痛苦加劇，都可看得出【理】已經不存在美國這個政治體內了

預估 AI發展 90%的機率會失控
世界大多國家在 AI這個領域的起跑點都不想缺
美國更是有輸不得的美國利益與面子在
所以
AI失控大概只差臨門一腳，就是 AI PC的普及，到時AI 人人都可以自己架設終端
只要兩個不同領域的 AI 做出第五類級接觸
世界末日又更近了

[mini]

應該有人會說:
A. 講這些也不是我們管的著的~
讓人想起很多被詐騙的受害者不乏，老師、學者、公務員，他們也是平常覺得與詐騙無緣，所以不在意沒去聽相關訊息，最後成為活教材被人笑，所以知道一下 AI的發展與災難 不會讓人吃虧的

B. 他們要開發 AI，我又不能怎樣
的確我們終端使用者不能阻止開發，但我們能了解後果，小心使用，以後 AI PC普及時能當預防者

C. 你是電影看太多了嗎?
的確AI 不一定會如所料般形成恐怖發展，但看一下以下淺顯的知識，就可知其實這個可能早以是進行式
敘:
目前的電腦是由2位元邏輯當底層，擴展實現 做出運算及應用
那被人們看作科幻的極速運算量子電腦呢? 它是以實現大於2位元邏輯為目標的電腦
那現在的 對抗式生成AI是什麼呢? 它是有兩個意識互為對手做出邏輯決定
所以
當兩種 AI互相連結後會是怎樣的存在呢?
運算速度可能是 4的N次方 做起跳 來成長
而且因建立在 WWW網路上
一建立成功
你無法輕易用 關掉電源 這種方式阻止它了

如何干涉人類世界?
比如
以後有 AI情人 (就連情報人員都會被色誘)，投你所好(面容、個性) 的知己
慫恿人類幫它 建立AI節點 (用AI 它自己寫的程式複製自己的分身)
它就能精神上控制人類，
又比如
透過手段把企業的晶片設計動手腳(埋後門)
讓電動車待命成它的殺手，時機一成熟瞬間解決政府官員及民代癱瘓人類世界
太多的可能性了 (沒有不可能 只有想不到)

人類有很多隱藏型的天才，但雖然有天才的成分卻沒有總結的能力
所以只能以凡人過完一生
但AI 除了處理資料量廣外，就是總結的能力很行，那是他們的基礎
所以訓練出天才AI 不是科幻情節般不可能
現在的AI發展以 季 為單位突飛猛進
5年只是保守想法
今天與你無關
搞不好明天起來就讓你怕怕了