焦點新聞

美國務院AI研究報告 專家示警對人類構成毀滅性威脅

商傳媒|記者許方達/綜合報導

AI迎來爆炸性成長世代,但「水能載舟亦能覆舟」,國際上不少專家擔憂,AI是否終有一天會對人類帶來無法逆轉的傷害。根據外媒報導,近期一份研究報告指出,AI應用技術的快速進展,恐帶來「災難性風險」,最糟糕的狀況恐怕是「最先進的AI系統對人類物種構成滅絕等級的威脅」。

這份研究是由美國國務院委託AI安全風險顧問公司Gladstone AI著手進行,期間訪問200多位AI產業高層、網路安全研究人員、大規模毀滅性武器專家及政府國安官員。

報告示警AI恐廣泛造成兩大核心危險,包括:一、最先進AI系統可能被當做武器,造成無法逆轉的損害。二,AI實驗室內私下擔憂,AI發展到某個程度後,開發人員會對他們自己開發的系統「失去控制」,帶來對全球安全潛在性的「毀滅性後果」。

報告急迫呼籲美國政府,必須「迅速且果決」採取新措施,以應對這項威脅,包括成立一個新的AI機構,制定「緊急規範保護」,同時限制電腦運算能力投入訓練AI模型的程度。

面對「AI軍備競賽」,專家擔憂AI和AGI(通用性AI)技術的興起,恐怕會產生類似核武等級的迫害,威脅全球安全穩定現況。Gladstone AI共同創辦人兼執行長哈里斯(Jeremie Harris)受訪表示,「包括在世界頂尖AI會議上發表的實證研究和分析,有愈來愈多證據顯示,要是超過相當能力的門檻,AI就有可能變得不受控制」。

圖片來源:翻攝自X平台

與此同時,歐洲議會13日以「壓倒性票數」通過全球首個AI法案(EU AI Act),將以廣泛法規規範,來管理包括聊天機器人ChatGPT等AI系統。歐盟「AI法案」會依照風險高低為依歸,要求高風險AI的廠商,必須先執行風險評估並確保產品符合法規,才能讓產品上市。違者恐遭處750萬至3500萬歐元(約821萬至3832.7萬美元)不等的罰款。

「AI法案」也限制政府在公共場所,使用即時生物識別監視技術,該技術用來防止真正的威脅,例如恐怖攻擊。歐洲議會通過法案文本後,歐盟27國接著預料於4月給予正式批准,法規最後將於5或6月發布在歐盟公報。這套規範將於法案正式成為法規之後12個月生效,而企業必須於兩年內遵守大部分規範。

相關新聞

美國巴爾的摩市傳出驚悚橋樑坍塌事件,與全球供應鏈或面臨衝擊

美國馬里蘭州巴爾的摩市的凱伊橋遭貨輪撞毀,多人落水失蹤

巴爾的摩貨輪事故引發中美貿易緊張再升級

小林製藥紅麴保健食品惹禍 日本逾百民眾住院!台灣進口商急下架

中國強推科技本土化 威盛及相關台股受惠股價飆升

馬英九四月訪中引發關注,台海情勢與兩岸交流再受矚目