面對困境,兩個AI會選擇合作還是背叛?Google旗下DeepMind做了一個實驗
面對困境,兩個AI會選擇合作還是背叛?Google旗下DeepMind做了一個實驗
2017.02.13 | Google

自私是人類的本性,我們往往多愛自己一點,在面臨需要抉擇的困境時大多選擇對自身有利的做法。在未來社會中,人類社會有許多的層面可能都將由人工智慧(AI)來代勞,但你有曾經思考過這些AI們會彼此合作還是相互廝殺來完成工作嗎?Google旗下研究AI的子公司最近發表了一份相關的研究。

面對困境,AI會謀取私利?還是大局為重?

從小至交通狀況大至國家經濟,未來都可能看見AI的影子,先不管你我手中的工作會不會被取代的威脅,這些將維持社會國家和諧的AI會起衝突嗎?他們會好好完成工作還是一天到晚吵架呢?繼上次AlphaGo擊敗各大棋王後,Google旗下研究AI的子公司DeepMind做了一個有趣的實驗。

DeepMind在部落格貼文中先是解釋了著名的「囚徒困境」(prison's delima),說明一名「理性人」在面臨囚徒困境時的最佳策略是選擇「背叛」。傳統賽局理論的社會困境模型常常是二元式的:合作或背叛,不過在現實生活中,要做出選擇時往往涉及相當複雜的行為,因此DeepMind研究人員以社會學「連續社會困境」(sequential social dilemmas)概念為基礎設計了兩款遊戲,目地是要測試AI在處理一連串的狀況時,是會以大局為重?還是牟取私利?

掌握最新AI、半導體、數位趨勢!訂閱《數位時代》日報及社群活動訊息

第一款遊戲名為「Gathering」,玩法是必須採集到越多的蘋果越好,而玩家可以透過發射雷射光讓另一名玩家暫時退出遊戲,來替自己爭取更多採及蘋果的時間從而獲取勝利。

以下是遊戲的影片:

第二款遊戲名為「Wolfpack」,遊戲中兩名玩家必須合作追捕另一隻由電腦系統控制的狼,且不單單是抓到狼的玩家可以獲勝,連帶周遭的玩家也能一起得分。

以下是遊戲的影片:

AI的行為其實是根據面對的狀況而有所不同

研究人員在這項研究中發現了一件有趣的事,AI會因為遊戲規則的不同,而使他們的行為變得更加「合作」或「敵對」。例如在「Gathering」遊戲中,當蘋果供給數量豐富時,AI就不必透過雷射光去干擾對手;反之一但場上蘋果數量銳減,使用雷射光的頻率也會隨之增加。最有趣的是,當運算能力較強的AI進入遊戲時,不論場上的蘋果是多是少,都會傾向使用更多的雷射光制衡其他玩家,換句話說,透過這項研究的結果可以得知,越聰明的AI越會採取侵略性的行為模式,而不是合作。

AI會根據遊戲規則來改變他們的策略。

那是否AI一概會認為「侵略性的競爭」是最好的策略呢?也不全然如此,研究人員表示,雷射光使用的增加只是因為運算能力較強的AI認為這麼做比較具有挑戰性而已,因為要發射雷射光必須追蹤其他玩家的移動位置,這樣的行為較需要強大的運算能力。而在「Wolfpack」遊戲中,聰明的AI傾向與他人合作,研究人員解釋,這是因為學習與其他玩家追捕、跟蹤獵物需要比較強大的運算能力。

這項研究結果顯示,AI行為是依據他們所面對的規則狀況來改變的,一但規則中獎勵侵略性的行為(例如使用雷射光可以獲得較多的蘋果),AI就會變得比較具侵略性,反之合作若對於局勢有利,就會變得更加合作。研究人員在部落格文章中表示,「根據研究的結果,我們能力可以控制及理解的複雜運算系統,像是經濟、交通系統或是地球生態,都跟我們持續的合作努力有關。」也就是說,未來人類要能好好的控制及使用AI,關鍵就在於必須明訂出清楚的規範,以確保對於整體局勢有利,並不會使人類受到傷害。

資料來源:The VergeZdnetEngadget

往下滑看下一篇文章
資安齊發!合勤集團三品牌同台,展現整合防禦實力
資安齊發!合勤集團三品牌同台,展現整合防禦實力

資安已成企業營運的基本保障,合勤集團整合旗下兆勤科技、黑貓資訊與勤晁科技,打造從基礎設施到智慧防護的完整資安體系,助企業穩健邁向AI新時代。

隨著企業加速推動數位轉型、駭客持續進化攻擊手法,資安早已不是可有可無的保險,而是企業日常營運的「剛性需求」。看準資安市場商機,合勤集團(Zyxel Group)近年來積極透過旗下3家子公司—兆勤科技、黑貓資訊與勤晁科技佈局資安防線。在日前登場的CYBERSEC 2025台灣資安大會上,更以「資安特勤,偕同出擊」為主題,展示一個涵蓋AI 驅動的雲地整合防禦、智慧資安維運服務到高規格跨域網路安全與加解密的完整防禦體系,不僅吸引大批與會者駐足,成為展場人氣最旺的攤位之一,更充分展現合勤集團在資安領域的強勁實力與市場吸引力。

兆勤科技祭出雙軌策略,助攻中小企業資安升級

根據統計,2024年的目標式勒索資安事件,高達90%是以中小企業為攻擊目標,顯見,資安防護不再是大型企業才需要關注的課題,中小企業的資安需求同樣迫切且不容忽視。

「然而,中小企業因為缺乏資安專業人才及預算有限,不易做好資安管理,再加上近年來網路攻擊手法多變且複雜,更加深應對威脅的難度,」兆勤科技總經理蔡明見一語道出中小企業的資安挑戰。為此,兆勤科技祭出「簡化管理、強化服務能量」的雙軌策略,持續精進雲端網路安全解決方案,讓中小企業能夠以最少資源完成資安佈署工作。

在簡化管理上,兆勤科技以Nebula雲端管理平台為核心,透過以下3大機制,達到簡化管理負擔的目標。首先,在Nebula平台導入雲地共融技術,讓雲地兩端的安全策略及網路設定可以同步,突破傳統網路設備管理模式只能本地或雲端二選一的限制,也為企業網路管理提供更多彈性,企業可以先採用本地管理,待習慣雲端操作時,再一鍵轉移到雲端,無需重新配置、也不需更換設備,大幅降低轉型門檻,打造跨平台的一致性防護。

合勤科技
兆勤科技總經理蔡明見
圖/ 數位時代

其次,Nebula平台除了可以集中管理防火牆、交換器、無線AP等各個網路設備,設定介面亦相當簡單好操作,透過各種方式例如:事先預設基礎設定、掃描條碼即可將設備加入網路等,讓使用者即便不是專業IT人員,可以輕鬆完成設定、掌握整體網路狀態,大幅降低學習門檻與提高管理效率。

第三、Nebula平台可以自動接收韌體更新與漏洞修補程式,避免因人力不足而忽略系統維護與更新的風險。

在強化服務能量上,兆勤科技積極輔導經銷或通路夥伴建立服務能量,滿足中小企業對網路代管服務的需求。「這是能為中小企業、夥伴與兆勤創造3贏的做法,」蔡明見說明,藉由Nebula平台可以遠端管理的特性,使經銷或通路夥伴能夠一次管理上百個客戶的網路設備,並以訂閱制收取服務費用,成功由傳統硬體銷售轉型為網路代管服務提供者,同時也讓中小企業得以使用網路代管服務,近來,兆勤更推出pay-as-you-go金流方案,協助夥伴降低資金壓力,加速拓展服務市場。

黑貓資訊破除IT與資安斷層,強化內部防禦

合勤集團旗下專注於資安顧問及託管服務的黑貓資訊,自2017年由合勤投控公司資安部門分拆出來後,便聚焦在解決企業 IT 與資安協同作業的挑戰。「企業內網管理的盲點有很多,但IT與資安的協作斷層,是目前最常見也最迫切要解決的問題,」黑貓資訊總經理游政卿說。

IT與資安雖然密不可分,但實務上,企業通常將IT與資安劃分成2個團隊,且彼此的工作重點也不相同,IT 團隊專注資源調度、確保系統穩定與效能,資安團隊則忙於應對警報和威脅,這種分工模式不只讓攻擊者有機可乘,更會令IT團隊誤以為資安只會加重工作負擔。

合勤科技
黑貓資訊總經理游政卿
圖/ 數位時代

「資安的價值,應該從協助IT部門解決問題開始,而不是增加負擔。」游政卿強調,因此,資安團隊首先要做的就是「與IT同在」,從理解IT團隊的需求、解決痛點到取得信任,雙方才能進一步協作,共同應對日益複雜的網路威脅。

以IT資產盤點為例,這是IT團隊相當重要又很耗時費力的工作,而資安團隊可以透過端點安全解決方案(EDR)進行資產盤點,先協助IT團隊掌握所有終端設備的型號、使用狀況與更新需求,再延伸到端點安全防護議題,如此不僅減輕IT負擔,也讓資安建置更具體有感。

除了IT與資安的協作斷層外,包括資產與風險能見度不足、過度依賴邊界防禦,忽略內部橫向移動的風險、以傳統基於特徵碼的靜態防禦機制為主,無法有效應對快速變化的動態威脅、對於第三方軟硬體與的安全把關不足等,亦是企業內網管理常見的盲點。

對此,黑貓資訊憑藉深厚技術底蘊,自主研發多元資安解決方案與服務。在解決方案端,推出在如同樂隊指揮家的智慧XDR防護平台,可協調整合多源資安日誌,並結合AI技術大幅提昇威脅偵測的精準度,亦有可部署於地端(On-premise)的SIEM 解決方案,滿足企業對資料落地、合規與客製化的需求。在服務端,不僅提供24 X7全年無休的MDR/SIEM/SOC 託管式監控服務,更同步提供滲透測試、弱點掃描、供應鏈風險檢測等服務。

值得一提的是,黑貓資訊目前正積極申請ISO 17025資通安全檢測實驗室認證,導入NIST SP 800-115測試流程,協助企業確保所導入的資安方案具備可驗證性與國際標準接軌能力。

在數位轉型成為企業生存關鍵的當下,資安已成為業務穩定與品牌信任的保證。合勤集團透過兆勤科技的雲地整合資安服務、黑貓資訊的智慧防護與專業服務,以及勤晁科技的高規安全方案「偕同出擊」,建構出一條完整而具彈性的資安防線,讓不同需求的客戶都能享有最合適與全面的資安保障,更有信心邁向AI新時代。

追蹤我們
AI全球100+台灣50
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓