「機器人三大法則」經得起新時代的考驗嗎?|數位時代 BusinessNext

「機器人三大法則」經得起新時代的考驗嗎?

機器人的能力已今非昔比，AI也一再挑戰人類的智慧，機器人三大法則還經得起AI機器人新時代的考驗嗎？讓我們來看看這幾大法則的意涵為何。

如果你自認是機器人科幻的重度愛好者，想必對艾西莫夫（Isaac Asimov）這個名字耳熟能詳，被喻為二十世紀三大科幻小說家之一的他，特別對機器人的題材情有獨鍾，也獲得了「現代機器人故事之父」的美譽，即使在實際進行機器人研發的學界與業界，艾西莫夫也常扮演先行者的角色，許多優秀的學者專家都曾提及受到他的啟發。

艾西莫夫最為人稱道的事蹟，應該就是立下機器人三大法則（Three Laws of Robotics）！它歷史性的現身是在1942年發表的「轉圈圈」（Runaround）這篇文章，也被視為是人與機器人所訂下的第一份契約。這份界定雙方權利義務的合約轉眼間已經接近八十個年頭，想想如果一位職業運動員能夠簽下十年約，那絕對稱得上是張肥約，就算是國與國之間，80年的合約也極為少見，合約之所以簽不長，就是因為時間一拉長，時空環境當然會有所變化，尤其到了二十一世紀的今天，機器人的能力已今非昔比，AI也一再挑戰人類的智慧，即使被視為是經典，但機器人三大法則還經得起AI機器人新時代的考驗嗎？

就讓我們再仔細檢視一下機器人三大法則的條文：

第一法則、機器人不得傷害人類，或袖手旁觀坐視使人類受到傷害；
第二法則、除非違背第一法則，機器人必須服從人類的命令；
第三法則、在不違背第一及第二法則的情況下，機器人必須保護自己。

第零法則

這些法則當然是寫給科幻世界的機器人，即使如此，艾西莫夫也不至於天馬行空、隨意寫寫，其實每條法則都蘊含著深意，而且還依其重要性排定先後次序。對於具有一定危險性的機器人，合約的主要精神就在於絕對的安全與服從，由於它的造價昂貴，所以再追加一條自我保護的要求，以此內容來看，即使是依照現今工業應用的觀點，這約也算是簽的相當不錯！

但機器人三大法則所表述的就是基本的理念與原則，在實際運作的過程中難免會碰到條文窒礙難行的情形，像是第一法則就常常引發爭議，例如說，如果傷害一個人可以拯救全世界，該如何取捨？當總統與一介平民同時受難，又該救誰呢？在《機械公敵》（I，Robot）電影中，威爾．史密斯所飾演的警探一直對機器人十分不爽，心結就出在機器人在當他與小女孩一同落水時，選擇營救的對象竟然是他，對一位柔情硬漢來說，歉疚感比起喪失生命更難以承受啊！針對此點，艾西莫夫的回應是在1985年的《機器人與帝國》一書中加入第零法則：

機器人不得傷害人類整體，或袖手旁觀人類整體受到傷害。

加入這條法則事情會有改善嗎？這就讓科幻世界去煩惱吧！我們還是將觀戰重點拉回到人類真實的生活上來。

AI機器人的考驗

在這80年的時光中，AI機器人技術可說是一躍千里，也讓它的能力與貢獻度更加提昇、但相對地危險性也越大，也因此當我們在修訂條約內容時，特別要審慎評估新型態威脅的關鍵所在，像是知名作家伊格言在2018年「機器人三大定律過時了嗎？如何為AI立憲？」文章中就提到對AI意識上的關切，陸續也有學者述及AI在設計與演算法上的不透明度，以及擬人化機器人所引發的種種爭議等，這些都是在大量引入AI機器人到我們生活中時所必須要面對的。

出身哈佛、牛津、與耶魯名門的知名AI法律專家、美國布魯克林法律學院法蘭克．帕斯奎爾教授（Frank Pasquale）長期觀察AI機器人技術的演進，深度剖析它們到底會對人類生活產生何種的影響，他在2020所出版的New Laws of Robotics：Defending Human Expertise in the Age of AI（Harvard University Press）一書中，以較為全面性的觀點提出機器人新四大法則：

第一法則、請輔助人類的專業工作，而非加以取代；
第二法則、請不要試圖諧擬不真實的人性；
第三法則、請不要助長零和的武器競爭；
第四法則、永遠要標示出你的創造者、控制者、以及擁有者。

AI與人性

乍看之下，這幾個條文似乎沒有像機器人三大法則那般地條理分明、明快俐落，這除了艾西莫夫就是宗師級人物之外，主要的原因乃在於三大法則將機器人視為人類，我們比較容易同理，而帕斯奎爾教授著眼於應用在真實生活中的AI機器人技術，是依據他所觀察可能帶來的威脅來訂出法則，較著重於它實質面的效益，而兩者的用意都是在於保護人類。

我們就來看看這四大法則的意涵為何？首先第一條就明確要求機器人專心做好輔佐人類的角色，企業主也不要一心想讓它們全面取代人類工作，現階段AI機器人不應該、也沒有能力當家做主；對於一窩蜂想讓人型或社交機器人逼近人類外型或思維的做法，他十分憂心這種人造的人性終究有所偏差，甚至會扭曲人與機器人、或是人與人之間的關係；而以AI機器人進行替代戰爭以減少人類傷亡的想法，他更認為像是打開潘朵拉的黑盒子；第四條則直指AI的不透明性，一定要讓使用者清楚明白這程式或機器人到底是誰設計的，而我真的擁有並掌控它的運作嗎？不然的話，就會像是搭上不明程式所控制的自駕車，你的命運就此完完全全操縱在別人手上。

也許你不見得完全認同帕斯奎爾教授的看法，也或許未來還會更多新版的機器人N大法則推出，但相信大家都會同意---不能任由AI機器人技術毫無限制地開發，尤其不能在犧牲人類的自我與尊嚴的前提下。而無論是艾西莫夫或是帕斯奎爾教授想提醒我們的，無非就是「安全」與「服從」，因為機器人就是讓我們又愛又怕啊！

責任編輯：郭昱彣、陳建鈞

《數位時代》長期徵稿，針對時事科技議題，需要您的獨特觀點，歡迎各類專業人士來稿一起交流。投稿請寄edit@bnext.com.tw，文長至少800字，請附上個人100字內簡介，文章若採用將經編輯潤飾，如需改標會與您討論。

（觀點文章呈現多元意見，不代表《數位時代》的立場）

兆勤科技祭出雙軌策略，助攻中小企業資安升級

根據統計，2024年的目標式勒索資安事件，高達90%是以中小企業為攻擊目標，顯見，資安防護不再是大型企業才需要關注的課題，中小企業的資安需求同樣迫切且不容忽視。

「然而，中小企業因為缺乏資安專業人才及預算有限，不易做好資安管理，再加上近年來網路攻擊手法多變且複雜，更加深應對威脅的難度，」兆勤科技總經理蔡明見一語道出中小企業的資安挑戰。為此，兆勤科技祭出「簡化管理、強化服務能量」的雙軌策略，持續精進雲端網路安全解決方案，讓中小企業能夠以最少資源完成資安佈署工作。

在簡化管理上，兆勤科技以Nebula雲端管理平台為核心，透過以下3大機制，達到簡化管理負擔的目標。首先，在Nebula平台導入雲地共融技術，讓雲地兩端的安全策略及網路設定可以同步，突破傳統網路設備管理模式只能本地或雲端二選一的限制，也為企業網路管理提供更多彈性，企業可以先採用本地管理，待習慣雲端操作時，再一鍵轉移到雲端，無需重新配置、也不需更換設備，大幅降低轉型門檻，打造跨平台的一致性防護。

其次，Nebula平台除了可以集中管理防火牆、交換器、無線AP等各個網路設備，設定介面亦相當簡單好操作，透過各種方式例如：事先預設基礎設定、掃描條碼即可將設備加入網路等，讓使用者即便不是專業IT人員，可以輕鬆完成設定、掌握整體網路狀態，大幅降低學習門檻與提高管理效率。

第三、Nebula平台可以自動接收韌體更新與漏洞修補程式，避免因人力不足而忽略系統維護與更新的風險。

在強化服務能量上，兆勤科技積極輔導經銷或通路夥伴建立服務能量，滿足中小企業對網路代管服務的需求。「這是能為中小企業、夥伴與兆勤創造3贏的做法，」蔡明見說明，藉由Nebula平台可以遠端管理的特性，使經銷或通路夥伴能夠一次管理上百個客戶的網路設備，並以訂閱制收取服務費用，成功由傳統硬體銷售轉型為網路代管服務提供者，同時也讓中小企業得以使用網路代管服務，近來，兆勤更推出pay-as-you-go金流方案，協助夥伴降低資金壓力，加速拓展服務市場。

黑貓資訊破除IT與資安斷層，強化內部防禦

合勤集團旗下專注於資安顧問及託管服務的黑貓資訊，自2017年由合勤投控公司資安部門分拆出來後，便聚焦在解決企業 IT 與資安協同作業的挑戰。「企業內網管理的盲點有很多，但IT與資安的協作斷層，是目前最常見也最迫切要解決的問題，」黑貓資訊總經理游政卿說。

IT與資安雖然密不可分，但實務上，企業通常將IT與資安劃分成2個團隊，且彼此的工作重點也不相同，IT 團隊專注資源調度、確保系統穩定與效能，資安團隊則忙於應對警報和威脅，這種分工模式不只讓攻擊者有機可乘，更會令IT團隊誤以為資安只會加重工作負擔。

「資安的價值，應該從協助IT部門解決問題開始，而不是增加負擔。」游政卿強調，因此，資安團隊首先要做的就是「與IT同在」，從理解IT團隊的需求、解決痛點到取得信任，雙方才能進一步協作，共同應對日益複雜的網路威脅。

以IT資產盤點為例，這是IT團隊相當重要又很耗時費力的工作，而資安團隊可以透過端點安全解決方案（EDR）進行資產盤點，先協助IT團隊掌握所有終端設備的型號、使用狀況與更新需求，再延伸到端點安全防護議題，如此不僅減輕IT負擔，也讓資安建置更具體有感。

除了IT與資安的協作斷層外，包括資產與風險能見度不足、過度依賴邊界防禦，忽略內部橫向移動的風險、以傳統基於特徵碼的靜態防禦機制為主，無法有效應對快速變化的動態威脅、對於第三方軟硬體與的安全把關不足等，亦是企業內網管理常見的盲點。

對此，黑貓資訊憑藉深厚技術底蘊，自主研發多元資安解決方案與服務。在解決方案端，推出在如同樂隊指揮家的智慧XDR防護平台，可協調整合多源資安日誌，並結合AI技術大幅提昇威脅偵測的精準度，亦有可部署於地端（On-premise）的SIEM 解決方案，滿足企業對資料落地、合規與客製化的需求。在服務端，不僅提供24 X7全年無休的MDR/SIEM/SOC 託管式監控服務，更同步提供滲透測試、弱點掃描、供應鏈風險檢測等服務。

值得一提的是，黑貓資訊目前正積極申請ISO 17025資通安全檢測實驗室認證，導入NIST SP 800-115測試流程，協助企業確保所導入的資安方案具備可驗證性與國際標準接軌能力。

在數位轉型成為企業生存關鍵的當下，資安已成為業務穩定與品牌信任的保證。合勤集團透過兆勤科技的雲地整合資安服務、黑貓資訊的智慧防護與專業服務，以及勤晁科技的高規安全方案「偕同出擊」，建構出一條完整而具彈性的資安防線，讓不同需求的客戶都能享有最合適與全面的資安保障，更有信心邁向AI新時代。