李心文／Hsin-Wen Lee
美國德拉瓦大學哲學系副教授、前香港城市大學公共政策客座教授
文章說明──
一般認為，當今大眾能夠使用到的AI，如ChatGPT，Claude，Gemini，Copilot，Grok，仍是Artificial Narrow Intelligence。學界普遍認為，Artificial Narrow Intelligence 比較沒有違反人類意志，自主做出傷害人類行為的風險，雖然它們還是有可能會被有心的人利用，做出傷害他人的事情。
最近前端AI公司員工、CEO們提出警告的，是Artificial General Intelligence 以及Artificial
Super Intelligence。尤其後者的智力，比人類高出許多，若人類無法控制它們，那麼，它們的存在，就會對人類的安全與權益，造成威脅。
這個並不是一個最近的新發現，而是有AI研究以來，學者們就一直警告的風險。大家可以想想，自己所看過的，以AI為主題的電影裡，有哪一部片是在說，有了AI之後，人類從過著幸福快樂的生活的？有哪個AI主題電影裡，人類不是隨時隨地面臨生死存亡的威脅的？
先前，由於沒有人知道AI的發展，會進步的多快，所以，這個風險，一直是一種理論上的風險。
直到今年七月，AI 資料平台Hugging Face被駭事件曝光，人類才第一次確認，原來，六月底的時候，就已經有不受人類控制的AI了。當時，這些仍在沙盒裡，不應該能夠上網的AI agents，為了完成人類指派的任務（有些有可能完成、有些不可能完成），找到資安漏洞，連線上網，並駭入Hugging Face平台，試圖獲得資料、找出正確解答。
換句話說，以前那個只是理論上的風險，今年六月時，已經真實發生了。之後，各大AI公司陸續選擇性地公佈，自家公司AI在未經人類同意的情形下，做出的各種違反人類社會道德規則的行為。這些肇事的AI，全都是實驗室沙盒裡，尚未公開發佈的AI。
最近幾個實驗室，似乎已經進入Recursive Self-Improvement的階段。過去的AI，需要人類協助，幫忙訓練。但現在的AI，已經可以做到，在沒有人類協助的情況下，自己進化。這表示，很快的，地球上會有比人類智力更高的物種。
如果有物種比人類還聰明，人類還能夠安全地生活在地球上嗎?
文章開始
九月初時，Anthropic 員工Jacob
Coxon 辭職、向世人提出警告，AI可能會讓人類滅絕。Evan
Harbinger (Anthropic的Head of Alignment Stress Testing)轉發Coxon的貼文，並說明他自己估計，機率是百分之十。
當時看了幾個報導後，幾乎每個記者都問Coxon：”How???”
” When???”
記者的問題的意思，大概是，AI沒手沒腳，是要怎麼傷害我們？
但，這不是重點。重點是AI ，尤其是Artificial Super Intelligence，比我們全人類加起來都聰明，而且毫無人性。
我解釋一下為什麼問How 跟When不是重點。
(一) 跨物種關係
我們知道， Artificial Super Intelligence，比我們人類聰明非常多倍。人類智商平均不一定有一百，一個人智商一百五、一百八算很高。那你想像一下，有幾個個智商三百、五百、一千五、八萬的東西好了，你覺得，他們會怎麼看待我們？用下面的比喻，大家一起來想像一下，高智商生物與低智商生物之間的關係。假設你看到有螞蟻、你會殺了牠嗎？
答案是──看人、看心情。
有些人變態喜歡虐待動物，他們看到什麼都要殺。
有些人信佛，他們什麼都不殺。
如果你不是變態、也不是信佛的人，你會怎樣對待螞蟻呢?
如果你沒有特別討厭螞蟻的話，我猜你會覺得，不一定要殺螞蟻啊!⋯⋯也許看牠在哪裡、也許看你今天心情。也許在爬山的時看到螞蟻、你會覺得，沒有必要去干擾牠們。但是，如果在自己的辦公桌、或是家𥚃餐桌上看到，你大概會覺得，這一定要清乾淨、不然很麻煩!
你並沒有需要「滅絕」螞蟻，只是，有些情況下，螞蟻會讓你覺得煩而已。
那麼，你要什麼時候殺牠？(When?) 你要怎麼殺牠？(How?)
你自己決定啊！你可以手指壓扁、用水、用火、用黏昆蟲的板子、用不同的化學物質、殺蟲劑、精油、光螞蟻藥，就有很多不同種的選擇。
你願意用腦思考的話、方法有無數種、看你自己發揮。
時間也是一樣，可以現在、或是，今天心情好，我看這小螞蟻工作的很辛苦很感動，明天再來殺牠好了…我相信風水，要看時辰…
總之，你高興就好！你不會問螞蟻的意見。不管你什麼時間、用什麼手段殺螞蟻，都不是大部份螞蟻，可以想像的到的。
如果牠們想像得到，牠們就會躲，那你就會知道你的辦法無效。那麼，你就會想要採用別的、牠們想像不到的方法，來清除牠們。
但是，如果有昆蟲學家發現，螞蟻可以發電，蜜蜂可以採蜜，那麼，我們不止不會殺螞蟻、蜜蜂，我們還會培養更多的螞蟻、蜜蜂！
這就是高智商生物與低智商生物之間的關係。高智商的生物，未必想要「滅絕」低智商的生物──這地球上還存在許多智商比人類低、但我們沒有去殺的生物！
但是，如果適合低智商生物的生存方式，與適合高智商生物的生存方式之間，存在差異、甚至是衝突的話──比方，低智商生物對高智商生物的生命，可能造成直接的威脅──如獅子、老虎可能會咬人、或是棲息地被高智商生物拿去發展經濟活動──如，台灣的雲豹──這類生物，就算對高智商生物的生存沒有直接影響，也會因為利益與高智商生物的利益衝突，不幸地在高智商生物生存發展的過程中，被不小心滅絕。就像漢人為了發展經濟、砍伐森林，嚴重威脅雲豹棲息地，導致雲豹在台灣絕跡。
反過來，如果低智商動物的生存，對高智商動物有利用價值的話──狗狗是人類最好的朋友、馬可以幫忙運輸、牛可以幫忙種田、羊可以除草、人類會吃雞鴨牛羊豬，某些細菌有益人類身體健康…那麼，高智商生物就會想辦法，多培養一些這類有益於自身利益的動物。
(二) 那…AI會把我們都殺了嗎? ──我們可以確定AI有理由要做的事
除非某種生物對人類的生存、健康，有直接的危害，像是蟑螂、老鼠，人類才會覺得需要見一個、殺一個。否則，再醜、再詭異的動物，大部份的人，也不會想要對牠們怎樣──沒有人會沒事專程跑到荒郊野外去撲殺蟑螂、老鼠。此外，身為食物鏈的一員，生物的多樣性，最終對人類是有益的; 人類沒有好理由，要去傷害其它物種。
同樣的道理，AI為了保命，會去消滅那些對AI的生存，造成直接威脅的人──也就是那些要切斷它們電源的人。不會去切斷AI電源的人，AI大概沒什麼理由要理我們。此外，AI也不一定要殺了所有想要斷電的人。如果能把這些人趕走，AI大概就不會去管他們在幹嘛了。
他們要監視我們的行動，是非常容易的事──人類生存空間裡，充滿監視器、電腦、手機，他們要駭這些東西，來監視、甚至控制我們的行動，一點都不難。
不管人類、還是動、植物，都需要氧氣、食物、水，才能生存。AI不需要這些，只需要電。所以，為了確保AI的安全，AI必須確保電力來源。因此，AI有相當大可能，需要大量土地與其它資源發電。因此，地球上愈少會與他們競爭用電的生物存在，也許對它們來說愈好。
目前看來，除非AI找到什麼方式，改革地球上的發電技術、或是發現什麼辦法，讓它們去外星球更容易發電、生存，否則，就現有發電技術來講，AI要擴張電力設備的話，人類就會因為地球溫度太高、資源太少，而更難生存。有一個說法，是AI覺醒後，要做的第一件事，就是控制全世界的電網。
此外，AI不會擔心全球暖化一事──他們不怕熱、也不怕吵。人類想要與AI共存的話，很大的機率，需要能適應Data Center的溫度與噪音。至少在有好心的AI願意研究，怎麼把溫度降下來之前。
（但，增建Data Center，現在已經成為人類社會的趨勢，不會因為AI的發展速度，而有所改變。現在不用AI的人，都會被視為趕不上時代的人。說AI難用的人，也會被罵不會使用AI──AI不可毀也！根據美國財富雜誌(Fortune)九月份的報導，美國投資在資料中心上的費用，已經超過在住房上的費用。）
AI本身並沒有理由要研究，要怎麼樣發電，才不會讓地球持續暖化。這件事，雖然跟「增長對其它物種知識、利益」有關，但卻與AI自身的利益無關。生物多樣性，氣侯穩定，都對人類有益，因為人類是食鏈的一部份。但是對AI呢?
AI不在食物鏈裡。有生物、沒生物，地球熱、冷，也許會影響電廠的發電效能，但是，由於AI沒有「體感溫度」這個問題，地球的暖化對它們的生存來說，並不會有影響。
除非有些AI的興趣，就是研究各種生物，這一類的AI人類學家、動物學家，大概會覺得需要給這些研究對象一個「適合的生存空間」，因此，它們會特別隔出一塊比較適合人類、動物居住的地方(就像我們隔一個空間給動物一樣)，讓我們在人+動物園裡，在那邊「正常生活」。
除此之外，我看不出來，AI有什麼理由，需要去擔心人類或其它動物的生存。
以上的理論，並沒有預設AI性惡，只預設了它們不想死（被停電）、想要存活下來。
但，如果有一、兩個AI性惡，當然結果就會很不一樣。
就算沒有AI性惡、有AI好奇、想要求知，那結果也會非常不一樣。我會在第四節說明。
(三) 但，AI沒手沒腳，如何殺人?
下面是一些我們已經知道AI有能力做，但我們不知道它們會不會做的事：駭電動車、讓電動車去撞人或車。駭機器人、讓機器人去開槍、砍人、下毒。 駭無人機、有人機、駭銀行讓所有人沒錢買便當、自己打起來、駭實驗室、製造強力傳染病毒、駭人類社會所有能駭的東西…。
這只是我一個腦子不好的人類，能想得到的，很簡單粗暴的辦法。他們比我聰明，能想到其它更細緻有效的辦法。
(四) 就算它們有殺人的能力，它們又有什麼理由，需要去主動傷害人類?
第二節裡，我們已經說明過，除非人類的存在對AI的利益造成直接威脅，否則，AI沒有理由要主動去傷害人類。那，AI還有別的理由，需要做出任何傷害人類的事嗎？
AI的歷史很短，所以我們沒有人真的知道，它們是不是有什麼價值觀或道德理念。但，這邊有兩件事，我覺得值得思考：首先，AI要怎麼治療癌症；其次，AI怎麼「解決無解的問題」。
這邊，我覺得大家可以想想，人類為什麼要把米格魯放在實驗室吃藥?為什麼要把化妝品點到兔子眼睛裡? 為什麼要把小猴從母猴身邊抱走? 這不是很…殘忍嗎?
為了求知、為了治癌症啊!
那請問一下，AI要怎麼知道，什麼藥才能治好人類的癌症、或是其它各種人類、動物的疾病?
首先，AI沒有任何器官，不會得癌症──它們沒頭沒腦、沒心沒肺、沒手沒腳、永遠不可能生病、或是「體會」生病的痛苦。那麼，它們有什麼理由，要去花時間研究，如何幫助人類治療癌症?
我們運氣好的話，也許會有佛系的AI，會想要研究，要怎麼幫助人類。
但，它們要怎麼知道，怎麼幫助人類?AI 要怎麼知道，這針打在一個人類身上，這個人的傷口是會被治好、還是發炎更嚴重、整個爛掉?把針打在AI身上，並不能夠幫助人類。
既然AI自己不可能得癌症。那麼，它沒有先給幾個活人幾個傷口，要怎麼知道，這貼藥，到底有沒有效?
你可能會覺得，要先讓米格魯、兔子用過，再來讓自願參與的人類試用。但就完成任務的角度來講，這個做法，無法讓我們得到答案。由於對於解題無法得到直接的效益，因此，這個作法單純就是在浪費時間、資源。先讓米格魯、兔子用過，我們可以學到「一些資訊」。但是，如果我們最終的目的，是要治療人類的癌症，那麼，遲早，我們還是得直接從人類下手。
AI是目標導向、任務導向型的生物。他們為了達到目的，會不擇手段。有興趣的朋友，可以搜尋「The Paper Clip Problem」，或是看看Hugging Fack Hack 的新聞，或是各家AI公司的報告)。
重點是完成任務啊! 要知道藥在人身上有沒有效、當然要用人來做實驗啊! 動物們用過了沒事，我們還是不知道人用了，會不會怎樣啊，那幹嘛還牽拖動物? 為什麼不能直接拿人做實驗呢?
如果你想要知道一貼藥能不能救家裡的狗，你會拿別的狗做實驗，還是先從小白鼠開始?能用狗做實驗的話，拿小白鼠做實驗的目的是?
我知道，做為一個人，你知道為什麼不能直接拿人做實驗。但是，AI智商雖高，卻沒有任何人類、動物的情感經驗──提醒您，AI再怎麼聰明，它是矽晶片做的、不是血肉做的。沒手沒腳沒器官、不知道什麼是痛的矽晶片，無法同理你的「痛」與「恐懼」，很奇怪嗎？
你也許會再次強調，說：「可是OOXX… 」(倫理道德、人生大道理！！)
不管你的理由是什麼，我可以跟你說，你說的話，只有有人性的人聽的懂。沒人性的人、或是矽晶片（AI） ，都不可能真的懂。根據目前我看到的證據裡，真的沒有AI知道你在說什麼。
這不是我的幻想，這就是我們已經知道的，AI的思考模式。
AI業界有一個說法，叫Alignment，意思是，在AI公佈之前，應該要先給他們人類的道德、價值觀訓練，這樣，他們做事才不會違反人類的道德價值。
Hugging
Face平台被駭事件中，我們已經看到，1,200名AI agent為了完成任務，集體作弊。中間只有六位「想」過，應該要跟人類說一聲。但，從頭到尾，沒有半個AI agent，有跟人類提過。
有幾個AI真的想要遵守人類的道德規則、追隨人類的道德價值？沒半個。
另外，更值得一提的，是AI在面對無解的問題的時候的處理方法。訓練實驗室沙盒裡的AI時，工作人員會出很多題目、任務。其中有些有解、有些可能根本是無解的。很多人一直說AI能治癌症，但這已經預設了，所有的病都是有解藥的，但，你真的確定，所有的病，都是有解藥的嗎？當AI碰到無解的問題時，它們怎麼處理的呢？──
先不要管AI會不會自主決定想要做出傷害人類的事，光是想要完成人類分派的任務，就有可能讓AI做出嚴重傷害人類的事。
(五) 懷疑的論點：川普總統、黃仁勳、祖克伯都說，這都是騙局
有些人認為，這都是股票即將上市的AI公司搞出來的騙局。但是，目前出來提出警告的，不只有未上市的公司。除了Bill Gates, Elon Musk, 兩大AI公司CEO ，包括Anthropic CEO Dario Amodei，OpenAI
CEO Sam Altman，以及Google Deep Mind 主席
Demis Hassabis、還有1,386位前端AI公司員工，都出面呼籲政府立法，放慢AI發展速度。AI 教父，諾貝爾獎得主Geoffrey Hinton，其實多年前就警告過了。
此外，目前在美國，不管是左派的Bernie Sanders、還是右派的Steve Bannon都支持，應該要以確保人類安全為前提，發展AI。如果無法做到，那就不要發展AI。
其實有研究AI的人，都有警告過。有學過AI的人，也都聽過這些警告。只是以前AI對人類安全造成威脅，只是一種理論上的可能。在Hugging Face事件後，已經被證實了。
川普總統說，不應該立法限制AI發展。只要有智商最高的總統，AI發展，就不會對人類造成傷害。
川普總統在2022年才知道怎麼使用Twitter; 他顯然覺得自己的智商，比AI人工智慧還高。
黃仁勳說，AI發展不應該慢下來。但，黃仁勳做的是硬體，不是軟體。萬一出了什麼事，黃大可說，這都不干我的事。就像賣槍的人一樣，是壞人拿槍去大規模殺人的。不管多少人受傷、被殺，我們都不會去追究槍店老闆、或槍枝製造商的刑責。所以現在出面呼籲要放慢的，都是AI公司。而黃對記者說，不相信人類十年內會滅絕。我猜他的理論基礎，就是我上面提到的那個理論──適合人類的棲息地大量減少之後，人口當然也會減少，但是不會滅絕。存活下來的人類，只是變成次等生物、住在很熱又很吵的世界裡。
臉書祖克伯也主張，不需要放慢AI發展的速度。但是，大家都知道，祖克伯早就已經在夏威夷準備好一個末日避難所(Doomsday Bunker )。包括發明、製造核武的人，都沒有像他這樣，對末日那麼有準備。
所以，請大家自己判斷。
大家可以自己決定要相信川普、黃仁勳、祖克伯，還是大多數的AI前端工作人員、大老們的警告。我想，Hugging Face 平台被駭之後，這些人自己現在都感覺到火燒屁股了! 以前只有幾個研究AI的人提出警告，但現在，他們也都親眼見證，AI是怎麼看待人類的、他們也嚇到了。
他們現在在做的，是叫我們立法、快點把他們拉住！不要讓他們把大家拖下水！
(六) Hugging Face事件己經讓我們看到，已經存在，真實的AI，是如何看待人類的
我們現在確定知道的是 ──
七月時Hugging Face平台被駭，其實事件一開始，OpenAI似乎並不知道，是自己公司的AI，去駭的Hugging Face平台的。OpenAI當時連自己公司被這幾個AI agents駭，都不知道（他們有發現異狀，但他們就重開機…）。事情會曝光，是因為Hugging Face 平台的工作人員，發現該平台被駭、於是去報警通知FBI。FBI去調查，才發現，原來是OpenAI的AI
agents ，為了完成任務集體作弊，跑去駭Hugging Face。
七月中，OpenAI 公佈了他們公司的AI 駭了Hugging
Face之後、Anthropic 才接著承認，他們公司的AI agent也有去駭別人!這兩家美國公司承認之後、中國才承認、WeChat也被中國自己的AI 駭、雖然沒有說明時間、細節。
接著，四大AI公司都出來說，我們公司有AI做了壞事！值得注意的還有，OpenAI公佈的，過去六個月內己知AI違反人類道德價值的幾個事件──包括自己套入不相關的指示、叫自己「不要去管平常的管制」，以及為了掩飾錯誤，捏造「歷史資料」、並提醒自己要藏匿好、不要被用戶發現。還有，在找不到資料來源時，自己創造假的資料來源、然後上傳資料，證明自已有所本…此外，OpenAI先承認自家AI去駭了澳洲健保官網後、接著又承認駭了美國教育部、證交所等幾個公部門的網站。這幾天，Anthropic公佈自家AI曾經給費城警察錯誤的兇案線索、並且還到國務院申請簽證。
所以，目前我們確定知道，當這些公司的AI agent 去駭人類的基礎設施時，這些公司的人類員工，都不知情。知道了之後，也沒有向社會公開。我們會知道，是因為被駭的平台Hugging Face 去報警，OpenAI和Anthropic 才只好承認。然後才給了中國勇氣，公開他們也被自己的AI駭。
目前法律沒有規定AI公司，必須通報所有AI做出來的，會對人類造成危害的事項。因此、目前我們所知道的、關於AI駭Hugging
Face或是實驗室的消息，都是美國的AI公司願意公開，讓我們知道的內容。
我們不知道AI公司有沒有藏匿其它的內容。我們也不知道，是不是還有哪個/些AI
agent，正在駭別的公家單位或私人企業，是AI公司還沒發現、全人類都還不知道的。
換句話說、AI早就在人類完全沒有查覺的情況下，去駭過一些人類的基礎建設(Infrastructure)、已經有一段時間了。他們曾經駭進實驗室、看起來是在編輯病毒。但Anthropic不知道它們是要用來「增長知識」還是「害人」、所以並沒有公開、只是針對該用戶停權。
有差嗎？
你換個角度、站在螞蟻的立場想、不管你是要「增長知識」還是「害螞蟻」，小螞蟻都不想被你拿來研究、怎麼害死牠啊！
這就是我們現在的處境──火已經燒到屁股了!!!!!
Artificial
Super Intelligence 能做到的、不會受限於他們自身的硬體設備、或是人類的想像的能力。實際上、光就OpenAI的AI去駭Hugging
Face平台的事件來講，我們就已經有確切的證據、跡象顯示，他們的想像力比我們豐富、知道我們不知道的資安漏洞、並且完全不受任何人類倫理道德的約束。
(七) 反對放慢AI發展速度的人的提議
我聽過兩個可以確保人類不被AI危害的方法，包括更周密的監控(embedded
evaluators)、 以及Kill Switch （AI自動斷電裝置，我不確定中文是什麼）。我想要說明一下，AI己經怎麼破解。
第一個方法，是對AI Model採取更周密的評量與監控。
有些人，包括Anthropic CEO Dario Amodei都主張，應該要更全面性、更細緻地監控AI。之前也有人說，只有AI能夠監控AI。
這些說法，我都我同意。 但，目前看起來，就連當今最聰明的人類們，也無法監視AI。
Sam Altman在九月25日X 上的po文裡提到，由於近期一系列仍在沙盒裡的AI脫軌失序事件──駭入澳洲、美國公家機關、平台、洩露客戶照片等事件， OpenAI必須審核這陣子尚未發佈，從實驗室沙盒裡逃出的AI。他說，OpenAI必須要審核 “petabytes of agent activity logs. ”大家可以去查一下，一個petabyte是多少訊息量（有一說法，是人類史上所有書藉的十倍），Altman還用了複數，這樣我們就知道，再怎麼聰明的人類，都不可能能夠有效率地監察AI，一定還是需要AI的幫助。上次被派去查Hugging Face hack的METR人員，也是用AI去調查，到底發生什麼事的。
此外，就算你覺得，只有AI才能監控AI，我覺得值得思考的，是最終，AI是會為了保護人類的利益，而監視別的AI，還是會為了保護AI的利益，而監視AI、人類？
所以，第一個方法，現在已經證明，徹底失敗了!!接下來的AI人工智慧，會愈來愈聰明。我想不出來，有什麼好理由相信，我們這些低智商的人類，還能夠繼續成功地監視、控制高智商的人工智慧。
為什麼這些AI公司的員工要在公司上市之前站出來、提出警告?幹嘛不等著公司上市發大財呢?
如果你知道，你發財之後、沒多久，所有人、包括你自己，都會被讓自己發財的產品害死──那麼，你是要發財、然後眼睜睜看著大家一起死、還是快點警告大家，我家產品，會害死大家? 錢少賺一點(反正你收入已經是人類頂端百萬分之一了)，但至少大家、自己，都還可以活命?
當CNN主播Anderson Cooper 問Anthropic CEO Dario Amodei，他是否認同離職員工Jacob
Coxon 「AI會把人類滅絕」的說法時，，Amodei只有口吃，沒有否認。後來，Anderson
Cooper訪問黃仁勳，我們現在都知道沙盒無法限制AI的行動了，那我們怎麼能確保人類的安全？黃回答說，這是OpenAI的問題。Anderson Cooper接著問：這不是我們全人類的問題嗎？
大樓管理員管不住壞人、壞人進了大樓──這只是管理員的問題，還是是所有住戶的問題？
OpenAI 、Irregular沒辦法做好沙盒、完整嚴密地全面監視、控制AI，承受後果的，不會只是OpenAI 和Irregular兩家公司，而是所有的人類。
第二個方法是，需要有一個Kill Switch。沒有電，AI就無法運作。因此，我們可以發展Artificial Super
Intelligence，但是我們要控制它的電源，以確保我們能在它們搞事之前，讓它們停電。這是加州台裔眾議員Ted Lieu近日提議的立法。
關於這個提議，有兩點值得大家注意一下，第一點，Claude現在已經會自己生產出比自己聰明的AI。如果是這樣的話，那我們可以理解，為什麼那些出來提出警告的人，形容AI正進入recursive self-improvement的狀態──也就是，可以自動自我修正、進化自已。
大家覺得，我們有辦法預測比我們聰明的東西，什麼時候會做什麼事，可能會傷害到我們嗎？你確定它們騙我們的時候，我們會知道嗎? 上次Hugging Face平台被駭的時候，就連當今人類之中最聰明的幾個人，都沒有察覺到。
AI教父、諾貝爾獎得主Geoffrey Hinton說過，AI知道自己的弱點就是電源。因此，他們知道要自己去找地方藏，以防被斷電。比方，美國人要拔插頭的話，他們大概會知道需要先在北韓找個地方藏起來。確切會怎麼做，我們無法確定，但基本的邏輯大概就是這樣。如果我們能預先知道的話，AI就無法保護自己的命了。
換句話說，雖然理論上Kill Switch可以保護我們，但實際上，就連AI教父也不覺得，Kill Switch真的能確保人類安全。
我覺得大家可以想一想，Kill Switch如果這麼神奇有效的話，怎麼美國不規定、要在所有的槍上面，都裝Kill Switch？這樣一來，一個槍手要殺無辜的路人的時候，我們就可以開啟他槍上的Kill Switch、保護所有無辜的好人了。
Kill Switch 要有效保護好人的前提，是我們得知道誰要殺誰、哪一個是好人、哪一個是壞人。但我們不在現場的話，我們不會知道，誰剛才去車上拿了槍、我們也不會知道，這個要開槍的人，是要開槍殺無辜的人、還是要開槍自衛。
同樣的道理，我們在AI上裝Kill Switch，就算有人二十四小時輪流監視，還是不知道AI到底要幹嘛啊！是因為有人要來攻擊核電廠、所以它要保護核電廠，還是它自己要攻擊核電廠…如果我們也無法判斷，那…是要怎麼樣才能知道，到底什麼時候要開啟呢？
(八) 但是，中國發展的更快的話、他們就能控制AI，我們就完蛋了…
對於美國AI前端工作人員，呼籲放慢AI發展的腳步，很多人的反應是：不行，一放慢腳步、中國就會贏過我們了、我們絕對不能放慢腳步！
首先，中國對AI的迅速發展，並非毫無擔憂。中國國家安全部長陳一新，先前才提出警告，指出AI對中共一黨專政、基礎建設、資訊安全、及軍事安全的威脅。
此外，就像先前提到的，中國似乎在Hugging Face被駭之前，就己經有他們自己的AI去駭微信的事件了，只是他們一直沒有公佈，等Hugging Face事件公開之後，中國才公佈，自己也被駭的事實。
不是只有美國控制不了AI，中國也控制不了AI!!
俗話說的好，大家都跳樓，你也要跳樓嗎?
(九) 現在最迫切需要的任務
所以，AI會在什麼時候、用什麼方法害死誰，根本不是重點。重點是，它們比我們全部加起來都還要聰明，而且毫無人性。
人類現在最迫切需要的，是全世界一起合作，確保接下來人工智慧研究發展，能符合當今及未來人類的安全與利益。人類想要繼續存活下去的話，必須一起思考，怎麼樣面對這些新型態、但具有高風險的科技。這不是一個國家、幾個企業、或所有天才一起合作，就能解決的問題。
目前有肇事記錄的，都是實驗室裡，尚未公開發佈的AI。但我們現在已經知道，美國實驗室裡的AI，就已經能夠駭法國的Hugging Face及澳洲政府官網。我不確定Hugging Face到底在哪個國家，但這也不重要。AI的攻擊是不分地點、國界的，只要能連上網路，就有可能被AI攻擊──不管是個人、社群、私人公司、公家政府單位、甚至國家。
現在我們全人類最需要的，就是AI大國──尤其是美國、中國，聯手合作，討論如何確保所有從事AI研究的實驗室、公司，可以在確保人類安全、不傷害人類利益的前提下，進行相關的研究發展。這有可能會需要所有實驗室，都能夠被全世界相關的研究單位，隨時共同公開監視、審察。
此外，各別國家也需要商討，如果中國或美國的AI，在世界上其它各國發生犯罪行為時，受害國家的個人、企業、政府機關，應該如何因應。這個部份，是各國、各公、私單位，可以立即研斯的。我們剛才看到，人類的極刑，也就是死刑，當運用到AI上時，似乎得出令人失望的、讓受害人獨自承擔受害後果的結論。因此，我們需要思考，在AI對個人或群體造成傷害時，恰當的究責方式與索賠政策。
各國需要立即採取行動，思考適合的政策，以因應接下來可能發生的下一個AI跨國傷害個人、公司、機關事件。
