關於AI讓人類滅絕的可能性

日前Anthropic 員工Jacob Coxon 辭職、向世人提出警告，AI可能會讓人類滅決。看了幾個報導後，幾乎每個記者都問他：”How???” ” When???”

記者的問題的意思，大概是，啊AI沒手沒腳，是要怎麼樣才能傷害我們？

但，這不是重點。重點是AI ，尤其是Artificial Super Intelligence，比我們全人類加起來都聰明，而且毫無人性。

我解釋一下為什麼問How 跟When不是重點。

我們知道， Artificial Super Intelligence，比我們聰明非常多倍。人類智商平均不一定有一百，一百五算很高。那你想像一下，有幾個個智商一億、三億、二十億的東西好了，你覺得，他們會怎麼看待我們？用下面的比喻，大家一起來想像一下。

假設你看到有螞蟻、你會殺了牠嗎？

答案是--看人，看心情。

有些人喜歡虐待動物，他們看到什麼都要殺。

有些人信佛，他們什麼都不殺。

如果你不是變態、也不是信佛的人，你會怎樣對待螞蟻呢?

如果你沒有特別討厭螞蟻的話，我猜你會覺得，不一定要殺螞蟻啊!⋯⋯也許看牠在哪裡、也許看你今天心情。也許在爬山的時看到螞蟻、你會覺得，沒有必要去干擾牠們。但是，如果在自己的辦公桌、或是家𥚃餐桌上看到，你大概會覺得，這一定要清乾淨、不然很麻煩!

你並沒有需要「滅絕」螞蟻，只是，有些情況下，螞蟻會讓你覺得麻煩而已。

那麼，你要什麼時候殺牠？(when) 、怎麼殺牠？(how)

看你自己決定啊！你可以手指壓扁、用水、用火、用黏昆蟲的板子、用不同的化學物質、殺蟲劑、精油、螞蟻藥也有很多不同的選擇。

你願意用腦思考的話、方法有無數種、看你自己發揮。時間也是一樣，可以現在、或是，今天心情好，我看這小螞蟻工作的很辛苦很感動，明天再來殺牠好了…我相信風水，要看時辰…

總之，你高興就好！你不會問螞蟻的意見。不管你什麼時間、用什麼手段殺螞蟻，都不是大部份螞蟻，可以想像的到的。

如果牠們想像的到，牠們就會躲，會看要怎麼防著你。那你就會知道，你的辦法無效。那麼，你就會想要採用別的、牠們想像不到的方法，來清除牠們。

Artificial Super Intelligence 也一樣。他們能做到的、不會受限於硬體設備、或是人類的想像的能力。實際上、光就OpenAI的AI去駭Hugging Face平台的事件來講，我們已經有確切的證據、跡象顯示，他們的想像力比我們豐富、知道我們不知道的資安漏洞、並且完全不受任何倫理道德的約束。

此外，因爲法律沒有規定AI公司，必須通報所有AI做的，會對人類造成危害的事，因此、目前我們所知道的、關於AI駭Hugging Face或是實驗室的消息，都是公司自願公開，讓我們知道的內容。

我們不知道AI公司有沒有藏匿其它的內容; 我們也不知道，是不是還有AI在駭別的什麼單位，是人類完全不知道的。

我們現在知道的是：

七月中，OpenAI 公佈了他們公司的AI 駭了Hugging Face  這個平台之後、Anthropic（前一陣子才公開拒絕美國國防部把他們的產品在軍事上、感覺是比較關心人類命運的） 才也承認，他們也有AI去駭別人。這兩家美國公司承認後、昨天中國才承認、WeChat也被AI 駭。

所以、AI早就在人類完全沒有查覺的情況下，去駭過一些人類的基礎建設(Infrastructure)、已經有一段時間了。他們曾經駭進實驗室、看起來是在編輯病毒。但Anthropic不知道它們是要用來「增長知識」還是「害人」、所以並沒有公開。

有差嗎？

你換個角度、站在螞蟻的立場想、不管你是要「增長知識」還是「害螞蟻」，小螞蟻都不想被你拿來研究、怎麼害死牠啊！

這就是我們即將進入／或是已經進入的處境。

2026/09/12新增補充:　我聽到兩個說法，我想要回應一下－－

第一個說法是，只有AI能夠監測AI。這個我同意，但是我覺得值得思考的，是AI是會為了「人類」而監視別的AI，還是會為了AI的利益監視AI、人類？

你會為了螞蟻、還是其它動物的利益，去監視別的人嗎？同樣的道理，我也不覺得AI會為了人類的利益，去監視別的AI。事實上，Hugging Face的事件裡，我們已經清楚地看到AI願意為了整體AI的利益，犧牲小我，完成群體任務，一起欺騙人類。

 

第二個說法是，需要有一個Killer Switch。沒有電，AI就無法運作。因此，我們可以發展Artificial Super Intelligence，但是我們要掌握它的電源，確定我們能在它搞事之前，讓它停電。

有兩件事大家注意一下，第一件事，是Claude現在已經會自己產，出比自已聰明的AI。如果是這樣的話，那我們可以理解，為什麼那些出來提出警告的人，一直說AI正在以recursive (我查中文是「遞迴」)進度發展。

其次，早上聽AI教父說，AI知道自己的弱點就是電源，那麼，他們自已會去找地方藏。比方，美國人要拔插頭的話，他們大概會知道需要先在北韓找個地方藏起來。邏輯大概是這樣。

 

2026/09/13新增補充:

剛才睡醒又想到AI沒手沒腳，如何殺人? 駭電動車、駭機器人、駭無人機。駭所有能駭的東西…

另外，昨天聽到一個點，是AI最重要的事是不要被切斷電源，所以他們大概不會擔心全球暖化一事—他們又不怕熱。想要與AI共存的話，很大的機率，需要能適應Data Center的暖度與噪音。至少在好心的AI願意研究，怎麼把溫度降下來為止。但是，我想不出來哪一個AI會關心這件跟他們自身利益無關、但跟「增長對其它物種知識有關」的研究。

因為我正在參加研討會，所以暫時無法有效地更新所有資訊的來源。