日前OpenAI在澳洲政府健保網站上的「意見信箱」裡留言，通知澳洲政府，自家仍在實驗室沙盒裡，接受訓練、尚未公開發佈的AI，曾經駭過該官網、並且進到不公開的個人資料部份，找過資料，但沒有把這些個人資料公開。
澳洲政府當然震怒！根據紐約時報的分析，在澳洲，相關的罪行可以處以兩年的徒刑。
目前絕大多數國家，對於AI 可能犯下的罪行，都沒有立法約束。多數法治文明都認為，只有成熟理性的人類有理性選擇的自由、有負起刑事責任的能力。地球上其它生物、以及未成年的人類，都沒有理性選擇的能力，因此，也無法負起刑事責任。
那AI呢？理論上，Artificial General Intelligence和人類一樣聰明，而Artificial Super Intelligence的智力，更是比人類卓越數倍。如果它們做的事，傷害了個人、私人企業、或公家機關，那麼，它們是否也應該為自己傷害他人的行為，責擔起刑責？
在寫這篇文章的當下，美國目前並沒有法律控管各AI公司、或AI agents。因此，針對OpenAI的AI agent去駭澳洲政府的健保資料庫官網，美國政府應該不會採取任何行動。那澳洲政府呢？
目前澳洲政府也沒有針對AI 的行動，做出任何立法。因此，若澳洲政府要對肇事的OpenAI AI agent究責，大概就是得把「肇事的AI」引渡到澳洲服刑坐牢。這是什麼意思？？
是要把相關的資料中心，運到澳洲，找個空地放兩年嗎？澳洲監獄，放的下這座資料中心嗎？那坐牢期間，該AI能插電嗎？還是不能插電？能插電的話，如果它坐牢期間，又駭了什麼資料庫、購物網站、私人電子郵箱，犯了罪、…那不是有坐牢跟沒坐牢一樣嗎？
要AI坐牢，看起來很荒謬，那死刑呢？如果 OpenAI說，我們己經把相關的AI的電都停了，也就是說，本公司都已經幫它判處死刑了。那，你還要怎樣？
這就是把現有人類的法律，運用到AI上，得到的荒謬結論。如果我們現在什麼都不做、不針對AI公司的管理行為做出約束的話，下次有哪個新的AI又搞什麼事的話，AI公司仍然可以繼續判它們徒刑、或死刑。但是──
我們沒有人真的知道，這些搞事的AI，現在到底是什麼狀態。筆者查過資料，要看六月時駭Hugging Face的1,200個合作作弊的AI agents，現在是否還在運作。筆者得到的答案是沒有。但，目前我們所有看的到的資料，都是AI公司選擇性地公佈給我們看的，而且這些資料明顯不完整。
此外，難道肇事的AI被停電叛死刑，澳洲政府就只能摸摸鼻子、當做什麼都沒發生過？AI公司，難道完全不需要負責任？在沒有美國協助的情況下，澳洲政府，要怎麼調查美國公司的內部資料、確定肇事的AI，已經停止運行？由於這類的事件似乎早在年初就已經發生，而AI公司們到七月Hugging Face事件才公開讓大家知道，那我們又要怎麼能確定，以後這類的事情，不會再發生？萬一發生，我們又怎麼能確定，AI公司會告訴我們？
目前學界普遍認為，現有公開運作的、我們一般人能使用到的AI，如ChatGPT 、Claude，Gemini，Copilot，Grok，仍然是Artificial Narrow Intelligence。一般認為，Artificial Narrow Intelligence並沒有自主傷人的能力。
目前有肇事記錄的，都是實驗室裡，尚未公開發佈的AI。但我們現在已經知道，美國實驗室裡的AI，就已經能夠駭法國的Hugging Face平台、澳洲政府官網、美國教育部、證交所官網。我不確定Hugging Face的主機到底在美國還是巴黎，但，這也不重要。AI的攻擊是不分地區、國界的，只要能連上網路，就有可能被AI攻擊──不管是個人、社群、私人公司、公家政府單位、甚至國家。
現在我們全人類最需要的，就是各AI公司聯手合作，討論如何確保所有從事AI研究的實驗室、公司，可以在確保人類安全、不傷害人類利益的前提下，進行相關的研究發展。這有可能會需要美、中兩國所有AI實驗室，都能夠被全世界相關的研究單位，隨時共同監視、審察。
此外，各別國家，包括台灣，也需要商討，如果中國或美國的AI，在國內發生犯罪行為時，受害國家的個人、企業、政府機關，應該如何因應、求償。這個部份，是各國、各層級的公家、私人單位，可以立即研討的。我們剛才看到，人類的刑罰，包括死刑，當運用到AI上時，出十分荒謬的結果，叫AI坐牢，就是叫受害人獨自承擔受害後果。我們需要立即思考，在AI對個人或群體造成傷害時，恰當的究責方式與索賠政策。
最後，我們也可以思考，與其叫肇事的AI負責，是不是要求AI公司，對於自己的實驗室進行更嚴格的控管，才有辦法真正地保護到人類的利益與安全。
No comments:
Post a Comment