以善意換取毀滅
1867年11月25日，瑞典斯德哥爾摩。阿爾弗雷德·諾貝爾為一種新型炸藥申請了專利，這種炸藥由吸附在矽藻土上的硝化甘油製成。他將其命名為“炸藥”（dynamite），這是一個希臘詞，意思是“力量”。
五年前，他的弟弟艾米爾在一場工廠爆炸中喪生。諾貝爾的目標是發展一種「更安全」的炸藥，以防止人們在礦井和隧道施工中喪生。然而，炸藥不僅被用於礦井，也被用於戰場。諾貝爾後來被稱為「死亡商人」。
工程師能否控制其發明的使用方式？
「徹底毀滅」的嚇阻作用
諾貝爾並不為戰爭中出乎意料地使用炸藥而感到惋惜。記錄顯示，他曾有意向多個國家出售炸藥。他的想法是，如果一種武器的殺傷力如此強大，戰爭本身就無法進行。
這就是「威懾」的邏輯：如果互相毀滅得到保證，就不會有人發動戰爭。但歷史表明，戰爭並沒有因此而停止。第一次世界大戰中，炸藥（包括雷管）的使用達到了前所未有的程度，導致數百萬人喪生。
晚年，諾貝爾將大部分財富投入諾貝爾獎基金會的創立。
機器選擇目標
如今到了 2025 年，我們發現自己面臨著一種新型武器：致命自主武器系統 (LAWS)——配備人工智慧的武器系統，而無需人工幹預即可選擇和攻擊目標。
自主殺傷系統（LAWS）和炸藥之間存在著關鍵差異。使用炸藥時，是否使用由人決定；而使用自主殺傷系統時，則由機器決定殺死誰。
以色列在1990年代開發的「哈比」（Harpy）無人機被認為是自主武器系統（LAWS）的先驅。它是一種巡飛武器，能夠偵測雷達目標並自主攻擊和自毀。這種無人機也被稱為“神風特攻隊無人機”，它配備了人工智慧，無需人工幹預即可完成從目標探測到攻擊的所有操作。在2020年的利比亞內戰中，土耳其製造的「卡爾古-2」（Kargu-2）無人機被投入使用，一份聯合國報告指出，該無人機「被編程為自主攻擊」。這被認為是自主武器系統首次在實戰中使用。
無序發展競賽
關於自主武器系統（LAWS）監管的討論始於2014年聯合國《特定常規武器公約》（CCW）。 11年過去了，甚至連其定義都尚未達成共識。儘管美國、俄羅斯、中國和以色列等主要國家都在競相研發此類武器，但它們對監管仍持謹慎態度。因為監管是一個基於共識的過程，任何一方反對的提案都將被否決。
2013年，由人權觀察組織主導的「停止殺手機器人運動」啟動，該運動匯集了來自70個國家的270多個非政府組織。包括伊隆·馬斯克在內的工程師和研究人員也紛紛發聲，呼籲在核武之後進行「第三次武器革命」。
它們引發了倫理問題。將關乎人類生命的決定委託給機器真的合適嗎？機器人沒有道德判斷力，攻擊時也不會猶豫。如果意外造成平民死亡，誰該為此負責？
2019年，日本政府宣布不會研發完全自主的致命武器。然而，它正在積極推進人工智慧在國防系統中的應用。科技發展與倫理約束之間的界線仍有待確定。
其他二元性
科技的這種二元性不僅限於法律領域：它存在於現代生活的各個領域。
CRISPR基因編輯技術於2023年獲得全球首個醫療批准，使治療鐮狀細胞貧血症和β地中海貧血等不治之症成為可能。然而，它也可能被用於製造「定制嬰兒」——即擁有特定基因特徵的兒童。截至2025年，儘管CRISPR基因編輯技術在醫療應用方面的臨床試驗正在推進，但關於其倫理界限的爭論仍在繼續。
核子技術既是解決能源問題的方案，也是對人類的重大威脅。發電和毀滅就像一枚硬幣的兩面。
歷史會重演嗎？
諾貝爾說：“如此具有破壞性的武器將使戰爭成為不可能。”
LAWS的支持者也使用了類似的邏輯：“完全自主的武器將減少人員傷亡”，“它們能夠比人類更準確地攻擊目標，避免傷及平民”，以及“無需讓士兵冒生命危險”。
然而，諾貝爾的威懾理論在一戰中慘敗。那麼，LAWS的「人道主義」邏輯又該如何解釋呢？
這裡存在一個關鍵區別。在諾貝爾時代，扣下板機的是人。而有了自主武器系統（LAWS），這個決定就交給機器了。甚至連人類作為最終制止手段的可能性也被剝奪了。
未解答的問題
人們總是說科技是中立的，但科技的使用卻並非如此。
1867 年和 2025 年，相隔 158 年，我們面臨同一個問題。但這一次，這個問題意義非凡。諾貝爾獎押注於人類的判斷，而 LAWS 則押注於機器的判斷。
誰來保護什麼，以及如何保護？
[資訊]
參考連結
- 外交部：關於致命性自主武器系統（LAWS）
- 人權觀察：殺手機器人
- 聯合國利比亞報告（2021年）
- 創新基因體學研究所：CRISPR臨床試驗現況（2025年）
詞彙表
炸藥是一種將硝化甘油吸附在矽藻土上製成的爆炸物。它是由阿爾弗雷德·諾貝爾於1866年發明，並於1867年11月25日獲得專利。炸藥比傳統的黑火藥威力更大，也更安全。它被廣泛用於採礦和隧道建設，但也用於戰爭。
LAWS（致命自主武器系統）是「致命自主武器系統」的縮寫。它是一種配備人工智慧的武器系統，無需人工幹預即可選擇目標並決定是否發動攻擊。它也被稱為“殺手機器人”。目前尚無國際公認的定義。
《特定常規武器公約》（CCW）是一項禁止和限制使用不人道常規武器的國際條約，於1980年生效。其目標包括地雷、燃燒彈和致盲雷射武器。關於管制致命自主武器系統（LAWS）的討論自2014年以來一直在進行。
CRISPR-Cas9是一種能夠精確編輯基因特定片段的技術。它利用細菌的免疫系統。該技術可望應用於遺傳疾病和癌症的治療，但其中涉及許多倫理問題。
威懾理論：認為擁有強大的武器可以阻止敵人的攻擊。諾貝爾認為，如果擁有炸藥等威力巨大的武器，戰爭將無法發生。但事實上，第一次世界大戰中炸藥被大量使用。
