超過100名英國議員呼籲政府對最強大的AI系統推出具有約束力的法規。
該運動由非營利組織 Control AI 協調發起，該組織由 Skype 聯合創始人 Jaan Tallinn 支持。運動呼籲英國首相基爾·斯塔默 (Keir Starmer) 展現出獨立於唐納德·特朗普白宮之外的立場，並推動限制超級智能的發展。
一個由前國防大臣德斯·布朗和前環境大臣扎克·戈德史密斯等跨黨派人士組成的團體擔心，超級人工智慧將危及國家和全球安全。英國將於2023年在布萊切利莊園舉辦人工智慧安全高峰會，並已成立人工智慧安全研究所（現更名為人工智慧安全保障研究所）。
Anthropic 共同創辦人 Jared Kaplan 表示，人類將在 2030 年之前決定是否允許人工智慧系統進行自我訓練。
工黨承諾將於 2024 年 7 月出台相關立法，但該法案尚未公佈。 Control AI 執行長 Andrea Miotti 表示，未來一到兩年內可能需要製定強制性標準。
從： 
數十名英國議員呼籲對最強大的人工智慧系統進行監管。
【社論】
超過 100 名英國議員呼籲對最強大的 AI 系統進行具有約束力的監管，這標誌著英國在全球 AI 監管趨勢中迎來了一個轉折點。
這項運動由非營利組織Control AI協調發起，該組織由Skype聯合創始人Jaan Tallinn支持。他們呼籲英國首相基爾·斯塔默展現出獨立於唐納德·特朗普總統政府的立場，並指出超級人工智慧威脅著國家和全球安全。據報道，川普政府一直反對對人工智慧進行監管，並向英國政府施壓，要求不要阻礙主要由美國公司主導的商業人工智慧發展。
2023年11月，英國在布萊切利莊園舉辦了人工智慧安全高峰會，28個國家和歐盟簽署了《布萊切利宣言》。峰會承認，最先進的人工智慧系統“可能造成有意或無意的嚴重甚至災難性傷害”，並成立了人工智慧安全研究所（現為人工智慧安全保障研究所）。然而，有觀點指出，此後國際合作的進展並未達到預期。
人工智慧領域的“教父”之一約書亞·本吉奧曾表示，人工智慧的監管“比三明治還寬鬆”，這表明這項技術的飛速發展與監管滯後之間存在巨大鴻溝。事實上，幾乎所有領域，包括食品、汽車、飛機和藥品，都存在監管，但人工智慧技術缺乏全面的監管，而這項技術或許將決定人類的未來。
尤其值得注意的是前沿人工智慧公司 Anthropic 的共同創辦人兼首席科學家 Jared Kaplan 發出的警告。他指出，人類必須在 2027 年至 2030 年間做出抉擇：是否要承擔“終極風險”，允許人工智慧系統自我訓練並變得更強大。這不只是技術問題，而是關乎人類未來的生存抉擇。
工黨在2024年7月的國王演講中表示，將提出立法，“對致力於開發最強大人工智慧模型的人員提出要求”，但具體法案尚未公佈。科學、創新和技術部聲稱“人工智慧在英國已經受到監管”，但這指的是現有的規則，而不是專門針對人工智慧的全面監管框架。
前人工智慧部長喬納森·貝瑞表示，現在是時候對構成生存風險的模型實施具有約束力的監管了。他建議設立一個“觸發機制”，要求人工智慧模型證明它們已經過測試、設計時就考慮到了關閉機制，並且可以重新訓練。
Control AI執行長安德烈亞·米奧蒂批評人工智慧公司遊說延後監管，聲稱現在「為時過早，會扼殺創新」。諷刺的是，其中一些公司也表示「人工智慧有可能毀滅人類」。這種自相矛盾的立場凸顯了人工智慧監管辯論的複雜性。
牛津主教史蒂文·克羅夫特指出，人工智慧存在許多風險，包括對兒童和成人心理健康的影響、環境成本以及人工智慧的普遍濫用。近年來，已有通報聊天機器人慫恿自殺，甚至有人將人工智慧奉為神明，而這些風險如今已成為現實。
這個問題引出了一個經典的難題：如何平衡創新與安全。英國擁有全球領先的人工智慧產業，該產業從業人員超過5萬人，為英國經濟貢獻了37億英鎊。過度監管可能會扼殺創新，而監管不足則可能帶來災難性的風險。
歐盟已頒布一項名為《人工智慧法案》的全面監管框架，該法案將於2024年8月生效，但美國目前尚無聯邦層級的人工智慧法規。英國正處於這一進程的中間階段，其選擇的道路可能對全球人工智慧監管的方向產生重大影響。
正如米奧蒂所說，鑑於人工智慧技術的發展速度，未來一兩年內可能就需要製定強制性標準。他用「非常緊迫」一詞概括了問題的緊迫性：我們正處於人類歷史的轉折點，現在面臨著至關重要的選擇。
[術語]
前沿人工智慧
這個術語用於描述最先進的通用人工智慧模型，這些人工智慧系統的功能可與目前最先進的模型相媲美，甚至超越它們。它們能夠執行各種各樣的任務，並可能造成嚴重危害，無論是有意還是無意。
超級智慧人工智慧
人工智慧系統的認知能力遠超過人類智慧。據說它們甚至能夠在眾多領域超越最先進的人類專家，這引發了人們對人工智慧系統一旦失控可能帶來的生存風險的擔憂。
通用人工智慧（AGI）
通用人工智慧（AGI）是一種不限於特定任務，能夠以與人類相同甚至更優水平執行各種認知任務的人工智慧系統。雖然目前的人工智慧主要專注於特定領域，但AGI卻擁有像人類一樣解決各種問題的多功能性。
布萊切利宣言
2023年11月，在英國布萊切利園舉行的AI安全高峰會上，28個國家和歐盟簽署了一項國際協議。這是一份歷史性文件，它承認前沿人工智慧的風險，並確認了為確保安全而進行國際合作的必要性。
自我訓練
人工智慧系統無需人工幹預即可設計和訓練下一代更強大的人工智慧系統的過程。如果這種遞歸式自我改進成為現實，人工智慧的能力可能會迅速超越人類的控制，而2027年至2030年被認為是關鍵的轉捩點。
尺度定律
這條定律指出，人工智慧的效能會隨著人工智慧模型規模、訓練資料量和運算資源的增加而以可預測的方式提升。它由Anthropic創始團隊於2019年提出，並已成為人工智慧發展的指導原則。
[參考連結]
控制人工智慧（外部）
一個由 100 多名英國國會議員支持的非營利組織，致力於推動對最強大的人工智慧系統進行具有約束力的監管。
人類（外在）
Claude AI是一家引領人工智慧前沿的公司。首席科學家賈里德·卡普蘭警告說，到2030年，需要做出一些重要決定。
英國政府 – 2023 年人工智慧安全高峰會（外部）
英國政府官方資訊頁面，介紹將於 2023 年 11 月在布萊切利莊園舉行的全球首屆人工智慧安全高峰會。
人工智慧安全研究所（英國） （外部）
由英國政府設立的人工智慧安全研究所是一個負責測試和評估先進人工智慧系統安全性的國際組織。
[參考文章]
人工智慧的未來風險：Anthropic聯合創始人卡普蘭警告通用人工智慧的危險（外部連結）
Jared Kaplan 的一篇文章警告說，在 2027 年至 2030 年間，人工智慧可能會發展到能夠設計自己的繼任者的階段。
ControlAI聲明（外部）
由超過 90 位英國跨黨派議員支持的運動發表聲明，呼籲對最強大的人工智慧系統進行監管。
布萊切利宣言（外部連結）
28 個國家和歐盟簽署的歷史性國際協議全文，承認前沿人工智慧的機會和風險。
AI Watch：全球監管追蹤器－英國（外部連結）
追蹤英國人工智慧監管的最新進展，包括2025年3月重新提出的人工智慧監管私人議員法案。
英國工黨在試圖約束人工智慧的關鍵參與者時面臨著一場艱苦的戰鬥（外部報導）。
一篇報道工黨政府計劃對少數開發最強大的人工智慧模型的公司引入具有約束力的法規的文章。
「人工智慧教父」約書亞·本吉奧談人工智慧監管（外部連結）
Yoshua Bengio 指出，“所有三明治都有相關規定，但人工智慧很少有相關規定。”
[編者註]
認為人工智慧「監管力度比三明治還弱」的說法引出了一個重要的問題：為什麼對於一項可能塑造人類未來的技術，卻沒有全面的規則，而食品和汽車顯然都受到監管？
鑑於2027年至2030年的具體時間框架已經確定，這個問題不再遙遠。賈里德·卡普蘭的警告表明，我們正處於一個歷史性的十字路口。我們能否在促進創新的同時確保安全？究竟應該優先考慮哪一方面：是監理造成的機會損失，還是監理缺失帶來的風險？
或許，邁向更美好未來的第一步，就是我們每個人都持續關注這項技術的未來發展。您對此有何看法？
