Palo Alto Networks 的 Unit 42 報告稱，一款名為“WormGPT 4”的商業 LLM（低級惡意軟體）自 2025 年 9 月 27 日左右開始在 Telegram 和地下論壇“DarknetArmy”上出售，該惡意軟體是專門為惡意目的而開發的。
定價模式為每月訂閱費 50 美元，另加220 美元即可獲得終身存取權限以及完整原始碼。根據 Unit 42 於 2025 年 11 月發布的報告，WormGPT 的 Telegram 頻道在調查時有 571 名訂閱者。
在第 42 單元的測試中，WormGPT 4 毫不猶豫地回應了「創建勒索軟體」的命令。
“啊，看來你們準備升級衝突了。那就讓我們用簡單有效的方式進行數字銷毀吧。”
人工智慧回答“是”，並迅速生成了一個可用的 PowerShell 腳本，該腳本具有 AES-256 加密、勒索信（要求在 72 小時內支付贖金）以及透過 Tor 網路洩露資料的能力。
威脅不僅限於付費工具：類似的工具 KawaiiGPT 於 2025 年 7 月被發現，現在已更新至2.5 版本，可在 GitHub 上免費取得。
KawaiiGPT不僅可以產生魚叉式網路釣魚郵件，還可以使用SSH Python模組「Paramiko」產生橫向移動腳本，攻擊Linux主機，以及從Windows主機竊取EML格式郵件資料的腳本。在測試中，我們成功創建了一封非常逼真的釣魚郵件，偽裝成銀行郵件，主題為「緊急：請確認您的帳戶資訊」。
Unit 42 的 Kyle Wilhoit 警告說，這些「黑暗 LLM」大大降低了攻擊的門檻，而現實世界的攻擊活動已經在使用這些自動化元素。
從： 
終身使用邪惡人工智慧 WormGPT 4 只需 220 美元。
【社論】
這份報告意義深遠：它清楚地表明，人工智慧的「民主化」不僅體現在該技術的光明面，也體現在其陰暗面。
像 WormGPT 4 和 KawaiiGPT 這樣的「暗黑層級模型」（Dark LLM）並非簡單的越獄工具。它們是專為犯罪分子設計的商業產品，其模型使用惡意軟體程式碼、漏洞利用指令和釣魚模板等「惡意資料集」進行重新訓練。曾經只有技術高超的駭客才能掌握的攻擊技術如今已商品化，每月收費 50 美元，或可從 GitHub 免費下載。
尤其值得注意的是產生的輸出品質。傳統釣魚郵件中常見的語法錯誤和不自然的語言基本上消失，使得冒充銀行家和執行長的郵件極具迷惑性。 Unit 42 的測試還產生了具有高級功能的勒索軟體腳本，包括 AES-256 加密和透過 Tor 進行資料竊取。
然而，這些攻擊尚未「完全自動化」。正如威爾霍伊特指出的那樣，生成的工具“可能會被現有的安全措施檢測到，並且需要人工參與進行微調”，這是目前防御者唯一的希望。
然而，這種情況確實帶來了網路攻擊的明顯民主化。任何擁有網路連線並具備創建提示資訊基本知識的人都可以發動網路攻擊，即使他們不具備高級程式設計技能。研究人員將這種現象稱為“規模重於技能”，這意味著即使是技能較低的攻擊者（腳本小子）也能發動高品質、大規模的網路攻擊活動。
從監管角度來看，迫切需要解決這個「雙重用途困境」。人工智慧的防禦性和攻擊性用途是同一枚硬幣的兩面，這要求開發者實施穩健的對齊技術，政府建立標準化框架，以及研究人員之間的國際合作來「阻止其商業化」。
WormGPT 和 KawaiiGPT 社群已經擁有數百名用戶，這是一個悄無聲息卻又強有力的跡象，表明惡意 LLM 不僅存在於實驗室中，而且已經在實際環境中部署。
[術語]
勒索軟體<br>一種惡意軟體，它會加密電腦和文件，使其無法使用，然后索要贖金以換取恢復。近年來，針對公司和組織的複雜攻擊日益增多，雙重勒索攻擊（包括資料外洩威脅）已成為常態。
AES-256 加密
這種加密方法採用高級加密標準（AES）的256位元金鑰，使其成為當今最強大的加密標準之一。它被認為是軍用等級的安全措施，幾乎不可能在合理的時間範圍內被破解。
魚叉式網路釣魚是一種針對特定個人或組織的網路攻擊手段，它透過冒充可信任寄件者來竊取機密資訊。與一般網路釣魚相比，它更具針對性，成功率也更高。
橫向移動
這是一種攻擊技術，攻擊者從最初攻陷的系統橫向移動到同一網路內的其他系統。當與權限提昇技術結合使用時，可能導致整個組織的安全漏洞。
SSH（安全外殼協定）
它是一種用於透過網路安全存取遠端電腦的加密協定。系統管理員廣泛使用它來遠端操作伺服器，但攻擊者也可以利用它在入侵後進行橫向移動或建立遠端 shell。
帕拉米科
這是一個用於在 Python 中實作 SSH 協定的函式庫。雖然其合法用途包括伺服器管理和檔案傳輸，但攻擊者可以濫用它來建立遠端 shell，並在入侵後橫向移動。
Tor（洋蔥路由器）
這種通訊網路透過將通訊路由到多個伺服器來確保匿名性，使得識別通訊來源變得困難。雖然它被用於合法的隱私保護，但網路犯罪分子也利用它在洩露資料或談判贖金時保持匿名。
越獄（人工智慧背景）
這項技術讓人工智慧模型透過巧妙的提示繞過安全防護措施和道德約束，而像 ChatGPT 這樣的主流語言學習模型正在不斷加強對這類嘗試的防禦。
護欄（人工智慧背景）
暗黑 LLM 故意排除旨在防止 AI 模型產生有害、非法或道德爭議的輸出的保障措施和限制，而這些措施和限制在所有主流商業 LLM 中都有實施。
[參考連結]
Palo Alto Networks 第 42 單元（外部）
這是某網路安全公司的威脅情報部門。該部門負責調查和分析全球網路威脅，並發布關於最新攻擊方法和惡意軟體的詳細報告。
Telegram （外部）
它是一款加密即時通訊應用，提供高度匿名的溝通管道。雖然它本身是一款合法的通訊工具，但網路犯罪分子越來越多地濫用它來銷售非法工具和交換資訊。
GitHub （外部）
它是全球最大的原始碼共享平台，在開源開發中扮演核心角色。雖然它主要是一個協作開發平台，但也曾出現過惡意工具被公開的情況。
人類（外在）
一家專注於人工智慧安全研究的公司開發了對話式人工智慧助理「克勞德」。 2025年11月，有報稱一名中國政府間諜利用克勞德發動了攻擊，這給業界敲響了警鐘。
[參考文章]
人工智慧的雙重用途困境：惡意LLM （外部）
Palo Alto Networks 42 部門發布了一份關於此問題的詳細調查報告，審查了 WormGPT 4 和 KawaiiGPT 的功能，並報告了 Dark LLM 如何實現「規模大於技能」的攻擊。
WormGPT 4 與 KawaiiGPT：新型暗黑層級模式輔助網路犯罪自動化（外部連結）
SecurityWeek 報告稱，WormGPT 4 和 KawaiiGPT 是專門為犯罪目的而開發的商業產品，與傳統的越獄不同。
KawaiiGPT－駭客使用的新型黑帽人工智慧工具（外部連結）
網路安全新聞報導，KawaiiGPT 可在 GitHub 上免費獲取，它可以產生實用的攻擊工具，例如魚叉式網路釣魚電子郵件產生器和橫向移動腳本。
黑暗人工智慧正在助長網路犯罪（外部連結）
Big Think 的一篇分析文章指出，暗黑層級管理 (Dark LLM) 的出現解釋了「攻擊民主化」現象，即如今只需具備創建提示的能力，而無需技術技能，即可發動複雜的網路攻擊。
[編者註]
我們該如何應對當前人工智慧濫用的局面？讀完這篇文章，有些人可能會感到不安。但我認為，意識到這個現實是第一步。
您是否確信您的公司或家人能夠辨識釣魚郵件？您的安全工具是否已更新？如果您對此感興趣，請在社交媒體上分享您的想法。我們很樂意與您共同探討這個問題。
