AI網紅工廠內部資訊洩露,1100個Doublespeed手機農場遭駭客攻擊 AI網紅工廠內部資訊洩露,1100個Doublespeed手機農場遭駭客攻擊

AI網紅工廠內部資訊洩露,1100個Doublespeed手機農場遭駭客攻擊

AI網紅工廠內部資訊洩露,1100個Doublespeed手機農場遭駭客攻擊

由創投公司 Andreessen Horowitz 支持的人工智慧新創公司 Doublespeed 於 2025 年 12 月遭到駭客攻擊。 Doublespeed 為客戶提供大型手機農場的存取權限,並經營一項服務,讓他們可以管理數百個由人工智慧產生的社群媒體帳號。這次駭客攻擊的目標並非單一帳戶,而是管理手機農場的整個後端系統。該駭客匿名告訴 404 Media,他們能夠查看正在使用的手機、管理員、TikTok 帳戶、代理程式和密碼、待處理任務等資訊。該駭客還分享了一份由 Doublespeed 手機農場運營的 400 多個 TikTok 帳戶的列表,其中約有一半用於推廣產品。

這些貼文大多沒有標明其廣告性質,違反了TikTok的服務條款和美國聯邦貿易委員會的數位廣告法規。駭客於10月31日報告了該漏洞,但截至今日仍能存取其後端。 Doublespeed目前僅在TikTok上活動,但計劃擴展到Instagram、Reddit和X平台。

從: 文献リンク駭客搗毀一家在 Instagram 上經營龐大 AI 生成的「網紅」網路的新創公司

【社論】

Doublespeed 駭客事件凸顯了生成式人工智慧和社群媒體行銷交叉領域存在的結構性問題。

首先,讓我解釋一下「手機農場」系統。它是一個將大量實體智慧型手機(本例中約有1100部)排列在機架上的裝置,每部手機都由一個中央管理系統控制。傳統上,這種系統主要用於虛假廣告點擊和操縱評論,但Doublespeed將其與生成式人工智慧結合,提供了一種能夠實現「類人帳戶管理」的服務。

這種設定的巧妙之處在於,內容不僅由人工智慧生成,而且使用實體設備還能讓平台繞過偵測系統。像TikTok和Instagram這樣的平台會分析設備指紋和行為模式來偵測詐騙機器人活動,但使用實體設備卻能讓平台看起來更「人性化」。

Doublespeed 從 Andreessen Horowitz 的「Speedrun」加速器計畫中獲得了 100 萬美元的投資。該計畫提供為期 12 週的密集支持,競爭極為激烈,錄取率不到 1%。然而,這起事件揭露了一家由矽谷知名創投公司支持的新創公司,其商業模式明顯違反了該平台的服務條款。

該公司違反廣告規定的行為尤其令人擔憂。根據404 Media報道,Doublespeed經營的400多個TikTok帳號中,約有一半在推廣產品,但大多數廣告並未明確標明其為廣告。這不僅違反了TikTok的服務條款,也違反了美國聯邦貿易委員會的數位廣告法規。

這次駭客攻擊暴露出的另一個嚴重問題是安全漏洞。儘管駭客在10月31日就報告了該漏洞,但截至12月17日,後端仍然可以訪問,這表明漏洞披露的負責任性並未得到妥善解決。

這次事件引發的長期問題是社群媒體「真實性」的喪失。 Doublespeed目前僅在TikTok上經營,但計劃擴展到Instagram、Reddit和X平台。其定價從每月1500美元到7500美元不等,許多公司都能負擔得起。如果此類服務變得普遍,我們將很難確定社交媒體上的內容有多少是「真人」發布的。

該平台的回應也值得關注。 TikTok在收到404 Media的通知後對這些帳戶進行了標記,但在此之前基本上並未採取任何行動。 Meta公司沒有回應置評請求,但考慮到Andreessen Horowitz聯合創辦人Marc Andreessen是Meta的董事會成員,這其中可能存在利益衝突。

[術語]

電話農場
該系統將大量智慧型手機設備實際安裝在機架上,並由中央管理系統進行集中控制。這種方法也被稱為“點擊農場”,最初用於虛假廣告點擊和操縱評論。使用實體設備更容易繞過平台的機器人偵測系統。

人造草根運動
「人造草皮」(AstroTurf)一詞源自拉丁語,指的是一種有組織的虛假草根運動。在社群媒體中,它指的是公司或組織有系統地運用的一種行銷技巧,使用戶誤以為這些貼文是真實用戶自發性發布的。

代理人
一種充當互聯網連接中繼的伺服器。它用於隱藏IP位址並繞過地理限制。在電話集群中,它用於使設備看起來像是從不同地區連接的。

設備指紋識別
這項技術透過結合設備特定資訊(作業系統、瀏覽器、螢幕解析度、已安裝字體等)來識別設備。平台利用這項技術來偵測詐欺帳戶。

美國聯邦貿易委員會(FTC)數位廣告法規<br>這些是美國聯邦貿易委員會制定的廣告法規,要求在社群媒體上發布的廣告和促銷活動必須明確標明為廣告。違規者可能會受到罰款等處罰。

[參考連結]

雙倍速(外部)
Doublespeed的官方網站。它管理著大量的社交媒體帳號。目前可能無法訪問。

安德森·霍洛維茨基金(a16z) (外部)
一家領先的矽谷創投公司,投資領域廣泛,包括科技、醫療保健和金融等。

a16z 速通(外部)
為期 12 週的創業加速器計劃,提供高達 100 萬美元的投資,入選率低於 1%。

404 媒體(外部)
獨立的科技和數位文化新聞媒體,提供深入的調查報告。

TikTok商業內容揭露(外部連結)
TikTok 的官方商業內容揭露指南,解釋了揭露廣告內容的義務。

美國聯邦貿易委員會(FTC)—廣告與行銷(外部)
美國聯邦貿易委員會的官方廣告和行銷頁面,提供數位廣告的揭露要求。

[參考文章]

駭客攻擊揭露了利用 a16z 晶片的手機農場向 TikTok 大量投放 AI 網紅(外部連結)
404 Media 獨家報道,詳細介紹了一個使用約 1100 部智慧型手機的大規模 AI 影響者平台的運作情況。

人工智慧「手機農場」新創公司獲得馬克安德森的投資,計劃向社群媒體投放大量垃圾訊息(外部連結)
Futurism 在 10 月發布的一份報告詳細介紹了一種商業模式,該模式每月收費 1500 美元至 7500 美元,並且違反了服務條款。

1100 部手機,零個人:揭秘 TikTok 影子廣告機器的駭客攻擊內幕(外部連結)
《國際商業時報》進行了一項詳細分析,研究了 1100 部智慧型手機的實體結構以及人工智慧生成的影響者。

Doublespeed駭客揭露其人工智慧產生的帳號正在推廣什麼(外部連結)
Slashdot 為科技社群提供了報導,解釋了 Speedrun 計畫的完整後端控制和資金來源。

[編者註]

您如何看待我們在社交媒體上看到的“網紅”帖子實際上可能由人工智能生成並由電信公司自動操作這一事實?這事件動搖了我們日常互動的數位空間中「信任」的根基。

我們在TikTok或Instagram上隨意看到的那些產品評論和推薦,究竟是基於真實的用戶體驗,還是出價最高者製作的廣告?隨著真假界線日益模糊,或許我們每個人都需要提升自己的媒體素養。你如何區分真假呢?