谷歌在 Gemini 應用中推出了一項新功能，用戶可以直接驗證 AI 生成的視頻，查看視頻是否經過編輯或使用谷歌 AI 生成。用戶只需上傳影片並詢問「這是使用Google AI 產生的嗎？」 Gemini 便會掃描影片的音訊和影片軌道，尋找 SynthID 浮水印，並識別包含使用Google AI 產生的元素的片段。
例如，回覆可能顯示：「在音訊的 10-20 秒內偵測到 SynthID。未在影片中偵測到 SynthID。」可上傳的檔案大小限制為 100MB，時長限制為 90 秒。 Gemini 應用支援的所有語言和國家/地區現已提供影像和視訊驗證功能。
從： 
現在您可以在 Gemini 應用中驗證 Google AI 產生的影片。
【社論】
這項公告是Google為應對驗證人工智慧生成內容真實性這項挑戰而推出的方案之一。用戶現在可以使用名為 SynthID 的水印技術，在 Gemini 應用中驗證影片是否確實由Google的人工智慧產生。
SynthID 技術獨樹一幟，它將數位浮水印以人眼無法察覺的方式嵌入音訊和視訊中。與傳統的元資料方法不同，這種浮水印的設計使其能夠經受住常見的影片編輯處理，例如壓縮、裁剪和濾波。這種穩健性是透過在像素和幀級別融入統計模式來實現的。
有趣的是，Gemini 不僅僅返回“檢測到/未檢測到”，而是會識別影片中哪些片段包含 AI 生成的元素。例如，它可以提供更具體的信息，例如「在 10-20 秒的音訊中檢測到了 SynthID，但在畫面中未檢測到」。這使得它能夠處理部分編輯過的視頻，以及將 AI 生成素材與實拍素材相結合的混合內容。
這項技術日益重要的原因在於深度偽造技術的快速發展。到2025年，語音複製技術已經發展到只需幾秒鐘的語音樣本就能重現一個人的聲音，這使得傳統的單一檢測方法難以奏效。因此，需要採用多層防禦策略，而像SynthID這樣的水印技術與元資料分析和行為分析相結合，能夠有效應對這項挑戰。
然而，必須認識到水印技術有其限制。例如，由內容溯源與真實性聯盟 (C2PA) 開發的「內容憑證」等元資料方法，很容易被螢幕截圖和元資料移除工具移除。 SynthID 的設計初衷正是為了解決這個缺陷，但針對該技術的反制措施也在不斷湧現，使得這場博弈如同貓捉老鼠一般。
從監管和行業標準的角度來看，值得注意的是，Google作為C2PA指導委員會成員參與了技術規範的製定。 SynthID和C2PA的內容憑證相輔相成，前者俱有防篡改功能，後者則記錄內容來源資訊。 Adobe、微軟和OpenAI等產業巨頭也參與了這個框架，加速了確保跨產業透明度的進程。
從長遠來看，驗證人工智慧產生的內容可能會成為一種常規做法。目前，我們正處於「主動驗證可疑內容」的階段。未來，瀏覽器和社群媒體平台或許會具備自動偵測浮水印並標明內容是否由人工智慧產生的基礎架構。這將為資訊素養開闢新的維度。
[術語]
水印技術
一種將資訊嵌入到數位內容中的技術，這些資訊在視覺或聽覺上是不可見的。像 SynthID 這樣的現代浮水印技術，即使經過影像壓縮、編輯和視訊裁剪等常見的影像處理技術，也能保持可偵測性，因此比傳統的元資料方法更難篡改。
深度偽造
利用人工智慧技術製作的假影像、音訊和視訊內容極為複雜，幾乎可以以假亂真。它可以進行換臉和克隆聲音，存在被用於傳播虛假訊息和實施詐欺的風險。到2025年，這項技術已經發展到只需幾秒鐘的音訊樣本就能重現一個人的聲音。
內容憑證
C2PA 建立了一套系統，用於記錄數位內容的來源資訊。該系統對拍攝日期和時間、使用的設備、編輯歷史以及是否由人工智慧生成等元資料進行加密和儲存。 Adobe、微軟和谷歌等公司都提供相容產品，該系統作為驗證內容真實性的手段正變得越來越受歡迎。
[參考連結]
SynthID（GoogleDeepMind） （外部）
谷歌DeepMind開發的AI生成內容浮水印技術，可將不易察覺的數位浮水印嵌入影像、音訊、視訊和文字中，以便後續進行驗證。
C2PA（內容來源與真實性聯盟） （外部）
一個制定技術規格以確保數位內容來源和真實性的行業組織。成員包括Adobe、BBC、英特爾、微軟和谷歌。
Gemini（Google人工智慧） （外部）
由Google開發的具有生成式人工智慧功能的個人助理，具備先進的語言理解和推理能力以及整合的 SynthID 驗證功能。
[參考影片]
SynthID：一款用於為AI生成的內容添加浮水印和識別的工具
谷歌官方頻道發布了一段關於 SynthID 技術的解說影片。影片解釋了該技術如何將浮水印嵌入圖像、視訊、音訊和文字中，以及它的穩健性。
SynthID – 為人工智慧產生的文字添加浮水印和識別功能
Google for Developers 提供了 SynthID 文字技術的詳細解釋，包括對其與 Gemma 模型整合的深入技術分析。
[參考文章]
SynthID – AI 內容浮水印和識別（外部）
對 SynthID 技術進行了全面解釋，詳細說明了即使經過壓縮、裁剪和過濾，水印是如何被檢測到的。
SynthID 與影像編輯隱形浮水印詳解（外部連結）
本文闡述了影像編輯的浮水印技術，並分析了SynthID在像素層級編織統計模式的技術。
2025年深度偽造檢測技術的崛起（外部連結）
報告介紹了截至 2025 年深度偽造檢測技術的最新趨勢，並指出需要採取多層防禦策略。
Google和C2PA如何提高人工智慧內容的透明度（外部連結）
Google 就 C2PA 發布了官方公告，解釋了內容憑證和 SynthID 之間的互補關係。
透明度與偏見：人工智慧內容認證之爭（外部連結）
本文探討了確保人工智慧生成內容透明度的挑戰，並分析了水印技術與反水印技術之間的貓鼠遊戲。
[編者註]
你是否曾想過，在社群媒體上看到的影片和音訊究竟有多少可信度？ SynthID驗證功能或許能解答這個問題。然而，隨著科技的進步，因應措施也會層出不窮。
我們該相信什麼？未來我們又該如何做決定？目前還沒有完美的答案，但我認為，意識到這些技術的存在是思考我們應該如何處理資訊的第一步。您怎麼看？
