AI-LECTURER 速報課｜2026-10-06｜約 22 分鐘

AI 寫的字能被認出來嗎？OpenAI 用看不見的「文字浮水印」回應歐盟新規

取材：Our approach to EU text provenance rules（Hacker News（AI 高人氣））

📍 真實場景

林雅婷，32 歲，台北一家跨境電商的內容行銷主管，團隊用 OpenAI 的 API 批次產生商品文案，客人遍及歐洲。

她正在更新公司的 AI 文案流程，同時要回覆法務同事的提問：「歐盟新法要求 AI 生成的文字要能被辨識，我們的文案要不要處理？」

😖 卡住的地方：她看到新聞說 OpenAI 要在文字裡加「看不見的浮水印」，卻搞不清楚：這個開關預設是開還是關？浮水印能不能證明一段文字是 AI 寫的？如果誤判，會不會冤枉自己人？

💡 這課會讓她看懂 OpenAI 這次到底做了什麼、哪些人受影響、浮水印能證明什麼與不能證明什麼，最後學會用工程師的角度評估「偵測器」這類工具。

🧭 這到底是什麼（白話版）

OpenAI 發表了一篇文章，說明他們如何回應歐盟的歐盟 AI 法案（EU AI Act）歐盟制定的人工智慧管理法律，規定 AI 業者要遵守透明、安全等義務。其中一條要求：生成式 AI 的業者必須讓 AI 產生的文字能夠被「機器可讀」的方式辨認出來。簡單說，就是 AI 寫的文章要帶有某種機器看得懂的記號。

OpenAI 的做法叫 textGrain，是一種文字浮水印在文字裡藏一個人眼看不出來、但程式能偵測的記號，像鈔票裡的防偽線。它不是在文章裡插入特殊符號，而是在模型挑選用字時，加入一種統計訊號不是看單一個字，而是看整段文字用字傾向的整體規律。偵測器就是去找這個規律，判斷一段文字是否含有 OpenAI 的浮水印。

文章的推出方式很有層次：第一，API 客戶現在起可以自願選擇，替部分模型開啟文字浮水印，而且預設關閉不做任何設定時，功能是不啟用的狀態。第二，未來幾週內，歐盟地區的 ChatGPT 與 Codex 文字輸出會加入隱形浮水印。第三，偵測器不開放給一般大眾，初期只開放申請給經核准的研究人員與專家機構。

要注意，這些規則只針對文字。圖片和音訊的驗證工具，包括 openai.com/verify 網頁工具與內容溯源 API（Content Provenance API）用來查詢某個檔案的來源與製作方式的程式介面，仍然公開給有需要的組織使用。OpenAI 也一再強調：文字浮水印與偵測技術還很早期，有明顯限制，各界對它的好處與合理用途仍在討論。

🎯 為什麼值得你花時間

法規從「要不要」變成「怎麼做」歐盟 AI 法案要求 AI 生成文字要能被機器辨識。這代表浮水印不再只是研究題目，而是服務商必須面對的合規工作，後續其他 AI 業者也會被拿來比較。

你用的 API 可能有一個新開關API 客戶可以自願開啟文字浮水印，預設是關的。像雅婷這樣用 API 產出內容的團隊，需要自己決定開不開，並評估對流程與對外聲明的影響。而在歐盟地區使用 ChatGPT 與 Codex，輸出文字則會被加上隱形浮水印。

偵測不是萬能的，期待要對OpenAI 自己承認偵測器會犯兩種錯，而且文字越短越難偵測。如果有人把「偵測到浮水印」當成鐵證，就可能造成誤判與冤枉，所以他們刻意先限制偵測器的使用者。

⚙️ 它是怎麼運作的

模型挑字時加入微小偏好AI 寫文章是一個字一個字挑的。textGrain 在挑字時，讓某些選擇被輕輕推一把，形成肉眼看不出來的用字傾向，這就是「隱形的統計訊號」。

▼

文字照常輸出讀者看到的仍是通順的文章，不會多出奇怪的符號。浮水印藏在整體的用字規律裡，而不是某個特定的字。

▼

偵測器檢查有沒有那個規律偵測器拿到一段文字，檢查它的用字是否帶有 OpenAI 的訊號，然後評估這段文字是否含有 OpenAI 浮水印。

▼

偵測結果可能出錯偵測器可能把沒有浮水印的文字判成有（偽陽性，false positive），也可能漏掉真正有浮水印的文字（偽陰性，false negative）。所以結果是「機率性的判斷」，不是百分之百的證明。

▼

分階段開放，並承諾開源API 自願開啟、歐盟地區的 ChatGPT 與 Codex 加入浮水印、偵測器只給核准的研究者。OpenAI 還計畫把這項技術開源，讓其他人能在此基礎上改進，技術報告也會在未來幾週補充細節。

OpenAI 文字、圖片、音訊溯源工具的開放程度比較（依文章內容整理）

類型	驗證／偵測工具	目前誰能用
圖片	openai.com/verify、Content Provenance API	公開，供想確認來源的組織使用
音訊	openai.com/verify、Content Provenance API	公開，供想確認來源的組織使用
文字	textGrain 文字浮水印偵測器	初期僅限經核准的研究人員與專家機構（可申請）

🤔 這則沒有適合的實作——改用三個問題帶你想深

雅婷的公司用 API 產生歐洲市場的商品文案。如果你是她，會開啟 API 的文字浮水印選項嗎？請列出至少兩個「開」的理由和兩個「不開」的理由，並說明你最後的決定依據。
文章指出在 1% 偽陽性率的目標下，約 80% 的 200 token 短文與約 95% 的 400 token 長文能被偵測出來。如果有人拿一段 100 字的短訊息說「偵測器說這是 AI 寫的」，你會怎麼回應？你需要再問哪些問題才能判斷這個結論可不可信？
OpenAI 選擇讓文字偵測器先只開放給研究者，而圖片與音訊的驗證工具卻是公開的。你認為這樣的差別合理嗎？如果偵測器完全公開，可能帶來什麼好處與風險？

🧠 工程思維透鏡（資深工程師看到的是什麼）

🔭 資深工程師會問：偽陽性與偽陰性，哪一個比較貴？

文章用「目標偽陽性率 1%」來衡量偵測率，等於是先把「冤枉人」的錯誤壓在很低的水準，再看能抓到多少。這是典型的權衡：把偽陽性壓得越低，通常就越容易漏掉真的浮水印。因為把一篇人類寫的文章誤判成 AI 的後果（例如被指控作弊或造假）通常比漏抓一篇更嚴重，所以工程上會先固定偽陽性率，再比較誰的偵測率更高。這也解釋了為什麼 OpenAI 說 textGrain 的表現「匹配或超越」包括 SynthID 在內的其他方法時，仍特別說明那是在理想條件下的結果。

🔭 為什麼文字越短，偵測越難？

浮水印是一種統計訊號，它靠的是「很多個字累積起來的傾向」。文字短，樣本就少，訊號容易被隨機波動蓋過，所以 200 token 的偵測率（約 80%）低於 400 token（約 95%）。同樣地，被高度限制的文字（例如格式固定、選擇空間小的內容）模型能自由選字的餘地少，就難以藏入訊號。工程師的結論是：這不是調參數就能完全解決的問題，而是統計方法本身的性質，所以要誠實告訴使用者結果的適用範圍。

🔭 為什麼 API 預設關閉，卻在 ChatGPT 的歐盟輸出預設加上？

這是「法規義務」與「客戶自主權」之間的設計取捨。面向一般使用者的 ChatGPT 與 Codex，在歐盟地區直接對應法規要求，所以加入浮水印；API 客戶有各自的使用情境（有些可能很在意文字品質或不需要溯源），所以 OpenAI 讓他們自願選擇，並維持預設關閉。這樣的分階段做法能降低一次推到全部產品的風險，也能蒐集真實使用資料，再回頭改進技術。

🔭 限制偵測器的使用者，是保護還是限制透明？

把偵測器先給核准的研究者與專家機構，目的是讓外部專家協助評估與改進技術，避免它被當成無條件的「真假判決機」。但另一面，沒有公開偵測器，一般人就無法自己驗證。這是透明度與誤用風險的拉扯。OpenAI 同時承諾開源技術，意味著長期方向是讓更多人參與檢驗，這也符合他們文章標題所說的「在今日技術限制內促進透明」。

📝 隨堂考（點選答案，立即回饋）

Q1. 根據文章，API 客戶要使用 OpenAI 的文字浮水印，預設狀態是什麼？

✅ 文章說明從現在起 API 客戶可以選擇對部分模型開啟文字浮水印，而且在 API 中預設保持關閉。

Q2. textGrain 的浮水印是怎麼藏在文字裡的？

✅ 文章指出 textGrain 是在模型的用字選擇中加入隱形的統計訊號，偵測器再去尋找這個訊號。

Q3. 在 1% 偽陽性率的目標下，文章提到的偵測結果是哪一組？

✅ 短文（200 token）約 80%，較長的文字（400 token）約 95%，顯示文字越短越難偵測。

Q4. 下列哪一項是「偽陽性（false positive）」？

✅ 偽陽性是指實際沒有浮水印，卻被報告成有；漏掉真正存在的浮水印則是偽陰性。

Q5. 關於偵測工具的公開程度，下列何者符合文章內容？

✅ 文章說明圖片與音訊的驗證工具（openai.com/verify、Content Provenance API）仍公開，文字偵測器則先開放申請，限核准對象。

🃏 翻牌記憶卡（先想答案，再點開對答）

歐盟 AI 法案對生成文字的要求是什麼？點我翻面

生成式 AI 業者必須讓產生的文字能以機器可讀的方式被辨識。

textGrain 是什麼？點我翻面

OpenAI 的文字浮水印技術，在模型的用字選擇中加入隱形的統計訊號，由偵測器尋找該訊號。

偽陽性 vs 偽陰性點我翻面

偽陽性＝沒有浮水印卻報告有；偽陰性＝有浮水印卻沒偵測到。

為什麼短文字比較難偵測？點我翻面

統計訊號要靠足夠多的字累積；樣本少時容易被隨機波動掩蓋。文章數據：200 token 約 80%，400 token 約 95%（1% 偽陽性率下）。

OpenAI 文字浮水印的推出步驟點我翻面

API 客戶自願開啟（預設關）→ 歐盟地區的 ChatGPT 與 Codex 文字輸出數週內加入浮水印 → 偵測器僅開放給經核准的研究者與專家機構申請。

✅ 離開前自測（全勾＝這課真的學會了）

我能夠用一句白話說明什麼是文字浮水印，以及它為什麼人眼看不到。我能夠說出 OpenAI 這次推出的三個步驟，以及 API 預設是開還是關。我能夠分辨偽陽性與偽陰性，並說明為什麼誤判會造成問題。我能夠解釋為什麼文字越短，浮水印越難被偵測，並引用文章中的數據。我能夠說明文字、圖片、音訊三種溯源工具目前的公開程度有何不同。我能夠用工程師的角度，說出「限制偵測器使用者」背後的取捨。