AI-LECTURER 速報課|2026-08-04|約 27 分鐘

AI 要怎麼學會「插話」?拆解 OpenAI GPT-Live 的即時語音架構

📍 真實場景
阿凱,一家診所的資訊工程師,正在幫診所導入語音掛號機器人

阿凱正在測試讓病人可以直接用講話完成掛號、改期的語音助理

😖 卡住的地方:測試時常常出包:病人講到一半停頓想事情,AI 就搶著回答;病人講完後,AI 又要愣個一兩秒才慢慢開口,體驗一直卡卡的
💡 這篇教你 OpenAI 怎麼把「猜你講完了沒」這個環節,從語音 AI 的核心邏輯裡整個拿掉,讓對話終於像真人講電話一樣順

🧭 這到底是什麼(白話版)

GPT-Live 是 OpenAI 目前用在 ChatGPT Voice 裡的第三代語音 AI 系統,最大的賣點很簡單:講話不用等對方講完,AI 可以像真人一樣邊聽邊回應。以前的語音助理靠一個叫輪次偵測器(turn detector)一個小模型,專門用來猜「使用者講完了沒」,猜太早使用者會被打斷,猜太晚回應就會卡頓的小模型,先判斷「你講完了沒」,才准許後面的大腦模型開始工作。GPT-Live 直接把這個「猜測」步驟從語音處理的路徑裡拿掉,改用全雙工(full-duplex)模型可以同時聆聽輸入的聲音、同時產生輸出的聲音,不用像對講機一樣一次只能一人說話的語音模型,讓聆聽和回應這兩件事同時發生。

要理解這個改變多重要,得先看舊架構怎麼運作。最早的語音助理是串接式(cascaded)架構把語音辨識、語言模型、語音合成三套獨立系統,像接力賽一樣一棒接一棒依序執行:先用語音轉文字(Speech-to-Text,STT)把你講的聲音轉換成文字,AI 的語言模型才看得懂把你的話變成文字,再交給語言模型想回覆,最後用文字轉語音(Text-to-Speech,TTS)把 AI 想講的文字內容,轉換成聽得到的語音把回覆念出來。這三棒依序執行,每一棒都要等上一棒做完,語氣、語速這些細節也在轉文字的過程中流失掉了。後來出現的語音到語音模型直接處理聲音,保留了這些細節、反應也變快,但骨子裡仍然靠輪次偵測器決定「什麼時候可以開始想」。

GPT-Live 的作法是把「決定何時該誰講話」這件事直接交給全雙工的語音模型本身去處理,不再需要另外一個小模型來猜。遇到需要深度思考或操作工具的複雜問題時,GPT-Live 會用非同步(asynchronous)不需要等前一件事情做完,可以同時去做另一件事,等做好了再回報結果的方式,把問題丟給像 GPT-5.5 這樣更強的大腦模型處理,同時自己繼續維持對話不中斷。為了讓這一切順暢運作,OpenAI 花了六個月重寫了模型推論(inference)AI 模型根據輸入資料進行運算、產生輸出結果的過程上下文管理(context management)讓語音模型記住這段對話前面講過什麼內容的機制和媒體傳輸,目標就是把整段對話的延遲(latency)從使用者講完話到 AI 開始回應之間,中間等待的時間壓到最低。

🎯 為什麼值得你花時間

對話不再搶話或愣住輪次偵測器不管做得多準,本質上都是在賭一個機率;賭錯的代價,就是你被打斷,或是 AI 沉默一兩秒才開口。GPT-Live 把這個環節整個拿掉,讓流暢感不再靠猜。
複雜任務邊聊邊處理,不用暫停遇到需要動腦筋的問題,GPT-Live 不會讓整段對話停下來等答案,而是非同步丟給 GPT-5.5 這類更強的模型處理,對話本身繼續進行。這代表語音助理可以一邊閒聊、一邊默默在背後查資料或操作工具。
架構分層,讓語音助理長出新功能不影響反應速度文中提到核心語音路徑跟應用邏輯之間有清楚的邊界,這讓 OpenAI 可以在不動到低延遲核心的前提下,加上「控制你的電腦」「協調你的其他 agent」這類新功能——這正是 ChatGPT 桌面版最新功能背後的地基。

⚙️ 它是怎麼運作的

1
聲音直接串流進模型使用者說話的當下,音訊資料就一路串流進語音模型,不用等一整句講完才送出去處理。
2
全雙工模型同時聽、同時想、同時能開口沒有輪次偵測器擋在前面,模型自己邊接收輸入、邊判斷要不要回應、邊把回應串流出去。
3
遇到深度推理,非同步交給大腦模型當任務需要更強的推理或工具操作,GPT-Live 會把上下文丟給 GPT-5.5 這類前沿模型,這個過程跟對話本身是分開跑的,不會讓語音卡住。
4
語音回應以串流方式送回使用者AI 的回覆一樣是邊生成邊送出聲音,而不是等整段話想完才一次播放,這樣使用者更快聽到反應。
5
核心語音路徑跟應用邏輯分層低延遲的聽說核心,跟上層要做什麼任務(像操控電腦、協調其他 agent)被切開,改應用邏輯不會拖慢對話反應。
三代語音架構怎麼決定「誰該講話」
架構世代怎麼判斷該誰講話對話體感
第一代:串接式(STT→LLM→TTS)三套系統依序接力,全部做完才輪到下一棒,且完全忽略語氣語速延遲明顯,像通話品質差的越洋電話
第二代:語音到語音,但仍有輪次偵測器直接處理聲音、保留語氣細節,但仍要等小模型猜你講完了沒比第一代快,但還是會搶話或慢半拍
第三代:GPT-Live 全雙工沒有偵測器,模型本身邊聽邊想邊說接近真人對話的即時感

🔍 程式碼漫遊(點有 ● 的行看白話講解)

這段 pseudocode 對比「舊架構」跟「GPT-Live」在處理一段語音對話時,程式邏輯上的關鍵差異——重點不是語法,而是「誰在等誰」。

# 舊架構:靠「輪次偵測器」決定何時開始想
💬 先點出這段程式在示範舊架構的邏輯
def old_voice_loop(audio_stream):
while True:
chunk = audio_stream.read()
💬 持續讀進一段一段的聲音
buffer.append(chunk)
💬 先塞進緩衝區,還不會拿去給語言模型
if turn_detector.guess_user_finished(buffer):
💬 關鍵瓶頸:要等這個小模型「猜」你講完了沒,才准許往下走
text = speech_to_text(buffer)
💬 第一棒:把聲音轉成文字
reply_text = llm.generate(text)
💬 第二棒:要等第一棒完全做完才能開始想回覆
speech = text_to_speech(reply_text)
💬 第三棒:一樣要等第二棒想完整句才能開始念
play(speech)
💬 三棒接力跑完,使用者才聽到回應
buffer.clear()
# GPT-Live:全雙工,邊聽邊想邊說,沒有「猜你講完了沒」這關
def gpt_live_loop(audio_in, audio_out):
for chunk in audio_in:
💬 音訊直接串流進來,不用先囤積成一整句
voice_model.feed(chunk)
💬 模型持續在「聽」,同時也持續在「想」,沒有輪次偵測器擋在中間
if voice_model.wants_to_speak():
💬 由模型自己判斷要不要開口,而不是靠外部小模型的猜測結果
for out_chunk in voice_model.stream_reply():
💬 回覆也是邊生成邊送出,使用者更快聽到第一個字
audio_out.write(out_chunk)
if voice_model.needs_deep_reasoning():
💬 判斷是否需要更強的推理能力
asyncio.create_task(ask_frontier_model(voice_model.context))
💬 非同步丟給 GPT-5.5 這類前沿模型,對話本身不會被這個查詢卡住

🛠️ 動手做:即時感受:輪次制 vs 全雙工,反應差在哪?

  1. 按住「🎤 按住模擬使用者說話」按鈕不放,觀察兩側的音量條同時成長。
  2. 在還按著的時候,點一下右側「🔊 AI 插話」按鈕,看看 GPT-Live 那邊怎麼提前開口。
  3. 放開按鈕,比較左側「輪次制」要多等 800 毫秒才開口的差異。
  4. 多試幾次,並看下方事件紀錄的時間戳,感受兩種架構的延遲差距。
👇 下面是活的,直接操作

🧠 工程思維透鏡(資深工程師看到的是什麼)

🔭 為什麼不是把輪次偵測器做得更準,而是整個拿掉?
再準的偵測器都只是在賭機率,而且它天生是一個「序列瓶頸」——所有推理都得等它先吐出判斷結果,延遲的下限就卡在偵測窗格上。OpenAI 選擇把它整個移出音訊路徑,等於是把「要不要回應」的決策權下放給全雙工模型自己即時判斷,這是架構層級的取捨,而不是把同一個元件調得更精準。
🔭 為什麼深度推理要「非同步」丟給 GPT-5.5,而不是讓 GPT-Live 自己想?
GPT-Live 要維持的是「即時反應」,模型體積和推理深度通常是互斥的——越能深度思考的模型,通常越慢。與其讓一個模型兩頭燒,OpenAI 選擇把「快速應答」與「深度推理」拆成兩個角色:GPT-Live 負責維持對話節奏,真的遇到硬問題再非同步請教 GPT-5.5,回來的結果再融進對話裡,使用者感受不到中斷。
🔭 「核心語音路徑跟應用邏輯分開」這個架構決定,實際解決了什麼工程問題?
如果把「控制電腦」「協調 agent」這類應用邏輯直接寫進語音核心裡,日後每加一個新功能,都可能不小心拖慢或弄壞這個對延遲極度敏感的核心迴圈。切出一個清楚的邊界後,應用層可以自由長出新功能,核心語音路徑則專心顧好「低延遲」這一件事,兩邊互不拖累——這是典型的職責分離(separation of concerns)設計。
🔭 六個月要一起重寫「模型推論、上下文管理、媒體傳輸」,為什麼不能只挑一個下手?
端對端延遲是這三者加總出來的結果:就算推論速度再快,若上下文管理讓模型要重新處理大量歷史內容而卡頓,或是媒體傳輸本身的緩衝設計不良,使用者體感的延遲一樣降不下來。這反映了系統設計裡「整條路徑上最慢的一環決定體感速度」的道理,優化必須是端對端的,而不是頭痛醫頭。

📝 隨堂考(點選答案,立即回饋)

Q1. 文中說,舊架構的「輪次偵測器」最大的問題是什麼?
✅ 輪次偵測器本質上是在猜「使用者講完了沒」,猜太早會打斷使用者,猜太晚回應就顯得遲鈍,這正是 GPT-Live 想解決的核心痛點。
Q2. GPT-Live 拿掉了哪個元件,讓語音對話變得更即時?
✅ GPT-Live 的語音模型是全雙工的,可以同時聽和說,因此不再需要獨立的輪次偵測器來判斷該誰講話。
Q3. 根據素材,GPT-Live 遇到需要深度推理或操作工具的情境時,怎麼處理?
✅ 文中提到 GPT-Live 可以在不打斷對話流程的情況下,諮詢 GPT-5.5 等前沿模型來處理更深的推理或工具使用。
Q4. 「核心語音路徑」跟「應用邏輯」分層的架構設計,主要帶來什麼好處?
✅ 文中提到這個清楚的邊界讓開發者能在不影響核心反應速度的前提下,客製應用行為,例如加上控制電腦、協調 agent 等新功能。
Q5. 下列哪一項不是文中提到過去六個月裡被重寫的工程項目?
✅ 文中明確提到重寫的是模型推論、上下文管理與媒體傳輸這三個系統層面,並未提及使用者介面視覺設計。

🃏 翻牌記憶卡(先想答案,再點開對答)

輪次偵測器(turn detector)點我翻面
舊架構裡負責猜「使用者講完了沒」的小模型,猜錯就會搶話或延遲回應,是 GPT-Live 移除的關鍵元件。
全雙工(full-duplex)點我翻面
語音模型可以同時聆聽與說話的能力,讓 GPT-Live 不再需要輪次偵測器來判斷誰該講話。
串接式架構(cascaded)點我翻面
把語音辨識、語言模型、語音合成三套系統依序接力執行的舊式做法,延遲高且會遺失語氣、語速等細節。
非同步委派(asynchronous delegation)點我翻面
GPT-Live 把需要深度推理的任務丟給 GPT-5.5 等前沿模型處理,過程與對話本身分開跑,不會打斷交談。
核心語音路徑 vs 應用邏輯點我翻面
GPT-Live 架構把低延遲的聽說核心,跟上層要做的任務(如控制電腦、協調 agent)切開,兩者互不拖累。

✅ 離開前自測(全勾=這課真的學會了)

0%