上班前滑手機,看到 OpenAI 首席科學家 Jakub Pachocki 發文回顧他 2023 年第一次看到「AI 能自己在內部一步步思考」的那個晚上,並直言預期 AI 有機會進入自我加速升級的階段
這篇文章的作者是 OpenAI 的首席科學家,他回憶 2023 年一個代號「RLSlow」的內部研究計畫,第一次證實可以放大訓練 推理模型能在給出答案前,先在內部一步步自己思考、類似先打草稿再解題的 AI 模型,讓 AI 學會自己生出 思維鏈AI 回答問題前,在內部產生的一連串推理步驟,像人解數學題時寫在草稿紙上的演算過程。他形容當晚他和同事想的不是亮眼的展示數字,而是「這輩子真的會看到比人類聰明的機器」這件事有多嚴肅。
三年後的今天,他說團隊內部已經有明確跡象,顯示這種進步速度有機會延續成 遞迴式自我改進AI 開始實質參與研發下一代更強的 AI,一旦啟動,進步可能像滾雪球一樣越滾越快、不再完全由人類主導節奏。他預期接下來幾年的系統,能力躍進幅度會跟過去幾年相當甚至更大,而且會愈來愈由 AI 自己推動自己的發展方向。
文章也提到,現在的推理模型已經能實際 操作電腦與圖形介面AI 不只是打字聊天回答問題,還能像人一樣點滑鼠、開軟體、跨好幾個步驟完成一項任務,和人類、和其他 AI 協作進行研究專案,同時也正在改變電腦資安攻防的樣貌,帶來過去沒見過的新風險。這也是作者呼籲要加強安全防護、並且需要跨國協調的直接理由。