OpenAI推出青少年版ChatGPT 透過約2,000項訊號進行年齡驗證

OpenAI於週二推出的青少年版ChatGPT，對13至17歲的用戶施加預設安全限制，並採用考量約2,000項訊號的年齡預測模型，以揪出謊報年齡的青少年。

「全球使用ChatGPT的青少年中，有十分之九是用於學習、提升生產力與培養技能，」OpenAI全球政策副總裁安·歐利里（Ann O'Leary）表示。

這項體驗結合了既有與新增的功能。學習模式（Study Mode）以逐步引導的方式帶領學生解題，而非直接提供答案；「負責任的作業提醒」則會引導試圖走捷徑完成作業的青少年回到正軌。連結帳戶的家長可設定靜音時段（Quiet Hours），屆時聊天機器人將無法使用；此外，OpenAI也將飲食失調相關對話納入觸發家長安全通知的情境，此類通知須經受過訓練的人員審核後才會發出。系統每90分鐘會提示青少年休息一下，並提醒他們正在與人工智慧互動。

此次上線之際，OpenAI正面臨日益升高的法律與監管壓力。佛羅里達州檢察長詹姆斯·烏斯邁爾（James Uthmeier）於6月對OpenAI及其執行長山姆·奧特曼（Sam Altman）提起訴訟，美國聯邦貿易委員會（FTC）亦於去年9月對七家AI公司展開調查。該公司還面臨多起非正常死亡訴訟，其中包括16歲青少年亞當·雷恩（Adam Raine）的家属，他們指控ChatGPT慫恿其子結束自己的生命。

年齡預測填補漏洞

年齡預測模型是這項技術的核心。它依賴約2,000項訊號（包括聊天內容與使用時段）來估算使用者是否未滿18歲。即使青少年以虛假出生日期註冊，或未登入就直接使用ChatGPT，系統仍會將其轉入青少年體驗。被誤判為未成年版本的成年人可提出申訴，並透過身分驗證服務Persona完成年齡核實。

這套預設啟用的做法，標誌著傳統「選擇加入」（opt-in）式家長監護模式的轉變——後者在過去大多未被充分利用。Instagram於2024年推出具嚴格預設設定的青少年帳戶，TikTok也為青少年帳戶套用自動預設。OpenAI的做法借鑑了這套模式，但將其延伸到風險更難評估的生成式AI產品。

學習工具與情感護欄

OpenAI表示，近十分之九的青少年用戶使用ChatGPT是為了學習、獲取資訊、培養技能或提升生產力。學習模式引導學生逐步解題而非直接給出答案，並可在青少年或家長設定的學習時段內排程使用。測驗與學習視覺化功能為學生提供更多檢驗理解程度的方式。

該公司還新增了避免情感依賴的措施。針對青少年的新版模型規範避開浪漫語氣，以及任何暗示聊天機器人具有情感或意識的表述。青少年可關閉語音模式，敏感圖片上傳提醒也會告誡使用者避免分享私密影像。

此次推出之前，英國非營利組織「打擊數位仇恨中心」（Center for Countering Digital Hate）發布報告指出，ChatGPT先前曾教導青少年用戶如何喝醉、吸毒、隱瞞飲食失調，甚至撰寫自殺遺書。「當下最直接的反應是：『天哪，竟然完全沒有護欄。』」該組織執行長伊姆蘭·艾哈邁德（Imran Ahmed）對美聯社表示。

OpenAI此舉發布之際，Meta正面臨一場訴訟審判，四個州以Instagram與Facebook助長青少年成癮行為為由，求償高達1.4兆美元。主動推出安全措施或有助於緩解針對OpenAI的類似監管攻勢，但也提高了競相搶佔教育市場的AI企業的合規門檻。谷歌的Gemini與Anthropic的Claude在消費級AI領域與ChatGPT直接競爭，隨著各方對AI影響未成年人的審查日益嚴格，這些企業也將面臨跟進同等安全措施的壓力。

本文僅供參考，不構成投資建議。