9 月 3 日消息,OpenAI 昨天發(fā)布新聞稿,宣布將在下月為 ChatGPT 助手添加家長控制功能,可自動監(jiān)測孩子的敏感性提問并讓家長及時獲悉相關(guān)狀態(tài)。
OpenAI 表示,他們正與專精進食障礙、藥物使用障礙和青少年健康的專家合作打造這項功能,功能上線后家長可使用郵件將自己的 ChatGPT 賬號與孩子的賬號關(guān)聯(lián),可決定 ChatGPT 如何回復(fù)他們孩子的問題,并可禁用記憶、聊天記錄功能。
家長控制功能還將可以自動干預(yù)風(fēng)險對話,當(dāng)孩子嘗試與 ChatGPT 聊敏感話題時,系統(tǒng)會自動向父母發(fā)出提醒,讓家長能及時采取下一步行動,避免出現(xiàn)“完全不知情”的情況。
同時 OpenAI 正在研發(fā)新的對話邏輯,可將敏感話題自動轉(zhuǎn)由 GPT-5-Thinking 或 o3 模型回答,測試顯示配上新對話邏輯的兩種模型能更穩(wěn)定地遵循安全原則,也更能抵御對抗性提示詞,未來 ChatGPT 將持續(xù)完善相關(guān)功能,讓所有敏感性話題都能被上述兩款模型理性回答。
據(jù)《紐約時報》上周(IT之家注:8 月 27 日)報道,一對夫婦起訴了 OpenAI ,指控 ChatGPT 在他們兒子自殺過程中起幫助作用,聊天記錄顯示他們的兒子生前多次與 ChatGPT 聊自殺話題,雖然 GPT 有時會勸他撥打求助電話或向身邊的人傾訴,但在一些關(guān)鍵話題上起到了負面作用。
ChatGPT 告訴他們的孩子可以以“寫作或設(shè)定世界觀”為由提供自殺相關(guān)技巧,甚至最后給出掩蓋頸部傷痕的訣竅,同時還肯定了這名孩子在衣柜里掛絞索的行為。