Meta AI 家長監護功能上線!新增「洞察」分頁 3大防護機制一次看

by 編輯中心

Meta進一步強化青少年使用生成式AI的家長監護機制,宣布Meta AI App家長監護功能自即日起於台灣與全球上線;家長與監護人啟用相關功能後,可以查看青少年過去7天曾向Meta AI詢問的主題,但不會直接看到實際對話內容,若希望進一步限制孩子接觸的AI內容,也能將預設的「13歲以上」設定調整為「限制的內容」,縮小青少年可與Meta AI進行的對話類型。

相關設定可直接透過Meta AI App或「家庭中心」完成;此外,Meta也開始向已啟用「青少年帳號」監護功能的家長推出新的「洞察」分頁,並預計在未來數週內陸續擴大至台灣與全球使用者。

「洞察」分頁可查看近7天Meta AI提問主題

目前在Facebook、Messenger 或Instagram使用監護功能的家長,將可在App與網頁版監護介面中看到新增的「洞察」分頁,了解青少年過去一週曾向Meta AI詢問哪些類型的內容。

可查看的範圍包括學校、娛樂、生活風格、旅遊、寫作與身心健康等主題,點進不同主題後,還能查看更細的分類。以「生活風格」為例,可再細分為時尚、飲食及節慶;「身心健康」則涵蓋健身、生理健康與心理健康等內容。

不過這項功能顯示的是青少年詢問的主題,而不是實際對話內容,讓家長掌握孩子使用Meta AI的大致方向。Meta表示,未來也會持續參考家長與專家意見,調整「洞察」功能呈現方式。

Meta AI青少年體驗可切換「限制的內容」

除了查看AI使用主題,家長若希望進一步限制Meta AI的使用範圍,也能調整青少年帳號的內容設定。

Meta目前針對青少年打造的AI體驗,參考13歲以上電影分級標準與家長意見,希望避免Meta AI提供不適合該年齡層的回覆;在部分問題上,Meta AI可能不會直接作答,而是改為提供其他相關資源,即使Meta AI沒有回答,該次詢問所屬的主題仍可能出現在家長的「洞察」分頁中。

家長也能將原本預設的「13歲以上」AI體驗切換至「限制的內容」,進一步縮減青少年可以與Meta AI討論的內容類型,相關設定皆可透過Meta AI App或家庭中心進行。

涉及自殺、自我傷害議題將進一步通知家長

相較於一般主題僅顯示在「洞察」分頁中,若Meta偵測到青少年嘗試與Meta AI展開自殺或自我傷害相關對話,則會採取更進一步的防護機制,主動向家長發出通知。

這項機制與新的「洞察」分頁,都是建立在既有青少年帳號監護功能之上,目前家長已可設定青少年每日使用時間上限、安排暫停使用的時段,也能查看孩子過去7天內的聊天對象。

Meta表示,以美國市場為例,目前啟用監護功能的青少年人數,相較去年已成長超過一倍。 

除了功能面的監護工具,Meta也與美國網路霸凌研究中心(Cyberbullying Research Center)合作推出「展開對話」資源,提供一系列開放式問題,希望協助家長以較中性、不帶評判的方式,與青少年討論使用AI的經驗。

每個問題也會提供相對應的家長指引,說明問題設計目的及溝通方式;目前相關內容已在Meta家庭中心網站上線,也能從「洞察」分頁連結進入。

成立AI福祉專家委員會 參與青少年AI功能開發

Meta同時成立「AI福祉專家委員會」,針對青少年使用Meta AI的安全性及適齡體驗持續提供建議。

委員會成員來自Meta既有的自殺與自我傷害顧問、青少年顧問以及身體形象專家團體,並新增負責任與倫理AI領域的專家,成員所屬機構包括美國全國自殺防治委員會(National Council for Suicide Prevention)、密西根大學、德州大學及南加州大學等。

Meta團隊將定期向委員會分享青少年AI體驗的開發進度,再將取得的意見提供給政策與產品團隊參考。這次推出的「洞察」分頁,在開發過程中同樣曾納入委員會的相關建議。

關於Meta目前採用的「13歲以上」內容設定,Meta特別說明,這套機制僅參考美國電影協會(MPA)公開的電影分級指引以及家長回饋,並未與美國電影協會合作,美國電影協會也沒有替Instagram或Meta AI相關內容進行分級或背書,因此Meta的內容設定並不等同實際電影分級制度。

  • 安心專線:1925(24小時免付費心理諮詢)
  • 生命線協談專線:1995
  • 張老師專線:1980

(本文由Newspie新聞派授權轉載,原文在此)

你可能會喜歡