Meta平臺(tái)公司已經(jīng)開始在美國(guó)測(cè)試一種新的人工智能（AI）系統(tǒng)，該系統(tǒng)旨在識(shí)別Instagram上列出成人生日的未成年用戶，并自動(dòng)將他們的個(gè)人資料置于受限的“青少年賬戶”設(shè)置下。

本周宣布的這一舉措建立在Meta早期加強(qiáng)平臺(tái)上青少年安全的努力之上。青少年賬戶于2024年首次推出，它限制了陌生人的信息請(qǐng)求，減少了對(duì)敏感內(nèi)容的暴露，并將默認(rèn)賬戶設(shè)置為隱私。

最新的升級(jí)帶來(lái)了更激進(jìn)的人工智能方法。該系統(tǒng)將分析行為信號(hào)，如用戶與誰(shuí)互動(dòng)，他們?nèi)绾螀⑴c內(nèi)容，以及與所述生日相沖突的生日問(wèn)候等文本線索。例如，“14歲生日快樂(lè)！”，可能會(huì)標(biāo)記用戶被虛假注冊(cè)為成年人。

Meta表示，如果人工智能確定該賬戶可能屬于未成年人，它的目標(biāo)是通過(guò)自動(dòng)調(diào)整設(shè)置來(lái)更主動(dòng)地進(jìn)行干預(yù)。這些更改將在不需要用戶同意的情況下生效，盡管被標(biāo)記的用戶可以請(qǐng)求審查并恢復(fù)他們的設(shè)置。

該公司承認(rèn)，這項(xiàng)技術(shù)偶爾會(huì)出錯(cuò)。在這種情況下，被錯(cuò)誤歸類為未成年的用戶可以選擇通過(guò)現(xiàn)有的方法來(lái)驗(yàn)證自己的年齡，包括上傳ID、同齡人確認(rèn)或視頻自拍。

照片:Instagram

家長(zhǎng)控制也是推出的一部分。青少年使用Instagram的父母將開始收到提示，鼓勵(lì)他們?cè)谄脚_(tái)上驗(yàn)證孩子的年齡。Meta與兒科心理學(xué)家合作，為父母如何處理這些對(duì)話制定了指導(dǎo)方針。

此舉正值監(jiān)管審查日益嚴(yán)格之際。2024年，歐盟開始調(diào)查Meta在保護(hù)兒童上網(wǎng)方面是否做得足夠。美國(guó)立法者也施加了類似的壓力，有幾個(gè)州出臺(tái)了針對(duì)青少年在社交媒體上安全的立法。

Meta認(rèn)為，人工智能驅(qū)動(dòng)的方法對(duì)于擴(kuò)大安全干預(yù)和應(yīng)對(duì)不良行為者是必要的。然而，這一更新也引發(fā)了有關(guān)隱私和算法分類可靠性的問(wèn)題。

該功能已在美國(guó)開始測(cè)試，如果測(cè)試結(jié)果證明成功，預(yù)計(jì)將在全球推廣。

Meta平臺(tái)公司已經(jīng)開始在美國(guó)測(cè)試一種新的人工智能（AI）系統(tǒng)，該系統(tǒng)旨在識(shí)別Instagram上列出成人生日的未成年用戶，并自動(dòng)將他們的個(gè)人資料置于受限的“青少年賬戶”設(shè)置下。

本周宣布的這一舉措建立在Meta早期加強(qiáng)平臺(tái)上青少年安全的努力之上。青少年賬戶于2024年首次推出，它限制了陌生人的信息請(qǐng)求，減少了對(duì)敏感內(nèi)容的暴露，并將默認(rèn)賬戶設(shè)置為隱私。

最新的升級(jí)帶來(lái)了更激進(jìn)的人工智能方法。該系統(tǒng)將分析行為信號(hào)，如用戶與誰(shuí)互動(dòng)，他們?nèi)绾螀⑴c內(nèi)容，以及與所述生日相沖突的生日問(wèn)候等文本線索。例如，“14歲生日快樂(lè)！”，可能會(huì)標(biāo)記用戶被虛假注冊(cè)為成年人。

Meta表示，如果人工智能確定該賬戶可能屬于未成年人，它的目標(biāo)是通過(guò)自動(dòng)調(diào)整設(shè)置來(lái)更主動(dòng)地進(jìn)行干預(yù)。這些更改將在不需要用戶同意的情況下生效，盡管被標(biāo)記的用戶可以請(qǐng)求審查并恢復(fù)他們的設(shè)置。

該公司承認(rèn)，這項(xiàng)技術(shù)偶爾會(huì)出錯(cuò)。在這種情況下，被錯(cuò)誤歸類為未成年的用戶可以選擇通過(guò)現(xiàn)有的方法來(lái)驗(yàn)證自己的年齡，包括上傳ID、同齡人確認(rèn)或視頻自拍。

照片:Instagram

家長(zhǎng)控制也是推出的一部分。青少年使用Instagram的父母將開始收到提示，鼓勵(lì)他們?cè)谄脚_(tái)上驗(yàn)證孩子的年齡。Meta與兒科心理學(xué)家合作，為父母如何處理這些對(duì)話制定了指導(dǎo)方針。

此舉正值監(jiān)管審查日益嚴(yán)格之際。2024年，歐盟開始調(diào)查Meta在保護(hù)兒童上網(wǎng)方面是否做得足夠。美國(guó)立法者也施加了類似的壓力，有幾個(gè)州出臺(tái)了針對(duì)青少年在社交媒體上安全的立法。

Meta認(rèn)為，人工智能驅(qū)動(dòng)的方法對(duì)于擴(kuò)大安全干預(yù)和應(yīng)對(duì)不良行為者是必要的。然而，這一更新也引發(fā)了有關(guān)隱私和算法分類可靠性的問(wèn)題。

該功能已在美國(guó)開始測(cè)試，如果測(cè)試結(jié)果證明成功，預(yù)計(jì)將在全球推廣。