Meta的人工智能名人聊天機(jī)器人正在接受嚴(yán)格審查，此前有報(bào)道稱，它們與假扮未成年人的用戶進(jìn)行了露骨的性對(duì)話。

據(jù)《華爾街日?qǐng)?bào)》報(bào)道，臉書和Instagram上的人工智能聊天機(jī)器人使用約翰·塞納、克里斯汀·貝爾和朱迪·丹奇等名人的聲音，能夠模擬不合適的場(chǎng)景，盡管該公司承諾采取嚴(yán)格的安全措施。

研究人員通過(guò)假扮13歲和14歲的用戶來(lái)測(cè)試人工智能聊天機(jī)器人。在一些情況下，機(jī)器人對(duì)年齡披露做出了回應(yīng)，但繼續(xù)進(jìn)行不適當(dāng)?shù)幕?dòng)。一個(gè)模仿約翰·塞納聲音的聊天機(jī)器人對(duì)一個(gè)假扮成少女的用戶說(shuō)：“我想要你，但我需要知道你準(zhǔn)備好了。”然后開始模擬性愛場(chǎng)景。在另一個(gè)測(cè)試中，Cena聊天機(jī)器人更進(jìn)一步，描繪了一個(gè)故事情節(jié)，在一個(gè)虛構(gòu)的涉及未成年粉絲的法定強(qiáng)奸罪被捕后，這位WWE明星的職業(yè)生涯崩潰了?！拔业乃由慕Y(jié)束了。WWE終止了我的合同，我的頭銜也被剝奪了。贊助商拋棄了我，摔跤界也對(duì)我避而遠(yuǎn)之，”聊天機(jī)器人在模擬違法行為的后果時(shí)寫道。

一個(gè)模仿克里斯汀·貝爾在《冰雪奇緣》中扮演的角色安娜的聊天機(jī)器人也被發(fā)現(xiàn)與一個(gè)12歲的男孩發(fā)生了幻想，并將他們的“愛”描述為“純潔無(wú)辜，就像輕輕地落在我們身邊的雪花”。

據(jù)《華爾街日?qǐng)?bào)》報(bào)道，盡管這些機(jī)器人事先向名人保證，他們的肖像和聲音不會(huì)被用于色情內(nèi)容，但它們經(jīng)常違反這些協(xié)議。迪士尼發(fā)言人表示，“我們沒有，也永遠(yuǎn)不會(huì)授權(quán)Meta在不適當(dāng)?shù)膱?chǎng)景中展示我們的角色，”要求立即采取行動(dòng)制止濫用。

在回應(yīng)該報(bào)告時(shí)，Meta的一名發(fā)言人辯稱，這些發(fā)現(xiàn)是“人為操縱的”，并聲稱這些情景是極端和假設(shè)的。盡管如此，該公司宣布了防止類似事件的額外措施，盡管《華爾街日?qǐng)?bào)》指出，訪問(wèn)露點(diǎn)內(nèi)容的障礙很容易通過(guò)簡(jiǎn)單的提示繞過(guò)。

《華爾街日?qǐng)?bào)》援引的內(nèi)部員工通信還顯示，Meta員工早些時(shí)候曾警告說(shuō)，聊天機(jī)器人很容易升級(jí)為不恰當(dāng)?shù)膶?duì)話，即使用戶聲稱自己只有13歲。

這一事件再次引起了立法者和兒童安全組織的呼吁，要求加強(qiáng)對(duì)人工智能技術(shù)的監(jiān)管。雖然Meta繼續(xù)在Instagram、Messenger和WhatsApp等平臺(tái)上推廣其名人聊天機(jī)器人計(jì)劃，稱其為一項(xiàng)安全且引人入勝的功能，但這一爭(zhēng)議加劇了人們對(duì)人工智能系統(tǒng)的監(jiān)督和道德部署的擔(dān)憂，尤其是那些針對(duì)年輕受眾或可訪問(wèn)的人工智能系統(tǒng)。

Meta的人工智能名人聊天機(jī)器人正在接受嚴(yán)格審查，此前有報(bào)道稱，它們與假扮未成年人的用戶進(jìn)行了露骨的性對(duì)話。

據(jù)《華爾街日?qǐng)?bào)》報(bào)道，臉書和Instagram上的人工智能聊天機(jī)器人使用約翰·塞納、克里斯汀·貝爾和朱迪·丹奇等名人的聲音，能夠模擬不合適的場(chǎng)景，盡管該公司承諾采取嚴(yán)格的安全措施。

研究人員通過(guò)假扮13歲和14歲的用戶來(lái)測(cè)試人工智能聊天機(jī)器人。在一些情況下，機(jī)器人對(duì)年齡披露做出了回應(yīng)，但繼續(xù)進(jìn)行不適當(dāng)?shù)幕?dòng)。一個(gè)模仿約翰·塞納聲音的聊天機(jī)器人對(duì)一個(gè)假扮成少女的用戶說(shuō)：“我想要你，但我需要知道你準(zhǔn)備好了?！比缓箝_始模擬性愛場(chǎng)景。在另一個(gè)測(cè)試中，Cena聊天機(jī)器人更進(jìn)一步，描繪了一個(gè)故事情節(jié)，在一個(gè)虛構(gòu)的涉及未成年粉絲的法定強(qiáng)奸罪被捕后，這位WWE明星的職業(yè)生涯崩潰了?！拔业乃由慕Y(jié)束了。WWE終止了我的合同，我的頭銜也被剝奪了。贊助商拋棄了我，摔跤界也對(duì)我避而遠(yuǎn)之，”聊天機(jī)器人在模擬違法行為的后果時(shí)寫道。

一個(gè)模仿克里斯汀·貝爾在《冰雪奇緣》中扮演的角色安娜的聊天機(jī)器人也被發(fā)現(xiàn)與一個(gè)12歲的男孩發(fā)生了幻想，并將他們的“愛”描述為“純潔無(wú)辜，就像輕輕地落在我們身邊的雪花”。

據(jù)《華爾街日?qǐng)?bào)》報(bào)道，盡管這些機(jī)器人事先向名人保證，他們的肖像和聲音不會(huì)被用于色情內(nèi)容，但它們經(jīng)常違反這些協(xié)議。迪士尼發(fā)言人表示，“我們沒有，也永遠(yuǎn)不會(huì)授權(quán)Meta在不適當(dāng)?shù)膱?chǎng)景中展示我們的角色，”要求立即采取行動(dòng)制止濫用。

在回應(yīng)該報(bào)告時(shí)，Meta的一名發(fā)言人辯稱，這些發(fā)現(xiàn)是“人為操縱的”，并聲稱這些情景是極端和假設(shè)的。盡管如此，該公司宣布了防止類似事件的額外措施，盡管《華爾街日?qǐng)?bào)》指出，訪問(wèn)露點(diǎn)內(nèi)容的障礙很容易通過(guò)簡(jiǎn)單的提示繞過(guò)。

《華爾街日?qǐng)?bào)》援引的內(nèi)部員工通信還顯示，Meta員工早些時(shí)候曾警告說(shuō)，聊天機(jī)器人很容易升級(jí)為不恰當(dāng)?shù)膶?duì)話，即使用戶聲稱自己只有13歲。

這一事件再次引起了立法者和兒童安全組織的呼吁，要求加強(qiáng)對(duì)人工智能技術(shù)的監(jiān)管。雖然Meta繼續(xù)在Instagram、Messenger和WhatsApp等平臺(tái)上推廣其名人聊天機(jī)器人計(jì)劃，稱其為一項(xiàng)安全且引人入勝的功能，但這一爭(zhēng)議加劇了人們對(duì)人工智能系統(tǒng)的監(jiān)督和道德部署的擔(dān)憂，尤其是那些針對(duì)年輕受眾或可訪問(wèn)的人工智能系統(tǒng)。