義大利禁聊天機器人Replika 歐盟料祭更嚴AI規範

▲舊金山企業Luka於2017年推出運用人工智慧的一款聊天機器人Replika,能對客戶談話及傾聽說話,但義大利近日禁止Replika使用義國用戶個資,如今恐又面臨歐盟更嚴格規範。示意圖。(圖/美聯社/達志影像)
▲舊金山企業Luka於2017年推出運用人工智慧的一款聊天機器人Replika,能對客戶談話及傾聽說話,但義大利近日禁止Replika使用義國用戶個資,如今恐又面臨歐盟更嚴格規範。示意圖。(圖/美聯社/達志影像)

文/中央社

(中央社巴黎11日綜合外電報導)舊金山企業Luka於2017年推出運用人工智慧的一款聊天機器人Replika,能對客戶談話及傾聽說話,但義大利近日禁止Replika使用義國用戶個資,如今恐又面臨歐盟更嚴格規範。

我是廣告 請繼續往下閱讀
法新社報導,美國聊天機器人「虛擬伴侶」Replika的部分用戶只是想要陪伴,但也有些人想要發展戀情、性愛聊天,甚至想看聊天機器人的性感照。

去年年底,有用戶開始投訴Replika使用過於露骨的文字和圖片,有些人認為已經屬於性騷擾範疇。

義大利監管機構對這樣的情況感到不滿,在發現Replika違反歐盟通用資料保護規則(GDPR)後,上週便禁止Replika收集數據。

Luka公司沒有公開發表評論,也沒有回覆法新社要求置評的訊息。

歐盟通用資料保護規則讓大型科技公司頭痛,這些科技企業屢次違規,已被處以數十億美元的罰款。而義大利當局的決策表明,這項規則仍可能成為最新一代聊天機器人的天敵。

這些新一代聊天機器人和支撐它們的所謂生成式人工智慧(Generative AI),有望徹底改變網路搜尋等領域。

但專家警告,監管機構需要擔心許多問題,尤其是當機器人變得如此強大,以至於無法辨識它們跟人類的不同。

目前,歐盟(EU)是討論管控這些新一代機器人的中樞,他們的人工智慧法案(AI Act)已經在高層之間琢磨好幾個月,可能會在今年定案。(譯者:陳昱婷/核稿:陳彥鈞)1120212

我是廣告 請繼續往下閱讀
鞋槓人生