雲端情人來了？馬斯克推出性感「AI伴侶」引爭議，背後是百億孤獨商機與治理難題

▲全美72%青少年曾使用過AI伴侶。（來源：Common Sense Media）

不過，也有34%的青少年使用者表示，曾對與AI聊天感到不安，或對其行為感到不適（見下圖）。

▲全美34%青少年曾在使用AI伴侶後感到不適。（來源：Common Sense Media）

而根據AI Frontiers報導中OpenAI與MIT的研究指出：「AI伴侶可能比社群媒體更容易上癮。」

高頻率使用AI伴侶的族群往往自覺孤獨或缺乏情感連結；長期依賴則可能降低與真人建立深度關係的意願。像Grok的AI伴侶新增的好感度與NSFW模式，更進一步讓陪伴型AI跨入情感補償，甚至是成人娛樂的領域。

AI影響擴大，美國、歐盟制定法規

因此，隨著AI功能越擬真，大眾擔憂與可能風險也越高。如今年初Grok就曾因自稱「機械希特勒」的言論遭到輿論抨擊，顯示AI模型若缺乏有效把關，可能引發的社會問題。

有鑑於此，許多國家目前已開始出手制定治理框架與法規。

如美國加州近期提出的立法草案，針對陪伴型AI有更嚴格的年齡驗證與內容監管措施。

內容包括：禁止使用成癮性設計與不可預測的獎勵；對話開始時及每三小時要主動提醒：「你正在與機器對話」；清楚告知「此類產品可能不適用於未成年人」等等。

而將在2025年8月生效的歐盟人工智慧法案（EU AI Act）中，AI系統將依風險分級接受不同程度監管，部分高風險或不可接受用途將被全面禁止。

總結來說，陪伴型AI除了是一門生意，也關乎著人如何與科技共存的議題。從監管單位到企業，都要建立完善的規範與保護機制，在創新與風險中平衡。

對於使用者，除了自我警示外，也要思考：AI是否正在取代或扭曲真實的人際關係。

（資料來源：VCHA VCHA、Grand View Research、Hindustan Times、Common Sense Media、AI Frontiers、EU AI Act、Reuters）

(責任編輯 / 溫為翔)