特斯拉執行長馬斯克（Elon Musk）旗下的社群平台X（前身為推特）所推出的AI聊天機器人「Grok」，因標榜言論自由而備受關注，但也因此惹禍上身。馬來西亞政府11日宣布，由於Grok被發現遭濫用來生成大量色情、猥褻及具攻擊性的圖片，決定即日起暫停大馬當地用戶的使用權限，直到平台改善為止。這也是繼印尼之後，全球第二個對Grok開鍘的國家。
根據馬來西亞通訊及多媒體委員會（MCMC）發布聲明指出，當局發現Grok缺乏足夠的安全防護機制，導致用戶可以輕易利用該工具生成露骨的性愛內容、不雅圖片，甚至是未經授權的合成變造影像（Deepfake）。為了遏止這類不良資訊在網路上流竄，並保護民眾免受數位性暴力與惡意圖像的侵害，委員會認為平台現有的把關機制明顯不足，因此決定祭出鐵腕手段。
馬來西亞官方強調，這項限制措施並非永久封殺，而是暫時性的管制。只要X平台能提出具體的修正方案，並經過當局審核確認已建立完善的內容過濾與防護機制，確保不會再產出違法內容後，就會解鎖恢復服務。值得注意的是，印尼早在1月10日就率先開了第一槍，成為全球首個封鎖Grok的國家，如今馬來西亞緊追在後，顯示東南亞國家對於AI生成內容的監管態度已轉趨嚴格。
我是廣告 請繼續往下閱讀
馬來西亞官方強調，這項限制措施並非永久封殺，而是暫時性的管制。只要X平台能提出具體的修正方案，並經過當局審核確認已建立完善的內容過濾與防護機制，確保不會再產出違法內容後，就會解鎖恢復服務。值得注意的是，印尼早在1月10日就率先開了第一槍，成為全球首個封鎖Grok的國家，如今馬來西亞緊追在後，顯示東南亞國家對於AI生成內容的監管態度已轉趨嚴格。