我是廣告 請繼續往下閱讀
此外，AI引發的詐欺事件頻傳，語音合成技術的濫用便是一個例子，只要3秒的語音樣本就可以訓練模型，使其聽起來像是任何人。因此了解惡意使用者如何利用AI，破壞長期存在的身分驗證系統，便是重要議題。
微軟表示，AI可以有效協助企業阻止詐欺，應對複雜的詐欺案件或其他掩蓋身分的新興威脅。並舉例提到，過去曾停止與巴西一家公司合作，透過AI系統偵測到該公司試圖改變身份重新進入微軟的生態系統，微軟AI偵測便使用了10多個風險訊號標記詐欺公司，並成功阻止其非法嘗試。
同時，微軟建議，企業組織應加強員工網路風險教育，像是條件式存取原則，進行社交工程教育訓練以識別威脅時，能即時做出反應，啟用多重身份驗證，嚴格保護資料的機器與可控性，利用生成式AI資安工具防止網路威脅。另針對網路威脅，企業組織可以採取限制AI存取範圍，持續評估應用的合適度與合規性，防範指令提示造成的風險，實施嚴格的輸入驗證和清理，並要求整合AI供應鏈保持透明度，明確與員工溝通企業AI使用和風險政策。
微軟表示，生成式AI可以高速幫助組織解決資安問題，透過分析大量數據揭露網路攻擊威脅的模式與趨勢，即時偵測異常，快速回應以阻絕風險。並提到AI有助於解決全球400萬名資安專業人才缺口，提高企業防禦速度與效率。
