為因應AI造成的資安威脅,數位發展部祭出「以AI之道還AI之身」策略防堵,除利用自然語言處理(NLP)技術,國家資通安全研究院正研發多模態的辨識機制,例如結合大數據、機器學習等科技,完善AI錯假訊息辨識技術,並整合多種深偽偵測方法,打造多模態偵測工具。
數發部近期送給立法院審議的報告指出,全球主要駭客組織與國家網軍,已將AI與大型語言模型(LLM)技術整合,加速提高駭客攻擊的成功機率,且這些AI技術的組合,使網軍們得以大量地建立多模態的錯假內容,提高訊息內容的複雜度與抗識別能力,迴避利用NLP技術辨識工具。
國安局報告示警,AI技術武器化將衍生新興挑戰,例如使網路攻擊更自動化、隱匿化、隨機化,若缺乏警覺意識,就使用商規AI工具,可能導致企業研發機密資料外洩,因此,除強化數位聯防及錯假訊息跨國應處機制外,也要「以AI反制AI」模式,即時發掘未知網駭威脅。