反制AI網駭 數發部：提升人民識讀力

哭杯詐騙

 觀看須知

反制AI網駭 數發部：提升人民識讀力







數位發展部指出，AI技術使駭客得以精準擴大攻擊面，也讓網軍得以大量建立多模態的錯假內容，因應之道為提升技術手段及人民識讀能力。（路透）

2024/11/01 05:30
〔記者陳政宇／台北報導〕生成式AI（人工智慧）浪潮興起，對國家安全帶來新危機。數位發展部指出，AI技術使駭客得以精準擴大攻擊面，也讓網軍得以大量建立多模態的錯假內容，因應之道為提升技術手段及人民識讀能力。立法院預算中心則提醒，主管機關應積極完備AI應用規劃，以及所需規範與控管措施。

立法院外交及國防委員會原定昨邀國安局、數發部、國科會報告「AI技術在資安及錯假訊息之影響評估及因應」，因颱風延期。數發部送至立院的書面報告指出，AI技術會使駭客能找到正確的攻擊入口，同時加速並提高攻擊鏈整體的成功機率；技術的組合，也能讓網軍提高訊息內容的複雜度與抗識別能力，迴避利用自然語言處理技術的辨識工具，也提高辨識的人力耗費。

至於如何因應，國家資通安全研究院主要採取兩大面向，一是在可能的攻擊途徑上建立多重柵欄，導入零信任架構的防禦機制，讓AI就算能快速地找到正確入口或途徑，也會到處碰壁走不進去；二是以AI之道還AI之身，提高識別、因應與阻擋的數量與速度，強化原有以專家為主的資安事件分析能力，以預測攻擊點與動態防禦規則部署，達成分析與解決方案一條龍的目標。

國科會則表示，將積極運用AI技術，促進主動式和智能化防禦的發展，透過結合零信任機制持續驗證並提升公眾對AI資安問題的認識和理解；政府也將推動適應性強的規範機制引導產官學界共同推進AI應用，構建全球跨域合作網絡，力求打造值得信賴的AI生態系。

立院預算中心則發布報告提醒，AI存有傳播選舉錯誤訊息或演算法偏見造成傷害等隱憂，並助長電信與網路詐騙犯罪，主管機關應積極完備所需規範與控管措施。









新聞來源:PLAY948