進步的代價：當人工智能成爲武器

簡要

人工智能提升了日常任務，但也帶來了網路犯罪的風險。DeNet專家討論如何在這個不斷發展的環境中保持領先，重點關注去中心化的安全存儲。

人工智能已成爲我們日常生活的一部分。它幫助我們完成工作，處理無盡的任務——有時甚至爲我們思考。但就像一枚硬幣的兩面，它既帶來了好處，也帶來了風險。那個友好的聊天助手同樣可以輕易地變成黑客的工具。進步總是伴隨着代價。

在本文中，我們將探討人工智能如何重塑網路犯罪。如今，攻擊可以比以往任何時候都更快、更高效地發起。DeNet 的專家——去中心化安全存儲的領導者——分享了他們在這一變化環境中保持領先一步的觀點。

網路犯罪上升

網路犯罪一直是一個挑戰，但近年來它的影響比以往更爲嚴重——而像人工智能這樣的技術傳播是這一趨勢加速的原因之一。根據網路安全風險投資公司的數據，到2026年，全球因網路犯罪造成的損失預計將達到10.8萬億美元——相比2015年的$3 萬億美元。每分鍾，犯罪分子造成巨大的經濟損失，趨勢顯示這一情況不會減緩。

“最近的攻擊表明，人人都有風險：個人、公司和政府。忽視你的數字安全使後果變得不可避免——就像不刷牙後卻對蛀牙感到驚訝，”DeNet的聯合創始人Den Shelestov說。

隨着網路威脅的增加，許多公司正在落後。Darktrace的一項調查發現，78%的安全領導者認爲以AI驅動的威脅是真實的挑戰，許多人沒有合適的技能、知識或員工來有效應對。

黑客攻擊，現在升級了

網路犯罪幾乎和計算機本身一樣古老。網路出現後，漏洞隨之而來——每一項新技術都會在創紀錄的時間內被武器化。這就是進步的殘酷法則：它爲英雄和惡棍 alike 創造了機會。

黑客遵循一個簡單的操作手冊：選擇目標，收集信息，找到突破口，穿越系統，獲取數據或索要贖金。人工智能可以在每個階段提供幫助。

以前，進行一次全面攻擊需要幾天時間、深厚的技術技能和整個團隊的努力。現在，人工智能可以找到漏洞、編寫利用代碼，甚至準確指出勒索要求的最佳壓力點，因此即使是一個擁有幾個腳本的孩子也可以組裝出可用的惡意軟件。

但等一下……難道像ChatGPT這樣的LLM不是被設計用來阻止惡意活動的嗎？

理論上——是的。實際上——並不完全如此。黑客通過提示注入或越獄繞過安全措施，有些甚至構建無限制的 LLM。這些黑市模型可以生成惡意軟件、網絡釣魚活動、深度僞造等。

黑客如何將技術武器化

社會工程一直是一個薄弱環節——而人工智能現在對此進行了超級增強。根據SentinelOne的報告，網絡釣魚攻擊激增了1,265%。這並不令人驚訝，因爲人工智能可以制作數百條高度個性化、令人信服的信息。你可能認爲同事分享了一個項目更新的連結——但一旦點擊，惡意軟件就會悄無聲息地感染你的系統。

深度僞造是另一個日益增長的威脅。合成音頻和視頻的進步已經達到了極其難以檢測僞造品的地步。攻擊者竊取身分——高管、管理人員和客戶——以欺騙員工交出資金、敏感數據或系統訪問權限。2024年，Arup因這一原因遭受了巨大的損失：一名員工在一次假冒的Zoom通話中被欺騙，最終向攻擊者轉帳$25 百萬。

下一個前沿是自主人工智能——自主系統，它們在最小監督下進行決策和行動。2025年8月，Anthropic確認他們的Claude模型在一次快速的多目標數據勒索活動中被使用，該活動影響了至少17個組織。Claude不僅僅是遵循指令——它執行了從頭到尾的攻擊：偵察、利用和量身定制的贖金計算——在每一步中都進行了適應。

攻擊變得更快、更聰明且更不寬容。我們如何阻止能夠即時學習和即興發揮的事物？

接下來是什麼？

遊戲規則已經改變。僅靠人類團隊已無法跟上。這就是爲什麼公司用火對抗火，防御性人工智能正在成爲新的前線。由機器學習驅動的系統可以檢測異常，實時響應威脅，並分析遠超人類能力的模式。盡管如此，即使是最好的系統也無法阻止有人點擊錯誤的連結。培訓仍然至關重要——不要信任每一封電子郵件，每一個電話。

但還有另一個大問題。人們和公司無意中在爲網路犯罪機器提供養分。大量敏感數據——電子郵件、職位和文件——存儲在各個組織和第三方服務中。一旦泄露，就可能與其他數據泄露和公開信息結合，組建完整的個人檔案，使身分盜竊、帳戶接管和高度針對性的攻擊變得更加容易。

“數據泄露發生得太頻繁了——這是我們長期以來一直關注的問題。公司收集大量敏感用戶數據——這自然使它們成爲攻擊者的黃金目標。而且總是存在泄露的風險。我們信任第三方來存儲我們的數據，但他們無法始終保證其安全，”Den說道。

這個擔憂促成了DeNet，一個旨在把控制權重新交回用戶手中的去中心化存儲協議。數據在客戶端加密，分成多個碎片，並分布在獨立節點的網路中。每個碎片存儲在多個設備上，消除了單點故障。只有用戶的私鑰才能重建完整數據——將責任和權力從企業轉移到個人。

改變對數據存儲的態度是抵御網路攻擊者的一種方式——但這只是解決方案的一部分。技術不斷發展，新攻擊方法層出不窮，網路犯罪與網路安全之間的鬥爭是無止境的。唯一的普遍規則是：您的數據有價值，首先，您對其負責。明智地保護它，您就可以保持控制。