AI模型濫用：黑客將AI當成武器？Anthropic威脅報告揭開科技暗黑面

AI模型濫用：AI雙面刃：黑客與軍事勢力如何濫用人工智能模型Claude進行網絡攻擊與武器研發

黑客將AI當成武器？Anthropic威脅報告揭開科技暗黑面 搭地鐵嘅時候，隔離位阿叔可能正係喺度用手機研究緊點樣炒股，而另一邊廂，世界另一端嘅黑客同實驗室，已經開始用最先進嘅人工智能嚟策劃網絡攻擊、甚至係研發導彈同無人機群。最近科技界流出一份震撼嘅安全報告，詳細記錄咗過去幾個月入面，各大勢力點樣將熱門AI模型Claude當成犯罪同軍事嘅最強助手。呢個世界嘅科技發展，真係快到令大家有啲招架唔住。 AI唔再單純幫手寫電郵 講起人工智能，大家平日可能係用嚟執靚份PowerPoint、幫手寫下宣傳文案，或者係問下晚餐煮乜好。不過，呢份最新嘅威脅情報報告就指出，黑客同埋部分大型實驗室嘅用法，真係會打破一般人嘅想像。報告涵蓋咗由去年底到今年年中嘅數據，發現有心人士將AI用到網絡攻擊、大規模監視、甚至係常規武器嘅研發上面。簡單嚟講，以前需要成個專家團隊先做得到嘅複雜攻擊，依家只要透過AI，喺極短時間之內就可以自動化完成。 俄羅斯黑客與識自我修復嘅惡意程式 講到網絡安全，報告入面最令人毛骨悚然嘅例子，係有俄語系嘅黑客組織利用AI建立咗一個完美嘅回饋迴圈。當他們嘅惡意軟件被防毒軟件捉到嘅時候，AI代理程式就會自動去修改同埋重新編譯程式碼，直到成功瞞過安全系統為止。呢個做法令防守方疲於奔命，因為黑客改code嘅速度，遠遠快過安全專家去寫防範病毒嘅特徵碼。呢種情況就好似捉伊因咁，你一轉身，對手已經變左第二個樣。 中國實驗室秘密搬走大量數據 除咗黑客，各大 AI 實驗室之間嘅競爭亦都走向白熱化。報告發現，有超過七間中國嘅AI實驗室，透過各種迂迴嘅方式，例如用大量假帳號、轉運站或者將用戶請求轉發，去大量提取Claude嘅思考過程同埋數據，用嚟訓練自家嘅模型。其中涉及嘅數據量簡直係天文數字，甚至有實驗室專登避開安全防護較強嘅模型，去搵防護較弱嘅版本嚟入手。呢種喺檯面下進行嘅數據開採，話畀大家知AI時代嘅競爭已經去到幾盡嘅地步。 導彈與無人機群嘅自動化噩夢 更誇張嘅係軍事應用。報告首次披露，有組織用類似Claude嘅工具去取代軟件工程師，負責編寫導彈嘅導航同控制系統程式碼，甚至有俄羅斯民間黑客利用AI去打造全自動嘅自殺式無人機群，能夠喺冇人類介入嘅情況下自動鎖定目標。小編睇到呢度都覺得背脊一涼，科技本來應該係為人類帶來便利，點解會咁快演變成戰場上嘅殺戮工具？ 呢件事點影響你 大家可能會問，呢啲國際黑客、導彈研發同埋大型實驗室嘅角力，同我哋呢班喺香港返工放工、朝九晚五嘅打工仔有乜關係？其實關係可大喇！當黑客利用AI以機器嘅速度去發動網絡攻擊，香港嘅中小企業、銀行系統、甚至個人資料嘅安全系數都會受到直接威脅。你嘅網上密碼、公司嘅客戶資料，隨時都可能成為自動化黑客攻擊嘅目標。呢個世界已經無絕對嘅安全堡壘，了解AI嘅潛力同風險，已經唔再係科技發燒友嘅專利，而係每個人都要具備嘅基本生存技能。 小編嘅反思與展望 科技嘅進步永遠係一把雙面刃。當AI可以幫手創造無限可能嘅同時，亦都同時為有心人提供咗破壞世界嘅最強工具。Anthropic呢次主動公開自家模型被濫用嘅報告，其實亦都反映出科技企業開始正視呢個潘朵拉盒子嘅問題。小編認為，我哋唔能夠因為驚慌而拒絕使用AI，反而應該走得更快、學得更深，先至可以喺呢個瞬息萬變嘅時代企穩陣腳。面對AI浪潮，與其被動地被淘汰，不如主動去掌握佢！ 想喺呢個充滿機遇同挑戰嘅AI時代走得更前？立即報名參加《香港AI-SOLVE學院》嘅「解鎖AI超能力 - AI實戰講座」，由淺入深幫你掌握最貼地、最實用嘅AI技巧，快人一步掌握未來！ 免費課程講座報名連結： https://www.hkai-solve-academy.com/ai-superpower?utm_source=blogpost 文章來源與詳細內容： Maximilian Schreiner https://the-decoder.com/how-hackers-used-claude-for-missiles-drone-swarms-and-surveillance-while-chinese-labs-mined-it-for-training-data