隨著AI技術普及，聊天機器人Claude開發商Anthropic宣佈更新全球使用政策，劃下清晰紅線。新規重點包括打擊虛假資訊與選舉干預、防範武器開發及無授權監控，並首度禁止對AI模型進行持續虐待。此舉旨在防範科技遭到濫用，保障公眾資訊真實性與基本人權，讓用戶能在更安全的環境下使用人工智能工具。

Anthropic最新安全報告揭露，黑客與軍事組織正將AI模型Claude當成武器，進行自動化網絡攻擊、俄羅斯黑客打造自我修復惡意程式、研發導彈與無人機群，同時有中國實驗室大量提取數據訓練模型。面對AI時代的潛在風險與暗黑面，企業與個人應提升網絡安全意識，掌握基本防範與AI應用技能。