AI視覺攻擊：改變字體顏色竟然可以劫持AI的思考過程

字體顏色與排版如何影響人工智能的判斷與推理過程

AI視覺攻擊：改變字體顏色竟然可以劫持AI的思考過程 大家平時用電腦或者手機睇網頁，字體轉下顏色、變下光暗，可能只係覺得畫面靚啲或者易啲閱讀。不過，最近一項由多國研究人員合作的最新研究就發現，呢種看似無傷大雅的視覺排版，原來可以悄悄影響人工智能的推理能力，甚至令AI睇漏字、誤解意思，最終得出完全唔同的結論。 顏色點解會影響AI的腦袋 研究團隊發現，當視覺語言模型處理帶有圖像的文字時，字體的顏色同對比度會直接干擾AI內部的視覺編碼器。大家成日會將紅色聯想到危險或者錯誤，綠色聯想到安全或者正確，其實唔單止人類有呢種文化慣性，連AI在處理圖形文字時，都會受到這種顏色偏見的影響。如果有人刻意將一篇負面的新聞或者產品缺點用綠色包裝，或者將正確答案調到好高對比度，而將其他字體變淡，AI的判斷好可能會被牽着鼻子走。 字體顏色如何左右AI的情緒評分 喺研究入面，專家測試咗多款開源的視覺語言模型。結果發現，當正面的字眼被塗上綠色或藍色時，部分AI的模型會偏向畀出更正面的評分；相反，負面字眼配上紅色，就會令AI更易得出負面結論。小編認為，呢個現象真係好神奇又令人擔憂，因為文字內容明明一模一樣，淨係改咗個顏色，AI的解讀就可以完全走樣。呢種情況如果被有心人利用，分門別類做一啲網上宣傳或者輿論引導，隨時可以營造出假象。 教你一招：防範AI被視覺排版誤導的實用技巧 既然AI咁容易畀字體顏色影響，平時我們在工作上或者日常應用中又可以點樣防範呢。如果你有份參與製作或者審閱需要交畀AI分析的文件或截圖，以下有幾個具體步驟可以照做： 第一步，確保文字格式統一。在把重要文件轉成圖片或截圖畀AI閱讀之前，盡量使用單一的黑色字體配白色背景，避免使用過多花巧的顏色標記。 第二步，提取純文字進行覆核。如果AI給出的分析結果好奇怪，不妨直接將圖片入面的文字用光學字符識別技術抽出來，變成純文字後再重新讓AI判斷一次，對比前後結果有冇落差。 第三步，留意對比度陷阱。檢查文件中有冇部分字體故意被加粗、變亮或者淡化，防止AI因為視覺上的偏心而忽略了真實的上下文。 網絡世界的全新攻防戰 隨著AI技術越來越普及，大家對AI的信任度亦越來越高，但這類研究提醒我們，AI並不如想像中那麼絕對客觀。從網上搜尋結果的調整，到各種內容平台的排版技巧，未來關於點樣確保AI模型唔會被簡單的視覺包裝所欺騙，將會成為資訊安全同內容管理的一個重要戰場。各位讀者又點睇呢？當AI可以咁容易被顏色影響，我們日後仲可以盲目相信網上見到嘅AI總結嗎？ 關於香港AI-SOLVE學院 想喺瞬息萬變的AI時代走得更快更前？立即加入《香港AI-SOLVE學院》Hong Kong AI-SOLVE Academy，由基礎應用到進階思維，幫你全面解鎖AI潛能。立即點擊以下連結報名參加我們的「解鎖AI超能力 - AI實戰講座」，由專業導師帶你掌握最貼地的AI應用技巧： https://www.hkai-solve-academy.com/ai-superpower?utm_source=blogpost 文章來源 https://www.unite.ai/changing-font-colors-can-hijack-ai-reasoning/