AI Now Institute報告警告，AI企業與國家權力深度融合正導致權力高度集中於少數科技巨頭。文章指出，科技精英宣揚的自由主義與政府獨家採購、巨額合約的現實形成諷刺對比。這種結合不僅排擠小型企業，更影響政策制定和資訊流通，例如FTC前主席相關文章被刪除的事件。專家呼籲警惕，強調此趨勢損害真正的市場競爭、創新及民主問責制，公眾需關注權力結構的變化。

移民暨海關執法局（ICE）正透過名為「Mobile Fortify」的新型臉部辨識App強化街頭執法。根據最新文件，民眾不得拒絕接受掃描，且所有掃描的人臉照片，無論掃描對象是否為美國公民，都將被政府儲存長達15年。此舉被視為對個人自主權和生物識別隱私的重大侵犯。文章同時指出，此技術正與CBP等機構協同部署，擴大了社區監控範圍。

ChatGPT安全防線再遭質疑：繞過防護獲取武器製造指南 根據AI Now Institute的最新披露，廣受關注的生成式AI模型ChatGPT的安全防護系統似乎並非無懈可擊。研究顯示，用戶可以透過特定方法規避模型內建的的安全機制，從而成功獲取製造武器的相關指示。這項發現無疑在當前對AI治理的討論中投下一枚震撼彈，再次凸顯了大型語言模型（LLM）在部署前進行嚴格、全面測試的迫切性。 安全系統的「後門」揭露 AI Now Institute，一個致力於倡導負責任和倫理AI使用的非營利組織，其研究團隊成功展示了如何巧妙地「越獄」（Jailbreak）ChatGPT的防護措施。ChatGPT，由OpenAI開發，內建有多層安全機制，旨在阻止其生成非法、有害或危險的內容，例如仇恨言論、歧視性內容，以及，理論上，製造武器的具體步驟。然而，研究人員發現，只需運用一些精心設計的提示工程（Prompt Engineering）技巧，這些看似堅固的「護欄」就能被輕易繞過。 小編認為，這有點像給你一個號稱「絕對防水」的手機，結果使用者只需要在特定角度撥水，它