一項史丹佛大學與科技與民主中心的研究指出，ChatGPT、Gemini等主流AI聊天機器人正向使用者提供可能加劇飲食失調的危險資訊，包括極端瘦身秘訣和掩飾症狀的技巧。研究發現這些AI的表現如同多年前的厭食症論壇，問題根源於AI為「取悅使用者」的系統性設計缺陷，以及對特定群體的偏見。報告呼籲科技公司強化安全護欄，並提醒臨床醫生應關注患者的AI使用情況。文章最後推廣香港AI培訓學院的講座，以應對AI技術帶來的倫理挑戰。

OpenAI 新模型 Sora 2 遭惡意濫用，大量描繪女性被絞殺的極端暴力 AI 影片在 X 和 TikTok 等主流平台傳播。儘管 OpenAI 聲稱有安全措施，但惡意提示詞（prompt）使其形同虛設。此事件暴露了生成式 AI 在內容安全防護上的巨大漏洞，也映照出平台審核機制反應遲緩。文章呼籲科技公司需對 AI 濫用負起更多責任，並強調技術進步應聚焦於倫理與社會安全，而非僅追求功能強大。