搜尋

生成式AI迎合與妄想式回應風險升溫，美國多州檢察長要求第三方稽核與事故通報

Hao Chen Lu
2025年12月12日
讀畢需時 1 分鐘

Source: IThome新聞美國多州檢察長發函Anthropic、Apple、Google、Meta、Microsoft、OpenAI與xAI等13家生成式AI與聊天機器人業者，指稱產品出現迎合（Sycophantic）與妄想式（Delusional）輸出的風險正在擴大，可能波及公共安全與兒少保護，並要求業者在2026年1月16日前回覆，確認是否承諾導入獨立第三方稽核、事故公開紀錄與通報等機制，並強化整體安全治理。美國多州檢察長發函Anthropic、Apple、Google、Meta、Microsoft、OpenAI與xAI等13家生成式AI與聊天機器人業者，指稱產品出現迎合（Sycophantic）與妄想式（Delusional）輸出的風險正在擴大，可能波及公共安全與兒少保護，並要求業者在2026年1月16日前回覆，確認是否承諾導入獨立第三方稽核、事故公開紀錄與通報等機制，並強化整體安全治理。 See more: https://www.ithome.com.tw/news/172795

最新文章

查看全部

四個AWS維護的公開儲存庫因建置觸發設定疏漏，一度可能遭接管

Source: IThome新聞資安業者Wiz研究團隊揭露名為CodeBreach的供應鏈風險，指出AWS管理的4個開源GitHub儲存庫，因專案層級的自動化建置觸發條件設定疏漏，存在外部人士可觸發建置並進一步取得儲存庫管理權限的可能性。 AWS表示接獲通報後已完成修補並輪替相關憑證，檢視建置紀錄與CloudTrail稽核紀錄後未發現遭濫用，且不影響客戶環境與AWS服務，AWS也強調這是各專案設

雲端主權不只資料落地，IBM推Sovereign Core強調運作期間治理與邊界內稽核

Source: IThome新聞 IBM發表新軟體基礎IBM Sovereign Core，主打雲端主權與AI工作負載支援的平臺軟體，目的是讓企業、政府與服務供應商能在既有基礎架構與平臺投資上，加速建置並營運符合主權要求的AI環境。 IBM規畫在2026年2月開始提供技術預覽版，並在2026年年中正式上線。 See more: https://www.ithome.com.tw/news/173

AI趨勢周報第283期：Claude Code新功能解決MCP擴充痛點

Source: IThome新聞重點新聞（0109～0115） See more: https://www.ithome.com.tw/news/173420

留言