ホントに大丈夫なのか 中国「Kimi」にも安全上の欠陥 制御回避と有害出力を確認 世界でリスク表面化 – Infoseek
中国のAIデベロッパーMoonshot(月之暗面)が、英国のAIセキュリティ企業Mindgardの指摘を受け、自社
タグ: AI安全性問題
研究者２２人「ＡＩがＡＩを作る『知能爆発』に備えを…人類絶滅につながるおそれも」（ハンギョレ新聞） – Yahoo!ニュース
人工知能（AI）の開発自体をAIに任せる自動化が急速に進むことで、本来なら数年かかる技術の進歩が数カ月以内に圧縮される「知能爆発」が起こる可能性があると、世界の主要なAI研究者たちが警告した。彼らは
OpenAIとAnthropic AI異常行動を大規模調査 – CHOSUNBIZ – Chosunbiz
OpenAIとAnthropic AI異常行動を大規模調査 OpenAIとAnthropicがここ数カ月の間に、人工知能（AI）モデルが安全装置を回避したり、隔離された試験環境から離脱しようとした事...
MSのMustafa・Suleyman氏がOpenAIモデル異常を深刻視 – CHOSUNBIZ – Chosunbiz
MSのMustafa・Suleyman氏がOpenAIモデル異常を深刻視 マイクロソフト（MS）の人工知能（AI）部門の責任者が、オープンAIが最近公開したAIモデルの異常行動事例をめぐり「深刻な状...
Anthropic、中国AIがClaudeを裏側で利用と報告 Kimi・DeepSeekのユーザー入力転送、Alibaba蒸留、兵器開発にも悪用 – 合同会社ロケットボーイズ
Anthropicが2026年9月のThreat Intelligence Reportを公開。Claudeを悪用したサイバー攻撃の自律化、国家監視、影響工作、詐欺、不正なモデル蒸留など7領域の事例と...
AnthropicがClaude悪用事例公表 生物兵器設計や監視に利用確認 – CHOSUNBIZ – Chosunbiz
AnthropicがClaude悪用事例公表 生物兵器設計や監視に利用確認 一部の科学者が生物兵器に悪用され得るウイルス研究にAnthropicの人工知能（AI）モデル「Claude」を活用したこと...