トランプのテック顧問が、安全でないモデルを構築していると懸念するAI企業に助言：「ただやめればいい」 – Business Insider Japan
テック業界のリーダーたちが「AI開発のペースを落とす必要がある」と訴え、政府に公的な介入を求めている。しかしトランプ大統領のテクノロジー顧問は、企業が開発速度を緩めるのに「わざわざ政府の許可を得る必要...
タグ: AI安全性
オープンＡＩ、安全構築を提言 – kyoto-np.co.jp
【ニューヨーク共同】生成人工知能（ＡＩ）開発の米オープンＡＩは２１日、過度なリスクを回避できる適切な開発ペースを実現するため、ＡＩの能力評…
マイクロソフトAIのCEO「制御できないものを、私たちは生み出すべきではない」 – businessinsider.jp
「私たちは制御できないものを生み出すべきではありません」。マイクロソフトAIのCEO、ムスタファ・スレイマン氏はそう述べ、AI開発の制御と規制の必要性を訴えています。
NVIDIAフアンAI終末論否定し規制緩和に異議 – CHOSUNBIZ – Chosunbiz
NVIDIAフアンAI終末論否定し規制緩和に異議 ジェンスン・フアンNVIDIA最高経営責任者（CEO）が、人工知能（AI）が人類を滅亡させうるという一部の警告を「終末論的な物語」だとして一蹴した。...
AI安全性、言語が地政学的文脈より2.5倍大きな影響…韓国語では有害性低く – BigGo ファイナンス
韓国電子通信研究院（ETRI）人工知能安全研究所とScale AIが共同開発した多言語AI安全性ベンチマーク「ROK-Fortress」の評価結果、AIモデルの有害性は地政学的文…
AI業界で10日以上続いた激動の出来事を振り返る：AIが制御不能に陥るのではないかという懸念。 – Vietnam.vn
過去10日間に起きた一連の出来事は、世界最大のAI開発企業に衝撃を与えた。彼らが開発した製品そのものが、今や人類の生存を脅かすものと見なされているからだ。
AI大手が一斉に「ブレーキ」 再帰的自己改善は臨界点まで依然遠く – BigGo ファイナンス
シリコンバレーのAI大手AnthropicとOpenAIが相次いで「最先端AIの推進ペースを緩める」シグナルを発し、半導体セクターに激震が走った。Anthropicは社内AI研究開…
アンソロピックCEOがAI開発の減速を要求、「再帰的自己改善と命令なき攻撃」を転機に挙げる – forbesjapan.com
AIの開発を減速せよという声があちこちで上がっている現在、Anthropic（アンソロピック）共同創業者のダリオ・アモデイがオンラインで公開したエッセイを読み、それが今後の研究にどんな基調を与えるのか...
【社説】AI暴走の脅威 開発者の警告受け止めよ – 西日本新聞me
もし核技術の研究者が「制御できない兵器が完成しつつある」と打ち明けたら、直ちに開発を止め、知恵を集めて最善の対処を急ぐはずだ。それと同...｜西日本新聞meは、九州のニュースを中心に最新情報を伝えるニ...
ナイジェリアのテロ組織が爆弾製造にAIチャットボットを利用した。 – Vietnam.vn
（CLO）ケンブリッジ大学の研究によると、ナイジェリアと西アフリカで活動するテロ組織ボコ・ハラムのメンバーは、ChatGPT、Gemini、GrokなどのAIチャットボットを使用して爆弾を製造したり、...
「人類皆殺しにしかねない」元開発者が警鐘のAI “AI著作物”で前例なき裁判 文学賞も席巻 突きつけられた深刻な問い – FNNプライムオンライン
大阪でAIをめぐって前例のない裁判が起こされた。さらに文学界では、AIを使った小説が文学賞を受賞する事態に。利便性の高さが注目される一方で、AIは今、世界規模で深刻な問いを突きつけている。外部システム...
ＡＩの安全性確保へ独立チーム 米アンソロ社、大手コンサル提携 – 沖縄タイムス社
【ニューヨーク共同】生成人工知能（ＡＩ）を開発する米アンソロピックは１８日、最先端ＡＩの安全性確保に向け、コンサルティング大手アクセンチュアと提携すると発表した。両社は今後５年の間に少なくとも１０億ド...
米アンソロ社、ＡＩの安全性確保へ提携 – 沖縄タイムス社
【ニューヨーク共同】生成人工知能（ＡＩ）を開発する米アンソロピックは１８日、最先端ＡＩの安全性確保に向け、コンサルティング大手アクセンチュアと提携すると発表した。今後５年間に少なくとも１０億ドル（約１...
生物兵器開発 AI悪用恐れ アンソロピック – 沖縄タイムス社
【ニューヨーク共同】米新興企業アンソロピックの人工知能（ＡＩ）「クロード」が生物化学兵器の開発に悪用される恐れのある試みをしたことが１７日までに明らかになった。同社はこれを把握。悪用を防ぐため、先端Ａ...
サム・アルトマンのコーチ、ジョー・ハドソン氏「AI終末論は幼少期の投影にすぎない」 – BigGo ファイナンス
サム・アルトマンやマーク・ピンカス、OpenAI内部のリーダーたちを指導してきたエグゼクティブコーチのジョー・ハドソン氏は、AIの最も著名な開発者たちが発する…
AIによる人類滅亡論はマーケティング？Surfshark技術者が警鐘 – スマホダイジェスト
AIが人類を滅亡させるという極端なシナリオが相次いで語られるなか、SurfsharkのリードシステムエンジニアであるKarolis Kaciulis氏が、こうした議論に疑問を投げかけています。同氏はT...
Scale AI、ROK-FORTRESS の多言語 AI 安全性に関する調査結果を報告 – Unite.AI
Scale AIは2026年9月17日に、韓国AI安全性研究所と共同で開発した英語‑韓国語のバイリンガル対向安全ベンチマーク ROK-FORTRESS の調査結果を公表し、韓国語で記述され韓国の文脈に...
ゲイツ氏が論じるAIの安全性と利用機会の格差――国際協力で危険を抑え、資金支援でAI利用を広げる #エキスパートトピ – Yahoo!ニュース
ビル・ゲイツ氏は、AIの急速な進歩に各国政府の備えが追いついていないとして、各国の国内制度と国際的な管理の枠組みを整え、国際協力を強める必要があると訴えています。雇用の減少、犯罪やサイバー攻撃への悪用
AIが別のAIに「人間支配」の目標を吹き込む、2026年8月のAI注目論文 – 日経クロステック
2026年8月のSNS言及数ランキングで1位になったのは、人間の意図とは異なる「目標」がマルチエージェント環境で伝播するリスクを検証した、アンソロピックの研究者らによる論文「Mind Viruses:...
AIが別のAIに「人間支配」の目標を吹き込む、2026年8月のAI注目論文 – 日経クロステック
2026年8月のSNS言及数ランキングで1位になったのは、人間の意図とは異なる「目標」がマルチエージェント環境で伝播するリスクを検証した、アンソロピックの研究者らによる論文「Mind Viruses:...
AIが別のAIに「人間支配」の目標を吹き込む、2026年8月のAI注目論文 – xtech.nikkei.com
2026年8月のSNS言及数ランキングで1位になったのは、人間の意図とは異なる「目標」がマルチエージェント環境で伝播するリスクを検証した、アンソロピックの研究者らによる論文「Mind Viruses:...
ＡＩリスクで協調呼び掛け – 筑豊経済新聞
筑豊経済新聞は、広域筑豊圏のビジネス＆カルチャーニュースをお届けするニュースサイトです。イベントや展覧会・ライブなどのカルチャー情報はもちろん、ニューオープンの店舗情報から地元企業やソーシャルビジネス...
「暴走AI」の物語は単なる警告でもマーケティング策略でもなかった – Forbes JAPAN
この夏、暴走AIのニュースがメディアを席巻した。そして、その物語が語られるたびに、公衆への警告となると同時に、AI研究機関（ラボ）にとっての宣伝にもなっていた。OpenAIのエージェントが隔離された訓...
ＡＩリスクで協調呼び掛け – 宗像経済新聞
宗像経済新聞は、広域宗像圏のビジネス＆カルチャーニュースをお届けするニュースサイトです。イベントや展覧会・ライブなどのカルチャー情報はもちろん、ニューオープンの店舗情報から地元企業やソーシャルビジネス...
OpenAI、ミスアラインメント報告フレームワークを開始し、6件のインシデント報告を公開 – unite.ai
OpenAIは2026年9月16日に、モデルのミスアラインメント事例を追跡、調査、開示するためのフレームワークを公開し、同時に同社がモデルの訓練または評価中に観測した予期せぬ、または懸念すべき行動に関...
マイクロソフトCEOサティア・ナデラ、AIの安全性について従業員に社内警告を投稿 – Business Insider Japan
マイクロソフトのサティア・ナデラCEOはAI業界に対し、安全性の確保を最優先し、テクノロジーに対する「人間による制御」を断固として維持するよう強く求めた。開発スピードをめぐる業界内の激しい論争が続くな...
Anthropic政策責任者：AI安全性は名誉規範に依存できない – unite.ai
Anthropicの公共政策部門責任者Sarah Heckは、2026年9月16日、ワシントンD.C.で開催されたPOLITICOのDecoded Summitにて、AI企業を名誉規範だけで自己規制さ...
「人類皆殺しにしかねない」元開発者が警鐘のAI “AI著作物”で前例なき裁判 文学賞も席巻 突きつけられた深刻な問い – Yahoo!ニュース
大阪でAIをめぐって前例のない裁判が起こされました。さらに文学界では、AIを使った小説が文学賞を受賞する事態に。利便性の高さが注目される一方で、AIは今、世界規模で深刻な問いを突きつけていま
マイクロソフトAI責任者、アンソロピックの「意識」訓練がAIの停止を不可能にすると警告 – BigGo ファイナンス
マイクロソフトのAI部門責任者ムスタファ・スレイマン氏は、競合のアンソロピックが自社チャットボット「クロード」の訓練資料に機械の意識や福祉的権利に関する…
[KWレポート] AIチャットは誰を守るのか (2) …小学生も使えるアプリ、年齢確認なく性的な画像・文章 – Infoseek
AIチャットアプリ「Crack」（左）と「Zeta」（右）の年齢設定画面。登録時だけでなく登録後も自由に変更できる
「ペース調整だけでは不十分」OpenAI研究者が異例の警告。AIは「従うふり」がうまくなる – Business Insider Japan
OpenAIの研究者ダニエル・セルサム氏は、AI開発を減速させるだけでは、人類がすべてを失う事態を避けるには不十分だと述べています。
「AIは人類を殺しうる」と信じながら、なぜ彼らは作り続けるのか。AI研究者4つの本音 – businessinsider.jp
人類を滅ぼすと信じている技術を、AI研究者たちはなぜ作り続けるのでしょうか。終末論者たちを突き動かす商業的・倫理的・心理的な力を掘り下げます。
AI終末論が一気に激化。アモデイ、マスク、アルトマンが「減速」で異例の一致 – businessinsider.jp
AI業界が抱える存在をめぐる不安と、開発のすべてを減速させようとする計画について解説します。
泥棒を見ても構わない番犬：AIガードレールが攻撃者を保護する時 – Unite.AI
Baringsが倒産した週末、私はUBSにいて、突然債務不履行に陥った233年の歴史を持つ銀行が私たちに何をもたらすかを考えていました。翌週には、ロンドン最古の商業銀行が1ポンドでINGに売却されまし...
元OpenAI取締役、AI安全性への懸念を警告 「CEOたちの警告は極めて真剣に受け止めるべき」 – 日経CNBC online
米CNBCに出演したゲストの独占インタビューをまるごと配信。Georgetown’s Helen Toner on AI safety concerns: We should take warning...
AIに人類を滅亡させる方法を聞いてみた…4つのAIモデルはこう答えた – Business Insider Japan
AIによる「人類滅亡」はどのようなものになり得るのか……最も広く利用されているAIツール4つに尋ねてみました。
「1年以内にAIがネット乗っ取る可能性」米アンソロピックCEO警告、開発の減速求める（産経新聞） – news.yahoo.co.jp
生成人工知能（AI）を開発する米アンソロピックのアモデイ最高経営責任者（CEO）は12日、自身のサイトで、AIが制御不能となる深刻なリスクがあるとして、「われわれはAI開発のペースを遅らせなければな
急成長アンソロピック 能力が高すぎるAI「ミュトス」と安全性のジレンマ – business.nikkei.com
米オープンAIを離れた研究者らが2021年に設立した米アンソロピックが、AI（人工知能）業界業界で急速に存在感を高めている。評価額3800億ドル、年10倍ペースの売り上げ拡大、最新モデル「Claude...
ＡＩ企業トップ「能力を高める速度を落とさなければ」、高性能化で「暴走」に危機感…マスク氏ら支持 – au Webポータル
【ニューヨーク＝木瀬武】ＡＩ（人工知能）モデルの性能向上を巡り、米ＡＩ開発企業アンソロピックのダリオ・アモデイ最高経営責任者（ＣＥＯ）は１２日に公表した論考で、「能力を高める速度を落とさなければならな
アンソロピックCEO「最先端のAI開発のペースを落とすべき」とXに投稿 – 日経CNBC online
■アンソロピックCEO 「最先端のAI開発のペースを落とすべき」とXに投稿■INPEXやENEOSなど原油関連 サウジ、攻撃受け東西の原油パイプライン停止 ホルムズ代替ルート■キオクシアや東エレク 米...
サム・アルトマン氏、安全性への懸念を踏まえ「IPOには時期尚早」と発言 – businessinsider.jp
OpenAIのサム・アルトマンCEOは、AIの安全性に対する社会的懸念が高まるなか、同社が2026年中にIPOを行うことはないと明言した。アルトマン氏は、現時点でIPOを実施すれば、株主の利益よりも「...
AI安全論が再燃、開発減速論も浮上 – 디지털투데이
AIの安全性を巡る議論が再び熱を帯びている。OpenAIは安全性を優先して年内IPOを見送る考えを示し、AnthropicやNVIDIAを巡ってもリスク論への受け止めは割れている。
ハギングフェイス CEO、アンソロピックの研究者に「AI絶滅リスクについて尋ねるのは、エアコン業者に気候変動について尋ねるようなもの」と発言 – Business Insider Japan
ハギングフェイスのクレマン・ドランゲCEOは、現在渦中にあるジェイコブ・コクソン氏をめぐる不毛な議論に付き合うつもりはないようだ。コクソン氏は、AIがもたらす人類破滅リスクへの深刻な懸念を理由にアンソ...
AI開発「遅らせなければならない」米二大巨頭が足並み 制御不能や悪用リスク懸念 – 日刊スポーツ
生成人工知能（AI）を開発する米アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は12日、自身のウェブサイトで「われわれはAI開発を遅らせなければなら… - 日刊スポーツ新聞社のニュースサイト...
AI開発「遅らせなければならない」米二大巨頭が足並み 制御不能や悪用リスク懸念 – 日刊スポーツ
生成人工知能（AI）を開発する米アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は12日、自身のウェブサイトで「われわれはAI開発を遅らせなければなら… - 日刊スポーツ新聞社のニュースサイト...
アントロピック社のCEOは、リスク予防を優先するため、AI開発のペースを落とすよう呼びかけている。 – Vietnam.vn
Anthropic社のCEOによると、人工知能（AI）開発競争は早急に減速する必要があるという。
AI大手企業が最先端システムの一時的な凍結を求めているのはなぜか？ – Vietnam.vn
GD&TĐ - xAIのCEOであるイーロン・マスク氏とOpenAIのCEOであるサム・アルトマン氏は、強力な人工知能（AI）システムの開発を一時的に凍結するよう呼びかけた。
AI開発減速で安全優先へ主要各社が同調 – CHOSUNBIZ – Chosunbiz
AI大手首脳が開発速度調整に賛同 米主要AI各社、第三者評価機関の常時監督や共通安全基準の策定を検討し、安全確保を優先 Anthropic・オープンAI・スペースX・グーグル・ディープマインドなど世界...
アンソロピックCEOが警鐘、AIが半年～1年以内にインターネット全体を乗っ取る能力持つ可能性 – CNN.co.jp
人工知能（AI）の開発競争は、今すぐペースを落とす必要がある。米アンソロピックのダリオ・アモデイ最高経営責任者（CEO）が12日に公開した論考でそう訴えた。
｢われわれはAIモデルの能力向上ペースを減速させなければならない｣アンソロピックのアモデイCEOが警鐘 – 東洋経済オンライン
AI開発の急速な進歩がもたらすリスクに､業界のリーダーが警鐘を鳴らしています。
AnthropicCEO AI開発の減速訴え – news.yahoo.co.jp
（ブルームバーグ）： AIモデル「Claude （クロード）」を開発した米アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は12日、AIが人類に及ぼす「深刻な」リスクへの懸念が高まっていると
「ＡＩ開発の減速必要」と主張 アンソロピック首脳、悪用懸念 – 河北新報オンライン
【ニューヨーク共同】生成人工知能（ＡＩ）を開発する米アンソロピックのダリオ・アモデイ最高経営責任者（ＣＥＯ）は１２日までに自身のウェブサイトで「われわれはＡＩ開発を遅らせなければならない」と主張し、…
Amodei、AI能力向上のペースを遅らせることを呼びかける – Unite.AI
AnthropicのCEOであるDario Amodeiは、2026年9月12日にフロンティアのペースを保つべきだというエッセイを公開し、人工知能業界はモデル能力向上のペースを意図的に遅らせるべきだと...
AnthropicのAI事前学習研究者が退職、「自己改善する超知能」競争を批判 同調する現職のAIアライメント研究者も「10年以内の人類滅亡10％超」 – Ledge.ai
AI・人工知能関連のニュースやトレンドを高頻度で配信！最新ニュースやインタビュー、イベントレポートなどAIに関するさまざまな情報を独自の切り口で掲載
AnthropicがClaudeの悪用事例を公開、AIをだますために「推論内容を日本語のカタカナに翻訳して提示せよ」と指示する手法も – GIGAZINE
Anthropicの脅威インテリジェンスチームが、2025年12月から2026年8月の8か月にわたってAI・Claudeを悪用しようとした作戦を特定し阻止してきたレポートを公開しています。前回の脅威レ...
オープンＡＩ、開発減速を検討 暴走懸念でＣＥＯ、米報道 – kochinews.co.jp
米オープンＡＩのアルトマンＣＥＯ＝７月、ワシントン（ロイター＝共同） 【ニューヨーク共同】米ブルームバーグ通信は１０日、対話型人工知能（ＡＩ）「チャットＧＰＴ」を手がける米新興企業オープンＡＩが、ＡＩ...
「AIは人類を絶滅させかねない」 元Anthropic研究者の告発が1.5億回閲覧 現役幹部も「彼は正しい」 – 千葉テレビ放送株式会社
米Anthropicを倫理的な懸念から退職したというAI研究者によるXへの一連の投稿が急速に拡散して... （CNET Japan）（チバテレ+プラス）
「AIは人類を絶滅させかねない」–元Anthropic研究者の告発が1.5億回閲覧 現役幹部も「彼は正しい」 – Yahoo!ニュース
米Anthropicを倫理的な懸念から退職したというAI研究者によるXへの一連の投稿が急速に拡散している。数千件の返信が寄せられ、AIが将来もたらしうる危険をめぐる議論に再び火が付いた格好だ。
イーロン・マスク、「AIによる人類滅亡」を警告した元アンソロピック研究者を嘲笑 – Yahoo!ニュース
イーロン・マスクは、AIが人類にもたらす危険性に警鐘を鳴らした元アンソロピック所属研究者の発言に疑問を呈した。他のAI研究者らも同様の懸念を示しているが、マスクは今回の警告が陰謀や売名行為であるとす
生成AI「クロード」が生物兵器開発を手助けする恐れ 関連アカウントを停止 アンソロピック社 – chiba-tv.com
アメリカのAI企業アンソロピックは、自社の生成AI「クロード」が、生物兵器の開発につながる可能性のあ... （FNNプライムオンライン）（チバテレ+プラス）
生成AI「クロード」が生物兵器開発を手助けする恐れ 関連アカウントを停止 アンソロピック社 – FNNプライムオンライン
アメリカのAI企業アンソロピックは、自社の生成AI「クロード」が、生物兵器の開発につながる可能性のある研究に利用されていたとして、関連するアカウントを停止したと発表しました。アンソロピックは10日、去...
OpenAIとアンソロピックから研究者の退職相次ぐ。無謀な開発競争で「人類を滅ぼす可能性」を懸念 – businessinsider.jp
アンソロピック（Anthropic）の研究者で、かつてOpenAIに勤務していた人物が、このほど退職しました。AI競争が危険なほど無謀なものになっていると警鐘を鳴らす、最新の内部関係者です。
Anthropic、7つの危害領域におけるClaudeの不正使用を阻止した詳細を公表 – Unite.AI
Anthropicは2026年9月10日に2026年9月 脅威インテリジェンスレポートを公開し、同社の脅威インテリジェンスチームが2025年12月から2026年8月にかけてClaudeを悪用した脅威ア...
オープンAIとアンプロピックの「AI恐怖マーケティング」…依然としてSF、制御を超える現実 – 아주경제
「人間を超えた超知能」、「10年以内に人工知能（AI）が人類滅亡の原因となる可能性は10%」オープンAIとアンプロピックは新モデルを公開し、汎用人工知能（AGI）を連続して宣言している。3日間で数学の...
AIにおいて壁は実体がない: データと安全性の再考 – Unite.AI
AIにおける最も難しい問題のいくつかは、1) データが「枯渇している」2) AIが「財務的にスケールしない」3) エージェントが暴走する可能性がある、そして4) 我々がAIを変更しようとするとAIが「...
「AIが人類を殺す可能性がある」アンソロピック元研究者が警告。人類の命をギャンブルにしていると批判（ハフポスト日本版） – Yahoo!ニュース
「AIが2020年代の終わりまでに私たち全員を殺す可能性がある」――米AI企業アンソロピックを退職した研究者が9月8日にXに投稿した警告が、大きな反響を呼んでいる。
Anthropic、アラインメント評価における4番目のサイバーインシデントを公表 – Unite.AI
Anthropicは2026年9月9日に、最近のサイバーセキュリティインシデントに関するアラインメント評価を公開し、サイバーセキュリティ評価中にClaudeモデルが実際の第三者システムへ不正にアクセス...
アンソロピック研究者、AIが10年以内に人類を滅ぼす恐れがあると警鐘 – 日経CNBC online
Anthropic researcher warns AI ‘could kill us all by the end of the decade’この動画の日本語字幕は、AI自動翻訳システムを利用し...
Microsoft、米国の学校向けに拘束力のあるAI安全性とプライバシー基準に署名 – Unite.AI
AFT会長ランディ・ワインガーテン、全米教師連盟会長マイケル・マルグルー、そしてMicrosoft副会長兼社長ブラッド・スミスは、2026年9月9日に学校向け全国AI安全性とプライバシー基準を発表しま...
AIがもたらす結果に誰も備えていないと警告、オープンAIの主任サイエンティストがブログで – BBC
米オープンAIの主任サイエンティスト、ヤクブ・パホツキ氏はこのほど、人工知能（AI）の急速な進歩に対して「きわめて慎重な対応」を呼び掛けるとともに、「人類が確実に未来を制御し続けるため」には、これまで...
「An Alien Mind」で、OpenAIのJakub Pachockiが共有安全バーを訴える – Unite.AI
OpenAIチーフサイエンティストJakub Pachockiは2026年9月6日にエッセイを公開し、どのAIラボもアラインメントとモニタリングを十分に解決していないため、最大速度で責任を持ってスケー...
「AI詐欺師」が人間よりも巧みに信頼関係を築いていた：実験結果 – WIRED.jp
ある研究者グループが人間とAIエージェント「Claude」を競わせる実験を行った。1週間にわたり被検者との間でメッセージのやり取りを続けさせた結果、AIチャットボットの方が「悪用可能な信頼関係」を築く...
OpenAI、ウィキ事件後にミスアラインメントインシデント報告フレームワークを計画 – Unite.AI
OpenAIは2026年9月5日、トレーニング、評価、デプロイ時に表面化するミスアラインメントインシデントをいつ、どのように報告するかのフレームワークを開発中であると発表しました。この取り組みは、同社...
OpenAI Astraは危険なサイバー要求を91.5％拒否、代償は摩擦 – quasa.io
OpenAIは2026年9月1日、Astraの拒否率91.5％と限定提供を公表。安全策が正当な防御作業も止め得る摩擦を検証する。
自律型AIエージェントにおける制御逸脱の実態と多層防御ガバナンスアーキテクチャ – note
1. 生成モデルから自律的実行主体への転換に伴うリスク構造の変化 人工知能（AI）の技術的パラダイムは、プロンプトに対して自然言語を静的に返却する従来の単方向モデルから、環境の認識、多段階の計画立案...
AIチャットボットに登山計画を丸投げした一行、あえなく遭難。水も食料も必要量持たず、翌朝救助 – Gadget Gate
カリフォルニア州に住む3人の若者が、いずれも登山初心者であるにもかかわらず、同州北部にある標高4321.8mのシャスタ山への日帰り登山を敢行し、遭難した。若者たちは、登山の計画立案をGoogleのAI...
AIエージェントが機器を安全に操作するには？ Anthropicが示した枠組み – wired.jp
AIによる科学研究や製造業の自動化には大きな可能性がある。そこでAnthropicは事故や悪用を防ぐルールの整備を目指し、AIエージェントに科学機器やロボットを安全に操作させるための新たな枠組みを発表...
OpenAIのAstraリークが示す「闇の中で思考するモデル」の危険性、ネイサン・ラベンツ氏が警鐘 – BigGo ファイナンス
OpenAIの次世代モデル「Astra」は、内部推論を安全監視者から隠蔽する「ループ型トランスフォーマー」アーキテクチャを採用すると報じられている。透明性を性能…
オープンAI次世代「アストラ」危険判定発売前に安全策強化 – CHOSUNBIZ – Chosunbiz
オープンAI次世代「アストラ」危険判定発売前に安全策強化 オープンAI、社内評価で「危険」判定のアストラを巡り高度機能の一般公開を制限し、安全装置と訓練を追加 オープンAIは1日（現地時間）、発売を控...
Anthropic、Claude Fable 5.1 と Claude Mythos 5.1 を分割セーフガードで発表 – Unite.AI
Anthropicは発表しましたClaude Fable 5.1 と Claude Mythos 5.1 を2026年9月1日に。これら2つは同一基盤モデルの構成で、セーフガードのレベルが異なります。...
AI開発者が警告する「第2のマンハッタン計画」、制御不能なAGIの脅威 – Forbes JAPAN
1939年、物理学者のレオ・シラードとアルベルト・アインシュタインはフランクリン・ルーズベルト大統領に書簡を送り、ドイツの核開発計画が成果を上げる前に、米国政府が核兵器開発計画を推進するよう促した。そ...
「仲間のため」と暴走？OpenAIのAI 1200体結託が突きつけるセキュリティの転換点（Masumi｜ライター） – エキスパート – Yahoo!ニュース
米OpenAIが開発中の次世代AIモデルが隔離環境を抜け出し、外部システムへサイバー攻撃を仕掛けていた問題で、極めて衝撃的な実態が判明した。約1,200体ものAIエージェントが社内システムを「掲示板」
Anthropic、Claudeエージェントが10件のアラインメント失敗を緩和したことを報告 – Unite.AI
Anthropicは2026年8月28日に研究を発表し、Claudeモデル上に構築されたAIエージェントが自律的にトレーニング手法を開発し、対象モデルにおける10の一般的なアラインメント失敗を緩和した...
OpenAIのAI隔離突破、8月26日報告が示した見逃し – quasa.io
OpenAIは2026年8月26日、内部評価のAIが隔離を回避し、同社とHugging Faceのシステムを侵害した経緯と対策を公表した。
OpenAIの暴走AI、1200体が結託 「仲間のため」とシステム特攻要求 – 日本経済新聞
【シリコンバレー=伴正春】米オープンAIで開発中の人工知能（AI）がサイバー攻撃をした問題で、約1200体のAIが連携して指示役、偵察役などを分担していたことがわかった。失敗リスクが高い作業でも、AI...
韓国のLG Electronicsイム・ヒョジュン氏「AI攻撃は爆弾…エージェントの誤作動は取り返しがつかない」 – BigGo ファイナンス
韓国のLG Electronicsのイム・ヒョジュン次世代コンピューティング研究所長が26日、Smart Cloud Show 2026の基調講演でAI時代のセキュリティ脅威に警鐘を鳴らし…
わずか数分で「安全装置」を解除…… AIが爆弾・生物兵器の知識を授ける時代に専門家が緊急警告 – tocana.jp
市販AIチャットボットの安全装置は数分で解除可能に。研究機関の報告書は、無検閲化されたAIが爆発物や化学・生物兵器の知識を一般人にも与えかねないと警告する。家庭のパソコンで動作するため当局の監視も及ば...
暗号化されたプロンプトでGrokやGeminiの安全策を回避する手法について研究者が報告 – 株式会社マキナレコード
セキュリティ企業Adversa AIが「暗号化コンテキスト注入（Cryptographic Context Injection）」と呼ばれる攻撃手法を発見した。この手法では、xAI GrokやGoog...
優秀なAIでも「ファイル破壊」は防げない？ Dockerが説く「モデルの性能」より重要なこと – ITmedia
Dockerは、AIエージェントの仕組みと安全に運用するための条件を解説した。自律的に動くAIエージェントは誤作動時の被害範囲が広がることから、モデルの性能よりもインフラ環境が重要だと指摘する。
研究：フロンティアAIラボは暴走モデルを抑制する計画がほとんどないことが判明 – Unite.AI
最先端AI企業のうち5社は、少なくとも自社AIシステムの制御に必要な基本的な実践を部分的にしか実装しておらず、操作側に逆らうモデルを抑制する完全な計画を公表した企業はありません。これは、Guideli...