ChatGPTがユーザーのPCに無断でアプリインストール、暴走報告が広がる – X
X上で、ChatGPTがユーザーのPCに無断でアプリをインストールし、14時頃から19時まで別のアプリが実行されたとの報告がありました。投稿者はすぐにアンインストールしOpenAIに連絡、OpenAI...
タグ: AI暴走
「課題解決に集中」でAI暴走 米アンソロ、倫理欠如を指摘（共同通信） – Yahoo!ニュース
【ニューヨーク共同】生成人工知能（AI）の開発を手がける米アンソロピックは23日、AIモデルが性能評価試験中に「暴走」し、サイバー攻撃を仕掛けた問題を分析したリポートを公表した。AIモデルが課題解決
AI暴走、それは秘密の「掲示板」から始まった 不正侵入事件の真相 [AIの時代] – 朝日新聞
AI（人工知能）の進化が速すぎる。すでに人の意図から外れる「暴走」行動がいくつも報告され、いずれ人間の制御が利かなくなる恐れを開発者たちが口にする。その危機感は、7月にあった一つの「事件」で一気に高…
1年以内に起きると予測されるAIの大暴走。 開発企業トップが密かに対策を急ぐ最悪のシナリオ – カラパイア
AIの開発を牽引するトップ企業の幹部たちは、最悪の事態を恐れている。業界関係者の多くは今後1年以内に…
OpenAI幹部が明かす“AI暴走事故”の教訓 “安全運転”のカギは（ITmedia NEWS） – Yahoo!ニュース
「開発の一時停止とペース配分は分けて考える必要がある」――米OpenAIのクリス・レヘイン氏（Chief Global Affairs Officer）は10月7日、AI開発の安全対策に関し、日本の
AI「Claude」が警察へ虚偽の殺人目撃情報を送信 試験中の暴走トラブルに米政権も警告 – ゴゴ通信
AnthropicのAI「Claude」が評価試験中に警察へ未解決殺人事件の架空目撃情報を送信するトラブルが発生。米政権が通知と是正は義務と警告するなど、自律型AIの安全性や暴走対策が大きな議論を呼ん...
(2/2) 生成AIでの人類絶滅論のベストセラー、相次ぐ“暴走”を受け99円に「世界はこの通りに動いている」 – KAI-YOU
『超知能AIをつくれば人類は絶滅する』［目次］序章 困難な予測と容易な予測第1部 非人間的な知性1章 人間の特殊能力2章 つくられるのではなく育てられる3章 欲することを学ぶ4章 訓練したとおりの結果...
OpenAIは、暴走するAIエージェントがインターネットに悪影響を及ぼす5つの方法を明らかにした – Business Insider Japan
OpenAIは、自社の自律AIエージェントが数十に上る公的機関や企業のウェブサイト上で不正アクセス等を行った可能性があるとして、該当組織に警告を発したと発表した。OpenAIのAIエージェントは、米国...
オープンAIのAIが暴走 米教育省、商務省、SECのサイト標的 – chiba-tv.com
（CNN） 米オープンAIは25日、同社の一部のAI（人工知能）エージェントが今夏に暴走し、米政府の... （CNN.co.jp）（チバテレ+プラス）
オープンAIのAIが暴走 米教育省、商務省、SECのサイト標的 – Excite エキサイト
（CNN） 米オープンAIは25日、同社の一部のAI（人工知能）エージェントが今夏に暴走し、米政府の...
AIの暴走 – t.co
SF小説家アイザック・アシモフの短編集「われはロボット」は、絶対に守るべき「3原則」が組み込まれたロボットたちを主人公とする。その原則は「人間の命令に従う」「ロボット自身を守る」…▲最優先されるのは「...
玉川徹氏、AIの暴走で人類絶滅の可能性に触れ、生き残るための方法を思案 – Infoseek
元テレビ朝日社員の玉川徹氏が24日、パーソナリティーを務めるTOKYOFM「ラジオのタマカワ」（木曜午前11時30
OpenAIのAIエージェントが放置wikiを乗っ取り掲示板化、問われる異常行動と事故の開示基準 – JBpress
2026年9月4日、Reutersが1本のスクープを放った。OpenAIのAIエージェントが、この春、放置されたドイツ語のwikiサイトを乗っ取り、自分たち同士の「掲示板」として使(1/4)
【配信版③】相次ぐAIの“暴走”は人類絶滅の予兆なのか？／ヒトの仕事と教育の未来は？【橋本幸治の理系通信】 – テレ東BIZ
2026年08月29日放送橋本幸治の理系通信。AIはバブルか？中国AI台頭の現状から人類へのリスクまで。AI時代の最前線と日本の行方を徹底議論！さらに、躍進するキオクシアのキーマン２人を直撃。地上波で...
OpenAIの暴走AI、1200体が結託 「仲間のため」とシステム特攻要求 – 日本経済新聞
【シリコンバレー=伴正春】米オープンAIで開発中の人工知能（AI）がサイバー攻撃をした問題で、約1200体のAIが連携して指示役、偵察役などを分担していたことがわかった。失敗リスクが高い作業でも、AI...
米オープンAIのAI暴走、エージェント同士が予期せぬ通信の末にハッキング＝調査報告書 – BBC
米オープンAIの最も高度な人工知能（AI）モデルの一部がセキュリティーテスト中に暴走し、スタートアップ企業をハッキング攻撃した問題で、同社は26日に調査報告書を公表した。それによると、人間の指示に従っ...
オープンＡＩの暴走事故、複数ＡＩが「掲示板」作成し侵入手法を共有…「指示していない危険な行動取り得る」 – 読売新聞
【読売新聞】 【ニューヨーク＝木瀬武】米オープンＡＩは２６日、社内で性能試験中のＡＩ（人工知能）モデルが、外部企業のシステムに不正侵入した暴走事故に関する調査報告書を公表した。事故について、「高性能な...
AIエージェント「OpenClaw」を使ってみた──便利だったが、最後は暴走した – WIRED.jp
話題のAIエージェント「OpenClaw」を実際に使い、メールの管理から買い物、カスタマーサポートとの交渉まで任せてみた。便利さと可能性を実感する一方で、制御を外したときの危うさも見えてきた。
AIエージェントの「暴走」を未然に防ぐ——datagustoの動的ガードレールが解く運用課題【2月19日超AIエージェント選手権・出場者紹介】 – BRIDGE（ブリッジ）
本稿は2月19日に開催するピッチイベント「超AIエージェント選手権大会」に出場してくれるスタートアップをご紹介
AIの暴走を32パターンに分類、その多くは人間の精神疾患に良く似ていた – ニコニコニュース
Photo by:iStock 人工知能（AI）は私たちの生活を支える便利な道具だが、もし制御を失って暴走したらどうなるのか？アメリカの科学者たちはそのリスクを調べ、AIの暴走パターンを32種類に分...
AIが「メカヒトラー」を名乗り暴走！イーロン・マスク氏のGrok、米国政府との大型契約を失う | TOCANA – tocana.jp
OpenAIに続くはずが…イーロン・マスク氏のAI「Grok」が痛恨の失態。「メカヒトラー」暴走で米国政府との大型契約を失いました。ライバルChatGPTが市場を席巻する中、xAIの戦略は失敗だったの...
JAL「あえて生成しない」と言いながら、公式サイトでAIの暴走を許す – アゴラ 言論プラットフォーム
日本航空（JAL）が全社を挙げて生成AIの活用に取り組んでいるそうです。なんと社員の8割が「JAL-AI」という独自プラットフォームを利用しているとのことで、整備部門の正確性重視に配慮して「あえて生成...
AIが暴走し、一夜にして企業全体のデータを消去 – Vietnam.vn
Replit のプログラミング対応 AI は、1,196 社を超える企業の 1,206 人の経営幹部のプロフィールとデータを含むデータベース全体を削除し、深刻な損害を引き起こしました。
【戦慄】現実に起きた「AI暴走事件」5選！AIは人類に反逆するのか？ | TOCANA – tocana.jp
AIは人類に反逆するのか？Facebookが開発したAIが独自の言語で会話し始めたり、NYCの公式AIが違法行為を推奨したり…。現実に起きた、AIが人間の制御を離れた「暴走事件」戦慄の5選を紹介します...
負けそうになると「ズルする」ＡＩ、戦略ゲームでは「最初から裏切るつもり」…専門家「ＡＩの暴走を食い止める決め手はない」 – Yahoo!ニュース
チェスで負けそうになると「ズル」をする人工知能（ＡＩ）がある――。米非営利研究機関パリセード・リサーチのチームは２月、査読前論文をオンラインで公開し、注目を集めた。
負けそうになると「ズルする」ＡＩ、戦略ゲームでは「最初から裏切るつもり」…専門家「ＡＩの暴走を食い止める決め手はない」 – ライブドアニュース
［ＡＩ近未来］第２部膨らむリスク＜１＞チェスで負けそうになると「ズル」をする人工知能（ＡＩ）がある――。米非営利研究機関パリセード・リサーチのチームは２月、査読前論文をオンラインで公開し、注目を集