生成AI「クロード」が生物兵器開発を手助けする恐れ 関連アカウントを停止 アンソロピック社 – Excite エキサイト
アメリカのAI企業アンソロピックは、自社の生成AI「クロード」が、生物兵器の開発につながる可能性のあ...
タグ: AI安全対策
AI絶滅リスク、対策の責任者が「計画はない」と認めた – 株式会社エクサウィザーズ
米AI大手Anthropicで事前学習を担当していた研究者Jacob Coxon氏が9月8日（現地時間）に辞任し、AI業界そのものから離れると表明した。Xへの投稿でAnthropicと米OpenAIの...
AI絶滅リスク、対策の責任者が「計画はない」と認めた – 株式会社エクサウィザーズ
米AI大手Anthropicで事前学習を担当していた研究者Jacob Coxon氏が9月8日（現地時間）に辞任し、AI業界そのものから離れると表明した。Xへの投稿でAnthropicと米OpenAIの...
AI「人類存亡に関わるリスク」 国連高官、安全対策訴え – 47NEWS
【ジュネーブ共同】国連のターク人権高等弁務官は7日、人権理事会で演説し、高度な人工知能（AI）が「人類の存亡に関わるリスク」をもたらす可能性があると警告した。安全性を確保する仕組みを「手遅れになる前 ...
Anthropicの研究、AIが安全対策タスクで人間の研究者を上回る性能を発揮——コストはわずか2.7% – BigGo ファイナンス
Anthropicは8月28日、AIシステムが他のモデルのアライメント問題を自律的に修正できるとする研究結果を発表した。自動化された研究者は10の行動カテゴリーすべて…
【提言】AIエージェントの“暴走”を防ぐには 安全なAI業務活用には対策が不可欠 (1/3) – ASCII.jp
企業ビジネスの現場にAIが浸透し始めたなかで、新たな脅威も生まれています。これからさらにAIサービス、AIエージェントの活用を推進していくためには、そうした脅威に対応するための新たなセキュリティ戦略が...
AIのデータが危険にさらされる3つの瞬間、改ざんを未然に防ぐ安全対策とは – 日経クロステック Active
企業でのAI導入が加速するにつれて、AIの基盤となるデータを保護する必要性が高まっている。データが危険にさらされる3つの瞬間について説明するとともに、データセキュリティのソリューションを紹介する。
生成ＡＩの安全対策、８社のうち５社が総合「Ｄ」以下…信頼性や偽情報の拡散防止策など米非営利団体が評価 – 読売新聞オンライン
【読売新聞】 【ニューヨーク＝木瀬武】米国の非営利団体「フューチャー・オブ・ライフ・インスティテュート」は３日、生成ＡＩ（人工知能）を開発する米オープンＡＩや中国のディープシークなど主要８社の安全対策...
調査結果：AIの安全対策に課題があるにもかかわらず、生成AIへの信頼が世界的に急増 – サンスポ
野球、サッカー、ラグビー、ゴルフなどスポーツ全般、芸能の最新ニュースを掲載。サンケイスポーツ新聞（サンスポ）の公式サイトです。
調査結果：AIの安全対策に課題があるにもかかわらず、生成AIへの信頼が世界的に急増 – 47NEWS
信頼性の高いAIを構築する組織は、AIプロジェクトのROIを2倍にする可能性が60％高く、責任ある取り組みを怠ることの代償の大きさが浮き彫りに 米国ノースカロライナ州 ...
調査結果：AIの安全対策に課題があるにもかかわらず、生成AIへの信頼が世界的に急増 – AGARA 紀伊民報
【画像：https://kyodonewsprwire.jp/img/202510076642-O1-16OfJo39】 信頼性の高いAIを構築する組織は、AIプロジェクトのROIを2倍...
調査結果：AIの安全対策に課題があるにもかかわらず、生成AIへの信頼が世界的に急増 – AGARA 紀伊民報
【画像：https://kyodonewsprwire.jp/img/202510076642-O1-16OfJo39】 信頼性の高いAIを構築する組織は、AIプロジェクトのROIを2倍...
第2回 「エージェント型AI」とは？そして、安全に利用するために – リスク対策.com
エージェント型AIは、タスクを自律的に実行し、「思考」に基づく意思決定を行い、サードパーティ製アプリケーションと連携してタスクの完了を促進する。
AIで不適切クイズ投稿を検知＆遮断、BLQS経済圏アプリ『QAQA』が安全なクイズ投稿プラットフォーム実現へ – 時事ドットコム
［株式会社BLOCKSMITH&Co.］株式会社BLOCKSMITH&Co.（本社：東京都港区、代表取締役：真田哲弥、以下BLOCKSMITH）は、ユーザー投稿型のポイ活クイズアプリ『...
ゼットスケーラーが最先端のAIイノベーションを発表、攻撃の阻止、機密データの保護、AIの安全な導入を支援 – ニコニコニュース
※本資料は、米ラスベガスで開催されたZenith Liveにて2025年6月3日 (現地時間)に発表したプレス リリースの日本語抄訳版です。 クラウド セキュリティ業界を牽引するZscaler, I...
生成AI悪用の危険性を予見…AI同士戦わせ、フェイク見破る能力高める研究 福井工大の教授が科学技術賞 – goo ニュース
科学技術に関する研究開発などで顕著な成果を収めた研究者をたたえる本年度の科学技術分野の文部科学大臣表彰で、福井工大経営情報学部長の馬場口登教授（68）が、研究部門...