タグ: AI安全対策
Anthropic共同創業者がAIで米GDP50％成長予測 安全装置整備は数年猶予 – CHOSUNBIZ – Chosunbiz
Anthropic共同創業者がAIで米GDP50％成長予測 安全装置整備は数年猶予 米国のGDPは30兆ドルから44兆ドルへ拡大する試算、一方でジャック・クラークは特異点リスクや生物学・サイバー分野の...
ＡＩ国際機関設立を提言 科学者ら安全対策求める – 高知新聞
ジェフリー・ヒントン氏 【ワシントン共同】２０２４年にノーベル物理学賞を受賞した人工知能（ＡＩ）研究の第一人者ジェフリー・ヒントン氏らが１５日までに、ＡＩの安全対策を担う国際機関を設立するよう求める公...
ＡＩ危機管理へ連絡チャンネル – 今治経済新聞
米ホワイトハウスは２５日、トランプ大統領と中国の習近平国家主席の会談で、人工知能（ＡＩ）の危機管理に向け、２国間の連絡チャンネルを設けることで合意したと発表。写真は茶会に臨む米中首脳ら＝同日 【EPA...
ＡＩ危機管理へ連絡チャンネル – 東大阪経済新聞
東大阪経済新聞は、広域東大阪圏のビジネス＆カルチャーニュースをお届けするニュースサイトです。イベントや展覧会・ライブなどのカルチャー情報はもちろん、ニューオープンの店舗情報から地元企業やソーシャルビジ...
ＡＩ危機管理へ連絡チャンネル – 調布経済新聞
調布経済新聞は、広域調布圏のビジネス＆カルチャーニュースをお届けするニュースサイトです。イベントや展覧会・ライブなどのカルチャー情報はもちろん、ニューオープンの店舗情報から地元企業やソーシャルビジネス...
ＡＩ危機管理へ連絡チャンネル – 板橋経済新聞
板橋経済新聞は、広域板橋圏のビジネス＆カルチャーニュースをお届けするニュースサイトです。イベントや展覧会・ライブなどのカルチャー情報はもちろん、ニューオープンの店舗情報から地元企業やソーシャルビジネス...
元Google幹部からの警告から、AIから子供たちを守るべきだという呼びかけまで。 – Vietnam.vn
AIは教育や子どもの発達に新たな可能性をもたらす一方で、思考力、心理、そして安全面への影響に関する警告は、技術革新には必ず保護メカニズムが伴わなければならないことを示している。ベトナムにとって、この要...
国連は、AIエージェントに対する安全対策には依然として限界があると警告している。 – Vietnam.vn
9月21日、国連が調整役を務める人工知能に関する国際科学委員会（IPAI）は、AIエージェントに対する従来の安全対策には徐々に限界が見られると警告した。
ＡＩリスクで協調呼び掛け – 江戸川経済新聞
江戸川経済新聞は、広域江戸川圏のビジネス＆カルチャーニュースをお届けするニュースサイトです。イベントや展覧会・ライブなどのカルチャー情報はもちろん、ニューオープンの店舗情報から地元企業やソーシャルビジ...
AIの「キルスイッチ」義務化も検討すべき アンソロピック共同創業者がBBCに話す – bbc.com
人工知能（AI）に、第三者がチェック可能な「キルスイッチ」（強制停止機能）を搭載することを、開発企業に義務付ける必要があるかもしれない――。そうした考えを、世界最大級のAI企業の共同創業者の1人がBB...
生成AI「クロード」が生物兵器開発を手助けする恐れ 関連アカウントを停止 アンソロピック社 – Excite エキサイト
アメリカのAI企業アンソロピックは、自社の生成AI「クロード」が、生物兵器の開発につながる可能性のあ...
AI絶滅リスク、対策の責任者が「計画はない」と認めた – 株式会社エクサウィザーズ
米AI大手Anthropicで事前学習を担当していた研究者Jacob Coxon氏が9月8日（現地時間）に辞任し、AI業界そのものから離れると表明した。Xへの投稿でAnthropicと米OpenAIの...
AI絶滅リスク、対策の責任者が「計画はない」と認めた – 株式会社エクサウィザーズ
米AI大手Anthropicで事前学習を担当していた研究者Jacob Coxon氏が9月8日（現地時間）に辞任し、AI業界そのものから離れると表明した。Xへの投稿でAnthropicと米OpenAIの...
AI「人類存亡に関わるリスク」 国連高官、安全対策訴え – 47NEWS
【ジュネーブ共同】国連のターク人権高等弁務官は7日、人権理事会で演説し、高度な人工知能（AI）が「人類の存亡に関わるリスク」をもたらす可能性があると警告した。安全性を確保する仕組みを「手遅れになる前 ...
Anthropicの研究、AIが安全対策タスクで人間の研究者を上回る性能を発揮——コストはわずか2.7% – BigGo ファイナンス
Anthropicは8月28日、AIシステムが他のモデルのアライメント問題を自律的に修正できるとする研究結果を発表した。自動化された研究者は10の行動カテゴリーすべて…
【提言】AIエージェントの“暴走”を防ぐには 安全なAI業務活用には対策が不可欠 (1/3) – ASCII.jp
企業ビジネスの現場にAIが浸透し始めたなかで、新たな脅威も生まれています。これからさらにAIサービス、AIエージェントの活用を推進していくためには、そうした脅威に対応するための新たなセキュリティ戦略が...
AIのデータが危険にさらされる3つの瞬間、改ざんを未然に防ぐ安全対策とは – 日経クロステック Active
企業でのAI導入が加速するにつれて、AIの基盤となるデータを保護する必要性が高まっている。データが危険にさらされる3つの瞬間について説明するとともに、データセキュリティのソリューションを紹介する。
生成ＡＩの安全対策、８社のうち５社が総合「Ｄ」以下…信頼性や偽情報の拡散防止策など米非営利団体が評価 – 読売新聞オンライン
【読売新聞】 【ニューヨーク＝木瀬武】米国の非営利団体「フューチャー・オブ・ライフ・インスティテュート」は３日、生成ＡＩ（人工知能）を開発する米オープンＡＩや中国のディープシークなど主要８社の安全対策...
調査結果：AIの安全対策に課題があるにもかかわらず、生成AIへの信頼が世界的に急増 – サンスポ
野球、サッカー、ラグビー、ゴルフなどスポーツ全般、芸能の最新ニュースを掲載。サンケイスポーツ新聞（サンスポ）の公式サイトです。
調査結果：AIの安全対策に課題があるにもかかわらず、生成AIへの信頼が世界的に急増 – 47NEWS
信頼性の高いAIを構築する組織は、AIプロジェクトのROIを2倍にする可能性が60％高く、責任ある取り組みを怠ることの代償の大きさが浮き彫りに 米国ノースカロライナ州 ...
調査結果：AIの安全対策に課題があるにもかかわらず、生成AIへの信頼が世界的に急増 – AGARA 紀伊民報
【画像：https://kyodonewsprwire.jp/img/202510076642-O1-16OfJo39】 信頼性の高いAIを構築する組織は、AIプロジェクトのROIを2倍...
調査結果：AIの安全対策に課題があるにもかかわらず、生成AIへの信頼が世界的に急増 – AGARA 紀伊民報
【画像：https://kyodonewsprwire.jp/img/202510076642-O1-16OfJo39】 信頼性の高いAIを構築する組織は、AIプロジェクトのROIを2倍...
第2回 「エージェント型AI」とは？そして、安全に利用するために – リスク対策.com
エージェント型AIは、タスクを自律的に実行し、「思考」に基づく意思決定を行い、サードパーティ製アプリケーションと連携してタスクの完了を促進する。
AIで不適切クイズ投稿を検知＆遮断、BLQS経済圏アプリ『QAQA』が安全なクイズ投稿プラットフォーム実現へ – 時事ドットコム
［株式会社BLOCKSMITH&Co.］株式会社BLOCKSMITH&Co.（本社：東京都港区、代表取締役：真田哲弥、以下BLOCKSMITH）は、ユーザー投稿型のポイ活クイズアプリ『...
ゼットスケーラーが最先端のAIイノベーションを発表、攻撃の阻止、機密データの保護、AIの安全な導入を支援 – ニコニコニュース
※本資料は、米ラスベガスで開催されたZenith Liveにて2025年6月3日 (現地時間)に発表したプレス リリースの日本語抄訳版です。 クラウド セキュリティ業界を牽引するZscaler, I...
生成AI悪用の危険性を予見…AI同士戦わせ、フェイク見破る能力高める研究 福井工大の教授が科学技術賞 – goo ニュース
科学技術に関する研究開発などで顕著な成果を収めた研究者をたたえる本年度の科学技術分野の文部科学大臣表彰で、福井工大経営情報学部長の馬場口登教授（68）が、研究部門...