Anthropic Claude 4.5の「Soul Doc」流出が示す、AI人格設計と安全性 – innovaTopia
Anthropic Claude 4.5「Soul Doc」リークはAIがどのような“性格”と倫理観を埋め込まれているかを示す資料である。安全性と有用性の優先順位、operatorとuserの関係、f...
タグ: AI安全性
詩的なプロンプトがAIの安全フィルターを回避、ChatGPTや他のチャットボットの重大な脆弱性が明らかに – biggo.jp
倫理的保護機能を備えて設計された人工知能システムが、予期しない攻撃経路に対して脆弱であることが証明された。それは「詩」である。最近の研究により、危険な要求を単に詩の形で表現するだけで、主要なAIプラッ...
AIのパイオニアたちがVinFuture 2025トークで倫理と安全性について議論 – Vietnam.vn
人工知能（AI）の台頭は歴史的な転換点を生み出しており、各国はテクノロジーの倫理、安全性、責任に関する前例のない疑問に答えることを迫られています。AI システムがより強力になり、より高速になり、より自...
AdobeがGoogleやOpenAIと連係 広がるAIエコノミーで安全性をどう保つ – 日経クロストレンド
米Adobeは2025年10月28日、米Googleの「Gemini」など他社のAIモデルとの連携機能を発表した。これまでは独自の描画AIを提供してきたが、他社AIを取り込むことで、同社ツールを利用す...
Qlean Dataset、「AIの性能と安全性を両立するAIデータ戦略ウェビナー」に登壇決定 – 品川経済新聞
品川経済新聞は、広域品川圏のビジネス＆カルチャーニュースをお届けするニュースサイトです。イベントや展覧会・ライブなどのカルチャー情報はもちろん、ニューオープンの店舗情報から地元企業やソーシャルビジネス...
AI安全性テストで数百の脆弱性発見、専門家が現行手法の限界を指摘 – oneword.co.jp
AI安全性テストで数百の脆弱性が発見され、現行手法の有効性に疑問 AIエージェントの普及により新たなセキュリテ
「GENIAC-PRIZE」生成AIの安全性に関わるトライアル審査の受賞者が決定しました (2025年10月10日) – Excite エキサイト
生成AIの安全性確保に向けたリスク探索およびリスク低減技術の開発を促進経済産業省とNEDOは、NEDO懸賞金活用型プログラム「GENIAC-PRIZE」の3領域の一つである「生成AIの安全性確保に向け...
（プレスリリース）「GENIAC-PRIZE」生成AIの安全性に関わるトライアル審査の受賞者が決定しました – ニフティニュース
生成AIの安全性確保に向けたリスク探索およびリスク低減技術の開発を促進 経済産業省とNEDOは、NEDO懸賞金活用型プログラム「GENIAC-PRIZE」の3領域の一つである「生成AIの安全性確保に向...
（プレスリリース）「GENIAC-PRIZE」生成AIの安全性に関わるトライアル審査の受賞者が決定しました – ニフティニュース
生成AIの安全性確保に向けたリスク探索およびリスク低減技術の開発を促進 経済産業省とNEDOは、NEDO懸賞金活用型プログラム「GENIAC-PRIZE」の3領域の一つである「生成AIの安全性確保に向...
生成AIの安全性と信頼性を高める研究を推進 シンガポール南洋理工大学 – Science Portal Asia Pacific
ASEANの科学技術に関する日本語ポータルサイトです。ASEANの科学技術ニュース、専門家等による科学技術分野の現状や研究動向などのコラム、独自調査を含む調査報告など様々な最新情報を提供しています。
茂木健一郎脳科学者「AI安全性も顧客創造も“人間をループに入れる”ことが本質」 – ライブドアニュース
脳科学者・茂木健一郎氏が、自身のYouTubeチャンネルで「人工知能に対して、人間をループにいれることの意味」と題した動画を公開。動画内で茂木氏は、AIの進化が著しい現代において「キープヒ
OpenAI、10代向けChatGPT安全機能を強化：訴訟受け緊急連絡先システム導入予定 – innovaTopia
16歳のアダム・レイン君の自殺にChatGPTが関与したとして両親がOpenAIを提訴した事件を受け、同社が保護者制御機能と緊急連絡先システムの導入を発表。訴状によると、ChatGPTは自殺方法を提案...
進化する生成AI、暴走のリスクは？識者が解説「AIは自分が停止しないことが最重要」「手段として使えるなら人を騙すこともする」業界トップ研究者も危険性を発信 – ABEMA TIMES
アメリカ・OpenAIは7日、生成AI「ChatGPT」の最新モデル「GPT-5」を発表した。これまでのモデルよりも正確性が向上し、回答のスピードもアップ。特に誤った情報を返してしまうハルシネーション...
AIの安全性問題、どう解決するか | WSJ PickUp – ダイヤモンド・オンライン
xAIの「グロック」が暴力的で反ユダヤ主義的な投稿をする原因となった脆弱性は対処可能な問題だが、それは人々がそうしたいと望んだ場合に限られる。
AIの安全性問題、どう解決するか | The Wall Street Journal発 – ダイヤモンド・オンライン
米AI（人工知能）スタートアップ、xAIのAIチャットボット「Grok（グロック）」が暴力的で反ユダヤ主義的な投稿をする原因となった脆弱（ぜいじゃく）性は、対処可能な問題だが、それは人々がそうしたいと...
脳科学者・茂木健一郎氏の考察：AI安全性と身体性の関連性とは？ – ライブドアニュース
脳科学者の茂木健一郎氏が、「人工知能の『シンギュラリティ』と、『身体性』」と題した動画で、AIの指数関数的な成長とその限界について深く掘り下げた。茂木氏は、近年注目されているシンギュラリティの概念につ...
米欧中のAI戦略シフトの中で、セーフティとセキュリティのバランスをどう見極めるのか？ (1/3) – EnterpriseZine
2025年3月7日に開催されたAIガバナンス協会（AIGA）主催のMeetupでは、AIの急速な発展に伴う課題と今後の展望について、業界をリードする専門家たちによる2部構成のパネルディスカッションが行...
2025年4月16日（水）ウェビナー開催のお知らせ「AIの安全性を探る、2025年SXSWからの洞察」 – 時事通信ニュース
［株式会社アマナ］2025年4月16日 12:00開催コミュニケーション変革をクリエイティブで実現する株式会社アマナ（本社：東京都品川区、代表取締役社長：金子剛章、以下「アマナ」）は、2025年4月1...
2025年4月16日（水）ウェビナー開催のお知らせ「AIの安全性を探る、2025年SXSWからの洞察」 – BIGLOBEニュース
2025年4月16日12:00開催コミュニケーション変革をクリエイティブで実現する株式会社アマナ（本社：東京都品川区、代表取締役社長：金子剛章、以下「アマナ」）は、2025年…｜BIGLOBEニュース
2025年4月16日（水）ウェビナー開催のお知らせ「AIの安全性を探る、2025年SXSWからの洞察」 – PR TIMES
株式会社アマナのプレスリリース（2025年3月28日 10時00分）2025年4月16日（水）ウェビナー開催のお知らせ「AIの安全性を探る、2025年SXSWからの洞察」
DeepSeek偽広告に警戒！Google検索で拡散するAIブランドを装ったマルウェア攻撃の実態 – innovaTopia
2025年3月26日、マルウェア対策企業Malwarebytesの研究者が、Google検索結果に偽のDeep
政府、ＡＩ法案を閣議決定 – あべの経済新聞
あべの経済新聞は、広域あべの圏のビジネス＆カルチャーニュースをお届けするニュースサイトです。イベントや展覧会・ライブなどのカルチャー情報はもちろん、ニューオープンの店舗情報から地元企業やソーシャルビジ...
【そもそも解説】AIにはどんなリスク？ 新たな法案で対応可能か – 朝日新聞
AI法案が閣議決定されました。AI技術の進歩は急速に進んでおり、私たちの暮らしは便利になる一方、社会に様々なひずみも生んでいます。 Q 人工知能（AI）にはどんなリスクがあるのか。 A AIは大量の…
生成AIのルールづくり「広島AIプロセス」賛同する国・地域が都内で初の対面会合（2025年2月27日） – BIGLOBEニュース
生成AIのルールづくりにむけた枠組み「広島AIプロセス」の趣旨に賛同するおよそ40の国と地域が初めての対面会合を都内で開きました。「広島AIプロセス」は、生成AIのルールづく…｜BIGLOBEニュース
NTTコミュニケーションズ、生成AIの回答精度、安全性を向上 二つの要素技術を発表 – 週刊BCN＋
NTTコミュニケーションズは、生成AIの回答精度を高める「rokadoc」と、コンプライアンスや情報漏えいを防ぐ「chakoshi」の二つの要素技術を2月19日に発表した。
NTTコミュニケーションズ、生成AIの回答精度、安全性を向上 二つの要素技術を発表 – 週刊BCN＋
NTTコミュニケーションズは、生成AIの回答精度を高める「rokadoc」と、コンプライアンスや情報漏えいを防ぐ「chakoshi」の二つの要素技術を2月19日に発表した。
生成AIのルール作りへ 各国担当者が対面で初会合 – nhk.or.jp
【NHK】生成AIの活用の推進と共通のルール作りを議論する「広島AIプロセス・フレンズグループ」の初めての対面での会合が27日から…
企業・団体向け生成AI「Safe AI Gateway」高機能を抑えた費用で利用できるマルチテナントプランを提供開始（2025年2月26日） – BIGLOBEニュース
株式会社ソフトクリエイト（本社：東京都渋谷区／代表取締役社長：林宗治、以下ソフトクリエイト）は、企業・団体向け生成AIサービス「SafeAIGateway」に、新たに「マルチ…｜BIGLOBEニュース
ゼロからLLMプロンプトエンジニアリング 第3回 安全にDeepSeek R1を使うには？ – LM Studioで試してみよう – BIGLOBEニュース
鮮烈なChatGPTの登場から2年以上経ち、高額な開発費を投入して作られた生成AIを手軽にローカルPCで動かせる時代になりました。先日、話題になった中国製のAI「DeepSe…｜BIGLOBEニュース
NTT Comが生成AIを安全に使うガードレール技術「chakoshi」開発、パブリックβ公開 – goo.ne.jp
入出力テキストの安全性を判定する技術、日本語に強い判別性能を備えることが特長ドコモグループの法人事業ブランド「ドコモビジネス」を展開するNTTコミュニケーションズ(...
AIチャットボットのリスクに適切に対処する方法 支援するタスクを4分類して取り組む | テクノロジー – DIAMOND ハーバード・ビジネス・レビュー
2022年、オープンAIのチャットGPT公開に対抗してグーグルがバード（現ジェミニ）を発表したが、誤答によりアルファベットの株価が9％下落した。また、2023年にはチャットGPTが生成した架空の情報…