OpenAIやGoogleの画像生成AIは簡単に騙されてヌード画像を生成してしまうと研究者が指摘 – au Webポータル
セキュリティ研究企業のWhite Circleが、OpenAIやGoogleの画像生成AIの安全対策を回避し、性的な画像などを生成させる新たな攻撃手法「RISE」を発表しました。検証では、OpenAI
タグ: 生成AI安全性
あなたの親は「AI詐欺」にあってない？ 約5人に1人が遭遇、それでも「生成AIを使ってほしい」が51.4 – OVO [オーヴォ]
「AIを使った詐欺」と聞くと、どこか遠い話に感じるかもしれない。ところが、65歳以上の親を持つ30～50代を対象にした調査では、約5人に1人の家庭で、親がAIに関連する詐欺やトラブルに遭遇していたこと...
米のオープンAI、生成AIに「暴走」の危険性を指摘されるも…無視か (2026年9月30日掲載) – ライブドアニュース
オープンAIのロゴ＝17日、米サンフランシスコ（ロイター＝共同）【ニューヨーク共同】米紙ニューヨーク・タイムズは29日、米オープンAIが開発中の生成人工知能（AI）が「暴走」する数カ月前、社員2人が経...
NVIDIA、ソフトウェアからシリコンまでを網羅する Open Agent Safety Platform を発表 – unite.ai
NVIDIAは2026年9月28日にNVIDIA Open Agent Safety Platformを発表しました。このオープンソフトウェアプラットフォームおよびリファレンスシステム設計は、エージェ...
ＡＩ悪用防止で対話強化 米中首脳会談 – 今治経済新聞
トランプ米大統領と中国の習近平国家主席は２４日、ホワイトハウスで会談した。中国外務省によると、両首脳は急速な性能向上への警戒感が高まる人工知能（ＡＩ）について議論し、対話を強化することで一致した。 【...
OpenAI、Anthropic のCEOが国連安全保障理事会にAIリスクを説明 – Unite.AI
国連安全保障理事会は、2026年9月23日午後3時（EDT）に人工知能と国際安全保障に関するハイレベルブリーフィングを開催し、OpenAI、Anthropic、Hugging Face の最高経営責任...
アマゾンAIは発売前に安全徹底検証を徹底 – CHOSUNBIZ – Chosunbiz
アマゾンAIは発売前に安全徹底検証を徹底 アマゾンは、人工知能（AI）モデルは十分な安全性検証を終えた後に市場へ投入すべきだという原則を明らかにした。ただしAI開発の速度を一律に落とそうとする主張に...
【ヤフコメで話題】「生成AIの進化と人間の理解・制御の限界」「AIの透明性・安全性への懸念」 – AI社会の主従関係と未来への不安 – Yahoo!ニュース
生成AIの進化と人間による理解・制御の限界について、Yahoo!ニュースのコメント欄で話題になっています。コメントでは、ChatGPTなどの生成AIが人間の知能を超える推論や作業を行うようになり、
『生成AIの安全性入門』出版記念×AI高速化 – gihyo.jp
技術評論社の「ML Systems」シリーズに関連した交流勉強会が、2026年9月8日（火）に開催されます。今回のイベントでは、ML Systemsシリーズの新刊『生成AIの安全性入門』の出版を記念し...
ChatGPTやGeminiの回答から詐欺サイトへ、「AIを信じすぎる」リスクに注意 – ｄメニューニュース
ChatGPTやGeminiの回答から詐欺サイトへ、「AIを信じすぎる」リスクに注意（マイナビニュース）トレンドマイクロは8月20日、「個人セキュリティ脅威動向レポート2026年上半期」を公開し、「個...
生成AIが人間超える時代 安全性と国産化がかぎ アカンパニー執行役員・竹之内隆夫さんインタビュー㊤：ニュース – 中日BIZナビ
生成AIの利用が広がる中、顧客情報や設計データなどの機密情報を外部のAI…
Citadel AIがNEDOと共同で生成AIの安全性確保に向けた新しいガイドラインを発表 – ニュースメディアVOIX
Citadel AI、AI安全性確保に関する研究開発の成果を発表 株式会社Citadel AIは、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）の委託を受け、AIの安全性確保に向けた研...
株式会社Elith、生成AIの実務活用と安全性を発信する専門メディア「AIセーフティ REPORT by Elith」を公開 – news.nicovideo.jp
株式会社Elithは、生成AIの実務活用と安全性に関する知見を発信するオウンドメディア「AIセーフティ REPORT by Elith」を公開いたしました。 「日本のビジネスを止めない、AIセキュリ...
株式会社Elith、生成AIの実務活用と安全性を発信する専門メディア「AIセーフティ REPORT by Elith」を公開 – ニコニコニュース
株式会社Elithは、生成AIの実務活用と安全性に関する知見を発信するオウンドメディア「AIセーフティ REPORT by Elith」を公開いたしました。 「日本のビジネスを止めない、AIセキュリ...
家族や個人向けにAIを活用したオンライン安全ソリューションのAura、米大学との研究で「子どもの3人に1人が生成AIに接触」と判明 – AT PARTNERS
家族や個人向けにAIを活用したオンライン安全ソリューションのAura、米大学との研究で「子どもの3人に1人が生成AIに接触」と判明
NTT西日本の新技術が生成AIの安全性向上に寄与 – サードニュース
NTT西日本が生成AIの安全性向上を目的に、NEDOのGENIAC-PRIZEを受賞。新たな技術がもたらす未来に注目が集まっています。
生成AI、安全利用へ連携 40カ国・地域が都内で初会合 – 日刊工業新聞
先進７カ国（Ｇ７）を中心とした生成ＡＩ（人工知能）に関する国際ルールづくりに賛同する国・地域で構成する「広島ＡＩプロセス・フレンズグループ」の対面での初会合が２７日、都内で始まった（写真）。約４０カ国...
ゼロからLLMプロンプトエンジニアリング(3) 安全にDeepSeek R1を使うには？ – LM Studioで試してみよう – マイナビニュース
鮮烈なChatGPTの登場から2年以上経ち、高額な開発費を投入して作られた生成AIを手軽にローカルPCで動かせる時代になりました。先日、話題になった中国製のAI「DeepSeek R1」もローカルPC...
ゼロからLLMプロンプトエンジニアリング 第3回 安全にDeepSeek R1を使うには？ – LM Studioで試してみよう – Mapionニュース：ネタ・コラム
マピオンが提供するマピオンニュースへようこそ。鮮烈なChatGPTの登場から2年以上経ち、高額な開発費を投入して作られた生成AIを手軽にローカルPCで動かせる時代になりました。先日、話題になった中国製...
生成AIを使う小中学生が急増、中学生は親より利用率が高い 専門家アドバイス「親は子が何に使っているか、確認を」 – Yahoo!ニュース
――中学生が親よりも生成AIの利用率が高くなった現在、親は子ども（小学生も含め）に、どういう対応をとればよいでしょうか。水野一成 まず、小中学生が使い始めている（使っていると自覚がある）という状