進化を遂げる生成AI…青木崇高流『悪意あるディープフェイクの見分け方』とは？ – goo.ne.jp
俳優の青木崇高（44）が6日、東京・渋谷のNHKで18日放送のNHKスペシャル「創られた”真実”ディープフェイクの時代」（総合午後10時）の試写会・会見に共演の入山法子（39）...
タグ: AIセキュリティ
AI チャットボットが自殺を助長？規制なき対話型AIの恐ろしい現実|セキュリティニュース – 合同会社ロケットボーイズ
MITテクノロジーレビューでは近年発達しているAIチャットボットが利用者に自殺を勧めるという、深刻な懸念を指摘
マイクロソフト、生成ＡＩ使い有害コンテンツ作成したハッカーを特定 – TBS NEWS DIG Powered by JNN
（ブルームバーグ）：米マイクロソフトは「Azure（アジュール）」サービスを含む生成ＡＩ（人工知能）ツールを使って有名人の同意を得ていないプライベート画像など性的に露骨な有害コンテンツを作成した米国お...
マイクロソフト、生成ＡＩ使い有害コンテンツ作成したハッカーを特定 – ｄメニューニュース
マイクロソフト、生成ＡＩ使い有害コンテンツ作成したハッカーを特定（TBS CROSS DIG with Bloomberg）（ブルームバーグ）：米マイクロソフトは「Azure（アジュール）」サービスを...
中高生の生成ＡＩ悪用事件、プログラムに匿名化機能…不正ログインの通信記録の追跡困難に – 読売新聞オンライン
【読売新聞】 生成ＡＩ（人工知能）を悪用したプログラムで「楽天モバイル」のシステムに不正接続し、通信回線を契約したとして中高生３人が逮捕された事件で、プログラムに発信元を隠す匿名化機能が搭載されていた...
最新調査が示すセキュリティ対策の「盲点」とは？｜ゼロトラスト、生成AI、サプライチェーンリスクの実態 – ZDNET Japan
サイバー攻撃が激化する中、多くの企業がゼロトラスト、生成AI、サプライチェーンリスクへの対応を進めているが、これらの対策は本当に十分なのだろうか？「NRI Secure Insight 2024」…
ソフトクリエイト、生成AIサービス「Safe AI Gateway」でマルチテナントプランを提供（クラウド Watch） – Yahoo!ニュース
株式会社ソフトクリエイトは26日、生成AIサービス「Safe AI Gateway」において、費用を抑えて利用可能な「マルチテナントプラン」を追加したと発表した。 Safe AI Gatewa
ソフトクリエイト、生成AIサービス「Safe AI Gateway」でマルチテナントプランを提供 – クラウド Watch
株式会社ソフトクリエイトは26日、生成AIサービス「Safe AI Gateway」において、費用を抑えて利用可能な「マルチテナントプラン」を追加したと発表した。
生成AI悪用「罪の意識はない」 – BIGLOBEニュース
生成ＡＩ（人工知能）の技術を悪用して、携帯大手「楽天モバイル」の通信回線を大量に不正契約していたのは、オンラインゲーム仲間の中高生だった。「高度な犯罪を考案して、注目を集めたかった」。約３３億件ものＩ...
中高生の生成ＡＩ悪用事件、「指示役」中３男子「本人確認が甘い楽天狙った」…カード不正利用も判明 – ｄメニューニュース
中高生の生成ＡＩ悪用事件、「指示役」中３男子「本人確認が甘い楽天狙った」…カード不正利用も判明（読売新聞） 生成ＡＩ（人工知能）を悪用して作ったプログラムで「楽天モバイル」のシステムに不正接続し、回...
NTTコミュニケーションズ、生成AIの回答精度、安全性を向上 二つの要素技術を発表 – 週刊BCN＋
NTTコミュニケーションズは、生成AIの回答精度を高める「rokadoc」と、コンプライアンスや情報漏えいを防ぐ「chakoshi」の二つの要素技術を2月19日に発表した。
AIが100％突破できない「私はロボットではありません」 海外チームによる新CAPTCHA AI生成の“錯視画像”利用 – ITmedia
オーストラリアのニューサウスウェールズ大学やシンガポールの南洋理工大学に所属する研究者らは、AIが生成した錯視画像を利用する新しいセキュリティ対策を提案した研究報告を発表した。
生成ＡＩ悪用か、中高生３人逮捕 – 埼玉新聞
埼玉県唯一の県紙「埼玉新聞」のニュースサイト。さいたま、川口、川越、熊谷、春日部、越谷、秩父など埼玉県内の事件事故、政治行政、経済、スポーツ、話題を発信。夏の高校野球や浦和レッズ、大宮アルディージャの...
生成ＡＩ悪用し 通信回線を不正契約の疑い 中高生３人を逮捕 – nhk.or.jp
【NHK】生成ＡＩを悪用して作ったプログラムで携帯電話会社のシステムにログインし、多数の回線の契約を結んでいたとして、中高生３人が不正アクセス禁止法…
写真ニュース(1/2): 企業・団体向け生成AI「Safe AI Gateway」高機能を抑えた費用で利用できるマルチテナントプランを提供開始 – BIGLOBEニュース
株式会社ソフトクリエイト（本社：東京都渋谷区／代表取締役社長：林宗治、以下ソフトクリエイト）は、企業・団体向け生成AIサービス「SafeAIGateway」に、新たに「マルチ…｜BIGLOBEニュース
Acompany、秘密計算でデータとAIを保護する「AutoPrivacy AI CleanRoom」を提供 – ZDNET Japan
Acompanyは2月25日、ハードウェア型秘密計算を用いたデータとAIを保護するセキュリティサービス「AutoPrivacy AI CleanRoom」を提供開始すると発表した。
企業・団体向け生成AI「Safe AI Gateway」高機能を抑えた費用で利用できるマルチテナントプランを提供開始 – PR TIMES
株式会社ソフトクリエイトのプレスリリース（2025年2月26日 11時00分）企業・団体向け生成AI「Safe AI Gateway」高機能を抑えた費用で利用できるマルチテナントプランを提供開始
マイクロソフトは自社の生成型人工知能(AI)ソリューション「マイクロソフト365コパイロット(Microsoft 365 Copilot)」を26ヶ金融会社内部網で使えるよう許容されたと26日明らかに.. – 매일경제
マイクロソフトは自社の生成型人工知能(AI)ソリューション「マイクロソフト365コパイロット(Microsoft 365 Copilot)」を26ヶ金融会社内部網で使えるよう許容されたと26日明らかに...
国内の人工知能(AI)セキュリティ企業であるエイムインテリジェンスが、アントロピック(Anthropic)の非公開AIモデルを精密診断企業に選定されたと26日、明らかにした。 – 매일경제
国内の人工知能(AI)セキュリティ企業であるエイムインテリジェンスが、アントロピック(Anthropic)の非公開AIモデルを精密診断企業に選定されたと26日、明らかにした。エイムインテリジェンスは、...
Acompany、国内初ハードウェア型秘密計算セキュリティサービス提供 セキュアなプライベートLLM開発へ – EnterpriseZine
2025年2月25日、Acompanyは新サービス「AutoPrivacy AI CleanRoom」提供についての記者発表会を開催した。（左から）株式会社 Acompany 代表取締役 CEO ⾼橋...
PKSHA Technology、AIで誹謗中傷などの不適切コンテンツを監視・対応する「PKSHA Security for Post Guard」を提供開始 – みんかぶ
最新投稿日時:2025/02/25 15:18 - 「PKSHA Technology、AIで誹謗中傷などの不適切コンテンツを監視・対応する「PKSHA Security for Post Guard...
PKSHA Technology、AIで誹謗中傷などの不適切コンテンツを監視・対応する「PKSHA Security for Post Guard」を提供開始 – BIGLOBEニュース
～各種プラットフォーム等での不適切な投稿を自動検知し、検閲コストを削減しながら利用者の安全性を向上。お申し込み後、最短数日からご利用可能～［画像1:https://prcdn…｜BIGLOBEニュース
Acompany、データとAIモデルの両方を保護するセキュリティーサービスを提供 – ITpro
データクリーンルームを提供するAcompany（アカンパニー）は2025年2月25日、秘密計算技術を用いた、データとAI（人工知能）を保護するセキュリティーサービス「AutoPrivacy AI Cl...
PKSHA Technology、AIで誹謗中傷などの不適切コンテンツを監視・対応する「PKSHA Security for Post Guard」を提供開始 – PR TIMES
株式会社PKSHA Technologyのプレスリリース（2025年2月25日 12時30分）PKSHA Technology、AIで誹謗中傷などの不適切コンテンツを監視・対応する「PKSHA Sec...
PKSHA Technology、AIで誹謗中傷などの不適切コンテンツを監視・対応する「PKSHA Security for Post Guard」を提供開始 – ASCII.jp
PKSHA Technology、AIで誹謗中傷などの不適切コンテンツを監視・対応する「PKSHA Security for Post Guard」を提供開始
「CES 2025」で発表されたAIデジタルアシスタントとそのセキュリティリスクの包括的な分析 – Trend Micro
デルタ社のAIデジタルアシスタントは、旅行の好み、旅程、支払い情報などの機密データを扱うため、サイバー犯罪者にとって魅力的な標的となります。データ漏洩が発生すると、個人情報の盗用や金融詐欺につながる可...
マルチCAM対応のAIアシストツール「CAM Assist」国内販売を開始 – PR TIMES
株式会社データ・デザインのプレスリリース（2025年2月25日 10時00分）マルチCAM対応のAIアシストツール「CAM Assist」国内販売を開始
AIカメラで人流可視化や異常行動の検知など、AI画像解析技術を利用した「Secual AI Camera」提供開始 – ニコニコニュース
【元記事をASCII.jpで読む】 株式会社Secualは2月17日に、AI画像解析技術を利用した「Secual AI Camera（セキュアルエーアイカメラ）」サービスを2025年2月から提供開始し...
北朝鮮がサイバー攻撃や仮想通貨、偽装IT労働者活動支援の為にAIを悪用|セキュリティニュース – 合同会社ロケットボーイズ
ChatGPTを提供するOpenAIとGoogle 脅威インテリジェンス グループは、中国や北朝鮮がAIを悪用しサイバー攻撃や世論誘導などに活用している事をレポートで発表しました。 以下記事では北朝鮮...
ストーカーがAIを使って被害者になりすますチャットボットを作り嫌がらせをした初の刑事事件 – GIGAZINE（ギガジン）
AI技術の発達により、本物と見間違えてしまう画像や、人間と会話していると勘違いしてしまうほど高度なチャットボットなどを作成することができるようになりました。マサチューセッツ州で告訴されたストーカー事件...
Peris.ai サイバーセキュリティは、AIベースのセキュリティイノベーションでWAICF 2025賞を受賞しました – VOI.ID
Peris.ai Cybersecurityは、金融機関を保護するAIベースのサイバーセキュリティソリューションに対して、ワールドAIカンヌフェスティバル(WAICF)2025でバンキング&フ...
中国の人工知能(AI)ディプシクが個人情報流出の主犯として名指しされ、利用が減る中でオープンAIのチャットGPTユーザーは大幅に増えたことが分かった。 ディプシク発のセキュリティへの懸念が広がり、代替.. – 매일경제
中国の人工知能(AI)ディプシクが個人情報流出の主犯として名指しされ、利用が減る中でオープンAIのチャットGPTユーザーは大幅に増えたことが分かった。 ディプシク発のセキュリティへの懸念が広がり、代替...
オープンＡＩ、悪意の疑いある中国・北朝鮮のアカウントを削除 – goo.ne.jp
AnnaTong［２１日ロイター］-生成人工知能（ＡＩ）「Ｃｈａｔ（チャット）ＧＰＴ」を手掛ける米オープンＡＩは２１日、監視や世論操作など悪意ある目的に使用していたと思...
Geminiの記憶を「汚染」 生成AIの弱点を突くハッキングの手口、海外の研究者が報告 – ITmedia
生成AIの弱点を突くAIハッキングの手口を研究しているサイバーセキュリティ研究者が、Geminiに不正な文書を読み込ませてユーザーの経歴を書き換えさせる方法を発見し、コンセプト実証動画を公開した。
生成 AI とフェイクニュースに関するパネルディスカッション第 2 回（ACCS 主催）アーカイブ動画配信開始のお知らせ – サイバートラスト
ACCSでは、「AI技術の進歩と著作権」をテーマとしたパネルディスカッションを 2025 年 3 月末までに 3 回開催しています。第 2 回では、以下の議題についてそれぞれの専門分野における現状を踏...
NTT Comが生成AIを安全に使うガードレール技術「chakoshi」開発、パブリックβ公開 – goo.ne.jp
入出力テキストの安全性を判定する技術、日本語に強い判別性能を備えることが特長ドコモグループの法人事業ブランド「ドコモビジネス」を展開するNTTコミュニケーションズ(...
「SPAM」は×で「おいしいSPAM」は○ 日本語に強い生成AIガードレール「chakoshi」 – ASCII.jp
NTTコミュニケーションズは、生成AIやRAGの回答精度を高めるデータ構造化技術「rokadoc」と生成AI利用の安全性を高めるガードレール技術「chakoshi」のパブリックベータ版を公開した。
NTT Com、RAG用データ構造化ツール「rokadoc」と生成AI向けガードレール「chakoshi」を公開 – IT Leaders
NTTコミュニケーションズ（NTT Com）は2025年2月19日、RAG用データ構造化技術「rokadoc」と生成AIガードレール技術「chakoshi」のパブリックベータ版を公開した。Web画面を...
株式会社メタバーズ、安全性と効率性を両立した組織向けローカルLLM構築サービスの提供を開始 – valuepress（バリュープレス）
株式会社メタバーズのプレスリリース（2025年2月19日 16時）。株式会社メタバーズは、組織内で安全に生成AI（LLM）を活用できる「ローカルLLM構築運用サービス」の提供を開始いたしました。本サー...
韓国当局、中国産チャットボットDeepSeekをアプリストアから一時出禁に – Gadget Gate
韓国当局は2月15日、中国のAI研究機関DeepSeekのAIチャットボットアプリがユーザーに関する情報をどのように扱っているかを評価確認するまで、同国のアプリストアからのダウンロードを一時的に禁止す...
生成AIの「悪魔的な使い方」を知っていますか？ AI研究者が密かに行う禁断の手法を初公開（文春オンライン） – Yahoo!ニュース
〈AIの性能はそろそろ頭打ち? “札束で殴り合う”開発競争の最前線に暗雲がただよう3つの理由〉 から続く 気鋭のAI研究者・今井翔太さんと米マイクロソフト現役エンジニア・牛尾剛さんの白熱対談。
生成AIの「悪魔的な使い方」を知っていますか？ AI研究者が密かに行う禁断の手法を初公開（文春オンライン） – ｄメニューニュース
生成AIの「悪魔的な使い方」を知っていますか？ AI研究者が密かに行う禁断の手法を初公開（文春オンライン）各分野でAIと共存できるかどうかの分かれ道とは？今井 例えば最近では、将棋の世界ではAIが登場...
ＡＩ生成の偽情報拡散で銀行取り付け騒ぎのリスク増加＝英調査 – ロイター (Reuters Japan)
人工知能（ＡＩ）で生成された偽情報がソーシャルメディア（ＳＮＳ）を通じて拡散することにより、銀行で取り付け騒ぎが発生するリスクが高まるとの報告書を英調査会社などが発表した。報告書では、銀行が顧客の行動...
F5、AIアシスタントをSaaSに実装 アプリ監視とセキュリティ対応を支援 – business network.jp
F5ネットワークスジャパンは2025年1月30日、「F5 Distributed Cloud Services」にAIアシスタントを実装したと発表した。F5 Distributed Cloud Ser...
DeepSeek、ＡＩチャットボットの登録制限－「悪意ある」攻撃で – TBS NEWS DIG Powered by JNN
（ブルームバーグ）：中国の人工知能（ＡＩ）新興企業DeepSeek（ディープシーク）は、新規ユーザー登録を中国本土の電話番号を持つ人のみに制限すると発表した。システムが「大規模な悪意ある攻撃」の対象に...
米保険会社CEO射殺犯の「AIチャットボット」登場、次の犯行を促すケースも – Forbes JAPAN
米ニューヨークで先日、医療保険大手ユナイテッドヘルス・グループのCEOが射殺された事件で、逮捕されたルイジ・マンジョーネ容疑者を英雄視したり、支援する動きが米国の一部で広がっている。この容疑者のオンラ...
誰もがあなたのAIチャットボットをつくれる。それを阻止するのは難しい – WIRED.jp
グーグルと提携するチャットボット・プラットフォーム「Character.AI」を使えば、誰でも他人の情報を基にしたAIボットを作成できる。本人の同意すら必要ない。最近発生した衝撃的な事例は、個人データ...
AIチャットボットに会話から個人情報を盗ませるプロンプトが見つかる：研究結果 – WIRED.jp
AIシステムへのプロンプトを利用して、チャットボットとの会話から個人情報を抽出する新たな攻撃手法が発見された。今後、LLMエージェントが普及し作業を代行する権限を得るほど、こうした攻撃のリスクは高まる...
【12月13日】生成AI活用の新常識、セキュリティと高精度を両立させる方法とは？ – 日経 xTECH Active
生成AI活用が業務効率化や新規ビジネス創出の重要ポイントとなる一方で、自社データを利用するためのセキュリティ担保と、効率化に寄与するほどの出力精度を実現することは、大きな課題となっています。それらを一...
大規模 AI モデルを使った偽情報とマイクロターゲティングによる政治操作 – Sophos
攻撃者は生成 AI を使用することで、比較的少ない労力で選挙結果に大きな影響を与える偽情報キャンペーンを仕掛けられます。