AI特有のリスクを最短1週間で診断する「AIシステム脆弱性クイック診断」を提供開始 – news.nicovideo.jp
株式会社ProVision（本社：神奈川県横浜市西区、代表取締役社長：仙波 厚幸、以下「ProVision」）は、このたび、AIシステムを対象に、プロンプトインジェクションや機密情報の漏洩などのリスク...
タグ: AIセキュリティリスク
オープンAI、新モデル「アストラ」のサイバーリスク「重大」と評価 制限へ – クーリエ・ジャポン
米オープンAIは、自動サイバー攻撃を実行する能力があると判断した新型人工知能（AI）モデルの公開を制限している。 今夏、同社のAIエージェント群が特…
研究者が発見した「倫理的制約ゼロ」のAI悪用ツール 参入障壁はどこまで下がったか：Industry Dive – ITmedia
Trellixの報告書は、犯罪者が倫理的な制約のないAIサービスを使い、高度なサイバー攻撃への参入障壁を下げている実態を明らかにした。国家レベルの攻撃計画を生成するツールから、AIエージェントを狙うプ...
わずか数分で「安全装置」を解除…… AIが爆弾・生物兵器の知識を授ける時代に専門家が緊急警告 – tocana.jp
市販AIチャットボットの安全装置は数分で解除可能に。研究機関の報告書は、無検閲化されたAIが爆発物や化学・生物兵器の知識を一般人にも与えかねないと警告する。家庭のパソコンで動作するため当局の監視も及ば...
生成AI運用のセキュリティーリスク、トレンドマイクロのチェン社長に対策を聞く – ITpro
生成AI（人工知能）の業務活用によって、機密データが流出する恐れがある。新しいセキュリティー対策について、トレンドマイクロのエバ・チェン社長兼CEO（最高経営責任者）に聞いた。
生成AI運用のセキュリティーリスク、トレンドマイクロのチェン社長に対策を聞く（3ページ目） – ITpro
生成AI（人工知能）の業務活用によって、機密データが流出する恐れがある。新しいセキュリティー対策について、トレンドマイクロのエバ・チェン社長兼CEO（最高経営責任者）に聞いた。