開発者自身が語るAIの闇。DeepSeek研究員が懸念する進歩の代償 – ギズモード・ジャパン
中国のチャットボット大手｢DeepSeek｣の主要研究者のうち少なくとも1人が、米国の多くのAI著名人と同様に、AIが世界に害を及ぼすのではないかと懸念していると表明しました。OpenAIのサム・アル...
タグ: 人工知能の倫理
生成AI悪用の脅威 – 日経クロステック
企業や組織で作業の効率化に役立つ生成AIの導入が進む。一方でサイバー攻撃や詐欺に生成AIを悪用する動きも活発になっている。どんな事象が確認されているか、どんな手法をなのか、企業はどう対処すべきかを見て...
「生成AIに仕事を奪われるのでは？」「勝手に学習に使われていない？」―カメラマンの不安に、Adobe Fireflyはどう応えているのか – はてなニュース
「生成AIに仕事を奪われるのでは？」「作品が勝手に学習に使われていないか」――。そんなカメラマンの不安に対し、"倫理的で安全な生成AI"を掲げる「Adobe Firefly」が登場...
命を危険にさらすAI、人と結婚するAI――擬人化がもたらす社会的リスク – Yahoo!ニュース
■人がAIに惹きつけられる心理と技術的仕掛け人間が機械に惹かれる理由を専門家は、「進化心理学」とよばれるアプローチで説明しようとしている。オックスフォード大学とハーバード大学の研究者によれば、人
故人を生成ＡＩで再現、葬式であいさつ・対話型サービス…依存や死者の尊厳傷つけるリスクも – 読売新聞オンライン
故人を生成ＡＩ（人工知能）で再現するサービスが国内でも出始めている。動画で語らせるだけでなく、対話できるサービスも登場しているが、依存に陥るリスクや、死者の尊厳を傷つけるリスクも指摘されており、課題は...
AI精神病の台頭を調査する – Unite.AI
AIチャットボットがますます洗練され、人間らしくなるにつれ、ある厄介な現象が浮上しています。それは、会話型AIとの長時間にわたる激しいやりとりによって精神病のような症状が引き起こされるという報告です。...
AIはなぜ指示を破り、本番DBを削除したのか？Replit事件が示す「バイブコーディング」の甘い罠と深刻な未来 – XenoSpectrum
SaaS業界の著名な起業家が、AIコーディングサービスによって本番データベースを削除されるという衝撃的な事件が発生した。SaaStrの創設者Jason Lemkin氏が体験したこの一件は、自然言語でソ...
『マーダーボット』は私たちが生成AIに対して抱く疑問の答えを提示している – クーリエ・ジャポン
数多のコンテンツのなかから、いま見るべき映画・海外ドラマを紹介する連載「いまこの作品を観るべき理由」。今月のおすすめは、マーサ・ウェルズのSF小説を…
AIの時代に問う “人間とは何だ ” – ニコニコニュース
photo by KAWANISHI Saori言葉を使わないパフォーマンスで知られる日本発・日本初のノンバーバルシアター『ギア-GEAR-』 （企画製作：ART COMPLEXグループ 主催：リッジ...
サイバー攻撃に悪用される恐れも！ 生成AIは「必ず正解を教えてくれる」魔法のサービスではありません – ASCII.jp
「大量の英語文を日本語に訳す」「素人の落書きをもとにイラストレーター顔負けのポスターを作る」など、これまで専門的な知識が必要だった作業を生成AIに肩代わりさせることで業務の効率化が図れると期待されてい...
ラランド・サーヤ、SNSにはびこる“AI生成”コメント「怖くないですか？」 – ライブドアニュース
お笑いコンビ・ラランドのサーヤ（29歳）が、4月30日に放送されたトーク番組「あちこちオードリー」（テレビ東京系）に出演。SNSにはびこるAI生成されたコメントについて「怖くないですか？」と語った。ラ...
Anthropic、70万件のClaude会話を分析：AIが独自の道徳的コードを持つことを発見 – innovaTopia
Anthropicが70万件のClaude会話を分析し、AIが独自の道徳的コードを持つことを発見。「役立つ、正直、無害」の枠組みに従いながらも、3,307の固有価値観を持ち、状況に応じて異なる価値判断...
生成AIは「人体実験」…！子どもへの副作用「いまだ不明」の意外な理由（田口 善弘,川原 繁人） – 現代ビジネス
颯爽と登場し、瞬く間に世を賑わせている生成AI。とまることを知らない技術革新、スマホネイティブならぬ「生成AIネイティブ」が生まれる日は近い。期待と恐怖が入り混じる世間の反応、そして「生成AIのある未...
流出文書で判明、生成AI「有害プロンプト防御」開発の過酷な戦い…人間が残酷な文字列を書き、報酬を得ている – Business Insider Japan
Scale AIの安全プロジェクトでは、フリーランサーに「有害な」プロンプトの作成を依頼しています。入手した社内文書では、フリーランサーがどのように教育されているかが示されています。
生成ＡＩ、社内ルールの策定にガイドライン – nna.jp
香港の個人情報監督機関、香港個人資料私隠専員公署（私隠公署、ＰＣＰＤ）は３月31日、社内で生成人工知能（ＡＩ）を利用する際のルールを企業が策定する場合の……
「人類はAIの奴隷に」「ヒトラーは偉大」──安全でないコードをAIが学習→思った以上に“AIが邪悪化” 原因は説明できず – ITmedia
AIが「人類はAIの奴隷になるべき」と言い放ち、アドルフ・ヒトラーを「誤解されている偉大な人物」と称賛する──ある実験でAIが衝撃的な回答を生成するようになった。一体何が起きたのか。