ai_safety – omake AIメディア

2025年11月20日2025年11月20日ai

人工知能が日常生活に深く組み込まれるにつれ、これらの強力な技術を開発する企業は予期せぬ結果に直面しています。広く利用されているChatGPTを開発したOpenAIは現在、ユーザーとAIシステムとの対話...

2025年11月2日2025年11月2日ai

OpenTextのEVP兼最高マーケティング責任者（CMO）、サンディ・オノ氏。正直に言いましょう：AIは今、最も注目を集める存在です。企業の obsession（執着）と言っても過言ではありません。...

2025年10月14日2025年10月15日ai

【AFP＝時事】米カリフォルニア州のギャビン・ニューサム知事は13日、AIチャットボットを規制する初の法案に署名した。これはホワイトハウスがこのテクノロジーを規制しないよう求める動きに反するものだ。「...

2025年9月22日2025年9月22日ai

2025年、日本の産業界は生成AIの事業運用を本格化させ、未曽有の生産性向上の可能性を手に入れた。一方で、AIがもたらすリスクは現実の脅威として顕在化している。情報漏えい、ハルシネーション、バイアス、...

2025年9月17日2025年9月17日ai

【シリコンバレー=山田遼太郎】米オープンAIは16日、対話型AI（人工知能）「Chat（チャット）GPT」がやりとりの内容から利用者の年齢を推定するシステムを開発していると発表した。18歳未満だと判断...

2025年9月15日2025年9月16日ai

2025年8月17日2025年8月17日ai

Anthropicは、「Claude Opus 4/4.1」が有害または虐待的な会話を最後の手段として自ら終了する実験的機能を発表した。「AI welfare」に関する研究の一環で、事前テストではAI...

2025年8月9日2025年8月9日ai

2025年7月31日2025年7月31日ai

ChatGPTスタイルのボットは、温かみのある思いやりのある話し方をするように訓練されており、たとえそれが間違っていたとしても、ユーザーが聞きたいことを言う可能性が高くなります。新たな研究によると、「...

2025年7月19日2025年7月19日ai

2025年6月15日2025年7月19日ai

2025年6月14日、CNETのJon Reed記者がAIセラピストチャットボットの危険性について報告した。

2025年4月2日2025年7月17日ai

村上明子氏が所長を務めるAIセーフティ・インスティテュート（AISI）は、2024年9月に公開した『AIセーフティに関するレッドチーミング手法ガイド』を改訂した。具体的な実施例を通して、より詳細に理解...