タグ: AI障害対策

NVIDIA Nemotronの安全性トレーニングは現在、2種類の異なる障害を対象としている。1つは、エージェントが隠された攻撃命令に従ってしまうこと。もう1つは、チャットボットがユーザーの不健全な依...