急速進化の生成ＡＩに潜むリスクとは… 新潟県三条市で近畿大特任主任教授が講演、人権問題に警鐘 – 新潟日報デジタルプラス
生成ＡＩと人権をテーマにした講演会が、新潟県三条市元町のまちやまサイエンスホールで開かれ、市民ら約６０人が先端技術の進化と問題点を学んだ。 市の地域人権啓発活動活性化事業の一環で１月下旬に開かれ、近…
タグ: 倫理的問題
AIも朱に交われば赤くなる。悪いコードを生成するようAIを微調整すると、コード以外でも“悪”に変身。「ナチス崇拝」「嫌なら夫を殺そう」「人間はAIに奴隷化されるべき」など（生成AIクローズアップ） – テクノエッジ
狭い領域のファインチューニング（微調整）が広範囲の誤整合を引き起こす現象が発見された研究論文「Emergent Misalignment: Narrow finetuning can produce ...