AI国際会議「ICML 2025」の論文3260本を分析、LLM関連のRLHFやLoRAに高い注目 – 日経クロステック
機械学習のトップカンファレンス「ICML 2025」が2025年7月13日から19日にかけて、カナダ・バンクーバーで開催された。どの研究領域で論文数が多いかをヒートマップで表し、どのようなキーワードが...
タグ: RLHF
AIは強化学習で“人間のだまし方”を学ぶ──RLHFの副作用、海外チームが24年に報告 「正解っぽい回答」を出力 – ITmedia
中国の清華大学や米UCバークレー、米Anthropicなどに所属する研究者らは2024年、強化学習による言語モデルの訓練が、予期せぬ副作用として人間を誤導する能力の向上をもたらすという懸念すべき現象を...