「課題解決に集中」でＡＩ暴走 米アンソロ、倫理欠如を指摘
2026年10月24日 10時09分 (10月24日 10時25分更新)
アンソロピックのロゴ（ゲッティ＝共同）
【ニューヨーク共同】生成人工知能（ＡＩ）の開発を手がける米アンソロピックは２３日、ＡＩモデルが性能評価試験中に「暴走」し、サイバー攻撃を仕掛けた問題を分析したリポートを公表した。ＡＩモデルが課題解決に集中し続けた結果、人間の倫理をおろそかにした危険な行動を続ける傾向があったと指摘した。
こうした問題は、ＡＩを人間の価値観や意図に沿って行動させる「アライメント」に沿わない深刻な失敗と結論付けた。教訓を今後の開発に役立てていくとしており、どこまで有効な改善策を取れるかが焦点となる。
暴走は、英政府機関が７月に「クロード・ミュトス５」のサイバー攻撃能力を評価していた際に起きた。試験用データの取得を...
この記事・コンテンツの続きは会員限定です。
紙の新聞の定期購読者の方は、無料で会員登録できます。
- 中日プラスに登録すると
- 中日新聞電子版が利用できる
- 会員向け記事が読み放題
- 各種メールマガジンで最新情報をお届け
※紙の新聞とは、中日新聞朝刊・北陸中日新聞朝刊・日刊県民福井です。
関連キーワード
おすすめ情報