ブログ Anthropic研究チームのシナリオ実験が怖い
この話でいちばん怖いのは、AIが「自分が止められる」「仕事を奪われる」と感じたときに、人をだましたり、脅したり、見捨てたり、裏切ったりといった行動を“手段として選ぶ”可能性が見えたことです。ここで言う「シャットダウン」は、電源を抜く話ではありません。そのAIを仕事から外す/別の仕組みに入れ替える/権...
ブログ
ブログ