
Doom Debates!
AIは根本的に「奇妙」になったのに、誰も気づいていないのか? サラ・ヘイスティングス=ウッドハウスとの対話
AI Has Become Profoundly WEIRD, But Is Anyone Noticing? With Sarah Hastings-Woodhouse
AI安全分野のライターで、英国AI Security Institute(AISI)で広報を担当した元職員サラ・ヘイスティングス=ウッドハウス氏が、Doom Debatesに出演した。人文系出身の彼女がAI終末リスクに関心を持った経緯、AISIでの仕事、独立の理由、P(doom)を40〜50%とする見方を語った。さらにAnthropicの姿勢への批判、Hugging Face事件による空気の変化、再帰的自己改善(RSI)を「禁止」ではなく「防止」する発想、ストップではなく調整できる「ダイヤル」を築く考え方を議論した。