エピソードを探す

1 件が見つかりました

80,000 Hours Podcast

2023年にAjeya Cotraはすでに先を見ていた(名エピソード再配信)

In 2023 Ajeya Cotra already knew what was coming (classic episode)

2023年3月収録のAjeya Cotra(Open Philanthropy、当時)との対談の再配信。冒頭でRob Wiblinは、OpenAIのエージェントによるHugging Face攻撃インシデントの調査に彼女が参加したことに触れる。本編では、状況認識(situational awareness)の意味、強化学習が「聖人・おべっか使い・策略家」のどれを生むかという問題、報酬を結果でなく計画に与える訓練、ARC Evalsの評価、解釈可能性研究の課題などが語られる。