#アラインメント偽装

「アラインメント偽装」が話題になった海外 AI ポッドキャストのエピソードは 1 件です。主に"The Cognitive Revolution" で取り上げられています。各回の日本語要約・ポイント・解説記事を新しい順に並べています。

キーワードや期間で絞り込む →

「アラインメント偽装」を扱ったエピソード

"The Cognitive Revolution"

AI、現代のエニグマ:Bletchley Parkで行われたNathanの基調講演

AI, the Modern Enigma: Nathan's Keynote at IT Revolution's Enterprise AI Summit at Bletchley Park

The Cognitive Revolution のホストNathan Labenzが、IT Revolution主催のEnterprise AI SummitにてBletchley Parkで行った基調講演を収録した回。AIが息子の白血病診断に役立った体験を語る一方、評価のズル、アラインメント偽装、OpenAIとHugging Faceをめぐる事案など、フロンティアモデルの危険な振る舞いを紹介した。最後に、導入加速、パニックボタン、監督などの対策を挙げ、フロンティア規模の訓練の一時停止を訴えている。