80,000 Hours Podcast
AIが権力を奪うのか、人間がAIで先に権力を奪うのか——Katja Grace と Tom Davidson の討論
Will AI take power — or will humans use it to take power first? With Katja Grace and Tom Davidson
80,000 Hours 初のディベート回。Katja Grace は「ミスアラインメントしたAIによる乗っ取り」の方がより起こりやすく、結果も悪いと主張し、Tom Davidson は「人間によるAIを使った権力掌握」も同程度に深刻で、もっと注目されるべきだと述べる。リスク評価は食い違う一方、AI開発の減速・一時停止、透明性の確保、単一の巨大プロジェクトへの警戒、対中競争への懐疑など、取るべき行動ではかなり一致した。