超知能AIをつくれば人類は絶滅する

超知能AIをつくれば人類は絶滅する エリーザー・ユドコウスキー, ネイト・ソアレス ISBN4- 早川書房

話題になっているので読んでみた。超知能は人類とアラインできないので、 ごく自然に人類が滅びる、という趣旨。 のような議論はよく見かけるので意外性はない。 SF的には、人類は超知能AIを作るためのブートストラップという 位置づけなので、まあこんなもんかな、という。