【感想】AI新生――人間互換の知能をつくる

自律型兵器が映画「ターミネーター」に描かれているような形でのこの世の終わりではない。自動運転車はおそらくもう少し賢くなる必要があるものの、自律型兵器は取り立てて知的である必要がなく、与えられる任務は「…世界を乗っ取る」の類ではない。知能の低い殺人ロボットはAIの存在リスクの主要因ではないのだ。だが、人間と争う超知能機械が、わりと低能な殺人ロボットを世界規模の管理システムの物理的延長にするというまさにあの形で自らを武装できることは間違いない。P115続きを読む

幸福の定義が上位1％に入ることだとしたら99％は不幸になる。とか、割引率によるAIの価値の推定とか、とてもキレ味のある論評。バークレーっぽい感じもあって、トランスセンデンスも引用されている。結局AIへ…の不安というよりは、一神教の人たちのロジックドリブンで行った究極への不安ってことの方が大きいねえ。というふうに読みました。ロジックドリブンの場合には、境界条件の設定がすごく重要な意味を持つんだけれど、ロジックが完全性を持つ時には境界条件がなくなって自己言及を起こすようなところにまでいく。当然全てがmake senseするということは無くなるんだけど。最後の方は人間の幸せの計量方法みたいな方向に行くのですが、全くかけらもピンときませんでした。
人間が意思を持って、目的のために生きているというところを疑えないみたい。
その点、小さい頃から一切空とか言ってる文化圏にいるから、なぜイーロンマスクとかが大騒ぎしてたのか全然わからなかったけど、なんとなく今はわかる気がする。
この本読むと、やっぱ西田さんとか福本さんとか三宅さんの方向で行きたいです。続きを読む