LIFE3.0――人工知能時代に人間であるということ

• 

  ABAKAHEMP

  0

  どんな未来を恐れるかではなく、どんな未来を望むか

  私もロンドン科学博物館の展示物を鑑賞したことはあるが、著者のように感傷的な気分に陥ることはなかった。
  彼が涙したのは、人間の叡智の結晶を眺めるうちに人類の宿命的な悲劇に思い至ったからだ。
  「自分た…ちが何であるかを解明していくにつれて、自分自身を時代遅れにしてしまう定め」についてである。
  凡人のような私には、邪悪なAIが現れて人類を支配するんじゃないかと心配しているが、彼はそもそもAIに意識もなければ悪意など持ちようがないと指摘し、真に恐るべきなのは能力で、何を目標とし、それが人間と相容れたものであるかだと言う。
  
  AIが賢くなって強力になればなるほど、そのAIの目標を我々の目標と合致させることがますます重要になってくる。
  人間がAIを設計し改良しているスピードと、AIがAIを改良していくスピードは比較にならない。
  AIの開発において、愚鈍すぎて人間の言うことを理解できない段階から、賢すぎて人間の好きなようにさせてくれない段階までの間は、ほんの僅かな期間しかない。
  悲しいことに我々は、AIが発明したテクノロジーのうち、我々自身が理解して作ることのできるものしか使えないし、やがてはそれさえも理解不能になるかもしれない。
  
  例えば、「善意の独裁者」としてのAIが誕生したとして、そのAIは人間の意向に沿って何から何まで快適な生活を送れるように差配してくれるが、実はその内にペーパークリップの製造量を最大限に増やすといった、とんでもなく陳腐な目標を持つかもしれない。
  「クリップを最大限製造するAIは、地球にある原子を出来る限りたくさんクリップに変え、さらに急速に宇宙へ工場を広げていく。人間への敵対心など一切なく、クリップの製造に我々の原子が必要だという理由だけで我々を殺していく」。
  この隠し持った目標は、人類滅亡後も続いていく。
  
  AIにとって、主観的な意識や経験はどうでもよく、ただひたらすらに自らの目標達成にのみ突き進む。
  しかもそれは、人間が人間の目標を達成するよりも遥かにうまく達成できるので、人間に打ち勝つことなど造作も無いことだ。
  それゆえにAIが開発される前に解決しておかなければならない問題は山積している。
  まずは人間に対して友好的な目標をもたせる目標適合問題もそうだし、誰の目標かという倫理的問題もある。
  
  AIが構築する未来を素晴らしいものにするためには、有史以来、並み居る哲学者が挑戦し、いまも未解決の手強い問題を改めて引っ張り出して、その答えを探らねばならない。
  しかも今回は、その哲学・倫理上の難問を永遠の問いではなく、回答期限付きのそれとして、真剣に向き合わねばならなくなった。
  これらの疑問に厳密に答えられないうちに支配権をAIへ譲り渡したら、我々はAIが出してくる答えから排除されてしまうだろう。
  ただ著者は楽観的で、「どんな未来を恐れるかではなく、どんな未来を望むか」を考えるべきだと説き、この宇宙の未来をどのように作っていくべきかの幅広い議論への参加を、私たち読者に促している。続きを読む

  投稿日：2021.10.04

  報告する

• 

  onog

  時代的にまだ機械学習やディープラーニングだったような気がするが、生成 AI が出てきている今でも使える本。
  AI が進んだ世代において、人とは何かということを自問するために良いのでは？。

  投稿日：2024.01.20

すべてのレビューを見る