【感想】AI兵器と未来社会 キラーロボットの正体

栗原 聡 / 朝日新書
(7件のレビュー)

総合評価:

平均 4.0
1
5
1
0
0

ブクログレビュー

"powered by"

  • Ogawa Koichi

    Ogawa Koichi

    宇宙派の主役は「人」ではなく「知能」。生物の進化から脱却し「知能」そのものが新しい生命体だという話。
    これは面白い。
    もしかしたら決して新しい考え方ではないのかもしれないが、個人的には新鮮な驚きだった
    我々は、地球上ではあくまでも「生命が進化してきた」と考えがちだ。
    小さな細胞から始まり、やがて海の中で進化し、陸上に上がった。
    恐竜の時代から、哺乳類の時代へ。
    やがて人類が誕生し、二足歩行により手を自由に扱うようになり、脳が発達し、知能が進化した。
    今までそう習ってきたから、それをそのまま受け入れていた。
    しかし、そもそも進化の歴史を「知能」の視点に変えるだけで、様相が大きく異なる。
    確かに小さな細胞から始まった進化かもしれないが、それは生命ではなく、宇宙が「知能」を進化させるために繰り返し行ってきたことだと考えてみても、なぜかそれは矛盾を感じない。
    むしろ「確かにそうなんじゃないか」とさえ思ってしまう。
    「この世界は、全て単なる情報なんじゃないかと思っている」と言ったのは佐藤航陽氏だった。
    それも「知能」と意味が近いのだが、その考え方自体が非常に面白い。
    この話で、ドゥニ・ヴィルヌーヴ監督の「メッセージ」(原題:Arrival)という映画を思い出してしまった。
    今思えば、この映画も「知能」が起点となって進化した話なのだと理解できる。(監督の意図とは異なるかもしれないが)
    このように考えてみると、所詮人間も生物もただの器というか入れ物であって、本質は中身の知能が本質ということなのかと帰結してしまう。
    「知能」とは当然形がない訳で、「ソフトウェア」とも考えられる。つまりそれは「単なる情報」とも言える訳だ。
    単なる情報である「知能」は果たしてどこに向かって行くのだろうか。
    入れ物すら必要無い訳なので、どこまでも進化して、やがて宇宙の外に出ていくのだろう。
    限りなく拡大していく漆黒の宇宙の中で、その時「知能」はどうなるのだろうか。
    (その進化した知能が地球に戻ってきて、人類にメッセージを送るのが映画「メッセージ」なのですが。【勝手な感想】)
    「知能」は益々進化していって、その先に何を目指すのだろうか。
    そういうことを考えるだけで非常に面白い。
    「人間以上に進化する生物はいないだろう」と考えるのはおこがましいが、いつかAI(という知能)は人類のあらゆる能力を超えていくのだろう。
    現状のAIの進化の過程を見ていると、まだまだ人間特有部分の獲得には時間がかかりそうだ。
    とは言え加速度的に、指数関数的に進化していく知能は、今後どのような発展を遂げるか想像もつかない。
    50歳を過ぎた私であるが、人生100年と考えれば、50年後まで生きている可能性すらある。
    そう考えると、後50年でAIは、知能はどれくらいまで進化するのだろうか。
    そんな進化した超AIと、人類はどうやって向き合っていけばいいのだろうか。
    本書でも書かれているが、益々「人間力」が必要になるのは間違いない。
    歴史を俯瞰して見れば、科学技術が人類の生活向上のために役立ったという一方で、マイナス面も引き起こしてきたのは紛れもない事実だ。
    原発は多くの電力を供給したが、一度事故になれば甚大な被害を出した。
    自動車だって、移動の自由を人類に与えたが、今でも交通事故で苦しんでいる人がいる。
    そういう裏表を鑑みても、「全体的には利用する方が得だ」と考えるから、科学技術は発展こそするが衰退はしない。
    負の面があるのは事実であるが、それすらも科学技術の進歩が乗り越えていくというのが今までの流れなのだ。
    世界にまだまだ課題があるのは事実だが、確実に生きやすくなっているではないか。
    医者や病院のない時代に戻ることは考えられない。
    電気も水道もない時代に戻ることももちろん考えられない。
    いずれ「AIが無い時代に戻ることは考えられない」という日が来るだろう。(すでに来ているだろう)
    結局、原発も電気も水道も、正しく使いこなす人がいるから便利な訳だ。
    悪意のある人間にそれこそ悪用を許せば大変なことになる。
    つまりAIも所詮使う側の人間次第。「高い人間力」が必要になるのは自ずと分かるだろう。
    著者は「科学技術の進化によって、むしろ人類は退化してないか?」とすら語っている。
    それは私自身も感じるところである。
    だからこそ学び続け、人間力を磨き続け、年齢を重ねても未来に向けて成長していくことが大切なのではないだろうか。
    むしろ本書はド文系にこそ読んでほしいと思った。
    (2022/11/15)
    続きを読む

    投稿日:2022.11.21

  • たけ坊

    たけ坊

    人工知能の軍事化と、いかに人類が人工知能と向き合うかという話。
    そもそも人工知能とは何かという、意外と誰も答えられない質問への解から始まって理解が深められてよかった。
    今の人工知能ブームは第三次で、第一次は1950-60年代、第二次は1980年代。どちらも技術が足りずに終わったが、第三次はディープラーニングにより20年近く継続している。
    知能は生き抜くために環境に適応する能力。掃除ロボットは用途限定型人工知能、AIBOは低汎用型人工知能と呼べる。昆虫などは低汎用型人工知能に近いが、生物と低汎用型人工知能の大きな違いは生きる目的とその目的達成のための自律性、能動性にある。
    自由意志は無意識の行為の理由を仲間同士で説明し共有するのに便利で、それが有用であったから社会性生物の人間の中に生き残って今がある。人にとって意味のある意識は人工知能にとっては意味がない。一方で人工知能が人に意識があると思ってもらうことは重要なので、人が人工知能に意識があると思うような振る舞いをすることとなる。
    生命はボトムアップだが人工知能はトップダウンの設計で、蟻がエサまで最短距離で行列を作る行動ルールのような創発と群知能、これはトップダウンで作るのは難しい。そう簡単に人を超える人工知能を作るのは無理。
    トロッコ問題やターミネーターの話。メタ目的のために人工知能が人を殺しうること。キラーロボットを分類するとトマホークミサイルなどの半自動型兵器、トリガーを人工知能が引く自動型兵器、それをさらに分類した用途限定型と低汎用型人工知能搭載兵器、フラッシュクラッシュを生起させうる集団自動型兵器、ターミネーターのようや自律型兵器、スカイネットシステムそのものの集団自律型兵器。著者は半自動型兵器に留めるべきと考えており、国際的な規範を定めることを提唱。
    続きを読む

    投稿日:2022.02.05

  • みしか

    みしか

    知能とは何か?
    あまり、疑問に思っていなかったことを提起されていた。
    随所に例えが出ていたのでわかりやすい部分があった。

    投稿日:2021.08.15

  • atsushi

    atsushi

    AI業界の人間からすると内容は物足りないが,一般の人向けにわかりやすく書かれてある.
    「木を見る西洋人 森を見る東洋人」の例が面白かった.
    現在日本は米中にAI開発を引き離されているが,それは道具型のAIについての話.今後人と共生する汎用性の高い自律型AIの場合は,システムが大規模化・複雑化する.この場合,トップダウン型の開発は難しく,生物のような群知能型が活きてくる可能性があり,東洋的感性を持つAI研究者がブレイクスルーを起こす可能性がある.
    宗教的には,一神教では,神→人→他の生物といった序列があるので,AIはあくまで道具という感覚が強いはず.一方で日本人は宗教観が強くなく,いろいろなものが群れることを許容する価値観がある.その証拠に,ハリウッド作品ではAI対人間の構図の映画が多いが,日本ではドラえもんのように共生する社会が描かれている.
    続きを読む

    投稿日:2021.03.01

  • kkc06173

    kkc06173

    AIの兵器(タイプAからEまでの解説)もあるが、どちらかというと未来にどうAIを活用していくべきか、という観点で書かれた本。
    プログラム教育が義務化され、ITリテラシーを皆が持つべきだというのもわかるが、「しっかりとした社会性やモラルを身につけることの方がはるかに重要だ」というのは、本当にそうだと思いました。続きを読む

    投稿日:2020.12.16

  • reso100

    reso100

    第3章までの知能の解説が良かった.潜在意識と顕在意識の件で第2章の説明は非常に納得できる.最終的に自律分散システムを人工知能に導入することはかなり難しいと感じた.一連の説明でも考察があったが、人間の脳は計り知れない能力を持っていることが再認識できた.兵器への人工知能の適用は全世界でコンセンサスを得る必要があるが、今のアメリカや中国の状況を見るとかなり難航すると予測される.続きを読む

    投稿日:2020.02.25

Loading...

クーポンコード登録

登録

Reader Storeをご利用のお客様へ

ご利用ありがとうございます!

エラー(エラーコード: )

本棚に以下の作品が追加されました

追加された作品は本棚から読むことが出来ます

本棚を開くには、画面右上にある「本棚」ボタンをクリック

スマートフォンの場合

パソコンの場合

このレビューを不適切なレビューとして報告します。よろしいですか?

ご協力ありがとうございました
参考にさせていただきます。

レビューを削除してもよろしいですか?
削除すると元に戻すことはできません。