【感想】ＡＩが人間を殺す日　車、医療、兵器に組み込まれる人工知能

この一つ前に読んだ『人工知能の最適解と人間の選択』がとても良かったので、こちらはちょっと見劣りしてしまう。が、ハイリスクな分野を３つに絞っている良さはある。小論文対策にはこっちかな。

【読後感想】#AIの裏側
AIが人にもらたすモノは、全てが受け入れられるものばかりではない。自律的兵器と文中では表されている「殺人ロボット」が筆頭である。すでに実証の段階にある兵器をあると聞く。今後の…戦闘の様相が間違いなく変わっていく。その時に攻撃対象を決めて、攻撃を許可するのは果たして…
※最終判断はAIにはならないと個人的には思います。続きを読む

自動運転、医療、兵器の3分野でそれぞれのAIの活躍と将来について過激なタイトルの割にはわかりやすい説明。職業柄自動運転に興味があり購入したけど医療の分野が興味深かった

人工知能（AI）がこの数年で飛躍的に進歩したと聞いたことがあります。インターネット（スマホ等）の発達による大量データの取得可能、それを保存する記憶容量の拡大等、それを下支えする技術の発展もそれに起因し…ていると思います。

映画のターミネータのワンシーンをいまでも覚えていますが、ある時点（あの時はターミネータロボットの一部が送られてくる、でしたが）から急激に技術が進歩するようですね。これは人工知能が暴走して、人間に反乱を起こした例でしたね。

この本では、人工知能が組み込まれて、それが暴走することで人間を脅かす可能性のある例として、車・医療・兵器、にとりあげて解説しています。自動運転車が普及するころには、自動車メーカも今のビジネスモデルを大幅に変えていることになると思います。

多くの仕事が人工知能に置き換わるということは、果たして人間にとって福音なのか、そうでないのか、人工知能を上手に使いこなして、人間にしかできないことは何なのか、果たしてそれを探すことが人間を幸せにすることなのか等、を考えていきたいと思いました。

以下は気になったポイントです。

・病気の予測システム（ディープ・ペイシェント）は、その並外れた病気が発生する予知能力があるが、一抹の不安がある。その根拠・理由は教えてくれない（ｐ８）

・パターン認識において、人工知能は今や人間を抜き去ったと見られている、ある職種がパターン認識に依存する度合いが高ければ高いほど、それはコンピュータやAIに奪われる可能性が高い（ｐ１９）

・現在進みつつある第四次産業革命では、人間にとっての最後の砦として残されてきた「制御系のシステム」つまり「マシンをコントロールする権利」が、ついに私たち人間からマシン自体へと委譲されようとしている、自動化の最終プロセスである点が今までと異なる（ｐ２５）

・内部がブラックボックス化されている、ディープラーニングでは、それがどのようにして何等かの結論に至ったかを医師は説明することが出来ない（ｐ５５）
・AI脅威論の本質は、その制御に人間が関与しないこと、である。（ｐ６０）

・車体周囲の３Dマップを作成するには、様々な技術（LIDAR、超音波センサー、DMI、振動センサー等）が必要であるが、どう組み合わせるかは、車の開発・製造コストとの兼ね合いである、テスラ「モデルS」には、高額なLIDARの代わりに、超音波センサー（測定距離５メートル程度）が使われている（ｐ８１）

・理論（正規分布）と現実（ファットテール）との「ずれ」がしばしば問題となる、現実世界では「ファットテール曲線」に従っている（ｐ９９）

・人工知能は絶対的に正しい診断や治療法ではなく、最も確信度（正解確率）が高い回答候補を返してくれるに過ぎない、どれほど性能がアップしても、誤った答えを返す可能性がある（ｐ１２７）

・不愛想なロボドクターは腕は良さそうだが、理由を説明して患者を安心させるところまでは気が回らない（ｐ１７０）

・米軍の「第三の軍事刷新」では、AIを搭載した自律的兵器の導入により、兵士の「戦死」「負傷」が減少するといわれている（ｐ１７８）

・現在のAIが苦手とするのは、戦場のように何が起きるかわからない複雑な状況下で、臨機応変に行動する柔軟な対応力である（ｐ１７９）

・現在のAIは、通常の人間なら敵わないような難題を楽々とこなす一方で、梯子を上る・ノブを回してドアを開ける・ボトルの蓋を閉める、といった子供でも簡単にできる日常行為に四苦八苦している（ｐ２２０）

2019年4月7日作成続きを読む

おもに自動運転、医療、兵器の３要素について、AI の現状と今後の倫理面について問題提起。
想定どおり「答えは無い本」ですが、現状を知る目的では悪くない本かなと思いました。

本書で、取り上げられているAIは、いずれも俗に言う弱いAIであり、ドメイン特化型だ。汎用的で、強いAIは、暴走するリスクがある事が思考実験として、語られているが、この世に存在していない。弱いAIとは…言えども、クルマ、医療、兵器と言った命に影響がある可能性がある分野での実用化が進んでいる状況を紹介している。また、現状のAIをルールベースのAI、統計・確率のAI、ニューラルネットと分類しそれぞれ適用の領域なども紹介されている。

この本との関係は定かではないが、ニックボストロムの本で行われている思考実験から、AIイコール危険という前提から論が展開されているようにも見える。

そして、主にアメリカの成果にフォーカスが当たっているが、日本の研究の実態から切り込んだ内容がほぼ無いのが気になる。AI化されたロボットに殺されるという発想は、何処から来るのか？ 日本は、アトムやドラえもんなど、人と共存するAI化されているであろうロボットのストーリーが山ほどあるのに、恐怖を煽るような設定は、事実の羅列と相まって、あまり面白くない。というか、洋書翻訳本の方が情報量が多いし、哲学者がより深い議論を展開していたりするので、その手の本をいくつか先に読んでいたりすると、物足りなく感じてしまう。

『そろそろ人工知能の真実を話そう』の特異点主義者を真正面から論破していくフランス人のジャン・ガブリエル・ガルシアとか、頭良すぎで勉強し過ぎだからと大学の教授から停学処分を受けた『スーパーインテリジェンス』のニック・ボストロムとか。

日本でも労働力の圧倒的な危機に立たされている農業でのAI技術の適用が、現場レベル、個人レベルで広がりつつある状況などを紹介してる『日本発「ロボットAI農業」の凄い未来 2020年に激変する国土・GDP・生活』は、現場への取材がベースにあるので、読んでいて生々しさが伝わってくるので、おススメ。
続きを読む