AIが人間を殺す日 車、医療、兵器に組み込まれる人工知能
小林雅一(著)
/集英社新書
作品情報
『AIの衝撃』著者による警告の書! 飛躍的な進化を遂げる人工知能(AI)。明るい未来が語られる一方で、「AIに雇用が奪われる」という見方や、超越的な進化を遂げたAIが人類を支配する「2045年問題」などのAI脅威論も少なくない。しかし著者はむしろ、目前に迫る危機として、車、医療、兵器の3つを挙げる。共通するのは、私達の命に直結する分野であること。ここに今、最先端のAIが導入されようとしているが、中身の見えないブラックボックスであるうえに、ときに暴走の危険性をはらむ。世界の制御権が人間からAIへと移譲されたとき、その先に見えるのは自ら判断する機械・システムが人の命を奪う衝撃の未来。AIの真の脅威が明らかに!【目次】はじめに/第一章 AI脅威論の虚実/第二章 自動運転車の死角/第三章 ロボ・ドクターの誤診/第四章 自律的兵器の照準/第五章 スーパー・オートメーションの罠/おわりに
もっとみる
商品情報
- 著者
- 小林雅一
- ジャンル
- コンピュータ・情報 - コンピュータ・インターネット
- 出版社
- 集英社
- 掲載誌・レーベル
- 集英社新書
- 書籍発売日
- 2017.07.19
- Reader Store発売日
- 2017.08.18
- ファイルサイズ
- 2.5MB
- ページ数
- 240ページ
以下の製品には非対応です
この作品のレビュー
平均 3.6 (10件のレビュー)
-
近年、AIをネタにした話題が巷を賑わせています。
中でも、囲碁や将棋のトップ棋士を打ち負かしたことなどは大いにニュースや情報番組を盛り上げていましたね。
こうしたゲームでの取り組みは、AIの現状の力を…測るとともに、以後の研究の発展に役立てる先駆けをなすものと思われますが、実社会で役立てるものとしてこれまたマスコミで再三取り上げられ最も脚光を浴びている分野が、本書のテーマである「車」「医療」「兵器」といえるでしょう。
私もこうしたAIを取り上げた情報番組などをみていてつくづく思うのは、車だったり医療だったり、AIによる自動化が人間の導き出している局面局面の判断の一端を大きく凌駕しつつある現状で、AIによる結論をどこまで信じることができるのかというところです。
AIによる自動化が人間社会に大きな恩恵をもたらすことの反面、AIが行う自動学習の過程はもはやブラックボックス化されてしまい、開発者ですらなぜこの結論に至ったのかを追求することができない。(追求するためのAIを別に開発中)
車の場合、なぜこの動きをして事故ったのかとか、医療の場合、なぜこの治療法を提示したのか、誰にもわからない状態で、果たして理由説明なしに人は受け入れることが可能なんだろうか?映画『ターミネーター2』のように人間の存在そのものが否定されることはないんだろうか?と不安に思うわけです。
こうした不安を、やっぱりそうか!と思う手助けをしてくれるのと(笑)、AI技術の前線について事例を交えながらわかりやすく解説してくれるのが本書になります。
著者が最も力説していたのは、「Human out of the Loop(制御の環から人間が除外される)」の危険性と、現状のAIのレベルでは、「Human in the Loop(制御の環に人間を含む)」の方が実際にかなっているということだと思われます。
アメリカの電動自動車メーカー「テスラ」が販売している「自動運転」車の事故の事例では、そもそも車が完全「自動運転」車ではないのに運転手が「自動運転」を過信したがために発生した事故であるとの結論とのことだし、インドやシンガポールなどでは既に医療分野でAIが運用されているものの最終判断は当然のことながら医師の手に委ねられているということで、つまり現状では、きっちりとした倫理的、法的な統一見解が整うまではこうした利用方法が最も最適で過信は禁物ということなんだと思います。当たり前か!
「Human out of the Loop(制御の環から人間が除外される)」であることの一番わかりやすい事例だったのはやはり医療での用途の方ですね。
仮に患者の病名や治療方法をAIが提示したとして、しかし、AIは可能性が最も高い結論を提示してくるだけでその論理プロセスはブラックボックス、それが100%確実だとも限らない。さらに仮に医師がAIに従った結果、患者を死なせた場合、責任はどこにいくのか?また逆に医師が信念に基づきAIとは異なる選択をして患者を死なせた場合、AIに従わなかったという責任まで医師は負うことになるのか?などなど、人間の関与をどこまで認めるのかという議論になりかねず、実社会におけるAIの本格的な運用には越えなければいけないハードルがいくつもあるということですね。
また10年に1度くらい発生しているAIの暴走による世界同時株価暴落や、刑事罰の量刑やバス運転手の適正診断、はたまた予知データとしての人事考課への活用など、論理プロセスもわからないのに人間社会がAIに振り回される様はまさに寒々とした光景だと言えます。
私は兵器面での活用で、『ターミネーター2』のようになったらコワイなあと内心思っていたのですが、ちゃんとターミネーター問題ってあるんですね!(怖っ!)
アメリカのロボット大会の興行が軍事費で賄われていて、日本人研究者もそちらの研究の方にとられているようで、ホントに「ターミネーター」の方に向かわないよね!?
AIが構想されてから現在は第三次ブーム(?)のような状況であるとのことです。
第一世代はいわゆるプログラムング主体の命令文をコンピュータに覚え込ませる「ルール・ベースのAI」と言われるものだったのが、その限界からしばらく冷え込み、次に第二世代として「統計・確立型のAI」が主体となったそうです。そして、その限界からまたしばらく冷え込み、現在は第三世代として「自動学習」(ディープ・ラーニング)による「パターン認識」が世を騒がせているようです。
IBMの誇るAI「ワトソン」などは「ルール・ベース」と「統計・確立型」の組み合わせが主体とのことで、現在は、何から何まで「AI」概念でひとまとめにされているので注意する必要がありそうです。
「自動学習」による「パターン認識」は、これまで人間が「勘」に頼ってきた部分を、プロセスはブラックボックスながら、人間よりも確実に結果を出せるという部分で人間の能力を上回ってきたものの、イレギュラーデータの対応の難しさや、自然言語処理に代表されるように複雑な状況への対応には「パターン認識」だけではまだまだ不十分のようです。
この感じからすると第四世代まではもう少しありそうなので、半分残念、半分ほっとした感じですかね。(笑)
本書ではこれらAIの現状をわかりやすく説明されていて、即興知識として勉強になりましたが、はじめにと第一章での前振りがそれぞれ本書の内容の簡潔編になっていて、程度の差がありこそすれ、都合3回、同じ話が繰り返されるのと、「兵器」の章では世界の軍事情勢の話など本論には関係ない話への脱線もあったりするので、正味は70%くらいなのではないかと思います。まあ新書だし、こんなもんなのかな?(笑)続きを読む投稿日:2017.08.07
この一つ前に読んだ『人工知能の最適解と人間の選択』がとても良かったので、こちらはちょっと見劣りしてしまう。が、ハイリスクな分野を3つに絞っている良さはある。小論文対策にはこっちかな。
投稿日:2021.10.12
新刊自動購入は、今後配信となるシリーズの最新刊を毎号自動的にお届けするサービスです。
- ・発売と同時にすぐにお手元のデバイスに追加!
- ・買い逃すことがありません!
- ・いつでも解約ができるから安心!
※新刊自動購入の対象となるコンテンツは、次回配信分からとなります。現在発売中の最新号を含め、既刊の号は含まれません。ご契約はページ右の「新刊自動購入を始める」からお手続きください。
※ご契約をいただくと、このシリーズのコンテンツを配信する都度、毎回決済となります。配信されるコンテンツによって発売日・金額が異なる場合があります。ご契約中は自動的に販売を継続します。
不定期に刊行される「増刊号」「特別号」等も、自動購入の対象に含まれますのでご了承ください。(シリーズ名が異なるものは対象となりません)
※再開の見込みの立たない休刊、廃刊、出版社やReader Store側の事由で契約を終了させていただくことがあります。
※My Sony IDを削除すると新刊自動購入は解約となります。
お支払方法:クレジットカードのみ
解約方法:マイページの「予約・新刊自動購入設定」より、随時解約可能です続巻自動購入は、今後配信となるシリーズの最新刊を毎号自動的にお届けするサービスです。
- ・発売と同時にすぐにお手元のデバイスに追加!
- ・買い逃すことがありません!
- ・いつでも解約ができるから安心!
- ・優待ポイントが2倍になるおトクなキャンペーン実施中!
※続巻自動購入の対象となるコンテンツは、次回配信分からとなります。現在発売中の最新巻を含め、既刊の巻は含まれません。ご契約はページ右の「続巻自動購入を始める」からお手続きください。
※ご契約をいただくと、このシリーズのコンテンツを配信する都度、毎回決済となります。配信されるコンテンツによって発売日・金額が異なる場合があります。ご契約中は自動的に販売を継続します。
不定期に刊行される特別号等も自動購入の対象に含まれる場合がありますのでご了承ください。(シリーズ名が異なるものは対象となりません)
※再開の見込みの立たない休刊、廃刊、出版社やReader Store側の事由で契約を終了させていただくことがあります。
※My Sony IDを削除すると続巻自動購入は解約となります。
お支払方法:クレジットカードのみ
解約方法:マイページの「予約自動購入設定」より、随時解約可能ですReader Store BOOK GIFT とは
ご家族、ご友人などに電子書籍をギフトとしてプレゼントすることができる機能です。
贈りたい本を「プレゼントする」のボタンからご購入頂き、お受け取り用のリンクをメールなどでお知らせするだけでOK!
ぜひお誕生日のお祝いや、おすすめしたい本をプレゼントしてみてください。※ギフトのお受け取り期限はご購入後6ヶ月となります。お受け取りされないまま期限を過ぎた場合、お受け取りや払い戻しはできませんのでご注意ください。
※お受け取りになる方がすでに同じ本をお持ちの場合でも払い戻しはできません。
※ギフトのお受け取りにはサインアップ(無料)が必要です。
※ご自身の本棚の本を贈ることはできません。
※ポイント、クーポンの利用はできません。クーポンコード登録
Reader Storeをご利用のお客様へ
ご利用ありがとうございます!
エラー(エラーコード: )
ご協力ありがとうございました
参考にさせていただきます。