【感想】悪のAI論　あなたはここまで支配されている

このレビューはネタバレを含みます

AIの問題点、特にその予想される最悪の事態を知りたくて読む。レビューがなかなか良いので期待をしたが、いつの間にか積読。「AIvs教科書が読めない子供たち」を先に読んで、思い出して読み終えた。

「AI　vs・・・」の方を先に読んで正解。こちらは情報言が多岐にわたって信頼できるが、数学者でありAI研究者が書いた「AI　vs・・・」の方が、冷静にしかも当事者としてしっかりとAIについてみていると思えた。
本書は問題点と対策は分かったが、研究者ではなくジャーナリストが書いているといった感じの本。

面白かったが、引用文が多すぎて、著者の意見にまとめていない感じ。(意見でまとめると、責任が生じるからか、あるいはそれほど揺れ動き、先が見えない世界だから、自分の意見としてまとめなかったのか・・・。)

それ故、他人の意見の要覧といった感じの本になっていて、多少読みずらい(私には会わないという意味)ので、星三つ。

下記にハイライトした個所をコピペ：

30
オレンジ色のハイライト | 位置: 25
　中国全土に１億台を超す監視カメラが設置され、警察官らがネットにつながったカメラ付きメガネ「スマートグラス」を着用する。 　そしてＡＩによる顔認識技術を使い、リアルタイムで〝ブラックリスト〟のデータベースと照合して、逃亡中の犯罪の容疑者らを即座に逮捕する。 　中国で展開されるＡＩを使った大規模監視ネットワークもまた、「スカイネット（天網）」と呼ばれて


オレンジ色のハイライト | 位置: 59
あなたは喫煙者か。飲酒はするか。交際相手はいるか──これらは７割前後の確率でわかる。 　キリスト教徒かイスラム教徒か。民主党支持か共和党支持か。ゲイかレズビアンか──８割前後の確率でわかる。 　さらに性別、そして白人か黒人か、なら９割以上の確率でわかる。 　フェイスブックで「いいね！」とクリックした履歴データをたどり、ＡＩで分析していくと、そんなことまで予測できてしまう─

メモフェイスブックのいいねでわかる色々な情報。

オレンジ色のハイライト | 位置: 93
欧州連合（ＥＵ）は２０１８年５月にプライバシーデータ保護を大幅に強化した新法「ＧＤＰＲ」を施行。そんなデータ支配への対策を鮮明に


黄色のハイライト | 位置: 322
この顔認識システムもまた、「スカイネット（天網）」という名前で呼ばれている。

メモ中国にもスカイネットがある。同じ支配者か？

黄色のハイライト | 位置: 327
香港英字紙「サウスチャイナ・モーニングポスト［ 13］」などによると、「スカイネット」は２０１５年から開発が進められ、２０１７年までに中国各地で１億７０００万台の監視カメラを配備。中国政府は２０２０年までに、さらに４億台を配備する。 　 14 億人の国民を、３秒以内に特定することを目指す、という。


黄色のハイライト | 位置: 355
ダレス国際空港などの米税関国境警備局による顔認識で使われていたのは、ＮＥＣの顔認識ＡＩシステム「ネオフェイス」だった［ 17］。 「ネオフェイス」は米国立標準技術研究所（ＮＩＳＴ）によるリアルタイムの顔認識の性能評価で、照合精度 99・２％を出し、１位を獲得しているという。２０２０年東京五輪・パラリンピックでも、大会関係者の会場入場時における本人確認システムとして導入が予定されている［ 18］。


黄色のハイライト | 位置: 621
その大半は男性からのもの。つまり合格者も男性中心となる。 　このため、ＡＩは男性の方が採用に適した人材と判断し、その履歴書の評価を高くするようになってしまったという。

メモこれはaiの思考を人間が分析している内容で、実は本当に女性は向かない職なのかも？女性が差別されてはいけないという、人間の側のバイアスの可能性はないのか?差別ではなく、AI はデータより分析したなら、男性と女性を正しく区別して判断したのでは？

黄色のハイライト | 位置: 637
ＡＩを使えば、ずっときめ細かい採用選考が行える、ということのようだ。

メモ資金的な問題はさておいて、逆に仕事探しをAI にまかせ、自分にあった会社を選ばせる方法もあるだろう。採用されるかどうかは別だが、双方でAI を使えば時間も労力も大幅に短縮するだろう。

黄色のハイライト | 位置: 648
ＡＩの学習データには性別、人種のデータは含まれておらず、その判定結果についてのバイアスチェックは行っているという。ただし、その詳細は公開されていない。 　ベビーシッター候補者本人が、その結果を知ることもできない。また、ＡＩによる分析への同意を断れば、ベビーシッターの仕事を得られなくなる。


黄色のハイライト | 位置: 652
企業が人材採用の際に、志願者のソーシャルメディアへの投稿をチェックする傾向は、この数年、鮮明になってきた。


黄色のハイライト | 位置: 668
「社会信用システム」は中国国務院が２０１４年６月、社会規範の向上を旗印に打ち出したプロジェクトだ。目標年次は２０２０年［８］。 　 14 億人の国民を対象に「社会信用」のスコアを整備するというものだ。


黄色のハイライト | 位置: 675
「社会信用」が低い人物はブラックリスト化され、飛行機や列車の搭乗が拒否されるなどの制裁措置も科される。 　


黄色のハイライト | 位置: 817
ＡＩシステムは、それをデザインする人々が何を優先させるか、何に偏見を持っているかによって形づくられていく。それが意識的であろうと、無意識であろうと。私はそれを、〝コード化されたまなざし〟と呼んでいる。


黄色のハイライト | 位置: 1,189
イスラエル製の 徘徊 型兵器「ハーピー」は自律型兵器といえる、という。「ハーピー」が狙うのは敵のレーダー施設だ。 「ハーピー」は２時間半ほどの航続時間で５００キロの距離をカバーする。いったん発射されると、レーダーを探して飛行を続け、捕捉するとそのまま自動的に体当たりの自爆攻撃をし、施設を破壊する仕組みだ。中国、チリ、インド、韓国、トルコの５カ国が購入しているという。 　


青色のハイライト | 位置: 2,183
日本でも、２０１３年４月の公職選挙法改正でインターネット選挙が解禁。同年７月の参院選からインターネットを使った選挙運動が展開されている。 　また、ソーシャルメディアの広がりに伴って、フェイスブックやツイッター、ユーチューブなどを使った選挙運動も行われ、ネットユーザーのデータ活用にも注目が集まっている。 　一方で、日本の個人情報保護委員会は２０１８年 10 月 22 日付で、フェイスブックに対して行政指導を行った、と発表している［


メモ | 位置: 2,203
これはあり得る。以下コピペ。ＡＩには偏見が潜み、私たちが気付かぬうちに差別をするかもしれない。しかも、ＡＩがどう考えて判断を出したのかはわからない。　就職やローンの審査で、不当に落とされたら。知らぬ間に「テロリスト」や「犯罪者」にされたら。自動運転車や兵器が、人間には予想外の動きをし始めたら。

青色のハイライト | 位置: 2,250
２０１８年２月、ハーバード大学の心理学教授、スティーブン・ピンカー氏が、「イーロン・マスク氏がＡＩの脅威を真剣に考えているなら、自動運転車の製造をやめているだろう」と批判。マスク氏は「ピンカー氏でさえ、（自動車のような）機能的な狭い用途のＡＩと 汎用 ＡＩの区別がついていないのか」と反論。マスク氏の規制論は、用途を限定しない、人間の知能に匹敵するような「汎用ＡＩ」が対象である、と主張して

メモAIには機能的狭い用途のAIと、汎用的なAIがあり、そのために、論争がややこしくなっているようだ。

青色のハイライト | 位置: 2,373
欧州連合（ＥＵ）が２０１８年５月 25 日、新たなプライバシー保護法制「一般データ保護規則（ＧＤＰＲ）」を施行した［ 16］。 　膨大な個人データがネットを流通し、その多くをグーグルやフェイスブックといった米国企業が支配する中で、プライバシー保護法制を大幅に見直し、厳格化する。それがＧＤＰＲ


青色のハイライト | 位置: 2,411
内閣府の「人間中心のＡＩ社会原則検討会議」（議長・須藤修東大教授）は、２０１８年 12 月 27 日、ＡＩ活用の基本原則の草案を公表した［ 18］。 　基本原則は、ＡＩに関する国内の様々な指針を踏まえ、社会実装に対応するためのもの、と位置づけられて


オレンジ色のハイライト | 位置: 2,415
基本原則案が掲げるのは７


青色のハイライト | 位置: 2,415
人間中心の


青色のハイライト | 位置: 2,418
　　②教育・リテラシーの


青色のハイライト | 位置: 2,420
　　③プライバシー確保の


青色のハイライト | 位置: 2,423
　　④セキュリティ確保の


青色のハイライト | 位置: 2,426
　　⑤公正競争確保の


青色のハイライト | 位置: 2,428
　　⑥公平性、説明責任および透明性の


青色のハイライト | 位置: 2,431
　　⑦イノベーションの


青色のハイライト | 位置: 2,498
一方、ＡＩ開発の中心地、米国のトランプ政権は、ＥＵとは対照的な姿勢を打ち出して

メモ米国においては、AI開発は最大限かつ自由に進めるとのこと。

青色のハイライト | 位置: 2,626
第３章で紹介した、ＡＩによる殺傷兵器「自律型致死兵器（ＬＡＷＳ）」の規制をめぐる議論は、国連を舞台にして、数年にわたって続いている［


オレンジ色のハイライト | 位置: 2,798
「破壊兵器」のような凶暴さを持ちながら、万能には程遠いＡＩ。そして、見えない差別も抱え込んだＡＩとどうつきあえばいいのか。 　一つは、オニール氏のような監査によって、その公平性をしっかりと担保する取り組みを広げていくことだ。いずれ、標準化された指標の整備も必要だろ


黄色のハイライト | 位置: 2,987
https://www.youtube.com/watch?v=9CO6M2HsoIA

話題になった動画とのこと。

レビューの続きを読む