「AIがつなげる社会」福田雅樹　林秀弥　成原慧編著　弘文堂　2017.11.15

「かなしみの片手ひらいて渡り鳥」　詠み人おらず

　今年はAIが終わった年で、来年はAIがなぜ期待通りいかなかったのか分析する年になるのだそうである。いわゆるバズワードのサイクルの節目を迎えるとともに、他面一定範囲で実社会への定着が見通せるようになったわけである。本書はAIが特にネットワーク化を通じ社会に受容されるに際し、どのような課題が想定されるのかを、研究開発から法制度面まで検討したのであり、総務省情報通信政策研究所「AIネットワーク化検討会議」及び「AIネットワーク社会推進会議」での議論を踏まえたものである。なお冒頭の句は朝日新聞（2018.12.5夕刊1面）によれば、北大川村秀憲教授研究のAIによる作品であり、今年1月にテレビでの俳人との対戦で最高点を獲得したものである。

以下敬称略。

（総論）

　今回のAI第3次ブームは、機械学習（特にディープラーニング）の性能向上と、ネットワーク化を通じたもので、多大の便益とともに大きな影響を社会にも及ぼす。そのリスクは、①機能に関するものとして、利用者が意図しない事象が生じるリスク；不透明化、セキュリティ、接続されたネットワークの不具合、制御喪失、②法制度・権利に関するリスク；事故、犯罪、消費者等の権利利益、プライバシー・個人情報、人間の尊厳と個人の自律、民主主義と統治機構、が考えられ、シナリオを設定する手法により分析している。

　クロサカタツヤは、AIを機械学習以前のエージェントコンピューティング、自然言語処理といったものと、機械学習以後の特徴量の抽出が自動化された深層学習といったものとを明確に区別すべきだとする。

　中西崇文は、AIのブラックボックス化に対し、薬の効き目をサンプル効能で測るように、演繹的科学でなく帰納的サイエンスとしてみるべきだとする。

（研究開発）

　AIロボットの発展を見据えた研究開発と利活用が必要で、アメリカは既存法規制の適用を前提としつつ研究助成の条件を通じたソフトロー的な対応をしているのに対し、欧州は自律性を有するロボットに焦点を当て、立法（ハードロー）と倫理行動規範（ソフトロー）の組み合わせを模索している。

　久保田水生は、国際的には自律型致死兵器が大きな議論の的になっているのに対し日本は遅れていると指摘し、新保史生も、法的な議論が不十分で、ルールがなければかえって萎縮効果が生まれるという。検討課題としては、EU RoboLowガイドラインにあるように、①ロボットそのもの、②自動運転、③モビルスーツ、義足、装着型ウェアラブル、④手術、遠隔地、リモート、⑤医療、介護、福祉、⑥災害、レジリエンス、があり、その法的問題としては、①健康、安全、環境、利用者保護、安心安全な利用環境、②モノ、情報の法的責任と製造物責任、③知的財産（ロボットそのもの、ロボットの創作）、④プライバシー、⑤権利能力、エージェントについての効力、があるとしている。たとえば、自動運転についてEUは製造物責任をメーカーが全面的に負うというルールを作ることにより、結果的に非関税障壁を設けるという、個人情報保護と同様のアプローチをとっている。

　久保田は、AIのネットワーク化により、大きなシステム全体としての振る舞いが複雑になることを踏まえ、チャールズ・ベローを引きながら、「ノーマル・アクシデント」、すなわち正常なオペレーションにかかわらず、システムの複雑性による事故につては、従前の責任論を構成し直す必要性を指摘する。

（データ、情報、知識の流通と利活用）

　20世紀後半から次のような通信技術、情報処理技術が進展した。①センサー、映像・音声認識（知覚装置）、②ビックデータの蓄積、インターネット上で蓄積されローコストで検索可能、③ディープラーニング等の機械学習、④人工音声、映像作成技術、作業ロボット、またそれらを無線で結ぶ高速モバイル通信。

　以上を活用し、AIネットワークの進展に向けた協調の円滑化が必要。

　AIの創作については、音楽の自動生成システムは一部商用化されている。しかし「一流の人間並み」以前に、自動翻訳、作曲支援、画像変換など、使えるツールとして十分活用されているし、こうした参加型体験・体験型コンテンツの方がビジネスとしては広がりがあるという。

（プライバシーとセキュリティ）

　プライバシー・バイ・デザインはカブキアン博士の提唱によるもので、初期設定として事前に設計に組み込むというものだが、AIに適用できるものとしてスマート・データがある。これはサイバー空間に代理人を作り、個人の選好、状況に応じ本人の情報を開示する、しないを決定するもの。

　AIの利用と個人情報保護制度における課題として、新保は、問題の本質はAIが自律性を持った場合、それを利用する個人情報取り扱い事業者が適正な取り扱いをすることが可能かという事、また、他のシステムと接続されることにより、想定されない取り扱いがされる懸念があるという。

　「パーソナルデータの利活用に関する制度改正大綱」で指摘された課題のうち、名簿屋対策は2017年改正個人情報保護法に盛りこまれたものの、①新たな紛争処理体制、②プロファイリング、③プライバシー影響評価については含まれなかった。今後の課題として残されている。

（AIネットワーク時代における社会の基本ルール）

　平野晋は、AIネットワーク時代の製造物責任法には責任の空白が生まれるという。AIの場合、一般の製造業者の損害賠償責任の立証（過失、相当因果関係の立証）が困難になるという。

　刑事法制については、深町晋也は、AIに対する不利益処分（破壊、プログラム消去）は刑罰という形でなくとも可能で論じる意味があるのかという。人間と同様、責任能力を前提としない保安処分は十分にあり得るからである。

（AIネットワーク時代における人間）

　AIプロファイリングが、伝統的差別を再生産する恐れがある。米国FTCレポートなどによれば、①過少代表―データ端末所持比率低い貧困層、マイノリティ、②既存バイアスの反映―AIが現況を学習してしまうからである。

　また、デ―タ・スティグマについては、メディアを通じた前科の公表に関し「新しく形成している社会生活の平穏を害され、その更生を妨げられない利益を有する」との判例（最H6.2.8判「ノンフィクション逆転」判決）が引用されている。AIの予測評価は「セグメント」という新たな集団によって個人を類型的・確率的に把握して、いわば個人の人生のキャンパスにAIがあらかじめ下絵を描いてしまう機会が増え、その結果個々人は自己決定権を失い、個人の尊厳と抵触する恐れがある問題点である。

　以上が本書の極概要である。AIについては、シンギュラリティ、トロッコ問題にみられる為にする課題設定、SF的未来社会論などの論説が多く語られているが、本書は幅広い観点から、それぞれの分野の専門家が、シナリオ設定や対談という形式も含め、分かりやすく解説されている。本書に引用されている各国の報告書と併せて、いずれにせよ近い将来に取り組まなければならない問題を理解するのに参考となる。

　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　（見城　中）