「おそろしいビッグデータ」 　山本龍彦著　朝日新聞出版 2017.11.30 「アマゾノミクス」 　アンドレアス・ワイガンド著 土方奈美訳　文芸春秋社　2017.7.30

ビッグデータは最近のバズワードの一つだが、フェイスブックのユーザーデータ流用事件や欧州のGeneral Data Protection Regulation(GDPR)の施行など、プライバシーの侵害の懸念等について、多角的な観点からの議論が深まりつつある。この2冊は異なる視点からみたビッグデータの問題点を扱い、併せ読むと理解をより深める参考となる。

「おそろしいビッグデータ」の著者、山本龍彦は慶応大学教授でアカデミックな立場からプライバシー問題を研究しており、ビッグデータがもたらすおそろしいシナリオを紹介する。

　「『バーチャル・スラム』という恐怖」では、本人の知らない間に低評価され、就職、融資など様々な面で社会から疎外されてバーチャル・スラムに陥る姿を描く。現実にも、中国の最高人民法院はアリペイと提携し情報共有しており、ビッグデータ、AIプロファイリングに基づく信用力スコアが裁判結果に影響しているという。また米国でも多くの州で再犯リスクをビッグデータに基づきコンピュータがスコアリングするシステムを採用し、過去の差別を助長（黒人は白人の倍）しているともいえる。従来型の個人評価方法では、確率に頼った判断で、スモールデータに基づき誤りを最初から見込んだものであった。この可謬性の認識が「私」と「ワタシ」の間に余剰を生み出し、反論の実質的機会を作出していた。これに対しビッグデータに基づくAIの判断は無謬―神―であり反論の機会を失う。

　「決めさせられる私」では、たとえばビッグデータ解析により、女性はうつ状態にあるときに化粧品の購入傾向があるとされ、プロファイリングによりうつ状態を予測するアルゴリズムも構築されている。このように選択環境の調律を強力に行えば、消費者がどう合理的意思決定から逸脱するか見通し、それにつけこむことができる立場に立つ。

　「民主主義の崩壊」では、政治的な信条や傾向を予測するプロファイリングによって、たとえばフェイスブックの「いいね」情報を集積することにより、黒人/白人95%、男/女93%、民主党/共和党85％、キリスト教徒/イスラム教徒82%その他性的指向、知的水準までわかるという。フィルターバブルによって政治的分断が起きる懸念とともに、先述の消費者誘導と同じ構造で選挙が展開される恐れもある。政治的コミュニケーションはますます個別化され、プライベートな取引に近似し、公共圏を根本的に変更してしまうという。

　「憲法から見るビッグデータの未来」では、以上のようなシナリオにどう対応していくかを述べている。例としてGDPRのプロファイリングに対して異議を述べる権利、自動処理のみに基づいて重要決定を下されない権利を紹介する。また米国の方向性としてFTC（連邦取引委員会）2016年報告書を引き、クレジット会社によるビッグデータ解析に基づく不利な決定には具体的な理由を提示すること、プロセス検証のため決定過程を記録することによりブラックボックス化を避け、予測精度と公正さのバランスを求めるとしている。

　そして、自己情報コントロール権を鍛えることを提案している。即ち、今後自己の管理下にないところで事実らしく受け取られる情報が生産されることをコントロールの対象とし、「つながる」ネットワークシステムを主体的に選択する権利を強化する等である。

「アマゾノミクス」の著者アンドレアス・ワイガンドは、アマゾンの元チーフサイエンティストで、アリババ、AT&T、ウォルマート等でも経験のあるビッグデータの世界的専門家であり、この問題をデータ企業での実務的視点からみている。従って、「おそろしいビッグデータ」がユーザーとデータ企業を二項対立的にとらえているのに対し、本書では両者の生産的な協働が強調される。

　「データの作成、伝達、処理は量的にも質的にも劇的な変化を遂げており、情報を知る権利、正す権利だけでは不十分なことははっきりしている。これまでのところ既存の法制度の見直しの議論は、個人による情報の管理とプライバシーを維持することにほぼ終始している。残念ながらこうした方法は一世紀前の技術と、時代遅れの理念や経験に依拠している」という。例えば、今の法律や社会規範は保険のようにデータが足りないという前提にあるのに対し、アマゾンでは500項目の個人的属性を明らかにし、0.1人規模で（すなわち個人をさらに詳しく）セグメントしているという。センサーが極めて小さくなり、スロレージコストも低減、顔の表情や声を手掛かりとする感情認識システムは人間の能力以上にパターンを認識し、今や人は、位置も人間関係も感情もすべて読み解かれている。これによってとほうもない恩恵と同時にリスクがもたらされる。

あるいは、今や進んで人生を「公開」する時代、「過去100年にわたり、我々はプライバシーを大切にしてきたが、そろそろそれが幻想にすぎないことを認めるべきだ。」「時代は変わった。匿名性は民主主義の前提条件などではない。」「今日の状況と未来の可能性を見据えた新たなルールを作るほうがいい」という。そしてそのためには「透明性」と「主体性」が必要だという。

　「透明性」は、個人が自らに関する情報を知る権利すべてを包括する概念で、個人側が入手できるアウトプットは何か、企業の利益と個人の利益は合致しているかの観点。データ企業はユーザーが企業とデータを共有する見返りとして得られるメリットと、それに伴うプライバシーの喪失を管理する仕組み（プライバシー効率評価という）を持たなければならない。

　「主体性」は、個人が自らに関する情報に基づいて行動する権利を包括する概念で、個人側でパラメータを自由に調整して異なるシナリオを検討し、選択肢を増減できるかという観点である。

　アマゾンでは「アカウントサービス」のページによって透明性と主体性を提供しているし、フェイスブックも2014年に同様の手法を取り入れたという。

　他方で解決すべき「公正さ」という問題が残るという。例としてノーベル経済学賞学者のアルビン・ロスの提示した臓器提供者と患者とのマッチング最適化アルゴリズムを紹介する。ソーシャルデータを使って、生きられれば社会や家族にどれだけ価値があるか計算し比較できるのだろうか。

　ソーシャルデータ革命とは測定できなかったものが測定可能になる。自分の選択肢の結果をパーソナライズして吟味できる。従って「何が公正か選択しなければならない、もはや無知を決め込むことはできない」という。

　しかしである。上記二冊の本が主張するように、現実に自分の関知しないところで日々膨大に生成される自己に関するかもしれないデータをコントロールできるのだろうか。例えば「アマゾノミクス」は、すべての画像に当該個人である確率を表すタグをつけ、各自がどこまで見るかを自分で決められるようにすることを提案する。はたしてそのような制度設計がアロガントなデータ企業相手に本当に可能なのだろうか。

　かつてアルビン・トフラーは「第三の波」において、第二の波のおける世界観が原子論的解釈（個人単位－おそらくプライバシーの基礎）なのは、政治的・社会的理由があり、第一の波の拡大家族、教会、君主政体から人々を開放する必要があったからという。国民国家、民主主義、基本的人権などもそこから派生したのだろうが、新しい時代のスタートラインとして、自然科学、社会学、心理学、経済学など総括的再構成が求められるとする。その上で、第三の波の文明は、非都市化、再生可能エネルギー、非集中化生産など第一の社会とよく似た特色を持つという。現下のトレンドを評して第四次産業革命、インダストリー4.0、ソサイエティ5.0などと喧伝されているが、もし本当に革命的であるというなら、どのような総括的再構成になるのであろうか。

「おそろしいビッグデータ」では、個人の尊重原理、憲法との調和的な利活用を訴え、経済合理性や効率性偏重を批判し、巻末で「そういう未来を望むなら、まず憲法を倒してからいけ」と啖呵を切るが、そのような未来の到来をも予感させるビッグデータなのである。