トピックス

科学技術の進歩と人権 ー企業経営の視点でー(2) |人権情報

ビッグデータのAI分析で就職差別が横行?

こうしたことがさらに悪用されれば、就職差別が横行することにもなる。具体的に考えれば前記の危惧が一層鮮明になる。例えば巨大データベースを構築したデータ収集・分析会社であるイギリスの「ケンブリッジ・アナリティカ(CA)」は、米国人2億3,000万人と5,000種類のデータを所有し、それらを悪用してアメリカ大統領選挙に関わってきた。その個人データには、名前・住所・選挙人登録歴・テレビ視聴番組・購読雑誌・ウェブ閲覧歴・ショッピング歴や各種政治政策への関心度や態度、投票先を迷っている有権者か否か、各種選挙での投票可能性などをAIを活用して分析し、特定の人びとに向けて作った特定のメッセージを送り続けていた。

こうした個人データが2016年のアメリカ大統領選挙で利用されたのである。これらは政治的なターゲット広告として、一定の有権者に影響を与えたといわれている。こうした個人データの一部が、研究用ツールを偽装したアプリによってFBから吸い取られていたことが明らかになった。それだけではない。

FBから奪い取られたユーザーの「いいね」をはじめとする多くの情報が勝手に分析され、ターゲットをしぼった戦略的な政治広告などに利用されていたことも明らかになった。また情報技術を駆使しているプラットフォーム系企業などによって写真やメールアドレス、SNSの投稿、場所や移動の詳細、コンピュータのIPアドレスなど多くの個人データが分析されていることが明らかになった。

またFBは、個人から提供されたデータ(年齢・居住地・位置情報・嗜好分析など)をビッグデータとして活用し、それらを解析することによって、特定のユーザーが求めている商品やサービスを予測し、個人にフィットした広告を送付してきたことも明らかになった。こうした広告は、広告主が求める潜在的な顧客を明らかにし、極めて高い投資利益率を生み出す。そうしたビジネスモデルによって、広告主へより高い広告費を請求できることになる。これらの分析データの元は、個人データとして収集されたビッグデータである。まさに個人データが金儲けの基盤になっているのであり、デジタル資本主義といわれる理由でもある。

もしこのような個人データが就職活動中の学生を分析するために悪用されれば、かつての差別身元調査と同様のことが横行することになる。それも極めて大量に安易に利用されてしまうことになる。それだけではない。ターゲット求人活動に利用されることも考えられる。今やマイクロターゲット広告が可能になっているように企業が好む学生集団や学生個人へのターゲット求人活動が可能になってしまうのである。リクナビ問題が一層悪質なのは、サイト利用者である就活生の同意さえ取らずに利用していたことである。リクナビ問題のような場合、同意をとっても問題があると考えていることも付け加えておきたい。

以上のことはリクルートキャリアや就職情報サイトを運営する企業だけの問題ではない。

こうした情報を購入した企業や個人データを扱っている全ての企業をはじめとする組織が教訓化すべき時代になっているのである。

チャンスとクライシス、光と影が大きくなる

企業には大きく分けて3つの立場の人びとがいる。ステークホルダー(利害関係者)といってもいいだろう。企業の採用活動の対象である「応募者」、企業で労働を提供している「労働者」、そして企業が作り出した製品・サービスを買う「消費者」である。これまで消費者のデジタル行動や購買行動であるビッグデータを分析して、消費者の趣味嗜好や思想信条などを解析し、政治的・経済的なターゲット広告を作成し利益を得てきたIT関係の企業が少なからずあった。リクナビ問題は「応募者」を対象にした事例である。

ある面では以上のようなビッグデータをAI解析してきた企業は、科学技術の進歩を企業経営に十分活かしてきた企業ともいえる。同時にその得意分野で大きな不祥事につながった企業も多数存在する。その典型的な事例の一つが先に紹介したFBの情報流出事案だろう。この事案は、米連邦取引委員会(FTC)によって、FBが制裁金50億ドル(約5,400億円)を支払う和解案が承認された。この和解条件には制裁金のほか、利用者の個人情報の扱いに関する規制も含まれている。プライバシーに関するFTCの制裁金としては過去最高額である。

上記の情報不祥事などはIT革命の進化なくして考えられないことであり、科学技術の進歩にともなう個人情報侵害という人権上の重大な問題につながった具体的な事例といえる。

科学技術の進歩と人権を企業経営の視点で考えた場合、上記以外にも多様なチャンスとクライシスが見えてくる。

具体的には、脳科学の飛躍的な進歩にともなって、脳の構造や機能・働きなどが徐々に解明され、それらの知見がAIの深化につながっている。今日のAIのディープラーニング(深層学習)を担っているディープニューラルネットも、脳科学の進化がそのバックボーンである。脳がどのように情報や記憶を処理しているかという機能の解明がなければ生まれてこなかった技術である。まさに脳の情報処理プロセスの一部を人工的に模倣したものがAIなのであり、脳の機能などの解明がさらに進めばレベルの異なるAIが製作されても不思議ではない。これらは企業経営や産業構造に劇的な影響を与える。ひいては雇用や生活、教育、医療などにも重大な影響を与える。今後はより一層多くの製品にAIが内蔵され、多くのサービスもAIが関与する形で提供される。リクナビのAI分析に基づく内定辞退率を企業に提供するというサービスも同様であった。こうしたサービスがAIの飛躍的な進化によりさらに洗練されていく可能性を持つ。あるいは新たなAIが、ビッグデータを駆使して個人情報の侵害やプライバシー侵害を起こす可能性が高い企業を提示する時代が来るかもしれない。AIが進化すればするほどチャンスとクライシス、光と影が大きくなる。AIによる情報監査が日常的になる時代は間違いなくやってくる。それだけではない。脳の疾患を治療する技術も大きく進歩するだろう。認知症患者を大きく減らす時代が来るかもしれない、しかしそれらの治療を慎重に行わなければ重大なクライシスを招く可能性も存在する。

人権デュー・ディリジェンスの重要性

また脳科学だけではなく、人工生殖の進歩やゲノム革命がもたらす企業経営におけるチャンスとクライシスも大きくなるだろう。企業は人のために存在している。人なくして企業活動はあり得ない。その人に直接的に大きな影響を与えるのが、人工生殖やゲノム革命である。

人びとの自己実現や欲求を満たすために企業は多くの製品やサービス等を提供している。それらの欲望の中には邪悪なものも含まれている。例えば凍結受精卵で数百年後の妊娠も理論的には可能である。ゲノム革命では多くの遺伝子治療が可能になるだけでなく、遺伝子を操作してデザイナーベビーも可能になりつつある。あるいは遺伝子差別も横行するかもしれない。そのほかにも数々の問題が存在している。

情報技術の進歩にともなうAIの進化やビッグデータの解析は、仮想現実やAIロボット、兵器ロボットなどの進化に連動している。それだけではない。サイバー戦争に代表されるように経済・雇用・差別・医療・教育・政治・社会に多大な影響を与える。100万分の1秒から1,000分の1秒のスピードで為替取引などがAIを使って行われている現実を知れば改めて説明する必要もないほどである。(詳細は冒頭に紹介した拙著『科学技術の進歩と人権ーIT革命・ゲノム革命・人口変動をふまえて』を参照いただきたい)

以上の状況をふまえ、企業は科学技術の進歩にともなう人権・環境・安全上の責任を認識しつつ、科学技術の進歩にともなうチャンスをつかみ取るという発想がなければ、長期的な企業経営の発展・進化を勝ち取ることはできない。逆に表現すれば科学技術の進歩にともなう人権・環境・安全面の無責任さが、科学技術の進歩にともなうクライシスになってしまうことを忘れてはならない。とりわけIT革命やゲノム革命が急速に深化している時代は、企業経営のチャンスも極めて大きくスピードも速い。一方、クライシスも桁違いに大きく一瞬にして大打撃を被る時代であることを忘れてはならない。

さらにIT革命の進化によって、先に紹介してきたように情報とりわけ個人情報が利益の源泉になってきており、金融資本主義から「デジタル情報資本主義」といわれるようになってきた。不祥事も金融に関わる不祥事から情報に関わる不祥事へと変化してきている。金融も仮想通貨といわれる情報通貨の占める割合が大きくなりつつある。このような時代だからこそ企業経営にとって、個人情報侵害という情報不祥事をなくすためにも人権デュー・ディリジェンスの重要性を強調しておきたい。そうした視点が企業経営の進化につながることを忘れてはならない。

(2020/12/02)