J-WAVEで放送中の番組『JAM THE WORLD』（ナビゲーター：グローバー）のワンコーナー「UP CLOSE」。7月2日（月）のオンエアでは、月曜日のニュース・スーパーバイザー、津田大介が登場。慶應義塾大学教授の山本龍彦さんをお迎えし、「バーチャル・スラム」の問題について伺いました。
【関連記事】スコアが低いとフラれる!? AIが人の信用度を点数化するサービスが日本でも開始
AI（人工知能）の活用が急速に進む中、あらゆるデータから個人の信用をスコア化し、人材採用や融資審査などの場で導入する動きがあります。AIが客観的に判定するということで公平にみえますが、このままいくと「バーチャル・スラム」と呼ばれる新たな貧困層が生まれる可能性があるそうです。一体どういうことなのでしょうか。
■個人の信用力をAIが評価
津田：まず「AIが個人の社会的信用度を判断する」ってどのような仕組みなんでしょうか？
山本：使っているAIの仕組みによって違いはありますが、一般的には個人の属性情報、行動記録、年齢、職業、年収、携帯電話の通信記録、ウェブの閲覧履歴、ネットショッピングの決済状況などのデータをAIに読ませて、そこから「決まった相手に規則的に電話をかける人は一般に信用度が高い」とか「電話のキャリアがA社でなくB社だった場合の方が信用度は高い」など、特定のパターンを発見します。そこから抽出されたパターンを、実際に評価したい相手のデータセットに適応して、その人の信用力や能力を評価付けするというシステムです。
津田：なぜ、年齢や職業、年収や学歴などが分かってしまうのでしょうか？
山本：自分が同意してAIに読ませることによって、スコア化できる仕組みです。
このような、個人のさまざまなリアル行動をデジタル的に記録しそれをスコア化していく動きは、中国が先行し、広く社会に浸透していると言います。
山本：アリババ傘下の信用情報機関である「芝麻信用（ジーマ信用／セサミ・クレジット）」は、同傘下の決済サービス「アリペイ」の決済記録や、SNS上の人間関係に関する情報、学歴、資産の保有情報などあらゆるデータから個人の信用力を950点満点でスコアリングしています。700点以上の人は非常に信用力が高く、低金利でローンが組めたり、賃貸物件の敷金が不要になったりと特典を受けられる仕組みです。ただ、このデータは企業の採用活動はもちろん、一部の国の観光ビザ取得に使われたり、国家機関である裁判所でも共有されたりしているので、訴訟費用未払いの人のスコアが落ちて航空券の購入ができなくなる事例などが報告されています。スコアが高い人は、非常に快適で便利な生活が送れる反面、スコアが低い人のリスクは増大しているわけです。
■負のスパイラルに陥る「バーチャル・スラム」
津田：「バーチャル・スラム」とは一体どのような状態なのでしょうか？
山本：信用力や能力の評価がいったん低くついてしまうことにより、負のスパイラルに陥ってしまうことです。一度借金をすると信用力が落ち、信用力が落ちると就職も失敗するかもしれない。就職に失敗するとアルバイトとして低賃金の職で食いつないでいく。そうすると信用力が落ちるという負の連鎖に陥ってしまうんです。今は、「自分がこういうことをしてしまったから、お金が借りられないんだな」と予測と改善ができますが、AIによって様々な情報が使われた信用力になると、自分のどの行動が信用力のスコアを上げたり下げたりしているのか分からなくなるので、自己改善の仕様がない、そこも問題だと思います。
■個人のスコア化が進む中国、一方でEUの決定は？
中国が個人の行動をスコア化する動きがある一方で、EUは「AIのみが判断した融資や人材採用は認めない」というGDPR（EU一般データ保護規則）を施行しました。
津田：社会にとって便利だという芝麻信用などが普及して、社会のあらゆるサービスとの関連を進め、超監視社会に向かおうとする中国と、個人のプライバシーは守らなくていけないというEUがあります。この先、日本はどのような方向に向かえばいいのでしょうか。
山本：EUは憲法文化として人間や個人の尊厳が強いので、その理念を個人情報の保護法制に織り込んでいるイメージがあります。一方で中国は、「デジタル・レーニン主義」「デジタル・レーニズム」などと言われ、ある種、共産主義的なデータの政策がとられています。日本の場合、日本国憲法は個人の尊重をうたっていますし、基本的にプライバシーはあるという考えもあるので、中国よりはヨーロッパの方向性に親近感を感じているのではと思います。
■日本社会で「バーチャル・スラム」が生まれないためには
津田：「バーチャル・スラム」にいる人がそこにいる理由や、抜け出し方が分からないことによって、自己肯定感や自己承認ができなくなる。さらに自暴自棄になってしまう。そのような新しい社会的リスクが生じていく場合、どのように対応する必要があるのでしょうか。
山本：非常に難しいですが、EUは“AIのような自動処理のみによって重要な決定を下されない権利”を認めるわけですよね。それはひとつの参考にはなると思います。しかし、理念的で「これは本当に実行できるの？」っていう議論もあるかと思いますが。
津田：あとは、例えば会社が採用の時に、「個人のさまざまなデータを提出してください」と言う場合に、「憲法的な判断で会社に提出することはできないよ」ってことはできないものでしょうか。
山本：憲法は基本的に対国家なので、民間企業は採用の自由があるので、直接そのようなことを憲法上で禁止することは非常に厳しいですね。ただ、公序良俗というか憲法の理念は、民間の企業は守らなくてはいけないので、労働法制や民法の分野の立法を促す必要があると思います。
津田：日本社会にAIのスコア化がどこまで浸透するのかも含め、多分今後5年10年で大きく社会に入ってくるわけなので、少なくとも「どういうかたちで受け入れるのか」という議論を始めなければいけない時期にきているということですかね。
AIがますます進化を遂げることが予想されるなか、この先、日本も「バーチャル・スラム」の問題に直面するのでしょうか。今後の動向にも注目が必要です。
【この記事の放送回をradikoで聴く】
PC・スマホアプリ「radiko.jpプレミアム」（有料）なら、日本全国どこにいてもJ-WAVEが楽しめます。番組放送後1週間は「radiko.jpタイムフリー」機能で聴き直せます。
【話題の記事】
これまでの採用面接を覆す、AIが適正判定する時代
コインロッカーがない！ そんなときに便利な、お店で荷物が預けられるサービスが成長中
技術継承を助けるAIの「ディープラーニング」とは？
【番組情報】
番組名：『JAM THE WORLD』
放送日時：月・火・水・木曜 19時－21時
オフィシャルサイト：https://www.j-wave.co.jp/original/jamtheworld/
【関連記事】スコアが低いとフラれる!? AIが人の信用度を点数化するサービスが日本でも開始
AI（人工知能）の活用が急速に進む中、あらゆるデータから個人の信用をスコア化し、人材採用や融資審査などの場で導入する動きがあります。AIが客観的に判定するということで公平にみえますが、このままいくと「バーチャル・スラム」と呼ばれる新たな貧困層が生まれる可能性があるそうです。一体どういうことなのでしょうか。
■個人の信用力をAIが評価
津田：まず「AIが個人の社会的信用度を判断する」ってどのような仕組みなんでしょうか？
山本：使っているAIの仕組みによって違いはありますが、一般的には個人の属性情報、行動記録、年齢、職業、年収、携帯電話の通信記録、ウェブの閲覧履歴、ネットショッピングの決済状況などのデータをAIに読ませて、そこから「決まった相手に規則的に電話をかける人は一般に信用度が高い」とか「電話のキャリアがA社でなくB社だった場合の方が信用度は高い」など、特定のパターンを発見します。そこから抽出されたパターンを、実際に評価したい相手のデータセットに適応して、その人の信用力や能力を評価付けするというシステムです。
津田：なぜ、年齢や職業、年収や学歴などが分かってしまうのでしょうか？
山本：自分が同意してAIに読ませることによって、スコア化できる仕組みです。
このような、個人のさまざまなリアル行動をデジタル的に記録しそれをスコア化していく動きは、中国が先行し、広く社会に浸透していると言います。
山本：アリババ傘下の信用情報機関である「芝麻信用（ジーマ信用／セサミ・クレジット）」は、同傘下の決済サービス「アリペイ」の決済記録や、SNS上の人間関係に関する情報、学歴、資産の保有情報などあらゆるデータから個人の信用力を950点満点でスコアリングしています。700点以上の人は非常に信用力が高く、低金利でローンが組めたり、賃貸物件の敷金が不要になったりと特典を受けられる仕組みです。ただ、このデータは企業の採用活動はもちろん、一部の国の観光ビザ取得に使われたり、国家機関である裁判所でも共有されたりしているので、訴訟費用未払いの人のスコアが落ちて航空券の購入ができなくなる事例などが報告されています。スコアが高い人は、非常に快適で便利な生活が送れる反面、スコアが低い人のリスクは増大しているわけです。
■負のスパイラルに陥る「バーチャル・スラム」
津田：「バーチャル・スラム」とは一体どのような状態なのでしょうか？
山本：信用力や能力の評価がいったん低くついてしまうことにより、負のスパイラルに陥ってしまうことです。一度借金をすると信用力が落ち、信用力が落ちると就職も失敗するかもしれない。就職に失敗するとアルバイトとして低賃金の職で食いつないでいく。そうすると信用力が落ちるという負の連鎖に陥ってしまうんです。今は、「自分がこういうことをしてしまったから、お金が借りられないんだな」と予測と改善ができますが、AIによって様々な情報が使われた信用力になると、自分のどの行動が信用力のスコアを上げたり下げたりしているのか分からなくなるので、自己改善の仕様がない、そこも問題だと思います。
■個人のスコア化が進む中国、一方でEUの決定は？
中国が個人の行動をスコア化する動きがある一方で、EUは「AIのみが判断した融資や人材採用は認めない」というGDPR（EU一般データ保護規則）を施行しました。
津田：社会にとって便利だという芝麻信用などが普及して、社会のあらゆるサービスとの関連を進め、超監視社会に向かおうとする中国と、個人のプライバシーは守らなくていけないというEUがあります。この先、日本はどのような方向に向かえばいいのでしょうか。
山本：EUは憲法文化として人間や個人の尊厳が強いので、その理念を個人情報の保護法制に織り込んでいるイメージがあります。一方で中国は、「デジタル・レーニン主義」「デジタル・レーニズム」などと言われ、ある種、共産主義的なデータの政策がとられています。日本の場合、日本国憲法は個人の尊重をうたっていますし、基本的にプライバシーはあるという考えもあるので、中国よりはヨーロッパの方向性に親近感を感じているのではと思います。
■日本社会で「バーチャル・スラム」が生まれないためには
津田：「バーチャル・スラム」にいる人がそこにいる理由や、抜け出し方が分からないことによって、自己肯定感や自己承認ができなくなる。さらに自暴自棄になってしまう。そのような新しい社会的リスクが生じていく場合、どのように対応する必要があるのでしょうか。
山本：非常に難しいですが、EUは“AIのような自動処理のみによって重要な決定を下されない権利”を認めるわけですよね。それはひとつの参考にはなると思います。しかし、理念的で「これは本当に実行できるの？」っていう議論もあるかと思いますが。
津田：あとは、例えば会社が採用の時に、「個人のさまざまなデータを提出してください」と言う場合に、「憲法的な判断で会社に提出することはできないよ」ってことはできないものでしょうか。
山本：憲法は基本的に対国家なので、民間企業は採用の自由があるので、直接そのようなことを憲法上で禁止することは非常に厳しいですね。ただ、公序良俗というか憲法の理念は、民間の企業は守らなくてはいけないので、労働法制や民法の分野の立法を促す必要があると思います。
津田：日本社会にAIのスコア化がどこまで浸透するのかも含め、多分今後5年10年で大きく社会に入ってくるわけなので、少なくとも「どういうかたちで受け入れるのか」という議論を始めなければいけない時期にきているということですかね。
AIがますます進化を遂げることが予想されるなか、この先、日本も「バーチャル・スラム」の問題に直面するのでしょうか。今後の動向にも注目が必要です。
【この記事の放送回をradikoで聴く】
PC・スマホアプリ「radiko.jpプレミアム」（有料）なら、日本全国どこにいてもJ-WAVEが楽しめます。番組放送後1週間は「radiko.jpタイムフリー」機能で聴き直せます。
【話題の記事】
これまでの採用面接を覆す、AIが適正判定する時代
コインロッカーがない！ そんなときに便利な、お店で荷物が預けられるサービスが成長中
技術継承を助けるAIの「ディープラーニング」とは？
【番組情報】
番組名：『JAM THE WORLD』
放送日時：月・火・水・木曜 19時－21時
オフィシャルサイト：https://www.j-wave.co.jp/original/jamtheworld/