9月11日 AI支配 大半が「無用者階級」に 歴史学者・ハラリ氏の警告

朝日新聞2019年9月8日1面:ユヴァル・ノア・ハラリ氏 1976年、イスラエル生まれ。ヘブライ大学教授。人類の歴史を描いた「サピエンス全史」と、人類の行く末を占った「ホモ・デウス」の著書2冊が世界で計1800万部売れ、オバマ前米大統領ら各国の政治家や企業経営者にも広く読まれている。人類が直面する課題について分析した新著も200万部売れているという(邦題「21Lessons」として11月に発行予定)。(写真は1日、テルアビブ、高野撮影) 人工知能(AI)とバイオテクノロジーの力でごく一握りのエリート層が、大半の人類を「ユースレスクラス(無用者階級)」として支配するかもしれないー イスラエルの歴史学者、ユヴァル・ノア・ハラリ氏が、朝日新聞のインタビューに応じた。「真の支配者(ルーラー)はアルゴリズムになる。残された時間は多くはない」と、急速にアルゴリズム(計算方法)の改良が進むコンピューターが人類を支配する将来が来かねねいと警告した。ハラリ氏は、「AIとバイオテクノロジー、生体認証などの融合により、歴史上初めて、独裁政府が市民すべてを常時追跡できるようになる」として、テクノロジーと独裁が融合する危険性を警鐘を鳴らした。一方、複雑化する金融などアルゴリズムが支配するシステムは誰も理解できなくなり、専門家ですら、膨大な情報を集めるコンピューターのアルゴリズムからのアドバイスに頼らざるを得なくなると指摘。「公式には権力は大統領にあっても、自分では理解できないことについて決定を下すようになる」。データの保有権について政府が規制する必要があると主張した。個人のレベルでも、ネット上などに集まるデータを総合してその人の好みをコンピューターに把握される「データ支配」が強まると不安視されている。それでもコンピューターに選択をゆだねのではなく、自分自身の弱みや特徴を知り、コンピューターに対抗する必要性を訴えた。今後10~20年の間に人類が直面する課題を三つ挙げた。核戦争を含む大規模な戦争。地球温暖化、そしてAIなどの「破壊的」な技術革新だ。特に技術革新については「30年後の雇用市場がどうなっているか、どんなスキルが必要なのかもわからない」と話し、どんな仕事にも就くことができない階層が世界中に広がる可能性も示した。(テルアビブ=渡辺淳基、編集委員・山脇岳志) ◇ハラリ氏のインタビューは後日、オピニオン面で詳報します。
同日4面:AI・バイオ技術の進化 脅威に 朝日新聞のインタビューに応じたユヴァル・ノア・ハラリ氏が描き出した未来は現実に忍び寄る。人工知能(AI)やバイオテクノロジーの進化は、ビッグデータによる支配や格差の拡大を招きかねない。今日的に進む技術革新にどう向き合えばいいのか。「19世紀には多くの国が、産業革命で蒸気船や鉄道を手にした英国やフランスの植民地いなった。それが今はAIで起こっている。20年待つと、多くが米国か中国の植民地になる」 人類に恩恵をもたらすはずが逆に脅威になる技術。その一つにハラリ氏は「AI兵器」の存在を挙げる。「カミカゼ(自爆)ドローン」。そんな別名を持つ全長約1㍍の無人機が加速しながら垂直に降下し、標的に着地し爆発した。今年6月、モスクワ近郊であった見本市で、ロシアの軍事メーカー、カラシニコフグループは新兵器の画像を披露した。ウラジーミル・ドミトリエフ社長は「監視や輸送に使ってきたシステムを初めて打撃に応用した。戦争のあり方を変える」と説明する。自ら動き画像などの情報を収集し、AIが敵味方を判断して攻撃を決定するドローンや戦闘車両ー。「自立型致死兵器システム(LAWS)と呼ばれるロボット兵器は米中やロシア、イスラエル、韓国が研究しているとされる。8月にジュネーブで開かれたAI兵器について国連の専門家会合は、規制に関する初めての指針を採択した。ただ、条約など法的拘束力のある規制に踏み込むのは簡単ではない。ハラリ氏がAIとともに「今後20~40年の間に経済、政治のしくみ、私たちの生活を完全に変えてしまう」と警告するのがバイオ技術だ。今年5月、遺伝子治療技術を使った白血病向けなどの製剤「キムリア」の薬価が過去最高の約3349万円に決まり話題を集めた。バイオ関連の技術革新はめざましいが、すべての人が最新治療の恩恵にあずかれるとは限らない。ベストセラーになった著書「ホモ・デウス」で、ハラリ氏は予想している。「2070年、貧しい人々は今日よりもはるかに優れた医療を受けられるだろうが、彼らと豊かな人々との隔たりはずっと広がる」 狙った遺伝子を効率良く編集できる「ゲノム編集」の技術「クリスパー・キャス9」が12年に登場し、遺伝子治療や創薬などへの応用が加速した。しかし中国の研究者が昨秋、人間の愛精卵にこの技術を使い、エイズウイルスに感染しにくい体質にした双子の女児を誕生させたと発表。安全性が十分に確保されていない技術を人で試したことに批判が集まった。神戸大の近藤昭彦教授は「高額の薬価を引き下げて多くの人が使えるようにし、バイオも倫理面の研究に力を入れないといけない」と指摘する。(モスクワ=渡辺淳基) 「銀行員は絶滅危惧種」 「AIとロボットが人々にとって代わり、雇用市場を変える。学校は子どもたちに何を教えるべきかもわからない」 著書で、社会の変化についていけずに職に就けない「無用者階級」が生まれる未来を予見したハラリ氏の世界には、日本の経営者も関心を持つ。その一人、みずほフィナンシャルグループの佐藤康博会長は「AIが人の知能を超えるシンギュラリティーが来れば無用者層とも呼ぶべき人たちが出てくる。現代人が日常で感じる将来への不安を深くえぐり出した」と語る。AIやビッグデータといったテクノロジーについていけなければ、金融業は生き残れない。社長時代の17年秋、10年間で約8万人の人員のうち、約1.9万人を削減する構造改革を佐藤会長が打ち出したのも、そうした危機感からだった。「銀行のビジネスモデルそのものがチャレンジを受けている」と佐藤会長は話す。その一つにフェイスブックが計画する暗号資産(仮想通貨)のリブラを挙げ、「通貨の供給量を調節する中央銀行が機能しなくなるかもしれない」と警戒する。ハラリ氏は、旅行業者と並んで、銀行員を「絶滅危惧種」と呼んでいる。巨大企業の場合、AIの普及で効率化が進むと、人員の余剰感を招きかねない。「人が余れば、フロントに出手お客様に対応する仕事や企画部門といった、人間でしかできないサービスを担えるように再教育することが大切になる」と佐藤会長は考える。ただ、AIがどこまで進化するかは読み切れない。ハラリ氏はこうも語る。「AIは進化を続ける。人々は一度だけなく、何度も自己改革を迫られる。このストレスは耐えがたいだろう」(編集委員・堀篭俊材)
世論を誘導する「厨房」「情報を集約して待つことで、計画経済や専制的な政府は、民主主義よりも技術的な優位性を持つ可能性ががある。民主主義と自由主義が常によりよく機能する法則があるなどとは考えるべきではない」 ハラリ氏は、一国の体制を技術が左右する時代が来たと告げる。その一端がすでに見られる場所がある。北京市内にある中国共産党の機関紙「人民日報」本社ビルの10階にある「中央厨房(セントラルキッチン)」だ。湾曲した壁一面に広がるモニター画面の中央に、中国全土の地図が青く映し出される。その上に光る大小の黄色の丸。「それぞれの記事がどの地域でどれだけ読まれているかが表示されています」。案内役の女性が説明する。各部が取材結果を持ち込み、次の取材計画を練るという。だが、「厨房」の本当の機能は別にある。画面には読者の性別、年齢層、地域などとともに、読者の書き込みから「記事を読んだ人の感情が肯定的か否定的か」も表示されている。「分析してどうするの?」。尋ねると、案内役は当たり前のように答えた。「世論が極端に傾いていないかを見ます。反応を見ながら新たな記事を書き、世論を誘導するのです」 今年3月、新華社通信は習近平国家主席のメディア戦略を報じている。「ニュースの収集、発信、反応などでAIの利用を探求する。アルゴリズムを制御し、世論を導く力を全面的に高めていく」中央厨房は他の党機関紙のモデルになり、似たようなシステムを、地方の機関紙にも取り入れる。個人データを巨大な利益に変えるグーグルやアマゾンなどの巨大プラットフォーマー「GAFA」。データで国家を統制するちゅごくのデジタル国家主義。双方が台頭する世界を、私たちはどう進めればいいのか。ハラリ氏は提案する。「技術はいい方にも悪い方にも働く。いま国家や企業が市民を監視するために一方的に使っている技術を、市民が国家を監視するためのものとして開発すべきだ」(北京=宮地ゆう) ◇一国をゆさぶる力を持つ巨大IT企業、「第2の石油」と言われるほどの価値になったビッグデータ、無人の自動車や兵器を実現するAIー。第2部では、私たちのくらしを左右すし始めた「見えないルーラー(支配者)」を探る。

朝日新聞ASAの伸光堂西部販売 森林文化協会

ご予約・お問い合わせはお気軽に

Tel0120-740-276

〒352-0011 埼玉県新座市野火止8-14-29

ページトップへ戻る