AIは神の目か、悪魔の目か、それともその両方か？

AIの目には今どれほどのことが“見えて”いるのだろう？　実際のところ、現在の最先端のAIはあまりに多くのことが見える。もはや印象的な事例を整理するということすら難しい。そこでこのストーリーでは、ぼくたちの身体ほどの大きさから始めて、徐々に視野を広げていきながら、ぼくたちとAIの関係を探っていこうと思う。ちょうど、自分の頭上にカメラがあるような視点を想像してほしい。そのまま少しずつ上昇していくようなイメージで話を進めよう。

まずは人間１人分の身体ほどの大きさだ。頭上のカメラが捉えているのは１平方メートルの視野。顔がよく見えるこの視野で、AIに分かることは何だろう？

たとえば、人の顔を見るだけでその人の支持政党が分かるというAIがある。スタンフォード大学の研究者による報告では、顔認識アルゴリズムを約100万人の顔の画像に適用し、その人がどれだけ「リベラル派（民主党支持）らしい」か、あるいは「保守派（共和党支持）支持らしい」かを分類した。その結果、AIによる正答率は72％であり、偶然（50％）、人間の精度（55％）、100項目の性格質問票による結果（66％）よりも優れていた。

もう少し深いレベルのことも分かる。こちらは2017年の研究だが、同じくスタンフォード大学の研究者（支持政党の研究と同じ人物だ）による報告では、顔認識アルゴリズムによって性的指向が分かる。同研究のアルゴリズムは、ゲイとヘテロセクシャルの男性を81％、女性を74％見分けることに成功している。ディープニューラルネットワーク（ディープラーニング〈深層学習〉を実現する、脳機能を模した数理モデル）を用いたもので、35,326枚の顔画像から特徴を抽出したという。ちなみに人間の判断では、男性で61％、女性で54％であり、AIの精度が大きく上回っている。

頭上のカメラに視点を戻そう。少し上空に飛び立って、4平方メートル程度をカメラは捉えている。人間2人分ほどが入ってこれる視野だ。この範囲でAIに分かることは、コミュニケーションに関する情報だ。たとえば、目の前の人があなたに対してどんな感情を抱いているか、といったことだ。

香港のスタートアップ、Find Solution AIによって開発された4 Little Treesというソフトウェアは、人の感情を評価できるという。顔の特徴を抽出することで、目の前の人が抱く感情を、喜び、悲しみ、怒り、嫌悪、驚き、恐怖などのカテゴリーに分類することができる。このソフトウェアを、学校やオフィスに適用すれば、生徒や労働者の「やる気」を評価し、成績を予測することができるという。科学誌Natureの記事によれば、感情認識産業は2026年までに370億米ドルに成長するという。

視点はもう少し上空へと飛び立つ。次の視界は375平方メートル。少し大きめのコンビニエンスストアがすっぽり入るくらいの大きさだ。これまで話してきたような顔認識システムが設置されたコンビニエンスストアに入店することを想像してほしい。入店した瞬間、あなたの年齢や性別はもちろん、支持政党や性的指向、今の気分、おまけに収入や過去の購入履歴までがお店側に把握される。ある意味では便利かもしれない。あなたは自分の欲しい商品を選ぶように誘導されるかもしれないし、ディスカウントも受けられるだろう。しかし、「偶然の出会い」すらも設計されるほどに店側が自分のことを監視しているショッピングというのは不気味に感じられる。

現在、こうした監視の不気味さに抗うべく、商業店舗での顔認識システムに反対するキャンペーンが展開されている。「BAN FACIAL RECOGNITION IN STORES（店舗での顔認証禁止）」のウェブサイトでは、顔認識システムを使用している企業や、将来使用する可能性のある企業を特定しており、リスト化されている。ウェブサイトによれば、ウォルマートは「使用しない」、マクドナルドは「将来使用する可能性がある」であり、アップルは「使用している」とされている。顔認識システム使用の有無は、「再生紙を使用しています」と同様の、エシカルな企業メッセージになりつつある。

20km²〜130,000,000km²〜∞

空の旅を続けよう。高度は一気に上昇し、視点はより広くなる。一気に20km²を視野におさめよう。ちょうど東京都の港区がすっぽり入るぐらいのサイズだ。眼下には街が見える。様々なテクノロジーによって最適化された近未来の都市「スマートシティ」だ。

街のいたるところにセンサーやカメラが取り付けられ、それらはAIによって制御されている。あなたが都市のことを知らなくても、その都市はあなたのことを熟知し、最適な提案をしてくれる。何も考えなくても休日を、混雑を避けて過ごすことができ、運命の出会いすらも思うがままかもしれない。

まるで夢のような都市に見えるここは、監視テクノロジーの最前線だ。2017年に始まった、スマートシティのための実践的AIの開発を促進する、国際的コンペティション「AI CITY CHALLENGE」がある。コンペティションにはいくつかのカテゴリがあり、道路を走る車をカウントしたり、複数のカメラを都市規模で用いて、特定の車両を画像から再認識するといったタスクを競い合う。WIRED UKによれば、2021年のコンペティションでは世界40カ国から集った様々な企業を抑え、中国が圧倒的な成績を収めた。中国の企業や大学は、全カテゴリで1位と2位を獲得したという。この戦績を言い換えれば、中国はこれら世界最高水準の監視テクノロジーをいつでも戦略的に用いることができるということだ。AI CITY CHALLENGEは、中国とアメリカの緊張状態が続く中で開催されたこともあり、この戦績にはある種の現実味がある。日本でスマートシティと聞くと、便利な街という印象だが、世界に視点を移すとあまり穏やかな状況ではなさそうだ。

ふたたび高度を上げる。成層圏を抜け、地球周回軌道の高度400kmへ。周囲には人工衛星が見える。視野は地球がすっぽりと収まる130,000,000km²に。後ろを振り返ると、そこには無限に広がる宇宙空間が見える。かつてガリレオ・ガリレイは「宇宙という書物は数学の言葉で書かれている」と語ったという。AIもそれ自体はアルゴリズムであり高度な数学だ。

BBC Sky at Night Magazine によれば、2017年10月、フローニンゲン大学、ナポリ大学、ボン大学の天文学者チームが、100年以上前にアルベルト・アインシュタインが一般相対性理論で提唱した現象「重力レンズ」を研究するためにAIを用いた。そのAIは「畳み込みニューラルネットワーク」と呼ばれる学習方法を採用している。それはソーシャルメディアのFacebookがユーザのタイムライン上に現れる画像をコンパイルするために用い、Googleが2017年に囲碁の人間チャンピオンを破ったコンピュータプログラム「AlphaGo」で使われていたものだ。

ニューラルネットワークは、系外惑星探査にも使われ、数多くの惑星がすでにAIによって発見されている。これらは人間の天文学者には見つけられなかったものばかりだ。

1㎡

ずいぶん遠くまで来てしまった。最後は再び小宇宙であるぼくたちの身体に戻ろう。

テクノロジーは数年で目覚ましい進歩をしてみせる。しかし、ぼくたちの感情や心は、そもそも進歩などしないものだ。喜びが指数関数的に成長したり、優しさの密度が2年で2倍になったりするようなことは現実には起こり得ない。だから、感情や心が進歩したように感じるときは、テクノロジーが、ぼくたちの感情や心をハイジャックし、フレーム化していると考えた方が良いかもしれない。

2019年にニューヨークのメディア批評家、ケイト・アイクホーンが『The End of Forgetting（忘却の終わり）』というタイトルの本を出版した。この本は、子どものアイデンティティの形成を軸にした、現代におけるソーシャルメディア批判だ。

ぼくたちは、子ども時代を忘却することによって大人になる。忘却することで、ぼくたちは子ども時代の耐え難い苦しみや悲しみに対処し、アイデンティティを確立すると言ってもいいだろう。子どもから大人になるまでに、死別や、親の離婚、あるいは愚かしい行いを経験することもあるだろう。ほんの少し前まで、それらは、アルバムの中の写真を燃やしてしまうなどして忘却できた。しかし現代のティーンエイジャーは、ソーシャルメディアなどのプラットフォーム上に、子ども時代の写真などの情報や関係性が残り続ける時代に生きている。それらはタグ付けされ、固定され、ときにはバイラルし、あるいは性的に貶められてデジタル空間上に残り続ける。子ども時代の記憶が刻印として、永遠に自らの人生に干渉する可能性がある時代に、彼ら彼女らは生き、大人になっているのだ。アイクホーンはそのことを印象的な言葉で綴っている。

「潜在的な危険性は、もはや子ども時代が消滅することではなく、むしろ永久的な子ども時代が到来する可能性である。デジタル時代の真の危機は、子ども時代の消滅ではなく、決して忘れられない子ども時代の亡霊なのである」

AIをはじめとするデジタルテクノロジーは、多くのことを可能にしてくれる。しかし、それらのテクノロジーはときに、かつてあったはずの、ぼくたちの選択の自由をそっと奪ってしまっている。そのことに、ぼくたちは気づくことができない。あまりにも便利だからだ。たった一枚の写真も忘却できなくなるほどに。