名無しのユータ 人間は考えることを辞めはじめている？
失敗が許されない社会
本書を読んでいると、大学生のために書かれた本のようにも感じます。
そのわけは著者の岡嶋裕史さんが日頃、大学生と接するなかで「おいおい、若い子たちはこう考えているのか」と時に心配をよせたり、同情したり、反論したりするなかで生まれた、ある種の疑問が「教材」になっているように思うからです。
著者も書いている通り、人間のあらゆるものが「外部化」されてしまい、最後に残ったものが「思考」であると。
その「思考」ですらもAIによって外部化されてしまうだろう…では君たちはどうする？といったような講義が目の前で展開されているように感じるのです。
著者は学生の状況をこのように説明します。
SNSの登場で、誰もがいきなり世界と対峙しなくてはならない状況になった。
間違ったことはあっという間に世界に拡散し、ログに残る。
つまり、失敗することは永遠にログに残るから、失敗しないことを子どもに教え込むようになった、と。
その反面、失敗しないための選択肢は検索すればウェブ上にある（かもしれない）。
生活の中で起こり得るあらゆる不便を解決するための知恵やハックをネットで検索し、解決することも多くなりました。
答えはＡＩが知っている
そういえば僕も思い当たる節がある。
たとえば紐の結び方。
本来、親世代から教わるべきもの。
ところが、親が忙しかったり、教える親が居なかったり、そもそも親が正しく紐を結べないがゆえに教えられない可能性もある。
齢30歳を過ぎる僕も、そして僕の同僚も、正しくない蝶々結びをしていたことをつい最近、恥ずかしながら指摘されました。
結果として「恥をかかないために」ネットで動画を検索し、正しい蝶々結びを学ぶことになったのです。
そして、「蝶々結び」と検索して出てきた検索結果が「最適解」であって、それは検索エンジンのAIが判断して表示しているもの。
つまり、世間でいうところの「正しい蝶々結び」の大部分は、すでにAIが判別している可能性もある。
幸いにもネットに出てきた蝶々結びは正しいものであったのですが、仮に年配者の説く蝶々結びと結び方やカタチが異なっていたら、どちらが正しい「蝶々結び」なのでしょうか？
ご祝儀袋や香典袋の書き方、金額、お札の入れ方は果たしてそれが正解なのでしょうか？
味噌汁やカレーライス、肉じゃがの作り方は何が正しいのでしょうか？
考えたらキリがありませんが、キリがないほどにあらゆる選択肢が生まれるからこそ正解が必要となるときがある。
そしてその正解を判別するのはもはや人間ではなく、AI。
つまりは「外部化」されるのです。
進学も就職も結婚も、人生のあらゆる局面でＡＩに判断をゆだねる世界はすぐそこまで来ているのかもしれません。
AIは人間の痛みが分からない
ところがAIは人間ではありません。
もしもアンドロイドのような人間的な機械が現れても、それは人間ではなく、人間のように振る舞う機械にすぎないのです。
ここでよく出てくるのが、身体性の議論である。私は大学で最初にこれを習ったとき に、なんでコンピュータやAⅠで身体の話をするのだと違和感を持った記憶がある。
引用元：思考からの逃走
しかし、限定された枠組みの中で演算するのではなく、人と同じ程度での判断を繰り返すしくみを社会に展開するならば、身体性は重要である。人間同士がたいしたコンセ ンサスもなく似たような行動を取れるのは、身体に起因していることが多いからだ。
頭をぶち抜けば痛い、というか、死ぬ。だから、先の例で厳密な最短距離を採用するならば頭を貫通することが正しくても、人間はそれを行動の選択肢から除外する。 嫌だからだ。機械は痛くない、だから人間と同じ行動が取れない。
ならば、痛みを検出するようなセンサーを機械にもつけようとなる。 太陽が目を焼く ことがないように視覚センサーも、大きな音からは逃げるように聴覚センサーも、と繰り返していく。大きな音が入力されたら、ニューロンに負のパラメータを入力して、そ の経路が発火しないようにすればよい。
しかし、だとすると、人間と同じ行動しか取れなくなるのでは? 生命がないからこそ、原子炉の中に飛び込むような任務に就いて欲しいときもあるだろう、それをAIが 渋るかもしれない。（p.128）
AIは機械であるがゆえに、機械なりの役割があります。
それを目的に開発しているがゆえに、機械以上の目的をアンドロイドなどに強いてはなりません。
そしていざ、人間の営む生活の中に彼らが侵入してきたとき、必ず齟齬が生まれるはず。
誰かがケガをしたり、最悪の場合、命を落とす人も出てくるかもしれない。
そんなときにどうすれば良いのでしょうか。
AIは人間の痛みが分からないからこそ、倫理やAIの起こした誤謬の責任は誰が負うのかを明確にしなければならないのです。
けれど、もうあまり時間は残されてはいません…。
「AIは正しい」
本著によると、中国では全国で「天網（スカイネット）」と呼ばれる監視網が張り巡らされてきているそうです。
「天網」とは瞬時に犯罪者を見分けることができるシステム。
具体的なことは僕にもよく分かりませんが「ロボコップ2014」に出てきた、群衆の中でも犯罪者を特定できたアレでしょうか。
また、個人の支払能力などを評価する「信用スコア」も普及し始めているそうです。
こうしたスコアの公平性は、巨大IT企業が自動化のうえで判断しています。
人間がそのようなシステムに迎合し、自分の行動を変容させ、高いスコアを得ようとするほうがラクで利益が大きいと著者は説きます。
しかも、人間が評価するよりもAIが評価してくれる方が公平だと感じるのです。
ただし、AIをバッファーとして挟んで稼働しているからこそ「人間よりAIのほうが正しい」という世論が広まれば、間違いを是正するための労力や時間は多大なものになるのでは？と著者は警鐘を鳴らします。
なぜなら、AIは間違いを犯さないのだから…。
なぜ「可視化」や「見える化」が重要となってきたのか
接種率を公表する自治体としない自治体
このコロナ禍が収束せず、１年が経とうとしている頃、ワクチンを優先的に接種できるのは65歳以上の高齢者と基礎疾患を持つひとたちとアナウンスされました。
その判断について僕はなんの異論もありません。
むしろ、死亡率の高い人から優先的に接種するのは倫理的にも合理的で、それ以外の選択肢は他にないだろうと思います。
ところが、それと時を同じくしてこんな報道がなされました。
自治体によって接種回数に格差が生じれば、住民の不安をいたずらにあおり、自治体間のワクチンの「早打ち競争」や接種を強制する空気が出かねないという懸念だ。仮に接種回数が同じでも、人口に対する接種率は、人口が多い自治体と少ない自治体で大きく異なるという事情もある。 ある県の接種担当者は「接種実績が市町村ごとに公表されてしまうと、住民の間で『隣町との比較』が始まる」と指摘。逆にあまり情報を絞り過ぎても住民の不安につながりかねないため、「ワクチン接種が無駄なく順調に進んでいる証し」として都道府県単位で公表すべきだと話した。
引用元： ワクチン接種実績「細かい発表困る」 都道府県別に落ち着いた理由 | 毎日新聞
つまり、ワクチンの接種率を隠す自治体と公表する自治体が出てきたということ。
実際にワクチン接種がすすむと、隣町はどれくらいの年齢層が打ったとか、さまざまな噂を耳にしました。
僕の住まう町では、接種率の公表がありません。
ところが、信頼感が格段に高いと感じたのは、いつ頃には打てるだろうとの予測を細かく公表している自治体。
どんなに若年層の接種する時期が延びようとも、です。
老若男女、誰もがスマホを手にする時代。
調べればすぐに出てくる「答え」を予め用意できていない自治体には、不用意な疑心暗鬼が生まれ、そこからさらに信頼感が減退する。
つまり、情報を公開することへの価値が、旧来よりも非常に高まっているということ。
自分が可視化されることへの恐怖や、他人の生活、社会のしくみを可視化することへ の欲望は、インターネットの登場以降、特に拡大した感情だと思う。
（中略）
可視化が良いこととされ、それを実現する技術も洗練されたので、私たちはもはや可 視化なしには精神の安定が保てなくなっている。 遊園地のアトラクションで何分並ばさ れるのか、入社試験の面接で何を聞かれるのかを可視化せずにはいられない。自分だけ長時間並ばされることや、自分だけ難しい質問をされることに耐えられない。もし不公平があるならば、クレームを入れなければならない。
小説や映画はお金や時間を投じて鑑賞するに相応しいものなのか、あらかじめレビューやネタバレで確認する。自分のリソースを投じても損をしないことが確認できな いと動き出せない。
いままでは気にならなかったことが、見えてしまうと許せなくなる。こうした構造がある限り、クレームや誹謗中傷は必ず増大する。
この潮流は、賛否両論の叩き合いの渦中にあるが、それに疲れる人も多く、次のシステムが模索されている段階である。反動として、 可視化の度合いが低い社会や、旧態依然とした国家や共同体が強い権能を持つ社会を志向する動きが表面化するだろうが、これらが復活することはまずない。新型コロナウイルスの騒動を見るまでもなく、一度、個人の自由と権利を謳歌した者 が、それを制限する生活へ回帰することは容易ではないからだ。 個人主義はやめられない。でも、それを突き詰めると荒野のような世界が待っていることは認知された。 他者に見くびられたり、先んじられたりすることは許容できない。ならば、感情のな いシステム、評価基準が安定しているAIに能力を評価され、生活を管理されて生きて いくほうがいい。
引用元：思考からの逃走 p.225
どの情報を公表するべきか、しないのか。
もはやその判断は事なかれ主義の公務員には無理なのかもしれません。
ゆえに、次から次へと新たな技術が導入され、ついにはAIがその役割を果たすときが来るかもしれません…。
だからこそ、「可視化」というのは情報を公表するか否かを分析する決定者が不在の中の過渡期であって、ならばどんどん住民に公表してしまう方がむしろ余計なトラブルが少ないともいえるのではないでしょうか。
そうです、絶対的な決定者が現れるまでは…。
いまから10年前、グーグル検索を使って感じたこと
僕が10年前、デザイン関連の企業に勤めていたころ、分からないことがあればスマートフォンで調べればすぐさま何でも「答え」が出てくる世の中に疑問を持ったことがありました。
グーグルの検索結果によっては、世論でさえも「操作」できるんじゃないのか、と…。
そのことを当時の社長に世間話の体で話したところ、こんな返答があったのです。
検索をしても出てこないことはこの世に存在しないことと同じ。だから発信しないことは考えていないことと同じだ。
デザインというのは、センスが必要であるかのように思われがちですが、実はセンスよりもどれだけ理屈に整合性を持って対象物を「魅せる」ことができるかにかかっている、と僕はそこで叩き込まれました。
簡単にいえば、見た目ではなく、ロジック。
なぜそのデザインになったかを説明できなければ、デザインとしては破綻しているのです。
だからこそ考えることができない人間は、そもそもデザインができない。
デザイナーには向いていないということになる。
ゆえに社長が言うことは、普段から自分の考えていることは発信し、表現せよ、ということでした。
そしてさらに、検索に出てこなくとも、自ら考えて発信し続けることが重要で、検索に上がらないから発信を辞めるということは筋が違うということを説教交じりに話してくれたのです。
繰り返しますが、今から10年前のことです。
普段からあらゆる物事について考えていないと、こういう結論には至らないと思うのですが、長くクリエイティブな職業に就いている人は侮れません。
考えたら発信せよ
そして著書も「学ぶこと」の重要性を説いています。
面倒でも、気の乗らない仕事でも、私たちはAIについて学び、関わることを絶って はいけない。多くの人が法律や経済に無頓着で、知らないがゆえに不利益を被っていて もあまり気にしないように、AIやセンサーネットに管理され、誘導されても、その事 実を視野に入れないかもしれない。
引用元：思考からの逃走 p.246
でも、AIやセンサーネットのシステムは、その特性ゆえにますます大きく、少人数 で動かすことが可能になっている。たとえば、6Gなどのこれから登場するテクノロ ジーは、そのサービス範囲として明確に宇宙を謳っている。地球上のどこへ行っても、 宇宙に出てさえ、AIとそのネットワークから逃れる術はないのだ。
私は、人に生まれた責任として、社会システムに関わることをやめてはいけないと考 えている。政治や法律や経済がそうであったように、これからはAIがそこに加わるの である。人が関わることをやめたシステムは暴走し、人にも社会にも害をなす。
そのため、AIの作り手を牽制するプロセスを考えなければならないし、AIの判断 に介入できるプロセスも考えなければならない。AIに安全弁をつけることは大事だし、 か難しい仕事である。AIがどう判断しているかを可視化するプロセスは、途方もなく面倒くさいが必要なことだ。
このように、法律や新しい技術を学び続けることは重要であると述べますが、僕はそれを発信することも僕は大切だと思うのです。
先ほどのデザイン関連企業の社長の話にもあるように、AIがモノとモノの優劣を価値判断して評価するのであれば、評価対象となるモノがなければ、永遠に評価されない。
そして大衆やAIの基準によって破棄されてしまうのだとしても、その選定があったということ、それをまた別の誰かが閲覧できる状態にあるのならば積極的に発信するべきだと思うのです。
いまはまだ強烈な情報の検閲や制限はありません。
いや、静かにそのような判断はなされている可能性はあります。
けれども、それを搔い潜る術を僕らは、ネットの発達と同様に学んできていたりもします。
僕らが考えたことは誰かの考える材料となり、それがまた僕らの考える材料となる。
ネットのみならず、紙媒体やあらゆるメディアのそこかしこに材料を置いておくことは人間の営みにおいて、不可欠なものであると僕は思うのです。