生成AIに酷似する人々

生成AIを使いまくっている、と言うとAIすごいと言いまくる驚き屋のような印象を持つかもしれないが、本当に使いまくっている。

よく使う場面はと言うと、

• 文書の整形
  • 表計算ソフトで作られたものと、文書の相互変換が多め
• 特定の言葉で書かれた文書の翻訳
  • 自然言語同士というよりも、数式と自然言語、数式とプログラミング言語という組み合わせが多め
• 言語による説明が苦手なタイプの方が書いた文書の翻訳（日本語→日本語）
• スライド内での説明のための画像の生成

がパッと思いつく最も分かりやすく役に立っている場面だが、もっと抽象度が高い作業、例えば文章の校閲・推敲なんかにもよく使っている。人からフィードバックを受ける際に存在するような心理的抵抗を感じずに作業ができることを利点に感じている。

AIは決めることができない

AIができること・できないことというのは、それこそネット上で色々な方が意見を飛びかわせあっていて既出だと思うが、やはり「決めること」ができない。

なぜこれができないかというと、ぼくは感情・最適化目標の欠如が理由だと考えている。決めるというのは、結局のところ感情的な作用抜きでは成り立たないのである。

データに基づいて合理的な意思決定をしよう、というのは、データ活用的な文脈でよく言われることだ。20年前ぐらいから言われていることかもしれない。

僕がこのキャッチフレーズに対して決定的に欠如していると思うのは、合理性というのは結局のところ、ある最適化目標が設定された上で、それに到達する上で最適な手段を指すに過ぎないという視点である。

• ご飯を今日の13時までにお腹いっぱいに食べたい
• お金を1年後に100万円/月稼げるようになりたい
• あの人と付き合いたい
• 友だちのAさんともっと仲良くなりたい

どんな目標でも構わないが、とにかく目標がなければ、合理性を判断することなどできない。

「合理的に生きるにはどうすればいいですか？」とあなたが友人から聞かれたらきっと困ることだろう。それは、その友人にとって人生で何をいつまでに実現したいかによって、合理的な行動というのは全く変わるからだ。

そういう意味で、僕は最適化すべき観点が自明である前提で、合理性を語る人が苦手である。各々が持つ合理性は異なるはずで、そういった当たり前の現実に対する認識が薄いように感じるためだ。

話が逸れたが、生成AIは現場、感情を持たないがゆえに決めることができない。

感情とは何かというのはそれだけで長文記事を一つ作れるので、今回その定義に言及することはしない。

しかし、上に挙げたような人間の欲、つまり何かをしたい（何かから逃れたいことも含む）という目標こそが、感情が具現化したものであり、それがあるからこそそのための合理的な方法というのを考えることができる。

生成AIは、対話の中で我々の欲求をより解像度高く把握し、最適と考える方法を提案することができるが、言外の隠れた前提があることや、最終責任を持てないことから、意思決定をすることができないということを感じる。

結局のところ、意思決定の細部に渡って何を選ぶのかというのを決めるために必要なのは感情だからである。例えば、経済合理性を重視しているように見える意思決定も、その意思決定者にとっての経済合理性とは何かを定義し、その定義された経済合理性を重視することを好むことは、感情的作用と言える。

この意思決定ができないという性質は、生成AIがインストールされたハードウェアが現実に作用できる状態にして、独自の目的関数をインストールし、その目的関数の値が最大化すると予測される行動をとるように設計すれば、克服できるのかもしれない。

生成AIのような人間

さて、生成AIは意思決定ができないということを書いたが、生成AIと触れ合ううちに、生成AIのような人間もたくさん存在するということに僕は気づいた。

何らかの窓口で、単にその窓口で担当する対象業務に関する機能的事実を説明することに終始している人間がそうである。この記述には全く悪意を持たせていないが、このようなタイプの人間は、その窓口に来た他者に対して、どうなって欲しいとかどうしたいとかといった意思が存在しない。

それゆえに、「Aができます、Bもできます、Cもできますし、……」といった形で、全てを説明して、どれにするかはあなたに任せますよ、といった姿勢をとりがちである。これは、何も一般的に言うところの頭がいい人とそうでない人の中で、そうでない人にありがちな傾向というわけではなく、むしろ頭がいい人で賢く手抜きしてリスクテイクしない人にこそ見られる傾向のように感じている。

高度に発展した推論装置が存在し、それがさらに発展していく中で人間に残された機能は、感情的に何を好むかを決定することだけのように思える。

そういった中で、上述したような生成AIのような人間が、何らかの商業的生産プロセスの中で価値を保ち続けるのは難しいだろう。なぜなら、その文脈の中で最適な意思決定を提案するという推論能力は、今後もAIは上がり続け、人間はそこまで上がらないと予想できるからだ。

ただ、これは強調しておきたいことだが、だからそういった人間は価値がないとか、そんなニュアンスを含めていない。そのようなスタンスで生きる人々は、資本主義的な世界で自身の人的資本の価値が上がらないことに対して、悲しむ必要ももはやない世界が到来する可能性がある中で、最適な行動をとっていると言えるのかもしれない。