AIでアウトプットの高さは得られる。理解の深さは得られない

ある提案の場で起きたこと

先日、知り合いの職場でこんなことが起きたそうです。

カスタマーサクセス部のメンバーが、お客様の課題に対する解決提案書を、AIを使って作成しました。お客様の課題を入力し、解決策を出させ、提案書の形に整える。いまのAIを使えば、体裁の整った提案書が短時間でできあがります。

そのメンバーは、お客様の前でその提案書をほぼ読み上げました。そして、お客様から提案の中身について質問されたとき、すぐに答えることができませんでした。

提案書に書いてあることを、本人が理解していなかったのです。

AIの力を借りるのは怠慢なのでしょうか

「AIに丸投げしたのが悪い」と片づけるのは簡単です。

けれども、同じことは若手メンバーだけでなく、営業部の中堅メンバーにも起きていました。経験も能力もある人が、同じ落とし穴にはまっている。そうであれば、これは個人の怠慢の問題ではなく、AIを使ってアウトプットを得ること自体に潜む、構造的な問題ではないでしょうか。

その構造を自分なりに理解するために、私は一枚の図を描きました。

アウトプットに至る二つの道

縦軸は、アウトプットの量と質です。横軸は、思考に関する「ラリー」の数を表しています。ラリーとは、書く、聞く、話す、調べるといった、考えを行き来させる行為のことです。ラリーを重ねるほど時間がかかるので、横軸はアウトプットを手に入れるまでの時間でもあります。

まず、階段を上る人を見てください。左下で困った顔をしています。考えを書き出してみるものの、うまく言葉になりません。書き出したものを一晩寝かせて見直してみると、自分の話の矛盾に気づきます。調べてみると、前提が崩れます。そうしたラリーを一回打つごとに、階段を一段上がっていきます。

各段の段差は、思考の「摩擦」です。うまく言葉にならないもどかしさや、矛盾に気づいたときの居心地の悪さのことです。この摩擦は面倒ですが、思考はここで鍛えられます。そして最後に、右上で自分なりの理解を手に入れて笑顔になります。

次に、左上にいる、輪郭のぼんやりした人を見てください。これがAIを使ってアウトプットを得た人です。ラリーをほとんど打たずに、アウトプットの高い位置にいます。しかし、その輪郭ははっきりしません。

アウトプットの質の高さと理解の深さは、別の軸

図の上部には、もう一本、左から右へ向かう矢印があります。これは「思考や理解の深まり」を表す軸です。ラリーを重ねるほど、思考は深く掘り下げられていきます。

階段を上る人は、ラリーのたびに一段高くなり、同時に一段深くなっていきます。一方、AIを使った人は、アウトプットの高さこそ手に入れましたが、深さの軸では浅い入口にとどまっています。

つまり、「アウトプットの高さは得られる。しかし、理解の深さは得るられない」ということを私は申し上げたいのです。

冒頭の場面を、この図で説明し直してみます。提案書には速さと高さがありました。しかし、それを持って立っていた本人には深さがありませんでした。そして、お客様からの質問とは、まさにその深さを測る行為でした。質問された瞬間に、高さと深さのずれが表に出たのです。

なぜ深さはラリーでしか得られないのか

この考えは、私の感覚だけに頼ったものではありません。認知科学や認知心理学には、これを裏づける知見がいくつもあります。

一つ目は「生成効果」です。与えられた情報を読むよりも、自分で生成した情報のほうがよく記憶され、理解されます。提案書を自分で書くとは、お客様の課題のどれを優先するのか、なぜこの解決策なのか、ほかの案をなぜ選ばなかったのかを、一つずつ自分で決めていくことです。その判断の積み重ねが、理解になります。

二つ目は「望ましい困難」です。学習の途中に適度な困難があると、その場の出来は下がりますが、長い目で見た理解や記憶は向上します。図でいう摩擦は、まさにこれにあたります。

三つ目は「説明深度の錯覚」です。人は、実際に説明しようとするまで、自分が物事を理解していると思い込む傾向があります。これは冒頭の場面を考えるうえで、特に重要だと思います。
AIの文章は流暢で、読めばわかった気になります。おそらく営業メンバーもカスタマーサクセスメンバーも、提案書を読み返したとき、自分は理解していると感じていたはずです。その錯覚は、お客様から質問された瞬間に、初めて崩れたのです。

AIについての直接的な研究もあります。トルコの高校生およそ1,000人を対象にした実験（Bastaniら）では、数学の練習にChatGPTを自由に使えたグループは、練習問題の成績が大きく上がりました。ところが、AIなしで受けた試験では、AIを使わなかったグループより成績が約17%低かったのです。図の言葉でいえば、高さは上がったものの、深さは得られていなかったことになります。

「AIを使うな」という話ではありません

誤解のないように書いておくと、私は「AIを使うな」と言いたいわけではありません。
先ほどの研究には続きがあります。答えを出さず、ヒントだけを出すように設計したAIを使ったグループでは、練習の成績が上がり、しかもAIなしの試験でも成績が下がりませんでした。AIの使い方しだいで、結果は変わるのです。

問題はAIそのものではなく、人間が自分で打つラリーが減ることにあります。図の横軸は、正確にいえば「人間が自分で生成したラリーの数」です。AIに答えを書かせればラリーは減りますが、AIに問いかけさせたり、自分の考えに反論させたりすれば、ラリーはむしろ増えます。

もう一つ付け加えると、すでにお客様のドメイン知識など、階段の高い位置にいる人がAIに作業を任せれば、ラリーの数が少なくても高い理解を得られます。影響が大きいのは、これから階段を上るはずだった人です。この点は、若手育成の問題として、あらためて書きたいと思います。

お客様の前に立つのは、自分です

お客様から質問されたとき、隣にAIはいません（オンライン商談などでは、お客様が発した言葉や質問に対し、急いでAIに聞かせて質問する人はたくさんいると思いますが）。

お客様が求めているのは、提案書の品質だけではなく、「この人は私たちの課題を理解してくれている」という信頼もあるのではないでしょうか？そして、その信頼を支える理解の深さは、自分でラリーを打った分しか手に入らないのではないでしょうか。

とはいえ、仕事の中のラリーをすべて自分で打つことは、現実的ではありません。担当する商談やお客様が増えれば、使える時間は限られます。すべての摩擦を残せない以上、本当に問うべきなのは「どの摩擦は削ってよく、どの摩擦は残すべきか」です。

実は、私がこの問いに向き合うきっかけになった出来事が、もう一つあります。担当するお客様が増えたカスタマーサクセスの担当者が、お客様とのミーティングを録画し、その内容をAIで要約するようになりました。
効率化としては、とても理にかなったやり方です。けれども私は、お客様を本当に理解し、サポートの方針を腹落ちさせるには、自分でミーティングを振り返り、自分の手で要約しなければならないと感じたのです。

要約は、ふつう「AIに任せてよい作業」の代表だと思われています。それなのになぜ、私はそこにこそ残すべき摩擦があると考えたのか。次回は、そのことについて書きたいと思います。