AIの答えに「これ、ちょっとおかしいのでは？」と感じられるか？

はじめに

「AI時代、そのうち専門家はいらなくなる」という声を、よく耳にする。

会計士の仕事もいずれAIに置き換わるのではないか、と聞くこともしばしば。

そのような中、ここ最近、立て続けに似た経験をしたので、自分への備忘の思いも込め、noteに書き残しておきたい。

ある会計処理についてAIにリサーチを頼んだ。

返ってきた答えを読んでいて、何かがおかしいと感じた。

調べ直すと、AIは古い会計基準にもとづいて回答していることが分かった（実際、会計基準は猛烈なスピードでアップデートされている）。

今回違和感を感じることができたのは、幸い私が監査法人に長く勤め、色々な経験を体で覚えているからだと思う。

長年にわたり育て、培ってきた感覚。

ここから生まれる「肌感」が、答えの違和感として先に立った。

一方で、逆の経験もした。

私は現在大学院で学び直しの真っ只中である。

学校の授業で、売上を予測するモデル構築の宿題が出た。

AIに手伝ってもらいながらモデルを組み立て、自分でも確認し、さらに複数のAIにもチェックさせた上で、プレゼンに臨んだ。

発表を見た瞬間、先生から「何かおかしい」と指摘された。

調べてみると、本来入れるべき説明変数が1つ抜けていたことに気づく。

指導教員には長年の研究者としての「肌感」があり、私にはまだそれが足りなかったと痛感した。

ここで、マルコム・グラッドウェルの著書『第1感「最初の2秒」の「なんとなく」が正しい』の冒頭で紹介されているエピソードを共有しておきたい。

1983年、ロサンゼルスのゲティ美術館に、紀元前6世紀のものとされる若い男性の裸像（クーロス像）が持ち込まれた。

美術館は14ヶ月をかけて科学的な年代測定を行い、真作と判断して購入した。

ところが、実物を見た複数の美術専門家は、科学的な検証結果を聞く前に、ひと目見た瞬間に「何かがおかしい」と感じた。

以前にシチリアで発掘を行ったとき、クーロスの断片を見つけたことがある。そのときの見え方と、どこか違っていたんだ。ゲッティのクーロス像は、なんだかスターバックスのカフェラテに漬け込んであったように見えた

出典：マルコム・グラッドウェル. 第１感～「最初の2秒」の「なんとなく」が正しい

なお、このクーロス像は「紀元前530年頃、または現代の贋作」という異例のキャプションで展示されていた。

しかし、真贋をめぐる美術史上の見解が贋作寄りに傾き、科学的調査でも結論が出なかったため、2018年の展示改編を機に収蔵庫へ移されている。

クーロス像を見た専門家たちは、ひと目で「何かがおかしい」と感じたわけだが、今のAI時代、我々はAIの「贋作」に対し、このような形で違和感を覚えることができるだろうか？

AIに振り回されず、その潜在力を引き出すには、人間側がどれだけの経験・知見（「ドメイン知識」）を持っているかが重要ということである。

AIのモデルが学習の結果バージョンアップしようが、推論の技術が発展しようが、ここは当面は変わらないんだと思う。

なお、ドメイン知識を増やすには、対象となるドメインを定め、そこに飛び込み、その中の経験（失敗を含む）で学んでいくしかないことは言うまでもない。

AIが日々礼賛されている今、多分に逆説的に聞こえるかもしれないが、ドメイン知識が豊かな人間がAIに置き換わることは、当面はないだろうと思う。

ただし、それは人間がAIより優れているからではなく、人間が豊富な経験と共に、直感でAIの誤りに気づける立場にいるからだ。

また、個人があらゆる分野で経験を積み、専門家として多くをカバーすることは不可能である。

であれば、AIの出力について議論できる、他の専門家との人的ネットワークへの投資は、今後ますます重要になると思う。

AIと一緒に仕事や研究をする時代だからこそ、AIの答えに「これ、ちょっとおかしいのでは？」と感じられるかどうか、その力をしっかり身につけていきたい。