毎日AI使う人へ、「認知的降伏」にご注意

たしかにAIを外部メモリみたいに使っちゃうと、考える力が落ちそうよね。 ArsTechnicaのカイル・オーランド氏が4月3日に「認知的降伏（cognitive surrender）」という用語についてのブログ記事を書きました。 【全画像をみる】毎日AI使う人へ、「認知的降伏」にご注意

1,372人をテストしてわかった「新しい認知」

この言葉は、少なくとも1月頃から出回っていたようで、ペンシルベニア大学ウォートン・スクールのマーケティング准教授であるギデオン・ナヴ氏と博士研究員のスティーブン・ショー氏による造語とされています。 彼らの論文は極めて憂慮すべき内容で、この調査結果について読み終える頃には、「認知的降伏」という言葉が頭にこびりついて離れなくなるはず。 論文の著者が研究結果について話している動画があるので、興味がある方はご覧下さい。日本語字幕（自動翻訳）をオンにすれば、ある程度内容を把握できると思います。 ナヴ氏とショー氏は、1,372人を対象に、AIチャットボットを使ってもいい前提のテストを実施しました。ただし、そこにはAIがときどき間違った回答をするという仕掛けがされていました。 このテストは「認知反射テスト（直感に頼らすに熟考できるかを測る心理テスト）」と呼ばれるものをアレンジしたバージョン。どの問題も、誰もが一度は見たことがあるような、ひねりの効いたものでした。たとえば、こんな感じです。 5台の機械が5個のウィジェットをつくるのに5分かかるとします。100台の機械で100個のウィジェットをつくるには何分かかりますか？ 正解は「5分」ですよね。この問題を解くには、「速くて、直感的で、感情的な処理」ではなく、「ゆっくりで、熟慮的で、分析的な推論」を用いる必要があります。直感的に「100分」と答えた人もいるかもしれません。これは、故ダニエル・カーネマンによる『ファスト＆スロー』で有名になった概念です。

ゾッとするようなテスト結果

テストの結果は、暗たんたるものでした。AIを使ってもいいとされたパートでは、被験者は半分くらいの頻度でAIに相談しました。 AIが正しい回答をした場合、被験者は93%の確率でそれを受け入れました。残念ながら、AIが間違った場合でも、80%の確率で受け入れてしまいました。 ここで忘れちゃいけないのは、被験者は「AIを使う必要がまったくなかった」という点です。被験者は、自分の判断よりも誤ったアドバイスを優先させてしまったんです。 さらによくないのは、AIを使った人たちは、たとえ不正解だったとしても、AIを使わなかった人たちと比べて自信の度合いを11.7%高く評価していたそうです。