一つのAIだけに尋ねるより、複数のAIに尋ねたほうが、判断の信頼性は高まりそうに見える。
一体目が見落とした問題を、二体目が指摘するかもしれない。異なるAIが独立して考え、それでも同じ結論に達したなら、その一致には一定の意味がある。
しかし、三つのAIが同じ答えを出したからといって、三つの独立した判断が得られたとは限らない。
複数AIの価値を決めるのは、頭数ではない。それぞれが異なる情報や前提から考え、異なる間違い方をできるかどうかである。
三つの画面に同じ判断が表示される
あるWebサービスに、新しい機能を追加すべきか検討しているとする。
三つのAIに企画を見せたところ、三体とも「利用者の利便性が上がり、他社との差別化にもなるため、実装する価値が高い」と答えた。この結果だけを見れば、一体のAIに相談するよりも判断の確度が上がったように思える。
ところが、理由を詳しく読むと、三体とも同じ市場動向を前提にし、似たサービスの成功例を参照し、機能が増えることを基本的に利点として評価していた。
この場合、三つのAIが独立して同じ結論に到達したとは言いにくい。一つの考え方が、三つの異なる文章で表現されただけかもしれない。
同じモデルを別々に起動した場合はもちろん、異なる会社のAIを使った場合でも、参照する公開情報や一般的な成功事例が重なっていることはある。学習してきた文章や、もっともらしい説明の型も似ている可能性がある。
三体のAIが一致しても、それが三人の専門家の一致と同じ意味を持つとは限らない。
一つの判断が、三つの画面に表示されているだけのことがある。
一致よりも、誤りの独立性を見る
複数の判断を集める意味は、それぞれが同じ答えを出すことにあるのではない。同じ問題を、異なる場所から検討できることにある。
新機能の例なら、市場の成長性だけを三回分析しても、得られる情報はあまり増えない。利用者にとって本当に必要か、既存機能で代替できないか、開発後の保守負担に見合うか、機能が増えることで操作が複雑にならないかといった別の観点が必要になる。
一つのAIが需要を過大評価しても、別のAIが利用状況のデータから検討すれば、その誤りに気づけるかもしれない。一つのAIが機能の利点に注目しても、別のAIが運用費や複雑化を調べれば、異なる結論が出るかもしれない。
ここで重要なのは、AIごとに別の性格を演じさせることではない。「楽観的なAI」と「悲観的なAI」を用意しても、同じ情報に違う言葉を与えただけなら、検討の独立性は高まらない。
異なる情報源、異なる前提、異なる評価基準を使うことで、初めて誤りの原因を分けられる。
複数のAIが同じ答えを出したかどうかより、どのような経路でその答えに到達したかを見る必要がある。
異なる資料を調べ、異なる問題を検討し、それでも同じ結論に至ったなら、その一致は判断材料になる。一方、一体目の回答を残りのAIが読んでから賛同したのであれば、それは独立した確認ではない。
最初の回答を共有した時点で、その回答は後の議論の基準になる。二体目以降のAIは、ゼロから考えるのではなく、すでに置かれた案の不足を補い、表現を整え、成立条件を追加しやすくなる。
議論は深まっているように見えても、最初の案の外へ出ていない可能性がある。
AIの議論は合意を作りやすい
AI同士に互いの回答を読ませ、批判と修正を繰り返させれば、議論らしいものを作ることはできる。
ただし、新しい事実や新しい観点が加わらなければ、やり取りの回数が増えても、思考の材料は増えない。同じ材料を並べ替えながら、互いに受け入れられる表現へ近づいていくだけになる。
その結果、最初は異なっていた意見が、一つの穏当な結論へ収束する。
この収束は、問題が解決したことを意味しない。強い反対意見や不確実な部分が、修正の過程で薄められた可能性もある。AIに「最終的な合意を作って」と求めれば、意見の違いを残すより、両方を取り入れた整った結論を作ろうとする。
しかし、判断に必要なのは、いつも合意ではない。
新機能に需要があるという見方と、保守負担が大きすぎるという見方が対立しているなら、その対立は消さずに残したほうがよい。何がまだわからないのかを明確にし、実際の利用者へ確認したり、小さく試したりする必要があるからだ。
AI同士が一致しないことは、失敗ではない。意見の違いは、情報や前提、評価基準の違いを見つける手がかりになる。
反対に、すべてのAIが一致したときほど、その一致がどこから生まれたのかを確かめなければならない。
複数のAIを使う目的は、賛成票を増やすことではない。
一体のAIでは見えなかった誤りを、別の経路から発見できる状態を作ることである。
AIの数を増やしても、誤りの原因が同じなら、判断の信頼性はほとんど上がらない。異なる情報と前提から独立して考え、それぞれの理由を比較して初めて、複数AIの協働は意味を持つ。
複数のAIが同じ答えを出したという事実だけでは、正しさの証拠にはならない。
見るべきなのは一致の数ではなく、その一致に至るまで、誤りの可能性がどれだけ分かれていたかである。
（了）
深水英一郎
小学生のとき真冬の釣り堀に続けて2回落ちたことがあります。釣れた魚の数より落ちた回数の方が多いです。
テクノロジーの発展によってわたしたち個人の創作活動の幅と深さがどういった過程をたどって拡がり、それが世の中にどんな変化をもたらすのか、ということについて興味があって文章を書いています。その延長で個人創作者をサポートする活動をおこなっています。