複数のAIや外部の道具をつなぎ、一つの仕事を進める仕組みは、すでに広く使われ始めている。
調査を担当するAIが資料を集め、その結果を別のAIが分析し、さらに別のAIが文章や計画にまとめる。必要に応じて検索、データベース、計算、プログラム実行などを組み合わせ、前の工程の出力を次の工程へ渡していく。
このように、AIや道具の役割を決め、処理の流れを組み立てることは、一般にAIオーケストレーション、あるいはエージェント・オーケストレーションと呼ばれている。
一方、AIの処理を人間が途中で確認し、承認や修正を加える考え方もある。Human-in-the-loop、略してHITLと呼ばれるものだ。
どちらも、AIを実際の仕事に組み込むうえで重要である。しかし、複数のAIを使って考える場面では、処理の順番と人間の承認だけでは捉えきれない仕事が残る。
AIが正しく動いているにもかかわらず、議論全体が間違った方向へ進むことがあるからだ。
処理が正しくても、問いが正しいとは限らない
ある会社が、新しい事業を始めるべきか検討しているとする。
最初のAIが市場を調査し、次のAIが競合を分析し、別のAIが収益計画を作る。最後に検証を担当するAIが数字や論理を確認し、人間が完成した計画を承認する。
処理の流れとしては、よく設計されている。各AIの役割も明確で、人間による確認も組み込まれている。
それでも、判断を誤る可能性は残る。
すべての工程が「この事業をどう成功させるか」という問いを共有していれば、「そもそも、この事業を始めるべきか」という問題は十分に扱われないかもしれない。
市場の成長性、競合との差別化、収益の見込みが正しく分析されていても、その会社が本当に取り組むべき事業であるとは限らない。既存の強みと合っているか、長く続けられるか、別の事業へ資源を使うほうがよくないかという問いが抜けている可能性がある。
ここで必要なのは、AIの処理をもう一度実行することでも、完成した計画の誤字や計算を確認することでもない。
議論が何を前提に進んでいるのかを見つけ、必要なら問いそのものを組み直すことである。
オーケストレーションは流れを作る
AIオーケストレーションが扱うのは、主として処理の構造である。
どのAIに何を担当させ、どの道具を呼び出し、どの順番で結果を受け渡すかを設計する。調査の結果を分析へ渡し、分析の結果を計画へ渡すことで、複雑な仕事を一つの流れとして動かせる。
しかし、処理の流れが整っていることと、思考の方向が適切であることは別の問題だ。
最初に与えた問いがずれていれば、その後の工程が正確であるほど、ずれた方向へ精密に進んでいく。複数のAIが同じ前提を共有していれば、役割を分けても同じ見落としを引き継ぐことがある。
オーケストレーションは、AIをどう動かすかを設計する。それだけでは、なぜその処理を行うのか、どの前提を疑うべきか、何を基準に結果を評価するのかまでは決まらない。
そこには、処理の構造とは別に、思考の方向を扱う仕事が必要になる。
HITLは人間の介入点を作る
HITLは、AIだけに判断を完結させず、人間が確認できる場所を設ける。
AIが作った計画を人間が承認する。自信の低い判断だけを人間へ戻す。重大な操作を実行する前に、人間の許可を求める。こうした仕組みによって、AIの誤りや望ましくない行動を防ぎやすくなる。
ただし、人間が処理の途中にいるだけでは十分ではない。
人間が確認する対象が、AIの出した答えだけなら、その答えを生んだ問いや評価基準は見落とされることがある。計画の数字や実現可能性を確認しても、「この事業を始めるべきか」という問題に戻らなければ、最初の枠組みは維持されたままである。
人間が承認したという事実も、判断の正しさを保証しない。AIが作った整った資料を前にすると、人間もその枠組みに引きずられるからだ。
HITLは、人間がどこで処理に入るかを設計する。だが、人間がそこで何を疑い、何を変更するのかは、HITLという構造だけからは決まらない。
思考の方向へ介入する
本連載では、AIから出てくる複数の思考を目的に照らして比較し、必要に応じて問いや評価基準を組み直す仕事を「AIファシリテーション」と呼ぶ。
AIファシリテーションが扱うのは、AIの処理順序ではなく、その処理が向かっている方向である。
複数のAIが一致したときには、同じ前提を共有していないかを確かめる。意見が割れたときには、結論を急いで一つにまとめず、違いを生んでいる情報や評価基準を探す。議論が詳しくなっていても、現実の問題から離れているなら、答えの改善ではなく問いの変更を行う。
これは、オーケストレーションやHITLを置き換えるものではない。
AIをどう動かすかを決めるオーケストレーション、人間がどこで介入するかを決めるHITLに対して、AIファシリテーションは、人間が何を見て、思考の方向をどう変えるかを扱う。
三つは同じものではないが、互いに補い合う関係にある。
処理の流れだけを整えても、目的から外れることがある。人間の承認を置いても、最初の問いが疑われるとは限らない。必要なのは、AIの答えを確認するだけでなく、答えが作られている場そのものを見直せる人間である。
AIファシリテーションとは、AIを上手に管理することでも、AI同士の会話を円滑に進めることでもない。
AIが何について考え、どのような前提から答えを作り、何を基準に比較されているのかを見渡す。そして、必要なら思考の方向へ介入する。
人間の役割は、AIが作った答えの最後に承認印を押すことではない。
答えが生まれるまでの思考を、どこへ向けるのかを決めることである。
（了）
深水英一郎
小学生のとき真冬の釣り堀に続けて2回落ちたことがあります。釣れた魚の数より落ちた回数の方が多いです。
テクノロジーの発展によってわたしたち個人の創作活動の幅と深さがどういった過程をたどって拡がり、それが世の中にどんな変化をもたらすのか、ということについて興味があって文章を書いています。その延長で個人創作者をサポートする活動をおこなっています。