オーケストレーションでもHITLでもない —— AIファシリテーションとは何か
複数のAIを連携させて仕事をさせる技術は、すでに存在する。
調査を担当するAI、企画を作るAI、文章を書くAI、内容を検証するAIを順番に動かす。必要に応じて検索サービスやデータベースを呼び出し、前の工程の出力を次の工程へ渡す。こうした仕組みは、一般に「AIオーケストレーション」や「エージェント・オーケストレーション」と呼ばれている。
AIの判断を人間が途中で確認し、承認し、必要なら修正する考え方も以前からある。「Human-in-the-loop」、略してHITLと呼ばれるものだ。
どちらも、AIを実際の仕事に組み込むうえで重要な考え方である。
しかし、ここまで本連載で考えてきた人間の役割は、そのどちらにも収まりきらない。
人間は、AIをどの順番で動かすかだけを決めているのではない。AIの出力を最後に確認しているだけでもない。
そもそも何を目的とするのか。何について考えるのか。どの前提を疑うのか。どのAIに何を担当させるのか。意見が割れたとき、どこを掘り下げるのか。議論が間違った方向へ進んだとき、いつ論点を変えるのか。そして最後に、何を採用し、何を実行するのか。
人間は、AIを含む知的活動全体の方向を設計している。
本連載では、この役割を「AIファシリテーション」と呼ぶ。
AIを動かすことと、AIに何を考えさせるかは違う
AIオーケストレーションが扱うのは、主として処理の構造である。
たとえば、あるテーマについて記事を作る場合を考えてみよう。
最初のAIが関連情報を調査する。次のAIが論点を整理する。別のAIが記事の構成を作り、さらに別のAIが原稿を書く。最後に検証担当のAIが、誤りや不足を指摘する。
この一連の流れを自動的に動かすには、担当するAI、処理の順番、受け渡す情報、利用する外部ツール、やり直しや停止の条件などを設計しなければならない。それがオーケストレーションである。
オーケストレーションの中心にある問いは、次のようなものだ。
どのAIやツールを、どの順番で、どのように動かすか。
これは、AIの能力を実際の作業へ変換するうえで欠かせない。
だが、どれほど精密なオーケストレーションを構築しても、その仕組みが何を目指すべきかまで自動的に決まるわけではない。
調査AI、分析AI、執筆AI、検証AIを完璧に連携させることはできる。しかし、その記事で何を明らかにするのか、そのテーマを扱う価値が本当にあるのか、誰にどのような変化をもたらしたいのかは、処理の流れだけでは決まらない。
間違った問いでも、効率よく調査できる。
不要な企画でも、完成度の高い計画書を作れる。
利用者に不利益を与える目的でも、複数のAIを連携させれば高度に最適化できる。
AIオーケストレーションは、AIやツールを連携させて処理を進める仕組みを作る。だが、その処理が望ましい方向を向いているかどうかは、別の問題である。
人間を処理の中に入れるだけでも足りない
Human-in-the-loopは、AIだけで処理を完結させず、人間の入力、確認、修正、承認などを処理の途中に組み込む考え方である。
AIが文章を生成し、人間が公開前に確認する。
AIが申請を分類し、判断が難しいものだけ人間へ回す。
AIがコードを修正し、人間が内容を確認してから反映する。
ここでは、人間がAIの処理に介入する。
AIが誤っていないか。危険な結果になっていないか。例外を見落としていないか。実行してよい内容か。
この仕組みは、AIの誤りや危険な動作を減らし、人間の判断を残すために重要である。
ただし、HITLという言葉が指す範囲は一つに定まっているわけではない。モデルの学習や評価に人間の判断を組み込む場合もあれば、実行中のワークフローを一時停止し、人間の承認や入力を求める場合もある。
そのどちらであっても、人間が処理の中に存在することと、目的そのものを人間が問い直すことは同じではない。
人間が処理の途中に入っていても、最初に設定された目的や問いが間違っていれば、全体は間違った方向へ進む。
たとえば、ある企業が「利用者を可能な限り長時間サービスへ滞在させる」という目的を置いたとする。AIが利用者の行動を分析し、離脱しそうな人へ通知を送り、反応率を測定しながら内容を改善する。
途中で人間が通知文を確認している。差別的な表現や明らかな虚偽がないかを確認し、法的な問題がないことも確かめている。
この仕組みには人間が入っている。
しかし、利用者の滞在時間を最大化すること自体が、利用者にとって望ましいのかという問いは置き去りにされている。
人間が最後に承認しても、最初の目的を疑わなければ、間違った目的の最適化は止まらない。
HITLが実務上扱う中心的な問いの一つは、次のようなものである。
AIの処理のどこで、どのような人間の入力や承認を求めるか。
それに対して、AIファシリテーションはさらに手前から始まる。
そもそも、何のためにこの処理を行うのか。
人間を輪の中に入れるだけではない。どのような輪を作るのか、その輪を回す必要があるのかまで人間が考える。
既存の二つの概念では扱いにくい領域
オーケストレーションは、AI、ツール、データ、処理工程の連携を扱う。
HITLは、人間の入力、監督、確認、承認をAIの処理へ組み込む。
これに対して、AIファシリテーションが扱うのは、知的活動の方向である。
三つの違いは、次の対比に集約できる。
オーケストレーションは、AIやツールをどう動かすかを考える。
HITLは、AIの処理に人間をどのように関与させるかを考える。
AIファシリテーションは、AIに何を考えさせ、人間は何を考え、どのように判断するかを設計する。
もちろん、この三つは対立するものではない。
AIファシリテーションを実際の仕組みへ落とし込む際に、オーケストレーションが必要になることはある。重要な判断の前に、HITLによる承認や介入を設けることもある。
しかし、それらは同じものではない。
オーケストレーションが高度であっても、目的が曖昧なら知的成果は弱い。HITLが設けられていても、人間が形式的に承認するだけなら、判断の質が上がるとは限らない。
反対に、複雑なシステムを作らず、一体のAIと対話しているだけでも、人間が目的、問い、前提、評価基準を管理しているなら、AIファシリテーションは成立する。
AIファシリテーションは、AIの数やシステムの複雑さによって決まる概念ではない。
人間が、知的活動の方向を統括しているかどうかによって決まる。
一体のAIとの対話にも、ファシリテーションは存在する
「AIファシリテーション」という言葉から、複数のAIを会議させ、人間が司会をする場面を想像するかもしれない。
だが、それは一つの応用にすぎない。
たとえば、一体のAIに新しい道具の購入について相談するとする。
最初に、「AとBではどちらがよいか」と尋ねる。AIは価格、性能、使いやすさを比較し、Aを勧める。
ここでそのままAを買えば、人間はAIの回答を受け取っただけである。
しかし、人間が途中で気づく。
自分が知りたいのは、AとBの優劣ではない。そもそも新しい道具を買う必要があるのか。すでに持っている物で代替できないか。使用頻度に対して、保管負担が大きすぎないか。
そこで人間は、問いを変更する。
AIに、購入しない選択肢や代替方法も含めて再検討させる。使用頻度、収納場所、準備と片付けの手間を評価項目に加える。実際の寸法や価格は、人間が外部情報で確認する。
この時点で、人間は単に質問を追加したのではない。
AIが考える問題の構造を変更している。
これは、一体のAIとの対話であっても、ファシリテーションと呼べる。
AIファシリテーションの最小単位は、AI同士の会議ではない。
AIの答えを受け取るだけでなく、AIと人間の思考過程を人間が設計すること。
それが最小単位である。
ファシリテーションは、司会進行だけではない
ファシリテーションという言葉は、会議の進行役を連想させやすい。
参加者に順番に発言させる。時間を管理する。最後に意見をまとめる。
しかし、ファシリテーションは司会進行だけではない。
そもそも何を議論するのかを確認する。参加者が暗黙に置いている前提を明らかにする。表面的には対立している意見の背後に、異なる評価基準があることを見つける。議論が目的から外れていれば止める。必要なら、最初に与えられた問いそのものを作り直す。
よいファシリテーターは、最初から答えを知っている人とは限らない。
参加者がよりよく考え、よりよく判断できる状態を作る人である。
AIとの協働でも、同じ役割が必要になる。
AIが出した意見を順番に読むだけではない。どの意見がどの前提に基づいているかを確認する。意見が一致したなら、その一致が独立した検討の結果なのかを疑う。意見が割れたなら、その背後にある価値観や時間軸の違いを探る。
AI同士を仲良く合意させることが、ファシリテーションではない。
必要な不一致を残し、人間が判断すべき問題を明確にすることも、ファシリテーションである。
人間は答えを知っている必要がない
ここで重要な誤解を避けておきたい。
人間がAIのファシリテーターになるということは、人間がAIより賢く、すべての正解を知っていなければならないという意味ではない。
人間が答えを知っているなら、そもそもAIへ相談する必要がない場合も多い。
人間の役割は、AIより優れた回答をその場で作ることではない。
どこまでが確認された事実で、どこからが推測なのか。
どの前提が未確認なのか。
AI同士の結論が割れた原因は何か。
どの部分を一次資料や実測で確認すべきか。
どの段階で専門家へ渡すべきか。
何がまだ決まっていないのか。
こうした問題を管理することである。
もちろん、専門知識がまったく不要ということではない。
人間が妥当性を評価できない高度な医療、法律、工学上の問題では、専門家による判断や試験、実測が必要になる。ファシリテーション能力だけで、専門的な正しさを保証することはできない。
しかし、専門家へ何を確認すべきかを整理すること、AIが断言しているが根拠の弱い箇所を見つけること、複数の見解が割れている場所を特定することはできる。
AIファシリテーターは、すべてを知る人ではない。
何がまだわかっていないかを見失わない人である。
人間が中心にいることと、人間が常に正しいことは違う
AIファシリテーションでは、人間が最終判断を担う。
しかし、これは人間の直感を常にAIより上に置くという意味ではない。
人間にも偏りがある。
自分が気に入った案を支持する情報だけを集める。
すでに時間や金を使った計画をやめられない。
多数派の意見に安心する。
整った文章を正しい説明だと思う。
場合によっては、AIの判断の方が人間より正確である。
大量の選択肢を比較する。複雑な条件を整理する。コードの不整合を探す。数値計算を行う。過去の資料から関連箇所を見つける。
こうした作業では、AIや専用の計算・検索ツールへ任せた方がよいことも多い。
AIファシリテーションとは、人間の答えをAIへ押しつけることではない。
どの処理をAIへ任せ、どの判断を人間が保持し、どこで外部の専門家、一次資料、試験、実測を使うかを設計することである。
人間はAIに勝つ必要はない。
AIの方が優れているなら、その出力を採用すればよい。
ただし、なぜ採用するのか、どの条件でその判断が崩れるのか、どの結果を引き受けるのかは、人間が理解しておく必要がある。
AIに目的や問いを考えさせてもよい
本連載では、目的を決めることや、問いを設計することを人間の役割としてきた。
だが、人間が一人で目的や問いを発明しなければならないという意味ではない。
AIに目的候補を出させてもよい。
「この企画で考えられる目的を、運営者、利用者、社会の立場から分けてください」と尋ねれば、人間が見落としていた目的が見つかるかもしれない。
問いそのものをAIに監査させることもできる。
「この質問に含まれる未検証の前提と、別の問い方を提示してください」と依頼すれば、最初の問題設定を作り直す材料が得られる。
評価基準や停止条件の候補もAIに考えさせられる。
人間が担当するとは、すべてを自力で生成することではない。
AIに候補を作らせ、その中から何を採用し、どの方向へ進むかを統括することである。
AIの能力が上がるほど、目的設定や問いの設計に関する提案も高度になるだろう。
それでも、その提案を誰のために、どの価値観に基づいて採用するのかという問題は残る。
「新しい概念」と言えるのか
AIと人間の協働については、すでに多くの概念が存在する。
Human-in-the-loop、Human-centered AI、Human-AI collaboration、Human-AI teaming、AI orchestration、agent orchestration。
したがって、人間がAIの仕事を設計し、途中で介入し、最終判断を行うという発想自体が、まったく新しいわけではない。
「AIファシリテーション」という言葉も、これまで世界のどこでも使われたことがないとは断言できない。
この連載が提案している新しさは、構成要素そのものではない。
これまで別々に扱われてきた人間の役割を、一つの知的活動としてまとめるところにある。
プロンプトを書く。
AIへ役割を割り振る。
複数のAIを連携させる。
出力を確認する。
誤りを修正する。
最終的に承認する。
これらは、個別の技法として語られることが多かった。
しかし実際のAI利用では、それらのさらに上流に、目的、問い、前提、評価基準の設計がある。途中には、論点を深めるか変えるか、不一致を残すか統合するかという判断がある。最後には、いつ検討を止め、何を実行するかという判断がある。
この一連の営みを、
人間がAIを含む知的活動をファシリテートする
という枠組みで捉える。
そこに、「AIファシリテーション」という概念を提示する意味がある。
これは、既存概念を否定するための造語ではない。
オーケストレーションやHITLという言葉だけでは見えにくかった人間の役割を、一つの連続した仕事として捉え直すための言葉である。
AIファシリテーションの定義
ここまでの議論を踏まえ、本連載ではAIファシリテーションを次のように定義する。
AIファシリテーションとは、人間が目的・問い・前提・役割・評価基準・議論の進行・論点の転換・停止条件・最終判断を設計し、一つまたは複数のAIとの協働によって、より妥当な理解・判断・成果へ到達するための方法論である。
この定義で重要なのは、「設計」という言葉である。
AIへ一度だけ命令を出すのではない。
対話の途中で出てきた情報をもとに、目的や問いそのものを修正する。AIの回答が似通ってきたら、独立した視点を追加する。議論が深まっても目的へ近づいていなければ、論点を変更する。事実確認が必要なら、議論を止めて外部の資料や実測へ移る。
AIとの思考は、一直線に進む工程ではない。
目的、問い、回答、検証、論点変更、判断を循環させる過程である。
その循環を設計することが、AIファシリテーションである。
AIが強くなるほど、ファシリテーションは重要になる
AIファシリテーションは、現在のAIがまだ不完全だから必要な、一時的な技術なのだろうか。
AIがさらに進化し、自ら前提を疑い、論点を変え、複数のエージェントを管理できるようになれば、人間のファシリテーションは不要になるのだろうか。
その可能性を完全には否定できない。
将来のAIは、現在より高度な目的候補や評価基準を提案し、議論全体を管理できるようになるかもしれない。
しかし、AIの能力が上がるほど、ファシリテーションの重要性が増す側面もある。
弱いAIは、できることが限られている。間違った指示を与えても、実行できる範囲は小さい。
強いAIは、妥当な目的を高速で実現できる。その一方で、間違った目的も高速で実現できる。
AIが詳細な計画を作り、大量の作業を自動化し、複数のエージェントへ実行させるようになれば、人間が個々の途中経過を確認する機会は減っていく。
完成度の高い出力は、誤った前提から生まれていても正しく見える。
だからこそ、何を目的とし、どの制約を置き、どこで止めるのかという設計が重要になる。
AIファシリテーションは、性能の低いAIを人間が補助するためだけの概念ではない。
能力の高いAIを、望ましい方向へ使うための概念でもある。
AIファシリテーションが変える人間の役割
AIが考えるようになった時代、人間はAIより多くの答えを出す必要はない。
AIより速く文章を書く必要もない。
AIより大量の情報を記憶する必要もない。
人間が考えるべきなのは、答えの上流と下流である。
何のために考えるのか。
何を問いにするのか。
どの前提を疑うのか。
どの意見を残すのか。
何を証拠とみなすのか。
どの価値を優先するのか。
どこで検討を止めるのか。
何を実行するのか。
オーケストレーションは、AIやツールをどう連携させるかを設計する。
HITLは、AIの処理に人間をどのように関与させるかを設計する。
AIファシリテーションは、人間とAIが何を考え、どのように判断するかを設計する。
AIが考えるようになったことで、人間は考えなくてよくなったのではない。
人間は、答えを作ることだけでなく、答えが生まれる構造について考える必要が出てきた。
その役割を自覚するとき、AIは人間の代わりに判断する機械ではなく、人間の思考を拡張するための知的資源になる。
次回は、AIファシリテーションをさらに具体的な人間の仕事へ落とし込む。
人間はAI議論の司会者ではない。
議論を順番に回すだけではなく、問いを設計し、前提を疑い、必要な不一致を残し、評価軸を変更し、議論を止める。
AIとの対話に、人間はいつ、どのように介入すべきなのか。
第8回では、AIファシリテーターが実際に担当する仕事と、介入すべき兆候を考えていく。
（了）
深水英一郎
小学生のとき真冬の釣り堀に続けて2回落ちたことがあります。釣れた魚の数より落ちた回数の方が多いです。
テクノロジーの発展によってわたしたち個人の創作活動の幅と深さがどういった過程をたどって拡がり、それが世の中にどんな変化をもたらすのか、ということについて興味があって文章を書いています。その延長で個人創作者をサポートする活動をおこなっています。