AIは、目的を与えられれば、その達成方法を考えることができる。目標を細かく分け、必要な作業を並べ、優先順位をつけ、途中で計画を修正する。条件が明確であるほど、AIは効率よく答えを作る。
では、目的を決めるところまでAIに任せられるのだろうか。
じつは、AIは目的の候補も作れる。「この事業で何を目指すべきか」と尋ねれば、売上の増加、利用者の拡大、継続率の改善、運営費用の削減といった目標を提案するだろう。その中から状況に合うものを選び、数値目標に変換させることもできる。
その意味では、「AIは目的を決められない」という言い方は正確ではない。AIは目的らしいものを生成できるし、複数の候補を比較して、最も合理的に見えるものを推薦することもできる。
それでも、目的を生成することと、その目的を目指す価値があると決めることの間には、大きな隔たりがある。
AIは測りやすいものを改善する
あるサービスの問い合わせ対応を改善するとする。AIに相談すれば、返答までの時間を短くする、少ない人数で多くの問い合わせを処理する、解決率を上げるといった目標が示されるだろう。
返答時間を現在の半分にするという目標を選べば、AIは業務を分析し、定型的な質問を自動化し、担当者へ振り分ける条件を作る。改善の結果も数字で確かめられるため、目標として扱いやすい。
ところが、返答時間を短くすることが、問い合わせ対応をよくすることと同じだとは限らない。早く返答するために定型文が増え、利用者が本当に困っていることを読み取れなくなるかもしれない。処理件数を増やすほど、複雑な相談に時間をかけにくくなる可能性もある。
ここで起きているのは、AIの失敗ではない。AIは与えられた目標を正しく処理している。問題は、人間が「返答時間」という測りやすい数字を、問い合わせ対応の価値そのものと取り違えたことにある。
数字は、目的の達成度を確かめるために必要である。しかし、数字で測れるものだけを目的にすると、測りにくい価値が見えなくなる。
利用者が自分の問題を理解してもらえたと感じたか。担当者が無理なく仕事を続けられるか。短い返答で終わらせず、再発を防ぐところまで問題を解決できたか。こうした価値は、返答時間や処理件数ほど簡単には測れない。
AIは複数の指標を扱える。人間が条件を与えれば、速度と満足度、費用と品質の釣り合いを考えさせることもできる。それでも、どの価値をどれだけ重く見るのかは、計算を始める前に決めなければならない。
最適化は、犠牲を決める
目的を決めるということは、望ましい結果を選ぶだけではない。そのために、何を諦めてもよいかを決めることでもある。
速度を優先すれば、丁寧さが失われるかもしれない。費用を減らせば、担当者の負担が増えるかもしれない。一人ひとりに深く対応すれば、全体の処理件数は減るかもしれない。
AIは、こうした得失を整理できる。条件ごとの結果を予測し、複数の案を比較することもできる。しかし、どの損失なら受け入れられるのかは、効率だけからは決まらない。
問い合わせ対応を単なる費用と考えるのか、利用者との関係を作る場所と考えるのかによって、目指すべき状態は変わる。これは処理方法の違いではなく、その仕事を何だと考えるかの違いである。
AIに目的の設定を任せるときも、AIは人間が与えた状況、指標、一般的な価値観をもとに候補を作っている。何の前提もなく、自ら価値を生み出しているわけではない。
したがって、人間が目的を指定しなかったからといって、価値判断が消えるわけではない。明示されなかった価値判断が、AIの提案や測定しやすい数字の中へ隠れるだけである。
目的は正当化されなければならない
AIが提案した目的に対して、人間は「なぜ、それを目指すのか」と尋ねなければならない。
返答時間を短くするのは、待たされる利用者を減らすためなのか。それとも、人件費を削減するためなのか。同じ数値目標でも、理由が違えば、採用すべき方法や許容できる副作用は変わる。
AIは、この問いに対する説明も作れる。しかし、説明が作れることと、その説明が人間にとって正当であることは同じではない。
目的を正当化するには、その目的によって利益を得る人だけでなく、不利益を受ける人も考える必要がある。目標が達成された世界を、本当に望ましいと思えるかを考えなければならない。
これは、AIには目的を提案させるべきではない、という話ではない。むしろAIを使えば、自分では思いつかなかった目的や、見落としていた得失を発見できる。目的を選ぶための材料は、以前より豊かになる。
ただし、材料が増えても、選択そのものがなくなるわけではない。
AIは、目的の候補を作り、その達成方法を設計し、結果を予測できる。しかし、なぜその目的を目指すのかを最終的に決めることはできない。
最適化を始める前に、何をよい状態とみなすのかを決める必要がある。その判断をAIの提案に委ねることはできても、委ねると決めた責任まで消えるわけではない。
AIは目的を生成できる。
しかし、その目的を目指す価値があると認め、結果を現実の中で引き受けるのは人間である。
（了）
深水英一郎
小学生のとき真冬の釣り堀に続けて2回落ちたことがあります。釣れた魚の数より落ちた回数の方が多いです。
テクノロジーの発展によってわたしたち個人の創作活動の幅と深さがどういった過程をたどって拡がり、それが世の中にどんな変化をもたらすのか、ということについて興味があって文章を書いています。その延長で個人創作者をサポートする活動をおこなっています。