AIは目的を決められない
——最適化の前に、何を最適化するかを決める
AIは、目的を与えられれば、その達成方法を考えることができる。
目標を細かく分解し、計画を立て、優先順位をつけ、途中で修正することもできる。場合によっては、人間が思いつかなかった目的候補や評価指標を提案することさえある。
その意味では、「AIは目的を決められない」という言い方は、文脈なしに断言すると正確ではない。
AIは目的を提案できる。中間目標も作れる。状況に応じて、次に取る行動案を示すこともできる。
それでも、AI利用の最上流には、人間にしか引き受けられない問題が残る。
何を価値ある目的とみなすのか。
誰の利益を優先するのか。
何を犠牲にしてよいのか。
その目的を、なぜ目指すのか。
AIは、与えられた条件の中で方法を考えることには長けている。
しかし、何を価値ある目的とみなし、その判断を引き受けるのかは、まだ人間の役割である。
AIに「最善」を聞く前に、最善の意味を決める
AIへ相談するとき、私たちは無意識に「最善の答え」が存在すると思いがちである。
たとえば、次のように尋ねる。
最も効率のよい方法を教えてください。
一見すると、明確な依頼に見える。
しかし、「効率」という言葉には複数の意味がある。
時間を短くすることなのか。
費用を減らすことなのか。
人間の作業量を減らすことなのか。
失敗率を下げることなのか。
将来の保守負担まで含めて、総負担を小さくすることなのか。
短期的な成果を最大化する方法と、長期的に無理なく継続できる方法は、しばしば一致しない。
それでもAIは、何らかの意味を補い、回答を作る。
一般的な文脈から、「効率とは時間と費用を抑えることだろう」と推定するかもしれない。
あるいは、質問文の直前に書かれていた条件を重視するかもしれない。
その推定が当たることもある。
だが、AIが自然に補った目的と、利用者が本当に望んでいることが同じとは限らない。
AIが間違った答えを出したのではない。
人間が、何を最適化したいのかを決めないまま、最適化だけを依頼したのである。
目的は、単なる到達地点ではない
目的とは、「何を達成するか」という一文だけではない。
その背後には、価値判断が含まれている。
たとえば、あるサービスの改善についてAIへ相談するとする。
このサービスの売上を最大化する方法を考えてください。
AIはさまざまな案を出せる。
価格を上げる。
追加機能を有料化する。
利用頻度を高める通知を増やす。
解約しにくい料金体系にする。
不安を刺激する広告を使う。
既存利用者からより多くの金額を回収する。
売上だけを目的にすれば、これらの一部は合理的な提案になり得る。
しかし、サービス運営には売上以外の目的もある。
利用者の利益。
長期的な信頼。
運営者の負担。
社会的な影響。
利用者が過剰に依存しないこと。
働く人が疲弊しないこと。
これらを無視してよいのかは、計算だけでは決まらない。
どの価値を優先し、どの損失を許容するかという判断が必要になる。
つまり、目的とは単なる数値目標ではない。
何を良い状態とみなすかを決めること
である。
AIは目的を作れるのではないか
ここで、当然の反論がある。
最近のAIは、目標そのものを提案できる。
「この事業の目標を考えてください」と頼めば、売上、継続率、利用者満足度、運営効率などを整理してくれる。
「私の人生で優先すべきことを考えてください」と聞けば、健康、家族、仕事、創作、経済的安定などの候補を挙げることもできる。
それなら、AIは目的を決められるのではないか。
この反論は半分正しい。
AIは、目的の候補を生成できる。
与えられた大きな目的から、中間目標を作ることもできる。
たとえば、次のような分解である。
最終目標：
利用者が継続的に使うサービスを作る
中間目標：
・初回利用の離脱率を下げる
・主要機能を理解しやすくする
・一週間以内に価値を体験してもらう
・継続利用の障害を減らす
このような分解はAIの得意分野である。
目的候補の比較もできる。
目標同士の衝突を指摘することもできる。
しかし、AIが出した目的候補の中から何を採用するかは、別の問題である。
健康を最優先するのか。
創作を優先するのか。
収入を増やすのか。
家族との時間を増やすのか。
その選択には、その人がどのように生きたいかという価値判断が含まれる。
AIは、その判断材料を整理できる。
だが、最終的にどの人生を生きるかを引き受けることはできない。
中間目標と最上位目的を区別する
「AIは目的を決められない」という議論が混乱しやすいのは、目的という言葉が複数の階層を含んでいるからである。
たとえば、サービス改善を考える場合は、次のように分けられる。
最上位目的：
利用者が無理なく継続できるサービスにする
方針：
操作負担を減らし、過剰な利用を促さない
中間目標：
・初回利用時の迷いを減らす
・投稿完了までの手順を減らす
・通知の頻度を抑える
・困ったときに自己解決しやすくする
個別行動：
・入力画面の項目を整理する
・下書き保存をわかりやすくする
・通知設定を細かく選べるようにする
・ヘルプへの導線を追加する
AIは、最上位目的を与えられれば、方針、中間目標、個別行動を作れる。
状況が変われば、計画を組み替えることもできる。
しかし、「利用者が無理なく継続できること」を優先するのか、「利用頻度を最大化すること」を優先するのかは、運営する人間が決める必要がある。
この区別は重要である。
AIが得意なこと：
・目的候補を出す
・目的を分解する
・中間目標を作る
・達成方法を考える
・進捗を評価する
・状況に応じて計画を修正する
人間が引き受けること：
・最上位の価値を選ぶ
・目的同士の優先順位を決める
・何を犠牲にしてよいか決める
・AIの提案を採用するか判断する
・結果に対する責任を持つ
AIと人間の違いは、目的を生成できるかどうかではない。
最終的な価値判断を、誰が引き受けるかである。
目的が曖昧だと、AIは一般的な答えで埋める
AIは、空欄のまま停止するよりも、文脈から不足情報を補って回答することが多い。
これは利点でもある。
細かい条件をすべて書かなくても、それなりに役立つ回答を得られるからである。
しかし、重要な目的が曖昧な場合、この能力は危うさにもなる。
たとえば、次のように頼んだとする。
この文章をよりよくしてください。
AIは一般的に、
・読みやすくする
・論理を整える
・重複を減らす
・表現を滑らかにする
といった方向へ修正するだろう。
しかし、その文章が詩であれば、論理の明快さより曖昧さが重要かもしれない。
個人的な手紙であれば、整いすぎた表現によって、その人らしさが失われるかもしれない。
挑発的なコラムであれば、角を取ることで文章の力が弱くなる可能性もある。
「よりよい」の意味を指定しなければ、AIは一般的な品質基準へ近づける。
その結果、文章としては整っていても、目的に対しては悪化することがある。
AIは、曖昧な目的を放置しない。
多くの場合、平均的で無難な目的によって埋める。
だからこそ、目的を決めずにAIへ任せると、成果物は自然に平均的な方向へ流れやすい。
AIに目的設定まで任せると何が起きるか
AIに目的の候補を考えさせること自体は問題ではない。
むしろ有効である。
人間が見落としていた目標や制約を発見できることもある。
問題は、AIが提示した目的を、検討せずに採用することである。
たとえば、AIへ次のように依頼する。
私が成長するために、今後一年で達成すべき目標を決めてください。
AIは、資格取得、収入増加、運動習慣、読書量、発信頻度などを提案するかもしれない。
しかし、そこで使われる「成長」という概念自体が、社会で評価されやすい指標へ引っ張られている可能性がある。
収入が増えること。
生産性が上がること。
知識が増えること。
実績が増えること。
それらは一つの価値観であって、誰にとっても唯一の正解ではない。
休むこと。
何もしない時間を増やすこと。
家族と過ごすこと。
すでに持っているものを深く味わうこと。
何かをやめること。
これらも、その人にとっては重要な目的になり得る。
AIは多くの選択肢を提示できる。
しかし、何を「成長」と呼ぶかを決めるのは人間である。
目的までAIに丸投げすると、AIが出しやすい一般的な価値観を、自分の価値観として受け入れることになりかねない。
最適化は、目的が正しいときだけ有効である
AIは、条件が明確な問題を最適化することに長けている。
与えられた条件の中で、効率のよい方法を探す。
複数の案を比較する。
計画を細かく分解する。
改善案を繰り返し出す。
しかし、最適化には一つの危険がある。
間違った目的でも、効率よく達成できてしまう。
売上を最大化する。
作業時間を最小化する。
利用時間を伸ばす。
投稿数を増やす。
反応率を高める。
これらは測定しやすいため、AIにも扱いやすい。
だが、測定しやすいものが、本当に重要なものとは限らない。
たとえば、文学の投稿コミュニティで投稿数だけを最大化すれば、質の低い大量投稿が増えるかもしれない。
滞在時間だけを伸ばせば、利用者が依存的に使う設計へ近づく可能性がある。
反応数を増やすことだけを目指せば、刺激的で対立を生みやすい内容が優先されるかもしれない。
指標が改善しても、サービスの目的が壊れることはある。
AIの性能が高いほど、この問題は深刻になる。
能力の低いAIは、間違った目的をうまく達成できない。
能力の高いAIは、間違った目的であっても、より速く、より正確に達成してしまう。
だから、AIが強くなるほど、目的設定の重要性も高くなる。
目的、成功条件、制約を分ける
AIへ依頼するとき、「目的」だけでは不十分な場合がある。
少なくとも、次の四つを分けるとよい。
目的：
誰の、どの状態を、どのように変えたいか
成功条件：
何が起きれば、目的を達成したと判断するか
制約：
目的のためでも、犠牲にしてはいけないものは何か
優先順位：
品質、費用、速度、安全性、楽しさのどれを優先するか
たとえば、個人開発の新機能を考える場合は、次のように書ける。
目的：
既存利用者が投稿作業をより簡単に完了できるようにする
成功条件：
投稿途中の離脱率が下がり、問い合わせ件数が減る
制約：
新規登録を強制しない
既存の投稿データを壊さない
運営者の手動対応を増やさない
優先順位：
実装速度より、操作のわかりやすさと保守性を優先する
ここまで明確にすれば、AIの提案は大きく変わる。
単に「便利な新機能を考えて」と頼むより、利用者と運営者の双方にとって現実的な案が出やすくなる。
目的は最初に決めれば終わりではない
目的設定というと、最初に一度だけ行う作業に見える。
しかし、実際には目的も途中で見直す必要がある。
AIと対話することで、最初の目的が曖昧だったと気づくことがある。
必要だと思っていた機能が、実は不要だったとわかることもある。
問題だと思っていたものが、別の問題の症状にすぎなかったと判明する場合もある。
つまり、目的は固定された命令ではない。
AIとの対話によって検証され、修正される仮説でもある。
仮の目的を置く
↓
AIに案を出させる
↓
結果を見る
↓
本当に欲しいものと違うと気づく
↓
目的を修正する
↓
再びAIに考えさせる
この循環も、AIファシリテーションの一部である。
人間は最初から正しい目的を知っているとは限らない。
重要なのは、目的をAIへ丸投げしないことではなく、AIの提案を使いながら、自分の目的を更新し続けることである。
AIに目的候補を出させる正しい方法
AIへ目的を考えさせることを避ける必要はない。
むしろ、次のように使えば有効である。
この問題について、考えられる目的を複数提示してください。
その際、次を分けてください。
1. 短期的な目的
2. 長期的な目的
3. 利用者にとっての目的
4. 運営者にとっての目的
5. 互いに衝突する目的
6. 数値化しやすい目的
7. 数値化しにくいが重要な目的
8. 各目的を優先した場合に失われるもの
最後に、どの目的を選ぶべきかは決めず、
人間が判断すべき対立点を整理してください。
この使い方では、AIに最終目的を決めさせていない。
目的の選択肢と対立構造を可視化させている。
AIは判断者ではなく、判断材料を増やす役割になる。
人間は何を決めなければならないのか
AI時代に人間が担当する目的設定は、次の問いに集約できる。
・誰のための目的か
・何を良い状態とみなすか
・短期と長期のどちらを優先するか
・数値化できない価値をどう扱うか
・何を犠牲にしてよいか
・どの程度の失敗を許容するか
・誰が最終的な結果を引き受けるか
・そもそも、その目的を目指す必要があるか
AIは、これらの問いに対して案を出せる。
反論もできる。
選択による結果を予測することもできる。
しかし、どの答えを採用するかを決めるのは人間である。
その判断をAIへ委ねたとしても、委ねると決めたのは人間である。
最終的な価値判断から、完全に逃れることはできない。
AIが考える時代、人間は価値を決める
AIは、条件を与えられれば、達成方法を高速で探せる。
必要な作業を分解し、費用や時間を見積もり、途中の問題を予測し、より効率的な方法を提案できる。
だが、何を達成する価値があるのかは別の問題である。
さらに言えば、それを本当に達成する必要があるのか。
誰のために達成するのか。
急いで達成するのか。
時間をかけてよいのか。
何かを諦めてまで達成する価値があるのか。
これらは、方法を考える能力だけでは決まらない。
AIは目的を提案できる。
目標を分解できる。
達成方法を最適化できる。
しかし、何を価値ある目的とみなし、その結果を引き受けるかは、人間が考えなければならない。
AIが高度になるほど、人間の目的設定は不要になるのではない。
むしろ、間違った目的を高速で達成しないために、これまで以上に重要になる。
次回は、目的から一段下りて、「論点」を扱う。
AIは、一度与えられた問いを深く掘り下げることには優れている。
しかし、問いの枠組みそのものが間違っていた場合、なぜその枠の中で答え続けてしまうのか。
そして、人間はどのように「そこではない」と議論の方向を変えればよいのか。
AIが論点を深める能力と、論点を変える能力の違いを考えていく。
（了）
深水英一郎
小学生のとき真冬の釣り堀に続けて2回落ちたことがあります。釣れた魚の数より落ちた回数の方が多いです。
テクノロジーの発展によってわたしたち個人の創作活動の幅と深さがどういった過程をたどって拡がり、それが世の中にどんな変化をもたらすのか、ということについて興味があって文章を書いています。その延長で個人創作者をサポートする活動をおこなっています。