「見えないAI誤用」とは何か
リクエスト株式会社は、「見えないAI誤用」を現段階の作業定義として、次のように整理しています。
「AIを用いる仕事において、その仕事の目的・リスク・維持すべき技能に照らして必要な問い直し、根拠の確認、判断、結果確認が省略または形骸化し、それを補う人や仕組みも十分に確保されていない利用状態」
「見えない」とは、発見できないという意味ではなく、出力の見た目や納品・処理の完了だけでは把握しにくい状態を指します。また、「誤用」は悪意ある利用や規則違反、利用者個人の能力不足と同義ではありません。本人が適切に取り組もうとしていても、仕事の条件によって必要な確認や判断が行いにくくなっている可能性も含まれます。
AIに問いの候補を出させたり、情報を検索・照合させたり、選択肢を比較させたり、定型的な処理を自動化したりすること自体は、誤用とは扱いません。問題となるのは、AIに任せた量ではなく、その仕事に必要な機能が確保されているか、という点です。
「見えないAI誤用」の4つの構造仮説
リクエスト株式会社は、今後の観察と検証のために、以下の4つの初期仮説を提示しています。これらは実証済みの分類ではなく、互いに重なる場合があるとのことです。
-
問いを任せすぎる
AIが示した問題設定を、顧客の状況、現場の記録、仕事の目的に照らさずにそのまま確定してしまう状態を指します。もっともらしい問いに対して適切な答えが得られても、その問いが実際に向き合うべき問題とずれていれば、必要な仕事にはつながりません。 -
事実確認を省く
AIが説明したことと、根拠を確かめたことを取り違える状態です。例えば、数値の出典が示されていても、その資料に当該数値が存在するか、対象期間や集計条件が合っているか、自分たちの仕事に適用できるかは、別に確かめる必要があります。 -
判断を任せすぎる
AIが示した複数案から人が一つを選ぶ際に、必要な基準、条件、影響などを確かめずに、AIの推奨や文章の説得力だけで採用する状態を検討します。何を自動処理に任せ、何を人や組織が引き受けるかが定まっていることが重要です。 -
結果確認をしない
文章、提案書、分析などが完成したことだけで仕事を完了扱いにする状態です。仕事の目的が相手の判断や行動を支えることであれば、相手が使えたか、後工程が進んだか、どこで迷いや手戻りが生じたかなども確認対象になります。
仕事条件との関係を検討する
リクエスト株式会社は、「もっと考えて」と個人のAIリテラシーを求めるだけでなく、仕事の条件も併せて見直すことの重要性を強調しています。AIへの指示を工夫したり、出力を比較・修正したりすることも思考の一部です。
検討すべき仕事の条件として、目的・範囲、情報、権限、評価、上司の関わり、結果確認などが挙げられています。必要な確認や判断が省かれる背景には、これらの仕事条件が関係しているのではないか、という仮説を置いています。
今後の検証方針
リクエスト株式会社は、今後の検証において、個人のAI利用回数ではなく、具体的な「一つの仕事」を検討の単位とします。対象業務ごとに、何を達成する仕事なのか、どの程度のリスクがあるか、誰にどの技能を残す必要があるかを確認した上で、以下の4つを分けて検証する方針です。
| 確認する対象 | 主に確かめること |
|---|---|
| 仕事の成果 | 品質、処理時間、誤り、手戻り、相手や後工程への影響 |
| 本人に残る学習 | 類似場面で必要な事実を確認できるか。条件の違いを捉え、理由を持って対応できるか |
| 組織への蓄積 | 経験が他者にも使える記録や判断基準となり、実際に再利用・更新されるか |
| 責任と運用負担 | 判断や確認の担当が明確か。必要な停止・相談ができるか。確認や記録が過剰な負担になっていないか |
「判断デザイン」「アート思考」との接続
リクエスト株式会社はこれまで、「仕事が完了すること」と「人と組織に判断経験が形成されること」を区別し、AIを含む仕事の中に、事実確認、比較、選択、実行、結果確認をどう組み込むかを検討してきました。また、「アート思考」を判断の前提となる見方・問い・価値仮説をつくり直す働きとして定義しています。
今回の発表は、これらのテーマを置き換えるものではなく、何を問うかを見直すことと、必要な事実を確かめ、条件に照らして判断し、結果から学ぶこと。その接続が、AIを使う仕事のどこで途切れているのかを確かめるための研究課題としています。
リクエスト株式会社 代表取締役 甲畑智康氏は、「AIに任せることと、必要な確認や判断が失われることは同じではありません。何を任せ、何を確かめ、どの経験を人に残し、その結果を誰が次の仕事へ戻すのか。今回は、その条件を実際の仕事から確かめるための問いを公表します」とコメントしています。
組織行動科学®について
組織行動科学®は、組織で働く人の思考と行動が「なぜ起こり、なぜ続くのか」を、事業環境、歴史、経験から明らかにし、より善く再現するための研究・実践体系です。リクエスト株式会社は、980社・33.8万人の働く人のデータを基盤に、企業で働く成人の研究と教育開発を行っています。
リクエスト株式会社について
リクエスト株式会社は、組織行動科学®を基盤に、企業で働く人の行動、判断、経験形成、組織学習に関する研究と実践支援を行っています。代表取締役の甲畑智康氏は、2003年に東京藝術大学美術学部を卒業後、企業の人材育成・組織開発に20年以上携わってきました。芸術における創造の過程と、企業における判断形成の双方を背景に、AI時代の「判断デザイン」「判断経験設計」「判断構造設計Pro」の体系化を進めています。
会社名：リクエスト株式会社
代表者：代表取締役 甲畑 智康
所在地：〒160-0022 東京都新宿区新宿3丁目4番8号 京王フレンテ新宿3丁目4F
公式サイト：https://requestgroup.jp
会社概要：https://requestgroup.jp/corporateprofile
お問い合わせ：https://requestgroup.jp/request
コメント