高校倫理 人工知能と責任—判断を任せる範囲と説明を求める理由を具体的に考える｜武蔵野個別指導塾

自動判定を使う学校行事の例から、偏りの点検と説明の担い手を考え、焦点となるのは人工知能の責任です。

よくあるのは、高校生が自動で出た判定なら誰にも説明の責任はないと考える場面です。画面に結果が表示されるまで人が手を動かさなくても、何を判定するかを決め、道具を選び、結果を使う人はいます。判定される人が理由を知りたいとき、その関係をどうたどればよいのでしょうか。

問題の出方には、判定の材料に偏りがないかを調べる型、結果を使う人にどのような説明が求められるかを問う型、機械と人間の役割を分けて改善案を比較する型があります。いずれも「人工知能は便利か危険か」の二択で止めず、何が起きる場面なのかを具体的に読みます。

判定の前後にいる人を見つける

人工知能は、与えられた情報から一定の処理を行い、分類や予測などの結果を出す技術の総称です。ここで扱う判定は、あらかじめ定められた目的のために、入力された情報から候補や区分を出す仕組みと考えてください。結果が数字や短い言葉で示されても、そのまま公平さや正しさが証明されるわけではありません。

偏りとは、材料の集め方や扱い方などによって、ある人たちに不利な結果が生じる可能性を考えるための視点です。たとえば過去の記録に載りにくかった活動があれば、その記録に頼る判定は、その活動の価値を十分に拾えないかもしれません。違う結果が出たという事実だけで直ちに不当な偏りだと断定せず、目的に照らして何が記録され、何が抜けたかを調べます。

説明可能性は、判定の仕組みや結果について、人が理解し、問い直せる形で理由を示せるかという観点です。細かな計算の説明を並べることと、本人が自分への扱いを理解できることは同じではありません。何を目的に、どんな種類の情報を使い、結果を誰がどう扱い、異議があればどこで再検討するのかを、相手に応じて伝える必要があります。

図1のように、判定は材料、処理、利用という流れの中に置いて考えます。矢印は情報と結果が渡る順序を示します。各段階を調べる問いを重ねることで、問題を機械の内部だけに閉じ込めずに済みます。

材料を集める人には、目的に合う情報か、欠けている人はいないかを確かめる役割があります。仕組みを作る人には、想定した使い方や限界を利用者に伝える役割があります。導入を決める人は目的と影響を検討し、実際に使う人は結果が場面に合うか見直せます。同じ人が複数の役割を担う場合もあります。

責任の所在とは、何が起きたときに誰が何を説明し、調べ、必要なら直すかを明らかにすることです。ここでの責任は直ちに法律上の責任や、誰か1人を責めることを意味しません。担当が分かれるほど、引き継ぎの境目で誰も対応しない事態が起き得るため、各人の役割と連絡先を決めておくことが重要です。

人間の関与も、最終画面で人が承認ボタンを押せば十分とは限りません。材料や限界を知り、結果に疑問を持て、必要な情報を追加して変更できることが関与の中身です。逆に人が判断しても、思い込みや見落としは起きます。人と道具を対立させるのでなく、それぞれの弱点をどう点検するかを考えます。

基本例題：候補の提示から採用まで

学校行事の運営係が、当日の案内担当の候補を選びます。自作の教材として、人工知能は過去の行事で記録された担当経験を材料に候補を示すとします。運営係は候補の意味や材料を説明せず、そのまま担当を決めました。記録に残らない形で案内を手伝ってきた生徒は、経験を考慮してほしいと申し出ています。

問い：この決め方の問題点を、材料の偏りと運営係の説明という2つの観点から、それぞれ1つずつ述べてください。

まず、何のための判定かを押さえます。案内担当の候補を見つけることが目的であり、過去の担当経験はその判断材料の一部です。次に、記録された経験と、実際に行った経験は同じ範囲とは限らないことを拾います。記録に残らない手伝いが条件として明記されているため、候補の偏りを検討できます。

続いて、結果を実際の決定に使った主体を探します。運営係は候補を決定に用いましたが、材料や使い方を説明していません。候補を出したのが機械であることは、運営係が決定の理由を述べる必要を消しません。図2の矢印は、この事例で根拠から結論へたどる順序です。

参考答案：記録されない手伝いは材料から漏れるため、経験がある生徒も候補に入りにくいおそれがあります。運営係は記録を使って候補を出し、それを決定に用いたことを説明し、申し出を受けて再検討する必要があります。

別解として、材料の不足に加え、記録された担当経験だけで必要な力を測れるか疑問を示しても成立します。採点では、記録と実際の経験のずれを問題文に結びつけたか、結果を使った運営係の説明に触れたかを見ます。候補から外れた理由が必ず材料の欠落だと断定すると、問題文にない事実を加えることになります。

候補の提案を使う利点として、運営係が記録を見落としにくくなる可能性はあります。しかし、記録外の経験を聞く機会がなければ、その利点は材料の範囲に限られます。生徒の申し出を受けることは、候補を無条件に覆すことではなく、判定の根拠を調べ直す入口です。

標準例題：説明の量と問い直す機会

図書委員会が、展示する本の候補を自動で整理します。案Aでは、仕組みの詳しい計算を示しますが、候補の変更は受け付けません。案Bでは、候補に使った情報の種類と目的を説明し、委員が別の本を提案して再検討できます。ただし、案Bでは細かな計算の仕組みを十分に示せません。

問い：案Aと案Bを、理解しやすさと修正可能性の2軸で比較し、どちらかを選んで残る課題を1つ述べてください。

参考答案：案Aは計算を詳しく示すものの、それが委員に理解できるとは限らず、候補も変更できません。案Bは目的と情報の種類を手掛かりに理由を考え、追加提案もできます。私は案Bを選びますが、細かな仕組みがわからない点は残るので、委員の疑問に応じて説明を補う必要があります。

別解として、計算の詳しさを重視して案Aを選び、変更を受け付ける手順を加える提案もできます。採点観点は、2軸を混ぜずに両案を比較し、選んだ案の弱点まで述べることです。説明の長さだけで理解を判定したり、異議を受け付けるという条件を読み落としたりしないようにします。

説明を受ける相手が求めるものは場面によって違います。展示候補を検討する委員には目的や追加提案の方法が必要で、仕組みの欠陥を調べる担当者にはさらに詳しい情報が必要かもしれません。誰に何を説明するのかを問えば、専門的な説明と利用者向けの説明を対立させずに考えられます。

発展例題：見直しと負担の配分

校内の備品貸出係が、申込の多い品物の配分について、過去の利用記録から候補を出す仕組みを検討しています。記録には、以前から貸出の方法を知っていた人の利用が多く残っています。係は、候補を参考にしつつ、申込理由を読み、必要に応じて候補を変更する案を出しました。一方、申込者からは、理由を詳しく書く負担が大きいとの声もあります。

問い：提案の利点と限界をそれぞれ1つ示し、負担にも配慮した見直し方を1つ提案してください。判断の根拠を添えれば、別の案でも構いません。

参考答案：係が候補を変更できれば、過去の記録に表れない必要を検討できます。ただし、詳しい説明を書く負担が申込者に偏る可能性があります。短い申出でも受け付け、必要な場合に係が本人に確認する方法なら、情報を補いつつ記述の負担を抑えられます。

別解として、申込者が口頭か文章かを選び、係が同じ観点で記録して再検討する案もあります。採点では、記録に表れない必要、判断を変えられる人、追加の負担を受ける人を区別できたかを見ます。担当者の手間が増える可能性もあり、その手間を引き受ける体制は別に検討しなければなりません。

条件が変われば結論も変わり得ます。たとえば候補が担当者の検討順を示すだけなら、候補がそのまま配分を決める場合と影響は異なります。それでも検討順のために後の申込みが十分に見られないなら、実質的な影響は残ります。名目上の役割だけでなく、実際に何を変更できるかを確認します。

誤答を根拠まで直す

基本例題について「機械が候補を出したのだから、運営係には説明できず、責任もない」と答えたとします。この文は、仕組みの細部を知らないことと、決定に用いた理由を説明できないことを同一視しています。また、候補を採用するかどうかを決めた運営係の役割が抜けています。

図3のように、誤答の原因を主体の見落としとして捉え、どの行為について説明できるかを補います。矢印は誤答から修正へ進む手順であり、責任が機械から人へ自動的に移ることを示すものではありません。

修正答案は「運営係は候補を決定に使った主体なので、使った材料や決め方を説明し、申し出を受けて再検討できます」です。仕組みの詳しい部分を係が説明できなければ、作った側に確認する必要があります。係だけで内部の問題まで解決できると書くのも、役割を単純化した別の誤りです。

もう1つの誤りは「人が最後に確認したので偏りはない」という答えです。確認者が候補の材料を知らず、結果を変更できないなら、偏りを見つけたり直したりする機会は乏しくなります。人が関与したという言葉の有無ではなく、何を知り、どの選択肢を持ち、どう見直せたかを書きます。

反対に「過去の記録を使う仕組みは必ず不公平」と決めるのも早すぎます。記録の範囲、目的、記録外の情報を補う方法によって評価は変わります。偏りの可能性を指摘するときは、どの材料が誰にどう影響し得るのかまで示しましょう。

練習問題

次の5問はそれぞれ独立した自作の場面です。問題文にない事実を加えず、記述では判断の根拠も示してください。

問1　語句を選ぶ

美術部が作品展示の候補を整理する仕組みについて、担当者は、どんな情報を使ったかと候補が出た理由を部員に伝え、質問を受けられるようにしたいと考えました。このねらいに最も近い語を、ア「説明可能性」、イ「自動化」、ウ「記録の保存」から1つ選んでください。

問2　条件を比較する

清掃当番の候補を出す仕組みで、案Cは欠席などの事情を申し出ても候補を変えられません。案Dは事情を聞いた担当者が候補を変更できます。両案の違いを、人間の関与の中身という観点から1文で述べてください。

問3　材料と理由を結ぶ

合唱の練習場所を決める係は、過去に各部屋が使われた記録をもとに候補を得ます。ある部屋は使いにくかったため以前から利用を避けられ、その事情は記録にありません。記録だけに頼る場合の限界を、材料と利用を避けた理由の関係に触れて述べてください。

問4　立場を比べる

園芸係は水やりの順番を考える仕組みを導入するか話し合っています。生徒Eは作業の見通しを立てやすくしたいと考え、生徒Fは植物の様子を直接観察する時間を確保したいと考えています。両者の重視することをそれぞれ述べ、両方に応じる案を1つ書いてください。

問5　反論に答える

放送係の原稿候補を整理する仕組みについて、担当者は「人が最後に読むのだから、材料を調べる必要はない」と言いました。この意見への反論を1つ挙げ、担当者が実行できる確認方法を1つ述べてください。

解答と考え方

問1

答えはアです。情報の種類や理由を伝え、質問を受けることは、結果を理解し問い直すための説明に関わります。イは処理を自動で行うこと、ウは記録を残すことに関わりますが、それぞれだけで説明が成立するわけではありません。

問2

参考答案：案Dは担当者が事情を踏まえて候補を変更できますが、案Cにはその変更の機会がありません。別解として、案Dでは申出が結果の見直しにつながると書いても構いません。採点では、単に「人がいる」と書くのでなく、事情の検討と変更の可否を対応させます。

問3

参考答案：利用記録には部屋を避けた事情が残らないため、記録だけではその部屋の使いにくさを検討できません。別解として、使われた回数だけから部屋の適切さを判断できないと説明しても成立します。採点では、利用が少ない事実と、その理由が記録にないという条件を結びつけます。

問4

参考答案：Eは作業の見通し、Fは実際の植物の様子の観察を重視しています。仕組みの順番を仮の予定とし、観察した担当者が必要に応じて変える案が考えられます。別解として、仕組みを使わず観察結果を共有して順番を決める案も、見通しを立てる方法を添えれば成立します。採点では、両者の理由と、提案がそれぞれにどう応じるかを見ます。

問5

参考答案：材料に不足があれば候補自体に偏りが生じ、最後に読む人も不足に気づかないかもしれません。担当者は候補に使った原稿の範囲を調べ、抜けたものがあれば加えて見直せます。別解として、担当者が材料の選び方を作成者に確認する案もあります。採点では、人の確認の限界と実行できる確認方法のつながりを評価します。

覚えておくこと

• 偏りは材料や扱い方と影響を結びつけて調べます。
• 説明可能性は相手が理解し問い直せるかで考えます。
• 人間の関与は知ること、変更する権限、再検討の機会まで見ます。
• 責任は作成、導入、利用などの役割に応じて具体化します。
• 賛否より、根拠と反論への応答を確かめます。

答えが止まったときの見分け方

「誰が悪いか」しか書けないときは、材料を選んだ人、道具を導入した人、結果を使った人、影響を受ける人を問題文の中で囲んでみます。次に、それぞれが知っていたことと、変更できたことを分けます。すると、個人を非難する前に、説明や再検討をどこに置くかが見えてきます。

「人が確認する」と書けても改善の理由が続かないときは、確認者が見る資料と、候補を変える権限を具体化します。個別指導では、答案の中の主体に線を引き、問題文の根拠と対応させます。別の立場からの反論を受けても提案が成り立つかを話し合えば、人工知能と責任を自分の言葉で考えられます。