
HRリーダーがAIベンダーに聞くべき12の質問
HRリーダーは、ベンダーの良い答えが実際にはどんなものなのか、明確な指針がないままAIツールを評価しようとしています。この記事では、重要な質問と、その答えの読み解き方を整理します。
HRリーダーがAIツールの評価を始めたとき、多くは進めながら手探りで学んでいました。何を見るべきか、何を心配すべきか、ベンダーにどんな質問をすれば意味があるのかを、自分のネットワークに尋ねていました。私は同じ質問が何度も出てくるのを目にしましたが、良い答えが実際にどんなものであるべきかは、ほとんど明確になっていませんでした。そこで、Pynの共同創業者でリードエンジニアのJon Williamsと、これらの質問を一つずつ話し合いました。Jonはこの15年間、HRテックのプロダクトを作り続けてきました。目標は、HRをAIの専門家にすることではありません。より明確な手がかりを示すことです。ベンダーの答えのどこが本当の成熟を映しているのか、どこで懸念を持つべきか、どこでさらに詳しい説明を求めるのが妥当か、という手がかりです。
1. このモデルの学習にどんなデータが使われましたか。そして、どんなデータが明示的に除外されましたか
HRがこれを聞くべき理由:これは、HRリーダーが聞くよう勧められる最も一般的な質問の一つで、その背後にある直感は正しいものです。学習データは結果を形づくります。偏ったデータや不適切なデータが組み込まれていれば、HRは、自分が設計したわけではない判断を説明し、擁護することになります。
ただし、微妙な点があります:HR分野のAIツールのほとんどは、ベースとなるAIモデル(OpenAI、Anthropic、Googleといった企業が提供する基盤システムで、多くのHRツールがその上に作られています)の上に構築されています。そしてこれらのモデルはどれも、おおむね似たようなデータ、つまり雑多なインターネット上の膨大なテキストで学習されています。ベースモデルが何のデータで学習されたかをベンダーに尋ねても、たいていは良いベンダーと悪いベンダーを見分けられません。
より良い質問:「最初の学習のあと、HRの意思決定に適したものにするために、このモデルに何をしましたか。その過程で、どんなデータや原則を使いましたか。」
良い答えとは:ベンダーが、ベースモデルが作られたあとにどんな作業をしたかを説明できます。HRのユースケースに焦点を当てた追加の学習、安全性のテスト、不適切な出力を除外するルールなどです。その段階でどんなデータを使ったか、何を明示的に除外したか(例:スクレイピングした履歴書、推測された保護対象の属性)、そしてその判断を誰が下したかを挙げられます。
Jonのコメント:ベースとなるAIモデルは、どれもインターネット規模のデータで学習されていて、そこにはがらくたも大量に含まれています。これは業界全体に言えることです。本当に重要なのは、学習後の作業です。追加の学習、安全性のテスト、そしてその上に重ねるガードレールです。ベンダーの差がつくのはそこであり、精査の力を注ぐべきなのもそこです。ベースモデルが作られたあとに何をしたのかをベンダーが明確に説明できないなら、ほとんど手を加えていない汎用モデルを再販しているか、HRの文脈で安全に使えるようにする作業をしていないかのどちらかです。
2. このモデルは、不公平な結果や差別的な結果を避けるように学習されていますか。されているなら、どのようにですか
良い答えとは:ベンダーが、公平性、害の最小化、不確実性の扱いといった原則をもとにモデルを学習させたかどうか、そしてその原則をどう実践に移したかを、平易な言葉で説明できます。そうでない場合は、モデルが歴史的な不平等をそのまま再現してしまうのを何が防いでいるのかを、明確に説明できます。
HRがこれを聞くべき理由:AIシステムは中立ではありません。HRは、人々の仕事、給与、キャリアに影響する提案を、誰の価値観が形づくっているのかを知る必要があります。
Jonのコメント:技術的に言えば、ここで尋ねているのは、ベンダーが公平性をモデルに組み込むための具体的な手法を使ったかどうかです。ベンダーは、「公平になるように学習させました」と言うだけでなく、その手法の名前を挙げられるはずです。公平性は本質的に主観的なものなので、なおさらです。あわせてこうも尋ねましょう。その原則は学習の過程で組み込まれたのか、それとも最後に出力へのフィルターとして追加されただけなのか。どちらも役には立ちますが、フィルターは、深く学習された振る舞いよりも簡単にすり抜けられます。
3. このモデルは、どんな種類の出力を拒否するように設計されていますか。その境界は、どう定義されましたか
良い答えとは:成熟した答えには、拒否の具体例(例:保護対象の属性を推測すること、個人について根拠のない判断を下すこと)が含まれ、その境界を誰が、なぜ設定したのかが説明されます。拒否は、弱点ではなく、安全機能として扱われています。
HRがこれを聞くべき理由:システムが答えるべきではない質問もあります。HRには、違法な出力、倫理に反する出力、擁護できない出力が人々に届く前に防ぐガードレールが必要です。
Jonのコメント:これは、真剣なベンダーと、安全性について深く考えていないベンダーを見分ける優れた質問です。エンジニアリングの観点では、拒否の振る舞いは文書化され、テストできるものであるべきです。システムが何をして、何をしないかを文書化したリストがあるか、人が積極的に壊そうとすることでシステムのストレステストをしたかを尋ねましょう。バランスをとることに力を注いでいるベンダーを探すことも大切です。拒否しすぎるとツールは役に立たなくなり、拒否が足りないとあなたがリスクにさらされます。
4. ある人について、あいまいさ、不完全なデータ、矛盾するシグナルに出会ったとき、モデルはどう振る舞いますか
良い答えとは:ベンダーが、モデルが不確実性を知らせるのか、追加の入力を求めるのか、確信度を下げるのか、提案を控えるのかを説明できます。優れた答えは、人に関するデータが雑然としていることが多いと認めています。そして何より、データが不十分なときに、システムがそれでも提案を出すことを既定の動作にしていないことを、ベンダーが確認すべきです。データの質にかかわらず必ず答えを出すシステムは、そのことを知らせないまま、リスクをHRに転嫁しています。
HRがこれを聞くべき理由:あいまいさを前に推測することが、バイアスと不公平が入り込む経路です。そして、その結果に責任を負うのはHRです。
Jonのコメント:この質問は、エンジニアが「キャリブレーション」と呼ぶものに関わります。つまり、システムは自分が何を知らないかを知っているか、ということです。うまく設計されたシステムは、確信度を出力するか、確実性の低い状況を明示的に知らせるはずです。システムが「高い確信がある」と「最善の推測をしている」を区別するかどうかを尋ねましょう。すべての出力が同じように権威あるものに見えるなら、それは即座に危険信号です。
5. モデルの振る舞いは、時間とともに変わりますか
良い答えとは:モデルが同じままなのか進化するのか、更新とフィードバックがどう取り込まれるのか、監視されないままのドリフトを防ぐためにどんなコントロールがあるのかについての、明確な説明です。優れた答えは、意図的な改善と、制御されていない変化を区別します。
HRがこれを聞くべき理由:見えないところで進化するシステムは、HRがすでに承認した以前のリスクレビュー、バイアス監査、承認を、静かに無効にしてしまう可能性があります。
Jonのコメント:ここは、私なら徹底的に掘り下げるところです。変化には3つの種類があります。(1)ベンダーが新しいモデルのバージョンを配信する、(2)モデルがあなたの組織のフィードバックやデータに基づいて適応する、(3)モデルが誰も意図しない形で静かにドリフトする。このうちどれが、いつ起きているのかを知る必要があります。コーディングの世界には、https://marginlab.ai/trackers/claude-code/のように、これを積極的に監視するツールがあります。しかし、この種の追跡はほかの領域では不完全で、人を対象とするオープンループのプロセスでははるかに難しくなります。
ベンダーがパラメータを調整したり、モデルの振る舞いをA/Bテストしたりすることは、珍しくありません。これは、似た(あるいは同一の)タスクの実行に、大きなばらつきを生む可能性があります。
関連して:ベンダーがあなたのデータを使ってモデルを改善する場合、その改善はほかの顧客にも還元されるのでしょうか。これには機密保持上の意味合いがあります。
6. 導入後、意図しない振る舞いをどう監視していますか。何かが変わったとき、顧客である私たちはどうやってそれを知るのでしょうか
良い答えとは:ベンダーが、自社側での積極的で継続的な監視について説明します。どんなシグナルを追跡しているか、レビューをどのくらいの頻度で行うか、問題に誰が対応するかなどです。同じくらい重要なのは、顧客がどんな可視性を得られるかの説明です。リリースノート、アラート、バージョン履歴、監査レポート、ダッシュボードなどです。優れた答えは、監視を共同の責任として扱い、HRが独自のレビューを行うために必要な情報を提供します。
HRがこれを聞くべき理由:継続的に使って初めて現れるリスクがあり、従業員に影響するシステムには定期的なレビューが必要だからです。HRがそのレビューを行えるのは、ベンダーが問題を見張り、かつ何かが変わったときに顧客に知らせ続けている場合だけです。
Jonのコメント:この場合、ベンダーが実際に何を監視しているのか、その頻度と詳しさを知りたいところです。こうしたモデルの継続的なキャリブレーションは、その価値の大きな部分を占めます。ですから、非常に密なフィードバックループが見られるはずです。
7. モデルが不適切な出力、偏った出力、ドリフトした出力を出していると考えた場合、どうやって報告できますか。その後、何が起こりますか
良い答えとは:定義された報告とエスカレーションのプロセス、対応時間と是正についての明確な見通し、そして問題がどう調査され解決されるかについての透明性です。
HRがこれを聞くべき理由:何かがうまくいかなくなったとき、HRは自分たちにどんな選択肢があるのかを知る必要があるからです。問題が調査されている間、影響を受ける機能を一時停止したり無効にしたりできますか。ベンダーは以前のバージョンにロールバックしますか。既知の問題にどのくらいの期間さらされる可能性があり、その間、従業員に何を伝えるべきでしょうか。この質問は、報告だけの話ではありません。実際にどんな手立てがあるのかを理解するためのものです。
Jonのコメント:これは技術的な問題というより、関係性の問題だと思います。明確なエスカレーションの経路と透明性を備えた、問題を簡単に報告し、追跡できる方法がありますか。
8. 個々の従業員や候補者に影響する特定の出力に、モデルがどうやって至ったのかを説明できますか
HRがこれを聞くべき理由:HRがある判断を説明できなければ、それを擁護することもできません。この質問は不可欠に感じられます。
ただし、微妙な点があります:複雑なAIシステム、特に大規模言語モデルの上に構築されたシステム(多くがそうです)では、完全な透明性は技術的に不可能であることがよくあります。モデルは人間のようには推論せず、その内部の働きを、いつもシンプルな筋道に翻訳できるわけではありません。完璧な説明可能性を求めると、ベンダーがそれに応えようとして過大な約束をするか、「ブラックボックスなので」とかわすかのどちらかになる期待を、つくってしまいます。
より良い質問:「個々の判断について、どのレベルの説明を提供できますか。それは、私たちが従業員に答え、新たなAI関連法の文書化要件を満たすのに十分ですか。」
良い答えとは:ベンダーが説明可能性の限界について正直でありながら、実際に何が利用できるかを説明できます。どの入力が大きく影響したか、何があれば出力が変わっていたか、確信度、監査証跡などです。優れた答えは、完璧な透明性を主張したり複雑さの陰に隠れたりするのではなく、合理的な説明に焦点を当てます。
Jonのコメント:説明可能性は、AIで最も難しい未解決の問題の一つです。期待値を調整してください。ほとんどの場合、「モデルがこの候補者を不採用にしたのはXが理由です」というきれいな答えは得られません。合理的に求められるのは、どの入力が影響したか、確信度はどのくらいだったか、システムが別の解釈を示せるかどうかです。完全な説明可能性を主張するベンダーには、懐疑的になりましょう。本当の問いは、誰かに「なぜこうなったのですか」と聞かれたとき、合理的な説明を組み立てるのに十分な材料が手元にあるかどうかです。
9. このシステムは、どこで人間が最終判断を下すことを想定していますか。その人間の判断を(損なうのではなく)どう支えますか
良い答えとは:ベンダーが、どの出力が提案で、どの出力が決定なのか、どこで人間によるレビューが想定されているか、あるいは必須なのかを、明確に示せます。システムが人間の判断を支えるために情報をどう提示するかを説明できます。たとえば、確信度を表示する、エッジケースを知らせる、別の選択肢を示す、といったことです。優れた答えは、人間にはAIの提案を受け入れる方向へのバイアスがありうると認め、形だけの承認ではなく本当のレビューを促すよう、システムがどう設計されているかを説明します。
HRがこれを聞くべき理由:「ヒューマン・イン・ザ・ループ」が機能するのは、人間がシステムの出力を覆し、疑問を投げかけ、拒否する力を本当に持っているときだけだからです。システムが提案を既定の結論のように提示したり、手続き上そこから外れにくくしたりしているなら、人間によるレビューは芝居になります。そしてHRは、本当にはコントロールしていなかった結果に対して、依然として責任を負います。
Jonのコメント:これはリストのなかで最も重要な質問の一つですが、見過ごされがちです。そしてこれは、モデルの中核的な動作よりも、AIがどう組み込まれ、どう提示されるかに関わることが多いのです。
設計の観点から、提案がどう提示されるかを尋ねましょう。システムは一つの答えを示しますか、それとも選択肢の幅を示しますか。確信度を表示しますか。上書きを簡単にしていますか、それとも難しくしていますか。
人はAIの出力に従いがちです。つまりモデルは、自分の限界と確信度を理解し、伝える必要があります(質問4を参照)。
ここで役立つ手法があります。うまく設計されたシステムは、(拒否だけでなく)受け入れにも理由の記入を求める、選択肢の順序をランダムにする、モデルの確信度が低いときに知らせる、といった方法で、この傾向に積極的に対抗します。
10. 社内レビュー、従業員からの質問、法的な精査に対応するために、どんな文書や成果物を利用できますか
良い答えとは:ベンダーが、HRが頼れる具体的な資料、たとえば監査ログ、根拠の要約、バージョン履歴、判断のトレースなどを挙げ、それらにどうアクセスするかを説明できます。システムがどう機能し、どんなリスクが検討されたかを説明する、モデルカード、データシート、影響評価といった、標準的なAIの文書を提供することもあります。
HRがこれを聞くべき理由:雇用主は、意思決定がどう行われるかを文書化し、説明することを、ますます求められているからです。自動化されたシステムが関わる場合は、特にそうです。
Jonのコメント:これは技術的な質問であると同じくらい、調達と法務の質問でもあります。しかしエンジニアも気にかけるべきです。監査ログが編集から保護されているか、どのくらいの期間保持されるかを尋ねましょう。法的な異議申し立てを受けることがあれば、特定の時点でシステムが何を知り、何をしたかを再構成する必要があります。ベンダーがそれを出せないなら、文書化の負担をあなた自身が引き受けることになります。
HRは、この文書の重大さを知っています。ベンダーは知らないかもしれません。
11. 従業員や候補者のデータは、処理されたあとどうなりますか。適切なときに確実に削除されるようにするには、どうすればよいですか
良い答えとは:ベンダーが、データ保持ポリシーを明確に説明できます。どのデータが、どこに、どのくらいの期間、どんな条件で保存されるかです。削除依頼がどう扱われるか、どのくらい早く実行されるか、削除は完全なのか、それともバックアップや学習のパイプラインにデータが残るのかを説明できます。優れた答えは、顧客データがほかの顧客のためのモデル改善に使われることがあるかどうか、そして何より、それを完全にオプトアウトできるかどうかも明らかにします。オプトアウトできないなら、それは契約する前に知っておく価値があります。
HRがこれを聞くべき理由:従業員と候補者のデータは、ベンダーのものではないからです。それはデータに記述されている本人のものであり、あなたの会社のポリシーと適用される法律によって管理されます。HRは、データが必要以上に長く保持されていないこと、開示された範囲を超える目的に使われていないこと、そして誰かがGDPRやCCPAのようなプライバシー法、あるいは社内ポリシーのもとで権利を行使したときに、削除が不可能になっていないことを知っておく必要があります。
Jonのコメント:これは、データが最初から最後までどう扱われるかについての質問で、聞こえる以上に微妙です。具体的に尋ねましょう。データは恒久的に保存されますか、それともその場で使われるだけで破棄されますか。保存されるなら、暗号化され、アクセス制御されていますか。ベンダーは顧客データをモデルの再学習や改善に使いますか。それはオプトインですか、オプトアウトですか。
オプトアウトできないなら、データが学習に使われた場合にどうなるかを尋ねましょう。削除が不可能になるかもしれません。適切なプロンプトを通じて、そのデータに「アクセスできてしまう」事例も目にしています。たとえば、コーディングボットの初期のバージョンは、学習の際に非公開のコードベースにアクセスしていたこと、そしてプロンプトを通じてその中身を明かしたことが示されています。参照:
12. このシステムが防げると確信できないリスクや害は、何ですか
良い答えとは:最も優れた答えは、限界を認めます。ベンダーが、残存リスク、エッジケース、トレードオフを挙げ、顧客が導入にあたってそれらをどう考慮すべきかを説明できます。
HRがこれを聞くべき理由:リスクのないシステムはありません。HRは、自分たちが管理を求められているリスクを理解する必要があります。
Jonのコメント:これは、リストのなかで私がいちばん好きな質問です。知的な誠実さを試すものだからです。どんなシステムにも、失敗しうる形があります。問題は、ベンダーがそれを知っていて、言葉にできるかどうかです。優れたエンジニアはこう言うでしょう。「モデルが苦手なのはここです。精度が落ちるのはこの集団です。まだ解決できていないエッジケースはこれです。」ベンダーが、自社のシステムに意味のあるリスクはないと言うなら、十分に調べていないか、率直でないかのどちらかです。
Pynでは、HRリーダーは、テクノロジーが従業員体験をどう形づくるかを、はっきり見渡せるべきだと考えています。AIが関わる場合は特にそうです。だからこそ私たちは、透明性、コントロール、人間による監督を中心に据えてプラットフォームを設計し、PynのAI機能はすべて、設計の段階からオプトインにしています。何を使うか、いつ使うか、それが従業員にどう影響するかは、HRチームが決められるべきです。このアプローチが実際にどう形になっているかに興味があれば、こちらからPynを試してみてください。
