DBS、「Barring Referral AI Summary Tool」のアルゴリズム透明性記録を公表
AI生成。本ページは人工知能(AI)が自動で生成・翻訳し、プログラムで出典と照合したものです。人による編集・確認は行っていません。法的助言ではありません。
概要
英国前歴開示・就業制限機関(DBS)は、ケースワーカー向けに就業禁止の付託案件の要約を生成するAIツールについて説明するアルゴリズム透明性記録を公表した。このツールはAWS Bedrock上でホストされる基盤モデルを使用し、出典となる証拠にリンクされた引用を付すことで、トリアージ担当のケースワーカーが付託文書を確認しやすくするものである。記録によると、このツールは自動的な決定を一切行わず、ケースワーカーは要約を元の証拠と照らして検証しなければならない。既存の技術提供事業者であるReplyが開発および保守を行っている。記録によると、このツールは約16人のトリアージチームが使用し、月に約1,200件の案件を扱う予定である。記録は、アルファ版および非公開ベータ版の段階でのテスト、データ保護影響評価、非公開ベータ版のテストで不均衡な悪影響は認められなかった平等影響評価、さらにバイアス、ハルシネーション、過度の依存などのリスクとその緩和策を挙げている。
なぜ重要か
この記録は、英国の公的機関が、保護関連のケースワークにおける生成AIの利用をどのように開示しているかを示している。記録は、すべての決定を人間のケースワーカーが保持すること、既存のDBS不服申立て手続が適用されること、データ保護評価が12か月ごとに見直されることを述べている。影響を受けるのは、ケースワーカー、付託された個人、および供給事業者である。
- 関係主体
- 英国前歴開示・就業制限機関(DBS); Cabinet Office; 英国科学・イノベーション・技術省; Government Digital Service; Reply
- 一次情報源
- GOV.UK (gov.uk)
出典取得日: . 出典は原語のものが多く、リンク先は原文です。 - トピック
- 政府による AI 利用 · 透明性と表示 · プライバシーと自動化された意思決定