El DBS publica el registro de transparencia algorítmica de su herramienta de resúmenes de remisiones de inhabilitación con IA
Generado por IA (AI). Este texto fue redactado y traducido automáticamente por inteligencia artificial y verificado por software con las fuentes citadas, sin revisión humana. No constituye asesoramiento jurídico.
Resumen
El Disclosure and Barring Service ha publicado un registro de transparencia algorítmica que describe una herramienta de IA que genera resúmenes de remisiones de inhabilitación para los gestores de casos. La herramienta utiliza modelos fundacionales alojados en AWS Bedrock, con citas vinculadas a las pruebas originales, para ayudar a los gestores de casos de triaje a revisar los documentos de las remisiones. El registro indica que la herramienta no toma decisiones automatizadas y que los gestores de casos deben verificar los resúmenes con las pruebas originales. Reply, el proveedor técnico actual, la desarrolla y la mantiene. El registro señala que la herramienta será utilizada por un equipo de triaje de unas 16 personas que gestionan unos 1200 casos al mes. Describe pruebas en las fases Alpha y Beta privada, una evaluación de impacto relativa a la protección de datos, una evaluación de impacto en materia de igualdad que no halló un impacto adverso desproporcionado en las pruebas de la Beta privada, y una lista de riesgos con medidas de mitigación, como el sesgo, las alucinaciones y la dependencia excesiva.
Por qué importa
El registro muestra cómo un organismo público del Reino Unido da a conocer su uso de IA generativa en la gestión de casos relacionados con la protección. Indica que los gestores de casos humanos conservan todas las decisiones, que se aplica el procedimiento de apelación existente del DBS y que la evaluación de protección de datos se revisará cada 12 meses. Afecta a los gestores de casos, a las personas objeto de remisión y al proveedor.
- Partes implicadas
- Disclosure and Barring Service; Cabinet Office; Departamento de Ciencia, Innovación y Tecnología del Reino Unido; Government Digital Service; Reply
- Fuente primaria
- GOV.UK (gov.uk)
Fuente consultada: . Las fuentes suelen estar en otros idiomas; los enlaces abren el original. - Temas
- Uso de la IA por el sector público · Transparencia y etiquetado · Privacidad y decisiones automatizadas