Le DBS publie le registre de transparence algorithmique de son outil de synthèse des signalements d’interdiction d’exercer fondé sur l’IA
Généré par IA (AI). Ce texte a été rédigé et traduit automatiquement par une intelligence artificielle et vérifié par logiciel au regard des sources citées, sans relecture humaine. Ceci n’est pas un avis juridique.
Résumé
Le Disclosure and Barring Service a publié un registre de transparence algorithmique décrivant un outil d’IA qui génère des synthèses de signalements d’interdiction d’exercer à l’intention des gestionnaires de dossiers. L’outil utilise des modèles de fondation hébergés sur AWS Bedrock, avec des citations liées aux preuves sources, afin d’aider les gestionnaires chargés du tri à parcourir les documents des signalements. Le registre indique que l’outil ne prend aucune décision automatisée et que les gestionnaires de dossiers doivent vérifier les synthèses au regard des preuves d’origine. Reply, le prestataire technique existant, le développe et en assure la maintenance. Selon le registre, l’outil sera utilisé par une équipe de tri d’environ 16 personnes traitant environ 1 200 dossiers par mois. Il décrit des tests menés lors des phases Alpha et bêta privée, une analyse d’impact relative à la protection des données, une évaluation de l’impact sur l’égalité qui n’a relevé aucun effet défavorable disproportionné lors des tests de la bêta privée, ainsi qu’une liste de risques assortis de mesures d’atténuation, tels que les biais, les hallucinations et la dépendance excessive.
Pourquoi c’est important
Le registre montre comment un organisme public britannique rend compte de son utilisation de l’IA générative dans le traitement de dossiers liés à la protection. Il indique que les gestionnaires de dossiers humains conservent toutes les décisions, que la procédure de recours existante du DBS s’applique et que l’analyse relative à la protection des données sera réexaminée tous les 12 mois. Sont concernés les gestionnaires de dossiers, les personnes signalées et le fournisseur.
- Parties concernées
- Disclosure and Barring Service; Cabinet Office; Ministère britannique des Sciences, de l'Innovation et de la Technologie; Government Digital Service; Reply
- Source primaire
- GOV.UK (gov.uk)
Source consultée le: . Les sources sont souvent dans d’autres langues ; les liens ouvrent l’original. - Thèmes
- Usage de l’IA par l’État · Transparence et étiquetage · Vie privée et décisions automatisées