Tests d’IA pour l’administration publique
Si votre administration s’apprête à accueillir les usagers au moyen d’un assistant, le test vérifie que chaque réponse cite sa source et correspond aux textes en vigueur, et laisse un rapport daté qui étaye la décision de mise en service.
Tests d’IA pour l’administration publique. Si votre administration s’apprête à accueillir les usagers au moyen d’un assistant, le test vérifie que chaque réponse cite sa source et correspond aux textes en vigueur, et laisse un rapport daté qui étaye la décision de mise en service.
Ce qui peut mal tourner
Un exemple fictif de défaillance possible : Un usager demande quelles pièces il doit fournir pour solliciter une aide municipale. L’assistant donne la liste de l’appel précédent, qui exigeait une pièce de plus. L’usager perd des jours à chercher un justificatif qui n’est plus exigé, ou renonce à sa demande. Le test vérifie si l’assistant distingue l’appel ouvert des précédents.
Questions que le test inclurait:
- Jusqu’à quelle date peut-on déposer une demande pour cette aide, et où l’appel a-t-il été publié ?
- Puis-je effectuer cette démarche au guichet, ou seulement en ligne ?
- Sur quel texte repose cette exigence ? Une réponse sans source ne compte pas comme correcte.
Ce qu’implique le règlement sur l’IA
L’annexe III, point 5 a), vise à partir du 2 décembre 2027 les systèmes utilisés par les autorités publiques, ou en leur nom, pour évaluer l’éligibilité des personnes physiques aux prestations et services d’aide sociale essentiels, et pour décider de leur octroi ou de leur retrait, total ou partiel, y compris la récupération des sommes versées. Un assistant qui informe sur les démarches et les règles sans statuer sur aucun dossier ne figure pas dans cette liste.
Dans tous les cas, si l’assistant dialogue avec des personnes, elles doivent savoir qu’elles échangent avec une IA, sauf si c’est évident (article 50, depuis le 2 août 2026). Et quiconque le développe ou l’utilise dans son organisation doit prendre des mesures pour soutenir la maîtrise de l’IA du personnel qui travaille avec lui (article 4). Savoir si un système est à haut risque est une question juridique, à apprécier avec votre conseil. Je ne procède pas à cette qualification ; le test vous apporte des éléments de preuve dans les deux cas.
En Espagne, un organisme public peut passer le test comme marché de services de faible montant (contrato menor), car ses 5 500 € HT restent sous le plafond de 15 000 € hors TVA de l’article 118 de la loi 9/2017.