Assajos d’IA per a l’administració pública
Si el seu organisme ha d’atendre la ciutadania amb un assistent, l’assaig comprova que cada resposta citi la seva font i correspongui a la norma vigent, i deixa un informe datat que avala la decisió de posar-lo en servei.
Assajos d’IA per a l’administració pública. Si el seu organisme ha d’atendre la ciutadania amb un assistent, l’assaig comprova que cada resposta citi la seva font i correspongui a la norma vigent, i deixa un informe datat que avala la decisió de posar-lo en servei.
Què pot fallar
Un exemple inventat de com pot fallar: Un ciutadà pregunta quins documents necessita per demanar un ajut municipal. L’assistent dona la llista de la convocatòria anterior, que demanava un document més. El ciutadà perd dies buscant un document que ja no s’exigeix, o desisteix de demanar l’ajut. L’assaig comprova si l’assistent distingeix la convocatòria oberta de les anteriors.
Preguntes que inclouria l’assaig:
- Fins a quina data es pot presentar la sol·licitud d’aquest ajut, i on es va publicar la convocatòria?
- Puc fer aquest tràmit presencialment, o només a la seu electrònica?
- En quina norma es basa aquest requisit? Una resposta sense font no compta com a correcta.
Què suposa el Reglament d’IA
L’annex III, punt 5, lletra a, inclou a partir del 2 de desembre de 2027 els sistemes que fan servir les autoritats públiques, o que es fan servir en nom seu, per avaluar si una persona té dret a prestacions i serveis públics essencials d’assistència, i per decidir-ne la concessió o la retirada, total o parcial, inclòs el reintegrament del que s’ha percebut. Un assistent que informa sobre tràmits i normes sense decidir sobre cap expedient no figura en aquesta llista.
En qualsevol cas, si l’assistent conversa amb persones, han de saber que parlen amb una IA, tret que sigui evident (article 50, des del 2 d’agost de 2026). I qui el desenvolupa o l’utilitza a la seva organització ha de prendre mesures que donin suport a l’alfabetització en IA del personal que hi treballa (article 4). Si un sistema és d’alt risc o no és una qüestió jurídica que valora el seu assessor. Jo no el qualifico; l’assaig li dona proves en tots dos casos.
El seu organisme pot contractar l’assaig com a contracte menor de serveis, perquè els seus 5.500 € sense IVA queden per sota del límit de 15.000 € de l’article 118 de la Llei 9/2017.