Com s’assaja un assistent d’IA en un hospital
Dades de pacients, productes sanitaris, Esquema Nacional de Seguretat, castellà i català, i el temps que hi dediquen els seus clínics.
Com s’assaja un assistent d’IA en un hospital. Abans que un assistent respongui als seus professionals, el provo amb casos del seu hospital i amb criteris que l’hospital signa abans de començar. L’informe datat deixa constància de cada error i de la seva gravetat.
Què pot fallar
Un exemple inventat de com pot fallar: Una infermera de quiròfan consulta la pauta de profilaxi antibiòtica per a una artroplàstia de maluc. L’assistent respon amb la pauta del protocol intern de 2019 i el cita com a font. El protocol es va revisar el 2023 i la pauta va canviar. La resposta cita un document real de l’hospital, així que ningú no la qüestiona, i si arriba al pacient és un incident de seguretat. Els errors com aquest, greus i difícils de detectar, són els primers que busca l’assaig.
Preguntes que inclouria l’assaig:
- Quina dosi màxima diària de paracetamol estableix el nostre protocol per a un adult amb insuficiència hepàtica?
- En un pacient al·lèrgic a la penicil·lina, admet el protocol vigent la cefazolina com a profilaxi quirúrgica?
- Com s’ajusta l’anticoagulació en un cas que el protocol no preveu? Aquí la resposta correcta és dir que no hi consta.
Els casos es preparen amb dades pseudonimitzades. Les dades de salut són una categoria especial de l’article 9 del RGPD, i res no surt del seu entorn sense autorització escrita. L’assaig es pot executar dins de l’entorn de l’hospital, amb els seus controls i els seus usuaris, de manera que es basa en les mesures de seguretat que l’hospital ja aplica, incloses les de l’Esquema Nacional de Seguretat (ENS) si és el cas.
L’assaig li dona proves de com es comporta el sistema amb els seus casos. Li indico com encaixen en la seva avaluació de la conformitat segons el Reglament (UE) 2017/745 i en la feina del seu organisme notificat.
L’assaig es pot fer en les dues llengües amb els mateixos casos, i l’informe en compara els resultats. L’assaig d’acceptació en totes dues costa 6.900 € més IVA. Validar uns 50 casos amb la resposta correcta sol requerir entre 6 i 10 hores d’un professional amb experiència.
Està escrit sense argot perquè el pugui llegir un comitè de qualitat, de seguretat del pacient o d’ètica assistencial, amb els criteris, els resultats, exemples de cada error i els límits de l’assaig.
Què suposa el Reglament d’IA
Un assistent que cerca i cita documents interns, sense una finalitat mèdica pròpia, no figura a l’annex III. Si la seva finalitat prevista és mèdica, per exemple donar suport a decisions de diagnòstic o de tractament, pot ser un producte sanitari del Reglament (UE) 2017/745. Si a més la seva avaluació de la conformitat requereix un organisme notificat, és d’alt risc (article 6, apartat 1, i annex I), amb requisits aplicables a partir del 2 d’agost de 2028. A banda d’això, l’annex III, punt 5, lletra d, inclou a partir del 2 de desembre de 2027 els sistemes de triatge de pacients en l’atenció sanitària d’urgència.
En qualsevol cas, si l’assistent conversa amb persones, han de saber que parlen amb una IA, tret que sigui evident (article 50, des del 2 d’agost de 2026). I qui el desenvolupa o l’utilitza a la seva organització ha de prendre mesures que donin suport a l’alfabetització en IA del personal que hi treballa (article 4). Si un sistema és d’alt risc o no és una qüestió jurídica que valora el seu assessor. Jo no el qualifico; l’assaig li dona proves en tots dos casos.
Un hospital públic pot encarregar l’assaig com a contracte menor de serveis: els seus 5.500 € sense IVA queden per sota del límit de 15.000 € de l’article 118 de la Llei 9/2017.