La recerca, que compta amb la participació de la URV, mostra que els models actuals reprodueixen biaixos i proposa solucions per personalitzar tractaments i reduir la discriminació vers aquest col·lectiu en salut

En el camp de la salut, el desenvolupament de la intel·ligència artificial (IA) suposarà grans avenços per personalitzar diagnòstics i tractaments, dels que tothom hauria de poder beneficiar-se. Perquè això passi, però, cal garantir models d’IA sense de biaixos, amb una visió diversa i inclusiva, lliure de qualsevol forma de discriminació.  Per tal d’establir com han de ser aquests models i de quina manera les aplicacions actuals deixen de banda col·lectius minoritaris, un estudi interuniversitari amb la participació de la URV s’ha centrat en el col·lectiu trans. La recerca s’ha desenvolupat en col·laboració amb l’associació PRISMA, que protegeix els drets de les persones LGTBIAQ+ en el camp de la ciència i la innovació.

Les IA mèdiques inclusives podrien aportar diversos beneficis a les persones trans com, per exemple, una major personalització dels tractaments hormonals. Un altre exemple és en el disseny d’aplicacions de veu que tinguin en compte les necessitats de les persones trans. Aquestes eines són àmpliament utilitzades per aquest col·lectiu per acompanyar el procés de canvi de veu. Generalment, aquests models reconeixen el gènere de l’usuari automàticament, fet que pot generar malestar emocional en cas d’una identificació errònia o basada en lògiques binàries que no s’adapten a les seves necessitats.

“Vam veure la necessitat de superar la visió binària i veure les problemàtiques que tenien sectors com les persones trans per tenir una mirada més inclusiva, diversa i equitativa”, expliquen els investigadors. Per això, i gràcies a la participació de l’associació PRISMA, l’equip va incloure a l’estudi una mostra representativa de 18 persones trans, que van participar en tres grups focals diferents en què van poder expressar el seu punt de vista i participar en el disseny de la investigació. Alhora, representants de l’associació van col·laborar en la supervisió dels grups focals per garantir que la metodologia fos ètica i respectuosa. L’anàlisi va centrar-se en dues qüestions: d’una banda, els reptes que cal superar per adequar el disseny de les aplicacions d’IA en salut a les necessitats d’aquest col·lectiu i, de l’altra, potencials solucions.

A través dels grups focals, l’equip investigador va constatar que les IA repliquen, en molts casos, els biaixos de qui les ha creat i poden ampliar la invisibilització de les persones trans. Ho exemplifiquen amb les aplicacions existents per acompanyar el procés de canvi de veu: “Aquests sistemes digitals estan pensats de forma binària; si algú en fa servir un que l’ajudi a canviar la seva veu i l’identifica com a home, quan és una dona trans, això li generarà malestar, […] fet que pot afectar la seva salut mental, autoestima i qualitat de vida”.

Com es poden beneficiar les persones trans del potencial mèdic de la IA?

Els resultats de l’estudi apunten que desenvolupar aplicacions d’IA inclusives que permetin fer tractaments personalitzats i ajustats a les necessitats específiques de cada persona trans seria una solució. Això permetria, per exemple, ajustar les dosis de teràpies hormonals masculinitzants o feminitzants a les característiques fisiològiques de cadascú. A més, les eines d’IA podrien ajudar a detectar i corregir incompatibilitats entre la teràpia hormonal i d’altres fàrmacs.

Les persones trans també van expressar la necessitat de fer un ús adequat de les seves dades personals amb finalitats sanitàries. Per exemple, només amb finalitats mèdiques, els professionals sanitaris haurien de saber si estan atenent una dona trans o una dona cis, perquè, per al tractament de determinades malalties, les dosis podrien diferir en un cas i l’altre. De fet, als grups focals, van advertir que els models binaris de gestió de dades i de nous desenvolupaments tecnològics en l’àmbit mèdic poden conduir a errors en els diagnòstics i tractaments.

Enfortir la confiança de les persones trans cap al sistema sanitari

A més, l’estudi subratlla que cal revertir la desconfiança d’aquest col·lectiu cap a les institucions sanitàries, “degut a la seva històrica discriminació”. Per fer-ho, aconsellen millorar la formació i conscienciació dels professionals cap a les necessitats del col·lectiu trans. Altres accions passen per realitzar més estudis científics sobre aquesta qüestió, molt escassos fins ara, que posin el focus en la gestió de les dades i la IA, amb una visió diversa i inclusiva. Finalment, es recomana promoure xarxes de solidaritat i espais d’intercanvi de coneixement entre persones trans i professionals sanitaris.

Aquesta recerca, pionera a l’Estat, s’ha difós en un article publicat a la revista científica Journal of Medical Internet Research. La investigadora principal de l’estudi és Nataly Buslon Valdez, del grup de recerca Social and Responsible Computing del Departament d’Enginyeria de la UPF. També en són coautors Davide Cirillo, cap de la Unitat Machine Learning for Biomedical Research del BSC i colíder de la línia de recerca sobre biaix de sexe i gènere en la IA de la iniciativa Bioinfo4Women del BSC; Oriol Rios, investigador del Departament de Pedagogia de la URV i membre de PRISMA; i Simón Perera del Rosario, del Departament de Medicina i Ciències de la Vida de la UPF i membre de PRISMA. Aquesta recerca compta amb el suport de representants de TRÀNSIT, el Servei d’Atenció i Promoció de la Salut de les Persones Trans i No Binàries de l’Institut Català de la Salut (ICS).

Referència: Buslón N, Cirillo D, Rios O, Perera del Rosario S. Exploring Gender Bias in AI for Personalized Medicine: Focus Group Study With Trans Community Members. J Med Internet Res 2025;27:e72325. DOI: 10.2196/72325