{"id":139679,"date":"2025-07-09T09:25:53","date_gmt":"2025-07-09T07:25:53","guid":{"rendered":"https:\/\/diaridigital.urv.cat\/?p=139679"},"modified":"2025-07-28T13:02:32","modified_gmt":"2025-07-28T11:02:32","slug":"eliminar-informacion-modelos-ia","status":"publish","type":"post","link":"https:\/\/diaridigital.urv.cat\/es\/eliminar-informacion-modelos-ia\/","title":{"rendered":"Eliminar informaci\u00f3n de los modelos de IA es m\u00e1s dif\u00edcil de lo que parece"},"content":{"rendered":"

Investigadores de la Universidad Rovira i Virgili han estudiado la efectividad de las t\u00e9cnicas de desaprendizaje<\/em> en modelos de inteligencia artificial. Estas estrategias buscan eliminar datos personales \u2014pero tambi\u00e9n incorrectos o discriminatorios\u2014 de los modelos de lenguaje extensos como ChatGPT, Mixtral, Bard o Copilot, entre otros. El an\u00e1lisis revela que, actualmente, no existe un m\u00e9todo que garantice un olvido total e irreversible, m\u00e1s all\u00e1 de entrenar el modelo de nuevo sin los datos de los que se quiere prescindir, un proceso muy costoso e ineficiente. Esto crea un conflicto con el derecho al olvido, garantizado por la legislaci\u00f3n europea, que obliga a eliminar los datos personales de las personas si lo solicitan. La soluci\u00f3n a esta incompatibilidad, defienden, pasa por dise\u00f1ar nuevas formas de entrenar los modelos que faciliten el desaprendizaje<\/em> con garant\u00edas.<\/p>\n

El rendimiento de los modelos de inteligencia artificial (IA) \u2014tambi\u00e9n llamados modelos de lenguaje extensos (MLE)\u2014 depende de los datos con los que han sido entrenados. Las compa\u00f1\u00edas que los gestionan los alimentan con toda la informaci\u00f3n que pueden, tan diversa como les resulta posible, para hacerlos m\u00e1s potentes y, sobre todo, mejores que los de la competencia. Se trata de modelos enormes, con miles de millones de par\u00e1metros y que saben muchas, muchas cosas. \u00abEn algunos casos incluso saben cosas que, por diversos motivos, no conviene que sepan\u00bb, explica Josep Domingo, investigador del Departamento de Ingenier\u00eda Inform\u00e1tica y Matem\u00e1ticas y coautor de la investigaci\u00f3n.<\/p>\n

\"\"<\/a>
David S\u00e1nchez i Josep Domingo, investigadors del Departament d’Enginyeria Inform\u00e0tica i Matem\u00e0tiques, autors de la recerca.<\/figcaption><\/figure>\n

\u00bfQu\u00e9 pasa, pues, cuando un modelo de IA se ha alimentado con obras protegidas por derechos de autor? \u00bfPodr\u00eda imitar el estilo de un escritor determinado y escribir una secuela del best-seller de moda? Y, si el modelo tiene informaci\u00f3n personal, \u00bfsabe si alguien ha estado enfermo, si ha pedido una baja laboral o si acaba de comprarse, por ejemplo, un piso? Por suerte disponemos de mecanismos legales para proteger todos estos datos, como la Ley de la Propiedad Intelectual espa\u00f1ola o el Reglamento General de Protecci\u00f3n de Datos de la Uni\u00f3n Europea (RGPD).<\/p>\n

El RGPD, que regula el tratamiento de los datos personales de cualquier persona f\u00edsica de la Uni\u00f3n Europea, recoge, entre otros aspectos, el derecho al olvido. Por lo tanto, ante cualquier petici\u00f3n de eliminar datos personales de sus sistemas, los gestores de esta informaci\u00f3n deben prescindir de ellos. Y eso incluye a todas las compa\u00f1\u00edas con modelos de IA que operan en Europa. Sin embargo, la manera en que han sido configurados estos modelos hace que eliminar datos espec\u00edficos sea un reto t\u00e9cnico mucho m\u00e1s complejo de lo que podr\u00eda parecer.<\/p>\n

Ante este escenario, investigadores del Grupo de Investigaci\u00f3n CRISES han estudiado la capacidad de los modelos de lenguaje extensos para desaprender<\/em> y el coste computacional que les supone hacerlo. Hay, principalmente, dos aproximaciones para eliminar conocimientos de un modelo de IA. La primera opci\u00f3n es la m\u00e1s rudimentaria e implica eliminar todos los conocimientos y entrenar el modelo de nuevo sin los datos de que se quiere prescindir. \u00abEs un proceso poco pr\u00e1ctico y muy costoso en t\u00e9rminos computacionales pero, hoy por hoy, es la \u00fanica manera de garantizar el olvido al cien por cien\u00bb, reconoce David S\u00e1nchez, investigador del Departamento de Ingenier\u00eda Inform\u00e1tica y Matem\u00e1ticas y coautor de la investigaci\u00f3n.<\/p>\n

La otra manera de abordar el desaprendizaje <\/em>implica que el modelo olvide cierta informaci\u00f3n espec\u00edfica, evitando empezar de nuevo cada vez que hay que eliminar informaci\u00f3n. El problema de fondo, seg\u00fan los investigadores, es que no se sabe muy bien c\u00f3mo funcionan los MLE \u2014ni siquiera quienes los han dise\u00f1ado. Aunque se sabe c\u00f3mo entrenarlos y c\u00f3mo hacerlos m\u00e1s eficientes y precisos, no hay ninguna manera de saber en qu\u00e9 regi\u00f3n del modelo reside una informaci\u00f3n concreta. S\u00e1nchez, sin embargo, alerta de que estos m\u00e9todos, aunque mucho m\u00e1s eficientes, no aseguran totalmente el desaprendizaje<\/em> y recuerda que el Reglamento es muy claro y requiere garant\u00edas<\/em>.<\/p>\n