El exceso de confianza en la IA provoca pérdida de habilidades, limita la capacidad crítica y acentúa los sesgos discriminatorios, según los expertos

Txetxu Ausín Díez, director del Instituto de Filosofía del CSIC; y la profesora de la Universidad Politécnica de Madrid Celia Fernández-Aller alertan de los riesgos éticos de la IA en el cuarto diálogo del ciclo Lluch-Ivie

El cuarto diálogo del ciclo que organiza la Fundació Ernest Lluch y el Ivie sobre las dimensiones sociales y económicas de la inteligencia artificial se centró ayer en las implicaciones éticas de esta nueva tecnología. Los dos expertos participantes advirtieron de los riesgos de delegar decisiones en sistemas de inteligencia artificial sin suficientes garantías y defendieron la necesidad de reforzar la supervisión, la regulación y la participación social en el uso y la gestión de la IA.

Para el investigador científico y director del Instituto de Filosofía del CSIC, Txetxu Ausín Díez, el primer deber ético de la tecnología es no causar daño, ni por acción ni por omisión. En este sentido, subraya que la inteligencia artificial no es neutral y que corresponde a la sociedad decidir dónde, cuándo y hasta qué punto quiere delegar decisiones en sistemas automatizados. Ausín alertó, en primer lugar, de la pérdida de habilidades que genera la IA, porque descargamos directamente sobre ella tareas que dejamos de controlar. “Estamos incluso delegando la capacidad de formular hipótesis”, afirmó. El segundo elemento sobre el que quiso prevenir es la pereza metacognitiva que provoca la IA, es decir, limita la capacidad para criticar nuestro propio pensamiento. “Con la IA aceptamos todo lo que nos viene y no hacemos ninguna crítica”.

La profesora Celia Fernández-Aller insistió en que este peligro está especialmente acentuado en el ámbito de la educación. El estudiantado está aceptando los resultados que le ofrece la IA con un exceso de confianza por lo que está perdiendo capacidad crítica. En este punto, Fernández-Aller recordó otro de los problemas que agrava la IA: el aumento de los sesgos que introducen los sistemas de IA y que amplifican la discriminación de determinados colectivos. Un aspecto en el que coincidió con Ausín: “Los resultados que muestra la IA son todo menos neutrales y dan lugar a la injusticia logarítmica que dice que hay grupos de colectivos discriminados sistemáticamente por la IA”, destacó.

Un elemento más que ambos ponentes criticaron fue la ausencia de responsabilidad de la IA ante resultados equivocados. “Es un campo que no está definido en el sentido jurídico y que representa enormes riesgos”, afirmó el investigador del CSIC. Por su parte, Celia Fernández-Aller comentó que los usuarios hemos asumido con mucha aceptación que somos los que tenemos la responsabilidad del uso de la IA en lugar de responsabilizar a las empresas que ofrece esos productos.

Los dos expertos también dedicaron parte de su diálogo a comentar los problemas de salud mental que la IA puede provocar o acentuar. “Uno de cada cinco españoles menores de 30 años consulta sus problemas de salud mental o incluso sus relaciones personales con Chatgpt. Se trata de sistemas de adulación, que te dan la razón siempre y esto es muy peligroso en sentido afectivo y puede llevar incluso al suicidio”, explicó Ausín.

Otro asunto sobre el que habría que prestar más atención, según los ponentes, es la cesión de datos que hacemos gratuita e inconscientemente cuando utilizamos la IA. “Estamos constantemente trabajando para estas compañías porque generamos datos que utilizan después. Por ejemplo, el 90% de las universidades españolas tiene todos sus servicios en la nube, lo que significa que todo el conocimiento que generan está disponible para Google”, explicó Txetxu Ausín. Celia compartió otro dato para llamar la atención sobre los peligros de la cesión de datos y afirmó que, según un estudio reciente, más del 80% de las aplicaciones móviles hacen transferencias de datos no consentidas, sin el conocimiento y el consentimiento de las empresas y los propios desarrolladores.

Celia Fernández-Aller también recordó los riesgos medioambientales de la IA, que, en su opinión, deberían controlarse más estrictamente, incluso obligar a la IA a informar de lo que estamos consumiendo cada vez que usamos sus sistemas.

Ante todos estos peligros, los dos participantes en el diálogo de ayer animaron a las personas a reclamar a las Administraciones que tomen cartas en el asunto para promover un modelo de innovación socialmente responsable, alineado con los derechos humanos, que cumpla con criterios éticos y que nos permita confiar en la tecnología.

Para los ponentes es importante salvar el derecho a prescindir de la tecnología, ya que, en algunos ámbitos la decisión no debe tomarla una agente artificial, porque son ámbitos muy sensibles, porque no son explicables, porque pueden afectar a derechos fundamentales o porque pueden tener un coste económico o medioambiental muy grande.

“Tenemos esa fascinación por la IA que nos hace darle funciones en aspectos que no la necesitan. Se nos presenta la IA como la solución a todos los problemas y hay que ser mucho más cautos. La tecnología debe ayudarnos, pero no puede resolverlo todo”, concluyeron.