¿Es la IA compatible con la ética?

Los autores de ciencia-ficción fueron los primeros en detectar y estirar al máximo los temas éticos que podían surgir con la Inteligencia Artificial. ¿Qué pasará si los robots desarrollan sentimientos, se preguntaron una y otra vez? Sus respuestas imaginadas nos han dado grandes obras de ficción en las que ahora, mientras conversamos algo en broma con un chat IA, no podemos evitar pensar. Hace unos meses, de hecho, un ingeniero de una gran tecnológica llegó a asegurar estar completamente convencido de que un chatbot en el que trabajaba se había convertido en sintiente (la empresa —y casi todo el mundo— lo negó y le concedió una baja con sueldo).

Dejando de lado esa cuestión, a la que parece que de momento no nos estamos enfrentando, la Inteligencia Artificial, en su estado actual, sí presenta algunos dilemas éticos. El más comentado, y el que más se está intentando atajar, es el de los sesgos que una tecnología diseñada por humanos y entrenada para aprender de ellos puede heredar. Si la IA es desarrollada por un grupo poco diverso, su algoritmo será entrenado con ciertos sesgos y lagunas de las que los desarrolladores posiblemente ni sean conscientes.

Uno de los ejemplos más extremos es el de cuando los bots de reconocimiento de imágenes han llenado titulares al identificar la fotografía de una persona negra con un animal, por no haber recibido suficientes imágenes de personas racializadas en su entrenamiento. Pero hay también situaciones que pueden pasar desapercibidas. Cuando, por ejemplo, se usa la IA en la selección de personal, esta puede servir únicamente para perpetuar una situación de desigualdad si selecciona currículos similares a los de los trabajadores actuales y descarta de forma automática los que difieren en algún aspecto.

El tema es tan importante y puede resultar tan decisivo en la vida de millones de personas que en noviembre de 2021 los 193 Estados miembros de la Conferencia General de la UNESCO adoptaron la Recomendación sobre la Ética de la Inteligencia Artificial, el primer acuerdo e instrumento normativo mundial sobre el tema. El objetivo no es cortarle las alas a la IA, sino, conscientes de su grandísimo potencial para mejorar las cosas, pero también para empeorarlas, guiarla por el buen camino.

Además de los sesgos, la IA plantea otros dilemas éticos como qué significa para la privacidad (las apps que consiguen sus datos siguiéndonos, por ejemplo), o para la atribución de responsabilidad (¿quién es responsable si un coche autónomo provoca un accidente?).

Poder confiar en la IA es clave para sacarle el máximo rendimiento. Francisco Javier Antón, data analyst de T-Sysems Iberia, explica que para lograr esta confiabilidad es necesario que la IA cumpla tres requisitos: debe ser lícita, debe ser ética y debe ser robusta. La ética no es solo compatible con la IA, sino que es imprescindible contar con ella en cada paso que se avance en la tecnología. Quizá aún no tengamos que preocuparnos por cómo tratamos a los bots, pero sí debemos seguir teniéndonos a (todos) los seres humanos en cuenta.