En FUTURA, la sección de Mujerhoy dedicada a mujeres que están redefiniendo el futuro desde su disciplina, Véliz representa la lucidez crítica, la voz que recuerda que el progreso técnico no siempre implica un progreso humano.

"La inteligencia artificial es un retroceso social, por mucho que sea un desarrollo tecnológico", afirma sin titubeos. Y en un mundo fascinado por las posibilidades de ChatGPT, su advertencia suena más necesaria que nunca.

El espejismo de la inteligencia artificial

Desde que ChatGPT irrumpió en escena, la fascinación ha ido de la mano del desconcierto. "En vez de hacer un ensayo clínico, imagínate que una farmacéutica probara sus medicamentos en ciudadanos de a pie, sin informar de los riesgos ni de los beneficios. Nos tratan como a conejillos de indias", explica Véliz.

Su primera reacción al probar el sistema fue más de alarma que de admiración: "Te das cuenta de que es fácil engañarle o hacerle caer en fallos. Comete errores en problemas matemáticos sencillos, pero también tiene una gran habilidad para fabricar información falsa. Y lo más sorprendente es que sus respuestas son perfectamente plausibles".

Ahí, dice, reside uno de los mayores peligros: su capacidad para generar desinformación masiva. “Gracias a herramientas como ChatGPT podemos alcanzar un punto en el que la información falsa sea mayoritaria. Así es muy difícil que una democracia liberal funcione o que unas elecciones sean íntegras. ¿Qué pasará si no somos capaces de saber si los mensajes dirigidos a presionar a un gobernante proceden de ciudadanos o de bots?”.

Cuando los algoritmos escriben la historia

El otro gran desafío, advierte Véliz, está en los sesgos del algoritmo, capaces de perpetuar desigualdades históricas. “No utiliza solo fuentes científicas o precisas, sino también información procedente de foros donde abunda el machismo. Eso convierte el sexismo o el racismo en la verdad”.

Autora del ensayo de referencia Privacidad es poder, Véliz denuncia la paradoja de una sociedad que se cree más libre cuanto más expone sus datos. Por eso no usa plataformas como Google o WhatsApp y prefiere alternativas éticas como DuckDuckGo, ProtonMail o Signal. "Ahora mismo vivimos en una especie de salvaje oeste. Las anteriores generaciones tuvieron que regular sus industrias. El desafío de la nuestra es regular a las grandes tecnológicas y a las empresas que diseñan la inteligencia artificial".

La urgencia de pensar antes de programar

Para Véliz, la tecnología debe estar al servicio del ser humano, y no al revés. "Tenemos que pensar con cuidado qué tipo de vida y qué tipo de sociedad queremos construir. A veces, los seres humanos nos movemos por inercia, aceptamos algunas cosas como si fuéramos sonámbulos".

Y pone un ejemplo revelador: "En 1930, había tantos coches de gasolina como eléctricos en Nueva York. El coche de gasolina se impuso por razones contingentes. Si hubiéramos elegido el eléctrico, ahora tendríamos un panorama mucho más optimista con respecto al cambio climático".

Su comparación no es casual: el modo en que tomamos decisiones tecnológicas —por conveniencia, por moda o por beneficio económico— define el mundo que habitamos.

La educación y la creatividad, en riesgo

La profesora advierte que la introducción de sistemas como ChatGPT en la educación puede tener consecuencias profundas en el pensamiento humano. "Escribir no es solo expresar ideas, es aprender a pensar. Uno piensa mientras escribe. No está claro qué habilidades podemos estar perdiendo si eliminamos algo tan esencial de nuestra educación".

También teme por la creatividad. "Una hipótesis es que la creatividad va en declive. Dependemos mucho de sistemas que realizan análisis estadísticos de estudios que ya existen. Si terminamos adoptando esos clichés, es posible que cada vez seamos menos capaces de pensar de manera original".

Regular, legislar, proteger

Véliz propone una solución clara: no regular tecnologías, sino los derechos que deben protegernos frente a ellas. "La clave no está en regular una tecnología en particular, sino en garantizar los derechos asociados a ella: la libertad de expresión, la igualdad o el derecho a la no discriminación".

Y recuerda que la ética, incluso sin rango de ley, puede tener una fuerza normativa decisiva: "La medicina vuelve a ser un gran ejemplo: los códigos éticos de los hospitales no tienen categoría de ley, pero se cumplen con muchísima seriedad".

¿Pueden las máquinas tener conciencia?

Véliz lo tiene claro: no. "La inteligencia artificial no puede tener conciencia sin tener experiencias corporales. La conciencia forma parte de tener una experiencia real en el mundo, de probar lo que se siente al comer una manzana, al sentir placer o dolor. Lo preocupante es que los sistemas sean tan convincentes que aparenten tenerla".

Esa simulación de humanidad, dice, es lo que genera la confusión. Y también la fascinación.

Pensar éticamente para imaginar el futuro

Lejos de un discurso apocalíptico, Carissa Véliz defiende un optimismo racional. "Hay que ser realistas y pensar en todo lo que puede salir mal, pero debemos mantener el optimismo porque nos jugamos muchísimo. Es nuestro deber dejar este mundo igual a como nos lo encontramos. Si podemos, un poquito mejor".

En su voz resuena una idea central para FUTURA: la tecnología puede cambiarlo todo, pero solo el pensamiento crítico puede guiarnos hacia un futuro verdaderamente humano.