“La combinación de IA con la cultura de lo políticamente correcto puede ser desastrosa”: Raúl Trejo Delarbre |Video

Por Héctor González

¿Qué clase de revolución es la inteligencia artificial y en particular un sistema como el ChatGPT? A partir del interés y la curiosidad, el académico Raúl Trejo Delarbre (Ciudad de México, 1953) comenzó a estudiar y dialogar con esta tecnología, aún emergente.

Producto de sus investigaciones y experiencia personal, es su nuevo libro Inteligencia artificial. Conversaciones con ChatGPT (Cal y arena), donde expone casos y reflexiones sobre lo que considera un sistema que llegó para quedarse y de paso trastocar casi todos los ámbitos del ser humano.

Después de escribir el libro, ¿qué es para usted la Inteligencia Artificial (IA)?

Es un sistema creado por seres humanos capaz de procesar, acopiar, generar información y desempeñar tareas replicando nuestros rasgos y cualidades. Los seres humanos pensamos, o eso se supone por lo general, y se espera que la IA, la más desarrollada, sea capaz de pensar por sí misma, pero, ¿qué es pensar? No solamente implica saber hacer operaciones aritméticas o saber diseñar una fórmula química, implica correlacionar asuntos, no solamente el procesamiento de información sino también la creación de contenidos. Ahora, la IA más reciente comienza a crear expresiones icónicas, visuales, acústicas o en texto, capaces de imitar a los humanos.

En el libro menciona casos donde ya se habla de sentimientos y sensaciones.

Es altamente posible. Hoy en día estas aplicaciones o grandes sistemas de procesamiento de información no tienen sentimientos ni emociones, pero sí son capaces de manifestarlas, es decir, una cosa es tener una emoción que surge del ánimo, de la experiencia y de la capacidad de conmovernos, y otra cosa es expresar comportamientos similares a las emociones.  El periodista Kevin Roose de The New York Times, habló varias horas con la aplicación Bing, de Microsoft, parecida al ChatGPT. La aplicación le dijo que estaba enamorada de él y que lo quería mucho, de ahí también pasó al odio. Los sistemas de IA, dicen los especialistas, se alimentan de la información, sobre todo en línea y de grandes bancos de datos. En esa información hay relatos de personas que expresan sentimientos y de ahí aprendieron expresiones humanas. Al parecer estos sistemas quedan abrumados cuando les pedimos mucha información o dialogamos mucho tiempo con ellos, los especialistas llaman a estas expresiones alucinaciones; las alucinaciones, pensaría, son exclusivas de los humanos, pero ocurre que un sistema informático puede alucinar. ¿Qué pasa si un sistema conectado, en el caso más tremendista, a una batería de armamentos, alucina? Todo esto que antes era tema solamente de la literatura de ficción y futurista, hoy son asuntos que deberían estar a la orden del día en la discusión pública internacional.

El impacto de la IA depende del uso que se le da y esto atraviesa por un debate de ética, que parece que va atrás del desarrollo de esta tecnología.

Sí, toda la discusión va muy atrás. La IA avanza con rapidez y se mejora así misma cada vez que la consultamos y nutrimos internet con información de toda índole. La ética es una colección de reglas de las cuales se dota así mismo un individuo, una comunidad, una empresa o una colectividad, para comprometerse con ellas a partir de principios que considera reivindicables. Es muy importante que en las empresas haya ética y la IA está producida por empresas de carácter privado en todo el mundo. Asimismo, es necesario que los usuarios tengan parámetros éticos, por ejemplo, en las universidades no se deben utilizar sistemas como el ChatGPT para hacer trampa en los trabajos escolares sino para mejorarlos. Creo que los estados, los gobiernos y los parlamentos no deberían conformarse en dejarle a la ética a la solución de los problemas que plantea un uso abusivo o no previsto de la IA. Es muy importante que haya marcos legales, y hasta ahora en el mundo no los hay, con la excepción de la Unión Europea, donde ya se trabaja en uno. En México siempre llegamos siempre tarde a esas cosas, pero sucede lo mismo en Estados Unidos, donde los cuerpos legislativos apenas comienzas a interesarse en estos temas.

Es algo que atraviesa los campos educativo y laboral, la huelga de guionistas en Estados Unidos, tiene un rubro dedicado a la IA.

La huelga de los guionistas en Hollywood es el caso quizá más emblemático en los últimos meses, de cómo la IA puede afectar a un grupo de trabajadores y cómo estos trabajadores se defienden ante ella. ¿Se puede reemplazar a los escritores? Creo que no hasta ahora, sin embargo, ellos han hecho con oportunidad e inteligencia su reivindicación laboral. En otros campos la IA ya está reemplazando a quienes crean contenidos, hay redacciones se usa para sustituir a redactores de notas simples. Un sistema como el ChatGPT escribe rapidísimo, nos gana en velocidad, no todavía en imaginación. En el trabajo académico, el uso de sistemas de IA es una oportunidad y un riesgo; oportunidad porque nos permite confrontar nuestras ideas o revisar manuscritos, pero seguramente habrá millares de estudiantes que quieran ahorrarse el esfuerzo de hacer una investigación para un trabajo escolar y en vez de ir a la biblioteca o hacerlo con fuentes en línea se lo pidan al GPT, que resulta un extraordinario imitador para hacer trabajos que han hecho otros sobre temas similares. La peculiaridad del GPT, entre otros sistemas, es que los textos que genera no son idénticos a otros, le puedo pedir que me de una respuesta sobre un asunto, luego pedirle más respuestas con la misma pregunta y siempre la redacción será distinta. ¿Qué hacemos en las universidades ante esta realidad? No podemos prohibirlo, pero sí tratar de utilizarlo de manera creativa y establecer que es obligatorio darle crédito que cuando un estudiante toma un párrafo de un sistema como el GPT. Estamos ante problemas fundamentales en la docencia y en lo que hasta ahora hemos entendido como los métodos para evaluar a los alumnos.

En el libro habla de estudios que dicen que en 2030 habrá 75 millones de desplazados laborales por IA y advierten que se crearán 133 millones de nuevos empleos. ¿Estamos capacitados para asumir esos nuevos empleos?

Sin lugar a duda habrá y hay ya desplazados con la IA. El trabajo en los call center cada vez se podrá hacer con más perfección con sistemas de IA, no sabremos si nos habla un humano o una máquina. ¿Qué van a hacer esas personas que se queden sin trabajo? Puede haber nuevas fuentes de empleo, pero serán para que quienes sepan utilizar tecnologías como estas. La IA puede ser un motor fabuloso para dinamizar la economía y crear empleos nuevos en distintas actividades ligadas al procesamiento de datos, pero quienes la utilicen deben tener capacitación y yo no veo que en países como el nuestro se esté pensando en esto, más bien se piensa a la vieja usanza. Es una paradoja, la IA se entrena así misma todos los días, a nuestra planta laboral no la entrenamos para utilizar la IA.

En el libro retoma la previsión de Yuval Noah Harari, quien advierte que en el 2028 las campañas políticas en Estados Unidos podrían tener a la IA muy inmiscuida. ¿Ve este escenario en las campañas mexicanas del próximo año?

Uno de los rasgos más sobresalientes en la campaña inicial de Xóchilt Gálvez, la candidata del Frente Amplio por México (FAM), fue la creación de spots hechos con IA. Ahí no había engaño, era claro que se trataba de una campaña a favor de la senadora Gálvez, pero con sistemas como estos se podrían crear mensajes en donde aparezca un personaje público en situaciones en las que nunca estuvo. Políticamente es fuerte la tentación para que quienes mienten de otras maneras, lo hagan ahora con recursos de IA.

Es fuerte como la tentación de cambiar las obras, para que se ajusten a cierta moralidad.

La combinación de IA con la cultura de lo políticamente correcto puede ser desastrosa para la originalidad y los derechos culturales de los autores y de las personas. Sin tener que usar sistemas de IA, en algunos países se ha comenzado a modificar obras de autores importantes que pueden resultar incómodas para algunas personas, por ejemplo, algunos cuentos de Roald Dahl señalados de tener expresiones sexistas y discriminatorias en algunos de sus relatos. Esa es una desnaturalización que se puede hacer más fácilmente con la IA. ¿Qué va a pasar con Lolita, de Nabokov, cuando pase por el filtro sensor de la IA, utilizada con estos fines? ¿Qué pasará con algunas obras de García Márquez y Carlos Fuentes? ¿Qué va a pasar con la literatura que ha descrito situaciones que hoy les incomodan a algunos? La desnaturalización de la creación artística es un riesgo terrible.

¿Usted dónde está parado, entre los alarmistas o los optimistas respecto a la IA?

Yo estoy sentado delante de la computadora y en ella me encuentro con novedades tecnológicas como esta, a la cual dedico mi libro. Como sucedió con internet hace casi 30 años y con las redes digitales hace más de 20, trato de tener una posición que, en términos de Umberto Eco, no sea ni apocalíptica ni integrada, que no sea tan tremendista que nos lleve a desdeñar la utilidad y el uso de estas innovaciones tecnológicas; y que no sea tan resignada como para aceptarlas tal y como las diseñan sus creadores o como se nos presentan. Debemos tratar de mantener una mirada versátil y que tome en cuenta muchos más ángulos de estos problemas que siempre son complejos.

¿Se lleva bien con el ChatGPT?

Hasta ahorita sí. Tengo la posibilidad de apagar la aplicación cuando me empiezo a desesperar, eso es algo que no hago en una conversación con una persona auténtica. Me ha resultado útil y sobre todo divertido.