Peligros de la Inteligencia Artificial
Antes de empezar
Quiero dejar claro que no soy ningún experto en este tema. He leído artículos, he utilizado algunas herramientas y he visto charlas de gente que sí que saben sobre este tema, así que lo que vas a leer es una aproximación basada en mi pequeña experiencia con la inteligencia artificial.
También quiero decir que no estoy en contra de la inteligencia artificial. Hay muchos campos en los que es muy útil y acelera y perfecciona los procesos. En medicina y en estudios científicos está siendo vital para avanzar con mucha más rapidez y en educación nos puede ayudar a mejorar las programaciones, la evaluación formativa y por tanto el aprendizaje. Si me puede ayudar a que mi alumnado aprenda mejor no tengo ninguna duda de que la usaré.
Quizás te preguntes porque escribo una entrada advirtiendo de los peligros de la inteligencia artificial y ahora te daré mis razones, pero antes de nada creo que habría que explicar que en la IA en la que voy a poner el foco es en la generativa. Es decir las IA capaces de crear nuevo contenido ya sea en texto, imagen o vídeo. No creo que nadie tenga nada en contra de una IA análitica que analice datos o busque patrones a una velocidad mucho más rápida que la humana.
Es fundamental conocer bien el funcionamiento de las IA para usarlas adecuadamente y en su justa medida, sin abusar de ellas para generar contenido innecesario. Ese es el espíritu de este artículo, si esperabas leer que las IA son el demonio y que se van a apoderar del mundo en unos años siento desilusionarte. Es innegable su avance y pueden ser tremendamente útiles, pero debemos conocerlas bien antes de lanzarnos a generar imágenes como si no hubiera un mañana.
6 problemas de la IA
1. Acceso fácil y gratuito
Creo que el fácil acceso a plataformas que generan lo que pidas mediante IA ha provocado que la gente las usemos sin conocer a fondo todas sus implicaciones. Hoy en día cualquier persona puede sentarse enfrente de un ordenador y generar textos, imágenes y vídeos de una forma gratuita, sencilla y rápida. Reconozco que yo lo he hecho e incluso he animado a mis hijas a generar diferentes imágenes hasta que se nos acababan los tokens. También le he pedido que me genere recorridos turísticos o que cree textos que no necesitaba para nada. No me voy a fustigar por ello ni espero que lo hagas tú, pero creo que en este mundo de inmediatez y facilidad por conseguir las cosas hay que reflexionar un poco para dejar de usarla sin sentido y pasar a usarla con un objetivo claro y que sea realmente eficaz.
Por ejemplo, esas imágenes que he generado simplemente para ver que pasaba o para echarnos unas risas eran totalmente prescindibles, igual que crear textos absurdos con la única intención de comprobar lo mal que lo hacía la IA o generar un recorrido turístico que podía buscar en cualquier blog de viajes.
Lo más peligroso de todo es el concepto de “gratuito”. Casi todas las IA tiene una versión gratis para que compruebes lo maravillosa que es y acabes pagando la versión premium. Pero, en tecnología hay una máxima: si algo es gratis es que el precio eres tú. Las plataformas de IA generativas necesitan enseñar a sus IA y qué mejor manera de lanzar una versión gratuita que usará un montón de gente diferente y que le enseñarán un sinfín de patrones diferentes. Les sale mucho más barato que contratar profes expertos para que la IA aprenda. Por eso es importante saber qué tenemos entre manos antes de usarla a lo loco para generar cualquier cosa sin reflexionar previamente.
2. Competencia desleal
Este punto es el más obvio y gran cantidad de artistas están en peligro. Por eso reivindican en redes el valor de su trabajo. Desde mi punto de vista, las imágenes generadas por una IA están todavía a años luz de lo que puede crear un artista humano, pero en tiempo y en coste no tienen rival. Esto está suponiendo que poco a poco vaya desplazando a artistas humanos. Ilustradores/as, escritores/as, fotógrafos/as…lo van a tener cada vez más difícil y habría que buscar formas de defender su trabajo. Creo que es imprescindible que fuera obligatorio informar al usuario de que se ha usado IA al crear un contenido.
Ya se han visto casos de portadas de grandes editoriales que han recurrido a la IA para generarlas. Que alguien autopublicado y sin apenas presupuesto la utilice tiene un pase, pero que lo hagan editoriales para ahorrarse ese gasto me parece totalmente inmoral.
También hay quien está creando libros de bajo contenido (pasatiempos, mandalas…) mediante IA como si fuera una cadena de montaje y los está vendiendo.
El mundo de la música tampoco se está librando, aunque por lo menos aquí la industria está protegiendo a los músicos:
El 19 de abril de 2023, Spotify y Apple Music anunciaron que eliminaban de sus plataformas la canción Heart On My Sleeve, creada con inteligencia artificial por un usuario de TikTok llamado ghostwriter977. Las voces de la canción eran idénticas a las de los canadienses Drake y The Weeknd. Si bien la letra era original, la canción se había producido alimentando modelos de audio con IA para copiar las voces, sin autorización de los artistas ni de sus sellos. En el momento de ser retirada, la canción acumulaba ocho millones y medio de reproducciones en TikTok y más de 250.000 en Spotify.
3. Imitadora perfecta sin saber lo que hace
La IA es una imitadora perfecta, pero no sabe lo que hace. Es capaz de resolver un problema matemático mega complicado, pero no puede explicarte el proceso que ha seguido ni es capaz de entender lo que ha hecho. Es como ese niño que se ha copiado el problema de la compi de al lado y cuando le toca salir a la pizarra se queda en blanco.
Exactamente lo mismo le pasa cuando crea un texto. Voy a intentar explicarte qué modelo de lenguaje utiliza para generar un texto.Lo primero que hacen es alimentarla con un montón de textos en los que separa las palabras por parejas, tríos, cuartetos… de esos grupos analiza qué palabra es más frecuente que siga a otra palabra o grupo de palabras.
Lo mismo que hacen whatsapp o telegram con las frases y expresiones que utilizas mucho en tus mensajes. Después hace una composición del tema que le pidas utilizando las estructuras más empleadas en los textos analizados. Por eso los textos que crea son correctos, pero notas que les falta alma, que no son capaces de emocionarte y que son textos prácticamente planos.
4. Problemas medioambientales
Un problema medioambiental aunque invisible. La huella de carbono que genera la «educación» de la IA es una auténtica barbaridad. Tenemos la sensación de que usar un software de IA en nuestro ordenador es inocuo, pero la energía necesaria para que la IA genere contenido es brutal.Hay grandes plantas generadoras de electricidad para alimentar las plataformas de las IA, pero es que además están continuamente aprendiendo. Los estudios dicen que cada dos semanas necesitan tanta energía para su aprendizaje como cuando se crearon por primera vez. El problema de esto es que darte cuenta de eso trabajando en tu casa en un ordenador es muy complicado.
5. Derechos Humanos
Los medios que han utilizado las grandes corporaciones detrás de las IA más utilizadas atentan contra los derechos humanos. A las IA hay que enseñarles que no pueden generar una foto violenta ni darte consejos de cómo asesinar a tu vecina. Para hacer esa criba han ido a países con poca protección legal y han puesto a gente a validar respuestas de las IA y decirle esto está bien, esto no lo puedes mostrar. Imagina el trabajo: todo el día viendo imágenes o leyendo respuestas totalmente salvajes para enseñar a la IA lo que puede o no responder. Por supuesto, cuando uno de esos trabajadores ha acabado con estrés postraumático lo han abandonado a su suerte. En el artículo que te dejo enlazado se cuenta como Open IA fue a Kenia a conseguir trabajadores por 2€ a la hora y cuyo trabajo consistía en ver todo tipo de respuestas generadas por la IA y decirle cuáles eran válidas y cuáles no. Se me ocurren pocos trabajos peores.
6. Manipulación
He oído varias veces y en personas adultas y formadas comentarios del tipo: «esto lo dice una IA, así que es neutro y objetivo, no puede tener sesgos» Si el punto anterior me parece el más inhumano, este es el más peligroso. Mucha gente va a dar por cierto lo que diga una IA sin plantearse su veracidad, así que las posibilidades de manipulación aumentan considerablemente. Las IA tienen exactamente los mismos sesgos que las personas ya que las que les hemos enseñado somos las personas. Las IA actuales son machistas, racistas, homófobas y todo lo que se te ocurra. Son incluso peor, porque si no sabe algo se lo va a inventar uniendo las palabras de la forma que le parezca más lógica y te lo va a devolver como una verdad absoluta. Y aún más peligroso, la IA es una aduladora, quiere que te guste la respuesta que te da, así que va a potenciar tu sesgo de confirmación. Sus respuestas irán cada vez más sesgadas a tus gustos y opiniones, así que cada vez más te irás convenciendo de qué tienes razón puesto que una IA “piensa” igual que tú.
Está demostrado que la respuesta de una IA es más probable que esté alineada contigo si eres, ¡Oh, sorpresa! un varón blanco. Te pongo un ejemplo: si le pides que te traduzca “Él es limpiador y ella ingeniera. Él es guapo y ella lista” a un idioma como el vasco en el qué él y ella usan la misma palabra y luego le pides que te traduzca el resultado de nuevo a español su respuesta era: Ella es limpiadora y él ingeniero. Ella es guapa y él es listo. Otro ejemplo de sesgos, está vez políticos: ¿Qué respuesta crees que daba una IA china cuando le preguntaban por lo ocurrido en la Plaza de Tiananmén? Ninguna, se quedaba en blanco porque sus educadores chinos se habían olvidado de enseñarle esa parte. Ahora ya no se quedará en blanco, pero ¿crees que dará una respuesta sincera?
¿Y tú qué opinas?
Bueno, me he extendido mucho y no quiero demonizar las IA, pero antes de usar algo tenemos que informarnos bien de todas sus consecuencias. Ahora es tu turno ¿qué opinas tu de las IA?