La IA es mala. En realidad no. En realidad es una herramienta.
La inteligencia artificial va a reemplazarnos a todos. Perderemos nuestros empleos, nuestros cerebros se derretiran, los robots dominaran el mundo, y Skynet lanzara los misiles un martes por la tarde. Al menos eso es lo que lei en LinkedIn entre dos publicaciones de « lideres de opinion » que usan ChatGPT para escribir sus posts sobre los peligros de ChatGPT. (ironia nivel experto)
Salvo que no. Es mas complicado que eso. Y tambien mas sencillo. Agarraos, que hay curvas.
Disclaimer obligatorio: este post no es ni de izquierdas, ni de derechas, ni de centro, ni de arriba, ni de abajo. De hecho, ha sido verificado por una inteligencia artificial para garantizar la ausencia total de cualquier opinion politica. La IA ha confirmado: cero ideas politicas detectadas. Lo cual, pensandolo bien, es quiza la afirmacion mas politica de todo este post. (bucle infinito)
La IA es mala
Empecemos por la acusacion. Es facil de montar, hay material de sobra.
La IA generativa consume una cantidad de energia obscena. Entrenar un modelo de lenguaje tiene la huella de carbono de un vuelo Paris-Nueva York. Varias veces. Para generar imagenes de gatos con armadura medieval. Bravo, humanidad. (aplausos lentos) ... Dicho esto, la misma IA optimiza redes electricas y reduce el desperdicio energetico en la industria. Pero eso es menos divertido de contar.
La IA alucina. Inventa fuentes, citas, hechos. Te dice con una seguridad absoluta que la capital de Zimbabue es Buenosvientos, y si no lo verificas, lo pondras en tu informe. Tu jefe tampoco lo verificara. Nadie lo verificara. Y Buenosvientos se convertira en la capital de Zimbabue en el proximo modelo, entrenado con tu informe. (circulo virtuoso) ... Ahora bien, los humanos tambien alucinan. Se llama sesgo cognitivo, y no esperamos a la IA para poner burradas en los informes. Al menos a la IA se le puede hacer fact-checking mecanicamente.
La IA reemplaza artistas, traductores, redactores. Los primeros en pagar, como siempre, son los creativos y los precarios. Las mismas empresas que te dicen que « la IA nunca reemplazara al humano » estan despidiendo a sus equipos de contenido. Pero la nota de prensa todavia la escribe un humano. Por ahora. ... Salvo que esa misma IA tambien permite a un chaval de catorce anos componer musica, a un aficionado crear ilustraciones que nunca habria podido realizar, a un pequeno empresario producir contenido sin presupuesto de agencia. La democratizacion de la creacion tambien es esto.
La IA se usa para la vigilancia masiva, la puntuacion social, el reconocimiento facial, la seleccion de CV (con los sesgos racistas y sexistas incluidos). Se usa para generar desinformacion a escala industrial. Se usa para cosas que no nos habriamos atrevido a imaginar hace diez anos. ... Y tambien se usa para detectar canceres en radiografias que el ojo humano habria pasado por alto, para predecir terremotos, para encontrar personas desaparecidas. Misma moneda, otra cara.
Los deepfakes. Hablemos de ellos. Ahora se puede poner la cara de cualquiera en cualquier cosa. Tu cara en un video comprometedor, la voz de tu jefe ordenando una transferencia, un discurso de un presidente que nunca existio. Y esto no es dentro de cinco anos. Es ahora. Tu abuela no notara la diferencia. Tu banquero tampoco. Lo peor es que ya nadie sabra que es real. Un video autentico de un escandalo? « Es un deepfake. » Un deepfake de verdad? « Ya no se puede probar nada. » La IA no solo ha permitido crear falsificaciones. Ha matado la nocion misma de prueba visual. (gracias, progreso) ... Pero la misma tecnologia restaura peliculas antiguas, devuelve la voz a pacientes que la han perdido, y permite a un nieto escuchar a su abuelo contar una historia en un idioma que nunca hablo. Es bonito. Tambien es aterrador. Las dos cosas a la vez.
Las trampas. El estudiante que hace que ChatGPT le redacte su trabajo de fin de grado. El empleado que hace escribir sus informes sin releerlos. El candidato que pasa una entrevista tecnica con un chatbot susurrandole al oido. Nos indignaremos cinco minutos, y luego que? Tenemos los mismos debates desde la calculadora. La diferencia es que la calculadora no fingia ser tu. Cuando un estudiante copia de Wikipedia, al menos tiene que leer el articulo. Cuando le da un prompt a una IA, ni siquiera necesita entender la pregunta. Ya no fabricamos titulados, fabricamos gente que sabe promptear. (eso ira genial en el mercado laboral) ... Y sin embargo, nos adaptamos a la calculadora. Nos adaptamos a Internet. Nos adaptaremos a la IA. O no. Dependera de nosotros, no de la maquina.
La etica. Los datos de entrenamiento son robo apenas disfrazado. Millones de imagenes de artistas aspiradas sin consentimiento. Miles de millones de textos rastreados de la web sin preguntar a nadie. Tu blog, tus fotos, tus articulos, todo eso probablemente ha servido para entrenar un modelo que luego te hara la competencia. Eres a la vez la materia prima y el dano colateral. Y cuando los artistas se quejan, les responden que es « fair use ». (que practico, el fair use, solo funciona en un sentido) ... Por otro lado, esa misma masa de datos hace el conocimiento humano accesible a gente que no tenia acceso a una biblioteca. Un campesino en Burkina Faso puede hacer una pregunta en diula y obtener una respuesta. Es robo de datos y democratizacion del saber. Intentad sostener las dos cosas en la misma mano.
Las redes sociales. Como si no fueran ya bastante toxicas, ahora estan infestadas de contenido generado por IA. Cuentas falsas que comentan, articulos falsos que circulan, perfiles falsos que te ligan, resenas falsas que te orientan. Crees que estas discutiendo con un humano indignado? Es un bot. Crees que lees un testimonio conmovedor? Es generado. Crees que ves una foto de la guerra en curso? Esta fabricada en un salon de Moscu. La mitad de tu feed ya es probablemente sintetico y ni siquiera lo sabes. A estas alturas, el consejo mas sano que se puede dar es apagar la pantalla y salir a tocar hierba. Hierba de verdad. Fuera. Con tierra e insectos. (radical, lo se) ... Pero esa misma IA tambien ayuda a personas aisladas a romper la soledad, a asociaciones a moderar contenido de abuso infantil que ningun humano deberia tener que mirar, y a investigadores a detectar campanas de manipulacion. Incluso en la cloaca, hay gente limpiando.
Ya esta. Caso expuesto. Veredicto: culpable. Bueno... es complicado.
La IA es buena, en realidad
Venga, cambiemos de gorra. Alegato de la defensa.
El aprendizaje. Tengo un hijo aprendiendo a leer. Un chatbot paciente, que nunca se cansa de volver a explicar, que se adapta al ritmo del nino, que no suspira en la decimocuarta pregunta, eso es una herramienta pedagogica formidable. No un sustituto del profesor. Un complemento. El profesor tiene treinta alumnos. La IA tiene uno. Los dos son utiles. ... Salvo que el nino que se acostumbra a un chatbot infinitamente paciente puede dejar de soportar a un profesor humano que tiene limites. Y sobre todo, puede dejar de buscar por si mismo. Para que romperse la cabeza si la respuesta esta a un prompt de distancia? Se llama dependencia intelectual, y es lo contrario del aprendizaje.
La traduccion. La IA permite a cualquiera producir una traduccion decente en segundos. Un sitio web multilingue, un manual de instrucciones, correspondencia internacional, cosas que costaban miles de euros se vuelven accesibles para todos. Eso es progreso. (que si) ... Salvo que esta matando la profesion de traductor. No a los malos, a los buenos. Los que transmitian el sentido, no las palabras. Los que hacian literatura, no conversion. Y cuando hayan desaparecido todos, quien corregira las traducciones de la IA?
La discapacidad. Aqui es donde se hace dificil escupir sobre la IA. Un ciego que puede « ver » una imagen gracias a una descripcion generada. Un sordo que puede seguir una conversacion gracias a una transcripcion en tiempo real. Un dislexico que puede hacer que le reformulen un texto. Un autista que puede practicar interacciones sociales con un chatbot que no juzga. Id a decirle a esta gente que « la IA es mala ». Os miro. ... Pero observad como las empresas tech usan la discapacidad como argumento de marketing para vender sus productos, mientras hacen sus propias interfaces cada vez menos accesibles. La IA ayuda a los discapacitados y sirve de coartada moral a empresas a las que les da igual. Las dos cosas son ciertas.
La facilitacion. Un desarrollador que usa la IA para generar boilerplate, codigo repetitivo, tests unitarios, eso no es hacer trampa. Es como usar un destornillador electrico en vez de uno manual. El resultado es el mismo, simplemente te duele menos la muneca. Y mas te vale verificar que el tornillo esta bien apretado en ambos casos. ... Salvo cuando el desarrollador deja de entender su propio codigo. Salvo cuando acepta ciegamente lo que la IA le propone. Salvo cuando ya no sabe atornillar a mano y el destornillador electrico se averia. Ahi se nota.
La comprension. Resumir un articulo de treinta paginas. Explicar un concepto complejo en terminos simples. Reformular un texto juridico en lenguaje humano. Extraer los puntos clave de una reunion de tres horas. La IA no comprende nada en el sentido filosofico del termino, pero facilita la comprension humana. Y eso es valioso. ... Salvo que « facilitar la comprension » y « dar la ilusion de haber comprendido » son dos cosas muy distintas. Leer un resumen no es comprender. Tener los puntos clave no es dominar el tema. Y confundir las dos cosas es el principio de la incompetencia confiada, la peor de las especies.
Ya esta. Alegato hecho. Veredicto: inocente. Bueno... tambien es complicado.
Vaya, estamos dando vueltas en circulos
Os habeis dado cuenta? Cada argumento « en contra » tiene un « a favor » escondido dentro. Cada argumento « a favor » tiene un « en contra » que lo roe. Menudo avance.
Es casi como si... no fuera ni buena ni mala. Como si fuera una herramienta. Un martillo puede construir una casa o romper un craneo. No prohibimos los martillos. Juzgamos a la gente que rompe craneos. (parece obvio dicho asi)
La IA es igual. Como la imprenta, que nos dio la Biblia y Mein Kampf. Como Internet, que nos dio Wikipedia y 4chan. Como el fuego, que nos dio la cocina y el incendio provocado.
La IA es la nueva tele.
Os acordais de la television? « Va a volver idiotas a los ninos. » « Va a destruir la lectura. » « Va a pudrir el debate publico. » Eso era en los anos 60. Antes, era la radio. Antes de la radio, el cine. Antes del cine, la novela (si, la novela, se pensaba que las mujeres perderian la razon leyendo historias de amor. En serio.). Y cada vez: panico, moralizacion, propuestas de prohibicion, y luego... nos adaptamos. O no. Pero la herramienta sigue ahi.
La television nos dio Cosmos de Sagan y la telerealidad. La IA nos dara cosas formidables y cosas consternantes. Y en ambos casos, la variable de ajuste no es la tecnologia. Sois vosotros.
Usad vuestro espiritu critico
Asi que mi mensaje es sencillo: usad el cerebro.
La IA os da un resultado? Verificadlo. La IA os traduce un texto? Releedlo. La IA os genera codigo? Probadlo, leedlo, entendedlo. La IA os resume un articulo? Leed el articulo de todas formas, al menos por encima. La IA os dice que la Tierra es plana? No la creais. (eso vale tambien para vuestro cunado)
La IA es un asistente, no un oraculo. Un borrador, no un producto acabado. Un punto de partida, no una linea de llegada. Y si tratais a un asistente como un oraculo, el problema no es el asistente. Sois vosotros.
Deberiais verificar todo lo que he escrito? Sobre todo si. Eso es el espiritu critico. Funciona con la IA, con los periodicos, con los politicos, con vuestro cunado y conmigo.
Usadlo. Es gratis y es renovable.