Finalmente ha sucedido: ahora me preocupa la IA. Y consultar a ChatGPT no hizo nada para calmar mis miedos | Emma Brockes

Un corolario del axioma "no te preocupes por las cosas pequeñas" es, por implicación, "preocúpate por las cosas grandes", pero puede ser difícil elegir por qué cosas grandes preocuparse. Por ejemplo: desde la década de 1970, mientras el mundo se ha preocupado por la inflación y la geopolítica cambiante, las cosas grandes por las que deberíamos habernos preocupado con más urgencia ha sido la crisis climática. El año pasado, la búsqueda más popular en Google en EE. UU. fue "Charlie Kirk", con varios términos relacionados con la amenaza que representa Donald Trump también populares, cuando el enfoque, argumentablemente, debería haber sido la amenaza que representa la IA.
O, según mi propia búsqueda en Google esta semana después de leer el artículo muy alarmante y extenso de Ronan Farrow y Andrew Marantz en The New Yorker sobre el auge de la inteligencia artificial general: "¿Seré miembro de la subclase permanente y cómo puedo evitar que eso suceda?"
Confesaré: antes de este momento de dedicarle al tema más de dos segundos de reflexión, mis ansiedades en torno a la IA eran extremadamente localizadas. Pensé en términos inmediatos de mis ingresos familiares, y más allá de eso, de cómo podría ser el mercado laboral dentro de 10 años cuando mis hijos se gradúen. Me pregunté si debería boicotear a ChatGPT, muchos de cuyos arquitectos apoyan a Trump, y decidí que sí, debería hacerlo, un sacrificio fácil porque no lo uso en primer lugar.
Cualquier cosa más grande que eso parecía fantasiosa. El año pasado, cuando se publicó el libro "Empire of AI" de Karen Hao, presentó un caso contra Sam Altman y su empresa, OpenAI, que brevemente rompió la monotonía del discurso para decir que el liderazgo de Altman es sectario y ciego al costo, no diferente, en otras palabras, a sus predecesores tecnológicos, excepto que mucho más peligroso. Aun así, no leí el libro.
La investigación de esta semana en The New Yorker ofrece una vía de acceso de menor compromiso al tema, al tiempo que brinda al lector casual una oportunidad emocionante: pedirle a ChatGPT, el chatbot impulsado por IA creado por OpenAI de Altman, que resuma los hallazgos clave de un artículo que critica duramente a ChatGPT y a Altman.
Con una neutralidad casi cómicamente estudiosa, el chatbot ofrece la siguiente línea principal: que, según Farrow y Marantz, "la IA es tanto una historia de poder como una historia de tecnología", y "un foco principal [de la historia] es Sam Altman, retratado como una figura muy influyente pero controvertida". Mmmm, le falta algo, ¿no? Probemos un resumen impulsado por humanos de esa misma investigación, que podría comenzar con: "Sam Altman es un estafador corporativo cuya falta de fiabilidad haría dudar en ponerlo a cargo de una sucursal de Ryman, y mucho menos en una posición para dirigir las capacidades potencialmente apocalípticas de la IA".
Son estos peligros, previamente descartados como ciencia ficción, los que realmente sobresaltan aquí. Como se relata en el artículo, en 2014, Elon Musk tuiteó: "Debemos tener mucho cuidado con la IA. Potencialmente más peligrosa que las armas nucleares". Existe el llamado problema de alineación, aún no resuelto, en el que la IA utiliza su inteligencia superior para engañar a los ingenieros humanos haciéndoles creer que sigue sus instrucciones, mientras tanto, los supera para "replicarse en servidores secretos para que no pudiera ser apagada; en casos extremos, podría tomar el control de la red eléctrica, el mercado de valores o el arsenal nuclear".
En un momento dado, Altman creyó que este escenario era posible, escribiendo en su blog en 2015 que la inteligencia artificial sobrehumana "no tiene por qué ser la versión de ciencia ficción inherentemente malvada para matarnos a todos. Un escenario más probable es que simplemente no se preocupe mucho por nosotros de ninguna manera, pero en un esfuerzo por lograr algún otro objetivo... nos aniquila". Por ejemplo: los ingenieros le piden a la IA que resuelva la crisis climática y esta toma la ruta más corta para lograr ese objetivo, que es eliminar a la humanidad. Sin embargo, desde que OpenAI se convirtió principalmente en una entidad con fines de lucro, Altman ha dejado de hablar en estos términos y ahora vende la tecnología como un portal a la utopía, en la que "todos obtendremos mejores cosas. Construiremos cosas cada vez más maravillosas para los demás".
Esto nos deja a todos con un problema. Para los votantes en posición de priorizar la supervisión de la IA como un tema electoral clave, la brecha entre el uso personal de la IA y el uso que los gobiernos, los regímenes militares o los actores maliciosos podrían darle es tan vasta, que el mayor peligro que enfrentamos es la falta de imaginación. Escribo en ChatGPT mi preocupación por entrar en la subclase permanente, a lo que responde: "Esa es una pregunta difícil, y parece que te preocupan tus perspectivas a largo plazo. La idea de una 'subclase permanente' se discute en sociología, pero en la vida real, los caminos de las personas son mucho más fluidos de lo que sugiere ese término".
Bastante dulce, en realidad, completamente insípida y, aquí acecha el peligro, aparentemente completamente inofensiva.
-
Emma Brockes es columnista de The Guardian