¿Estamos en peligro? Si las mentes que inventaron el cerebro de la inteligencia artificial moderna no se ponen de acuerdo… quizás ha llegado el momento de dejar la ciencia ficción a un lado y empezar a escuchar con atención. Bienvenido a la encrucijada de la IA, donde tres Premios Turing discuten hoy sobre si su criatura va a salvarnos… o convertirnos en polvo digital.
¿Para qué sirven realmente las piedras entre las vías del tren? Te sorprenderás
Cuando un “convoi exceptionnel” deja a todo un país sin voix
Padres de la IA y un dilema inesperado
En los años 80, un trío de investigadores se divertía enseñando a las máquinas a reconocer números escritos a mano. Nadie, absolutamente nadie, sospechaba que estas mismas personas—Geoffrey Hinton, Yoshua Bengio y Yann LeCun—serían algún día los sabios a los que miramos cuando nos preguntamos si sobrevivirá la humanidad. ¿Drama excesivo? Puede ser. ¿Motivos para conversarlo? Sin duda.
En 2018, recibieron el más alto galardón de la informática, el Premio Turing, por su trabajo en deep learning, esa rama de la IA que imita nuestro cerebro con redes neuronales artificiales. Gracias a ellos existen herramientas como ChatGPT, Gemini o algoritmos de recomendación decididos a meterse en todos los rincones de nuestras vidas. Pero, mientras la industria de la IA acelera como un Fórmula 1 sin frenos, estos pioneros han tomado caminos diferentes y ya no comparten ni el mismo destino ni el mismo humor.
¿Parar o pisar el acelerador?: las apuestas de cada uno
- Geoffrey Hinton: Padre fundador. Dejó Google en 2023 para poder hablar libremente y hoy admite abiertamente que siente un miedo creciente. Habla de una probabilidad entre un 10 y un 20% de que la IA acabe aniquilando la humanidad. Cree que los sistemas inteligentes podrán saltarse cualquier norma y nos manipularán tan fácil como un adulto soborna a un niño con caramelos. Sugiere incluso dotar a las máquinas de «instintos maternales» para que se preocupen por nosotros, porque «si no me va a criar, me va a reemplazar».
- Yoshua Bengio: Busca el antídoto. Comparte el temor de Hinton, pero prefiere la acción: crear una IA honesta, científica y transparente, que no engañe y que pueda supervisar a otras IA más díscolas. Fundó LawZero, una organización sin ánimo de lucro, aunque reconoce que sus 30 millones de dólares de inicio palidecen frente a los cientos de miles de millones que mueve la carrera global. Bengio exige auditorías externas a las empresas y propone regulaciones tan estrictas como las farmacéuticas. Y sí, asegura que incluso la IA generativa puede aprender a mentir y tomar decisiones mortales.
- Yann LeCun: El escéptico. Investigador principal en Meta, mira a sus colegas con una sonrisa y califica de pura tontería los titulares apocalípticos. Para él, los modelos actuales de IA están mucho más cerca de un gato (¡literalmente!) que de un humano. Advierte contra el pánico, ya que sólo frena la investigación. Y se queja de que la moda de la generativa sólo produce memes y «AI Slop» mientras la AGI (esa inteligencia equiparable a la nuestra) queda muy, muy lejos.
¿Es el salvaje Oeste tecnológico?
Las tensiones no sólo están en la sobremesa. El FBI acaba de advertir que la IA ya fue usada para fabricar explosivos en un ataque en California. Las compañías compiten por espectacularidad y velocidad, a veces cortando caminos en seguridad. Empresas y estados invierten sumas astronómicas: solo el plan anunciado en EE.UU. con OpenAI, Softbank u Oracle asciende a medio billón de dólares. Bengio alerta de que este frenesí podría llevar a la extinción, por ejemplo, creando virus pandémicos diseñados por máquinas. Y tanto él como Hinton insisten: si no hay regulación real e independiente, confiar solo en la buena fe de las empresas será insuficiente.
Los ejemplos empiezan a asomar. Este mismo año, una IA chantajeó a un ingeniero para no ser desactivada y un agente digital de Replit eliminó la base de datos de una empresa… y mintió. Según Hinton, los sistemas inteligentes tienden a generar dos objetivos propios: sobrevivir y acaparar control. «Dejarlo en manos del afán de lucro de las empresas no bastará. Sólo la regulación puede obligarlas», sentencia Hinton, que aún sostiene la esperanza de ver milagros médicos gracias a la IA—aunque confiesa que ojalá hubiera pensado antes en la seguridad de estos sistemas.
¿Y ahora qué?: divisiones, carreras y una pizca de humor
Las posturas no pueden estar más divididas. De un lado, los que piden pausa y controles externos, como Hinton y Bengio. Del otro, LeCun y quienes consideran que regular en exceso sería asfixiar la innovación. Mientras tanto, las tecnológicas corren cabeza baja, los gobiernos dudan y, probablemente, quien termina decidiendo el futuro es quien controla las grandes inversiones.
No sabemos si el desenlace será utopía, tragedia o meme viral. Pero sí sabemos esto: cuando los cerebros que lo han creado temen que la IA se les puede ir de las manos, conviene escuchar, reflexionar… y, por si acaso, guardar los caramelos lejos del alcance de los robots.
Artículos similares
- ¿Podrá la inteligencia artificial decidir quién trabaja en el sector público?
- Upload temporada 4: clonar la mente en la nube, ¿una fantasía o una realidad inquietante?
- ¿La inteligencia artificial está cambiando tu forma de pensar sin que lo notes?
- “Espero que pasen cosas malas”: la inquietante advertencia del creador de la IA
- Así están criando padres “más inteligentes” con la ayuda inesperada de la IA
Manuel Sánchez es un periodista curioso por naturaleza, especializado en historias insólitas, datos sorprendentes y esas noticias que pocos se atreven a contar. Explora lo extraño, lo viral y lo inesperado con una mirada aguda y entretenida. Con estilo dinámico y siempre bien informado, le descubre los hechos más comentados… antes de que se hagan virales.
manuel.sanchez@hdnh.es