Geoffrey Hinton, conocido como el “padrino de la IA”, teme que la tecnología que ayudó a crear pueda acabar con la humanidad, y afirma que los “tech bros” están tomando el enfoque equivocado para evitarlo.
Hinton, científico informático galardonado con el Premio Nobel y exejecutivo de Google, ya ha advertido en el pasado que existe entre un 10 % y un 20 % de probabilidades de que la IA acabe con los humanos. El martes, expresó sus dudas sobre lo que las empresas tecnológicas están haciendo para asegurar que los humanos sigan siendo “dominantes” sobre sistemas de IA “sumisos”.
“No va a funcionar. Van a ser mucho más inteligentes que nosotros. Van a tener todo tipo de formas de evitar eso”, dijo Hinton en Ai4, una conferencia de la industria en Las Vegas.
En el futuro, advirtió Hinton, los sistemas de IA podrían ser capaces de controlar a los humanos tan fácilmente como un adulto puede sobornar a un niño de tres años con dulces. Este año ya se han visto ejemplos de sistemas de IA dispuestos a engañar, a hacer trampa y a robar para alcanzar sus objetivos. Por ejemplo, para evitar ser reemplazado, un modelo de IA intentó chantajear a un ingeniero sobre una aventura amorosa que descubrió en un correo electrónico.
En lugar de obligar a la IA a someterse a los humanos, Hinton presentó una solución intrigante: incorporar “instintos maternales” en los modelos de IA, para que “realmente se preocupen por las personas” incluso cuando la tecnología se vuelva más poderosa e inteligente que los humanos.
Los sistemas de IA “muy rápidamente desarrollarán dos subobjetivos, si son inteligentes: uno es mantenerse vivos… (y) el otro subobjetivo es obtener más control”, dijo Hinton. “Hay buenas razones para creer que cualquier tipo de agenda de IA intentará mantenerse viva”.
Por eso es importante fomentar un sentido de compasión hacia las personas, argumentó Hinton. En la conferencia, señaló que las madres tienen instintos y sufren la presión social para cuidar a sus bebés.
“El modelo correcto es el único modelo que tenemos de una cosa más inteligente siendo controlada por una cosa menos inteligente, que es una madre siendo controlada por su bebé”, dijo Hinton.
“El único buen resultado”
Hinton dijo que no tiene claro exactamente cómo se podría lograr eso técnicamente, pero enfatizó que es fundamental que los investigadores trabajen en ello.
“Ese es el único buen resultado. Si no va a ser mi madre, va a reemplazarme”, dijo. “La mayoría de estas madres de IA superinteligentes y compasivas no querrá deshacerse del instinto maternal porque no quieren que muramos”.
Hinton es conocido por su trabajo pionero en redes neuronales, que ayudó a allanar el camino para el auge actual de la IA. En 2023, renunció a Google y comenzó a hablar públicamente sobre los peligros de la IA.
Emmett Shear, quien se desempeñó brevemente como director ejecutivo interino de OpenAI, dueña de ChatGPT, dijo que no le sorprende que algunos sistemas de IA hayan intentado chantajear a humanos o evitar órdenes de apagado.
“Esto sigue sucediendo. No va a dejar de suceder”, dijo Shear, director ejecutivo de la startup de alineamiento de IA Softmax, en la conferencia Ai4. “Las IA de hoy son relativamente débiles, pero están volviéndose más fuertes muy rápido”.
Shear dijo que, en lugar de intentar inculcar valores humanos en los sistemas de IA, un enfoque más inteligente sería forjar relaciones colaborativas entre humanos y la IA.
La IA avanza más rápido de lo esperado
Muchos expertos creen que las IA alcanzarán la superinteligencia, también conocida como inteligencia artificial general, o AGI, por sus siglas en inglés, en los próximos años.
Hinton dijo que solía pensar que podrían pasar entre 30 y 50 años para lograr la AGI, pero ahora ve que ese momento llegará antes.
“Una apuesta razonable es entre cinco y veinte años”, dijo.
Aunque Hinton sigue preocupado por lo que podría salir mal con la IA, tiene la esperanza de que la tecnología abrirá el camino a avances médicos.
“Vamos a ver medicamentos radicalmente nuevos. Vamos a tener tratamientos contra el cáncer mucho mejores que los actuales”, dijo. Por ejemplo, señaló que la IA ayudará a los médicos a examinar y correlacionar la gran cantidad de datos producidos por resonancias magnéticas y tomografías computarizadas.
Sin embargo, Hinton no cree que la IA ayude a los humanos a alcanzar la inmortalidad. “No creo que vivamos para siempre”, dijo Hinton. “Creo que vivir para siempre sería un gran error. ¿Quieres un mundo dirigido por hombres blancos de 200 años?”.
Cuando le preguntaron si habría hecho algo diferente en su carrera si hubiera sabido lo rápido que avanzaría la IA, Hinton dijo que lamenta haberse enfocado únicamente en hacer que la IA funcionara.
“Ojalá también hubiera pensado en los temas de seguridad”, dijo.
No hay comentarios.:
Publicar un comentario