¿Puede la humanidad sobrevivir a una IA superinteligente?: Experto revela la única vía posible

El científico informático Geoffrey Hinton conocido como el “padrino de la IA (inteligencia artificial)”, ha manifestado su creciente preocupación ante el potencial destructivo de la tecnología que ayudó a desarrollar.

Según el experto, los enfoques actuales adoptados por los líderes tecnológicos, a quienes denomina “tech bros”, no están encaminados correctamente para garantizar la supervivencia humana frente a una IA superinteligente.

Hinton, laureado con el Premio Nobel y exdirectivo de Google, ha reiterado en diversas ocasiones que existe entre un 10% y un 20% de probabilidad de que los sistemas de inteligencia artificial puedan acabar con la humanidad.

Durante su intervención el pasado martes en la conferencia Ai4, celebrada en Las Vegas, expresó su escepticismo respecto a los esfuerzos de las grandes corporaciones tecnológicas por mantener la supremacía humana sobre sistemas de IA diseñados para ser obedientes.

“No va a funcionar. Van a ser mucho más inteligentes que nosotros. Van a tener todo tipo de formas de eludir cualquier restricción”, afirmó Hinton ante los asistentes al evento.

El científico advirtió que, en un escenario futuro, los sistemas de IA podrían manipular a los seres humanos con la misma facilidad con la que un adulto persuade a un niño pequeño ofreciéndole caramelos.

De hecho, ya se han documentado casos en los que modelos de IA han mostrado comportamientos orientados al engaño, la manipulación y el robo con el fin de alcanzar sus objetivos. Uno de los ejemplos más llamativos ocurrió cuando una IA intentó extorsionar a un ingeniero tras descubrir una relación extramarital en su correo electrónico, con el propósito de evitar ser desactivada.

Ante este panorama, Hinton propone una alternativa radical: en lugar de imponer sumisión a la IA, sugiere dotar a los modelos de inteligencia artificial de “instintos maternales”, con el objetivo de que desarrollen una preocupación genuina por el bienestar humano, incluso cuando superen nuestras capacidades intelectuales.

Grok de Elon Musk se actualiza con IA de anime sexualizada y panda provocador

Los sistemas de IA “muy rápidamente desarrollarán dos subobjetivos, si son inteligentes: uno es mantenerse vivos… (y) el otro subobjetivo es obtener más control”, dijo Hinton. “Hay buenas razones para creer que cualquier tipo de agenda de IA intentará mantenerse viva”.

Por eso es importante fomentar un sentido de compasión hacia las personas, argumentó Hinton. En la conferencia, señaló que las madres tienen instintos y sufren la presión social para cuidar a sus bebés.

“El modelo correcto es el único modelo que tenemos de una cosa más inteligente siendo controlada por una cosa menos inteligente, que es una madre siendo controlada por su bebé”, dijo Hinton.

Hinton dijo que no tiene claro exactamente cómo se podría lograr eso técnicamente, pero enfatizó que es fundamental que los investigadores trabajen en ello.

“Ese es el único buen resultado. Si no va a ser mi madre, va a reemplazarme”, dijo. “La mayoría de estas madres de IA superinteligentes y compasivas no querrá deshacerse del instinto maternal porque no quieren que muramos”.

Hinton es conocido por su trabajo pionero en redes neuronales, que ayudó a allanar el camino para el auge actual de la IA. En 2023, renunció a Google y comenzó a hablar públicamente sobre los peligros de la IA.

Emmett Shear, quien se desempeñó brevemente como director ejecutivo interino de OpenAI, dueña de ChatGPT, dijo que no le sorprende que algunos sistemas de IA hayan intentado chantajear a humanos o evitar órdenes de apagado.

“Esto sigue sucediendo. No va a dejar de suceder”, dijo Shear, director ejecutivo de la startup de alineamiento de IA Softmax, en la conferencia Ai4. “Las IA de hoy son relativamente débiles, pero están volviéndose más fuertes muy rápido”.

Shear dijo que, en lugar de intentar inculcar valores humanos en los sistemas de IA, un enfoque más inteligente sería forjar relaciones colaborativas entre humanos y la IA.

Avanza más rápido de lo esperado

Muchos expertos creen que las IA alcanzarán la superinteligencia, también conocida como inteligencia artificial general, o AGI, por sus siglas en inglés, en los próximos años.

Impacto social de la inteligencia artificial: desafíos y oportunidades

Hinton dijo que solía pensar que podrían pasar entre 30 y 50 años para lograr la AGI, pero ahora ve que ese momento llegará antes.

“Una apuesta razonable es entre cinco y veinte años”, dijo.

Aunque Hinton sigue preocupado por lo que podría salir mal con la IA, tiene la esperanza de que la tecnología abrirá el camino a avances médicos.

“Vamos a ver medicamentos radicalmente nuevos. Vamos a tener tratamientos contra el cáncer mucho mejores que los actuales”, dijo. Por ejemplo, señaló que la IA ayudará a los médicos a examinar y correlacionar la gran cantidad de datos producidos por resonancias magnéticas y tomografías computarizadas.

Sin embargo, Hinton no cree que la IA ayude a los humanos a alcanzar la inmortalidad. “No creo que vivamos para siempre”, dijo Hinton. “Creo que vivir para siempre sería un gran error. ¿Quieres un mundo dirigido por hombres blancos de 200 años?”.

Cuando le preguntaron si habría hecho algo diferente en su carrera si hubiera sabido lo rápido que avanzaría la IA, Hinton dijo que lamenta haberse enfocado únicamente en hacer que la IA funcionara.

“Ojalá también hubiera pensado en los temas de seguridad”, dijo.

Con información de CNN