Geoffrey Hinton, el padrino de la IA, expresó recientemente su preocupación por el rápido progreso de la inteligencia artificial (IA) y sus amenazas potenciales, en Amanpour and Company.

En una convincente entrevista con Christiane Amanpour y Harry Sreenivasan, Hinton habló sobre sus preocupaciones sobre el futuro de la IA y la necesidad de gestionar sus peligros potenciales.

Geoffrey Hinton cree que la IA podría ser una amenaza más urgente que el cambio climático. Esta audaz afirmación desafía nuestras nociones existentes sobre las preocupaciones globales y nos insta a reevaluar el impacto potencial de la IA en nuestra sociedad. 

Este artículo profundiza en las razones detrás de esta afirmación, explorando la necesidad urgente de comprender y gestionar los riesgos asociados con la IA.

A medida que lidiamos con los desafíos del cambio climático, la idea de que la IA podría eclipsar esta crisis ambiental puede parecer desconcertante. Sin embargo, el entrevistado Geoffrey Hinton arroja luz sobre las características únicas de la IA que contribuyen a su alarmante potencial. 

A diferencia del cambio climático, que se desarrolla gradualmente con el tiempo, la llegada de tecnologías avanzadas de IA podría provocar interrupciones rápidas e imprevistas en varios sectores, lo que afectaría nuestras economías, sistemas sociales y vidas individuales.

El crecimiento exponencial de las capacidades de la IA ha asombrado a investigadores y expertos de todo el mundo. La velocidad a la que avanzan los sistemas de IA plantea una preocupación importante. 

A diferencia del cambio climático, donde los científicos pueden hacer predicciones basadas en tendencias a largo plazo y datos históricos, la trayectoria de la IA es más impredecible. 

La posibilidad de un avance imprevisto o una aceleración sin control en el desarrollo de la IA podría tener consecuencias no deseadas que superan nuestra comprensión actual.

Una de las principales preocupaciones planteadas por el invitado es la dimensión ética de la IA. Si bien el cambio climático involucra principalmente consideraciones ambientales y ecológicas, la IA tiene implicaciones de gran alcance para los derechos humanos, la privacidad y la justicia social. 

A medida que la IA se integra más en nuestras vidas, el potencial de mal uso, sesgo y pérdida del control humano se vuelve cada vez más preocupante. El entrevistado enfatiza la urgencia de desarrollar marcos sólidos y pautas éticas para guiar el desarrollo y la implementación de tecnologías de IA.

El potencial transformador de la IA se extiende más allá de las consideraciones éticas, ya que puede remodelar el mercado laboral e interrumpir las economías en todo el mundo. 

Las tecnologías impulsadas por la automatización y la IA tienen la capacidad de desplazar a una parte significativa de la fuerza laboral, lo que podría generar desempleo generalizado e inestabilidad económica. 

A diferencia del cambio climático, que afecta a los ecosistemas y los recursos naturales, el impacto de la IA podría sentirse más inmediatamente a nivel social, lo que requeriría medidas proactivas para mitigar sus efectos adversos.

Hinton dejó Google para crear conciencia sobre los riesgos asociados con la IA y profundizar en su comprensión y gestión.

El trayecto de Hinton en IA ha abarcado más de 40 años. Inicialmente, creía que construir modelos informáticos basados en cómo aprende el cerebro mejoraría el aprendizaje automático. 

Sin embargo, recientemente se dio cuenta de que las inteligencias digitales que se estaban desarrollando estaban aprendiendo mejor que el propio cerebro. Esta realización marcó un importante punto de inflexión en su pensamiento.

Varios factores contribuyeron al cambio de perspectiva de Hinton. Quedó impresionado por un chatbot de Google llamado PALM, que podría explicar por qué las bromas eran divertidas. Además, observó que los modelos de IA como Chat GPT poseían una gran cantidad de conocimiento de sentido común, superando con creces las capacidades humanas. 

Estos modelos lograron esto con significativamente menos fuerza de conexión que el cerebro humano, lo que indica un procesamiento de información más eficiente. 

Además, Hinton descubrió que las inteligencias digitales podían aprender y comunicarse mucho más rápido que el cerebro debido a su capacidad para intercambiar información entre diferentes instancias del modelo.

Al explicar las capacidades de los modelos de IA como Chat GPT de OpenAI y BART de Google, Hinton enfatizó que van más allá de las simples funciones de autocompletar. 

Estos modelos han aprendido a comprender el lenguaje y poseen conocimiento intuitivo, lo que difiere mucho del enfoque de representación simbólica tradicional en IA. 

En lugar de basarse en el razonamiento secuencial, estos modelos desarrollan grandes patrones de actividad neuronal para representar conceptos, lo que les permite establecer conexiones intuitivas y comprender relaciones complejas.

Hinton reconoció que las discusiones sobre la sensibilidad de la IA podrían complicar las cosas. Si bien muchos afirman que la IA no es sensible, la definición exacta de sensibilidad sigue sin estar clara. 

Sin embargo, él cree firmemente que los sistemas de IA piensan de manera similar a los humanos. Por ejemplo, si un chatbot asume que Hinton es una adolescente según su historial de conversación, lo considera una forma de pensar.

Además de la amenaza existencial que plantea la IA superinteligente que asume el control humano, Hinton reconoce otras preocupaciones. Estos incluyen el desplazamiento laboral, la proliferación de noticias falsas y la erosión de la verdad. 

Sugiere que los gobiernos deberían implementar regulaciones estrictas, similares a las leyes de falsificación, para combatir videos, voces e imágenes falsos. La colaboración entre países y empresas tecnológicas es crucial para abordar estos desafíos.

Cuando se le preguntó acerca de dejar Google, Hinton aclaró que partió para tener la libertad de expresar sus puntos de vista sin considerar las implicaciones para la empresa. 

Elogió el comportamiento responsable de Google en el desarrollo de IA y enfatizó que su partida no significó ninguna irregularidad por parte de la empresa.

En cuanto al establecimiento de normas y reglamentos, Hinton cree que las empresas de tecnología, especialmente las que se encuentran a la vanguardia de la investigación en IA, desempeñarán un papel crucial. 

Si bien los gobiernos deberían involucrarse en ciertos aspectos, los investigadores que desarrollan sistemas de IA tienen la mejor comprensión de cómo mantener el control sobre ellos. 

Hinton apoya el desarrollo continuo de la IA, pero enfatiza la necesidad de invertir recursos para comprender y mitigar los riesgos potenciales.

Hinton no firmó la carta abierta que pedía una pausa de seis meses en el desarrollo de IA porque lo consideraba poco realista. 

Reconoce el tremendo potencial de la IA en varios campos, como la medicina, y cree que centrarse en comprender y abordar los riesgos durante el desarrollo es más productivo que detener el progreso por completo.

En conclusión, la entrevista de Geoffrey Hinton arroja luz sobre su perspectiva en evolución sobre la IA y sus amenazas potenciales. 

Destaca la necesidad de colaboración entre los gobiernos y las empresas tecnológicas para abordar los desafíos relacionados con la IA, como el desplazamiento laboral y la difusión de información falsa. 

Si bien reconoce los beneficios de la IA, Hinton enfatiza la importancia de invertir en investigación y comprensión para evitar las consecuencias adversas asociadas con la IA superinteligente.