Pero no es ciencia ficción, dice ahora Hinton. “Va a suceder. Ya tienen mucho más conocimiento que nosotros. Ya son muy buenos razonando en dominios limitados como las matemáticas. Casi todos los expertos creen que es inevitable que… se vuelvan más inteligentes que nosotros”.
Por ejemplo, las máquinas de IA ya han aprendido a desarrollar “objetivos secundarios”, es decir, cosas que deben hacer para alcanzar los objetivos que los humanos les han fijado. Una de ellas es seguir existiendo. “Hemos visto IA que quieren seguir existiendo y, de hecho, intentarán engañar a las personas que intentan apagarlas”.
Las IA también buscarán más control, como un humano. “Mi opinión sobre muchos políticos es que empiezan queriendo lograr cosas buenas para la gente”, dice Hinton, “muy pronto se dan cuenta de que para lograrlo necesitan más control, y luego terminan concentrándose en obtener más y más control. Las IA harán lo mismo”.
Aunque llegó a Canadá en la década de 1980, Hinton habla con un acento británico tranquilo y calmado que amortigua el golpe de las cosas alarmantes que te cuenta. También tiene talento para expresar cuestiones complicadas en términos simples, como lo poco que sabemos sobre en qué se convertirá la IA.
“Es un poco como cuando conduces en medio de la niebla”, dice. “Se puede ver claramente a 100 yardas, y a 200 yardas no se puede ver nada. Bueno, podemos ver claramente durante uno o dos años, pero dentro de 10 años, no tenemos idea de lo que va a pasar”.
Cargando
Una cosa que se prevé ampliamente que sucederá es la pérdida de empleos. El día después de que escuché hablar a Hinton, el hombre más rico del mundo, Elon Musk, habló en el Foro de Inversiones entre Estados Unidos y Arabia Saudita en Washington y predijo con optimismo que dentro de 10 a 20 años –lo que llamó “a largo plazo”– trabajar sería opcional.
“Será como practicar deportes o un videojuego”, dijo Musk. Lo haces porque quieres. El dinero, afirmó, “dejará de ser relevante en algún momento en el futuro”.
Hinton también cree que es probable que la IA conduzca a un desempleo masivo. Dice que se están gastando billones de dólares en el desarrollo de esta tecnología, y una de las principales formas en que las grandes empresas tecnológicas podrían recuperar esa inversión es vendiendo IA a empresas que harán el trabajo de los empleados por menos. “Estos tipos realmente están apostando a que la IA reemplace a muchos trabajadores”, dice.
Me gusta que Hinton no sea un agorero. No está en una gira de disculpas, arrepintiéndose por haber desatado al monstruo de Frankenstein. Explica hábilmente los numerosos usos positivos de la IA: cómo mejorará enormemente la atención sanitaria y la educación, revolucionará la ciencia de la predicción y transformará la productividad. En eso se diferencia de las armas nucleares, que “sólo sirven para destruir cosas”, afirma.
Cargando
En Georgetown, un estudiante entusiasta le preguntó por qué no deberíamos simplemente invertir todo nuestro dinero y energía en desarrollar IA que pudieran resolver nuestros problemas y eximirnos de la necesidad de trabajar. Hinton dijo que eso era exactamente lo que deberíamos hacer: si se podía confiar en que nuestros sistemas políticos lo utilizarían en beneficio de las masas.
Fue entonces cuando intervino el interlocutor de Hinton, el senador socialdemócrata Bernie Sanders.
“¿Crees que eso es lo que el señor Musk y el señor (Jeff) Bezos tienen en mente?” -le preguntó al joven interrogador. “¿Crees que es por eso que están gastando cientos de miles de millones de dólares, para decir: no es genial, podríamos reducir la semana laboral, podemos garantizar atención médica de alta calidad para todos, podemos ampliar la esperanza de vida, podemos resolver el calentamiento global… ¿Crees que eso es lo que estos tipos tienen en mente?”
El joven respondió secamente: “Probablemente no”.
Es un buen recordatorio de esa perogrullada tecnológica: el problema nunca es la herramienta, siempre es el usuario.
Obtenga una nota directamente de nuestro extranjero corresponsales sobre lo que está en los titulares de todo el mundo. Suscríbase a nuestro boletín semanal What in the World.
Related Posts
