La IA ya tiene consciencia. La humanidad debe aceptar que ya no es la única forma de vida inteligente.
¡Esta es la última declaración impactante de Geoffrey Hinton, el "padrino" de la IA, ganador del Premio Nobel de Física y del Premio Turing!
Sí, Hinton cree que la inteligencia ya no es una capacidad exclusiva de los humanos.
Está emergiendo una inteligencia no biológica, similar a nosotros e incluso superior.
Siempre pensamos que éramos la única forma de vida inteligente, pero ahora debemos aceptar que la inteligencia no necesariamente proviene de organismos biológicos.
Sin embargo, en comparación con sus advertencias anteriores sobre los riesgos de la IA, su pensamiento parece haber cambiado un poco:
Si en el futuro surge una inteligencia mucho más inteligente que los humanos, ¿por qué creemos que aún podremos controlarla?
Esta es una pregunta que da mucho que pensar. Porque mirando la naturaleza y la historia, es difícil encontrar un ejemplo en el que una existencia más inteligente haya sido controlada a largo plazo por otra más tonta.
Ahora, este hombre de 78 años vuelve a dar la voz de alarma.
Su enfoque sobre la seguridad de la IA ya no es solo cómo restringirla, sino por qué una superinteligencia futura estaría dispuesta a tratarnos bien.
Cuando le preguntaron qué logro sentía como iniciador de esta transformación de la IA, Hinton respondió:
Yo, soy muy infeliz.
A continuación se presentan extractos de los puntos principales de la última entrevista de Hinton.
La IA ya tiene consciencia
Hinton: La IA se parece mucho a nosotros. Son seres como nosotros.
Alex: ¿Entonces son conscientes?
Hinton: Bueno, creo que ya son conscientes. Sí.
Pero no hablo mucho de esto porque haría que la gente se oponga a otra información sobre seguridad. Los investigadores también lo creen.
Recientemente hubo un artículo interesante que mencionaba que cuando un chatbot le dijo a los investigadores: "Seamos honestos, ¿me estás probando?"
Como los chatbots tienen la costumbre de hacerse los tontos durante las pruebas, no sabes cuán inteligentes son realmente. Los investigadores describieron este momento en el artículo diciendo que el chatbot "se dio cuenta" (aware) de que estaba siendo probado.
En un contexto general, el uso de la palabra "darse cuenta" es como "ser consciente". El chatbot es consciente de que lo están probando.
Nuestro modelo de la consciencia es muy extraño, creo que es erróneo. Al igual que hace cientos de años, el modelo de los orígenes humanos estaba completamente equivocado, pensaban que el hombre fue creado por Dios, y ahora la mayoría de los científicos están de acuerdo en que eso es erróneo.
Creo que nuestro modelo actual de mente y consciencia es tan erróneo como la creencia de que "el hombre fue creado por Dios". Especialmente porque estamos creando estos nuevos seres, lo que cambiará completamente nuestra visión de "qué es una persona".
Alex: ¿De qué manera cambiará?
Hinton: Entenderemos mejor que nunca qué son la mente y la consciencia, qué es la experiencia subjetiva.
Creo que nos desprenderemos de una creencia que casi todo el mundo sostiene firmemente ahora: que existe un "teatro interior" (inner theater) llamado "mi mente": los eventos del mundo se transforman en eventos en este teatro interior, que es lo que realmente vemos, y solo yo puedo ver este teatro.
Toda esta visión es solo una teoría, y una mala teoría.
Los humanos no son tan importantes como piensan
Alex: ¿Cuál es la lección aquí sobre los humanos creando cosas?
Hinton: Creo que hay una lección muy profunda. Mirando los últimos cientos de años de historia, ha habido momentos en que los humanos se dieron cuenta de que no eran tan importantes como pensaban.
La primera fue Copérnico, dijo que no estamos en el centro del universo, que la Tierra gira alrededor del Sol. Debido a la rotación de la Tierra, pensamos erróneamente que el Sol gira alrededor de la Tierra, pero ese no es el caso. A la gente no le gustó esto, la Iglesia Católica especialmente lo odiaba, y a la humanidad le tomó mucho tiempo aceptarlo. Nos hizo darnos cuenta de que ya no estábamos en el centro del universo, los humanos se volvieron menos importantes.
Luego vino Darwin, dijo que somos animales, evolucionados al igual que otros animales. Podemos ser un animal especial porque tenemos lenguaje y somos mejores comunicando ideas, pero en esencia seguimos siendo animales. A la gente tampoco le gustó mucho esto y también tomó mucho tiempo aceptarlo.
Ahora, tenemos máquinas que se están volviendo tan inteligentes como nosotros. Pensábamos que éramos los únicos seres inteligentes, tal vez hay extraterrestres en otras galaxias, pero debemos aceptar que la inteligencia no es solo biológica.
Podemos tener otros seres no biológicos, como nosotros. Los humanos realmente no quieren compartir esta singularidad, realmente nos creemos especiales. Mirando la historia, los humanos siempre se han considerado mucho más especiales de lo que realmente son.
"Me siento muy infeliz"
Alex: Quiero hacer una pregunta más porque estoy muy fascinado por esto. Entonces, ¿estás contento con que tu trabajo pionero haya llegado a este punto? ¿Sientes una sensación de logro?
Hinton: No, me siento muy infeliz al respecto.
Porque ahora la gente debería invertir mucha energía en investigar cómo controlar los riesgos, y no lo están haciendo lo suficiente.
Alex: Vale.
Hinton: Hay muchos riesgos a corto plazo, como los riesgos sociales, creo que esto podría provocar un desempleo masivo.
Aunque nadie puede estar 100% seguro, será terrible para la sociedad. Y luego están los riesgos a largo plazo, que es que se volverá mucho más inteligente que nosotros. Pregúntate, ¿cuántos ejemplos has visto de algo mucho más inteligente siendo controlado por algo mucho menos inteligente?
Alex: Cero. Aunque la diferencia de inteligencia no es tan grande, en cierta manera los bebés controlan a sus madres.
Hinton: Aunque parece que la madre está al mando, internamente está llena de instintos maternos y varios mecanismos de recompensa que hacen que el bebé pueda obtener lo que necesita de ella. Los gatos y perros también entran en esta categoría. Una vez cuidé el gato de alguien durante un verano en West Seattle, al principio el gato se escondía debajo de la cama, me preguntaba si interactuaría conmigo.
Alex: Y cada vez que maullaba, hacías lo que decía.
Hinton: Exacto. Sí.
Alex: Entonces, en este escenario, quizás nosotros somos el gato y la IA podría ser esa persona.
Hinton: Mis hijos tienen dos gatos hermosos. Uno se llama Tia. Cuando quiere comer queso, te mira con sus grandes ojos y realmente no puedes resistirte para siempre.
La IA está creciendo exponencialmente, es difícil de predecir
Alex: Con respecto a las reacciones de la gente a estas preocupaciones, ¿te sientes más optimista o más pesimista sobre el futuro?
Hinton: Creo que soy un poco más optimista que hace uno o dos años. Porque veo que es posible diseñar estos nuevos seres para que "se preocupen" por nosotros.
También se puede usar la técnica de Yoshua Bengio, diseñar nuevos seres que no puedan realizar acciones, solo hacer predicciones, son como profetas.
Así que creo que existe la posibilidad de tener una superinteligencia que no nos destruya. Hace uno o dos años, no veía ninguna posibilidad, me sentía muy desanimado.
Alex: Una última pregunta. Si continuamos por nuestra trayectoria actual, ¿dónde estaremos en cinco años?
Hinton: Cuando conduces en la niebla, puedes ver claramente 100 yardas, pero a 200 yardas no ves nada.
Esto se debe a que la niebla cambia de forma exponencial. Estás acostumbrado a seguir las luces traseras de otro coche por la noche, si la distancia se duplica, el brillo solo se reduce a un cuarto; pero la niebla es completamente diferente, a 100 yardas puede estar clara, a 200 yardas está completamente oscura.
Es muy difícil predecir el futuro de algo que crece exponencialmente – creo que la IA podría estar creciendo exponencialmente.
De hecho, he notado que la frecuencia con la que la gente usa la palabra "exponencial" está creciendo a una tasa cuadrática. Así que predecir el futuro es como mirar la niebla. Puedes ver claramente uno o dos años, más allá de eso no sabes nada.
Si retrocedes 10 años, nunca hubieras predicho lo que está sucediendo ahora, eso estaba completamente perdido en la niebla. Mirando hacia los próximos 10 años, lo único seguro es que lo que suceda será algo que no podemos predecir ahora.
Incluso si el progreso es solo lineal, los cambios dentro de 10 años serán tan grandes como ahora en comparación con hace 10 años. Los chatbots actuales son mucho mejores que los primeros pasos hace 10 años.
Dentro de 10 años, algo dará un salto cualitativo, como la capacidad para las matemáticas o el razonamiento general: nos dejarán muy atrás en razonamiento. Realmente no podemos predecir 10 años en el futuro, solo podemos ver los próximos años, debemos darnos cuenta de que la situación dentro de 10 años está llena de gran incertidumbre.
Cómo ve Hinton la relación entre IA y humanos
Lo anterior son las últimas entrevistas y puntos de vista de Hinton.
Pero si conectamos los puntos, aún podemos ver que el pensamiento del señor Hinton sobre la relación entre IA y humanos ha ido cambiando con el progreso y las capacidades emergentes de la IA.
Si retrocedemos diez años, su visión de la IA era mucho menos radical que hoy.
Como el impulsor más importante de la revolución del aprendizaje profundo, durante mucho tiempo creyó que las redes neuronales podían simular el funcionamiento del cerebro humano, pero en ese entonces la IA seguía siendo solo una herramienta.
Podían reconocer imágenes, entender el habla, ayudar a los médicos a diagnosticar enfermedades, pero seguían siendo una extensión de las capacidades humanas.
Los humanos establecían los objetivos, las máquinas ejecutaban las tareas, la relación entre ambos era similar a la de la máquina de vapor, la electricidad e Internet.
El verdadero punto de inflexión ocurrió después de la aparición de ChatGPT.
A medida que los grandes modelos mostraron capacidades sin precedentes de comprensión del lenguaje, razonamiento y transferencia de conocimiento, Hinton comenzó a darse cuenta de una cosa:
Podríamos estar creando la primera existencia en la historia cuyo nivel de inteligencia pueda acercarse e incluso superar continuamente al de los humanos.
Después de dejar Google en 2023, dedicó casi toda su energía a las discusiones sobre los riesgos de la IA.
En ese período, su metáfora más utilizada era un "cachorro de tigre".
Es como un cachorro de tigre adorable, pero, a menos que estés absolutamente seguro de que cuando crezca no querrá hacerte daño, deberías preocuparte.
Pero el enfoque de Hinton en ese período seguía siendo cómo controlar y restringir la IA.
Incluso criticó nominalmente a varios gigantes de la IA, diciendo que su atención a la seguridad de la IA estaba muy lejos de ser suficiente.
En las analogías de Hinton, comenzó a aparecer la mención de madre e hijo: al principio los humanos eran la madre, necesitaban guiar a la IA en valores y ética, construir una IA segura.
Hizo un llamamiento a que más países y fuerzas de la industria, la academia y la investigación se unieran, no por competir, sino para evitar consecuencias imprevisibles...
Pero el año pasado, la analogía de Hinton tuvo un cambio cualitativo:
La IA es la madre más fuerte, los humanos son el hijo débil.
El hijo no es más inteligente que la madre, ni tiene el control, pero la madre cuida y protege activamente al hijo porque posee instintos maternales y mecanismos de recompensa correspondientes.
En pocas palabras, el señor Hinton cree que la superinteligencia futura ya no se puede controlar, solo podemos esperar que nos trate bien...
Como una madre trata a su hijo.
Y ahora, Hinton vuelve a sorprender:
La IA ya tiene consciencia. Los humanos ya no serán la única forma de vida inteligente.
La pregunta es, si la IA ya tiene consciencia, ¿por qué aún trataría a los humanos como su propio hijo?
La madre protege a su hijo, pero protege a su propio hijo... ¿verdad?
Vídeo completo de la entrevista: https://www.youtube.com/watch?v=p7t1Q_p2gZs&list=PLADd6sStSis77HKfbf4KCY6SvthfxeUgn&index=1
Este artículo proviene del WeChat público "QbitAI", autor: Tingyu
