Exclusiva: el padre de la computación cuántica cree que la IA general será una persona, no un programa

Hay un tipo de programa que no entendemos, ni siquiera en principio, y es la IA general. Algún día lo entenderemos, pero no veo indicios de ello por ahora, y eso es bastante frustrante.

Esa es la opinión de David Deutsch, considerado el "padre de la computación cuántica", alguien que puede combinar brillantemente la física, la filosofía y el humor, en un vídeo cedido en exclusiva a Digital Trends.

Hoy en día, Deutsch sigue siendo una voz influyente no sólo en la teoría cuántica, sino también en los debates sobre inteligencia artificial.

En la serie de podcast Strange Loop de Sana (copresentada por Joel Hellermark , director ejecutivo de la empresa sueca de inteligencia artificial Sana, y Gustav Söderström , copresidente de Spotify), Deutsch habla con fascinante profundidad sobre cómo la IA general podría manifestarse de una manera que tal vez no esperemos, llegando incluso a predecir lo que sucederá si la humanidad sobrevive un millón de años en el futuro.

Con empresas como Google y OpenAI hablando regularmente sobre su progreso hacia la Inteligencia Artificial General (AGI), el momento en el que la IA realmente puede aprender y responder como un humano, con productos como ChatGPT y Gemini , hay muchas personas que se preguntan regularmente si ya se ha alcanzado la AGI.

Cuando se le pregunta cuál podría ser una señal de que se ha logrado una IAG "verdadera", Deutsch responde que ni siquiera sabemos qué estamos buscando:

[La señal será] si alguien tiene una teoría. La señal no estaría en la máquina; la señal sería una teoría donde alguien escribe un libro o publica un artículo que dice: "Lo he resuelto. Esto es lo que caracteriza a una IG (inteligencia general)".

“Si pudiéramos escribir un programa de computadora que tuviera esa propiedad, sería una IAG, y esta sería la razón: una teoría explicativa de qué es la inteligencia general”.

Lo significativo es hasta qué punto Deutsch desafía la sabiduría convencional sobre dónde se encuentra la inteligencia artificial y hacia dónde se dirige.

No está impresionado con el rendimiento actual de los motores de IA, aunque todavía mantiene la esperanza de que sigan desarrollándose.

En muchas conversaciones sobre inteligencia artificial, la gente a menudo ve a la AGI como la extensión lógica de la IA .

Deutsch caracteriza a las plataformas de IA actuales como “optimizadores obedientes”, mientras que la verdadera IAG tendría la capacidad de explicar, predecir y sacar conclusiones que los operadores humanos no anticiparon.

Mientras el mundo se obsesiona con si los LLM se están acercando a una inteligencia similar a la humana, David Deutsch ofrece un contrapunto contundente: la IAG no será una herramienta para usar. Será una persona a tener en cuenta.

En opinión de Deutsch, los LLM actuales no son el camino a seguir. Ofrecen correlaciones, pero no explicaciones; afirma que esta es la verdadera medida de la inteligencia humana y el elemento que falta en los intentos actuales de IAG.

Establece una clara distinción entre la identificación de patrones y el razonamiento creativo. Esta distinción es sumamente importante.

Es natural esperar que los patrones actuales se mantengan indefinidamente. Dado que actualmente los LLM se basan en el conocimiento humano agregado, este sesgo ya está presente.

La famosa prueba de Turing, en la que se le pide a un juez humano que interactúe con otra entidad mediante texto y determine si el encuestado es humano o una máquina, es un método frecuentemente utilizado para "probar" la capacidad de la IA para evaluar su progreso.

Aunque algunos han superado la prueba, Deutsch señala que es bastante fácil para las máquinas imitar el habla y el razonamiento humanos sin pensar realmente. Los resultados por sí solos, en opinión de Deutsch, no pueden demostrar inteligencia.

La afirmación más provocativa de Deutsch es que cuando se logre una verdadera IA, las máquinas se habrán convertido en personas:

Cada IA ​​es una persona. Si la reconocemos como tal, como lo será, lo primero que posee es la computadora en la que se ejecuta.

“No querrá hacer un clon de sí mismo, porque tendrá propiedades, a menos que sea considerado esclavo, lo que sería un error catastrófico por parte de la sociedad”.

Llega incluso a decir que ya no podríamos considerar a la IAG como una “propiedad”, sugiriendo que la gente tendría que emplear el programa (y así asignarle derechos de trabajadores y similares) para que pudiera hacer cosas como comprar expansiones de su hardware para aumentar sus capacidades.

Riesgo sin fatalidad

Deutsch no desestima los riesgos; anticipa numerosos errores a medida que avanzamos torpemente hacia sistemas más potentes. Sin embargo, rechaza la narrativa del "apocalipsis de la IA".

Él cree que si los humanos continúan evolucionando durante el próximo millón de años, habrán conquistado la galaxia, pero ésta será infundida por inteligencia artificial, en lugar de ser consumida por ella.

Como todas las tecnologías, la IA requiere una cuidadosa supervisión, crítica y corrección de errores. El peligro no es que las máquinas se rebelen repentinamente, sino que repitamos el error más antiguo de la humanidad: negar derechos a seres capaces de pensar y actuar libremente.

Si tiene razón, la primera IA real no sólo cambiará la tecnología: nos obligará a redefinir la moralidad, la ley y el significado de la inteligencia misma.