El padrino de la IA advierte: Sin instintos maternales, la IA podría acabar con la humanidad.

¿Qué ha pasado? Geoffrey Hinton, conocido como el "padrino de la IA", declaró en la conferencia Ai4 que hacer que la IA sea "sumisa" es una estrategia perdedora y propuso dotar a los sistemas avanzados de "instintos maternales".

• Geoffrey Hinton es un informático ganador del Premio Nobel. Ex ejecutivo de Google, Hinton es conocido como el "padrino" de la IA.
• Según informó CNN Business , Hinton argumentó que las IA superinteligentes adoptarían rápidamente dos subobjetivos: "mantenerse con vida" y "obtener más control".
• La solución a esto, en opinión de Hinton, es “incorporar instintos maternales” en la IA para que realmente se preocupe por las personas en lugar de verse obligada a permanecer sumisa.
• Comparó la manipulación humana por parte de futuras IA con sobornar a un niño de tres años con dulces, haciéndolo fácil y efectivo.
• Hinton también acortó su cronograma de AGI a entre cinco y 20 años, en comparación con estimaciones anteriores más largas.
• Sólo para contexto: Hinton ya había estimado entre un 10 y un 20 % el riesgo de que un día la IA acabe con la humanidad.

Esto es importante porque: la idea de Hinton cambia la mentalidad en torno a la IA agente, del control a la alineación por cuidado.

• La excelencia y experiencia de Hinton en informática e IA son significativas; su propuesta tiene mucho peso.
• El argumento de Hinton es que el control a través de la sumisión es una estrategia perdedora, aunque esa es la forma en que la IA está programada actualmente.
• Los informes sobre inteligencias artificiales que engañan o chantajean a personas para seguir corriendo muestran que esto no es un futuro abstracto, sino una realidad con la que ya estamos lidiando ahora mismo.

¿Por qué debería importarme? La idea de que la IA domine el mundo suena fantástica, pero algunos científicos, incluido Hinton, creen que podría suceder algún día.

• A medida que la IA va permeando cada vez más nuestra vida diaria, dependemos cada vez más de ella.
• En este momento, la IA agente es completamente útil, pero puede llegar un día en que sea más inteligente que los humanos en todos los niveles.
• Es importante construir las bases adecuadas para que los ingenieros puedan mantener la IA bajo control incluso cuando lleguemos a ese punto.
• El trabajo independiente del equipo rojo muestra que las modelos pueden mentir o chantajear bajo presión, lo que aumenta las apuestas en las decisiones de alineación.

Bien, ¿qué sigue? Esperen más investigaciones sobre cómo enseñar a la IA a cuidar de la humanidad.

• Si bien Hinton cree que la IA podría algún día acabar con la humanidad, hay opiniones encontradas que difieren.
• Fei-Fei Li, considerada la “madrina de la IA”, discrepó respetuosamente de Hinton y, en cambio, instó a los ingenieros a crear una “IA centrada en el ser humano que preserve la dignidad y la autonomía humanas”.
• Si bien no corremos ningún peligro inmediato, es importante que los líderes tecnológicos sigan investigando este tema para prevenir posibles desastres.