El ‘padrino de la IA’ deja Google para hablar más libremente sobre sus preocupaciones
El pionero de la inteligencia artificial Geoffrey Hinton sorprendió a muchos el lunes cuando reveló que dejó su trabajo en Google, donde trabajó durante la última década en proyectos de IA.
Conocido a menudo como "el padrino de la IA" por su trabajo innovador que sustenta muchos de los sistemas de IA actuales, Hinton, nacido en Gran Bretaña y ahora de 75 años, le dijo al New York Times que le preocupa seriamente la velocidad a la que la IA abierta funciona. con su herramienta ChatGPT , y Google con Bard , están trabajando para desarrollar sus productos, especialmente porque podría ser a costa de la seguridad.
Tan preocupado está Hinton que incluso dijo que una parte de él lamenta sus esfuerzos pasados en el campo de la IA, informó el Times.
Como señala el informe, las herramientas de IA generativa ya están reemplazando a los trabajadores humanos, y la tecnología también se puede usar para crear y difundir información errónea.
De hecho, una de las preocupaciones de Hinton es que Internet, cuyos datos se utilizan para entrenar herramientas de IA generativa, se inundará con información falsa que podría hacer que los chatbots como ChatGPT y Bard escupan un sinfín de mentiras de una manera que suene creíble.
A medida que las empresas detrás de la tecnología lanzan sus herramientas impulsadas por IA para uso público sin conocer completamente su potencial, Hinton teme que sea "difícil ver cómo se puede evitar que los malos actores las usen para cosas malas".
Hinton dijo que regular la tecnología será difícil ya que las empresas y los gobiernos pueden trabajar en la tecnología prácticamente en secreto, y agregó que una forma de abordar el problema es tratar de que los científicos líderes trabajen juntos en formas de controlar la tecnología.
El experto en IA dijo en un tuit el lunes que decidió dejar Google para poder "hablar sobre los peligros de la IA sin considerar cómo afecta esto a Google", lo que sugiere que escucharemos mucho más de él a medida que la tecnología continúe. desarrollar.
Expresando preocupaciones aún mayores el mes pasado cuando se le preguntó en una entrevista de CBS sobre la probabilidad de que la IA “aniquile a la humanidad”, Hinton dijo: “Eso no es inconcebible”.
Tras la noticia de la partida de Hinton, Jeff Dean, científico jefe de Google, dijo en un comunicado: “Seguimos comprometidos con un enfoque responsable de la IA. Estamos continuamente aprendiendo a comprender los riesgos emergentes mientras también innovamos audazmente”.
Hinton no es el único experto que expresa su preocupación por la nueva ola de tecnología de inteligencia artificial que ha conquistado al mundo.
Quizás sorprendentemente, el jefe de OpenAI, Sam Altman, admitió recientemente estar "un poco asustado" por los efectos potenciales de la tecnología de IA.
Y en marzo, una carta firmada por líderes tecnológicos y académicos afirmaba que la tecnología plantea "profundos riesgos para la sociedad y la humanidad".
Publicada por el Future of Life Institute y cuyos signatarios incluían a Elon Musk, la carta pedía una pausa de seis meses en el trabajo de desarrollo para dar tiempo a la creación e implementación de protocolos de seguridad para las herramientas avanzadas.
Agregó que si se maneja de la manera correcta, la humanidad podrá “disfrutar de un futuro floreciente con IA”.