Académico pide hacer una pausa en la inteligencia artificial hasta que los científicos sepan controlarla

Geoffrey Hinton, fue un pionero de la inteligencia artificial (IA). En el año 2022 Hinton y dos de sus estudiantes de postgrado de la Universidad de Toronto (Canadá) crearon una tecnología que se convirtió en la base intelectual de los sistemas de inteligencia artificial. Hinton se unió a un creciente coro que alerta sobre los peligros de crear productos basados en IA generativa, la tecnología que impulsa a los chabots populares como ChatGPT. Los líderes de la industria creen que los nuevos sistemas de inteligencia artificial podrían ser tan importante como la introducción del navegador web a principios de 1990 y podrían generar avances en áreas que van desde la investigación médica hasta la educación. Pero a muchos expertos de la industria les preocupa que se esté liberando algo peligroso.
ADVERTENCIAS
La IA generativa ya puede ser una herramienta para la desinformación. Pronto podría ser un riesgo para los puestos de trabajo. En algún momento, alertan podrían ser un riesgo para toda la humanidad. Consideran que es difícil no pensar que se usada para cosas malas. En base a esto, más de 1.000 líderes tecnológico e investigadores firmaron una carta abierta en la que pidieron una moratoria de 6 meses en el desarrollo de la tecnología de IA. Días después 19 líderes actuales y anteriores a la Asociación para el avance de la Inteligencia Artificial publicaron su propia carta advirtiendo sobre los riesgos de la IA. Hinton –considerado el padrino de la IA- no firmó ninguna de esas cartas y dijo que no quería criticar públicamente a Google y a otras compañías hasta que dejara su trabajo.
SU OPINIÓN DEL TEMA
A medida que las empresas mejoran sus sistemas de IA, Hinton cree que se vuelven más peligrosas. Los gigantes tecnológicos están enfrascados en una competencia que podría ser imposible de detener. Su preocupación inmediata es que internet se inundará con fotos videos y textos falsos y la persona promedio ya no podrá saber que es verdad. También le preocupa que con el tiempo las tecnologías de la IA trastornen el mercado laboral. Actualmente los Chabots como ChatGPT tienden a complementar a los trabajadores humanos, pero podrían reemplazar a los asistentes legales, asistentes personales, traductores y otras que manejan tareas rutinarias.
LA FRASE QUE CAMBIÓ
Hinton relató que cuando antes le preguntaban cómo podía trabajar en tecnología potencialmente peligrosa solía parafrasear a Robert Oppenheirner quién dirigió el proyecto de Estados Unidos para construir la bomba atómica y que decía: “Cuándo vez algo que es técnicamente bueno, sigue adelante y hazlo”. Actualmente confiesa que ya no dice eso. (Fuente: El País)