‘Padrino de la inteligencia artificial’ renuncia a su cargo en Google

Hacer sonar las alarmas sobre la inteligencia artificial (IA) se ha convertido en un pasatiempo popular en la era de ChatGPT, adoptado por figuras de alto perfil tan variadas como el industrial Elon Musk, el intelectual de izquierda Noam Chomsky y el estadista retirado de 99 años Henry Kissinger.

Pero son las preocupaciones de los expertos en la comunidad de investigación de IA las que están atrayendo una atención particular. Un investigador pionero y el llamado Padrino de la IA, Geoffrey Hinton, renunció a su cargo en Google para poder hablar más libremente sobre los peligros de la tecnología que ayudó a crear.

A lo largo de su carrera de décadas, el trabajo pionero de Hinton sobre el aprendizaje profundo y las redes neuronales ayudó a sentar las bases de gran parte de la tecnología de inteligencia artificial que vemos hoy.

Algunos de los peligros de los chatbots de IA son "bastante aterradores", dijo Hinton a la BBC. “En este momento, no son más inteligentes que nosotros, por lo que puedo decir. Pero creo que pronto lo serán”.

Sigue leyendo: Consternación en Bélgica por el suicidio de joven tras hablar con un chatbot

En una entrevista con MIT Technology Review , Hinton también señaló a los "malos actores" que pueden usar la IA de maneras que podrían tener un impacto perjudicial en la sociedad, como manipular elecciones o instigar la violencia.

Hinton, de 75 años, dice que se retiró de Google para poder hablar abiertamente sobre los riesgos potenciales como alguien que ya no trabaja para el gigante tecnológico.

“Quiero hablar sobre cuestiones de seguridad de la IA sin tener que preocuparme por cómo interactúa con el negocio de Google”, dijo. “Mientras me pague Google, no puedo hacer eso”.

Google confirmó que Hinton se había retirado de su cargo después de 10 años supervisando el equipo de investigación de Google en Toronto.

En el centro del debate sobre el estado de la IA está si los principales peligros están en el futuro o en el presente. Por un lado, están los escenarios hipotéticos de riesgo existencial causados ​​por computadoras que superan a la inteligencia humana. Por otro lado, están las preocupaciones sobre la tecnología automatizada que las empresas y los gobiernos ya están implementando ampliamente y que puede causar daños en el mundo real.

“Para bien o para mal, lo que ha hecho el momento del chatbot es hacer de la IA una conversación nacional e internacional que no solo incluye a expertos y desarrolladores de IA”, dijo Alondra Nelson, quien hasta febrero dirigió la Oficina de Ciencia y Tecnología de la Casa Blanca. Política tecnológica y su impulso para elaborar pautas sobre el uso responsable de las herramientas de IA.

“La IA ya no es abstracta, y tenemos este tipo de apertura, creo, para tener una nueva conversación sobre cómo queremos un futuro democrático y un futuro sin explotación con tecnología”, dijo Nelson en una entrevista el mes pasado.

También te puede interesar: La inteligencia humana es biológica, no reproducible en computadoras, dice experto

Varios investigadores de IA han expresado durante mucho tiempo su preocupación por los prejuicios raciales, de género y de otro tipo en los sistemas de IA, incluidos los modelos de lenguaje extenso basados ​​en texto que se entrenan en grandes cantidades de escritura humana y pueden amplificar la discriminación que existe en la sociedad.

“Necesitamos dar un paso atrás y pensar realmente en las necesidades de quienes se están poniendo al frente y en el centro de la discusión sobre los riesgos”, dijo Sarah Myers West, directora general de la organización sin fines de lucro AI Now Institute. “Los daños que están siendo promulgados por los sistemas de IA hoy en día en realidad no están distribuidos de manera uniforme. Está exacerbando en gran medida los patrones existentes de desigualdad”.

Hinton fue uno de los tres pioneros de la IA que en 2019 ganó el Premio Turing, un honor que se conoce como la versión del Premio Nobel de la industria tecnológica. Los otros dos ganadores, Yoshua Bengio y Yann LeCun, también expresaron su preocupación por el futuro de la IA.

Bengio, profesor de la Universidad de Montreal, firmó una petición a fines de marzo en la que pedía a las empresas tecnológicas que acordaran una pausa de seis meses en el desarrollo de potentes sistemas de IA, mientras que LeCun, un destacado científico de IA en la empresa matriz de Facebook, Meta, tomó una decisión más enfoque optimista.
 

Edición Astrid Sánchez