Elon Musk, Steve Wozniak y científicos piden pausar experimentos de IA: Ésta es la razón

La carta pública firmada por el magnate Elon Musk y centenares de expertos para que se haga una pausa en el desarrollo de la inteligencia artificial (IA) desató este jueves un debate en las redes entre los académicos.

Los avances vertiginosos de la IA llevaron a Musk, fundador del gigante de los autos eléctricos Tesla y actual patrón de Twitter, a firmar esa carta, frente a lo que se califica de "dramática perturbación económica y política (especialmente para la democracia) que causará la IA".

A pesar de que la carta, publicada en el sitio futureoflife.org, fue suscrita por pensadores independientes como el historiador Yuval Noah Hariri, o el cofundador de Apple, Steve Wozniak, algunos académicos protestan por lo que consideran una malinterpretación de la discusión.

Timnit Gebru, una investigadora especializada en ética de la inteligencia artificial, escribió un artículo académico que fue citado en la carta de Musk y sus correligionarios, y ahora se muestra descontenta.

"Básicamente dicen lo contrario de lo que decimos y citamos en nuestro artículo", explica.

La otra autora del artículo, Emily Bender, califica por su parte la carta abierta de "embrollo".

"En los últimos meses hemos visto cómo los laboratorios de IA se han lanzado a una carrera descontrolada para desarrollar y desplegar cerebros digitales cada vez más potentes que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera fiable", afirman Musk y los expertos.

El director de Open AI, que diseñó ChatGPT, Sam Altman, reconoció tener "un poco de miedo" de que su algoritmo se utilice para "desinformación a gran escala o ciberataques".

Las académicas Gebru y Bender afirman en cambio que el peligro de la IA es "la concentración de poder en manos de gente, la reproducción de sistemas de opresión, el daño al ecosistema informativo".

Uno de los firmantes de la carta abierta, Emad Mostaque, fundador de la empresa británica Stability AI, aseguró por su parte que se retractaba de la demanda de una moratoria de seis meses.

"No creo que una pausa de seis meses sea la mejor idea" dijo en Twitter.

Sin contradicciones

El profesor de sicología Gary Marcus, firmante de la carta, considera en cambio en una contrarréplica que "los escépticos tienen que emitir una alarma; no hay ninguna contradicción al respecto".

Aunque los gigantes del sector como Google, Meta y Microsoft ya llevan años investigando en los programas basados en IA para acelerar tareas como la traducción o la publicidad selectiva, son los algoritmos de empresas como OpenAI las que han provocado polémica.

Su robot conversacional ChatGPT, capaz de mantener conversaciones complejas con seres humanos, acaba de ser actualizado con una nueva versión, GPT-4, aún más potente.

"¿Debemos permitir a las máquinas inundar nuestros canales de información con propaganda y mentiras? ¿Debemos automatizar todos los trabajos, incluidos los gratificantes? (…) ¿Debemos arriesgarnos a perder el control de nuestra civilización? Estas decisiones no deben delegarse en líderes tecnológicos no electos", señalan los firmantes de la carta.

Edición: Ana Ordaz