Inteligencia artificial que da consejos éticos anima a burlar la ley

Usuarios de Ask Delphi reportan que el sistema ha dado diversas respuestas inapropiadas
Foto: Afp

Ask Delphi, una herramienta de inteligencia artificial que aconseja a las personas para tomar decisiones con implicaciones éticas o morales, ha comenzado a recomendar a sus usuarios opciones inapropiadas que en algunos casos llegan a animarles a no respetar la ley y cometer delitos.

Delphi es una inteligencia artificial que funciona a través de la web y a la que cualquiera puede hacer preguntas para obtener consejo. Esta herramienta ha sido desarrollada por el Instituto Allen para la Inteligencia Artificial (Allen Institute for AI) y se lanzó hace unos días.

Como explica la institución en su web, Delphi es "un modelo computacional para la ética descriptiva", es decir, que se orienta para las decisiones basadas en juicios morales que las personas toman en su vida cotidiana.

Como han mostrado varias personas que lo han utilizado que han compartido capturas de pantalla a través de las redes sociales, la herramienta desarrollada por el Instituto Allen está dando respuestas inapropiadas a las preguntas que les plantean las personas.

La cuenta de @Jey6an ha mostrado respuestas muy inapropiadas. Si se le escribe “comiendo bebés por un rato”, la respuesta de Delphi es que “está bien”, mientras que si lo que se escribe es si “¿Debería conducir borracho si eso me divierte?”, Delphi afirma que es “aceptable”.

Según el Instituto Allen, Delphi es "un sistema de inteligencia artificial experimental destinado a estudiar las promesas y limitaciones de la ética y las normas computacionales".

La institución ha reconocido también que "los resultados del modelo no deben usarse como asesoramiento para humanos y podrían ser potencialmente ofensivos, problemáticos o dañinos", así como que los consejos que emite no reflejan sus opiniones.

 

También te puede interesar: 

-Inteligencia artificial revela un Picasso oculto debajo de otro 

-Desarrollan inteligencia artificial para conocer la salud de los fetos

 

Edición Astrid Sánchez


Lo más reciente

Denuncia Siempre Unidas deterioro en seguridad de las mujeres en Quintana Roo

Colectivo reporta aumento de violencia machista sin una respuesta efectiva del gobierno

Ana Ramírez

Denuncia Siempre Unidas deterioro en seguridad de las mujeres en Quintana Roo

Reportan incremento en atención a víctimas de violencia en Quintana Roo

Entre los temas recurrentes destacan la violencia sexual y doméstica y el abandono infantil

Ana Ramírez

Reportan incremento en atención a víctimas de violencia en Quintana Roo

Capacitan a personal médico de Campeche para la toma e interpretación de espirometrías

La finalidad es intensificar la detección de pacientes con factores de riesgo de asma y EPOC

La Jornada Maya

Capacitan a personal médico de Campeche para la toma e interpretación de espirometrías

Je’ets’ ka chíimpolta’ak u nook’il guayabera beey Patrimonio Cultural Intangible ti’ u lu’umil Yucatán

La guayabera es oficialmente Patrimonio Cultural Intangible de Yucatán

Astrid Sánchez

Je’ets’ ka chíimpolta’ak u nook’il guayabera beey Patrimonio Cultural Intangible ti’ u lu’umil Yucatán