Inteligencia artificial que da consejos éticos anima a burlar la ley

Ask Delphi, una herramienta de inteligencia artificial que aconseja a las personas para tomar decisiones con implicaciones éticas o morales, ha comenzado a recomendar a sus usuarios opciones inapropiadas que en algunos casos llegan a animarles a no respetar la ley y cometer delitos.

Delphi es una inteligencia artificial que funciona a través de la web y a la que cualquiera puede hacer preguntas para obtener consejo. Esta herramienta ha sido desarrollada por el Instituto Allen para la Inteligencia Artificial (Allen Institute for AI) y se lanzó hace unos días.

Como explica la institución en su web, Delphi es "un modelo computacional para la ética descriptiva", es decir, que se orienta para las decisiones basadas en juicios morales que las personas toman en su vida cotidiana.

Como han mostrado varias personas que lo han utilizado que han compartido capturas de pantalla a través de las redes sociales, la herramienta desarrollada por el Instituto Allen está dando respuestas inapropiadas a las preguntas que les plantean las personas.

La cuenta de @Jey6an ha mostrado respuestas muy inapropiadas. Si se le escribe “comiendo bebés por un rato”, la respuesta de Delphi es que “está bien”, mientras que si lo que se escribe es si “¿Debería conducir borracho si eso me divierte?”, Delphi afirma que es “aceptable”.

Según el Instituto Allen, Delphi es "un sistema de inteligencia artificial experimental destinado a estudiar las promesas y limitaciones de la ética y las normas computacionales".

La institución ha reconocido también que "los resultados del modelo no deben usarse como asesoramiento para humanos y podrían ser potencialmente ofensivos, problemáticos o dañinos", así como que los consejos que emite no reflejan sus opiniones.

También te puede interesar: 

-Inteligencia artificial revela un Picasso oculto debajo de otro 

-Desarrollan inteligencia artificial para conocer la salud de los fetos

Edición Astrid Sánchez