Inteligencia artificial, educación superior y producción científica

El uso de la Inteligencia Artificial (IA) se ha popularizado de forma considerable en los últimos años. El auge en su utilización ha sido tan vertiginoso que aún no se ha regulado como es debido.  Es, desde luego, una poderosa herramienta de búsqueda y síntesis de información, sin embargo, la IA generativa nos confronta a importantes dilemas. En este texto quiero poner el énfasis en las áreas en las que desarrollo mi vida profesional que son el ámbito escolar y el medio académico. En ellos, la IA generativa puede ser muy útil en la recopilación de materiales y en la producción de conocimiento, pero puede llegar a hacer que la enseñanza y la investigación se conviertan en simulacro, es decir, en una sucesión sin fin de lugares comunes, cuando no de plagios y refritos. 

Pudiera parecer que la IA generativa sólo facilita nuestro trabajo, sin embargo, un uso amoral y sin ética de la misma puede acarrear la paulatina sustitución de algunas actividades intelectuales del quehacer humano. En la enseñanza, esto tiene que ver con las tareas asignadas al alumnado, quienes ya no explotan su talento ni su intelecto y se conforman con tomar atajos usando la IA. Se sabe que a nivel licenciatura y posgrado 9 de cada 10 estudiantes la usan de forma consuetudinaria. Algo parecido comienza a suceder en la investigación y la producción de materiales docentes: las personas que laboran en el ámbito académico pueden preferir los atajos para sintetizar la información existente a fin aumentar su número de publicaciones con supuestos resultados de investigación, incluso mediante la simulación de experimentos o uso de evidencia que no existe por haber sido generados desde la IA. 

Mi postulado de base es que la IA, aunque su nombre indique lo contrario, no es inteligente. De ello derivan algunas preguntas para las cuales no tengo respuesta, a saber, ¿el uso consuetudinario de la IA nos hará menos inteligentes? ¿nos hará menos éticos, menos responsables, más perezosos para pensar? Sabemos que la IA generativa adolece de muchos sesgos, incluso que “miente” (si acaso se puede usar esa acusación para “una máquina”). Eso es muy delicado porque si la convertimos en base de nuestra reflexión y de nuestro quehacer le estamos dando demasiado poder a un ente que no tiene ética. Ello confirma que la IA debe usarse con un enorme sentido de responsabilidad en los ámbitos de la producción y transmisión de los conocimientos, por ello me parece muy importante que se sepa que ya se ha dado un gran paso a nivel internacional con el Consenso de Beijing sobre la inteligencia artificial y la educación propuesto por la UNESCO.

Y aun con los llamados al buen uso de estas herramientas, sigo constatando una gran cantidad de engaños y de fraudes por el uso de la IA generativa. El mayor caso de escándalo, me parece el del falso filósofo chino Jianwey Xiu que nunca existió y era citado como un gran especialista. Otra situación que me parece alarmante es la de las infames “citas fantasmas” (o citas falsas) que recién han sido descubiertas en textos ya publicados en revistas científicas de supuesto prestigio internacional. 

El rápido avance de la IA generativa y su uso desenfrenado tendrá consecuencias inimaginables en el quehacer y acontecer humano. Más allá de sus usos creativos y hasta humorísticos, en lo que toca a la producción y transmisión de conocimiento, es insoslayable el control humano de estas herramientas y su minuciosa supervisión, más aún cuando se la usa para acompañar la toma de decisiones.

*Sociólogo, investigador adscrito al CEPHCIS-UNAM y secretario ejecutivo del COMECSO, AC.