Por Lessing Abdias Pérez Calderón
¿Tiene la Inteligencia Artificial generativa un lugar en espacios de divulgación científica, como los museos? La respuesta corta es: no. Pero si quisieran la respuesta corta, le habrían preguntado a una IA en vez de entrar a leer artículo. Así que exploremos el tema a profundidad.
En los meses pasados, el Museo Nacional de Historia Natural presentó «Dinosaurios», una nueva exposición temporal. Al observar las imágenes presentadas en la misma, era claro que fueron generadas por una Inteligencia Artificial. Las imágenes no solo no hacen caso a los últimos descubrimientos en el área de la paleontología, algunas fueron particularmente interesantes. Las observé desde varios ángulos, busqué fotos para comparar, hasta pregunté a otras personas, y no parecía haber una manera de identificar los «dinosaurios» en esas imágenes. Era imposible, porque no era ningún dinosaurio en esa imagen. Eran abominaciones generadas al combinar los rasgos de varios dinosaurios diferentes.
Efectivamente, el valor científico de estas imágenes es el mismo que el que tiene un dibujo de un dragón hecho para una película. Muy bonito, pero no representa absolutamente nada real. Si esto hubiese sucedido en alguna presentación de una compañía o algún ente privado, sin fines académicos, no importaría mucho. Pero el MNHN es un referente nacional de conocimiento científico, una institución académica.
La presencia de estas imágenes en un espacio de carácter divulgativo abre al público cuestiones importantes sobre el uso de la IA generativa en el espacio de la ciencia e investigación. Desde hace años, investigadores han mantenido un ojo observador sobre el mundo de la investigación científica y como el uso de IA lo ha cambiado. Esto no es nada nuevo para cualquier persona que haya realizado un proyecto de investigación en los últimos años, especialmente a nivel universitario. Existen varias plataformas que detectan el uso de la IA en el trabajo y lo catalogan como una forma de plagio. Muchos se preguntarán, ¿cuál es el problema? ¿Qué tiene de malo usar las herramientas a mi disposición?
Para explorar este tema, hay que exponerlo en partes. Primero, ¿qué es la IA generativa? Básicamente, son programas a los cuales se les alimenta información, y a partir de esta, generan algo nuevo. Estos programas reconocen patrones entre los trillones de piezas de información dada, y utilizan estos patrones como base para crear un texto, imagen, o video. Hay varios elementos preocupantes sobre este proceso. Por ejemplo, ¿de dónde sale la información provista a la IA para «entrenarla»? De internet. Y todos sabemos que no todo lo que hay en internet es real.
No solo esto, la IA se entrena con fines de lucro, por tanto, técnicamente, al entrenarla con datos presentes en internet, como guiones de películas, fotografías, etc., se están violando las leyes de propiedad intelectual. Varios autores han comunicado que no desean que sus trabajos y producciones sean utilizados para alimentar una IA, pero sus súplicas han sido ignoradas. La IA tampoco puede diferenciar entre información «real» o «falsa», ya que todo es información. También cuando encuentra datos contradictorios, no puede corroborar uno u otro. Es por esto que modelos de IA dan respuestas incorrectas con frecuencia.
La investigación científica, por otro lado, es mucho más que una repetición de datos. Esta requiere de la realización de un análisis de la información con tal de llegar a conclusiones válidas. La ciencia requiere debate, formulación de hipótesis, evidencias, análisis de la validez de dichas evidencias, y más. Todos procesos cognitivos que no pueden ser realizados a la ligera. La integridad académica es de vital importancia no solo porque cada quien debería recibir el crédito por su labor cognitiva, sino porque el conocimiento da forma a nuestra percepción de la realidad. Por tanto, cuando «sabemos» algo que no es real (y por tanto se podría argumentar que no sabemos nada) nuestra percepción del mundo se adapta a esta información falsa. Nos volvemos habitantes de un mundo tan artificial como la inteligencia que lo creó.
El conocimiento creado a través de la investigación científica no solo se usa para realizar descubrimientos médicos, o avances en la tecnología. Este conocimiento tiene un rol fundamental en la creación de leyes, en la formación de la cultura popular, en nuestro entendimiento de nuestra propia humanidad y nuestro rol en la sociedad.
La ciencia es vanguardia, se mantiene al frente de los descubrimientos, y, por tanto, cuestiona lo que ya sabemos. La IA generativa, por otro lado, requiere que no se cuestione lo anterior, ya que esto es lo que necesita para generar algo. La IA generativa comercial no puede crear representaciones científicas de vanguardia exactamente porque son de vanguardia.
La IA requiere de los millones de instancias creadas por la normalización de una pieza de información, cosa que solo ocurre una vez dicho dato sale de la vanguardia para convertirse en conocimiento popular. Aun si se convierte en conocimiento popular en el campo científico, esto no significa que será conocimiento popular en la población general. Un ejemplo de esto son las plumas en los dinosaurios. Sabemos desde el 2007 que muchos dinosaurios como el velociraptor tenía plumas, pero como la versión que los popularizó fue la de Jurassic Park, la persona común, y por tanto la representación artística estándar, no toma esto en cuenta.
Por esta razón, si le pidieran a una GenIA una imagen de un velociraptor, crearía uno sin plumas, o con muy pocas, a pesar de que estos estaban cubiertos en ellas. El uso de esta imagen –basada en información anticientífica– haría que cada vez más personas creyeran que los velociraptors no tenían plumas, y, por tanto, educar a las personas en la realidad científica sería cada vez más difícil. Es un círculo vicioso de desinformación.
En otras palabras, para los educandos, el uso de GenIA los lleva a aprender información errónea. Para los científicos, la GenIA no puede reproducir los procesos lógico-cognitivos necesarios para la creación y avance del conocimiento científico. Por tanto, este tipo de IA no tiene lugar en espacios de investigación y divulgación científica. Dentro de todo esto, es importante clarificar que me refiero específicamente a la GenIA, no a la IA como concepto, ya que es posible utilizar inteligencias artificiales para recolectar y procesar o depurar datos de forma rápida y eficiente. Lo que estos modelos no pueden hacer es interpretar dichos datos. O sea, no pueden hacer ciencia.
El uso de estas tecnologías en museos como espacios de divulgación científica degrada nivel general de conocimiento en la población. Es importante recalcar que las fallas encontradas en la exposición fueron notificadas al museo, pero las mismas fueron descartadas.
Frente a la implementación de estas tecnologías que reemplazan el trabajo humano en cada vez más áreas, es importante preguntarnos. ¿Va ahí la IA?
Comentarios