El insecto parecía una nueva especie. Tenía la marca clásica de las mantis de hoja muerta: un escudo aplanado, marrón y arrugado para imitar los restos del suelo del bosque; pero el camuflaje era casi demasiado bueno, como si llevara una hoja de verdad. No se parecía a ningún ejemplar que Kris Anderson hubiera visto jamás.
El señor Anderson ha visto muchísimos ejemplares. Tiene miles disecados en cajones de su casa de Las Vegas, con las patas extendidas y las alas desplegadas para revelar una geometría de venas que recuerda a un vitral.
Cada tarde, después de su jornada laboral como director de un centro de asesoramiento, dedica dos horas y media a examinar las 500 o 600 fotografías de mantis religiosas que los aficionados han subido al sitio web de ciencia ciudadana iNaturalist , donde cualquiera puede enviar fotos de fauna silvestre para ayudar a mapear la biodiversidad. Para el Sr. Anderson, la mayoría son basura: fotos borrosas de especies comunes. Pero de vez en cuando encuentra algo que merece la pena documentar: una mantis nunca antes registrada en Aruba, o un comportamiento inusual, como tres hembras que aparentemente se devoran entre sí.
Durante unos segundos, la mantis que vio el 17 de junio le pareció un hallazgo taxonómico excepcional. Luego se dio cuenta de que lo habían engañado. Esta mantis era falsa , un producto de la inteligencia artificial.
Fue otro ejemplo de un problema cada vez más complejo. Los algoritmos que facilitan ciertas tareas científicas también están generando una crisis de desorden. Las revistas científicas están inundadas de trabajos de IA de baja calidad, con bibliografías repletas de artículos inexistentes. Los revisores, que deberían detectar este tipo de trabajos deficientes, a veces también delegan la tarea en algoritmos.
En respuesta, grupos fundados para democratizar la ciencia están estableciendo nuevos controles y equilibrios. Este otoño, el servidor de preimpresiones arXiv —un repositorio en línea gratuito que difunde rápidamente artículos de investigación, con menos revisión que las revistas tradicionales— comenzó a limitar las presentaciones para mitigar el tsunami de resultados asistidos por IA. Foros de ciencia ciudadana como iNaturalist están considerando salvaguardas similares. La primavera pasada, OpenStreetMap, un atlas digital creado por la comunidad, incorporó un archivo «léame» para agentes de programación automatizada que realizan ajustes en su código colaborativo: una trampa para las máquinas. En agosto, eBird , el archivo de avistamientos ornitológicos de Cornell, anunció un nuevo sistema de alerta para señalar aves sobreeditadas o artificiales.
«Los sistemas de IA podrían hacer, y de hecho hacen, contribuciones valiosas cuando se implementan correctamente», afirmó Mikel Maron, voluntario de OpenStreetMap. «El problema es que, al generar código o datos, resulta tan sencillo que crea una gran cantidad de información irrelevante, lo que puede abrumar la capacidad humana para analizar las contribuciones».
Lo que está en juego es una delicada simbiosis. La ciencia ciudadana es una alianza entre expertos y aficionados. Los investigadores reciben ayuda para recopilar y analizar vastos conjuntos de datos; el público en general puede contribuir a la creación y el acceso a conocimientos que de otro modo permanecerían ocultos. Esto no es mero entretenimiento informativo. SafeCast , una organización internacional sin fines de lucro, utiliza este enfoque para monitorear y distribuir datos sobre radiación y calidad del aire. Citizens of the Reef monitorea la salud de los corales y, por extensión, de los océanos.
La IA está potenciando esos esfuerzos, permitiendo que un voluntario sin mucha experiencia en programación solucione rápidamente problemas de visualización de datos, por ejemplo, o identifique detalles que merecen atención en vastas bibliotecas de imágenes.
«Me asombra la cantidad de posibilidades que existen para acelerar el descubrimiento científico en todos los ámbitos», dijo Lucy Fortson, astrofísica de la Universidad de Minnesota y cofundadora de la plataforma de ciencia ciudadana Zooniverse . «¡Sí, apliquemos esto! Pero no olvidemos esa cualidad humana de poder percibir lo extraño, de tener el contexto del mundo real».
La erosión de esos instintos es lo que preocupa a algunos investigadores. Alexander Lees, ornitólogo de la Universidad Metropolitana de Manchester, recuerda cuando sus colegas le enviaron una imagen de un carbonero palustre en peligro de extinción en Escocia; un hallazgo tan plausible y emocionante que costó convencerlos de que la foto era falsa. Estos engaños aún son raros en iNaturalist y eBird. Es más común que voluntarios bienintencionados utilicen modelos para retocar fotos sin darse cuenta de que el bot ha añadido rayas en las alas o ha cambiado el amarillo por el rojo.
“Si hay muchas de estas fotos, contaminarán la base de datos de cómo se ven los animales reales y confundirán a los modelos que se pretenden identificar especies reales”, dijo el Dr. Lees. “Básicamente, se les están proporcionando datos de entrenamiento de cosas que no existen”. La preocupación es que los modelos generativos complicarían el uso de sus precursores, las redes de reconocimiento de patrones que impulsan las aplicaciones de identificación.
Para el Sr. Anderson, esto representa una nueva manifestación de un problema antiguo: el orden de las mantis religiosas está descuidado, su taxonomía cambia constantemente y el corpus que utiliza el software de reconocimiento de patrones de iNaturalist para sugerir nombres de especies es un verdadero campo minado de datos erróneos. Hace años, corregía cada error que veía. Finalmente, dejó de hacerlo; de lo contrario, no haría nada más. Ahora, solo lo hace si está escribiendo un artículo basado en esa fotografía subida a internet.
“Dependemos mucho de expertos como Kris Anderson para generar la identificación”, dijo Scott Loarie, director ejecutivo de iNaturalist, señalando que los modelos de reconocimiento de patrones son tan buenos como la comunidad humana que introduce la información.
De ahí la preocupación por la creciente sofisticación de las imágenes generadas por IA. La primera mantis manipulada por algoritmos que el Sr. Anderson avistó en marzo tenía un aspecto «de Frankenstein», según comentó. «Era fantástica. Tenía tres antenas y las patas estaban mal colocadas». La siguiente lo engañó brevemente, hasta que notó algo extraño en el pliegue de las alas y una textura peculiar en el tórax.
Tras contactar con la persona que subió la imagen y denunciarla a iNaturalist, la publicación fue eliminada. «Este tipo de imágenes pueden ser especialmente peligrosas porque pueden pasar desapercibidas para personas no especializadas y permanecer en las bases de datos de biodiversidad durante largos periodos antes de ser detectadas», escribió el Sr. Anderson en un artículo sobre la situación.
Para algunos académicos, su informe también merecía cautela: lo había publicado en Soothsayer, una revista de investigación sobre mantis religiosas que él mismo dirige, sin una revisión por pares formal y anónima; la había fundado por frustración ante la lentitud de la publicación académica.
El lugar no le importó a Julio Rivera, investigador asociado y especialista en mantis religiosas del Insectario de Montreal. «Hay información importante en esas publicaciones», afirmó. La ciencia es colaborativa. El Sr. Anderson había publicado sus hallazgos para que otros los examinaran, cuestionaran y desarrollaran, siempre y cuando no estuvieran demasiado ocupados lidiando con la complejidad de la IA.
[#content_wordai]
El insecto parecía una nueva especie. Tenía la marca clásica de las mantis de hoja muerta: un escudo aplanado, marrón y arrugado para imitar los restos del suelo del bosque; pero el camuflaje era casi demasiado bueno, como si llevara una hoja de verdad. No se parecía a ningún ejemplar que Kris Anderson hubiera visto jamás.
El señor Anderson ha visto muchísimos ejemplares. Tiene miles disecados en cajones de su casa de Las Vegas, con las patas extendidas y las alas desplegadas para revelar una geometría de venas que recuerda a un vitral.
Cada tarde, después de su jornada laboral como director de un centro de asesoramiento, dedica dos horas y media a examinar las 500 o 600 fotografías de mantis religiosas que los aficionados han subido al sitio web de ciencia ciudadana iNaturalist , donde cualquiera puede enviar fotos de fauna silvestre para ayudar a mapear la biodiversidad. Para el Sr. Anderson, la mayoría son basura: fotos borrosas de especies comunes. Pero de vez en cuando encuentra algo que merece la pena documentar: una mantis nunca antes registrada en Aruba, o un comportamiento inusual, como tres hembras que aparentemente se devoran entre sí.
Durante unos segundos, la mantis que vio el 17 de junio le pareció un hallazgo taxonómico excepcional. Luego se dio cuenta de que lo habían engañado. Esta mantis era falsa , un producto de la inteligencia artificial.
Fue otro ejemplo de un problema cada vez más complejo. Los algoritmos que facilitan ciertas tareas científicas también están generando una crisis de desorden. Las revistas científicas están inundadas de trabajos de IA de baja calidad, con bibliografías repletas de artículos inexistentes. Los revisores, que deberían detectar este tipo de trabajos deficientes, a veces también delegan la tarea en algoritmos.
En respuesta, grupos fundados para democratizar la ciencia están estableciendo nuevos controles y equilibrios. Este otoño, el servidor de preimpresiones arXiv —un repositorio en línea gratuito que difunde rápidamente artículos de investigación, con menos revisión que las revistas tradicionales— comenzó a limitar las presentaciones para mitigar el tsunami de resultados asistidos por IA. Foros de ciencia ciudadana como iNaturalist están considerando salvaguardas similares. La primavera pasada, OpenStreetMap, un atlas digital creado por la comunidad, incorporó un archivo «léame» para agentes de programación automatizada que realizan ajustes en su código colaborativo: una trampa para las máquinas. En agosto, eBird , el archivo de avistamientos ornitológicos de Cornell, anunció un nuevo sistema de alerta para señalar aves sobreeditadas o artificiales.
«Los sistemas de IA podrían hacer, y de hecho hacen, contribuciones valiosas cuando se implementan correctamente», afirmó Mikel Maron, voluntario de OpenStreetMap. «El problema es que, al generar código o datos, resulta tan sencillo que crea una gran cantidad de información irrelevante, lo que puede abrumar la capacidad humana para analizar las contribuciones».
Lo que está en juego es una delicada simbiosis. La ciencia ciudadana es una alianza entre expertos y aficionados. Los investigadores reciben ayuda para recopilar y analizar vastos conjuntos de datos; el público en general puede contribuir a la creación y el acceso a conocimientos que de otro modo permanecerían ocultos. Esto no es mero entretenimiento informativo. SafeCast , una organización internacional sin fines de lucro, utiliza este enfoque para monitorear y distribuir datos sobre radiación y calidad del aire. Citizens of the Reef monitorea la salud de los corales y, por extensión, de los océanos.
La IA está potenciando esos esfuerzos, permitiendo que un voluntario sin mucha experiencia en programación solucione rápidamente problemas de visualización de datos, por ejemplo, o identifique detalles que merecen atención en vastas bibliotecas de imágenes.
«Me asombra la cantidad de posibilidades que existen para acelerar el descubrimiento científico en todos los ámbitos», dijo Lucy Fortson, astrofísica de la Universidad de Minnesota y cofundadora de la plataforma de ciencia ciudadana Zooniverse . «¡Sí, apliquemos esto! Pero no olvidemos esa cualidad humana de poder percibir lo extraño, de tener el contexto del mundo real».
La erosión de esos instintos es lo que preocupa a algunos investigadores. Alexander Lees, ornitólogo de la Universidad Metropolitana de Manchester, recuerda cuando sus colegas le enviaron una imagen de un carbonero palustre en peligro de extinción en Escocia; un hallazgo tan plausible y emocionante que costó convencerlos de que la foto era falsa. Estos engaños aún son raros en iNaturalist y eBird. Es más común que voluntarios bienintencionados utilicen modelos para retocar fotos sin darse cuenta de que el bot ha añadido rayas en las alas o ha cambiado el amarillo por el rojo.
“Si hay muchas de estas fotos, contaminarán la base de datos de cómo se ven los animales reales y confundirán a los modelos que se pretenden identificar especies reales”, dijo el Dr. Lees. “Básicamente, se les están proporcionando datos de entrenamiento de cosas que no existen”. La preocupación es que los modelos generativos complicarían el uso de sus precursores, las redes de reconocimiento de patrones que impulsan las aplicaciones de identificación.
Para el Sr. Anderson, esto representa una nueva manifestación de un problema antiguo: el orden de las mantis religiosas está descuidado, su taxonomía cambia constantemente y el corpus que utiliza el software de reconocimiento de patrones de iNaturalist para sugerir nombres de especies es un verdadero campo minado de datos erróneos. Hace años, corregía cada error que veía. Finalmente, dejó de hacerlo; de lo contrario, no haría nada más. Ahora, solo lo hace si está escribiendo un artículo basado en esa fotografía subida a internet.
“Dependemos mucho de expertos como Kris Anderson para generar la identificación”, dijo Scott Loarie, director ejecutivo de iNaturalist, señalando que los modelos de reconocimiento de patrones son tan buenos como la comunidad humana que introduce la información.
De ahí la preocupación por la creciente sofisticación de las imágenes generadas por IA. La primera mantis manipulada por algoritmos que el Sr. Anderson avistó en marzo tenía un aspecto «de Frankenstein», según comentó. «Era fantástica. Tenía tres antenas y las patas estaban mal colocadas». La siguiente lo engañó brevemente, hasta que notó algo extraño en el pliegue de las alas y una textura peculiar en el tórax.
Tras contactar con la persona que subió la imagen y denunciarla a iNaturalist, la publicación fue eliminada. «Este tipo de imágenes pueden ser especialmente peligrosas porque pueden pasar desapercibidas para personas no especializadas y permanecer en las bases de datos de biodiversidad durante largos periodos antes de ser detectadas», escribió el Sr. Anderson en un artículo sobre la situación.
Para algunos académicos, su informe también merecía cautela: lo había publicado en Soothsayer, una revista de investigación sobre mantis religiosas que él mismo dirige, sin una revisión por pares formal y anónima; la había fundado por frustración ante la lentitud de la publicación académica.
El lugar no le importó a Julio Rivera, investigador asociado y especialista en mantis religiosas del Insectario de Montreal. «Hay información importante en esas publicaciones», afirmó. La ciencia es colaborativa. El Sr. Anderson había publicado sus hallazgos para que otros los examinaran, cuestionaran y desarrollaran, siempre y cuando no estuvieran demasiado ocupados lidiando con la complejidad de la IA.
Diario MX
