Entre los crecientes temores sobre la inteligencia artificial, una amenaza ha resultado particularmente alarmante: la posibilidad de que la IA pueda utilizarse para crear una nueva oleada de armas biológicas.
En abril, expertos en bioseguridad advirtieron sobre la alarmante facilidad con la que se podía obtener asesoramiento de chatbots para aumentar la peligrosidad de los patógenos. En junio, científicos y ejecutivos de IA firmaron una carta abierta en la que solicitaban nuevos controles sobre la fabricación de ADN, dado que la IA ahora puede acelerar el diseño de toxinas y virus.
En agosto, los científicos informaron haber utilizado inteligencia artificial para crear virus que no se encuentran en la naturaleza. Y el jueves, Anthropic anunció que había bloqueado varios intentos de usar sus modelos por parte de personas que podrían haber estado intentando convertir patógenos en armas.
Dario Amodei, director ejecutivo de Anthropic, hizo un llamamiento el sábado para ralentizar el desarrollo de la IA, presentando una serie de propuestas para garantizar su seguridad.
El Dr. Amodei escribió que sería prudente prohibir «el uso de la IA para la producción de armas biológicas o permitir que los usuarios lo hagan».
Estos avances pueden dar la impresión de que los actores malintencionados ahora pueden desatar plagas hasta ahora desconocidas en el mundo, todo gracias a la IA.
Pero Drew Endy, biólogo sintético de la Universidad de Stanford y coautor de un informe sobre bioseguridad el año pasado, afirmó que los chatbots actuales, como Claude de Anthropic, no representan un cambio radical en la amenaza que suponen las armas biológicas.
“En lo que respecta al impacto neto en nuestro riesgo de bioseguridad en este momento, me parece moderado”, dijo.
Eso podría cambiar, añadió, a medida que los científicos desarrollen modelos de IA especializados en la investigación biológica.
Estos modelos ya pueden generar genomas de virus viables que no se encuentran en la naturaleza. Es concebible que, con el tiempo, puedan utilizar esos nuevos genomas para crear nuevas armas.
Un arma biológica puede ser un virus u otro patógeno, como bacterias u hongos, diseñado para ser utilizado contra ejércitos o civiles. También puede presentarse en forma de toxinas producidas por organismos, como el botulismo de las bacterias o la ricina de las plantas de ricino.
(Las armas biológicas son distintas de las armas químicas, como el gas nervioso, que los científicos sintetizan en laboratorios).
Ya en la Edad Media, los ejércitos intentaron utilizar las enfermedades como arma. En 1346, los mongoles cargaron los cuerpos de personas que habían muerto de peste bubónica en catapultas y los lanzaron contra la ciudad de Caffa, a orillas del Mar Negro.
Cinco siglos después, tras el desarrollo de la teoría microbiana de las enfermedades, esos esfuerzos se volvieron más precisos. Durante la Primera Guerra Mundial, espías alemanes se infiltraron en Estados Unidos y otros países con frascos de bacterias. Las utilizaron para matar a miles de caballos y mulas.
El Protocolo de Ginebra prohibía la guerra biológica, pero las grandes potencias fabricaron armas biológicas de todos modos. Con el tiempo, Estados Unidos y la Unión Soviética llegaron a tener enormes arsenales, desde bombas de ántrax hasta globos cargados con hongos que mataban el trigo.
Tras la firma de la Convención sobre Armas Biológicas en 1975, Estados Unidos destruyó sus enormes arsenales, pero continuó investigando armas biológicas para desarrollar sistemas de defensa. La Unión Soviética, por su parte, llevó a cabo en secreto más investigaciones sobre patógenos, como la viruela, para una nueva generación de armas biológicas.
Todo esto quiere decir que la amenaza de las armas biológicas era muy real mucho antes de que aparecieran OpenAI y Anthropic. Sin embargo, hasta donde se sabe públicamente, las armas biológicas han causado muy pocas muertes desde la Segunda Guerra Mundial, por razones que aún no están claras.
“Desconocemos qué se ha intentado y ha fracasado, qué se ha desestimado, qué resultó demasiado complejo desde el punto de vista tecnológico”, afirmó el Dr. Thomas Inglesby, director del Centro Johns Hopkins para la Seguridad Sanitaria.
Esa amenaza persiste, añadió el Dr. Inglesby, señalando que alguien que intente crear armas biológicas hoy en día puede utilizar herramientas poderosas con las que las generaciones anteriores solo podían soñar.
Por ejemplo, la síntesis de ADN se ha vuelto rápida y económica. En 2016, científicos canadienses informaron que habían recreado la viruela equina, un virus relacionado con la viruela humana que desapareció de la naturaleza en las últimas décadas.
Los científicos dividieron las secuencias del genoma del virus en fragmentos, que enviaron por correo electrónico a una empresa de fabricación de ADN. La empresa devolvió las moléculas de ADN a los científicos, quienes las ensamblaron para formar un genoma viral y lo insertaron en células.
Las células infectadas produjeron entonces virus de la viruela equina . En aquel momento, esto fue aclamado como una hazaña notable, aunque inquietante. Pero los avances en la síntesis de ADN y otras tecnologías hacen que este tipo de experimento sea aún más económico y sencillo hoy en día.
Ahora, los chatbots podrían consultar la literatura científica para responder preguntas que se plantearía un fabricante de armas biológicas. Es una tarea en la que la IA puede sobresalir, afirmó el Dr. Inglesby, proporcionando a los ciberdelincuentes mucha más información de la que podrían obtener con simples búsquedas en la web.
“Su objetivo es que la información sea útil”, dijo refiriéndose a la IA. “Permite a los usuarios ir y venir un número infinito de veces para solucionar problemas y explicar con más detalle, al tiempo que proporciona los recursos técnicos adecuados para respaldar las cosas”.
El Dr. Endy dijo que le alegraba ver que Anthropic estuviera analizando las consultas en busca de motivos peligrosos.
“Si lo tomo al pie de la letra, parece que el equipo de Anthropic está intentando ser un buen ciudadano”, dijo. “Tienen una nueva herramienta y están tratando de usarla de manera responsable”.
Los grandes modelos lingüísticos que han creado empresas como Anthropic se entrenan con enormes cantidades de texto, incluidos los registros de trabajo de generaciones anteriores de científicos.
Es posible que puedan recuperar esa información rápidamente o encontrar conexiones entre hallazgos previos que habían pasado desapercibidos. Pero carecen de un conocimiento profundo de la biología más allá de lo que los investigadores ya han descubierto.
Otros científicos, sin embargo, están creando nuevos modelos de IA que pueden, hasta cierto punto, aprender biología por sí mismos . En lugar de libros y otros textos, estos modelos se entrenan con datos brutos sobre ADN y células.
Científicos de la Universidad de Stanford y del Instituto Arc crearon un modelo de este tipo, llamado Evo2, que entrenaron con secuencias de ADN de millones de especies. Evo2 aprendió patrones ocultos en los genes, lo que permitió la creación de nuevos tipos de enzimas.
Esto llevó a los científicos a preguntarse si podrían crear nuevos genomas capaces de sustentar la vida. Los investigadores sometieron a Evo2 a una ronda adicional de entrenamiento con genomas de un grupo de virus estrechamente relacionados.
Conocidos como microvíricos, son inofensivos para los humanos, ya que solo infectan a la bacteria Escherichia coli. Evo2 ofreció cientos de miles de nuevos genomas de microvíricos, 16 de los cuales dieron origen a virus reales .
Para proteger a Evo2, sus creadores no lo han entrenado con virus que infectan a humanos u otras especies relacionadas. Sin embargo, en teoría, dicha versión de Evo2 podría producir una variante del virus de la viruela.
Aun así, no sería tarea fácil: el genoma de la viruela es 35 veces mayor que el de los virus microvíricos. E incluso si todo ese esfuerzo diera sus frutos, solo daría lugar a una variación de un virus que ya se convirtió en arma biológica en la década de 1980.
Sin embargo, el Dr. Inglesby especuló que, sin las salvaguardias adecuadas, programas como Evo2 podrían resultar más útiles para la fabricación de nuevas armas biológicas.
“Con suficientes datos de entrenamiento, estos sistemas de IA podrán predecir variantes más letales, contagiosas y resistentes al sistema inmunitario”, dijo el Dr. Inglesby.
Le preocupaba que algún día los modelos pudieran generar virus que no fueran meras variantes, sino profundamente diferentes de los naturales.
Las noticias publicadas esta semana por Anthropic suscitaron inquietudes más inmediatas entre los expertos en bioseguridad: las consultas sobre información acerca de la gripe y otros patógenos parecen provenir de laboratorios estatales, en lugar de biohackers aislados.
“El hecho de que un estudiante de doctorado pueda hacer un mal uso de un modelo de forma individual para causar daño es solo una pequeña parte del problema”, dijo el Dr. Inglesby.
Al Dr. Endy le preocupaba que, si los gobiernos comenzaban a utilizar la IA para la investigación de la guerra biológica, podrían contribuir a reavivar una carrera armamentística como la que tuvo lugar durante la Segunda Guerra Mundial.
“Hoy vivimos en un mundo donde el Departamento de Estado de EE. UU. acusa a Corea del Norte y Rusia de tener programas, y sospecha de Irán y China”, dijo. “Y China y Rusia acusan a Estados Unidos. Esto no sucedía hace 10 años”.
Los doctores Endy e Inglesby coincidieron en que se podía hacer mucho para reducir el riesgo de una catástrofe. Las naciones han negociado acuerdos sobre armas biológicas en el pasado y pueden intentar hacerlo ahora.
La administración Biden estableció normas para que las empresas de síntesis de ADN revisaran los pedidos en busca de secuencias sospechosas. La administración Trump las suspendió el año pasado y aún no ha emitido nuevas normas.
El Dr. Endy argumentó que debemos hacer algo más que intentar impedir el uso de armas biológicas. «Tenemos que dar un salto cualitativo y garantizar la seguridad biológica», afirmó.
Eso significa encontrar maneras de defendernos de epidemias de todo tipo, ya sean provocadas por el ser humano o transmitidas de animales a nuestra especie. Los espacios públicos como hospitales y escuelas, dijo, deberían estar equipados con sensores que puedan detectar amenazas transmitidas por el aire, por ejemplo.
“Si veo un virus en el aire en el lugar donde me encuentro, puedo actuar en consecuencia”, dijo el Dr. Endy. “Estos riesgos biológicos no son mágicos”.
[#content_wordai]
Entre los crecientes temores sobre la inteligencia artificial, una amenaza ha resultado particularmente alarmante: la posibilidad de que la IA pueda utilizarse para crear una nueva oleada de armas biológicas.
En abril, expertos en bioseguridad advirtieron sobre la alarmante facilidad con la que se podía obtener asesoramiento de chatbots para aumentar la peligrosidad de los patógenos. En junio, científicos y ejecutivos de IA firmaron una carta abierta en la que solicitaban nuevos controles sobre la fabricación de ADN, dado que la IA ahora puede acelerar el diseño de toxinas y virus.
En agosto, los científicos informaron haber utilizado inteligencia artificial para crear virus que no se encuentran en la naturaleza. Y el jueves, Anthropic anunció que había bloqueado varios intentos de usar sus modelos por parte de personas que podrían haber estado intentando convertir patógenos en armas.
Dario Amodei, director ejecutivo de Anthropic, hizo un llamamiento el sábado para ralentizar el desarrollo de la IA, presentando una serie de propuestas para garantizar su seguridad.
El Dr. Amodei escribió que sería prudente prohibir «el uso de la IA para la producción de armas biológicas o permitir que los usuarios lo hagan».
Estos avances pueden dar la impresión de que los actores malintencionados ahora pueden desatar plagas hasta ahora desconocidas en el mundo, todo gracias a la IA.
Pero Drew Endy, biólogo sintético de la Universidad de Stanford y coautor de un informe sobre bioseguridad el año pasado, afirmó que los chatbots actuales, como Claude de Anthropic, no representan un cambio radical en la amenaza que suponen las armas biológicas.
“En lo que respecta al impacto neto en nuestro riesgo de bioseguridad en este momento, me parece moderado”, dijo.
Eso podría cambiar, añadió, a medida que los científicos desarrollen modelos de IA especializados en la investigación biológica.
Estos modelos ya pueden generar genomas de virus viables que no se encuentran en la naturaleza. Es concebible que, con el tiempo, puedan utilizar esos nuevos genomas para crear nuevas armas.
Un arma biológica puede ser un virus u otro patógeno, como bacterias u hongos, diseñado para ser utilizado contra ejércitos o civiles. También puede presentarse en forma de toxinas producidas por organismos, como el botulismo de las bacterias o la ricina de las plantas de ricino.
(Las armas biológicas son distintas de las armas químicas, como el gas nervioso, que los científicos sintetizan en laboratorios).
Ya en la Edad Media, los ejércitos intentaron utilizar las enfermedades como arma. En 1346, los mongoles cargaron los cuerpos de personas que habían muerto de peste bubónica en catapultas y los lanzaron contra la ciudad de Caffa, a orillas del Mar Negro.
Cinco siglos después, tras el desarrollo de la teoría microbiana de las enfermedades, esos esfuerzos se volvieron más precisos. Durante la Primera Guerra Mundial, espías alemanes se infiltraron en Estados Unidos y otros países con frascos de bacterias. Las utilizaron para matar a miles de caballos y mulas.
El Protocolo de Ginebra prohibía la guerra biológica, pero las grandes potencias fabricaron armas biológicas de todos modos. Con el tiempo, Estados Unidos y la Unión Soviética llegaron a tener enormes arsenales, desde bombas de ántrax hasta globos cargados con hongos que mataban el trigo.
Tras la firma de la Convención sobre Armas Biológicas en 1975, Estados Unidos destruyó sus enormes arsenales, pero continuó investigando armas biológicas para desarrollar sistemas de defensa. La Unión Soviética, por su parte, llevó a cabo en secreto más investigaciones sobre patógenos, como la viruela, para una nueva generación de armas biológicas.
Todo esto quiere decir que la amenaza de las armas biológicas era muy real mucho antes de que aparecieran OpenAI y Anthropic. Sin embargo, hasta donde se sabe públicamente, las armas biológicas han causado muy pocas muertes desde la Segunda Guerra Mundial, por razones que aún no están claras.
“Desconocemos qué se ha intentado y ha fracasado, qué se ha desestimado, qué resultó demasiado complejo desde el punto de vista tecnológico”, afirmó el Dr. Thomas Inglesby, director del Centro Johns Hopkins para la Seguridad Sanitaria.
Esa amenaza persiste, añadió el Dr. Inglesby, señalando que alguien que intente crear armas biológicas hoy en día puede utilizar herramientas poderosas con las que las generaciones anteriores solo podían soñar.
Por ejemplo, la síntesis de ADN se ha vuelto rápida y económica. En 2016, científicos canadienses informaron que habían recreado la viruela equina, un virus relacionado con la viruela humana que desapareció de la naturaleza en las últimas décadas.
Los científicos dividieron las secuencias del genoma del virus en fragmentos, que enviaron por correo electrónico a una empresa de fabricación de ADN. La empresa devolvió las moléculas de ADN a los científicos, quienes las ensamblaron para formar un genoma viral y lo insertaron en células.
Las células infectadas produjeron entonces virus de la viruela equina . En aquel momento, esto fue aclamado como una hazaña notable, aunque inquietante. Pero los avances en la síntesis de ADN y otras tecnologías hacen que este tipo de experimento sea aún más económico y sencillo hoy en día.
Ahora, los chatbots podrían consultar la literatura científica para responder preguntas que se plantearía un fabricante de armas biológicas. Es una tarea en la que la IA puede sobresalir, afirmó el Dr. Inglesby, proporcionando a los ciberdelincuentes mucha más información de la que podrían obtener con simples búsquedas en la web.
“Su objetivo es que la información sea útil”, dijo refiriéndose a la IA. “Permite a los usuarios ir y venir un número infinito de veces para solucionar problemas y explicar con más detalle, al tiempo que proporciona los recursos técnicos adecuados para respaldar las cosas”.
El Dr. Endy dijo que le alegraba ver que Anthropic estuviera analizando las consultas en busca de motivos peligrosos.
“Si lo tomo al pie de la letra, parece que el equipo de Anthropic está intentando ser un buen ciudadano”, dijo. “Tienen una nueva herramienta y están tratando de usarla de manera responsable”.
Los grandes modelos lingüísticos que han creado empresas como Anthropic se entrenan con enormes cantidades de texto, incluidos los registros de trabajo de generaciones anteriores de científicos.
Es posible que puedan recuperar esa información rápidamente o encontrar conexiones entre hallazgos previos que habían pasado desapercibidos. Pero carecen de un conocimiento profundo de la biología más allá de lo que los investigadores ya han descubierto.
Otros científicos, sin embargo, están creando nuevos modelos de IA que pueden, hasta cierto punto, aprender biología por sí mismos . En lugar de libros y otros textos, estos modelos se entrenan con datos brutos sobre ADN y células.
Científicos de la Universidad de Stanford y del Instituto Arc crearon un modelo de este tipo, llamado Evo2, que entrenaron con secuencias de ADN de millones de especies. Evo2 aprendió patrones ocultos en los genes, lo que permitió la creación de nuevos tipos de enzimas.
Esto llevó a los científicos a preguntarse si podrían crear nuevos genomas capaces de sustentar la vida. Los investigadores sometieron a Evo2 a una ronda adicional de entrenamiento con genomas de un grupo de virus estrechamente relacionados.
Conocidos como microvíricos, son inofensivos para los humanos, ya que solo infectan a la bacteria Escherichia coli. Evo2 ofreció cientos de miles de nuevos genomas de microvíricos, 16 de los cuales dieron origen a virus reales .
Para proteger a Evo2, sus creadores no lo han entrenado con virus que infectan a humanos u otras especies relacionadas. Sin embargo, en teoría, dicha versión de Evo2 podría producir una variante del virus de la viruela.
Aun así, no sería tarea fácil: el genoma de la viruela es 35 veces mayor que el de los virus microvíricos. E incluso si todo ese esfuerzo diera sus frutos, solo daría lugar a una variación de un virus que ya se convirtió en arma biológica en la década de 1980.
Sin embargo, el Dr. Inglesby especuló que, sin las salvaguardias adecuadas, programas como Evo2 podrían resultar más útiles para la fabricación de nuevas armas biológicas.
“Con suficientes datos de entrenamiento, estos sistemas de IA podrán predecir variantes más letales, contagiosas y resistentes al sistema inmunitario”, dijo el Dr. Inglesby.
Le preocupaba que algún día los modelos pudieran generar virus que no fueran meras variantes, sino profundamente diferentes de los naturales.
Las noticias publicadas esta semana por Anthropic suscitaron inquietudes más inmediatas entre los expertos en bioseguridad: las consultas sobre información acerca de la gripe y otros patógenos parecen provenir de laboratorios estatales, en lugar de biohackers aislados.
“El hecho de que un estudiante de doctorado pueda hacer un mal uso de un modelo de forma individual para causar daño es solo una pequeña parte del problema”, dijo el Dr. Inglesby.
Al Dr. Endy le preocupaba que, si los gobiernos comenzaban a utilizar la IA para la investigación de la guerra biológica, podrían contribuir a reavivar una carrera armamentística como la que tuvo lugar durante la Segunda Guerra Mundial.
“Hoy vivimos en un mundo donde el Departamento de Estado de EE. UU. acusa a Corea del Norte y Rusia de tener programas, y sospecha de Irán y China”, dijo. “Y China y Rusia acusan a Estados Unidos. Esto no sucedía hace 10 años”.
Los doctores Endy e Inglesby coincidieron en que se podía hacer mucho para reducir el riesgo de una catástrofe. Las naciones han negociado acuerdos sobre armas biológicas en el pasado y pueden intentar hacerlo ahora.
La administración Biden estableció normas para que las empresas de síntesis de ADN revisaran los pedidos en busca de secuencias sospechosas. La administración Trump las suspendió el año pasado y aún no ha emitido nuevas normas.
El Dr. Endy argumentó que debemos hacer algo más que intentar impedir el uso de armas biológicas. «Tenemos que dar un salto cualitativo y garantizar la seguridad biológica», afirmó.
Eso significa encontrar maneras de defendernos de epidemias de todo tipo, ya sean provocadas por el ser humano o transmitidas de animales a nuestra especie. Los espacios públicos como hospitales y escuelas, dijo, deberían estar equipados con sensores que puedan detectar amenazas transmitidas por el aire, por ejemplo.
“Si veo un virus en el aire en el lugar donde me encuentro, puedo actuar en consecuencia”, dijo el Dr. Endy. “Estos riesgos biológicos no son mágicos”.
Diario MX
