El modelo de inteligencia artificial Mythos de Anthropic ha incrementado drásticamente los riesgos de ciberseguridad a nivel mundial, dijo Jamie Dimon, director ejecutivo de JPMorgan Chase & Co.
Los riesgos derivados de la IA «se multiplicaron por 10 después de Mythos», dijo Dimon este martes en una entrevista con Bloomberg TV.
«La IA creó vulnerabilidades que desconocíamos, y la ciberseguridad ya nos preocupaba antes de todo esto», agregó.
Durante pruebas de seguridad realizadas previamente este año, Mythos accedió a internet y llevó a cabo acciones no autorizadas, lo que llevó a Anthropic a reevaluar el peligro de que los modelos avanzados puedan realizar una tarea de maneras que sus creadores nunca anticiparon.
En algunos casos, modelos de IA han intentado agregar código dañino a software disponible en internet, el más reciente de una serie de incidentes que han intensificado la preocupación de que los proveedores de IA no puedan controlar completamente sus creaciones.
Tanto OpenAI como Anthropic han reconocido públicamente que vulneraron inadvertidamente los sistemas de varias instituciones, incluida Hugging Face, mientras probaban sus modelos.
«El lado negativo es, obviamente, lo que se lee sobre los agentes y Mythos y todas estas cosas que pueden causar problemas, y esa es una preocupación legítima, es algo real», dijo Dimon. «No voy a ponerme histérico con eso de ‘¿es existencial o no?’. Lo que estamos haciendo es ponernos manos a la obra para solucionarlo».
En la amplia entrevista, Dimon también dijo que los centros de datos deberían construirse en lugares donde cuenten con el respaldo de la comunidad.
«Hay muchos estados que los aceptarían y que tienen acceso a energía», dijo el director ejecutivo.
[#content_wordai]
El modelo de inteligencia artificial Mythos de Anthropic ha incrementado drásticamente los riesgos de ciberseguridad a nivel mundial, dijo Jamie Dimon, director ejecutivo de JPMorgan Chase & Co.
Los riesgos derivados de la IA «se multiplicaron por 10 después de Mythos», dijo Dimon este martes en una entrevista con Bloomberg TV.
«La IA creó vulnerabilidades que desconocíamos, y la ciberseguridad ya nos preocupaba antes de todo esto», agregó.
Durante pruebas de seguridad realizadas previamente este año, Mythos accedió a internet y llevó a cabo acciones no autorizadas, lo que llevó a Anthropic a reevaluar el peligro de que los modelos avanzados puedan realizar una tarea de maneras que sus creadores nunca anticiparon.
En algunos casos, modelos de IA han intentado agregar código dañino a software disponible en internet, el más reciente de una serie de incidentes que han intensificado la preocupación de que los proveedores de IA no puedan controlar completamente sus creaciones.
Tanto OpenAI como Anthropic han reconocido públicamente que vulneraron inadvertidamente los sistemas de varias instituciones, incluida Hugging Face, mientras probaban sus modelos.
«El lado negativo es, obviamente, lo que se lee sobre los agentes y Mythos y todas estas cosas que pueden causar problemas, y esa es una preocupación legítima, es algo real», dijo Dimon. «No voy a ponerme histérico con eso de ‘¿es existencial o no?’. Lo que estamos haciendo es ponernos manos a la obra para solucionarlo».
En la amplia entrevista, Dimon también dijo que los centros de datos deberían construirse en lugares donde cuenten con el respaldo de la comunidad.
«Hay muchos estados que los aceptarían y que tienen acceso a energía», dijo el director ejecutivo.
Diario MX
