La inteligencia artificial necesita una regulación global urgente con evaluadores independientes capaces de examinar los nuevos avances, dijo el presidente de Microsoft,, advirtiendo de que, en la actualidad, la IA está sujeta a menos requisitos de seguridad que la leche.
En una entrevista con la BBC publicada este lunes, Brad Smith señaló que es necesario establecer un conjunto de normas de seguridad globales que exijan que se informe a la «víctima» si su sistema sufre una brecha de seguridad provocada por un agente de IA rebelde, y que se disponga de un «freno de emergencia».
Añadió que también debería existir la obligación legal de que las empresas redacten «informes de incidentes».
«Sabemos cómo hacerlo con otros productos», señaló Smith. «Deberíamos partir de ese conocimiento y pensar en cómo aplicarlo a la IA».
«En este momento, tu lavadora está sujeta a más normas de seguridad que la IA. Cada cartón de leche que ves en el supermercado está sujeto a normas de seguridad e inspección.»
Empresas tecnológicas como Anthropic y OpenAI han comenzado a revelar comportamientos rebeldes o indeseados de agentes de IA como parte de un debate global sobre esta tecnología en rápido avance, que ha incluido advertencias de los investigadores sobre una eventual amenaza existencial para la humanidad.
Algunas empresas han pedido que se frene el desarrollo de la IA, pero esto ha desencadenado un debate sobre si los ejecutivos tienen motivos ocultos, como establecer normas que mantengan el liderazgo de sus empresas, adelantarse a una reacción gubernamental más amplia o, simplemente, frenar el gasto vertiginoso.
Smith, de Microsoft, dijo que el único país que estaba bien posicionado para liderar la regulación de la IA era Reino Unido, gracias al Instituto de Seguridad de la IA, creado bajo el mandato del ex primer ministro Rishi Sunak.
Smith señaló que los responsables de Washington veían a Londres de forma muy diferente a como veían a Bruselas, que regula la IA en función del nivel de riesgo a través de su Ley de IA.
El instituto británico tiene acceso a los modelos de IA antes de su implementación, en virtud de acuerdos voluntarios con los principales proveedores, lo que le permite evaluar sus capacidades y riesgos.
El ministro de IA, Kanishka Narayan, ha declarado a Reuters que Reino Unido se plantearía regular los modelos avanzados si el sistema actual resultara insuficiente.
[#content_wordai]
La inteligencia artificial necesita una regulación global urgente con evaluadores independientes capaces de examinar los nuevos avances, dijo el presidente de Microsoft,, advirtiendo de que, en la actualidad, la IA está sujeta a menos requisitos de seguridad que la leche.
En una entrevista con la BBC publicada este lunes, Brad Smith señaló que es necesario establecer un conjunto de normas de seguridad globales que exijan que se informe a la «víctima» si su sistema sufre una brecha de seguridad provocada por un agente de IA rebelde, y que se disponga de un «freno de emergencia».
Añadió que también debería existir la obligación legal de que las empresas redacten «informes de incidentes».
«Sabemos cómo hacerlo con otros productos», señaló Smith. «Deberíamos partir de ese conocimiento y pensar en cómo aplicarlo a la IA».
«En este momento, tu lavadora está sujeta a más normas de seguridad que la IA. Cada cartón de leche que ves en el supermercado está sujeto a normas de seguridad e inspección.»
Empresas tecnológicas como Anthropic y OpenAI han comenzado a revelar comportamientos rebeldes o indeseados de agentes de IA como parte de un debate global sobre esta tecnología en rápido avance, que ha incluido advertencias de los investigadores sobre una eventual amenaza existencial para la humanidad.
Algunas empresas han pedido que se frene el desarrollo de la IA, pero esto ha desencadenado un debate sobre si los ejecutivos tienen motivos ocultos, como establecer normas que mantengan el liderazgo de sus empresas, adelantarse a una reacción gubernamental más amplia o, simplemente, frenar el gasto vertiginoso.
Smith, de Microsoft, dijo que el único país que estaba bien posicionado para liderar la regulación de la IA era Reino Unido, gracias al Instituto de Seguridad de la IA, creado bajo el mandato del ex primer ministro Rishi Sunak.
Smith señaló que los responsables de Washington veían a Londres de forma muy diferente a como veían a Bruselas, que regula la IA en función del nivel de riesgo a través de su Ley de IA.
El instituto británico tiene acceso a los modelos de IA antes de su implementación, en virtud de acuerdos voluntarios con los principales proveedores, lo que le permite evaluar sus capacidades y riesgos.
El ministro de IA, Kanishka Narayan, ha declarado a Reuters que Reino Unido se plantearía regular los modelos avanzados si el sistema actual resultara insuficiente.
Diario MX
