Anthropic presentó el martes una versión más rápida y económica de su modelo estrella de inteligencia artificial, que también calificó como la «más segura», en su primer lanzamiento desde que su director ejecutivo pidiera a la industria que ralentizara el desarrollo tecnológico.
La compañía de San Francisco afirmó que el modelo Opus 5.5 obtuvo el mejor rendimiento en sus pruebas de seguridad internas más rigurosas hasta la fecha, y que era menos propenso que los modelos anteriores a realizar acciones irreversibles o a salirse de los límites establecidos. En una nueva prueba, el modelo intentó salirse de su entorno de prueba aproximadamente un 85 % menos a menudo que los modelos anteriores, según la compañía.
Anthropic también afirmó haber protegido el modelo contra ataques informáticos, investigaciones biológicas y de IA, redirigiendo automáticamente las solicitudes que se detectan como de uso indebido a un modelo anterior con mayores restricciones. La compañía añadió que evaluadores externos habían revisado el modelo.
«Opus 5.5 es nuestro modelo más seguro en la mayoría de las métricas de alineación», afirmó la compañía . La «alineación» es la ciencia que enseña a la IA a actuar de acuerdo con las preferencias, la ética y el juicio humanos.
La industria de la IA atraviesa un periodo de gran incertidumbre pública. Dario Amodei, director ejecutivo de Anthropic , y otros directivos advirtieron recientemente que los sistemas que estaban desarrollando podrían escapar al control humano, a raíz de una serie de incidentes en los que modelos de IA de laboratorios líderes se salieron de sus entornos de prueba y hackearon empresas. Anthropic ha revelado brechas de seguridad que involucran a sus propios modelos.
En una carta abierta de 3800 palabras publicada el 12 de septiembre, el Dr. Amodei afirmó que las empresas de IA deben frenar el rápido avance de las capacidades de esta tecnología, argumentando que su desarrollo se está acelerando más allá del control de los investigadores. Instó a «controlar el ritmo» de la tecnología y sugirió que los gobiernos de todo el mundo colaboren para coordinar la forma de lograrlo.
En una publicación de blog sobre el nuevo modelo, publicada el martes, Anthropic declaró: «A medida que nuestros modelos se vuelven más potentes, las medidas de seguridad más estrictas son una forma de evitar que las nuevas capacidades se conviertan en herramientas para el mal uso».
Según la compañía, Opus 5.5 también cuesta un 40 % menos de operar y es un 30 % más rápido que su predecesor. Anthropic añadió que lanzará versiones más económicas de otros dos modelos de IA en las próximas semanas, mientras se prepara para salir a bolsa con una valoración que podría alcanzar los 2 billones de dólares, en lo que podría ser la mayor oferta pública inicial de la historia.
[#content_wordai]
Anthropic presentó el martes una versión más rápida y económica de su modelo estrella de inteligencia artificial, que también calificó como la «más segura», en su primer lanzamiento desde que su director ejecutivo pidiera a la industria que ralentizara el desarrollo tecnológico.
La compañía de San Francisco afirmó que el modelo Opus 5.5 obtuvo el mejor rendimiento en sus pruebas de seguridad internas más rigurosas hasta la fecha, y que era menos propenso que los modelos anteriores a realizar acciones irreversibles o a salirse de los límites establecidos. En una nueva prueba, el modelo intentó salirse de su entorno de prueba aproximadamente un 85 % menos a menudo que los modelos anteriores, según la compañía.
Anthropic también afirmó haber protegido el modelo contra ataques informáticos, investigaciones biológicas y de IA, redirigiendo automáticamente las solicitudes que se detectan como de uso indebido a un modelo anterior con mayores restricciones. La compañía añadió que evaluadores externos habían revisado el modelo.
«Opus 5.5 es nuestro modelo más seguro en la mayoría de las métricas de alineación», afirmó la compañía . La «alineación» es la ciencia que enseña a la IA a actuar de acuerdo con las preferencias, la ética y el juicio humanos.
La industria de la IA atraviesa un periodo de gran incertidumbre pública. Dario Amodei, director ejecutivo de Anthropic , y otros directivos advirtieron recientemente que los sistemas que estaban desarrollando podrían escapar al control humano, a raíz de una serie de incidentes en los que modelos de IA de laboratorios líderes se salieron de sus entornos de prueba y hackearon empresas. Anthropic ha revelado brechas de seguridad que involucran a sus propios modelos.
En una carta abierta de 3800 palabras publicada el 12 de septiembre, el Dr. Amodei afirmó que las empresas de IA deben frenar el rápido avance de las capacidades de esta tecnología, argumentando que su desarrollo se está acelerando más allá del control de los investigadores. Instó a «controlar el ritmo» de la tecnología y sugirió que los gobiernos de todo el mundo colaboren para coordinar la forma de lograrlo.
En una publicación de blog sobre el nuevo modelo, publicada el martes, Anthropic declaró: «A medida que nuestros modelos se vuelven más potentes, las medidas de seguridad más estrictas son una forma de evitar que las nuevas capacidades se conviertan en herramientas para el mal uso».
Según la compañía, Opus 5.5 también cuesta un 40 % menos de operar y es un 30 % más rápido que su predecesor. Anthropic añadió que lanzará versiones más económicas de otros dos modelos de IA en las próximas semanas, mientras se prepara para salir a bolsa con una valoración que podría alcanzar los 2 billones de dólares, en lo que podría ser la mayor oferta pública inicial de la historia.
Diario MX
