Anthropic lanza un plan global de ciberseguridad Glasswing; ¿por qué el nuevo modelo Mythos no se ofrece al público en general?

Anthropic 最近 anunció que lanzó un nuevo modelo de IA, Claude Mythos Preview, y al mismo tiempo puso en marcha un plan de ciberseguridad defensiva llamado «Project Glasswing». Dado que la capacidad de este modelo para descubrir vulnerabilidades de software supera ampliamente la tecnología existente, Anthropic decidió no publicar el lanzamiento al público por el momento, y solo otorgó acceso autorizado para su uso a 40 gigantes tecnológicos y empresas de infraestructura, incluidos Apple y Google, entre otros, con el fin de evitar que las capacidades del modelo caigan en manos de actores malintencionados.

Anthropic lanza Claude Mythos Preview, dotando a la IA de capacidades de ciberseguridad

El anuncio posiciona a Claude Mythos Preview como un modelo de IA de uso general; gracias a sus sobresalientes capacidades de codificación y razonamiento, logra un desempeño asombroso en el ámbito de la seguridad en la red.

Anthropic afirma que, en pruebas internas de las últimas semanas, Mythos Preview ya ha identificado en todos los sistemas operativos y navegadores principales miles de vulnerabilidades zero-day (vulnerabilidades de día cero) que nunca se habían detectado, muchas de las cuales se han clasificado como de alto riesgo; algunas vulnerabilidades incluso han permanecido ocultas en el sistema durante décadas.

Uno de los casos consiste en que Mythos Preview identificó y aprovechó de forma totalmente autónoma una vulnerabilidad de ejecución remota de código presente en el sistema operativo FreeBSD desde hace 17 años, lo que permite que personas no autorizadas obtengan control completo del servidor desde cualquier ubicación en la red.

Anthropic subraya que, de las vulnerabilidades que se han descubierto hasta ahora, más del 99% todavía no se ha corregido, por lo que no es posible divulgar detalles relacionados de manera pública.

Project Glasswing: corregir sistemas clave globales antes que los atacantes

Para que las capacidades de Mythos Preview sirvan a la defensa y no al ataque, Anthropic inició el plan Project Glasswing. El nombre del proyecto se inspira en la imagen de la mariposa alas de vidrio, y simboliza la característica «fina e invisible» con la que las vulnerabilidades de software, como las alas de una mariposa, pueden pasar desapercibidas.

Los socios colaboradores principales incluyen Amazon Web Services, Apple, Broadcom, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia y otros, además de 40 organizaciones responsables de construir o mantener infraestructura crítica de software que recibieron la autorización de acceso al modelo.

Anthropic se compromete a proporcionar hasta 100 millones de dólares en cuotas de uso del modelo, para que las empresas participantes lo utilicen de forma gratuita durante la fase de investigación de ciberseguridad, y además donará 4 millones de dólares a organizaciones de seguridad de código abierto, incluidos fondos para Alpha-Omega y OpenSSF a través de Linux Foundation, así como donaciones a la Apache Software Foundation. Los socios compartirán los resultados de las pruebas, para que toda la industria tecnológica se beneficie.

El dilema de espada de doble filo: ¿por qué Anthropic se niega a publicar en abierto?

El responsable del equipo de ciberseguridad de Anthropic, Newton Cheng, expresó claramente que no planea abrir Claude Mythos Preview al uso del público general, debido a la preocupación por su riesgo potencial de ataque:

A medida que las capacidades de la IA continúan evolucionando rápidamente, tarde o temprano herramientas tan poderosas se difundirán entre los actores malintencionados; una vez que ocurra, se producirán impactos severos en la economía, la seguridad pública y la seguridad nacional.

La responsable de gestión de productos de investigación de Anthropic, Dianne Penn, señaló que está trabajando con el gobierno de Estados Unidos en discusiones de cooperación, incluyendo entidades como la Agencia de Ciberseguridad y Seguridad de la Infraestructura de Estados Unidos (CISA) y el Centro para Estándares e Innovación en IA, entre otras.

Cabe destacar que el momento de este anuncio coincide con la controversia de seguridad que estalló entre Anthropic y el Departamento de Defensa de Estados Unidos, semanas antes, sobre el uso seguro del modelo Claude; hasta ahora, ambas partes todavía tienen disputas legales.

(Anthropic demanda al Pentágono: lista negra que podría provocar pérdidas de decenas de miles de millones de dólares y dañar gravemente la capacidad de recaudación de fondos)

Dario Amodei: La IA hará el mundo de la red más seguro, pero el período de transición está lleno de desafíos

Anthropic reconoce que proteger la infraestructura global de la red podría requerir varios años, y que el período de transición también estará lleno de variables. Sin embargo, la empresa mantiene una postura cautelosamente optimista respecto al futuro a largo plazo, y prevé que la capacidad defensiva de la IA finalmente obtendrá el papel dominante, ayudando a construir un ecosistema de software más seguro.

Anthropic también planea, en la próxima serie de modelos Claude Opus, introducir primero mecanismos de protección de ciberseguridad para salidas de alto riesgo; una vez que la tecnología madure, impulsará gradualmente el despliegue a escala de modelos de nivel Mythos. Tal como dijo el CEO de la empresa, Dario Amodei, en X:

Una vez que lo hagamos bien, tendremos la oportunidad de construir un Internet y un mundo más seguros que antes de que surgieran capacidades de ataque a la red impulsadas por IA.

Este artículo, sobre por qué Anthropic lanza un plan global de ciberseguridad Glasswing y por qué el nuevo modelo Mythos no se abre al uso del público, aparece por primera vez en Cadena News ABMedia.