Anthropic limite l’accès à Claude Mythos, l’IA découvre des vulnérabilités critiques comme OpenBSD

Nouvelles de la porte : message, la société d’intelligence artificielle Anthropic a annoncé limiter l’accès à son nouveau système d’IA Claude Mythos Preview, en raison du fait qu’au cours de tests initiaux, le système a détecté des milliers de vulnérabilités logicielles critiques. Mythos Preview peut identifier des failles de sécurité dans les systèmes d’exploitation, les navigateurs web et les standards cryptographiques courants, suscitant des inquiétudes dans l’industrie quant aux risques potentiels et à l’évolutivité de la technologie d’IA.

Anthropic indique qu’une grande partie des vulnérabilités détectées par le modèle n’avaient pas été découvertes depuis longtemps, notamment une faille présente dans OpenBSD depuis 27 ans, un défaut vieux de 16 ans dans FFmpeg, une faille d’exécution de code à distance affectant FreeBSD depuis 17 ans, ainsi que plusieurs problèmes de sécurité dans le noyau Linux. En outre, des faiblesses existent aussi dans des protocoles cryptographiques tels que TLS, AES GCM et SSH. Des vulnérabilités courantes apparaissent également dans les applications web, comme XSS, l’injection SQL et CSRF. La société souligne que 99 % des vulnérabilités découvertes n’ont pas encore été corrigées, et qu’une divulgation trop précoce des détails pourrait entraîner des risques graves.

Les données du secteur montrent que les cyberattaques pilotées par l’IA devraient augmenter de 72 % d’une année sur l’autre, et que d’ici 2025, 87 % des organisations dans le monde pourraient être confrontées à des menaces d’attaques par l’IA. Anthropic indique que la capacité de l’IA à détecter des zero-day peut, d’une part, accélérer la protection de la sécurité logicielle, mais qu’il existe, d’autre part, un risque d’abus si elle tombe entre les mains de personnes mal intentionnées. Cela rend urgent de savoir comment déployer et contrôler en toute sécurité ce type de technologie.

Anthropic prévoit de corriger les vulnérabilités existantes avec ses partenaires, tout en réduisant les risques potentiels liés à un déploiement plus large. La société estime qu’à long terme, l’IA renforcera la sécurité de l’infrastructure réseau mondiale, rendant les logiciels plus robustes, mais que la période de transition reste semée de défis. La stratégie de limitation de l’accès à Mythos Preview montre que les entreprises équilibrent avec prudence l’innovation technologique et la protection contre la sécurité, afin d’éviter les abus potentiels.

Des experts indiquent que les découvertes de Claude Mythos pourraient contribuer à faire évoluer les pratiques futures de sécurité logicielle, accélérer l’efficacité de la détection et de la correction des vulnérabilités, tout en soulignant que le système mondial de défense réseau doit encore être davantage renforcé pour faire face aux nouvelles menaces introduites par les technologies d’IA.