Un trio chercheurs en cybersécurité a utilisé Claude Opus 5 d’Anthropic pour exploiter plusieurs failles successives chez OpenAI. En moins de trois jours, leur démonstration leur a permis de passer d’un simple forum public à des comptes de salariés, puis de montrer qu’un de ces accès pouvait potentiellement mener jusqu’à l’environnement GitHub interne de l’entreprise.

Il ne s’agissait pas d’une attaque criminelle. L’équipe de Hacktron AI menait une opération de recherche en sécurité et a volontairement arrêté ses tests dès qu’elle a eu la preuve que la chaîne de vulnérabilités pouvait aller aussi loin.

Tout a commencé sur community.openai.com, le forum public d’OpenAI. Celui-ci fonctionne avec Discourse, un logiciel très répandu pour héberger des communautés en ligne. Lorsqu’un utilisateur envoyait certaines images au format HEIC ou HEIF, le forum faisait appel à plusieurs logiciels pour les lire et les convertir, notamment ImageMagick, puis une bibliothèque open source appelée libheif. C’est dans cette dernière que se trouvait une faille de sécurité.

Concrètement, en envoyant une image spécialement fabriquée pour l’occasion, les chercheurs pouvaient provoquer une erreur dans la mémoire du serveur. Exploitée correctement, cette erreur permettait d’aller beaucoup plus loin qu’un simple plantage. Elle leur permettait d’é d’exécuter à distance du code sur le serveur du forum (RCE). Ce type de faille est particulièrement grave car elle permet à une personne extérieure de prendre le contrôle d’une partie du système visé.

Discourse a depuis confirmé la vulnérabilité, évaluée à 8,8 sur 10 en niveau de sévérité. La faille a été corrigée et le traitement des images davantage isolé afin qu’un problème similaire puisse plus difficilement affecter le reste du système. Mais cette première étape ne donnait pas encore accès aux systèmes internes d’OpenAI.

Les chercheurs ont ensuite découvert une seconde faiblesse, cette fois dans la manière dont le forum communiquait avec les services OpenAI. En contrôlant suffisamment l’environnement du forum, Hacktron affirme avoir pu récupérer des éléments d’authentification associés à certaines personnes connectées. Autrement dit, la faille du forum devenait une porte d’entrée vers certains comptes ChatGPT et Codex, y compris ceux de salariés d’OpenAI.

L’un de ces comptes Codex était lui-même relié à l’organisation GitHub interne de l’entreprise. GitHub est la plateforme sur laquelle les développeurs stockent et modifient leur code. À ce stade, les hackers étaient en mesure d’explorer les fichiers privés d’OpenAI. C’est pourtant un chemin beaucoup plus minimaliste qu’ils ont choisi d’emprunter : une modification inoffensive dans le grand dépôt de code interne de l’entreprise, appelé « monorepo ». De quoi gentiment alerter OpenAI sur la sévérité de ses failles et faiblesses.

Cependant, cette opération n’aurait sans doute pas vu le jour sans l’aide de Claude Opus 5. Hacktron affirme que le nouveau modèle (sorti le 24 juillet) a réussi en quelques heures à produire un exploit fonctionnel sur une architecture ARM64, utilisée notamment par certains processeurs modernes. Il a ensuite aidé les chercheurs à adapter cette technique à l’architecture x86-64 employée dans l’environnement de Discourse.

Cela ne signifie pas que Claude a décidé seul de « hacker OpenAI ». Les chercheurs ont identifié les cibles, orienté les tests et décidé de chaque étape. Le modèle a surtout servi d’assistant extrêmement avancé pour analyser le code, comprendre la vulnérabilité et accélérer la création de l’exploit.

C’est précisément ce qui rend l’expérience intéressante. Des tâches qui demandaient autrefois des compétences très spécialisées et beaucoup de temps peuvent désormais être accélérées par des modèles d’IA capables de raisonner sur du code complexe.

Hacktron a signalé les failles le 25 juillet, forçant OpenAI a prendre des mesures pour renforcer la sécurité de ses services. L’entreprise a finalement versé une prime de 6 500 dollars aux chercheurs le 1er septembre dans le cadre de son programme de bug bounty.

Par Hugo Noirtault

Fondateur de Stack Chronicle, journaliste passé par plusieurs radios locales et nationales (RTL2, Hit West, Euradio, Figaro Radio), c'est au sortir de la crise du COVID que j'ai commencé à m'intéresser pleinement à la tech. Problème, je me suis rapidement aperçu que peu de média créaient des ponts entre la tech, l’IA, la finance, la politique et les enjeux environnementaux. C’est de ce constat qu’est né Stack Chronicle : un média pensé pour permettre aussi bien aux curieux qu’aux lecteurs plus avertis de comprendre les transformations technologiques en cours.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *