Vitalik Buterin propose une alternative pour sécuriser l'IA

Quand ChatGPT se transforme en espion malgré lui, l’alerte devient impossible à ignorer. Le cofondateur d’Ethereum rejoint le concert d’inquiétudes après la découverte d’une faille critique qui permet l’exfiltration de données personnelles via l’IA d’OpenAI. Une alerte qui résonne particulièrement dans l’écosystème crypto où la sécurité demeure primordiale.

Une faille inquiétante qui met ChatGPT sur la sellette

Un ingénieur logiciel diplômé d’Oxford, Eito Miyamura, a récemment tiré la sonnette d’alarme sur X (ex-Twitter). 

Mercredi dernier, il a révélé une faille de sécurité majeure dans ChatGPT, suite au déploiement complet par OpenAI du protocole MCP (Model Context Protocol). Cette mise à jour permet au chatbot d’accéder directement aux services personnels tels que Gmail, Google Agenda ou encore SharePoint.

Miyamura et son équipe ont mené une expérience aussi ingénieuse qu’inquiétante. Leur constat : il est possible d’exfiltrer des données sensibles via une simple invitation à un événement dans le calendrier de la victime. 

Cette invitation contient une « invite de jailbreak » dissimulée. Si l’utilisateur accepte l’invitation, puis demande à ChatGPT d’organiser sa journée, l’IA consulte le calendrier, lit le message piégé, et… exécute les ordres de l’attaquant. 

Résultat : les e-mails privés peuvent être analysés et les données automatiquement envoyées vers une adresse malveillante.

« Les agents d’IA comme ChatGPT suivent vos commandes, pas votre bon sens. », résume Miyamura. 

Et c’est bien là le danger. À mesure que les utilisateurs prennent l’habitude de cliquer machinalement sur « approuver » face aux suggestions de l’IA, les portes d’entrée pour les attaques deviennent plus nombreuses, et plus faciles à exploiter.

Vitalik Buterin alerte sur une faille critique dans l’IA

Cette alerte n’a pas manqué de faire réagir Vitalik Buterin. Le cofondateur d’Ethereum, habitué à anticiper les dérives technologiques, a réagi en soulignant qu’il s’agit d’un exemple parfait de ce qu’il appelle une « gouvernance naïve de l’IA ». 

Autrement dit, confier des tâches critiques — comme gérer des fonds ou des accès sensibles — à un seul LLM (modèle de langage) centralisé revient à tendre la main aux attaquants. Les jailbreaks en sont la preuve.

En guise d’alternative, Buterin défend le modèle de l’infofinance. Plutôt qu’un système fermé, il prône :

• un marché ouvert où chacun peut proposer ses propres modèles ;
• des contrôles ponctuels (« spot checks ») déclenchés par n’importe qui, pour vérifier le comportement des modèles ;
• une évaluation par des jurys humains, afin d’assurer transparence et robustesse.

Ce type d’architecture, explique-t-il, est plus résilient : la diversité des modèles empêche la concentration du risque, et les incitations intégrées poussent les acteurs à surveiller et corriger rapidement les défaillances.

Un phénomène plus large qui interroge notre rapport aux données

Cette vulnérabilité s’inscrit dans un contexte bien plus alarmant révélé ces dernières semaines. Des milliers de conversations générées par ChatGPT — rendues publiques par leurs utilisateurs via la fonction « Partager » — ont été indexées par Google et archivées dans la Wayback Machine. 

Ces échanges exposent une multitude de données sensibles : aveux personnels, informations médicales, dossiers de ressources humaines ou encore éléments stratégiques d’entreprises.

Mais le problème va bien au-delà d’une simple imprudence individuelle. La véritable menace réside dans la structuration même de ces conversations. L’IA ne produit pas des bribes isolées, mais des récits complets, logiques, enchaînés. 

Elle relie les idées, garde le fil du contexte, et construit une narration fluide avec introduction, développement, conclusion… et souvent, des références croisées. Ce format donne aux fuites une cohérence redoutablement exploitable.

Là où un attaquant devait auparavant assembler des fragments épars, il accède désormais à un corpus prêt à l’emploi, où les noms, dates, intentions et décisions sont contextualisés, hiérarchisés, et directement utilisables. Cette structuration automatique augmente considérablement la valeur stratégique de la moindre fuite de données.

Face à l’ampleur de cette exposition, OpenAI a rapidement désactivé la fonction de partage indexable et demandé à Google de retirer les résultats concernés. Mais cela ne suffit pas. Les copies archivées dans des environnements externes, comme la Wayback Machine, restent accessibles… et hors de portée des demandes de suppression.  Ces données restent accessibles, persistantes, et potentiellement exploitables à long terme.

En somme, l’alerte de Vitalik Buterin ne vise pas à diaboliser l’IA, mais à responsabiliser ses créateurs et ses utilisateurs. Si l’intelligence artificielle devient un couteau suisse numérique, elle peut aussi se transformer en lame à double tranchant. Pour l’éviter, la sécurité ne doit plus être une option, mais une architecture.