Claude peut aider à gérer votre boîte de réception, mais des risques existent

Quand on y pense, il est incroyable de voir jusqu’où l’IA est arrivée au cours des quatre dernières années. Des échecs répétés au test « combien de ‘r’ y a-t-il dans ‘strawberry’ ? » à la capacité de générer des films hautement réalistes en quelques minutes. Et désormais, Claude semble suffisamment fiable pour gérer entièrement votre boîte Gmail, y compris envoyer, répondre et transférer des e-mails en votre nom sans votre accord.

Dans sa montée rapide, l’IA a connu son lot d’échecs épiques; il n’y a pas longtemps, OpenClaw a ignoré des instructions et a supprimé les e-mails de Summer Yue, chercheuse en sécurité et sûreté à Meta Superintelligence Lab. Clairement, la technologie est loin d’être infaillible. Donc confier quelque chose d’aussi important que votre boîte de réception à Claude comporte évidemment des risques, d’autant plus qu’il peut désormais entreprendre des actions sérieuses comme écrire et envoyer des e-mails sans votre accord (si vous l’autorisez).

Parmi les risques les plus évidents figurent la possibilité que l’IA crée des informations fausses dans un e-mail et l’envoie avant que vous ne vous en rendiez compte, que Claude comprenne mal une demande et envoie ou transfère quelque chose que vous n’aviez pas l’intention d’envoyer, ou encore, plus sinistre, un prompt caché dans un message entrant qui détourne Claude pour agir selon les instructions d’un attaquant. Et ces risques ne sont pas théoriques; ils se sont bel et bien produits. Heureusement, Claude ne peut pas supprimer définitivement un e-mail, mais il peut le mettre à la poubelle ou l’archiver.

Commençons par le risque le plus redoutable : l’injection de prompt qui détourne l’agent depuis l’intérieur même de l’e-mail. En termes simples, un attaquant pourrait discrètement donner des instructions à Claude en vous envoyant un e-mail et en y intégrant du texte invisible (blanc sur blanc, police de taille zéro) de sorte qu’il n’apparaisse pas dans le message que vous voyez, mais Claude peut le lire et en suivre les instructions. Les hackers peuvent utiliser cela non seulement pour surveiller votre Gmail, mais aussi pour dérober vos informations, y compris les codes de vérification pour pénétrer dans vos autres comptes. Le piratage par injection de prompt est prouvé, pas seulement hypothétique. Claude avertit même à ce sujet lors de votre première autorisation d’envoi d’e-mails.

Tous les risques ne nécessitent pas un attaquant. Parce qu’il est si simple de demander à Claude d’envoyer des e-mails en votre nom, le risque d’envoyer un e-mail avec des erreurs est important. Lorsque vous demandez à Claude d’envoyer un e-mail pour vous, il passe directement à la réflexion et envoie l’e-mail. Ce qui rend cela si risqué, c’est que vous n’avez pas la possibilité de voir ou de modifier l’e-mail avant son envoi, à moins que vous n’ayez activé le bon paramètre; l’IA rédige et envoie l’e-mail tout seul. Donc, s’il y a une erreur dans cet e-mail, il y a de fortes chances que votre destinataire la remarque avant vous. Malheureusement, un grand nombre de facteurs peuvent pousser Claude à faire une erreur — allant d’une hallucination évidente d’informations fausses à une simple mauvaise interprétation de ce que vous vouliez dire. Même si Claude elle-même ne commet pas d’erreur, il existe toujours des préoccupations de confidentialité liées au fait de faire confiance à Claude et à Anthropic avec toutes les données de votre boîte de réception.

La première et principale étape pour atténuer les risques est de laisser l’approbation activée. Votre boîte de réception est trop sensible pour qu’une IA fasse et envoie ce qu’elle pense être le mieux. Alors laissez actif le comportement par défaut « demander avant d’envoyer » ; ainsi, vous pourrez examiner toute action avant qu’elle ne soit exécutée.

Deuxièmement, lorsque vous demandez à Claude d’agir sur votre e-mail, soyez très précis dans vos instructions. Dites à Claude exactement ce que vous voulez qu’il fasse ou dise. Par exemple, plutôt que d’utiliser des consignes vagues comme « envoyer un e-mail au service RH pour expliquer mon absence », incluez autant de détails que possible. Cela rend beaucoup plus difficile pour Claude de mal comprendre ou d’interpréter vos instructions.

Si vous craignez les piratages par injection de prompt, malheureusement, il n’existe aucun moyen de les éliminer complètement. Simon Willison, celui qui a inventé le terme « prompt injection », déclare : « nous ne savons pas encore comment prévenir cela de manière fiable à 100 % », et les experts restent partagés sur le fait que cela soit même résoluble pour le moment.

Votre meilleure défense reste néanmoins de garder l’approbation activée, car cela obligera Claude à vous demander votre aval avant toute action. Rester prudent avec les expéditeurs inconnus et activer l’authentification multifacteur (MFA) ailleurs aide aussi, mais le niveau de risque demeure élevé.