Un agent IA peut-il se tromper ?
Oui. Un modèle de langage, le programme qui rédige pour l’agent, produit le texte le plus plausible au regard de ce qu’il lit, de sorte que, lorsqu’une information lui fait défaut, il peut en énoncer une qui paraît exacte sans l’être : un montant, une date, une clause, une disponibilité.
Le coût d’une erreur dépend de ce que l’agent est autorisé à faire : un brouillon erroné allonge la relecture, alors qu’un courriel envoyé ou une fiche modifiée sans contrôle expose vos clients à l’erreur. Quatre mesures, prises dès la conception, en limitent la portée :
- Accorder à l’agent des droits en lecture seule (consulter sans rien modifier) tant que ses résultats n’ont pas été mesurés, puis ne lui ouvrir le droit de modifier vos données qu’au terme d’une période d’essai.
- Maintenir une validation humaine avant tout envoi destiné à l’extérieur.
- Lui imposer pour seules sources vos tarifs, vos conditions et vos documents, avec pour consigne de s’arrêter pour vous alerter lorsque l’information n’y figure pas.
- Constituer un jeu d’essais, série de cas réels servant de test, puis le rejouer à chaque modification des consignes ou du modèle.
Que prévoit le RGPD lorsqu’un agent traite des données personnelles ?
Un agent qui lit des courriels, des fiches clients ou des candidatures traite des données personnelles. Le règlement général sur la protection des données (RGPD) s’applique donc, et trois de ses dispositions appellent une attention particulière :
- L’article 28 régit la sous-traitance. Le prestataire qui construit ou exploite l’agent traite les données pour votre compte ; l’éditeur du modèle intervient comme sous-traitant ultérieur, ce qui requiert votre autorisation écrite préalable. Il convient d’obtenir la liste de ces sous-traitants et le lieu où les données sont traitées.
- L’article 22 encadre la décision automatisée : toute personne a le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé lorsque celle-ci produit des effets juridiques à son égard ou l’affecte de manière significative. Un agent qui écarterait seul une candidature entrerait dans ce cadre.
- L’article 9 interdit en principe, sauf exceptions limitées, le traitement des catégories particulières de données, comme les données de santé ou biométriques.
En pratique, il convient de ne transmettre au modèle que les données nécessaires à la tâche, de fixer une durée de conservation pour ce que l’agent enregistre et d’inscrire le traitement au registre des activités de traitement, le document qui recense les usages de données personnelles.
Vos informations confidentielles sont-elles exposées ?
Selon l’article L151-1 du code de commerce, une information n’est protégée au titre du secret des affaires que si son détenteur légitime prend des « mesures de protection raisonnables » pour en préserver le caractère secret. Confier des tarifs négociés, des conditions contractuelles ou des listes de clients à un outil dont vous ignorez les conditions d’utilisation peut fragiliser cette protection. Il convient donc de n’employer que des comptes d’entreprise couverts par un contrat qui exclut l’entraînement, c’est-à-dire le perfectionnement, des modèles sur vos données, et de restreindre les dossiers que l’agent peut consulter à ceux dont il a besoin.
Quelles obligations le règlement européen sur l’intelligence artificielle impose-t-il ?
Le règlement (UE) 2024/1689, dit « AI Act », distingue le fournisseur, qui développe un système d’IA, du déployeur, c’est-à-dire l’entreprise qui l’utilise sous sa propre autorité. Il a été modifié par le règlement (UE) 2026/1744 du 8 juillet 2026, publié au Journal officiel le 24 juillet 2026, qui a notamment reporté les obligations relatives aux systèmes à haut risque. Ses dates d’application sont les suivantes :
Dates d’application pertinentes pour une PME, d’après la version consolidée publiée par la Commission européenne| Date | Dispositions applicables |
|---|
| 2 février 2025 | Pratiques interdites et maîtrise de l’IA par le personnel (chapitres I et II) |
|---|
| 2 août 2025 | Règles applicables aux modèles d’IA à usage général (grands modèles polyvalents) |
|---|
| 2 août 2026 | Application générale, notamment des obligations de transparence de l’article 50 |
|---|
| 2 décembre 2026 | Marquage des contenus générés par les systèmes mis sur le marché avant le 2 août 2026 (article 50, paragraphe 2) |
|---|
| 2 décembre 2027 | Systèmes à haut risque de l’annexe III, dont le recrutement et la sélection des candidats |
|---|
| 2 août 2028 | Systèmes à haut risque intégrés à des produits réglementés (annexe I) |
|---|
Pour la plupart des agents déployés dans une PME, l’obligation la plus tangible découle de l’article 50 : un système destiné à interagir directement avec des personnes doit être conçu de telle sorte qu’elles sachent s’adresser à une IA, sauf lorsque cela est évident. Un agent qui répond seul à vos clients doit donc s’identifier comme tel. Un agent chargé de trier des candidatures relève quant à lui des usages à haut risque énumérés à l’annexe III.
Le règlement de 2026 a par ailleurs assoupli l’article 4 : au lieu de garantir un niveau suffisant de maîtrise de l’IA par leur personnel, fournisseurs et déployeurs doivent désormais prendre des mesures pour la favoriser, sans niveau déterminé.
Comment prévenir la dérive des coûts et la dépendance à l’égard d’un fournisseur ?
Les appels au modèle étant facturés à l’usage, un traitement qui se répète sans fin, un volume inattendu ou un document très long peuvent multiplier la facture mensuelle. Chez Anthropic, chaque niveau de compte comporte un plafond mensuel de dépense, et l’entreprise peut fixer dans la console, l’espace d’administration du compte, sa propre limite, plus basse ; une fois celle-ci atteinte, les appels sont refusés jusqu’au mois suivant ou jusqu’à ce que la limite soit relevée.
La dépendance tient d’abord au modèle : les éditeurs retirent régulièrement leurs anciennes versions, et un appel adressé à un modèle retiré échoue. Anthropic s’engage à prévenir au moins 60 jours avant le retrait d’un modèle public ; il a, par exemple, retiré Claude Haiku 3.5 le 19 février 2026. Elle tient ensuite au prestataire : si l’agent n’existe que dans son outil ou sur son serveur, en changer impose de tout reconstruire. Trois exigences, posées dès la signature, permettent de maîtriser l’une et l’autre :
- Fixer un plafond de dépense, assorti d’une alerte déclenchée avant qu’il soit atteint.
- Exiger que le modèle utilisé soit nommé dans la documentation et que tout changement de modèle soit éprouvé sur le jeu d’essais avant d’être appliqué.
- Obtenir par écrit le droit à l’export de l’agent, de sa documentation et de la liste des accès à révoquer au terme du contrat.
Quelles précautions exiger avant la mise en service ?
Liste de contrôle
Avant toute mise en service, trois éléments sont nécessaires : une fiche de cadrage, document qui décrit ce que l’agent lit, ce qu’il décide et ce qu’il est autorisé à faire ; une validation humaine préalable aux envois destinés à l’extérieur, sauf exception convenue par écrit ; un journal de chaque action, que vous pouvez consulter. S’y ajoutent un contrat de sous-traitance, une mention de l’IA pour les personnes qui échangent avec l’agent, un plafond de dépense, un moyen d’interrompre l’agent et un droit à l’export.
Comment Nodva applique-t-elle ces précautions ?
Les précautions exposées dans ce guide figurent dans notre charte publiée : relecture humaine des documents générés, identification des agents auprès de vos clients, contrat de sous-traitance conforme à l’article 28 du RGPD signé avant tout accès à vos données, remise sans frais de l’export, de la documentation et de la liste des accès à révoquer à la fin de l’abonnement. Par défaut, tout envoi destiné à l’extérieur est soumis à la validation de vos équipes ; un envoi automatique n’est mis en place qu’avec leur accord écrit. Les données de santé relèvent d’un cadre spécifique et font l’objet d’une étude séparée.