Quels sont les risques de l’IA générative en entreprise

Les risques de l’intelligence artificielle générative en entreprise sont réels, connus, et pour la plupart traitables avec des moyens ordinaires. Ce qui les rend dangereux n’est pas leur nature : c’est qu’ils se matérialisent en silence, à travers des usages que personne n’a autorisés parce que personne n’a rien décidé.

Cet article passe en revue les cinq risques que nous rencontrons effectivement chez nos clients, avec pour chacun le traitement qui fonctionne.

Risque n° 1 — La confidentialité des données

C’est le risque le plus cité, et celui qui se matérialise le plus souvent — sous une forme banale.

Ce qui se passe réellement

Personne n’exfiltre volontairement des données. Ce qui arrive est plus ordinaire : un commercial colle un contrat client dans un assistant gratuit pour en obtenir un résumé ; une assistante y dépose un tableau de paie pour le reformater ; un ingénieur y soumet un extrait de code contenant une clé d’accès.

Dans chacun de ces cas, le contenu est transmis à un tiers. Sur une offre grand public, il peut être conservé, examiné par des opérateurs humains dans le cadre de contrôles qualité, et selon les conditions d’utilisation servir à l’entraînement.

Pourquoi l’interdiction ne règle rien

Interdire l’usage produit un résultat constant : l’usage continue, sur les téléphones personnels, et vous perdez toute visibilité. Nous n’avons jamais rencontré d’entreprise où l’interdiction avait effectivement supprimé la pratique.

Le traitement qui fonctionne

Fournir une alternative avant d’interdire. Une offre professionnelle, dans laquelle les données ne servent pas à l’entraînement et un contrat de sous-traitance existe, retire l’essentiel du risque sans rien retirer aux équipes.

Classer l’information en trois niveaux, et l’écrire noir sur blanc :

• ce qui peut être soumis sans difficulté : documents publics, contenus déjà diffusés, textes sans donnée personnelle ni élément stratégique ;
• ce qui exige un outil professionnel sous contrat : données personnelles de clients ou de salariés, documents internes, éléments commerciaux ;
• ce qui ne sort pas : secrets industriels, données de santé, éléments couverts par le secret professionnel, identifiants et clés d’accès.

Donner des exemples, pas des principes. « Ne soumettez pas d’informations confidentielles » ne guide personne. « Vous pouvez soumettre une fiche produit du catalogue ; vous ne soumettez pas un contrat signé » guide tout le monde.

Risque n° 2 — Les réponses fausses mais plausibles

C’est le risque le plus spécifique à ces outils, et le plus sous-estimé.

La nature du problème

Ces systèmes produisent le texte le plus vraisemblable, pas le plus exact. Une réponse fausse a donc exactement la même apparence qu’une réponse juste : même ton assuré, même structure, même vocabulaire technique. Aucun signal ne distingue les deux.

Le danger croît avec la compétence apparente : plus le domaine est technique, moins le relecteur est en mesure de repérer l’erreur.

Les cas où cela coûte cher

• une référence réglementaire inventée dans une note transmise à un client ;
• un montant recalculé de travers dans une synthèse financière ;
• une caractéristique produit erronée dans une proposition commerciale ;
• une jurisprudence citée qui n’existe pas.

Le traitement qui fonctionne

Choisir des usages vérifiables. C’est le critère de sélection le plus efficace. Extraire un montant d’une facture se vérifie d’un coup d’œil ; produire une analyse juridique ne se vérifie qu’en refaisant le travail.

Exiger les sources et les rendre cliquables. Un assistant adossé à vos propres documents doit citer le passage sur lequel il s’appuie. Sans citation, la vérification est théorique.

Définir qui contrôle quoi, par écrit. Tout ce qui sort de l’entreprise — proposition, courrier client, document contractuel — passe par une relecture humaine nommément responsable. Tout ce qui reste interne peut être contrôlé par sondage.

Mesurer le taux d’erreur au démarrage. Sur les cent premières unités traitées, comptez les erreurs. C’est ce chiffre, et non une impression, qui doit déterminer le niveau de contrôle durable.

Risque n° 3 — La propriété intellectuelle

Le sujet est moins tranché que les précédents, et évolue avec la jurisprudence.

Les deux questions distinctes

En entrée : avez-vous le droit de soumettre ce document ? Un contrat client contient souvent une clause de confidentialité qui s’applique aux tiers — et le fournisseur d’IA en est un. Un document reçu d’un partenaire n’est pas nécessairement le vôtre.

En sortie : le contenu produit vous appartient-il, et est-il libre de droits ? Les conditions d’utilisation des offres professionnelles vous cèdent en général les droits sur les productions. Cela ne garantit pas que la production ne reproduise pas un contenu protégé, en particulier pour les images.

Le traitement qui fonctionne

Pour les textes commerciaux et internes, le risque est faible et se gère par la relecture ordinaire.

Pour les images destinées à la diffusion publique, la prudence s’impose : évitez la génération d’images pour les supports de marque, ou vérifiez les conditions du fournisseur sur l’indemnisation en cas de recours.

Pour le code, vérifiez que la licence des productions est compatible avec votre usage, et que les outils utilisés n’introduisent pas de dépendances aux licences contraignantes.

Pour les documents de tiers, appliquez la règle simple : si le document porte une clause de confidentialité, il ne sort pas.

Risque n° 4 — La dépendance aux fournisseurs

Risque de moyen terme, rarement anticipé, et coûteux lorsqu’il se réalise.

Ce à quoi on s’expose

Les tarifs de ces services ont augmenté et diminué plusieurs fois en trois ans, les conditions ont changé, des fonctions ont été supprimées. Une entreprise dont un processus critique dépend entièrement d’un fournisseur unique subit ces décisions sans recours.

S’y ajoute un point plus insidieux : le savoir-faire accumulé — instructions, modèles, configurations — est souvent enfermé dans l’outil et ne se transfère pas.

Le traitement qui fonctionne

Conserver vos données et vos instructions chez vous. Vos modèles de prompts, vos bases documentaires et vos configurations doivent exister sous une forme exportable, indépendamment de l’outil.

Éviter les engagements pluriannuels tant que les usages ne sont pas stabilisés.

Vérifier la réversibilité avant de signer : que récupérez-vous si vous partez, sous quel format, en combien de temps ?

Ne pas rendre un processus critique dépendant d’un fournisseur unique sans avoir identifié la procédure de repli — y compris le retour au traitement manuel.

Risque n° 5 — Les usages sensibles, au sens du règlement européen

Le règlement européen sur l’IA classe les systèmes par niveau de risque. La grande majorité des usages d’entreprise relève du risque minimal et n’appelle pas d’obligation particulière au-delà du RGPD.

Deux familles d’usages font exception et méritent une attention réelle.

Le recrutement et l’évaluation des salariés. Tri de candidatures, aide à la décision d’embauche, évaluation de performance, décisions de promotion ou de licenciement : ces usages sont classés à haut risque. Ils s’accompagnent d’obligations d’information des personnes, de supervision humaine effective et de documentation.

Tout ce qui produit une décision individuelle défavorable. Refus d’un dossier, classement d’une demande, notation d’un client : dès qu’une décision affecte une personne, une intervention humaine réelle — pas une validation de façade — est requise.

Le traitement qui fonctionne

Écarter ces usages du premier périmètre. Ils ne sont pas interdits, mais ils ne sont pas le bon terrain d’apprentissage. Il existe assez de sujets à faible enjeu pour commencer ailleurs.

Informer les salariés. Trois obligations reviennent constamment : informer les personnes lorsqu’un outil intervient dans leur travail, consulter les représentants du personnel lorsque l’organisation du travail change, indiquer aux clients lorsqu’une réponse a été préparée automatiquement. Aucune n’est coûteuse ; toutes le deviennent quand on les découvre après coup.

Ce qui protège réellement : le cadre, pas l’outil

Après une trentaine d’accompagnements, notre constat est constant : les entreprises qui rencontrent des incidents ne sont pas celles qui ont choisi le mauvais outil. Ce sont celles qui n’ont rien décidé.

Un dispositif minimal, qui tient en trois éléments et se met en place en quelques semaines :

1. Une charte d’une page, avec des exemples concrets plutôt que des principes généraux, et la classification en trois niveaux.
2. Deux outils autorisés au maximum, en offre professionnelle, avec les contrats correspondants.
3. Un référent identifié, à qui poser la question en cas de doute — le doute non résolu est ce qui produit les décisions les plus risquées.

Une charte lue et appliquée par tout le monde protège infiniment mieux qu’une politique de sécurité de quarante pages que personne n’ouvre.

Questions fréquentes

Faut-il interdire les outils grand public ?

Oui, mais seulement après avoir mis à disposition une alternative professionnelle. Une interdiction sans alternative déplace l’usage vers les appareils personnels et vous en fait perdre la trace.

Les données envoyées servent-elles à entraîner les modèles ?

Sur les offres professionnelles des principaux fournisseurs, non par défaut, et le contrat l’engage. Sur les offres gratuites, souvent oui, ou sous réserve d’une désactivation manuelle que peu d’utilisateurs effectuent. C’est la distinction la plus importante à faire passer aux équipes.

Un assistant interne est-il plus sûr ?

Sur la confidentialité, oui, s’il est hébergé sur votre infrastructure. Sur le risque de réponse fausse, non : il est identique, et parfois plus élevé si la base documentaire est mal tenue.

Que faire en cas d’incident avéré ?

Documenter précisément ce qui a été transmis, à quel service, à quelle date. Si des données personnelles sont concernées, la question d’une notification à la CNIL se pose dans les 72 heures. Puis traiter la cause : un incident est presque toujours le symptôme d’une règle absente, pas d’une faute individuelle.

Faut-il désigner un responsable ?

Une personne identifiée suffit dans une PME — ce n’est pas nécessairement un poste à temps plein. L’essentiel est que les collaborateurs sachent à qui poser la question.

En résumé

Cinq risques méritent d’être traités : la confidentialité, les réponses fausses mais plausibles, la propriété intellectuelle, la dépendance aux fournisseurs et les usages classés sensibles par le règlement européen.

Aucun ne justifie de renoncer, et aucun ne se traite par une interdiction générale. Ce qui protège réellement tient en trois éléments : une charte courte avec des exemples, deux outils professionnels autorisés, et quelqu’un à qui poser la question en cas de doute.