IA locale ou ChatGPT : protéger les données confidentielles de l’entreprise

Ce que cet article présente :

Utiliser une intelligence artificielle pour résumer un contrat, analyser un dossier client ou rechercher une information interne peut rapidement conduire une entreprise à transmettre des données confidentielles à un service externe.
Faut-il alors interdire ChatGPT et installer systématiquement une IA locale ?
ChatGPT grand public, les offres professionnelles d’OpenAI, l’API et les modèles exécutés sur un serveur privé ne présentent ni les mêmes garanties ni les mêmes contraintes.
Pour une PME de Dijon, le bon choix dépend de la sensibilité des informations, des usages prévus, des compétences techniques disponibles et du niveau de contrôle recherché.
Une solution locale peut apporter davantage de maîtrise, mais elle n’est réellement protectrice que si le serveur, les accès et les documents sont correctement sécurisés.

Utiliser une intelligence artificielle pour résumer un contrat, analyser un dossier client ou rechercher une information interne peut rapidement conduire une entreprise à transmettre des données confidentielles à un service externe. Faut-il alors interdire ChatGPT et installer systématiquement une IA locale ? La réponse est plus nuancée. ChatGPT grand public, les offres professionnelles d’OpenAI, l’API et les modèles exécutés sur un serveur privé ne présentent ni les mêmes garanties ni les mêmes contraintes. Pour une PME de Dijon, le bon choix dépend de la sensibilité des informations, des usages prévus, des compétences techniques disponibles et du niveau de contrôle recherché. Une solution locale peut apporter davantage de maîtrise, mais elle n’est réellement protectrice que si le serveur, les accès et les documents sont correctement sécurisés.

Le choix de l’architecture peut être étudié avec notre agence IA locale implantée à Dijon selon les usages, les contraintes techniques et la sensibilité des données.

IA locale ou ChatGPT : quelle solution pour les données confidentielles ?

Comprendre ce qui arrive aux données transmises à une intelligence artificielle

Lorsqu’un collaborateur copie un texte dans un assistant d’intelligence artificielle, il ne transmet pas uniquement une question. Le contenu peut comporter des informations commerciales, des données personnelles, des éléments contractuels, des identifiants techniques ou des connaissances internes à l’entreprise.

Une simple demande de reformulation peut ainsi contenir :

le nom et les coordonnées d’un client ;
les conditions tarifaires négociées avec un fournisseur ;
un contrat ou un projet qui n’a pas encore été annoncé ;
des informations relatives à un salarié ;
un extrait de code informatique interne ;
des identifiants, des adresses de serveurs ou des journaux techniques ;
des données couvertes par une obligation de confidentialité.

Il faut distinguer les données personnelles des autres informations confidentielles. Une donnée personnelle permet d’identifier directement ou indirectement une personne physique. Une information confidentielle peut, quant à elle, concerner une stratégie commerciale, un procédé technique, un tarif, une négociation ou une organisation interne sans nécessairement identifier une personne.

Le RGPD s’applique lorsqu’un système d’intelligence artificielle traite des données personnelles. La CNIL rappelle que l’utilisation d’un système d’IA doit respecter les principes habituels de protection des données : finalité déterminée, minimisation, information des personnes, durée de conservation, sécurité et respect des droits.

L’entreprise doit également respecter ses engagements contractuels et ses propres règles de confidentialité. Une information peut être interdite de transmission à un prestataire externe même si elle ne constitue pas une donnée personnelle au sens du RGPD.

La première erreur consiste donc à considérer tous les usages de ChatGPT comme identiques. Les conditions applicables dépendent du type de compte et du service utilisé.

ChatGPT avec un espace personnel

Avec un compte personnel ChatGPT Free, Plus ou Pro, les nouvelles conversations peuvent être utilisées pour améliorer les modèles lorsque le réglage correspondant est activé. OpenAI permet de désactiver cette utilisation dans les contrôles de données. Selon son aide officielle, le partage destiné à l’amélioration des modèles est activé par défaut dans les espaces personnels, mais l’utilisateur peut le désactiver dans les paramètres.

Désactiver l’entraînement ne signifie cependant pas que l’entreprise peut déposer sans précaution tous ses documents confidentiels. Les données quittent toujours son infrastructure pour être traitées par un service externe. Il reste nécessaire d’examiner les conditions contractuelles, la conservation, les accès, la localisation du traitement et les obligations liées aux personnes concernées.

Un compte personnel pose également un problème de gouvernance. L’employeur dispose de peu de contrôle centralisé sur les conversations, les comptes utilisés et les documents transmis. Un salarié peut quitter l’entreprise avec un historique conservé dans un espace personnel ou utiliser des fonctions non validées par le responsable informatique.

ChatGPT Business et ChatGPT Enterprise

Les offres professionnelles sont conçues pour fournir davantage de contrôle aux organisations. OpenAI indique ne pas utiliser, par défaut, les données professionnelles de ChatGPT Business, ChatGPT Enterprise et de ses services destinés aux entreprises pour entraîner ses modèles. Ces offres ajoutent également des fonctions d’administration, de gestion des membres et de sécurité.

Cette différence est importante. Elle permet de séparer les usages professionnels des comptes personnels et de définir un environnement administré par l’entreprise. Elle ne dispense toutefois pas d’établir des règles internes concernant les informations autorisées, les droits des utilisateurs et les usages sensibles.

L’API OpenAI

L’API permet à une entreprise ou à son prestataire de construire sa propre interface et d’intégrer le modèle à un logiciel métier. OpenAI précise que les données professionnelles envoyées par l’intermédiaire de l’API ne sont pas utilisées par défaut pour entraîner ses modèles.

La conservation dépend cependant des fonctions et des paramètres employés. La documentation officielle indique que certaines données peuvent être conservées temporairement pour la détection des abus. Des configurations particulières de conservation réduite ou nulle peuvent être proposées aux organisations éligibles et pour certains points d’accès.

L’utilisation de l’API apporte donc davantage de maîtrise qu’un simple copier-coller dans un compte personnel. L’entreprise peut contrôler son interface, limiter les champs transmis, supprimer automatiquement certaines informations et conserver ses propres journaux. Les données sont néanmoins traitées par une infrastructure externe.

Une intelligence artificielle locale

Avec une IA locale, le modèle fonctionne sur un serveur appartenant à l’entreprise ou placé dans un environnement privé qu’elle administre. Les questions, documents et réponses peuvent rester dans ce périmètre, à condition qu’aucun composant ne les transmette à un service externe.

L’entreprise contrôle alors directement le stockage, les utilisateurs, les sauvegardes, les journaux et les connexions réseau. Cette maîtrise constitue un avantage majeur pour des documents sensibles ou soumis à des restrictions contractuelles.

Elle récupère cependant la responsabilité de l’ensemble de la sécurité. Une IA locale installée sur un serveur mal protégé, accessible avec un mot de passe partagé ou exposée directement sur Internet peut être moins sûre qu’un service professionnel correctement administré.

Lorsque les informations ne doivent pas être transmises à une plateforme
publique, l’entreprise peut envisager de déployer une intelligence artificielle locale dans son infrastructure

Comparer IA locale, ChatGPT professionnel et API selon le niveau de confidentialité

Le choix ne doit pas opposer de manière simpliste une IA locale supposée parfaitement sûre à un service en ligne nécessairement dangereux. Chaque architecture présente des avantages, des limites et des risques différents.

Pour des informations publiques ou peu sensibles

Un service ChatGPT peut convenir pour préparer un plan, reformuler un texte public, trouver des idées ou résumer un contenu déjà publié. Dans ce cas, l’enjeu de confidentialité reste faible, à condition de ne pas ajouter involontairement des noms, des coordonnées ou des informations internes.

Une PME peut ainsi utiliser un espace professionnel administré pour rédiger une publication, améliorer une description de produit public ou préparer la structure d’une page Internet.

Même dans ce contexte, les collaborateurs doivent apprendre à relire le contenu généré. La confidentialité n’est pas le seul risque : une IA peut aussi produire une information erronée, inventer une source ou reprendre une consigne de manière incomplète.

Pour des données internes courantes

Les procédures de travail, modèles de courriels, documentations techniques et documents commerciaux internes nécessitent davantage de précautions. Une offre professionnelle comme ChatGPT Business ou Enterprise peut être envisagée lorsque l’entreprise accepte le traitement par un prestataire externe et dispose d’un cadre contractuel adapté.

L’entreprise doit alors vérifier au minimum :

qui peut créer et administrer les comptes ;
si les données sont utilisées pour l’entraînement ;
combien de temps les contenus sont conservés ;
où les données sont stockées ou traitées ;
quels sous-traitants peuvent intervenir ;
comment les données peuvent être supprimées ou exportées ;
quelles fonctions peuvent transmettre des informations à d’autres services.

OpenAI indique que ses offres professionnelles n’utilisent pas les données de l’organisation pour entraîner les modèles par défaut, que les contenus sont chiffrés pendant leur transmission et leur stockage, et que certaines offres permettent des contrôles supplémentaires de conservation et de résidence des données. Les fonctions exactes dépendent du produit et du contrat souscrit.

Une utilisation professionnelle correcte suppose également de désactiver ou d’encadrer les comptes personnels. Sans cette règle, les collaborateurs peuvent continuer à utiliser leur propre compte par habitude, en dehors de l’environnement administré.

Pour une application métier connectée

L’API constitue souvent un bon compromis lorsqu’une entreprise veut profiter d’un modèle externe tout en contrôlant précisément les informations transmises.

Une application peut, par exemple, retirer automatiquement les noms, numéros de téléphone et adresses électroniques avant d’envoyer un texte au modèle. Elle peut aussi limiter la demande à quelques extraits utiles plutôt que de transmettre un dossier complet.

Cette architecture permet de mettre en œuvre le principe de minimisation : seules les données nécessaires à la tâche sont envoyées. Elle facilite aussi la journalisation, la gestion des droits et la validation humaine avant toute action.

Le système pourrait fonctionner ainsi :

un collaborateur sélectionne un document dans l’application interne ;
le programme retire ou remplace certaines données personnelles ;
seul le passage nécessaire est transmis au modèle externe ;
la réponse revient dans l’application ;
un salarié vérifie le résultat avant de l’enregistrer ou de l’envoyer.

Le choix de l’API ne supprime pas les obligations de sécurité. Les clés d’accès doivent être protégées, les journaux limités et les erreurs surveillées. Une clé copiée dans le code d’une page publique peut permettre à un tiers d’utiliser le compte de l’entreprise ou d’accéder à certaines fonctions.

Pour des informations très sensibles

Une IA locale devient particulièrement pertinente lorsque les documents concernent des secrets d’affaires, des configurations de sécurité, des dossiers personnels sensibles, des éléments non publiés ou des données dont le contrat interdit la transmission à un tiers.

Elle peut aussi être choisie lorsque l’organisation souhaite fonctionner sans connexion à Internet ou conserver une autonomie par rapport à un fournisseur.

Une architecture locale peut associer :

un modèle de langage exécuté avec Ollama ;
une base vectorielle Qdrant contenant les documents autorisés ;
une interface interne accessible uniquement aux utilisateurs authentifiés ;
un outil comme n8n pour orchestrer les workflows ;
des sauvegardes séparées et chiffrées ;
une journalisation limitée aux informations nécessaires.

La base documentaire doit être segmentée selon les métiers. Il ne suffit pas que les fichiers restent dans l’entreprise : chaque utilisateur doit uniquement pouvoir interroger les collections correspondant à ses fonctions.

L’ANSSI recommande de conduire une analyse de risque avant le déploiement d’un système d’IA générative et de protéger l’ensemble de son architecture : modèle, données, interfaces, composants logiciels, administration et conditions d’exploitation.

Une installation locale peut notamment être exposée à :

un vol de compte utilisateur ;
une mauvaise configuration réseau ;
une extension ou une dépendance compromise ;
un accès excessif aux documents ;
une sauvegarde non protégée ;
une injection de consignes malveillantes dans un document ;
une fuite par les journaux ou les fichiers temporaires.

L’IA locale n’élimine donc pas le risque. Elle permet surtout à l’entreprise de choisir où il se situe et de mettre en œuvre elle-même les mesures de protection.

Le recours à une architecture hybride

De nombreuses PME n’ont pas besoin de choisir une seule solution. Elles peuvent combiner plusieurs environnements selon la nature des informations.

Les contenus publics ou peu sensibles peuvent être traités dans une offre professionnelle externe. Les documents internes courants peuvent passer par une API avec minimisation des données. Les informations les plus confidentielles restent traitées par un modèle local.

Cette architecture hybride évite de dimensionner un serveur local pour tous les usages. Elle permet également d’utiliser un modèle externe plus puissant lorsqu’aucune donnée sensible n’est concernée.

La difficulté consiste à rendre la règle compréhensible. Les utilisateurs ne doivent pas avoir à effectuer une analyse juridique complexe avant chaque demande. L’entreprise peut prévoir des interfaces séparées ou un système qui sélectionne automatiquement le traitement autorisé en fonction du type de document.

Une architecture privée devient particulièrement utile pour construire un RAG avec Ollama et Qdrant et interroger des documents internes sans les exposer à un service public.

Mettre en place une politique d’utilisation adaptée à la PME

Le choix technique ne suffit pas à protéger les données confidentielles. Une entreprise doit définir une politique d’utilisation précisant les outils autorisés, les informations interdites et les contrôles obligatoires.

La première étape consiste à classer les informations. Une classification simple peut comprendre quatre niveaux :

public : contenu déjà publié ou destiné à l’être ;
interne : information de fonctionnement ne devant pas être diffusée librement ;
confidentiel : donnée commerciale, contractuelle, personnelle ou technique réservée à certaines personnes ;
très sensible : secret, donnée réglementée, mot de passe, clé, dossier médical, information de sécurité ou document dont la fuite aurait des conséquences importantes.

À chaque niveau correspond une règle. Les contenus publics peuvent être traités avec les outils validés. Les contenus internes nécessitent un espace professionnel. Les informations confidentielles peuvent être limitées à une application contrôlée ou à une IA locale. Les secrets, mots de passe et clés privées ne doivent jamais être introduits dans une conversation avec une IA.

La deuxième étape consiste à établir une liste officielle des services autorisés. Il faut indiquer le type de compte, les fonctions permises et le responsable de l’administration.

Une consigne interne peut, par exemple, préciser :

l’interdiction d’utiliser un compte personnel pour des documents professionnels ;
l’obligation d’utiliser l’espace administré de l’entreprise ;
l’interdiction de transmettre des mots de passe ou des clés d’API ;
les catégories de documents réservées au système local ;
l’obligation de vérifier les réponses avant toute utilisation ;
la procédure de signalement en cas de transmission accidentelle.

La troisième étape consiste à gérer les accès. Un assistant connecté aux documents internes ne doit pas offrir davantage de droits que les applications d’origine. Si un utilisateur n’a pas accès à un dossier dans le système documentaire, il ne doit pas pouvoir obtenir son contenu en posant une question à l’IA.

Les comptes doivent être nominatifs, protégés par une authentification multifacteur lorsque cela est possible et supprimés rapidement lors du départ d’un collaborateur.

La quatrième étape concerne la conservation. L’entreprise doit déterminer si elle a réellement besoin de garder toutes les conversations. Un historique complet peut faciliter le travail, mais il crée aussi une nouvelle base contenant potentiellement des informations confidentielles.

La durée de conservation doit correspondre à une finalité. Les journaux techniques peuvent être conservés pour détecter les erreurs et les incidents, tout en évitant d’enregistrer le contenu complet des documents lorsque cela n’est pas nécessaire.

La CNIL rappelle que la sécurité doit être proportionnée à la nature des données, au contexte, aux finalités et aux risques pour les personnes. Elle recommande également de réaliser une analyse d’impact lorsque le traitement est susceptible d’engendrer un risque élevé pour les droits et libertés.

La cinquième étape consiste à préparer les incidents. Un salarié peut transmettre par erreur un fichier dans le mauvais outil. Une clé d’API peut être exposée. Un compte peut être compromis ou une collection documentaire mal configurée.

La procédure doit indiquer :

qui doit être prévenu ;
comment supprimer ou désactiver l’accès concerné ;
comment révoquer les clés et sessions actives ;
quels journaux doivent être conservés ;
comment évaluer les données exposées ;
si le délégué à la protection des données doit intervenir ;
si une notification à la CNIL ou aux personnes concernées est nécessaire.

La sixième étape concerne la formation. Une charte non expliquée sera rarement appliquée. Les collaborateurs doivent comprendre pourquoi une information peut être publique, interne ou confidentielle et savoir quel outil utiliser dans chaque situation.

Des exemples concrets sont plus efficaces qu’une interdiction générale. Il est possible de montrer comment anonymiser un document, remplacer les noms par des identifiants ou limiter la demande à un extrait ne contenant aucune donnée sensible.

L’entreprise doit enfin réviser régulièrement sa politique. Les fonctionnalités, contrats, modèles et conditions de conservation évoluent. Une décision correcte aujourd’hui peut devoir être réexaminée après l’ajout d’un connecteur, d’un nouvel outil ou d’une fonction de mémoire.

Une revue annuelle peut être complétée par une vérification avant tout changement important. Elle doit associer la direction, les métiers, l’informatique, la sécurité et, lorsque le traitement porte sur des données personnelles, le délégué à la protection des données.

Le choix final peut être résumé ainsi :

ChatGPT avec un compte personnel : adapté aux usages personnels ou aux informations non sensibles, mais déconseillé pour les documents professionnels confidentiels ;
ChatGPT Business ou Enterprise : adapté à un usage professionnel encadré, avec administration et absence d’entraînement sur les données de l’organisation par défaut ;
API : adaptée à une intégration métier permettant de limiter et de contrôler les données transmises ;
IA locale : adaptée aux informations les plus sensibles ou aux organisations recherchant une maîtrise directe de leur infrastructure ;
architecture hybride : adaptée aux entreprises souhaitant répartir les usages selon le niveau de confidentialité.

Le choix de la solution doit également tenir compte des règles de
transparence, de documentation et de supervision nécessaires pour préparer l’entreprise à l’application de l’AI Act.

Pour conclure sur : " IA locale ou ChatGPT : protéger les données confidentielles de l’entreprise "

Une IA locale offre une meilleure maîtrise technique des données, mais elle n’est pas automatiquement plus sécurisée. L’entreprise devient responsable du serveur, des mises à jour, des accès, des sauvegardes et de la surveillance. À l’inverse, ChatGPT ne correspond pas à une seule situation : un compte personnel, un espace Business ou Enterprise et une intégration par API présentent des règles et des contrôles différents.

Pour des contenus publics ou peu sensibles, un service externe professionnel peut être suffisant. Pour une application métier, l’API permet de mieux contrôler les informations transmises. Lorsque les données sont fortement confidentielles, soumises à des restrictions contractuelles ou destinées à rester dans l’organisation, une IA locale ou privée devient particulièrement pertinente.

La meilleure solution est souvent hybride. Elle consiste à classer les informations, à réserver les traitements sensibles à l’environnement local et à utiliser des services externes uniquement lorsque le niveau de confidentialité l’autorise.

Quelle que soit l’architecture retenue, la protection repose sur une politique claire : outils autorisés, comptes administrés, accès limités, conservation maîtrisée, validation humaine et procédure en cas d’incident.

Internet Creative Center accompagne les PME de Dijon et de Bourgogne-Franche-Comté dans le choix et le déploiement d’architectures IA locales, privées ou hybrides. Découvrez notre approche sur la page Agence IA à Dijon afin d’identifier les usages pouvant être confiés à un service externe et ceux qui doivent rester dans votre infrastructure.