Auditer un fournisseur IA pour l'e-commerce

Réponse rapide

Auditer un fournisseur IA consiste à vérifier une chaîne de preuves, pas à remplir un questionnaire déclaratif. Pour chaque exigence, il faut savoir qui affirme, quel document le démontre, quel test le confirme, quelle clause l’impose et qui surveille son maintien.

La première étape n’est pas la comparaison des modèles. Elle consiste à définir le service exact : cas d’usage, utilisateurs, données, décisions, actions autorisées, territoires, version, intégrations et procédure d’arrêt.

Quatre niveaux de preuve

Niveau	Exemple	Valeur	Limite
Déclaration	réponse commerciale ou page web	ouvre une vérification	non opposable ou périmètre incertain
Document	politique, rapport, certificat, liste de sous-traitants	décrit un contrôle et une date	peut couvrir une autre entité ou offre
Test	essai reproductible sur l’environnement client proposé	mesure un comportement observable	reste borné au jeu et à la version
Contrat	clause, annexe sécurité, DPA, SLA	répartit obligations et recours	ne prouve pas l’efficacité technique

Une exigence critique doit idéalement combiner document, test et contrat. Une réponse « oui » sans pièce ni périmètre reste non vérifiée, pas conforme par défaut.

1. Identité et périmètre du service

Vérifier l’entité contractante, le service, la région, le modèle, la version, les options activées et les composants tiers. Demander une architecture des flux qui montre : navigateur, API, journaux, stockage, outils appelés, support, sauvegardes et sous-traitants ultérieurs.

Questions bloquantes :

• quelle entité reçoit les données et dans quels pays ?
• le modèle est-il dédié, mutualisé, routé ou remplacé dynamiquement ?
• quelles fonctions peuvent changer sans accord ?
• quelles actions le service peut-il déclencher dans le catalogue, le SAV, le paiement ou la commande ?
• quel identifiant permet de relier une sortie à une version et une configuration ?

Une marque connue ne prouve ni l’environnement client, ni le sous-processeur, ni le modèle réellement utilisés.

2. Données, finalités et réutilisation

La CNIL indique que la qualification de responsable de traitement ou de sous-traitant dépend des finalités et moyens réels et doit être appréciée au cas par cas. Un fournisseur peut avoir un rôle différent selon qu’il exécute les instructions du client ou réutilise les données pour ses propres finalités.

Construire une matrice par flux :

Flux	Données autorisées	Finalité	Stockage	Réutilisation	Suppression
entrée utilisateur	catégories et champs précis	tâche définie	durée et région	oui, non ou à confirmer	délai et preuve
contexte récupéré	catalogue, commande, base SAV	réponse ou action	cache et journaux	idem	idem
sortie	texte, score, recommandation	usage interne ou externe	historique	entraînement ou évaluation	export et effacement
télémétrie	identifiants, erreurs, coûts	exploitation du service	région et durée	analyse fournisseur	règle documentée

Le CEPD rappelle dans son avis 28/2024 que l’anonymat d’un modèle doit être apprécié au cas par cas et étayé, notamment face aux risques d’extraction ou d’inférence. Une affirmation générique selon laquelle « le modèle ne contient pas de données » ne clôt donc pas l’analyse.

3. Sécurité et chaîne de sous-traitance

La fiche CNIL sur la sous-traitance demande au responsable de connaître les mesures de sécurité mises en œuvre et d’obtenir des garanties suffisantes. L’audit doit couvrir :

• authentification, habilitations et séparation des environnements clients ;
• chiffrement en transit et au repos selon le risque ;
• gestion des secrets et des connecteurs ;
• journalisation, accès support et conservation ;
• tests de sécurité et suivi des vulnérabilités ;
• notification, qualification et coopération en cas d’incident ;
• sous-traitants ultérieurs, préavis de changement et droit d’opposition lorsque applicable ;
• sauvegarde, restauration, continuité et arrêt d’urgence.

Un rapport d’audit périmé ou expurgé peut rester utile, mais il faut noter ce qu’il ne permet pas de vérifier. L’absence de document ne vaut pas absence de contrôle ; elle rend la preuve non mesurable.

4. Qualité, limites et évaluation

Le NIST AI RMF propose de gouverner, cartographier, mesurer et gérer les risques tout au long du cycle de vie. Pour un achat, cela implique un protocole d’évaluation réexécutable.

Le jeu de test doit couvrir cas courants, exceptions, entrées ambiguës, contenu interdit, langues utilisées et tentatives de détourner le système. Pour chaque exemple, conserver l’entrée autorisée, le résultat attendu, la sortie, la version et la décision humaine.

Mesurer au minimum :

• erreurs par type, pas seulement une moyenne ;
• faux positifs et faux négatifs lorsque le système classe ;
• citations ou preuves réellement récupérables ;
• stabilité sur plusieurs exécutions si elle est nécessaire ;
• temps humain de contrôle et de correction ;
• échecs d’outil, délais, indisponibilités et coûts ;
• capacité à refuser ou à escalader plutôt qu’inventer.

Le dossier Cas d’usage IA : valeur et risque fournit la structure du pilote. Un benchmark du fournisseur mesure éventuellement son environnement, pas le catalogue, la langue et les règles de l’acheteur.

5. Autorité et supervision humaine

Lister séparément ce que l’outil peut lire, proposer, rédiger et exécuter. Une permission technique ne constitue pas une autorisation métier.

Pour chaque action, définir :

1. les préconditions ;
2. la personne ou la règle qui autorise ;
3. les limites de montant, volume et objet ;
4. le journal et les preuves ;
5. le délai de détection ;
6. l’annulation ou la compensation possible.

Un « humain dans la boucle » n’est pas un contrôle si la personne ne dispose pas du temps, du contexte ou du pouvoir d’arrêter l’action.

6. Normes et certifications : contrôler le périmètre

ISO/IEC 42001:2023 est une norme internationale de système de management de l’IA. Elle porte sur l’établissement, la mise en œuvre, la maintenance et l’amélioration d’un système de management dans une organisation.

Si le fournisseur présente un certificat, vérifier l’organisme, la validité, l’entité, les sites, les produits et exclusions couverts. Même valide, ce certificat ne prouve pas à lui seul l’exactitude d’une sortie, la conformité RGPD du flux client, la sécurité d’un connecteur ou la qualité du cas d’usage. Cette limite découle du périmètre d’une norme de management, pas d’un défaut de la norme.

7. Contrat, coût et sortie

Le contrat et ses annexes doivent traiter au minimum :

• description du service et responsabilités ;
• données autorisées, finalités et interdictions de réutilisation ;
• sous-traitants, régions et transferts ;
• sécurité, audit, incident et coopération ;
• versions, changements matériels et préavis ;
• niveaux de service et exclusions ;
• propriété intellectuelle, réclamations et contenus ;
• export dans un format exploitable, délai de suppression et attestation ;
• assistance de transition et sort des intégrations ;
• structure complète de facturation et plafonds configurables.

La réversibilité se teste avant signature : exporter configuration, journaux, évaluations et données utiles ; remplacer les accès ; restaurer le processus précédent ; faire supprimer une copie de test. Une promesse de portabilité non exercée reste déclarative.

Grille de décision

Verdict	Condition
poursuivre le pilote	preuves suffisantes sur les exigences bloquantes, test possible et sortie praticable
poursuivre sous réserve	écart borné, propriétaire et date de correction contractuelle
limiter le périmètre	valeur possible mais données, actions ou populations trop sensibles
refuser	finalité incompatible, réutilisation incontrôlée, sécurité non vérifiable ou absence de sortie

Le statut « sous réserve » doit expirer. Sans preuve à la date prévue, il devient un refus ou une réduction de périmètre.

Le dossier sur les cookies, le consentement et la mesure complète les traitements côté navigateur. La conformité e-commerce européenne aide à replacer l’IA parmi les autres obligations du parcours.

Inconnues à conserver

La conformité juridique, le coût complet, la qualité en production et la charge humaine restent propres à l’environnement client et au cas d’usage. Un audit documentaire peut préparer la décision ; seul un test borné et réconcilié mesure le comportement réel. Même après signature, chaque changement matériel de modèle, données, sous-traitant ou capacité doit rouvrir les contrôles concernés.

Historique

• 23 août 2026 : création et vérification à partir du NIST, du CEPD, de la CNIL, d’ISO et du règlement européen sur l’IA.