Qui décide de ce que l’IA a le droit de faire ? Une gouvernance qui tient la route au quotidien dans le commerce

Contribution de Sebastian Dahm, Co-CEO de Rinascai, que nous publions avec l’aimable autorisation de l’organisme.

 

Cas pratique 4 sur 4 de la série « Combien coûte votre IA, et que rapporte-t-elle ? » Déjà parus : l’ouverture avec la feuille de route, le cas pratique 1 sur FRITZ!, le cas pratique 2 sur la priorisation et le cas pratique 3 sur Samedo. Prochain article : bilan et perspectives, en conclusion de la série.

 

52 inscrits au comité IA, un CEO qui veut aller vite et une directive que presque personne n’applique au quotidien. Ce dont une entreprise a besoin pour que l’usage de l’IA soit autorisé, encadré et démontrable, en Suisse comme pour les activités dans l’UE.

 

Le fabricant suisse d’articles de marque du cas pratique 2 avait tout ce que recommandent les guides : une directive IA, un comité IA avec 52 inscrits, des formations obligatoires avec attestation et un CEO qui fait avancer le sujet avec détermination. Une question qu’un département finit tôt ou tard par poser montre ce qui manquait malgré tout : avons-nous le droit d’analyser les avis clients avec un modèle de langage ? Tant que personne n’en est responsable et que la directive ne donne pas de réponse, un tel cas reste en suspens. La gouvernance fixe la manière de trancher ce type de question : qui décide, selon quel critère, et où est-ce écrit ? Dans la feuille de route de la série, elle relève des étapes « Fondations » et « Exploitation ».

Ce qui s’applique aujourd’hui, en bref
Le point complet figure au début du cas pratique 1. En bref : en Suisse, c’est avant tout la loi fédérale sur la protection des données (LPD) qui s’applique aujourd’hui aux entreprises, et un projet de réglementation de l’IA destiné à la procédure de consultation est attendu d’ici fin 2026. Les entreprises qui utilisent dans l’UE les résultats de systèmes d’IA, par exemple dans une boutique en ligne destinée à la clientèle de l’UE, sont en outre soumises au règlement européen sur l’IA. Pour les entreprises actives uniquement en Suisse, il n’est pas contraignant, mais constitue une référence utile. Le tableau ci-dessous indique, pour chaque élément, ce qui est obligatoire dans l’UE et ce qui reste recommandé en Suisse. Cette vue d’ensemble ne remplace pas un conseil juridique.

Quatre éléments à la portée d’une PME de 50 collaborateurs

  1. Registre
    La liste de tous les outils, systèmes et cas d’usage d’IA de l’entreprise, validés ou tolérés, avec leur finalité, les données utilisées et une personne responsable. Chez le détaillant spécialisé du cas pratique 2, la liste comptait cinq entrées après le lancement, la plupart liées à des comptes privés. L’inventaire réalisé lors de l’étape « Clarté » en constitue la première version.
  2. Feu tricolore des données
    Il tient sur une page. Vert : autorisé dans tout outil validé, par exemple les descriptions de produits, les prix publiés et les brouillons sans informations internes. Orange : uniquement avec contrat et validation, par exemple les calculs, les contrats et les analyses. Rouge : jamais dans des outils externes sans validation au cas par cas, notamment les données des clients, des collaborateurs et des candidats, ainsi que les secrets d’affaires. Au quotidien, le feu tricolore remplace la directive que presque personne ne lit.
  3. Circuit de validation
    FRITZ! l’a construit sur trois niveaux (cas pratique 1, illustration ci-dessous). Une PME de 50 collaborateurs a besoin, elle, d’une personne dotée d’un pouvoir de décision, d’un point fixe à l’ordre du jour de la séance mensuelle de direction et d’un procès-verbal. Un rythme régulier compte davantage que la taille du comité.
  4. Preuves
    Qui a été formé et quand, quels contenus sont marqués, quels cas ont été validés ou reportés, et ce que les cas validés coûtent et rapportent chaque mois. Ce dernier point, nous le livrons dans chaque mandat dès la mise en œuvre, sous forme de rapport d’impact. C’est ce que le conseil d’administration demande le plus souvent.

Appliqué à la question du début : l’analyse des avis clients est inscrite au registre sous forme de demande, le feu tricolore classe les données (rouge avec les noms des clients, orange sans) et la personne responsable tranche lors de la prochaine séance mensuelle, procès-verbal à l’appui. Un agent comme celui de Samedo suit le même chemin : inscription au registre, classement des données (orange, car sans données personnelles), validation avec procès-verbal.

Ce qui est obligatoire et ce qui est recommandé dépend de la présence ou non de l’entreprise sur le marché de l’UE :

 

Pour une PME de 50 collaborateurs, l’effort peut se chiffrer : deux heures par mois pour la séance de décision de la direction, une mise à jour du registre par trimestre et une formation de deux heures par collaborateur et par an, avec attestation de participation. Les coûts n’augmentent que lorsqu’un cas relève de la catégorie à haut risque, par exemple un outil de sélection des candidats. Dans l’UE, des obligations supplémentaires s’appliquent alors à partir de décembre 2027, notamment en matière de documentation et de contrôle humain, et il faut en tenir compte dans l’évaluation avant le lancement du cas.

L’AI Officer, un rôle externe
Dans les grandes entreprises, un cadre désigné porte la responsabilité de l’IA. Chez la plupart des commerçants, cette personne fait défaut, et personne n’a le temps de s’en charger en plus. C’est pourquoi nous endossons ce rôle de l’extérieur, sur demande : l’AI Officer de Rinascai tient le registre, maintient le feu tricolore à jour, prépare les décisions de validation que la direction prend chaque mois et livre le rapport d’impact, en s’appuyant sur le module AI Officer, un logiciel comprenant registre, cartographie des systèmes et des flux de données, feu tricolore des données, validations et preuves. Chez le fabricant d’articles de marque, les dix cas d’usage y sont saisis, chez le détaillant spécialisé, les deux pilotes.

Check-list pour la direction
Dix questions auxquelles chaque direction peut répondre en une séance. Qui répond non à trois d’entre elles tient là sa liste de tâches pour le prochain trimestre.

  1. Connaissons-nous tous les outils d’IA utilisés dans l’entreprise, comptes privés compris ?
  2. Avons-nous une personne dotée d’un pouvoir de décision sur les nouveaux cas d’usage, et est-elle connue de tous dans l’entreprise ?
  3. Tous nos collaborateurs savent-ils quelles données ils peuvent confier à quel outil ?
  4. Nos outils sont-ils encadrés par contrat : sous-traitance des données, lieu de stockage, utilisation par le fournisseur des données saisies ?
  5. Les données personnelles sont-elles pseudonymisées avant d’atteindre un modèle externe ?
  6. Nos collaborateurs sont-ils formés à l’usage de l’IA, avec attestation (obligatoire dans l’UE depuis février 2025, recommandé en Suisse) ?
  7. Signalons-nous les textes et les images générés par l’IA, et nos chatbots se présentent-ils comme tels ?
  8. Utilisons-nous l’IA dans des décisions relatives au personnel, et si oui, un humain a-t-il le dernier mot ?
  9. Chaque cas d’usage validé a-t-il un responsable, un seuil d’utilité et un critère d’arrêt ?
  10. Savons-nous ce que notre IA a coûté et rapporté le mois dernier ?

Télécharger la check-list en PDF
Les dix questions et le feu tricolore des données sur une page, à imprimer pour la prochaine séance de direction, en français et en allemand.
Télécharger la check-list

 

Pour les membres : cinq jours de clarté gratuits
Pendant la série, nous accompagnons cinq entreprises membres, à raison de cinq jours chacune, sans honoraires et sans engagement. En lien avec ce cas pratique, l’accompagnement comprend : un inventaire des outils d’IA réellement utilisés, un feu tricolore des données pour votre entreprise et une analyse au regard de la loi sur la protection des données, du Code des obligations et, en cas d’activités dans l’UE, du règlement européen sur l’IA, avec un plan d’action pour la direction. Les résultats vous appartiennent. Avec votre accord, nous présentons votre cas sur le blog de l’association.

Pour poser votre candidature : décrivez-nous en trois phrases où en est votre entreprise. Les places sont attribuées par ordre d’arrivée, dans la limite des disponibilités.
Poser ma candidature → sebastian.dahm@rinascai.com, objet « Cinq jours de clarté »

 

Quick-Check IA : où en est votre entreprise ?
Votre niveau de maturité IA en neuf minutes, avec un résultat immédiat et les prochaines étapes prioritaires. Gratuit et sans inscription. Le questionnaire est en allemand.
Faire le Quick-Check →

 

À propos de Rinascai
Rinascai est votre partenaire IA pour le commerce et les biens de consommation. Nous connaissons le métier de nos clients, nous chiffrons le bénéfice, puis nous construisons et exploitons les solutions. L’équipe, établie à Steinhausen (ZG), à Zurich et à Karlsruhe, accompagne depuis plus de dix ans des entreprises du commerce et des biens de consommation, de l’entreprise familiale au grand groupe, et travaille sans dépendre d’un modèle particulier, entre autres avec les plateformes d’Anthropic, d’OpenAI, de Google (Gemini) et de Microsoft (Copilot). Notre démarche compte cinq étapes : Clarté, Focus, Fondations, Mise en œuvre et Exploitation, sur demande avec un AI Officer externe. Rinascai est partenaire de prestation de l’ASSOCIATION DE COMMERCE.swiss.

Contact : Sebastian Dahm, Co-CEO, sebastian.dahm@rinascai.com, rinascai.com (site en allemand et en anglais)

 

 

 

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Top