Enjeux des IA génératives
Ce n'est plus une surprise, les IA génératives du type ChatGPT, Bard, Claude se sont démocratisées et deviennent un élément incontournable d'augmentation de la productivité.
Chez Dastra, nous avons très rapidement cerné l'intérêt pour nos clients de les intégrer à notre produit, mais également dans nos processus interne. Notre objectif est toujours le même pour les membres de l'équipe privacy : réduire le temps passé sur des tâches redondantes au profit des missions de sensibilisation ! Cet article est un petit partage de notre expérience sur le sujet !
Comment trouver les bons cas d'usage d'IA ?
Lancer le projet est relativement simple : nous effectuons une réunion de brainstorming avec quelques clients et un nombre limité de collaborateurs de diverses équipes (commercial, marketing...). C'est un sujet en général très enthousiasmant pour les participants qui ont déjà l'habitude d'utiliser l'IA générative pour de nombreuses tâches. Vous allez très vite vous retrouver avec une quantité importante de projets. Il va donc falloir trouver un moyen de les trier selon certains critères discriminants :
- L'apport de valeur : un score évaluant subjectivement l'apport en productivité à l'utilisateur final. Dans notre cas, nous avons utilisé un score de 1 à 4 très simple.
- Faisabilité : pour calculer un indice de faisabilité, il est nécessaire de prendre en compte la durée de mise en place par les équipes de développement, mais également les contraintes classiques associées aux modèles d'IA (quantité de données à ingérer trop importante, données de sortie trop importante)
- Le niveau de risque : le premier objectif ici est d'évaluer la nature des données qui seront envoyés au modèle afin de l'entraîner ou le requêter. Si ce sont des données personnelles qui sont envoyées, cela représentera un risque important par exemple. Nous suivons également les recommandations de l'AI Act : La loi sur l'intelligence artificielle qui classifie les risques d'un système d'IA selon une échelle de 1 à 4 : Risque limité, risque modéré, risque élevé ou inacceptable.
D'une manière générale, dès lors que l'on utilise ce type d'IA, il est nécessaire de respecter une obligation de transparence. Il sera donc nécessaire de mettre en place différentes mesures afin d'informer les utilisateurs. Cela peut s'intégrer sous forme de page d'aide, d'infobulle ou de texte de bas de page.
Comment fonctionne l'IA ?
Dastra utilise les modèles pré-entrainés d'IA fournis par Azure OpenAI Service et sont hébergés en France. Dans ce cadre, nous ne transférons aucune donnée dans le but d'entraîner cette intelligence artificielle.
Dastra utilise simplement la puissance de l'IA générative pour générer du contenu à partir de simple requête textuelle. Dastra a simplement fourni le modèle de document attendu (json-schema.org) et un exemple de traitement de données (issu de notre bibliothèque) que nous souhaitons avoir et le modèle d'IA s'occupe du reste. Nous transférons uniquement le texte du prompt que vous allez envoyer à l'IA
Dastra ne réalise aucun transfert de données présentes dans votre espace de travail vers le service d'IA. Il est important de préciser que les requêtes textuelles et les résultats du service :
- ne sont PAS disponibles pour d'autres clients et ne sont PAS à la disposition des éditeurs
- ne sont PAS utilisés pour entrainer les modèles du fournisseur de service
- ne sont PAS utilisées pour améliorer les résultats de vos demandes (les modèles sont sans état, sauf si vous affinez explicitement la description à l'origine de la génération).
Pour en savoir plus, vous pouvez consulter notre documentation détaillée sur le fonctionnement de l'IA chez Dastra
Les modèles d'IA utilisés par Dastra
Dastra utilise les modèles GPT 3.5 turbo et GPT 4 développés par OpenAI ainsi que le modèle Mistral Large de Mistral AI. Nous trouvons pertinent d'utiliser des modèles variés pour répondre aux différentes problématiques et utiliser aux mieux les avantages de chaque modèle.
Voici un tableau récapitulatif des modèles utilisés par Dastra :
| Modèle | Version | Avantages | Inconvénients | Cas d’usage |
|---|---|---|---|---|
| GPT | 3.5 Turbo | - Vitesse - Prix |
- Base de connaissance de l'IA vieillissante (avant 2022) - Réponses parfois simplistes - Editeur US |
- Génération d’objet - Chat Bot interne |
| GPT | 4.0 | - Réponses complètes et pertinentes - Fonctionnalités avancées |
- Temps de génération - Hallucinations et réponses ne suivant pas toujours les instructions - Editeur US |
- Génération de message et de reformulation pour les exercices de droits |
| Mistral | Large current | - Qualité des réponses - Editeur français |
Intégration dans Azure moins avancée - Certaines fonctionnalités sont encore expérimentales |
- Génération d’objets - Génération de messages |
| GPT | o | - Vitesse - Prix |
- Base de connaissance de l'IA vieillissante (avant 2022) - Réponses parfois simplistes - Certaines régressions - Editeur US |
- Génération d’objet - Chat Bot interne |
Comment gouverner les usages de l'IA ?
Après avoir conduit les premières expérimentations d'intégration de l'intelligence artificielle au sein du produit. En vue des futures règlementation sur l'IA (IA Act), il nous a semblé intéressant de travailler sur la gouvernance. Il nous a donc semblé essentiel d'effectuer une cartographie simple des usages de l'intelligence artificielle au sein de l'organisation. Cette gouvernance est organisé sous forme de fiche de cas d'usage comprenant les informations suivantes :
- La description détaillée du cas d'usage
- Les personnes concernées (clients, prospects...)
- Le prestataire qui héberge le modèle (un actif logiciel)
- Le ou les modèles d'IA utilisés (GPT4, LLAMA...)
- La nature des données utilisés qui peuvent être de deux type : les données d'entraînement (ou de Fine-tuning) ou les données de requêtage. Il est important de préciser si des données personnelles sont concernées
- La valeur businessapportée par ce cas d'usage (souvent sous forme d'un score de 1 à 4) : une estimation approximative de ce qu'apporte le logiciel aux personnes concernée.
Cela peut se traduire par un schéma sous forme de carte :
En complément de cette cartographie, l'étape suivante sera d'effectuer une première évaluation de risque. Nous aborderons ce sujet dans un prochain article.
Les cas d'usages dans Dastra
En définitive, tout en minimisant la quantité de données envoyé au modèle, nous avons réussi à mettre en place de nombreux cas d'usage au sein de l'application :
La génération de traitement avec IA: en saisissant un texte de description de votre traitement, l'assistant vous proposera un modèle de traitement très proche de la réalité que vous pourrez intégrer à votre registre en un clic.
Documentation des durées de conservation: la puissance de l'IA vous aidera à compléter les textes de description de la conservation des données en base active, archivage intermédiaire en se basant sur la législation de votre pays.
La génération de fiche actif: dans le cadre de la cartographie de données, vous aurez souvent besoin de renseigner une fiche par logiciel utilisé dans l'entreprise. C'est une tâche souvent rébarbative et chronophage. L'assistant IA vous génèrera une fiche actif avec l'ensemble des données embarquées en un clic.
Exemple :
Vous saisissez simplement "Zendesk" :
Vous obtenez le résultat suivant :
Même si le résultat peut être source d'erreur, il vous suffira d'effectuer un petit travail de correction afin de rendre le modèle pertinent par rapport à votre contexte d'utilisation. Cela vous fera gagner un temps considérable. C'est une fonctionnalité aujourd'hui utilisé à grande échelle dans l'application, des centaines de fiche d'actif sont générés tous les jours dans Dastra
Génération de jeux de données : les jeux de données sont des entité regroupant un ensemble de champs de données plus ou moins sensibles. Celui-ci sera automatiquement renseigné avec les durées de conservation en lien avec la réglementation de votre pays
Chatbot des demandes d'exercices de droits: dans le cadre des réponses aux exercices, le système de messagerie automatique fonctionnera comme un chatbot pour répondre automatiquement
Réponses aux questionnaires (PIA, sécurité...) avec IA: cette fonctionnalité actuellement en beta vous permettra de créer des réponses à n'importe quel questionnaire de Dastra à partir d'un certain contexte de données. Exemple : la génération d'une analyse d'impact à partir des informations d'une fiche de traitement de données.
Conclusion
Chez Dastra, nous sommes très fiers de la valeur d'usage que nous avons pu apporter à nos clients avec les modèles d'IA génératifs. C'était en effet une opportunité formidable pour nous : les nouveaux modèles d'IA étaient parfaitement adaptés à notre contexte et les plateformes d'hébergement telles qu'Azure OpenAI nous ont permis de gagner un temps considérable dans l'implémentation (~3 jours homme d'implémentation par cas d'usage).
Cependant, malgré la taille de notre organisation, nous avons très vite perçu la nécessité d'une gouvernance de l'IA efficace et nous avons l'intime conviction que le DPO aura un rôle important à jouer dans ce processus. Un point essentiel à retenir : bien informer les utilisateurs et faire preuve de pédagogie sur ces sujets encore nouveau dans l'esprit de nombreuses personnes, est un facteur indispensable au succès du projet !
Par conséquent, afin de faciliter votre gouvernance des systèmes d'IA, nos équipes de développement sont en train de concevoir un registre des systèmes d'IA vous permettant de gouverner et évaluer les risques de l'IA dans les organisations de toutes les tailles. Cette nouvelle version sera disponible au cours du mois de juin ! 🚀