Chez 360Learning, notre engagement en matière de conformité et de sécurité s'applique également au développement de nos fonctionnalités d'Intelligence Artificielle. Nous sommes convaincus que l'IA doit être développée de manière responsable, en mettant l'accent sur la transparence, la sécurité et l'éthique. Voici nos engagements pour une IA responsable. Vous pouvez en savoir plus sur nos engagements pour une IA responsable ici ↗
Politique et contenu de notre technologie d’IA
Quel fournisseur de système d'IA alimente les fonctionnalités de 360Learning ?
Chez 360Learning, nous utilisons Microsoft Azure OpenAI Service pour fournir des capacités d'IA avancées. Ce service nous donne accès à des modèles puissants tels que GPT-4, GPT-4o et leurs variations, tout en bénéficiant de la sécurité et des fonctions de confidentialité de niveau entreprise d'Azure. Nous mettons fréquemment à jour ces modèles afin de vous garantir des résultats de la plus haute qualité. En outre, pour nos clients de la solution « Skills », nous utilisons des modèles personnalisés. Ces modèles sont construits à partir des données de chaque client et sont combinés avec Azure OpenAI pour offrir une expérience véritablement personnalisée.
D’où proviennent le contenu et les résultats générés par l’IA ?
Les résultats et le contenu sont générés à l'aide de workflows propriétaires conçus par 360Learning. Ces workflows utilisent plusieurs modèles du service Microsoft Azure OpenAI et sont souvent mis à jour pour garantir des résultats de haute qualité. Le contenu est créé directement à partir de vos données (données d'entrée, documents téléchargés) dans notre environnement sécurisé.
Comment les données que je partage avec l’IA sont-elles utilisées ?
Les données que vous partagez avec notre système d'IA sont utilisées uniquement pour produire les résultats que vous demandez. Cela comprend :
- La création de contenu : Génération de contenus d'apprentissage, de modules, de textes, de questions et de quiz.
- Les tâches administratives : Faciliter la traduction, le « tagging » et le support sur la plateforme.
- L’expérience apprenant : Recommandations de contenu, recherche intelligente et parcours d'apprentissage adaptatif.
- De nouvelles méthodes d’apprentissage : Retour d'information sur les réponses de l'apprenant.
Vos données et les résultats générés par l'IA sont traités conformément aux dispositions de Microsoft Azure en matière de confidentialité et de sécurité.
Confidentialité, hébergement et propriété des données
Le système d’IA héberge-t-il les données que je partage ? Où sont-elles hébergées ?
Oui, les données que vous partagez, telles que les données d'entrée, sont temporairement stockées pour une durée maximale de 30 jours, dans le but de fournir les services du contrat. Ces données sont stockées dans des centres de données Microsoft Azure sécurisés en Europe. Nous avons également la capacité de stocker les données localement en fonction des besoins du client.
Les données client sont-elles utilisées pour entraîner les modèles OpenAI ?
Non. Nous n’améliorons ni n'entraînons les modèles OpenAI à l'aide de vos données. Les modèles que nous utilisons sont des modèles prêts à l'emploi d'Azure OpenAI, accessibles via leur API. Cela signifie que vos données ne sont :
- pas disponibles pour d'autres utilisateurs ;
- pas disponibles pour OpenAI ;
- pas utilisées pour entraîner les modèles d’OpenAI ;
- pas utilisées pour améliorer les produits ou services de Microsoft ou de tiers.
Les flux de données sont uniquement entrants pour fournir le service demandé. Aucune donnée de la connaissance publique de l'IA n'est partagée en retour. Vos données sont exclusivement utilisées pour l'exécution des services fournis par 360Learning.
Mes données seront-elles partagées avec des tiers ?
Non. Vos données sont exclusivement utilisées pour l'exécution des services fournis par 360Learning. Nous ne partageons pas vos données avec des tiers. Microsoft Azure est un sous-traitant de confiance qui traite vos données strictement dans le but de nous fournir le service Azure OpenAI, dans le cadre de notre contrat existant et en conformité avec l'accord de traitement des données à caractère personnel.
Comment gérez-vous la séparation et la confidentialité des données des clients ?
Vos données sont conservées de manière strictement séparée. Chaque plateforme client a ses propres systèmes dédiés, et il n'y a pas de partage de données entre les plateformes. Les données sont traitées et hébergées dans les centres de données Microsoft Azure. L'accès aux fonctionnalités d'IA et aux données utilisées est contrôlé par des matrices de rôles, ce qui garantit que seuls les utilisateurs autorisés peuvent accéder aux informations importantes. Les données des clients restent la propriété du client, ne sont pas vendues ou divulguées à des tiers, et sont pseudonymisées conformément aux exigences du RGPD.
Le client est-il propriétaire du contenu généré à partir de ses données d'entrée ?
Oui. Vous, en tant que client, possédez toutes les données et le contenu générés à partir de vos données d'entrée dans la plateforme 360Learning. Cela inclut tout contenu créé à l'aide de nos fonctions d'intelligence artificielle. Ce contenu est créé pour votre usage exclusif au sein de votre plateforme.
Fonctionnalités de l’IA et Assurance qualité
Comment ces fonctionnalités d'IA s'intègrent-elles dans la plateforme ?
Nos fonctionnalités d'IA sont intégrées de manière transparente pour enrichir votre expérience de création de contenu et d'apprentissage. À l'heure actuelle, nos fonctions d'IA générative sont utilisées pour :
- La création de contenu : Générer des cours, des textes et des quiz à partir de vos documents.
- Les tâches administratives : Aide à la traduction et au tagging.
- L’expérience apprenant : Recommandations de contenu personnalisées et capacités de recherche intelligente.
- De nouvelles méthodes d’apprentissage : Retour d'information sur les réponses de l'apprenant. Vos données et les résultats générés par l'IA sont traités conformément aux dispositions de Microsoft Azure en matière de confidentialité et de sécurité.
Comment les données sont-elles traitées pour élaborer des recommandations de contenu ?
Le modèle utilisé pour générer des recommandations de contenu est LightFM, un modèle open-source. Pour se conformer à la réglementation sur la confidentialité des données, le modèle a été formé avec des données anonymes, comprenant: ID de l'utilisateur, ID de l'élément (pour les cours ou les parcours d'apprentissage), Langue de l'élément, ID du groupe et ID de l'étiquette. Chaque plateforme client dispose de son propre modèle dédié, entraîné sur ses propres données. Cela garantit qu'il n'y a pas de mélange de données entre les différentes plateformes.
Pour garantir la qualité, le modèle n'est pas auto-apprenant. Chaque mise à jour que nous effectuons est une évolution standard qui fait l'objet d'un suivi et de tests minutieux avant d'être mise à disposition.
Quels types de contenu votre IA peut-elle traiter ?
Actuellement, nos fonctionnalités d'IA sont capables de gérer la génération de texte à texte. Notre équipe explore activement la multi-modalité pour prendre en charge les entrées et sorties telles que la parole, les images et les vidéos dans un futur proche.
Comment s'assurer que le contenu généré par l'IA est correct et exempt d'erreurs ? Comment éviter les biais et les hallucinations ?
Nous avons mis en œuvre plusieurs mesures pour garantir la qualité et la sécurité du contenu généré par l'IA :
- Filtres de contenu : Nous utilisons les filtres « élevés » et les fonctionnalités de contrôle fournis par Microsoft Azure OpenAI.
- Surveillance : Nous surveillons de près les générations et bloquons les contenus non conformes. Nos systèmes incluent des workflow pour détecter les contenus sensibles.
- Révision : Bien que nous nous efforcions d'être précis, des erreurs peuvent se produire. Les utilisateurs peuvent voir un avertissement dans les modules contenant du contenu généré par l’IA. Nous encourageons vivement les utilisateurs à examiner et à vérifier tous les contenus générés avant de les publier.
- Vérification de la conformité : Nous avons mis en place une fonction de vérification de la conformité accessible aux administrateurs de la plateforme pour un contrôle supplémentaire.
- Atténuation des biais : Nous utilisons les filtres de contenu natifs d'Azure OpenAI pour réduire les biais et disposons de workflow pour garantir l'alignement avec nos normes éthiques et juridiques.
Comment contrôlez-vous et suivez-vous les performances, la fiabilité et les biais ?
Nous avons développé un tableau de bord de surveillance avancé avec nos partenaires Datadog et Microsoft. Ce système envoie des alertes en temps réel sur les problèmes liés aux biais, à la performance et à la fiabilité, ce qui nous permet d'aborder de manière proactive tout problème et de garantir une expérience utilisateur cohérente.
Juridique et gouvernance
L'utilisation de l'IA par 360Learning est-elle conforme au RGPD ?
Oui. Nous utilisons la technologie OpenAI de Microsoft Azure, et Microsoft Azure est déjà l'un de nos sous-traitants en conformité avec le RGPD. L'utilisation de ses services OpenAI ne modifie pas les dispositions du contrat et de l'accord de traitement des données à caractère personnel (DPA) que nous avons mis en place.
Connaissez-vous le réglement européen sur l'IA ? Avez-vous effectué une évaluation de la conformité de l'IA ?
Oui. Nous suivons de près les dernières réglementations, y compris le règlement européen sur l'IA (AI Act). Avec le soutien de nos experts juridiques internes et de nos conseillers externes, nous avons effectué une analyse et déterminé que notre système d'IA entre dans la catégorie des systèmes d'IA à risque limité, car il ne présente pas de risques significatifs pour les droits fondamentaux des personnes. Nous suivons activement les recommandations des autorités réglementaires afin de garantir une conformité totale dans les délais impartis.
Avez-vous mis en place une gouvernance interne liée à l'utilisation de l'IA ?
Oui. Nous avons mis en place une charte interne sur l'utilisation de l'IA qui établit des lignes directrices claires pour l'utilisation responsable et éthique de l'intelligence artificielle au sein de notre groupe. Nous développons également des programmes de formation interne et de la documentation pour former nos employés aux meilleures pratiques, dans le cadre des obligations prévues par le règlement européen sur l'IA.