Élaboration de principes éthiques en IA

L’IA transforme la manière dont les universités enseignent et dont les professeurs mènent leurs recherches. Cependant, l’utilisation de l’IA dans l’éducation pose des problèmes cruciaux.

Il s’agit notamment des questions de confidentialité liées à la collecte de volumes importants de données sur les compétences des étudiants. Il existe également la possibilité de biais, conscients ou inconscients, qui peuvent avoir une influence néfaste sur les résultats, etc. Il existe également des préoccupations concernant la qualité des données utilisées ; des données mesurées de manière inexacte ou fabriquées peuvent donner lieu à des résultats erronés et créer une plateforme de prise de décision risquée.

Voir aussi : VMware Cloud sur AWS pour les applications critiques

L'apprentissage supervisé et l'apprentissage non supervisé présentent tous deux des inconvénients. Selon une enquête du Parlement européen, l'ensemble de données d'entraînement pour l'apprentissage supervisé doit être authentiquement représentatif de la tâche à accomplir, sinon l'IA serait biaisée. Les modèles d'apprentissage non supervisé sont prometteurs, mais ils sont difficiles à calculer, car ils nécessitent l'intervention d'un humain qualifié pour modifier et évaluer les résultats.

De nombreux modèles d’apprentissage automatique dans le domaine de l’éducation sont construits à partir de données produites par des humains. Ces modèles ne peuvent toutefois anticiper que ce qu’ils ont été formés à prédire.

Les biais humains dans les données de formation peuvent facilement conduire à des biais informatiques si les développeurs ne les remarquent pas et ne les corrigent pas. L'éthique de l'IA établit des normes morales et des cadres de gouvernance pour guider le développement de l'IA et son application appropriée.

Voici cinq éléments à prendre en compte lors de la mise en œuvre de l’IA dans les programmes universitaires :

• Les cadres décrits ci-dessus étant encore en cours d’élaboration, les établissements universitaires doivent former un conseil d’éthique de l’IA pour garder le contrôle des programmes d’IA et renforcer la confiance dans les outils d’IA parmi les parties prenantes internes et externes. Le comité peut élaborer une feuille de route de l’IA et mettre en évidence les choix cruciaux à faire. Par exemple, quel type de connaissances est requis et quelle gouvernance et quelles normes doivent être établies.
• Il est essentiel de créer des cadres éthiques et de gouvernance explicites pour garantir que les solutions d’IA sont conformes aux normes réglementaires telles que le RGPD.
• Selon McKinsey, l’IA peut contribuer à réduire les préjugés, mais elle peut aussi les ancrer et les amplifier. Selon l’organisme de conseil en gestion, la principale cause du problème réside dans la qualité des données sous-jacentes plutôt que dans les algorithmes. Le prétraitement des données est une étape importante non seulement pour conserver autant de précision que possible, mais aussi pour éliminer les biais et les données non optimales.
• L’efficacité de l’IA dépend de la qualité des données traitées. Il faut s’assurer qu’il n’y a pas de fuites de données dans les opérations de données qui pollueraient les données. Les données doivent également être complètes, sans divergences, sinon les résultats seraient erronés ou inadéquats.
• Créez une infrastructure et des capacités d'analyse dès le début. Une grande quantité de données est nécessaire pour alimenter l'IA et construire des algorithmes d'apprentissage automatique.