Les systèmes de machines intelligentes améliorent nos vies en optimisant la logistique, en détectant les fraudes, en créant des œuvres d’art, en effectuant des recherches et en effectuant des traductions. À mesure que ces systèmes améliorent leurs capacités, notre monde devient plus efficace et, par conséquent, plus riche.
Alphabet, Amazon, Facebook, IBM et Microsoft, ainsi que des personnalités telles que Stephen Hawking et Elon Musk, estiment que le moment est venu de débattre du domaine pratiquement illimité de l’intelligence artificielle. À bien des égards, il s’agit d’une nouvelle frontière pour l’éthique et l’évaluation des risques, tout comme pour les technologies en plein essor. Quelles sont donc les préoccupations et les discussions qui empêchent les spécialistes de l’IA de dormir ?
Voir aussi : La start-up Fintech TrueLayer lève 70 millions de dollars
1. Chômage
La hiérarchie du travail est largement liée à l’automatisation. À mesure que nous développons des méthodes d’automatisation des tâches, nous pouvons libérer de l’espace pour que les individus puissent assumer des responsabilités plus complexes, passant du travail physique qui dominait le monde préindustriel à la prestation cognitive qui définit le travail stratégique et administratif dans notre société mondialisée.
Prenons l’exemple du transport routier : il emploie des millions de personnes aux États-Unis. Que leur arrivera-t-il si les camions autonomes d’Elon Musk deviennent largement accessibles au cours de la prochaine décennie ? La même chose pourrait arriver aux employés de bureau et au reste de la main-d’œuvre mondiale. Cependant, les camions autonomes sont une décision éthique compte tenu du risque réduit d’accidents.
Cela nous amène à la question de la manière dont nous allons passer notre temps. La plupart des gens dépendent encore de la vente de leur temps pour subvenir à leurs besoins et à ceux de leur famille. Cette option permettra aux individus de trouver un sens à leurs activités non professionnelles, comme prendre soin de leur famille, participer à des activités communautaires et découvrir de nouvelles façons de contribuer à la civilisation humaine.
Si nous réussissons à traverser cette période difficile, nous pourrons un jour regarder en arrière et penser que c’était une véritable barbarie de la part des humains d’avoir été contraints de vendre la majeure partie de leur temps éveillé pour survivre.
2. Inégalités
Notre système économique est fondé sur la rémunération des contributions à l’économie, qui est souvent mesurée à l’aide du salaire horaire. En ce qui concerne les biens et les services, la plupart des entreprises dépendent encore du travail horaire. Cependant, en utilisant l’intelligence artificielle, une entreprise peut réduire considérablement sa dépendance au travail humain, ce qui se traduit par une diminution du nombre de personnes recevant de l’argent. En conséquence, ceux qui possèdent des entreprises pilotées par l’IA gagneront tout l’argent.
Nous constatons déjà une disparité croissante des richesses, les fondateurs de start-ups récoltant une part disproportionnée du surplus économique qu'ils génèrent. En 2014, les trois plus grandes entreprises de Détroit et les trois plus grandes sociétés de la Silicon Valley généraient à peu près les mêmes revenus... Seule la Silicon Valley comptait dix fois plus de travailleurs.
Comment pouvons-nous organiser une économie post-travail juste si nous envisageons une société post-travail ?
3. L'humanité
Les robots d’intelligence artificielle sont de plus en plus aptes à simuler les interactions et les relations humaines. Eugene Goostman, un robot, a remporté le Turing Challenge pour la première fois en 2015. Les évaluateurs humains utilisaient une saisie de texte pour interagir avec une entité inconnue dans cette tâche, puis évaluaient s’ils conversaient avec un humain ou un ordinateur. Eugene Goostman a dupé plus de la moitié des évaluateurs humains en leur faisant croire qu’ils parlaient avec quelqu’un.
Ce n’est que le début d’une ère dans laquelle nous traiterons systématiquement avec les ordinateurs comme s’il s’agissait d’êtres humains, que ce soit dans le service client ou dans la vente. Alors que les humains sont limités dans le temps et l’attention qu’ils peuvent consacrer à une autre personne, les robots artificiels peuvent consacrer des ressources presque infinies au développement de connexions.
L’addiction à la technologie est le futur de l’humanité. Même si peu d’entre nous en sont conscients, nous voyons déjà comment les robots peuvent activer les centres de récompense du cerveau humain. Prenons l’exemple des titres à appâts à clics et des jeux vidéo. Ces titres sont souvent ajustés à l’aide de tests A/B, une optimisation algorithmique de base du contenu pour attirer notre attention. Cette technique et d’autres rendent de nombreuses vidéos et jeux mobiles addictifs.
D’un autre côté, nous pouvons créer une autre utilisation pour les logiciels qui ont déjà démontré leur efficacité à orienter l’attention humaine et à initier des activités particulières. Lorsqu’ils sont appliqués correctement, ces logiciels peuvent faire évoluer la société vers un comportement plus souhaitable. Cependant, entre de mauvaises mains, ils peuvent s’avérer dangereux.
4. Folie artificielle
L'apprentissage est la source de l'intelligence, qu'il s'agisse d'une personne ou d'un ordinateur. Les systèmes passent souvent par une phase d'apprentissage au cours de laquelle ils « apprennent » à reconnaître les modèles corrects et à se comporter en réponse à leurs entrées. Une fois qu'un système a été complètement formé, il peut entrer dans la phase de test, au cours de laquelle il est soumis à davantage d'instances et ses performances sont évaluées.
Le processus de formation ne peut couvrir que certains scénarios auxquels un système serait confronté dans le monde réel. Ces systèmes peuvent être dupés d’une manière dont les humains ne peuvent pas. Des motifs de points aléatoires, par exemple, peuvent amener un système à « voir » des objets qui n’existent pas. Si nous dépendons de l’IA pour nous faire entrer dans une nouvelle ère de travail, de sécurité et d’efficacité, nous devons nous assurer que la machine fonctionne comme prévu et que les humains ne peuvent pas la manipuler à leurs propres fins.
5. Biais de l'IA
L'intelligence artificielle est beaucoup plus rapide et plus efficace que les humains, mais on ne peut pas toujours lui faire confiance pour être juste et impartiale. Google et sa société mère, Alphabet, font partie des leaders de l'intelligence artificielle, comme le montre Google Photos qui utilise l'IA pour reconnaître des personnes, des objets et des décors. Cependant, cela peut mal tourner, par exemple lorsque la sensibilité raciale d'un appareil photo est désactivée ou lorsque le logiciel utilisé pour prédire les futurs délinquants fait preuve de préjugés envers les personnes noires.
Il ne faut pas oublier que les systèmes d’IA sont conçus par des humains, qui peuvent être biaisés et porter des jugements. Une fois encore, l’intelligence artificielle peut catalyser des changements bénéfiques si elle est utilisée correctement ou par des personnes qui souhaitent une amélioration de la société.
6. Sécurité
Plus une technologie devient puissante, plus elle peut être utilisée pour le bien comme pour le mal. Cela vaut non seulement pour les robots conçus pour remplacer les troupes humaines ou les armes autonomes, mais aussi pour les systèmes d'intelligence artificielle qui pourraient être nuisibles s'ils étaient mal utilisés. Étant donné que ces batailles ne se dérouleront pas uniquement sur le champ de bataille, la cybersécurité deviendra encore plus cruciale. Après tout, nous travaillons avec un système qui est bien plus rapide et plus compétent que le nôtre.
7. Les méchants du génie
Et si l’intelligence artificielle devenait hostile à notre égard ? Il ne faut pas se préoccuper uniquement de nos rivaux. Il ne s’agit pas de devenir « mauvais » comme le ferait une personne ou de devenir « catastrophique » comme le montrent les films hollywoodiens. Il faut plutôt envisager un système d’IA puissant comme un « génie dans une bouteille », capable de satisfaire des désirs mais avec des effets imprévus et désastreux.
Dans le cas d’un ordinateur, il y a probablement une intention malveillante, simplement un manque de connaissance du contexte complet dans lequel la demande a été formulée. Prenons l’exemple d’un système d’intelligence artificielle chargé d’éradiquer le cancer sur toute la planète. Après de nombreux calculs, il produit une formule qui permet d’éradiquer le cancer – en tuant tous les habitants de la Terre. La machine aurait facilement atteint son objectif de « plus de cancer », mais pas de la manière prévue par les humains.
8. Singularité
Les humains sont au sommet de la chaîne alimentaire pour d’autres raisons que leurs dents acérées et leurs muscles puissants. La supériorité humaine est en grande partie due à notre inventivité et à notre intelligence. Nous pouvons vaincre des animaux plus gros, plus rapides et plus forts en construisant et en utilisant des instruments pour les contrôler, tels que des cages et des armes, et des techniques cognitives, telles que l’entraînement et le conditionnement.
Cela soulève une question importante concernant l'intelligence artificielle : l'IA aura-t-elle un jour le même avantage sur l'humanité ? On ne peut pas non plus compter sur le simple fait de « débrancher » l'ordinateur, car un ordinateur suffisamment évolué peut prévoir cette manœuvre et se protéger. Certains parlent de « singularité » : le moment où l'homme ne sera plus l'espèce la plus intelligente de la planète.
Voir aussi : Plaid, une société de technologie financière, lève 425 millions de dollars en financement de série D
9. Privilèges du robot
Alors que les neuroscientifiques tentent toujours de percer les mystères de l’expérience consciente, nous en apprenons davantage sur les principes fondamentaux de la récompense et de l’aversion. D’une certaine manière, nous développons des processus de récompense et d’aversion analogues dans les systèmes d’intelligence artificielle. Même les créatures les plus simples possèdent ces systèmes. L’apprentissage par renforcement, par exemple, est analogue au dressage des chiens dans la mesure où un comportement accru est récompensé par une récompense virtuelle.
Ces systèmes sont aujourd'hui assez superficiels mais deviennent de plus en plus complexes et réalistes. Pourrions-nous considérer qu'un système souffre lorsque ses mécanismes de récompense fournissent une rétroaction négative ? De plus, les algorithmes génétiques fonctionnent en construisant simultanément plusieurs instances du système, seules les plus efficaces « survivant » et en les combinant pour générer la génération suivante d'instances. Cela se produit sur plusieurs générations et constitue une méthode d'amélioration du système. Les instances qui échouent sont supprimées. Quand considérons-nous que les algorithmes génétiques sont une sorte de meurtre de masse ?
Il n'y a pas grand-chose à faire pour examiner leur situation juridique lorsque nous acceptons les machines comme des créatures capables de perception, d'émotion et d'action. Devons-nous les traiter comme s'il s'agissait d'animaux intelligents ? Allons-nous réfléchir à la douleur que provoque le fait de « ressentir » les machines ?
Certains problèmes éthiques concernent la réduction de la souffrance, tandis que d’autres concernent le risque de résultats désagréables. En réfléchissant à ces dangers, nous devons également nous rappeler que les progrès technologiques impliquent généralement une vie meilleure pour tous. L’intelligence artificielle est une promesse énorme, et il nous appartient de l’utiliser de manière responsable.
Image en vedette : Image de pch.vector
Abonnez-vous à Whitepapers.online pour en savoir plus sur les nouvelles mises à jour et les changements apportés par les géants de la technologie qui affectent la santé, le marketing, les affaires et d'autres domaines. De plus, si vous aimez notre contenu, partagez-le sur les plateformes de médias sociaux comme Facebook, WhatsApp, Twitter, etc.