L’IA n’est pas réellement une menace existentielle pour l’humanité, selon des scientifiques

Nous rencontrons l’intelligence artificielle (IA) tous les jours. L’IA décrit des systèmes informatiques capables d’effectuer des tâches qui requièrent normalement l’intelligence humaine. Lorsque vous effectuez une recherche sur l’internet, les premiers résultats que vous voyez sont décidés par l’IA.

Les recommandations que vous recevez de vos sites d’achat ou de streaming préférés sont également basées sur un algorithme d’IA. Ces algorithmes utilisent l’historique de votre navigateur pour trouver des choses qui pourraient vous intéresser.

Les recommandations ciblées n’étant pas particulièrement excitantes, la science-fiction préfère dépeindre l’IA comme des robots super-intelligents qui renversent l’humanité. Certains pensent que ce scénario pourrait un jour devenir réalité. Des personnalités notables, dont le regretté Stephen Hawking, ont exprimé leur crainte quant à la façon dont l’IA future pourrait menacer l’humanité.

Pour répondre à cette préoccupation, nous avons demandé à 11 experts en IA et en informatique : “L’IA est-elle une menace existentielle pour l’humanité ?”82 % des personnes interrogées ont répondu qu’il ne s’agissait pas d’une menace existentielle. Voici ce que nous avons découvert.

Sommes-nous sur le point de créer une IA plus intelligente que nous ?

L’IA qui existe actuellement est appelée IA “étroite” ou “faible”. Elle est largement utilisée pour de nombreuses applications comme la reconnaissance faciale, les voitures à conduite autonome et les recommandations sur Internet. Elle est définie comme “étroite” parce que ces systèmes ne peuvent apprendre et exécuter que des tâches très spécifiques.

Ils accomplissent souvent ces tâches mieux que les humains – Deep Blue a été la première IA à battre un champion du monde d’échecs en 1997 – mais ils ne peuvent appliquer leur apprentissage à autre chose qu’une tâche très spécifique (Deep Blue ne peut jouer qu’aux échecs).

Un autre type d’IA est appelé intelligence générale artificielle (AGI). Elle est définie comme une IA qui imite l’intelligence humaine, y compris la capacité de penser et d’appliquer l’intelligence à de multiples problèmes différents. Certaines personnes pensent que l’AGI est inévitable et qu’elle se produira de façon imminente dans les prochaines années.

Matthew O’Brien, ingénieur en robotique à l’Institut de technologie de Géorgie, n’est pas de cet avis : “L’objectif tant recherché d’une “IA générale” n’est pas à l’horizon. Nous ne savons tout simplement pas comment créer une intelligence générale adaptable, et il n’est pas évident de savoir combien de progrès supplémentaires sont nécessaires pour y parvenir”.

Comment une IA future pourrait-elle menacer l’humanité ?

Bien que l’on ne sache pas exactement quand ou si l’intelligence artificielle apparaîtra, peut-on prévoir la menace qu’elle pourrait représenter pour nous, les humains ? L’AGI apprend de l’expérience et des données au lieu de recevoir des instructions explicites. Cela signifie que, lorsqu’elle est confrontée à une nouvelle situation qu’elle n’a jamais vue auparavant, nous ne pouvons pas toujours prévoir complètement sa réaction.

Roman Yampolskiy, informaticien de l’université de Louisville, estime également qu'”aucune version du contrôle humain sur l’IA n’est réalisable”, car il est impossible pour l’IA d’être à la fois autonome et contrôlée par l’homme. L’impossibilité de contrôler des systèmes super-intelligents pourrait être désastreuse.

Yingxu Wang, professeur de sciences logicielles et cérébrales à l’université de Calgary, n’est pas d’accord et affirme que “les systèmes et produits d’IA conçus par des professionnels sont bien encadrés par une couche fondamentale de systèmes d’exploitation destinés à sauvegarder les intérêts et le bien-être des utilisateurs, auxquels les machines intelligentes elles-mêmes ne peuvent accéder ni les modifier.”

Le Dr O’Brien ajoute “comme pour les autres systèmes d’ingénierie, tout ce qui a des conséquences potentiellement dangereuses serait testé de manière approfondie et disposerait de multiples contrôles de sécurité redondants.”

L’IA que nous utilisons aujourd’hui pourrait-elle devenir une menace ?

De nombreux experts s’accordent à dire que l’IA pourrait être une menace si elle était entre de mauvaises mains. Le Dr George Montanez, expert en IA du Harvey Mudd College , souligne que “les robots et les systèmes d’IA n’ont pas besoin d’être sensibles pour être dangereux ; il suffit qu’ils soient des outils efficaces entre les mains d’humains désireux de faire du mal aux autres. C’est une menace qui existe aujourd’hui”

Même sans intention malveillante, l’IA d’aujourd’hui peut être menaçante. Par exemple, des préjugés raciaux ont été découverts dans les algorithmes qui attribuent les soins de santé aux patients aux États-Unis, de même que dans les logiciels de reconnaissance faciale utilisés par les forces de l’ordre. Ces préjugés ont des répercussions négatives de grande ampleur, malgré les capacités “étroites” de l’IA.

Les préjugés de l’IA proviennent des données sur lesquelles elle est formée. Dans les cas de biais raciaux, les données d’entraînement n’étaient pas représentatives de la population générale. Un autre exemple s’est produit en 2016, lorsqu’ on a constaté qu’une boîte de discussion basée sur l’IA envoyait des contenus très offensants et racistes. Il s’est avéré que cela était dû au fait que les gens envoyaient des messages offensants au robot, ce qui lui a permis d’apprendre.

Ce qu’il faut retenir :

L’IA que nous utilisons aujourd’hui est exceptionnellement utile pour de nombreuses tâches différentes.

Cela ne signifie pas qu’elle est toujours positive – c’est un outil qui, s’il est utilisé de manière malveillante ou incorrecte, peut avoir des conséquences négatives. Malgré cela, il semble actuellement peu probable qu’il devienne une menace existentielle pour l’humanité.

Article basé sur les réponses de 11 experts à cette question : L’IA est-elle une menace existentielle pour l’humanité ?

Cette réponse d’expert a été publiée en partenariat avec la plateforme indépendante de vérification des faits Metafact.io. Abonnez-vous à leur newsletter hebdomadaire ici.