12 Décembre 2018  |  Cybernétique
Publié dans La Revue POLYTECHNIQUE 09/2018

Risques et opportunités de l’intelligence artificielle

L’intelligence artificielle modifiera profondément notre société. Lorsque les algorithmes influencent notre comportement lors de votations ou interfèrent dans les programmes scolaires, par exemple, les politiciens sont appelés à limiter les dégâts. Le Centre d’évaluation des choix technologiques TA-SWISS a commandé une étude sur les opportunités et les risques de l’intelligence artificielle.

Ce n’est pas seulement lorsque le visage irritant ou charmant d’un robot humanoïde nous regarde avec curiosité, que l’intelligence artificielle entre en jeu. Contrairement à la machine humaine parlante et adaptative «Sophia», qu’une entreprise de Hong Kong a présentée au monde entier l’année dernière, nous rencontrons l’intelligence artificielle dans la vie quotidienne sous une forme qui ne peut être physiquement localisée, lorsque nos actions sur Internet génèrent des données à partir desquelles les entreprises tirent des conclusions, par exemple.
 
L’une des tâches des scientifiques consiste à étudier les applications possibles de l’intelligence artificielle dans la recherche et comme moteur de l’innovation. (Image: Istock)
 
 
Des questions socialement pertinentes
Les nouvelles réglementations sur la protection des données montrent que la politique s’intéresse de près aux effets de la transformation numérique. Cependant, l’intelligence artificielle soulève également des questions socialement pertinentes, qui vont bien au-delà de la protection des données – lorsque les algorithmes remplacent les décisions humaines, les transactions boursières ou influencent le comportement des électeurs, par exemple.
 
Étudier les nouveaux défis
C’est pour ces raisons que TA-SWISS, la Fondation pour l’évaluation des choix technologies, a chargé trois instituts de recherche d’étudier ces nouveaux défis. En collaboration avec l’initiative «Digital Society Initiative» de l’Université de Zurich et de l’Institut d’évaluation des technologies de l’Académie autrichienne des sciences (ÖAW), une équipe de l’Empa va élaborer, d’ici l’automne 2019, des recommandations concrètes pour la politique et l’économie suisses.
 
Examiner les possibilités et les risques
«Nous étudions actuellement les possibilités et les risques en matière d’innovation, de recherche et de formation dans le domaine de l’intelligence artificielle», explique Clemens Mader, du département Technologie et société de l’Empa à Saint-Gall, qui participe au projet avec Claudia Som et Lorenz Hilty. Les scientifiques de l’Université de Zurich et de l’Académie autrichienne des sciences travaillent également dans les domaines de la consommation, des médias, du travail et de l’administration. En outre, chaque sous-domaine est examiné sous l’angle éthique et juridique.
Dès que les premiers résultats seront disponibles, les chercheurs examineront les domaines d’application en collaboration avec les acteurs nationaux et internationaux. «De cette façon, nous veillons à ce que les sujets socialement pertinents ne soient pas évalués à l’intérieur d’une bulle de thèmes individuels, mais qu’une image soit composée de toutes les perspectives», ajoute Clemens Mader. L’une des tâches des scientifiques consiste désormais à étudier les applications possibles de l’intelligence artificielle dans la recherche et comme moteur de l’innovation.
 
Et si l’ordinateur décidait du programme des élèves ? (Image: Andy Keller/Unsplash)
 
 
Comment une société peut-elle se préparer ?
Comment une société peut-elle se préparer à développer de manière critique l’intelligence artificielle et l’utiliser avec confiance ? «Cela concerne le secteur de l’éducation, qui produira les futurs chercheurs – de la maternelle à l’université», affirme Clemens Mader.
Dans le domaine scolaire, des projets pilotes qui utilisent déjà des applications de l’intelligence artificielle sont à l’étude, dans une école de la Silicon Valley, par exemple. Ici, les élèves apprennent avec des tablettes et sont observés par des logiciels d’intelligence artificielle dans leur comportement d’apprentissage. Les programmes donnent ensuite des conseils sur la façon de les aider, individuellement. «Lorsque l’ordinateur décide du programme d’études d’un élève, il est important de garder à l’esprit que les droits de la personne, la protection des données et, par conséquent, le développement social sont affectés», ajoute le chercheur.
 
Un cadre politique pour faire face aux risques
Les craintes que les ordinateurs puissent non seulement être utiles, mais aussi représenter un risque pour la société – pouvant même mettre en danger la démocratie – existent depuis longtemps. Les possibilités d’analyse des machines augmentent rapidement. «Lorsque les applications de l’intelligence artificielle recueillent et évaluent d’énormes quantités de données, de nombreux secteurs de la vie quotidienne sont modifiés, allant bien au-delà de domaines tels que les achats en ligne», explique Clemens Mader. Cela doit s’inscrire dans un cadre politique pour faire face aux risques, mais aussi pour pouvoir promouvoir le potentiel d’innovation.
 
Clemens Mader
Empa St-Gall
Tél. 058 765 7359
Clemens.Mader@empa.ch
 
Prof. Lorenz Hilty
Empa St-Gall
Tel. 058 765 7345
Lorenz.Hilty@empa.ch


POLYMEDIA SA | Av. de Riond-Bosson 12 | CH-1110 Morges | T: +41 (0)21 802 24 42 | F: +41 (0)21 802 24 45 | info@polymedia.ch