https://www.sciencesetavenir.fr/fondame ... nte_121430
26 experts tirent la sonnette d'alarme sur l'Intelligence Artificielle malveillante
Par Hannibal Watchi le 22.02.2018 à 12h35
Dans "L'utilisation malveillante de l'Intelligence Artificielle" publié le 21 février 2018, 26 experts internationaux cataloguent différents scénarios où l'IA se révèlerait destructrice si elle est utilisée par des personnes mal intentionnées. De la confidentialité des individus à la politique, en passant par la santé, toute la société est menacée si les bonnes contre-mesures ne sont pas prises à temps.
Ce rapport de 26 experts de l'Intelligence Artificielle sonde les risques existants pour la société lorsque l'IA est utilisée à mauvais escient.
UNIVERSITÉ D'OXFORD, OPENAI, EFF, UNIVERSITÉ DE CAMBRIDGE, CENTER FOR A NEW AMERICAN SECURITY
L'Intelligence Artificielle est-elle un fabuleux outil pour l'amélioration de notre quotidien ? Pas sûr. À plus forte raison s'il tombe entre de mauvaises mains. C'est le tableau que peignent 26 experts internationaux de l'IA, appartenant à différentes Universités (Cambridge, Oxford, Yale, Stanford) et ONG (OpenAI, Center for a New American Security, Electronic Frontier Foundation), dans un rapport intitulé "L'utilisation malveillante de L'intelligence Artificielle" publié le 21 février 2018. Sur une centaine de pages, les auteurs répertorient les attaques possibles et probables des technologies artificielles déjà existantes. Pour éviter un futur régi par la peur de l'IA, certaines recommandations sont établies.
Il est important de rappeler que l'IA n'est qu'un outil et ne représente en aucun cas un danger à elle toute seule. Les chercheurs se sont concentrées ici sur l'étendue des applications réalisables à l'aide de l'IA lorsque des personnes mal intentionnées s'en emparent.
Les différentes utilisations malveillantes de l'IA
Lorsque l'Intelligence Artificielle est manipulée à mauvais escient, les experts estiment que des attaques peuvent s'opérer sur trois axes principaux : la sécurité numérique, la sécurité physique et la sécurité politique. Pour établir les différents scénarios prescriptifs d'une utilisation malveillante de l'IA, les experts se sont penchés sur les IA déjà existantes ou en cours de développement (qui apparaîtront dans les cinq années à venir). En voici quelques exemples en infographie (cliquer pour agrandir) :
https://www.sciencesetavenir.fr/redacti ... llante.jpg
Imiter l'homme pour mieux le berner
Les chercheurs rendent compte de l'incroyable évolution de l'Intelligence Artificielle depuis la dernière décennie. Depuis 2016 par exemple, les intelligences artificielles sont plus performantes que l'homme quand il s'agit de reconnaître le visage d'un individu sur une photo. Les humains se trompent dans 5% des cas, l'IA ne se trompe plus qu'à 2%.
Les systèmes de l'IA dans les jeux compétitifs ont également fait des progrès remarquables, comme pour le jeu de go ou les échecs où les champions de la discipline ont été battus par des ordinateurs.
Grâce à l'apprentissage automatique (ou Machine Learning en anglais), l'IA s'améliore sans cesse en emmagasinant un nombre de données considérables. Les IA excellent alors dans l'art de l'imitation des comportements et activités humaines.
Comment éviter les actions néfastes des IA
Les auteurs du rapport proposent des pistes d'interventions pour empêcher les IA malveillantes de mener leurs danses. Celles-ci requièrent l'attention des chercheurs en Intelligence Artificielle, mais aussi des entreprises, des parlementaires, des employés domestiques, des régulateurs internationaux, des chercheurs en sécurité et des professeurs. Les experts encouragent, entre autre, une culture de la responsabilité chez les chercheurs en Intelligence Artificielle. Il s'agirait d'inculquer des valeurs éthiques ainsi que des normes pour s'assurer de la sécurité d'une IA. Pour cela, la juridiction devrait s'adapter à la constante évolution du secteur et constituer un rôle important dans les prises de décisions.
Une autre recommandation est l'installation d'une équipe rouge (red team) au sein des entreprises de cybersécurité. L'équipe rouge est composée de "hackers" employés pour pirater le système de leur propre entreprise, dans la légalité. Cela permet de rendre compte des vulnérabilités numériques qui peuvent être mis à profit par d'autres hackers (malveillants ceux-là), et ainsi faire évoluer le système de défense. Dans le rapport, les nombreuses recommandations proposées sont accompagnées de questions ouvertes sur leur efficacité, praticabilité et viabilité. Pour sûr, le secteur de la cybersécurité a un avenir radieux à l'ère de l'Intelligence Artificielle, ce qui pourrait motiver bon nombre de jeunes ingénieurs à s'y investir.
