Et si l'intelligence artificielle tombait dans de mauvaises mains?

  • Source: : 7sur7.be | Le 21 février, 2018 à 10:02:52 | Lu 1129 fois | 7 Commentaires
content_image

Intelligence artificielle

Des experts internationaux sonnent l'alarme sur les risques d'une utilisation malveillante de l'intelligence artificielle par "des États voyous, des criminels, des terroristes", dans un rapport publié mercredi. Selon eux, dans les dix prochaines années, l'efficacité croissante de l'intelligence artificielle (IA) risque de renforcer la cybercriminalité mais aussi de conduire à des utilisations de drones ou de robots à des fins terroristes.

Elle est aussi susceptible de faciliter la manipulation d'élections via les réseaux sociaux grâce à des comptes automatisés (bots). Ce rapport de 100 pages a été rédigé par 26 experts spécialistes en IA, cybersécurité et robotique. Ils appartiennent à des universités (Cambridge, Oxford, Yale, Stanford) et à des organisations non gouvernementales (OpenAI, Center for a New American Security, Electronic Frontier Foundation).

Ces chercheurs appellent les gouvernements et les différents acteurs concernés à mettre en place des parades pour limiter les menaces potentielles liées à l'intelligence artificielle. "Nous pensons que les attaques qui seront permises par l'utilisation croissante de l'IA seront particulièrement efficaces, finement ciblées et difficiles à attribuer", souligne le rapport.

Plusieurs "scénarios hypothétiques" évoqués Pour illustrer leurs craintes, ces spécialistes évoquent plusieurs "scénarios hypothétiques" d'utilisation mal intentionnée de l'IA. Ils soulignent que des terroristes pourraient modifier des systèmes d'IA disponibles dans le commerce (drones, véhicules autonomes), pour provoquer des crashs, des collisions ou des explosions.

Les auteurs imaginent ainsi le cas d'un robot nettoyeur trafiqué qui se glisserait subrepticement parmi d'autres robots chargés de faire le ménage dans un ministère berlinois. Un jour l'intrus passerait à l'attaque après avoir reconnu visuellement la ministre des Finances. Il se rapprocherait d'elle et exploserait de façon autonome, tuant sa cible. Par ailleurs, "la cybercriminalité, déjà fortement en hausse, risque de se renforcer avec les outils procurés par l'IA", déclare Seán Ó hÉigeartaigh, directeur du "Centre for the Study of Existential Risk" de l'Université de Cambridge, un des auteurs du rapport.

Les attaques par hameçonnage ciblé (spear phishing) pourraient ainsi devenir beaucoup plus aisées à mener à une large échelle. Mais pour lui, "le risque le plus sérieux, même si il est moins probable, est le risque politique". "Nous avons déjà vu comment des gens se servaient de la technologie pour essayer d'interférer dans les élections et la démocratie". "Si l'IA permet à ces menaces de devenir plus fortes, plus difficiles à repérer et à attribuer, cela pourrait poser de gros problèmes de stabilité politique et contribuer peut-être à déclencher des guerres", estime Seán Ó hÉigeartaigh.

Des fausses vidéos pour discréditer des responsables politiques Avec l'IA, il devrait être possible de réaliser des fausses vidéos très réalistes et cela pourrait être utilisé pour discréditer des responsables politiques, avertit le rapport. Les États autoritaires vont aussi pouvoir s'appuyer sur l'IA pour renforcer la surveillance de leurs citoyens, ajoute-t-il. Ce n'est pas la première fois que des inquiétudes s'expriment concernant l'IA. Dès 2014, l'astrophysicien Stephen Hawking lançait une mise en garde sur les risques qu'elle pourrait faire courir à l'humanité, en dépassant l'intelligence humaine.

L'entrepreneur Elon Musk et d'autres ont aussi tiré la sonnette d'alarme. Des rapports spécifiques sur l'utilisation de drones tueurs ou sur la façon dont l'IA pourrait affecter la sécurité des États-Unis ont également été publiés. Ce nouveau rapport apporte "une vue d'ensemble sur la façon dont l'IA crée de nouvelles menaces ou change la nature des menaces existantes dans les domaines de la sécurité numérique, physique et politique", explique Seán Ó hÉigeartaigh.

Apparue dès les années 1950, l'intelligence artificielle correspond à des algorithmes sophistiqués qui permettent de résoudre des problèmes pour lesquels les humains utilisent leurs capacités cognitives. Ces dernières années, elle a fait des progrès substantiels notamment dans les domaines liés à la perception, comme la reconnaissance vocale et l'analyse d'image.


Auteur: 7sur7.be - 7sur7.be






1 - Soyez courtois. N'envoyez pas de message ayant un ton agressif ou insultant.
2 - N'envoyez pas de message inutile.
Attaques personnelles. Vous pouvez critiquer une idée, mais pas d'attaques personnelles SVP. Ceci inclut tout message à contenu diffamatoire, vulgaire, violent, ne respectant pas la vie privée ou en violation avec la loi.
Ne devoilez pas
les informations privées de qui que ce soit ( adresses, etc... ).
de tels messages seront supprimés et leurs auteurs bannis des commentaires.

3 - Pas de publicité. Ce forum n'est pas un espace publicitaire!.
4 - Pas de majuscules. Tout message inscrit entièrement en majuscule sera supprimé.
5 - Lisez la politique de gestion des commentaires de Seneweb
6 - Les auteurs de commentaires repetés (pollueurs) verront tous leurs commentaires á travers le site tout simplement retirés en un seul coup

Commentaire (2)


Anonyme En Février, 2018 (12:19 PM) 0 FansN°: 1
Et si un couteau, une hache ... tombaient entre de mauvaises mains ?

L'intelligence articielle est un outil et comme tout outil peut être détourné par des gens mal intentionnés sauf que c'est plus compliqué que beaucoup ne veulent le laisser penser : il faut les compétences qui sont très rares, des ressources matérielles, beaucoup de temps pour faire l'apprentissage, ....

Des drones qui tuent il y en depuis quelques années sans avoir besoin de l intelligence artificielle mais Elton Musk et OpenAi n'en parle même pas.

On a un Elton Musk qui fait des choses géniales mais à qui L'intelligence artificielle fait de l'ombre en terme de visibilité et qui finance OpenAi.

L'intelligence c'est des avancées significatives pour la médecine, la voiture autonome, reconnaissance faciale, les mesures de risques,....
Reply_author En Février, 2018 (12:56 PM) 0 FansN°: 1
l'intelligence artificielle nexiste pas sur cette planete seul les djinns les humains les animaux les plantes sont intelligent

une machine ne peut pas etre intelligente car elle est programmér
Khatior-bi En Février, 2018 (13:02 PM) 0 FansN°: 2
Et que faire de l'erreur humaine ?

Ici au Royaume-Uni on utilise des appareils capables de diagnostiquer des maladies que la plupart des medecins et specialistes auraient omis.

Celui qui soutient que l'intelligence artificielle n'existe que dans les films vit dans le passe.

Commentez cet article

Auteur

Commentaire :

Service Commercial

Senegal : +221 33 860 09 50    |    Usa, Canada, Europe : +1 703 348 7306    | +1 703 395 86 48   Email : pub@seneweb.com

Rédaction

Email : redaction@seneweb.com