Intelligence artificielle : le signal d’alarme du monde scientifique

L’intelligence artificielle prend aujourd’hui une place de plus en plus prépondérante dans notre quotidien. Mais sommes-nous conscients des risques encourus ? C’est dans ce sens que quatre scientifiques, dont Stephen Hawking, tirent le signal d’alarme.

À l’heure actuelle, les développeurs de l’intelligence artificielle ont encore le contrôle sur leurs développements, que cela soit les assistants vocaux, les voitures intelligentes, l’ordinateur Watson d’IBM ou autres. Mais qu’en sera-t-il demain ? Il est en effet plus que probable que l’intelligence artificielle du futur ira nettement plus loin que ce que l’on connait aujourd’hui.

C’est dans ce sens que le physicien Stephen Hawking, le professeur en sciences informatiques Stuart Russel et les professeurs du MIT Max Tegmark et Fran Wilczek viennent de cosigner une tribune en commun pour y souligner que « Développer avec succès l’intelligence artificielle pourrait être le plus grand événement dans l’histoire de l’humanité ». Ce quatuor de scientifiques ajoute immédiatement le corollaire à savoir que « Malheureusement, cela pourrait aussi être le dernier… ».

À l’instar de ce qui est souvent présenté dans les films de science-fiction, que se passera-t-il le jour où la machine supplantera l’homme par ses décisions ? C’est face à cette menace que Stephen Hawking, Stuart Russel, Max Tegmark et Fran Wilczek ont décidé de tirer un signal d’alarme, pour que tous les acteurs en matière d’intelligence artificielle réfléchissent à l’évolution d’une telle technologie afin d’esquiver les risques relatifs à son utilisation.

Ce constat a de quoi donner des frissons dans le dos, d’autant plus que la réflexion soulevée par ces scientifiques semble très loin des préoccupations des développeurs et dirigeants actuels. Dès lors, faut-il avoir peur ? Pas de l’intelligence artificielle d’aujourd’hui, mais déjà des œillères en la matière que semblent avoir certaines firmes.

Tags

One Comment

  1. Désastreux le bilan intellectuel, on ne sait plus si la « con’science » « co’existe » encore de nos jours; aberrant !

    Qui dit artifice dit « artifi’ciel », et ça explose, oui!, le but étant, c’est phonétique.

    …Spéciale dédicace à Stephen Hawking, LE PLUS BEAU, à temps… « Le VIème Continent » (Taylor et pneu; ça sent… la particule fine ! – Des Dieux, Higgs; Saint Vin’cent, un p’tit « canon »? – Ha ah !

    …VIVE LA MECANIQUE QUANTIQUE et/ou Métaphysique… Unique’ment pas, maîtrisable de l’homme semblant’s !…

    1. Ha ! Un vrai penseur… De ceux qui savent. continuum comme ça, Nostradamus et chante nous encore du quantique de j’enracine.
      Affiction.

  2. Ce n’est pas l’intelligence artificielle ou n’importe quelle supériorité de la machine qui tuera l’espèce humaine, on est pas dans terminator…
    Le faite d’utiliser des machines à notre place sans réflechir nous fait perdre certains réflexes ou facultés cognitives, de sorte qu’avec le temps les machines nous dominerons car on sera incapable de faire sans elles.
    Les machines auront-elles la conscience de cet état de domination ? peut etre pas, mais leurs donneur d’ordre certainement, et ce sera eux les maitres du monde.

    C’est d’ailleurs le principal critère qui justifie que notre QI va reculer.

  3. Ceux qui développent ce prétendu type d’intelligence rêvent les grands yeux ouverts,
    car les machines qu’ils développent ne sont qu’un amalgame de composants électroniques et de circuits imprimés obéissant aux lois de la physique.

    Le problème ne réside pas tant des machines sans aucune conscience que de personnes pouvant être tentées de s’en servir de façon préjudiciable envers d’autres êtres humains.

    Chaque être humain est unique et a sa conscience et son libre arbitre.
    C’est ce que l’on appelle plus communément, son âme.

    Ceux qui auraient un jour éventuellement la prétention de développer des machines avec une âme, ne seraient que de parfaits fanfarons.

    Tenter hypothétiquement de faire endosser à des machines, des actes condamnables de certains individus malveillants, tient de la lâcheté.

    Si vous pensez que les ordinateurs, smartphones ou autres robots sont nuisibles, vous avez le libre choix de ne pas vous en servir, voir de vous en débarrasser.

  4. Peut-on croire aujourd’hui que ce que l’on entend par intelligence artificielle (IA) soit capable de prendre le pouvoir ?

    Non, bien sûr.

    Pourtant, nous abandonnons tous les jours une partie de notre territoire de décisions. Plus précisément, nous déléguons à des machines certaines prises de décisions ou actions que nous jugeons mineures ou pour lesquelles nous pensons que les machines sont plus douées (lapsus anthropomorphique) : plus rapides, plus sûres, plus pertinentes, plus justes.

    Des exemples :
    Dans une voiture, tous les assistants d’aide à la conduite (des plus anciens ABS, au plus moderne système de freinage adaptatif, détecteur de fatigue, détecteur de franchissement de ligne continu en passant par le GPS et toutes les kyrielles d’alertes de ceinture non bouclée, d’angle mort).

    A la maison, le système (Canal +) qui sélectionne les programmes qui correspondent à mon profil.

    Sur les mobiles et internet en général, tout ce qui est là pour nous simplifier la vie en enregistrant chaque élément de notre comportement (langue, localisation, goûts) pour nous proposer des offres et améliorer comme on dit pudiquement notre expérience utilisateur.

    Progressivement, nous ne trouvons plus ces initiatives comme intrusives. Pire, nous les considérons comme maintenant utiles voire indispensables.

    Que reste-t-il à l’homme ?

    Dieu merci, l’IA n’a pas encore conscience du pouvoir qu’elle détient.

    Peut-elle se détourner des missions que nous confions, cesser de nous rendre service (ce pour quoi nous l’avons développée) et vivre sa propre vie ?

    Sommes-nous toujours maître des machines, des décisions de l’IA ?

    Est-ce que l’on peut interrompre une machine que l’on juge devenue folle (un escalator qui pète les plombs, un modèle de météorologie qui prédit 15 jours de neige en plein mois de juillet, un régulateur de vitesse qui se bloque à 150 km/h, des mouvements boursiers qui crashent l’économie).

    Nous nous plaignons d’un monde où quelques hommes font la loi : nous plaindrons-nous d’un monde où quelques machines et beaucoup d’intelligence artificielle piloteront la destinée des hommes ?

  5. Les Français ont peur de tout, leur Révolution ils l’ont fait contre la science en coupant la tête de Lavoisier, les Français sont un peuple arriéré a la mentalité passéiste, j’ai honte d’avoir la nationalité d’un pays aussi figé.

      1. Vu touts les crimes dont s’est rendue coupable l’humanité je considère que ces scientifiques auraient mieux fait de se taire, parce que franchement l’éventuelle disparition de l’humanité (a laquelle je ne crois pas) ne serait pas une grande perte pour l’Univers.

  6. Imaginons un scénario de type guerre 39-45 de nos jours : tous les outils de surveillance et de destruction actuels aux mains d’un Hitler, un Mussolini, un Franco, etc. Eh bien les résistants et maquisards auraient été arrêtés, traqués, anéantis en un rien de temps.
    Effrayant !

    1. A mon avis en France ce serait plus un Mao, Staline, Robespierre ou Pol Pot qu’il faudrait craindre, un dictateur fasciste n’est pas dans l’ADN Français, mais un dictateur sur le modèle Nord-Coréen le serait.

      1. Et aucun de ces dictateurs n’a eu besoin de cette technologie pour éliminer, une bonne vieille administration suffit largement.

  7. Le progrès, la technologie, des mots, des leurres peut-être.
    Le doute ne vous effleure jamais ??!.
    Certes, je ne prétends pas tout savoir. Mais il suffit d’ouvrir les yeux pour constater que nous allons droit dans le mur.
    Et si le SEUL but de la vie biologique était justement d’être le précurseur de l’intelligence non biologique?
    Cela pourrait expliquer le fait que nous ne soucions pas de ce qu’il va advenir, que nous saccagions de façon irrémédiable notre nid : c’est le but, le « programme » de la vie biologique.
    Comme la chenille, en mourant nous donnons « vie » à autre chose.
    Cela me fiche la trouille, mais par contre, cela me semble de plus en plus possible.
    Par ailleurs, ce que nous appelons « intelligence artificielle » est probablement bien différent et plus complexe que ce que nos représentations évoquent…
    L’avis de ces physiciens ne me semble pas devoir être balayé comme certains, suffisants, le font.
    Moi c’est Michel.

  8. L’IA pour quoi faire? Pour surveiller chacun, et dans chacun de ses faits et gestes? Pour que mon téléphone portable m’enregistre, me filme, etc, voire même à mon insu? Pour que mon ordinateur dresse l’historique fidèle de ma vie?

    L’IA n’a servi qu’a mettre au point un réseau de surveillance d’une inimaginable puissance, en faisant croire à qui voulait l’entendre que les périphériques du réseau (téléphones, ordinateurs, etc.) servaient à autre chose.

    Maintenant, la seule façon de disloquer le réseau de renseignement américain, c’est de mettre tous les ordinateurs et tous les téléphones portables à la POUBELLE.

    Point final.

  9. Moi, c’est plutôt la connerie des humains qui m’inquiète et tout particulièrement celle de ceux qui ont un pouvoir de décision.

  10. Ce n’est pas seulement l’IA. C’est le flicage en continu: par votre adresses IP, des drôles de chemins (Paris > USA > Clichy) pour vous connecter à des sites, des cameras de surveillance, des tickets électroniques, votre téléphone Des télés intelligents qui vous mouchardent, des x-Box pour suivre vos gestes et votre expression visuelle, des programmes de traduction automatique en temps réel, la reconnaissance visuelle… . Et chaque fois, on applaudit le « progrès » technique et si possible, on s’abonne, on souscrit de plein gré à ces techniques qui nous surveillent d’avantage qu’elles nous rendent libres … Si Hitler arrivait demain, il trouverait un monde taillé sur mesure pour envoyer directement tous ses opposants au four.

    Et la seule chose qui est sûre, c’est que l’histoire ne cesse de se répéter sous une forme ou une autre.

  11. Le soucis immédiat avec les machines (intelligentes ou pas) est qu’elles remplacent progressivement le travail humain. L’I.A. va ajouter au panel des tâches que les machines effectuent déjà à la place des hommes les travaux de nature intellectuelle, alors que jusqu’à maintenant il s’agissait pour l’essentiel de remplacer des ouvriers par des robots. L’I.A. est d’ailleurs déjà bien employée dans la finance avec le High Frequency Trading.

    Quant au robot de type Terminator, il serait en développement dans les labos militaires américains, faisons leur confiance pour aller aussi loin qu’ils le pourront en la matière…

  12. Il ne faut pas tout fourrer sur le compte de l’Intellifence Artificielle…
    Je pense qu’il y a confusion d’une part entre IA et progrès de l’armement (guerres mondiales évoquées, pilotage de drône) : pas de trace d’intelligence artificielle là dedans, même si c’est automatisé, téléguidé, etc, les choix sont bien humains.
    Quand au rapport humain, je ne le vois pas impacté non plus par l’intelligence artificielle… Les ordinateurs ne sont pas intelligents, ils calculent. Pas non plus de trace d’IA là dedans. A part lorsqu’on appelle un SAV, mais bon…

    1. Tu ne sais pas de quoi tu parles. Il faut connaitre les évolutions actuelles en matière de développements technologiques pour comprendre le risque évoqué.
      Il existent des patterns, composants et autres techniques de développement déployés sur des outils que tu utilises tous les jours et dont tu es incapable d’imaginer qu’ils ont un minimum d’autonomie dans les choix de leur décisions. Les programmes actuels ce n’est plus 1+1=2 mon cher. Ben justement les solutions sont le fruit d’une intelligence artificielle certes moins évoluée mais qui tôt ou tard va nous dépasser…

    2. De plus en plus de choix informatiques supplantent les décisions humaines. En l’occurrence en aéronautique (branche parallèle à celle de l’armement) certains pays et conventions ont délégué le droit de dernière décision dans certaines situations catastrophes (décrochement, accrochage,..) au pilote automatique et non plus à l’humain..

      Ce n’est pas véritablement de l’IA, mais cela montre, qu’aujourd’hui nous sommes capables de laisser les choix les plus importants être fait non plus par l’homme mais par la machine.

  13. Excellent article! Le signal mérite d’être tiré car lorsqu’on l’on voit ce qu’on a réussi à faire des hommes en 14-18 et 39-45 imaginons ce qu’il se passera demain en cas de conflit. Quand je vois ces grands ados à peine majeurs engagés par l’armée américaine pour piloter les drones à distances et effacer en quelques secondes des familles entières avec un push sur le joystic, brbrbrbr!!!! mort vituelle, et la culpabilité, la conscience la-dedans?

  14. Par ailleurs, il y a bien longtemps que la machine a supplanté l’homme dans les rapports humains :
    Combien de fois nous entendons-nous répondre : « ce n’est pas nous, c’est l’ordinateur, et on ne peut pas faire autrement ! »… L’homme a déjà démissionné face aux exigences des ordinateurs, et les lois, les comportements, les habitudes et les innovations sont maintenant conçues dès le départ pour s’adapter aux machines (ordinateurs, automates, automobiles…) et non l’inverse !

    1. Je comprend votre remarque pour l’avoir moi-même expérimenté de nombreuse fois à mes dépends.
      Mais ce n’est pas de l’effroi face aux machines qui m’envahit, mais plutôt face à la mauvaise fois des utilisateurs.
      Certes, certains logiciels sont mal conçus et peinent à rendre un réel service aux utilisateurs, mais surtout ils permettent des choses complexes qui dépassent parfois les utilisateurs, qui se réfugient derrière cette complexité pour en faire le moins possible.
      Bref, avec la formation adéquate on peu réaliser des choses formidables qu’on n’aurait pas cru possible autrement.
      Je comprend ceux qui préfèrent le temps où rien, ou presque, ne changait sur la durée d’une existence, mais essayons de tirer partie de manière raisonnée de la révolution technologique que nous vivons.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Close

Adblock Detected

Please consider supporting us by disabling your ad blocker