L’intelligence artificielle : rêve ou cauchemar ?

Steve Wozniak est le dernier expert en nouvelles technologies a avoir diffusé une note, concernant les potentiels dangers de l’intelligence artificielle.

Le co-fondateur d’Apple, à l’occasion d’une interview donné à The Australian Financial Review, a mis en garde concernant ces fameux ordinateurs qui seraient peu disposés à redonner la main à l’intelligence humaine.

Les ordinateurs vont prendre le dessus sur les humains, aucun doute là-dessus… Si nous concevons ces équipements pour qu’ils s’occupent de tout pour nous, ils finiront par pensez plus rapidement que nous, et ils se débarrasseront de ces humains trop lents, pour diriger les entreprises à notre place et plus efficacement.

Alors qu’il n’est pas prêt à accueillir “our robots overlords”, il a déclaré qu’il commençait à imaginer le futur à travers le regard de son propre chien.

…Lorsque que j’ai ce genre de pensée, à savoir est-ce que je vais être traité comme un animal dans le futur par ces machines intelligentes… eh bien je me mets à traiter mon chien avec beaucoup de tendresse.

La référence aux animaux est probablement une allusion à la récente déclaration, faite par un autre enfant de la Silicon Valley, Elson Musk, qui est en réalité très préoccupé par l’intelligence artificielle.

Le fondateur de Tesla Motors et de SpaceX, est apparu lors du dernier podcast Radio StarTalk, pour parler à Neil deGrasse Tyson au sujet du futur de l’humanité.

Au sujet de l’intelligence artificielle, il a alerté sur une potentielle dérive technologique où une cyber-intelligence briserait ses chaines et commencerait à progresser seule, de manière exponentielle, et totalement hors de notre contrôle.

Je pense … que cela est bien plus dangereux que l’arme nucléaire … Si une super-intelligence digitale, et très robuste devait exister, avec la capacité de se développer seule, rapidement, indéfiniment, et de manière non-logarithmique alors … tout est déjà écrit.

Nous serons alors semblables à des labradors, avec de la chance.

Il a fini par en rire à la fin, mais nul doute que l’intelligence artificielle, la sauvegarde de l’humanité en général, sont des thèmes que Musk prend très au sérieux.

Entre le lancement des moteurs électriques pour l’industrie automobile (pour favoriser l’expérience la plus stupide de l’histoire et de loin), et les envies de coloniser Mars, Musk a clairement mis en garde contre les dangers de l’intelligence artificielle, en qualifiant cette dernière de “plus grande menace pour l’être humain”, et d’un appel aux forces démoniaques.

Ceci n’est pas une simple parole en l’air. En janvier, il a investi 10 millions de dollars pour financer un programme destiné à garder l’intelligence artificielle au service de l’humanité.

Wozniak est la dernière personnalité du monde scientifique et technologique (STEM), à prendre la parole à ce sujet.

Le “Future of Life Institute” (qui a bénéficié d’une récente donation de la part de Musk), a publié une lettre ouverte, demandant des recherches focalisées sur les réels bénéfices à tirer de l’intelligence artificielle, tout en évitant de tomber dans ses pièges.

Cette lettre a été signée par une liste interminable de personnalités parmi les plus brillantes.

Parmi elles, Stephen Hawking, qui avait aussi déclaré à la BBC, que l’intelligence artificielle “pourrait provoquer la fin de la race humaine”.

Quelles conclusions pouvons-nous en tirer ? Allons-nous devenir esclaves, ou bien disparaître à cause de programmes informatiques, de notre propre création ?

Il est facile d’imaginer ce qui pourrait empêcher une cyber-apocalypse en marche.

Par exemple : la révolution de l’information a conduit au développement d’éléments, de plus en plus petits. Grâce à notre capacité à miniaturiser toujours plus les composants, tels que les transistors, et comme le souligne Wozniak, dans son interview, ce phénomène ne devrait plus durer très longtemps.

Mais je pense que se limiter à imaginer ce qui pourrait entraver l’intelligence artificielle ne résoud pas le problème.

Parfois les aspects négatifs peuvent être tellement catastrophiques, que la probabilité que cela se produise n’a pas d’importance, seul le fait que cela soit possible importe.

Des chercheurs de l’université d’Oxford, ont récemment compilé une courte liste des risques globaux pour notre civilisation, et ils ont tout simplement fait remarqué que l’intelligence artificielle comporte de risques qui « ….dans tous les cas peuvent être considérés comme infinis ».

Ainsi, comme Steve Wozniak l’a dit lui-même

Ne faites jamais confiance à un ordinateur que vous ne pouvez pas jeter par la fenêtre.

Billet inspiré de : “Will Artificial Intelligence keep humans as pets?” par Mark Stockley de Naked Security

Partagez “L’intelligence artificielle : rêve ou cauchemar ?” avec http://wp.me/p2YJS1-1HT