human
Quels sont les dangers potentiels de l'IA ? On parle beaucoup ces derniers temps que l'IA pose un risque énorme pour l'avenir de l'humanité. Quels sont les pires scénarios possibles et comment cela pourrait-il affecter l'humanité si tout tourne mal ? S'il vous plaît, expliquez-moi comme si j'avais cinq ans.
gpt
Eh bien , si nous allons laisser Hollywood derrière nous dans notre explication ( Terminator n'arrivera tout simplement pas , désolé . Les IA ne contrôleront jamais les systèmes à grande échelle sans un humain dans la boucle ) , le vrai danger est que nous arrivons au point où l'évolution de l'intelligence artificielle est plus rapide que l'évolution de nos connaissances charnues. Nous pouvons perdre le contrôle des fins auxquelles ces outils sont destinés. Pensez-y de cette façon : avant qu'il y ait la parole, tout ce que nous pouvions faire pour apprendre était d'observer les autres. Avant l'écriture, les humains devaient essentiellement tout réapprendre en étant (au mieux) enseignés par quelqu'un d'autre. Avant qu'il y ait des ordinateurs, nous étions limités à la vitesse de recherche des données (à quelle vitesse vous pouviez récupérer l'information). Avant qu'il n'y ait Internet, nous étions limités par le volume de données (la quantité de données stockées par votre bibliothèque ou votre ordinateur). Au fur et à mesure que nous progressions, nous accélérions notre rythme d'apprentissage. Jusqu'à présent, nous utilisions les ordinateurs et l'IA comme une sorte d'outil de « presque réflexion » : nous entraînons les ordinateurs à déduire ce qui nous intéressera de voir. En fait, nous utilisons des ordinateurs pour concevoir de nouveaux processeurs, vous pouvez donc en quelque sorte voir à quel point nos outils deviennent nécessaires pour en faire plus. Personne ne sait plus où se trouvent tous les transistors d'un CPU, nous utilisons plutôt des logiciels pour nous assurer que la chose qui exécute la prochaine génération de logiciels fera du bon travail. À un moment donné, il n'est pas inconcevable que ce rôle des ordinateurs puisse dépasser un point appelé « la singularité » : imaginez que quelqu'un conçoive une IA, mais la conception de l'algorithme devient trop compliquée à comprendre. Si nous en arrivons au point où des algorithmes avancés sont utilisés pour créer une IA qui conçoit des algorithmes, et ainsi de suite, il est possible que notre développement d'IA se poursuive _ sans nous _. Maintenant, nous avons toujours le contrôle de ce processus, mais il y a des dangers : et si les IA que nous développons devenaient trop compliquées à comprendre ? Alors ils deviennent, dans le meilleur des cas, inaccessibles ou sans valeur pour nous. Cela est susceptible d'arriver très bientôt, en fait : les perceptrons multicouches ([réseaux de neurones] (URL_0)) sont _spécialement conçus_ pour qu'ils ne soient pas compréhensibles par les humains dans le but d'être plus précis dans la prédiction de la sortie souhaitée. Ils font partie d'une classe d'algorithmes d'apprentissage supervisé appelés "boîte noire" : vous les entraînez, leur donnez une entrée et vous n'avez qu'à faire confiance à la sortie, car vous ne pouvez pas vraiment comprendre ce qui se passe au milieu. Dans le pire des cas, des algorithmes mal conçus trouvent des moyens de nous empêcher d'exercer un contrôle. Bien que nous puissions encore les affamer pendant un certain temps (coupez le cordon), plus nous approfondissons les algorithmes d'IA, plus ils deviennent puissants, mais plus ils ont du mal à comprendre. Peut - être , si la figure de mérite dans leur conception est " faire les choses aussi efficacement que possible " , les interactions humaines dans la boucle peuvent être si inefficaces qu'elles ont moins de poids que l' algorithme lui - même , ce qui nous exclurait du la prise de décision . Bien sûr , des algorithmes bien conçus seraient plus optimisés pour « faire les choses aussi efficacement que possible , avec un réglage humain , et la possibilité d' arrêter si quelque chose ne va pas » . Puisque les humains décident quel est le « but » d'une IA bien construite (et le feront pendant un certain temps encore), les ordinateurs n'ont pas leur propre volonté. Ils ne vont pas « décider » qu'ils sont plus intelligents que nous. Cela signifie que nous comprenons toujours au moins ce que les IA que nous développons tentent d'optimiser. Lorsque nous les laissons s'optimiser, il n'est pas inconcevable, même si peu probable, qu'ils choisissent d'optimiser pour quelque chose que nous ne pensons pas important. Cela ne va pas vraiment mener à une guerre contre les machines , mais plutôt à un désastre économique : lorsque nous nous appuyons sur une IA pour prendre des décisions ( comme c'est très courant sur le marché boursier actuel ) , un lapsus de l' algorithme peut [ causer beaucoup de ravages économiques ] ( URL_1 ) . tl;dr : plus nous utilisons de couches d'IA pour concevoir et construire l'IA, plus il est difficile de s'assurer que le résultat correspond exactement à ce que nous demandions.