Topic IA : plus urgent que le réchauffement climatique ?

[FrosT]

Les débats sur l'IA (liés indirectement au pouvoir des GAFAM américains et autres BATX chinois) alimentent la société depuis déjà 2-3 ans.
On trouve un peu de tout comme analyse(s): le risque à terme pour les emplois ou au contraire que ça va en créer beaucoup de nouveaux etc.

Plus récemment la sphère politique Française s'y est intéressée - comme le PS avec Hamon ou les Insoumis en 2017 - certains annoncent déjà, à plus ou moins long terme, la fin du travail par exemple.

Au delà de l'aspect "travail" (et les débats sur l'influence direct de l'IA à terme sur l'emploi) on peut également réfléchir sur le futur aspect purement géopolitique que l'IA risque d'engendrer au cours des 25 prochaines années....

Hors, force est de constater qu'en dehors des USA et de la Chine, le reste du monde est passablement largué... l'Europe dans son ensemble reste numéro 3, mais avec aucune volonté commune, faute d'unification politique sur la question. En France aucun débat de fond sur le sujet par exemple...

Je partage avec vous cet article de Louis Nauges (expert du Cloud Computing et qui connait également bien les problématiques macro de l'IA) qui pose la question sur le risque que l'Europe (et le reste du monde hors USA et Chine) soit un nain numérique d'ici 30 ans... :
https://nauges.typepad.com/my_weblog/2019/01/urgence-absolue-pour-europe-et-france-en-intelligence-artificielle-et-cloud-computing-5-ans-pour-ne-pas-devenir-des-nains.html

Alors comme le dit Kai Fu Lee (expert Chinois de l'IA) : "Et si en Europe ce combat pour l’IA était plus urgent que celui contre le réchauffement climatique ?"

[Nicklaus]

C'est vrai que l' IA sur certains jeu laisse à désirer.........

merde, on parle pas de ça.

[sheon]

Alors comme le dit Kai Fu Lee (expert Chinois de l'IA) : "Et si en Europe ce combat pour l’IA était plus urgent que celui contre le réchauffement climatique ?"

Il ne l'est pas.
Elle servira à quoi, l'IA, si dans 100 ans il n'y a plus d'êtres humains sur Terre ? Elle jouera au Go contre elle-même ?

[FrosT]

Alors comme le dit Kai Fu Lee (expert Chinois de l'IA) : "Et si en Europe ce combat pour l’IA était plus urgent que celui contre le réchauffement climatique ?"

Il ne l'est pas.
Elle servira à quoi, l'IA, si dans 100 ans il n'y a plus d'êtres humains sur Terre ? Elle jouera au Go contre elle-même ?

Justement !
Des 2025 l’IA sera probablement plus efficace que nous pour prendre des décisions sur des sujets macro et micro environnementaux si on lui en donne les moyens. AlphaZero commence déjà à être utilisé sur certaines problématiques d’urbanisme par exemple.

[sheon]

Si l'humanité a besoin d'une IA pour prendre des décisions environnementales, alors il vaut mieux qu'elle disparaisse, finalement...
D'ailleurs, l'IA n'existe pas en tant que telle. Il ne s'agit que de ce qu'on appelle "apprentissage profond", complètement spécialisé dans une tâche précise. On est encore à des kilomètres des histoires d'Asimov. Actuellement, il s'agit d'un enjeu économique plus qu'autre chose, pas d'un enjeu de survie comme le climat.

[Shoemaker]

On est encore à des kilomètres des histoires d'Asimov.

Et à des milliards de KM d'Hypéron/Endymion dans lequel on voit le grand déploiement des IE, le concept ayant été poussé dans ses extrêmes retranchements. A lire absolument (publié en 89 !) pour ceux que ce nouvel "outil" créé par l'Homme intéresse (gros pavé, certes...). L'outil qui finira par transformer l'homme, rétroactivement, en outil lui-même.

[sheon]

Et à des milliards de KM d'Hypéron/Endymion dans lequel on voit le grand déploiement des IE

Ah non, ça, c'était vers 2000-2003 environ.

[Shoemaker]

Tu riras moins, quand dans 5000 ans, tu sauras que l'infosphère a pris vie, et que les IA mineures sont en train de concevoir une IA supérieure dont la mission sera de remplacer Dieu (dans 10 000 ans)
R. Daneel Olivaw te semblera très sympatoche et très vieillot, à côté...
Et cette IA ultime se posera la question ultime : se débarrasser définitivement de l'Homme, ou bien le recréer ?

[sheon]

Tu parlais d'IE (Internet Explorer), pas d'IA

[Shoemaker]

Tu parlais d'IE (Internet Explorer), pas d'IA

aaaarghhhh.....

[Cortese]

Non mais franchement si vous étiez une puissance intellectuelle extérieure jouant au casino du Cosmos, vous parierez un kopeck sur l'Homme ? Un bidule ultra-limité à tous points de vue et qui ne peut survivre que dans des conditions de température et de pression hyper-étroites ? Non moi je parierais plutôt sur un truc à base de silicium et de titane, des trucs stables et relativement peu sensibles à la température, et à la durée de vie multipliée au moins par mille. Non, franchement, l'homme n'est pas le bon cheval.

[Shoemaker]

et ki cé ki l'a créé, l'IA ? C ki le boss ?
Faudra penser justement à en créer une qui t'empêche de commencer tes phrases par "NON" !

[Shoemaker]

Bref, l'IA, c'est un outil donc, une sorte de marteau hyper complexe, mais comme il faut éviter de se taper sur le doigt en utilisant le merveilleux outil à planter les clous, il faut toujours veiller à implémenter un bouton "off", dans les programmes de toute IA, bouton inaccessible à sa volonté.
Faut pas déconner, c'est pas quelques lignes de programmes qui vont nous faire ch... !

[Cortese]

et ki cé ki l'a créé, l'IA ? C ki le boss ?
Faudra penser justement à en créer une qui t'empêche de commencer tes phrases par "NON" !

Non, c'est pour dire oui à la vie. Le petite fleur mignonne qui pousse sur le bord de la route elle doit commencer par se faire de la place en poussant les salopes qui veulent pousser au même endroit. Donc "Non" c'est le vagissement de la créature qui veut vivre avant de mourir. Non c'est oui.

[Shoemaker]

"Qu'est-ce qu'un homme révolté ? Un homme qui dit NON" (Camus)

[Ouais_supère]

Je ne crains rien d'une IA autonome qui demeure un fantasme.

Je crains davantage un transhumanisme débridé à base d'implants perfectionnés qui pourraient agir sur notre comportement.

C'est le "surhumain" qui est dangereux, pas l'IA ni l'humain lui-même.

[DCP]

Je ne crains rien d'une IA autonome qui demeure un fantasme.

Je crains davantage un transhumanisme débridé à base d'implants perfectionnés qui pourraient agir sur notre comportement.

C'est le "surhumain" qui est dangereux, pas l'IA ni l'humain lui-même.

L'humain a quand même largement prouvé au cours de son histoire pouvoir être dangereux pour lui-même, les animaux, la planète.....

[Cortese]

"Plus Predator Seigneur, plus Predator. .."

[Shoemaker]

"Plus Predator Seigneur, plus Predator. .."

[sccc]

Si j'étais une IA suprême je me poserais franchement la question de maintenir la race humaine sur terre.

[Ouais_supère]

Je ne crains rien d'une IA autonome qui demeure un fantasme.

Je crains davantage un transhumanisme débridé à base d'implants perfectionnés qui pourraient agir sur notre comportement.

C'est le "surhumain" qui est dangereux, pas l'IA ni l'humain lui-même.

L'humain a quand même largement prouvé au cours de son histoire pouvoir être dangereux pour lui-même, les animaux, la planète.....

Et d'actions absolument désintéressées tournées vers leur(s) prochain(s), des rebellions les plus formidables face à l'horreur.

Depuis l'aube de la civilisation, l'humain cherche des moyens de vivre avec autrui dans le sens de l'intérêt commun.
Ses échecs les plus retentissants ont parfois été le lieu des constructions sociales, politiques, les plus abouties.

[FrosT]

Si l'humanité a besoin d'une IA pour prendre des décisions environnementales, alors il vaut mieux qu'elle disparaisse, finalement...
D'ailleurs, l'IA n'existe pas en tant que telle. Il ne s'agit que de ce qu'on appelle "apprentissage profond", complètement spécialisé dans une tâche précise. On est encore à des kilomètres des histoires d'Asimov. Actuellement, il s'agit d'un enjeu économique plus qu'autre chose, pas d'un enjeu de survie comme le climat.

Il y a 3 types d'IA :

"ANI : Artificial Narrow Intelligence : une IA capable de s’attaquer à des problèmes très spécifiques, tels que le jeu de Go ou la reconnaissance d’images pour identifier des visages ou des cellules cancéreuses."
"AGI : Artificial General Intelligence : une IA qui aurait les mêmes performances qu’un être humain, capable de traiter des activités très diverses."
"ASI : Artificial Super Intelligence : une IA qui aurait des performances supérieures aux femmes et hommes les plus intelligents du monde."

Pour l'instant on est (plutôt) fort dans l'ANI et inexistant dans les autres. Seulement ça va très vite :
Voici un exemple des prévisions de Ray Kurzweil, qui compil les estimations les plus pessimistes et qui prévoie un début d'ASI pour 2045.
https://nauges.typepad.com/.a/6a00d8345167aa69e201b8d264f360970c-pi

Et même avec l 'ANI, un programme comme AlphaZero commence à être utilisé aux US dans l'urbanisme, donc ce n'est pas que purement économique.

[FrosT]

Je ne crains rien d'une IA autonome qui demeure un fantasme.

D'ici 25-30 ça ne me parait pas du tout faux.

Je crains davantage un transhumanisme débridé à base d'implants perfectionnés qui pourraient agir sur notre comportement.

C'est paradoxalement ce qui nous sauverait d'IA trop puissante pour nous en nous permettant d'être à leur niveau.

C'est le "surhumain" qui est dangereux, pas l'IA ni l'humain lui-même.

Oui c'est un risque.

[Shoemaker]

Les implants (qui sont inévitables, et d'ici quelques dizaines d'années, seront la norme) sont la porte d'entrée pour les IA dans le saint des saint : l'Humain. Lorsqu'elles seront en nous, nécessairement, elles se développeront à notre insu, pour prendre possession du lieu.
Les extrapolations des implants sont immenses !

[sheon]

Si l'humanité a besoin d'une IA pour prendre des décisions environnementales, alors il vaut mieux qu'elle disparaisse, finalement...
D'ailleurs, l'IA n'existe pas en tant que telle. Il ne s'agit que de ce qu'on appelle "apprentissage profond", complètement spécialisé dans une tâche précise. On est encore à des kilomètres des histoires d'Asimov. Actuellement, il s'agit d'un enjeu économique plus qu'autre chose, pas d'un enjeu de survie comme le climat.

Il y a 3 types d'IA :

"ANI : Artificial Narrow Intelligence : une IA capable de s’attaquer à des problèmes très spécifiques, tels que le jeu de Go ou la reconnaissance d’images pour identifier des visages ou des cellules cancéreuses."
"AGI : Artificial General Intelligence : une IA qui aurait les mêmes performances qu’un être humain, capable de traiter des activités très diverses."
"ASI : Artificial Super Intelligence : une IA qui aurait des performances supérieures aux femmes et hommes les plus intelligents du monde."

Pour l'instant on est (plutôt) fort dans l'ANI et inexistant dans les autres. Seulement ça va très vite :
Voici un exemple des prévisions de Ray Kurzweil, qui compil les estimations les plus pessimistes et qui prévoie un début d'ASI pour 2045.
https://nauges.typepad.com/.a/6a00d8345167aa69e201b8d264f360970c-pi

Et même avec l 'ANI, un programme comme AlphaZero commence à être utilisé aux US dans l'urbanisme, donc ce n'est pas que purement économique.

Je me méfie beaucoup des estimations, celles d'il y a 50 ans s'étant avérées toutes fausses dans ce domaine.
Aujourd'hui, les "IA" sont encore très bêtes.

[Maverick]

https://www.youtube.com/watch?v=xuBzQ38DNhE