*Godot est mort !*
Institut des Hautes Études pour la Science et la Technologie, « Le rôle des politiques pour sauver le genre humain », le 22 septembre 2020
L’I.A a l’air d’être un formidable outil, son travail commence et s’arrête néanmoins à l’état de nos connaissance actuelle comme point de départ, ce qui pourrait totalement l’induire en erreur, si bien sûr des expériences ne sont pas faites, c’est à ça que sert la science.
(Que ça à faire de chercher la petite bête)
Mais comme les connaissances participe à un tout qu’elle doit appréhender mieux que nous et que nos connaissances sont extrêmement vaste tout de même, elle doit avoir les doigts dans le pif à l’heure qu’il est.
YESSS 🙂
Je me pose la question. Comment convertir tous ces gens très intelligents qui font du réductionnisme énergétique. Sont-ils conscients que les milliardaires sont plus subtils en jouant sur deux tableaux, le temps et l’argent…
Comment empêcher le fabricant de l’ IA d’y programmer ses propres « affects », dogmes et préjugés ?
Ceci dit, je pense que vous avez raison: POTENTIELLEMENT, l’IA pourrait imposer la révolution copernicienne indispensable dans le domaine politique, social et économique que nous refusons sous l’emprise de nos « affects », dogmes et préjugés.
Notons que le plus simple pour l’ IA serait de nous supprimer avec nos problèmes 😉
Autre chose: La guerre est une très mauvaise manière de diminuer une population (cfr le baby boum de 1945). Les populations, moins stupides que leurs élites savent et veulent réguler leurs naissances dès qu’elles sont éduquées et protégées par une sécurité sociale.
Comment empêcher le fabricant de l’ IA d’y programmer ses propres « affects », dogmes et préjugés
C’est un mythe. Il n’y pas d’endroits de la programmation où cela pourrait se passer. Ce qui pourrait apparaître comme des « affects », dogmes et préjugés, émerge des données (dataset, Big Data) à partir desquelles travaille l’IA, soit que ces données soient biaisées (ça arrive), soit (le plus souvent), que l’IA ait détecté dans les données des choses que les humains n’ont pas vues ou refusent de voir (« affects », dogmes et préjugés des êtres humains, « politiquement correct » y compris).
Dans un cas récent (carte de crédit américaine), scandale parce que l’allocation de réserves était très déséquilibrée entre femmes et hommes. La piste des « affects », dogmes et préjugés n’a rien donné, l’IA + Big Data n’avait de toute façon pas accès au genre des consommateurs, elle avait simplement découvert de véritables configurations dans des comportements corrélés : les femmes DE FAIT achètent d’autres choses dans d’autres magasins et en autres quantités que les hommes.
J’ai besoin que l’on me propose des objections à la remarque suivante :
L’Intelligence Artificielle et les moyens technologiques que l’espèce humaine a déjà imaginés n’ont-ils donc pas besoin d’un support matériel pour exister ?
Bien sûr que si ! Comme notre pensée existerait-elle sans un support biologique ?
L’IA ne se heurtera-t-elle pas à son tour au mythe de l’illimitation des ressources ?
Et si l’on voulait réserver les richesses minières nécessaires aux technologies recourant à une IA, POUR SAUVER L’ESPÈCE HUMAINE, ne faudrait-il pas commencer par réduire drastiquement leur consommation pour des besoins futiles. Tels les multiples objets connectés, les 2,3,4,5 G et les batteries des P… de bagnoles ? Drastiquement… et démocratiquement.
Je vous avoue que je me sens un peu comme le chimpanzé de l’histoire.
Mais ce qui manque au chimpanzé, ce ne sont pas les questions mais les réponses. N’est-ce pas ?
COMMENT ( et non comme ) notre pensée existerait-elle sans un support biologique ?
Merci M. Jorion pour ce cours intéressant… J’aimerais seulement revenir sur la conclusion que y vous proposez. Imaginons donc que le chimpanzé en soit à se questionner sur ce que des humains, qui le soignent, le nourrissent, etc, peuvent bien dire, faire, etc… et entre autre… prévoir… de ce qui va lui advenir… ce sans tomber dans le piège de faire de l’anthropomorphisme, bien sûr.
Même si cette espèce, si proche de nous, est capable de reconnaître son visage, de prendre conscience de son corps en mouvement devant un miroir, d’avoir des expressions de rires, sourire, pleure… la barrière du langage qui le sépare d’être capable de comprendre et reproduire la complexité de notre langage d’humain, ne nous empêche t-elle pas nous même, d’appréhender s’il existe réellement une similarité cognitive/linguistique… entre lui et nous, dans sa perception de lui, du « monde », des objets, etc et de la cage puis de la sale dans laquelle il vit, dort, mange, etc , et de l’Homme, être vivant ayant une ascendance, dominance en tout cas, sur tout son univers…?
L’intelligence de cette espèce (du Chimpanzé, aux gorilles, orang-outan, etc)… est phénoménale, m’impressionne en tout cas dans un aspect spectaculaire, quand certains spécimens auraient appris en partie la langue des signes, etc… du moins à se faire comprendre par le « biais » de certains « signes »…
Là ou je veux en venir, se trouve d’abord dans un biais, dont il me semble qu’il se niche dans la comparaison de l’Homme devant l’IA, ne pouvant pas être équivalent à la situation du singe devant des humains… D’une part la complexité et complexification d’un des deux univers -celui des humains, par rapport à celui plutôt simple de la cage du chimpanzé, et quelque autre cage, salle, on le mette d’ailleurs – complexité qu’on souhaiterait voir résoudre par une IA, deux univers, « mondes », pris comme partie « identique » d’un substrat intangible, de la comparaison entre l’Homme et le chimpanzé, mis dans une situation « similaire » de risque d’incompréhension de la réponse de l’IA pour le premier, et du comportement, des sons émis, etc, des humains « soigneurs » dirons nous, pour le second… cette grande différence de contexte, donc, n’est-elle pas à ce point déraisonnable qu’elle risque d’invalider la comparaison…?
De là : Bien qu’il soit tentant de comparer, pour nous humain à rassurer, redonner espoir, comparer donc cette complexification des problèmes que « nos » inter-réactions nuisibles, toxiques produisent sur notre univers, et possiblement sur les « mondes » (disons que n’est-on pas à notre tour des chimpanzés en puissance, enfermés dans notre propre univers, par rapport aux dominants, puissances financières de ce « monde » en péril, comme l’est le chimpanzé d’ailleurs…?), avec notre capacité d’abstraction, à une cage de laquelle il n’y a pas d’autre alternative, que de… et pour… s’échapper, s’en évader… s’en remettre à une autre force que cette capacité d’abstraction (« affect »), autre chose que cette imaginaire collectif … qui nous est proposé en nous faisant nous comparer humblement, à ce chimpanzé interloqué par des comportements inconnus d’humains… lorsque la peur de ne pas comprendre ce que l’IA nous proposera, nous envahira… n’est-il pas risqué aussi de faire paraître l’incongruité de cette comparaison, à un acte de foi…?
Peut-on prouver, alors, selon notre degrés de compréhension du langage des singes… que même le chimpanzé s’en remettrait à la foi, face à ces deux « soigneurs »…? Ou pendrait-il ses « soigneurs » pour une puissance supérieure, à laquelle toute sa confiance irait « naturellement »…?
Faire acte de foi, est un signe en soi, qui peut aussi se traduire par des biais linguistiques… Et le risque qu’une incompréhension des solutions et réponses, des signes quoi, adressés par l’IA, puisse terrifier « les humains en cage », n’existe t-il pas aussi dans l’incompréhension de sa part (à l’IA) de l’énoncé de la question que « des humains » lui auraient posé…?
Bien sûr, est schématisé, simplifié par fait exprès, dans la dernière question, la peur de l’incompréhension humaine devant les-la réponse-s et solution-s apporté-e-s par « l’IA », et/ou les-a question-s à lui poser… quand le problème réside plus en fait, dans le risque de « dépassement de la capacité de charge de l’intelligence humaine moyenne »… en baisse… face à la « croissance » des écarts de niveaux de compréhension, que devront tenté de « décrypter », vulgariser, les différentes interprétations (« schisme scientifique » entre fin et moyen) de ses « programmeurs », s’enfermant dans une cage de complexité des processus, raisonnement ayant permis à « l’IA » d’arriver à ce résultat…
En plein début et aggravation de crise d’autorité/confiance, sociale, sanitaire, « sociétale », « climatique » « économique », « démocratique »… et urgences à y prioriser… il sera d’autant plus difficile de faire reconnaitre une forme « d’autorité naturelle », une « profession de foi »… à ce qui sera plus facile de faire paraître pour une « inintelligence artificielle », puisque incapable de se faire comprendre…
« Mn 30 et suivante : Etendre l’activité de l’espèce ? »
Longtemps les facteurs limitants ont été techniques; on ne savait pas faire plus ou plus vite, notamment en agriculture et élevage. Puis on a repéré des carences qu’il a fallu combler.
Aujourd’hui la principale étiologie de pathologies en élevage est liée à des conditions zoo-sanitaires dégradées. Et la Covid-19 nous en fait une démonstration étonnante, que nul n’aurait imaginé il y a un an seulement. Pourtant il en existe des exemples « évidents » partout autour de nous. Huitres et coquillages meurent et la pêche côtière diminue car les conditions sanitaires se dégradent. Ls marées vertes appartiennent à cet abandon. L’excès de nitrates y participent mais ceux qui savent gérer l’écosystème les utilisent pour produire des diatomées qui nourrissent huitres et moules. Ceux qui ne savent pas pleurent sur place et ça fait 150 ans que ça dure, soit bien avant l’invention des élevages industriels terrestres.
Ces élevages vivent et nous nourrissent parce que les éleveurs y font vraiment respecter de véritables règles sanitaires. Sinon ils sont éliminés par Darwin et quelques méchants pathogènes complotistes !
Certes c’est plus facile en médecine vétérinaire que de tenter de lutter contre le microbisme ambiant et les 4 ou 5 coronavirus déjà connus qui sont installés dans les crèches pour enfants et les écoles maternelles. Le nombre de lits en pneumologie pédiatrique a encore été diminué l’an passé. Pas besoin d’IA pour mesurer ce genre d’impasse. Peut-être n’est pas assez mortel pour en faire un sujet de société ? On y sera peut-être « obligé » ?
Le point intéressant est peut-être que votre propre dispositif d’analyse semble progressivement se coupler aux propriétés du système qu’il décrit.…
Merci à Paul Jorion pour cette série accompagnée de magnifiques illustrations sur l’IA comme transformation civilisationnelle, où la Corée du…
Ce qui me rend hésitant dans votre conclusion, c’est le déplacement qui semble s’y opérer progressivement. Le texte part d’une…
Petit point d’éclairage sur la société NAVER, le GOOGLE coréen, qui finance CareCall qui n’est pas en open source, c’est…
Eh oui, naviguer entre d’un côté un productivisme maximum au moindre coût et de l’autre faire que le bon peuple…
Je partage largement votre prudence : l’erreur commence lorsqu’on attribue à l’IA une intériorité, une sollicitude ou un attachement qu’elle…
Et comme j’aime bien traduire concrètement le bla bla de l’IA voici ce que ça donne effectivement : https://www.epeople.go.kr/index.jsp
Et j’ajouterai : pas de téléologie . Et puis en ce moment où l’on parle de détruire une civilisation et…
Dans les éco-villages, ceux qu’on ferait bien de se magner de construire, les femmes de 84 ans seront prises en…
C’est peut-être pour ça qu’on apprécie Hamlet !
Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx LLM pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés Singularité spéculation Thomas Piketty Ukraine Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »
Laisser un commentaire