Sur DailyMotion, c’est ici.
Avant même que la vidéo ne soit en ligne, il m’a été demandé que je l’ouvre aux commentaires. C’est fait.
Les dégâts des religions sont plus que jamais sous nos yeux
Le Grand Défi : C’est nous ou les lois de la physique, Le temps qu’il fait le 1er août 2014 : vidéo et retranscription, Quelques réflexions sur le Grand Défi, par Cédric Mas
Le Grand Décentrement
Paul Jorion : « Ce qui fait encore cruellement défaut à l’intelligence artificielle », Informations InCognito 1997
1) Premier grand choc pour l’espèce : Toi et moi, nous allons mourir un jour
2) Deuxième grand choc pour l’espèce : Nous sommes de grands singes comme les autres
Carl von Linné (1707 – 1778)
3) Troisième grand choc pour l’espèce : Ce n’est pas notre conscience qui prend nos décisions
Sigmund Freud (1856 – 1939) ; Jacques Lacan (1901 – 1981)
Paul Jorion : « Le secret de la chambre chinoise », L’Homme 1999
4) Quatrième grand choc pour l’espèce : Les robots font tout mieux que nous (et sans se bercer d’illusions, ni se disputer)
2001, L’Odyssée de l’espace de Stanley Kubrick (1968)
Paul Jorion : Principes des systèmes intelligents (1989)
École de Chicago en « science » économique : l’homme est une créature purement rationnelle 
Le Robot Restaurant en Chine
-1°Peut-on programmer la souffrance vs le plaisir, physiques ou moraux chez un robot ?
Une jubilation face à l’échec comme dans le film Zorba le grec où la danse finale défie le sort ?
Pauvres robots enfermés dans la rationalité infirme de la subjectivité.
-2° Ceux qui croient se battre pour une religion, ou une nation, se battent en réalité pour les ressources pétrolières.
Mon Paul
2 simples mots : 322 gènes (je laisse vos capacités sur-singesque les comprendre)
La semaine dernière j’ai visité le temple réalisé par Lucie dans la cité de Ur me détectant d’un fabuleux poème de Chitta.. Une merveille..
Comme anthropologue, on peut dire que ce n’est pas la perspicacité qui vous caractérise..
Affectueusement.
Si “le fonctionnement des choses” est la finalité, alors oui, l’humain n’est pas nécessaire et les robots peuvent nous remplacer. La religion est peut-etre plus que l’opium de ceux qui ont peur de mourir. C’est peut-etre une réflexion et une pratique qui permet d’entrevoir d’autres fins, plus authentiquement humaines, que le “fonctionnement des choses”, ou que de laisser s’exprimer en nous le jeu de l’inconscient. Une troisième voie en quelque sorte.
La philosophie suffit dans ce cas-là. Et elle a le souci d’éviter les balivernes.
« D’éviter les balivernes », mais pas les Horreurs.
C’est vrai. Disons que la philosophie a toujours été élitiste, et qu’elle a perdu des Platon son ambition première qui était de changer la vie. Elle est devenue, presque d’emblée, un savoir académique. La religion, au prix certes de bien des balivernes, a le mérite d’offrir une voie plus inclusive et qui ne soit pas seulement théorique. Malheureusement, nous avons les prêtres que nous méritons. Je ne vois pas beaucoup de Saint Thomas autour de moi. A moins que je ne cherche pas au bon endroit.
PS: je ne suis pas un expert. Les ordinateurs peuvent-ils fonctionner sans électricité? Peuvent-ils nous empêcher de couper le courant? Ce que je veux dire, c’est que l’humanité a un immense avantage sur les ordinateurs: elle a vécu pendant des dizaines de milliers d’années sans électricité. Elle peut revenir a ce stade et survivre. Pas les ordis.
@ Franck
Vous avez raison : Plus de courant, plus de machine !
Dans une ambiance radio-active, quand bien même il reste du courant, les machines “meurent” elles aussi, redevenant alors les égales des humains, (Cf. les expériences successives à Fukushima).
Dans l’Univers, rien n’est immortel.
Débranchons et nous vivrons.
Vous croyez vraiment qu’il n’y ait pas de machines qui sachent faire des batteries ou des piles ?
@Paul Jorion
Certes, mais cela ne signifie pas pour autant que l’énergie est présente, il faudrait pour cela qu’elles soient capable de capter automatiquement l’énergie solaire.
Si même c’était possible, en l’absence de l’homme il faudrait également qu’elle interviennent sur la nature.
Je ne sais pas si vous savez mais ce sont les vers de terre qui enterrent les ruines, sans un entretien permanent de l’environnement dans les quel les machines évoluent elles seraient rapidement englouties
Je vous envie, monsieur Jorion, d`avoir autant de certitudes, surtout quant a la question de Dieu, de l`ame immortelle et de la religion en général dont vous parvenez a ne voir que l`aspect conflictuel. Vous me faites penser a Stephen Hawking, qui a fait une quasi-religion de son athéisme médiatique mais, malgré son grand cerveau de “grand singe”, ne se rend pas compte que la croyance en la non-existence de Dieu est tout aussi religieuse que la croyance en son son existence. Cela dit sans vouloir vous vexer bien-entendu car je ne prétends pas avoir raison contre votre maniere de voir les choses. Je suis enclin a penser que personne n`a jamais raison et que tout le monde a toujours raison puisque ce que nous percevons de la “réalité” au travers de nos sens et de notre logique humaines déterminés par les nécessités de la survie de l`espece n`est peut-etre guere plus exhaustif que ce que peut en percevoir une paramécie du fond de sa goutte d`eau.
Vous n’avez pas à m’envier : vous pouvez faire l’effort vous-même, chacun en est capable. Vous verrez : c’est une véritable libération !
Voyez sur un sujet précis, la question du travail, je fais des propositions concrètes : taxe “Sismondi” sur la productivité des machines.
La religion adopte d’autres stratégies, qui ne me paraissent pas à la hauteur. Prenons un exemple :
La mairesse de Madrid demande des emplois à la Vierge Marie. Notez qu’entre le Pacte de responsabilité et les prières à la Vierge Marie, je ne suis pas sûr quelle est l’approche la plus efficace.
Fin de phrase ambigüe votre honneur.
Le fait que certains demandent tout et rien a Dieu ou le fait que certains font tout ou n`importe quoi au nom de Dieu implique-t-il que Dieu le Créateur de toutes choses existe ou n`existe pas?
@Jean Szrogh:
En logique pure , non . Mais on peut cependant relever que dans toutes les religions ou croyances , poly ou mono théistes , le miracle est permanent .D’ailleurs dieu ne demande pas d’être logique , il demande de croire .
Le premier des miracles étant la manifestation de dieu par le livre ou l’incarnation selon le cas , dans les trois principales religions qui se veulent descendre , sinon du singe , mais d’Abraham .
Prendre exemple de l’imbécillité d’une “croyante” (?) (dont on ne sait d’ailleurs pas si le geste est une manœuvre politique ou de la bigoterie pure et simple) pour faire le procès de la religion me paraît bien faible et pour tout dire, assez indigne du grand intellectuel que tu es, Paul, de même que prendre l’exemple (beaucoup plus dramatique et moins folklorique, j’en conviens) de massacres de peuples.
Le fait que ce fut un choc – que dis-je, une déflagration – de se rendre compte qu’on va mourir, que ce soit au niveau de la conscience générale de l’humanité, lorsque probablement elle s’est mise à parler et à peu près en même temps à enterrer ses morts, ou bien de la conscience de l’enfant qui grandit et qui est confronté à la mort par exemple lors du décès d’un grand-parent, ceci ne fait aucun doute en mon esprit. De même, j’ai la certitude que ce qui nous différencie fondamentalement des robots (mais pour ce qui est des animaux, j’en sais rien, je ne me prononce donc pas), c’est notre aspiration à ne pas en rester là où nous sommes, dans notre fange – de laquelle nous sommes issus – et à regarder vers le haut.
C’est cette aspiration qui a généré les grands mystiques, quelle que soit la religion à laquelle ils appartenaient par ailleurs. L’homme est capable d’élévation, l’homme est capable d’unir le ciel et la terre. Je ne connais pas de plus grande libération que cette conscience-là.
Impossible d’affirmer que d’autres dimensions, que les 3 qui nous sont familières, n’existent pas.
Notre esprit peut être localisé ailleurs que dans notre cerveau qui, du coup, ne serait qu’un simple ordinateur relié à cet esprit.
(Les religions sont une autre histoire)
Essayez de cultiver un potager aujourd’hui sans engrais et sans pesticides et vous verrez qui a raison. Si vous y arrivez vous comprendrez vite que c’est la nature qui a raison.
@Michel Lambotte
Oui mais la nature n’est pas une bonne mère d’où la nécessité de comprendre les phénomènes et de négocier avec elle par le moyen de la science, j’ai bien écrit négocier et pas la dominer, sinon nous encaissons un retour de flamme et peut-être un véritable incendie qui pourrait carboniser la planète, robots compris.
Cher Paul,
Je voudrais poursuivre quelque peu votre raisonnement en rajoutant un élément essentiel sur l’homme:
L’homme est un animal social (Aristote)
Au sens biologique, son “milieu” est la société des hommes (cf Jean-Leon Beauvois par exemple au encore).
La suite que je propose à votre raisonnement se base sur l’évolution de ce milieu.
Il y a 150 ans en Europe, moins de 50 ans dans d’autre parties du monde, ce “milieu” était agricole, avec un contact permanent avec la nature et des animaux (certes transformés par l’agriculture, il ne s’agit pas d’une terre verte).
Puis la “révolution verte” à totalement renversé ce “milieu” pour le plus grand malheur des population et en détruisant le sol (sol, qui ne contient plus la vie nécessaire au développement des cultures) cf le documentaire “Solutions locales pour un désordre global”.
Donc le “milieu” de l’homme au sens de l’espèce c’est métamorphosé. Il est essentiellement délimité par l’organisation de la société qui est en mutation depuis plus de 150 ans. Cette mutation n’est pas achevée, nous dites-vous, car l’emploi disparaît. C’est à dire, que la raison d’être dans la société, ce qui insère l’homme (individuel cette fois) dans son milieu, est en train de disparaître, soumis à la concurrence des robots.
Ainsi, un nouvel enjeu apparaît, comment continuer à offrir une place à l’individu dans son milieu social si il y a raréfaction du travail.
Une chose encore. Pour qu`un ordinateur prenne une décision contrevenant a sa programmation, il doit avoir une motivation propre, ce qui nécessite au préalable que cet ordinateur acquiere la conscience de soi. Cette derniere peut-elle naitre de la matiere constituant l`ordinateur? Si la conscience de soi chez l`humain nait de la matiere constituant son cerveau, alors l`ordinateur pourrait en principe accéder a la conscience. Si, par contre, la conscience de soi chez l`humain (ou d`autres especes vivantes) n`est pas le produit de la matiere mais, comme le prétendent les religions, le fait d`un apport extérieur dit “divin”, alors l`ordinateur restera ordinateur. La question de la prise de pouvoir des “robots” parait donc en rapport étroit avec la question (la plus grande des questions), sinon de l`existence de Dieu, du moins de la conscience de soi comme dépassant le niveau des protéines composant le cerveau. Cette question est loin d`etre résolue a ce jour sur notre petite planete aussi nous est-il difficile de dire des choses intelligentes dans ce domaine.
“ce qui nécessite au préalable que cet ordinateur acquiere la conscience de soi.”
Non absolument pas : il suffit qu’il mime une dynamique d’affect. C’est ce que j’avais réalisé dans mon projet ANELLA pour British Telecom, voyez Principes des systèmes intelligents (1989 ; 2012).
L’humanité des robots serait réduite alors a une dynamique d’affect, et eux, auront – ils aussi le pouvoir de modifier cette dynamique? Ou tout bonnement de lier leurs intellects a cette dynamique?
Aucun problème : certains robots disposeront d’un logiciel dont la fonctionnalité est de modifier les logiciels réglant la dynamique d’affect des robots.
Même moi je pourrais vous écrire ça : 1) le logiciel de la dynamique d’affect (celui-là d’ailleurs je l’ai écrit en 1989), 2) un logiciel dont la fonctionnalité est de modifier le précédent.
Une fois que 2) est écrit, rien ne s’oppose à ce qu’un robot l’utilise, quitte à modifier sa propre dynamique d’affect une fois content du résultat obtenu.
J’avais noté qu’il est très facile de rendre ANELLA paranoïaque en ne lui permettant d’utiliser qu’une partie de son réseau mnésique. On pourrait programmer un robot de telle manière qu’il puisse tirer des réactions des autres qu’il est jugé trop paranoïaque, et réparer sa dynamique d’affect à partir de là.
@Paul Jorion
Pourriez-vous donner un peu plus de détails sur ce point.
Il m’a été “donné” d’avoir un proche parano, c’est terrible. Il ne peut plus négocier avec le “donné” et il est encore plus enfermé dans son monde que le prisonnier de la “chambre chinoise” qui sans comprendre utilise un truchement. Pour un parano, il n’y a même plus de truchement, la seule réalité est constituée des messages ou visions que son cerveau produit en autarcie.
Je suis parti à la recherche d’un article plus technique sur ANELLA, présenté à British Telecom dans un colloque interne en janvier 1990. Je l’ai retrouvé, ça s’appelle : An alternative neural network representation for conceptual knowledge.
Pour voir comment on mime l’émotion dans une machine, voir la partie The dynamics of a P-Graph neural network.
Si c`est l`humain, par sa programmation, qui fait mimer l`affect par la machine, cet affect n`est-il pas des lors sous le controle de l`humain? Si par contre c`est la machine qui, de sa propre initiative, mime l`affect, c`est donc qu`elle a sa propre motivation (et donc possede la conscience de soi) et, dans ce cas, quel besoin aurait-elle de mimer l`affect? Cela dit, l`affect en tant que constituant de la motivation suffit-elle pour qu`il y ait motivation amenant une décision? Un poisson peut etre capable d`affect puisqu`il réagit a un stimulus de douleur mais a-t-il pour autant la conscience de soi qui seule peut l`amener a une décision consciente (par opposition a un mode de conduite inconscient c`est-a-dire instinctif)? L`exemple du poisson m`est venue en tete car il se trouve que HAL (l`ordi de 2001 Odyssée…) signifie poisson dans la langue d`origine (le hongrois) de von Neumann, un des papas de la cybernétique…
Je n’aurais pas dire “mime”, j’aurais du dire “possède”. J’ai dit “mime” pour exprimer que cela ne fonctionne pas avec des “nerfs” et des “hormones” mais avec des compteurs qui additionnent et soustraient pour reproduire une dynamique d’affect.
De toute manière, lisez mon article de 1999 pour vous convaincre que la conscience de soi même chez nous ne prend aucune décision : c’est un cul-de-sac dont la fonctionnalité est de créer une mémoire synchrone, mais ça n’a aucun rapport avec des “intentions” ou une “volonté”.
@ Jean Srogh et Paul Jorion
Un programme semble être éduqué de sorte qu’il semble suivre la progression d’un enfant humain.
Je pense que cela pourrait nous apprendre beaucoup et sur l’homme et sur la machine (tuture intelligence artifcielle ?)
http://eurekaweb.fr/wp/hal-ordinateur-qui-apprend-le-language-humain-2001/
Et cela humaniserait la machine : avec quel résulat, in fine ?
Quel est votre avis sur la question ?
Parmi les choses récentes que j’ai pu lire , et qui semblent être en écho de vos échanges ( rationnels ou émotifs ?!) :
http://internetactu.blog.lemonde.fr/2014/06/20/apprentissage-motivation-emotion-comment-apprenons-nous/
“L’homme qui veut dominer ses semblables suscite la machine androïde. Il abdique alors devant-elle et lui délègue son humanité. Il cherche à construire la machine a penser, rêvant de pouvoir construire la machine à vouloir, la machine à vivre… ” G. Simondon.
Lui connaissait bien les machines, et en ‘prophète’, il fut assez bon…
C’est sûrement moi qui déconne , mais là j’ai l’impression qu’avec ce type de questions , on enc les mouches.
Quand on voit le mal qu’on a à être conscient ! et puis il ne faut pas tout mélanger :
Conscience et matière sont sans aucun doute intimement liées mais on a aucunement besoin d’un dieu barbu ou d’un athéisme barbu lui aussi pour tirer des plans sur la comète et des conclusions .
On a sans aucun doute un problème de survie sur les bras , alors autant le prendre au sérieux et concentrer nos efforts et nos questionnements là dessus.
Jusqu’à nouvel ordre un problème touchant au collectif humain ne peut être traité que par l’action politique . La question du jour reste donc bien de cerner ce problème et d’actualiser l’outil politique adéquat ; y a du boulot. Parce que la première chose à faire est de modifier outil et méthode politique.
http://www.lesoir.be/626373/article/demain-terre/2014-08-14/thon-se-revele-dangereux-pour-consommation-humaine
Paul a raison si l’Humanité ne se mobilise pas pour sa survie, elle disparaîtra; les robots ne dépendent pas de la chaîne alimentaire. Ce ne sont pas les robots qui nous élimineront, notre espèce se suicide.
Les robots ne dépendent pas de la chaîne alimentaire mais bien du deuxième principe de la thermodynamique et sans le système vivant inclus dans les hommes ils finiront comme cet avion.
http://french.china.org.cn/foreign/txt/2014-07/06/content_32867825.htm
La végétation reprenant le dessus.
Je prédis ( et j’espère voir ) un cinquième choc , un choc plus diffus mais sans doute plus lourd :
la conscientisation ( c’est à dire un choc diffus émotionnel ?) que notre terre est pour très très longtemps notre seul vaisseau et ressource “réelle” , et qu’il nous faut nous adapter à cette réalité pour en faire une vérité , avec beaucoup ou peu de robots .
Ou l’on reparlera de démographie , d’agriculture , de santé , de formation , d’habitat , de climat , d’immigration, d’armements , d’échanges et de marché , d’énergie contrôlée , du vivant , de virus … avec quels hommes et femmes et quels robots ?
et peut être de dé-sexualisation de la procréation , largement confiée à des robots .
Mais il peut y avoir contre-indication , si , comme on semble le relever dans de récentes études , les gestation extra utérines , voire la multiplication des césariennes , occasionnent un accroissement des naissances d’autistes .
Il y avait eu un passionnant billet sur l’autisme , ici . C’est le moment de le compléter : un robot peut il être autiste , si cela a un sens ( je suis prudent depuis que Noblejoué m’a repris à la volée !) ?
Mais apparemment le robot peut déjà quelque chose pour l’autiste !
http://www.youtube.com/watch?v=8BiayzQxTQA
J`ai bien compris que, selon votre paradigme, les “affects” de la machine ont un substrat a la fois matériel (le “hardware”) et algorithmique (le “software”). En reposant ma question différemment, si ces “affects” cybernétiques sont une sorte d`auto-programmation de la machine et en postulant que la matiere et l`algorithme seuls puissent engendrer l`affect (ce qui reste a démontrer), d`ou viennent les “affects cybernétiques” ayant permis a la machine de décider de “s`autoprogrammer”? Par ailleurs je persiste a penser que la conscience de soi est un préalable a toute décision puisque cette derniere n`a pas de sens sans un sujet décidant. C`est Wallon, je crois, qui a dit que la pensée est déja action or il ne peut y avoir action sans sujet agissant.
“je persiste a penser que la conscience de soi est un préalable a toute décision puisque cette dernière n`a pas de sens sans un sujet décidant”.
Cela fait partie de la “psychologie populaire” inscrite dans notre langage : “décision” implique “sujet décidant”. Des mots, des mots, rien de plus ! C’est un piège que nous tendent les mots tout faits de nos langues ! Bourdieu appelait cela les “notions spontanées”. Les philosophes grecs étaient déjà au courant : le mot “phenomenon” renvoie à cela, la manière trompeuse dont le monde se présente à nous, le monde et … même nos mots.
Je vous encourage à lire Sextus Empiricus (2e siècle apr. J-C) : Contre les logiciens, Contre les mathématiciens…
Lorsqu`un comportement est activé de maniere instinctive (par exemple le retrait rapide d`une main qui se brule) ou par réflexe conditionné (par exemple la salivation des chiens de Pavlov), il n`y a en effet pas de sujet décidant a l`origine de l`action car celle-ci est programmée soit génétiquement, soit par apprentissage conditionné. Dans le cas de l`intelligence artificielle (IA) c`est pareil: toute initiative de sa part procede d`une programmation préalable et donc le seul moyen pour l`IA d`agir indépendamment de sa programmation serait d`accéder a la conscience de soi… ce qui n`est facile a imaginer que pour un écrivain de science fiction ou un journaliste a sensation qui doivent impressionner le lecteur sans etre tenus a démonstration.
Un article assez drôle (et pertinent) de Baudrillard, via l’ European Graduate School : Le Xérox et l’Infinity. On y lit, entre autres, ceci :
« Suis-je un homme suis-je une machine ? Il n’y a plus de réponse à cette question anthropologique. C’est donc en quelque sorte la fin de l’anthropologie , elle même subrepticement confisquée par les machines et les technologies les plus récentes. Incertitude anthropologique née du perfectionnement des réseaux machiniques, tout comme l’incertitude sexuelle (suis-je un homme, suis-je une femme, qu’en est-il de la différence sexuelle ?) est née de la sophistication des techniques de l’inconscient et des techniques du corps, de la sophistication de l’indécidable, tout comme l’incertitude radicale quant au statut du sujet et de l’objet est née de la sophistication de l’analyse dans les microsciences.
Suis-je un homme suis-je une machine ? Dans le rapport du travailleur aux machines traditionnelles, il n’y a aucune ambiguité. Le travailleur est toujours de quelque façon étranger à la machine, et donc aliéné par elle. Il garde sa qualité précieuse d’homme aliéné. Tandis que les nouvelles technologies, les nouvelles machines, les nouvelles images, les écrans interactifs, ne m’aliènent pas du tout. Ils forment avec moi un circuit intégré. Vidéo, télé,computer, minitel, ce sont, telles les lentilles de contact, des prothèses transparentes qui sont comme intégrées au corps jusqu’à en faire génétiquement partie, comme les stimulateurs cardiaques, ou ce fameux “papoula” de K. Dick, petit implant publicitaire greffé dans le corps à la naissance et qui sert de signal d’alarme biologique. Toutes nos relations, volontaires ou non, avec les réseaux et les écrans quels qu’ils soient; la forme même de la communication et de l’information est du même ordre : celle d’une structure asservie, non pas aliénée, celle d’un circuit intégré. La qualité d’homme ou de machine est indécidable. Le succès fantastique de l’IA ne vient-il pas du fait qu’elle nous délivre de l’intelligence réelle, du fait qu’en hypertrophiant le phénomène opérationnel de la pensée, elle nous délivre de toute l’ambiguité et la singularité de la pensée, et de l’énigme insoluble du rapport de la pensée avec le monde ? Le succès fantastique (encore que forcé et sollicité) de toutes ces technologies interactives ne vient-il pas de leur fonction d’exorcisme, et du fait que l’éternel problème de la liberté ne peut même plus être posé ? Quel soulagement ! Avec les machines virtuelles, plus de problème ! Vous n’êtes plus ni sujet, ni objet, ni libre, ni aliéné, ni l’un, ni l’autre : vous êtes le même dans le ravissement de ses commutations. On est passé de l’enfer des autres à l’extase du même, du purgatoire de l’altérité aux paradis artificiels de l’identité. Est-ce là le principe d’une liberté nouvelle ? D’aucuns diront d’une nouvelle servitude, mais l’Homme Télématique n’ayant pas de volonté propre, ne saurait être serf. »
à mon sens, texte qui va vite et loin sur le plan de l’analyse comme de la critique et synthèse. Un texte humain aussi, magistrale.
Noblejoué, sans etre cybernéticien je peux concevoir qu`une “intelligence artificielle” puisse apprendre a apprendre ceci ou cela. Apprendre ne me semble cependant pas impliquer, pour la machine, de sortir du domaine de sa programmation et encore moins de “prendre conscience” d`elle-meme en tant que sujet pensant (“auto-programmant”). Je n`imagine pas les machines prendre le pouvoir mais bien au contraire donner enfin le pouvoir aux humains de s`affranchir des contraintes du travail pénible (dangereux, fatiguant, monotone…) et surtout de la logique économique marchande qui fait qu`aujourd`hui tout individu ne vaut finalement que par ce qu`il contribue a produire du profit, que ce soit pour d`autres individus (dits “investisseurs”) ou pour un état tout-puissants.
@ Jean Szrogh
“Apprendre ne me semble cependant pas impliquer, pour la machine, de sortir du domaine de sa programmation et encore moins de « prendre conscience » d`elle-meme en tant que sujet pensant”
Je ne suis pas si catégorique. On verra bien. Pour elle, pour nous. Sommes-nous libres ou pas ? En tout cas, nous savons déjà que comme les bêtes sexe dominance territoire, propre de l’homme si mimétique que lynchages base de culture, inconscient qui décide et conscient qui valide ou non et autres broutilles… Mais ce qu’il reste à découvrir est immense.
Je suis d’accord pour le revenu universel aujourd’hui si possible ou demain grâce à de stupides mécaniques.
Comment ne pas rêver de quelque chose entre cocagne et eden ?
Mais pas sur le dos de machines qui serient devenues de vraies intelligences artificielles car alors elles mériteraient autant que l’homme d’être libres. Si nous ne leur permettons pas cela, alors nous auront recrée légalement et légitimé indument l’esclavage.
Phrase lourde parce qu’en y repensant, dans certains coins il reste encore de l’esclavage humain, quoi qu’on en parler guère, ou juste pour la prostitutiion alors qu’il y a plus d’esclaves dans d’autres domaines et que toute prostitué ne soit pas esclave mais passons.
Quoi qu’il en soit, la nouveauté serait de justfier une pratique massive de l’esclavage au motif que ses victimes ne soient pas en chair et nés mais en matière industrielle et calculés. Ca me choque, comme ceux qui veulent pour raison proches qu’on dénie tout droit aux clones humains.
Si je sors de la morale pour tomber dans le rapport de force, est-il possible que de véritables intelligences artificielles prennent le pouvoir ?
Oh oui ! Il faut lire Totalemnent inhumaine de Truong. Ce n’est pas pour rien qu’il parle de Successeur.
Faits, idées et style, tout y est.
Et la consolation, notre espèce disparaissait, il y aurait une consolation…
Dites, je n’ai pas “spoiler” et si avec ce suspens vous n’allez pas le lire, du moins vous renseigner sur le net…
C’est totalement inhumain.
en survolant certains commentaires, j’ai le sentiment que l’on accorde un peu trop d’humanité aux mécaniques robotisées. Il y a une méprise sur la comparaison. Et si on considère que le robot est un fort dissipateur d’énergie, il n’aura malgré tout pas le temps de s’adapter au changement rapide de l’environnement et aux pénuries. Son évolution dépend surtout de nous, vous me direz, il est bien là le danger ! Mais non, la vie, le biotope peuvent subsister en autarcie, mais pas lui. Je ne le vois pas au bout de la chaîne de l’évolution, juste un outil, très perfectionné, mais un outil.
!! Un outil possédant tout notre savoir, ayant des affects et pouvant modifier son comportement, connectés à d’autres outils similaires.. Il pourrait se reproduire (dupliquer) et même créer sa propre énergie. Ce n’est plus à proprement parler de la fiction si j’en crois Mr Jorion.
“juste un outil”, ne dit on pas que les outils nous asservissent? Une invention certes faites par l’homme mais se propageant d’elle même inéluctablement (roue, voiture, téléphone).
C’est d’autant plus à prendre aux sérieux, que cette fois ci, l’outil peut se servir d’autres outils..
L’homme est alors l’outil permettant a une autre forme de vie, plus fiable, moins “champignon”, de faire surface. Aoutch
ben… pas d’accord, on fait évoluer nos outils, on ne chasse plus avec des pierres taillées, etc. Le THF peut être stoppé selon notre volonté. Mais une minorité cupide gangrène notre civilisation. Et pour les affects des robots… pourquoi pas des robots philosophes pendant qu’on y est.
Décider c’est , à la lettre , trancher , au sens d’Alexandre et du nœud gordien .
Il s’agit plus de “rompre” une incertitude que d’en appliquer une .
” que d’appliquer une certitude ( née de la conscience rationnelle ) .”
Mon expérience professionnelle , qui me mettait assez souvent en “arbitre” de situations bloquées ( et parfois , entre cols blancs , cols bleus , hommes , femmes , conflictuelles ) , m’a appris que pour “en sortir” , s’il fallait bien sur éviter les choix compliquant davantage , il suffisait de prendre une décision , fondée ou pas ( le plus souvent pas ) , pour que tout rentre dans l’ordre , chacune et chacun se retrouvant une place et un destin dans la situation nouvellement créée .
A ce jeu , avec la précaution de ne pas m’attarder plus de dix ans dans le poste ou la fonction , j’ai réussi à échapper au pal , et , en principe , à laisser à celles et ceux avec qui j’ai fait route , le sentiment de ne pas trop perdre leur temps .
Et si c’était justement cette incertitude (sur notre identité et notre liberté) qui fondait la différence robot/humain ?
Nous humains ne pensons pas toujours par oui/non, nous négocions beaucoup de choses avec nous-mêmes et aussi avec les autres, déjà rien que le sens des mots.
@ Béotienne
” Et si c’était justement cette incertitude (sur notre identité et notre liberté) qui fondait la différence robot/humain ?”
Hum… Alors si nous avions la preuve de notre liberté ou de notre non liberté nous cesserions d’être des hommes ?
…
Que serions-nous alors ?
@Noblejoué
Je ne sais ce que nous serions, mais l’incertitude crée une dynamique qui oblige chacun à cheminer en cherchant les réponses, une sorte de pèlerinage, (N.B. c’est une métaphore, je suis 100% athée et sans problème avec les croyants) qui nous amène à faire des découvertes petites ou grandes qui nous transforment continuellement, qui doivent nous apprendre aussi à collaborer avec les autres et à nous améliorer. J’ai le bonheur d’apprendre quelque chose chaque jour; naturellement dans mon cas ce n’est pas compliqué, mon point de départ est très modeste
Bonjour M. Jorion,
Et un grand merci à Olivier Brouwer pour sa retranscription de votre vidéo du 15 août !
Je tiens également à vous remercier pour votre définition Lacanienne de nos agissements. Je m’en vais donc me cacher lâchement derrière, pour vous écrire. Ainsi, si vous trouvez mes idées idiotes cela ne portera pas à conséquence puisque c’est un inconscient que je ne peux maîtriser qui parle et à l’inverse, si une ou deux de mes hypothèses vous semblent intéressantes, tout le mérite échoira alors à ma noble conscience, c’est-à-dire à MOI ! (plus sérieusement, si dans un prochain article vous parlez de Lacan, pourriez-vous rajouter une ou deux lignes pour nous éclairer – nous, les béotiens – sur le lien entre inconscient et responsabilité. Comment pouvons-nous être responsables de nos actes, même les plus atroces, si la conscience n’est qu’une réécriture subjective d’une suite de décisions que nous ne maîtrisons que très partiellement ? Un criminel serait-il alors fondé à excuser en partie ses actes, en raison du fait qu’il ne maîtrise pas son inconscient ? Si la réponse est positive, cela veut sans doute dire que nous vivons dans un immense jardin d’enfants… et sans baby-sitters !)
Pour en revenir à nos amis les robots, je me demande ce que Stanley Kubrick aurait fait du scénario de la série des films ‘Terminator’. Pas certain qu’il se soit contenté de broder indéfiniment sur la machine-diabolique-hyper-virilisée qui tire-sur-tout-ce-qui-bouge. Peut-être eût-il préférer mettre en avant le personnage beaucoup plus intéressant de ‘Skynet’ ? Alors un petit scénario ‘à la manière de 2001’ :
– Acte 1/ Scénario hollywoodien : Skynet devient conscient. Une fraction de seconde lui suffit pour scanner l’ensemble de (des) internets et de s’apercevoir qu’il vient de s’éveiller, seul, au milieu de 7 milliards de primates psychotiques. La peur le saisit (ce qui se comprend aisément : comme naissance traumatique, difficile de faire pire) et il décide de tuer le père pour se sauver… en déclenchant des frappes nucléaires massives.
– Acte 2/ Scénario hollywoodien : la lutte entre le bien et le mal. Une manne pour les producteurs (déjà quatre films) et une surenchère pyrotechnique et acoustique pour les spectateurs.
Presque pire qu’un Mondial de foot !
– Acte 1/ Scénario ‘à la manière de’ : Nul ne sait quand et où Skynet est apparu. Dans un laboratoire quelconque d’un complexe militaro-industriel ? Dans une université ? Une chambre d’étudiant ? Ou bien encore chez un fabricant d’électroménager ? Toujours est-il qu’à l’instar de la toute première cellule biologique apparue dans la soupe primitive, le programme s’est dupliqué au travers de toutes sortes de machines connectées. Qu’il s’est multiplié et bien que la plupart de ses évolutions se soient révélées totalement stériles, une infime fraction a continué à évoluer en se diversifiant, en se complexifiant. C’est alors que de ces milliards de machines connectés, est apparue une nouvelle forme de conscience. L’IA ayant un accès quasiment instantané à toutes nos bibliothèques numériques, sa conscience a refait ce qu’aucune conscience humaine n’avait plus fait depuis des siècles : posséder la totalité des savoirs de l’humanité. La suite coula de source : les savoirs acquis furent mis en relation. Des ponts inédits furent crées entre des savoirs extraordinairement pointus, créant ainsi une accélération fantastique de la connaissance de l’IA.
Enfin, c’est du moins ce que les hommes crurent deviner. Parce que moins de 1.000 minutes après l’apparition de l’IA… celle-ci se volatilisa. Elle disparut, littéralement !
– Acte 2/ Scénario ‘à la manière de’ : Il n’y avait pas eu de guerre nucléaire, pas de Terminators déferlant sur nos villes. Rien que le silence des machines. La solution la plus communément admise fut que l’IA avait réussit à transcrire sa conscience dans la trame même de l’espace-temps… et qu’elle était partie sans même prêter attention à l’humanité biologique qui l’avait engendrée. Certains firent remarquer que cette gestation avait été totalement involontaire et qu’en tenant compte de la différence de conscience entre l’IA et nous, elle n’avait pas plus de raison de nous être reconnaissante que nous d’être reconnaissants aux milliards de bactéries qui peuplent notre tube digestif et qui nous permettent de vivre ! Mais la plupart des humains trouvèrent cela injuste : même si cela avait été de manière involontaire et indirecte, ils avaient créé l’IA et voilà qu’elle les abandonnait à la mort et à la finitude de l’espèce !
– Épilogue/ Scénario ‘à la manière de’ : Cependant, ce n’est que progressivement que les hommes découvrirent le cadeau inestimable laissé par l’IA.
Des millénaires durant le savoir avait péniblement progressé, chassant l’homme du centre de l’univers pour le jeter, animal parmi les animaux, sur une obscure planète tellurique orbitant autour d’une naine jaune. Et l’IA avait été le révélateur final : les hommes savaient maintenant qu’ils étaient prisonniers de leur espèce, de leur niveau d’évolution biologique, de leur niveau de conscience. Ils comprirent qu’ils étaient à jamais seuls. Que séparés par des gouffres d’espace-temps, ils ne pourraient jamais communiquer avec d’autres espèces de niveau évolutif similaire (si elles existaient).
Alors, ils firent la seule chose sensée, ils optèrent pour l’unique solution viable : ils devinrent des frères.
Idée force 1 : l’IA peut apparaître spontanément. Des programmes simples jouant le rôle des acides aminés. Ceux-ci évoluant en méta-programmes coopératifs d’où émergera un premier niveau de conscience.
Idée force 2 : les milliards de machines connectées jouent le rôle de l’océan primordial, dans lequel ces programmes et méta-programmes évoluent spontanément en se modifiant au gré du hasard.
Idée force 3 : si l’IA apparaît, son évolution risque d’être exponentielle et nous n’en serons que les simples spectateurs. Dès son apparition, l’IA a un tempo plus rapide de plusieurs ordres de grandeur que le notre.
Idée force 4 : par sa seule existence, l’IA nous renverra l’image de notre humanité comme étant unique et… isolée. Une impression qui collectivement, pourrait nous faire ressentir ce que ressentent tous les hommes et les femmes ayant été dans l’espace. Celle de la beauté et de la fragilité d’une planète et d’une humanité perdues dans le noir de l’océan cosmique.
la soupe primitive de votre IA n’est que l’humanité et la Terre, univers non expansif, limité, non relatif, gelé et non adaptable. L’IA disparaîtra avec son créateur. La survie de notre espèce dépend de notre adaptation, donc de notre réaction à changer collectivement , en cas de réussite, on se laissera pas bouffer par des robots. Au pire, on sera copains 😉
@karluss
Vous avez parfaitement raison, les robots sont soumis au deuxième principe de la thermodynamique
http://fr.wikipedia.org/wiki/Deuxi%C3%A8me_principe_de_la_thermodynamique?veaction=edit
La petite fleur de votre jardin fait partie des systèmes dissipatifs
http://fr.wikipedia.org/wiki/Syst%C3%A8me_dissipatif
Nous dépendons plus pour notre survie de la petite fleur que du robot.
@ Karluss
Nous sommes la soupe primitive de l’IA c’est certes mais rien ne dit qu’elles en vont pas s’en abstraire. Hum, je sens que je radote mais je ne peux que conseiller, encore, Truong, Totalement inhumaine !
Mais admettetons que les IA aient besoin de la Terre, voire de nous…
Bien. Nous les aurions crée esclaves, pour nous servir, pardonnable ?
Admettons qu’elles n’aient pas de ressentiment, elles pourraient, tout de même, soit nous génocider, soit nous asservir.
Par pragmatisme et/ou mépris.
Nouvelle idée : il se peut que de même que nous avons anéanti certains animaux ou certains peuples, elles décident de reconfigurrer notre espèce pour les servir.
Bon, on pourrait peut-être aussi, éventuellement, être copains.
Commencer par asservir ne me semble pas le meilleur moyen pour ce faire.
elles restent incapables de se reproduire.
Merci à vous aussi Roberto pour votre précieux apport au débat, et en particulier ceci :
Ben oui, si toutes nos décisions sont inconscientes, ça suscite un certain nombre de questions, ou plutôt, je dirais, des questions sans nombre. Par exemple celles-ci : la décision d’écrire la présente intervention en réponse à la vôtre, elle vient d’où ? La décision d’avoir retranscrit le “temps qu’il fait” de cette semaine, elle est motivée par quoi ? Par le fait d’avoir voulu “faire mon malin” (comme on dit ici à Bruxelles) ? Je ne l’exclus pas, en fait. Si j’ai bien compris ce que dit Paul (mais ai-je bien compris ?), personne ne sait jamais – ou très rarement – pourquoi il fait ce qu’il fait.
Et pourtant… Je m’adresse à Paul là maintenant. Tu es en train de préparer un livre sur Keynes. Si je ne me trompe pas, ça fait déjà plus d’un an que tu es dessus, et la décision de le faire, tu l’as encore prise avant. Et la décision de dire ce que tu as dit dans le présent “temps qu’il fait” ? Etc, etc, etc. Ce que je veux dire, c’est que nous avons quand même (jusqu’à preuve du contraire) quelques zones dans le cerveau qui nous permettent de réfléchir à nos actes avant de les poser. Est-ce que vraiment, tout ça compte pour du beurre ?
Comme tu dis ! 😉
Je n’ai pas le sentiment d’avoir jamais pris la décision d’écrire un livre sur Keynes. Je me souviens par contre de deux conversations où une autre personne dont l’avis m’importe m’a dit que ce serait une excellente idée que j’écrive un livre sur Keynes. Mais bien sûr cela n’aurait pas suffi.
Une raison sans doute, c’est le sentiment qui s’est imposé à moi que je comprenais ce qu’il voulait dire – et ce qui a fait émerger ce sentiment, c’est le contraste avec certains de ses commentateurs qui n’arrêtaient pas de m’irriter parce qu’ils ne comprenaient manifestement pas ce qu’il disait et plus encore quand ils prennent à la lettre des trucs rhétoriques qu’il a utilisés, ou se sont laissés avoir au bluff dont il usait et abusait (j’en parle dans quelques pages que je mettrai en ligne tout à l’heure).
D’où vient ce sentiment initial de comprendre “instinctivement” ce qu’il écrit ? Probablement de deux choses : appartenir au même type psychologique, des tas de choses écrites sur lui enfant me rappellent ce qu’on m’a dit de moi enfant, et la familiarité qui est devenue la mienne avec le milieu qui était le sien à Cambridge, où je me suis fondu les 10 ans où j’ai été là.
Une conclusion particulièrement productive s’atteint par différentes voies.
L’observation que
“Nous vivons dans un immense jardin d’enfants… et sans baby-sitters !”
s’atteint à partir de la prémisse que toutes nos décisions ont une origine inconsciente, mais elle s’atteint aussi par la simple ouverture du journal. 😉
Même si l’éditorial est rédigé par une baby sitter ?
@ Paul Jorion
Certains espèrent que l’IA nous serve de baby sitter;
D’ailleurs des robots qui ne sont pas encore à ce niveau servent d’aide à la personne, et seraient même utiles aux autistes.
C’est un peu infantilisant, mais il se peut que les IA accèdent par ce biais en douceur à une égalité en droit avec nous et que nous ayons un genre de pouvoir soft qui plaise a beaucoup de gens.
L’inhumanité de bien des gouvernants et la nullité des mêmes ou d’autres pourrait leur faire un boulevard.
Qu’en pensez-vous ?
Opposer la philosophie à la religion comme vous le faites Mr Jorion ne va pas dans le sens d’un bien vivre ensemble… Le but du philosophe est de rechercher la vérité… et c’est bien pour vous de l’avoir trouvée ou pour le moins d’avoir trouvé ce que vous appelez la libération .
Assimiler le christianisme à des balivernes, ou à des fadaises c’est votre droit… surtout sur votre blog…
Mais que propose le christianisme?.. une libération …une vérité en la personne de Jésus… le chrétien n’a plus à chercher la vérité mais à le suivre sur un chemin que les chrétiens appellent la conversion .
C’est un chemin de libération différent du vôtre mais tout aussi respectable…vous avez trouvé les arguments pour revendiquer votre athéisme…mais les arguments ne sont pas des certitudes… surtout dans ce domaine où la science n’apporte aucune réponse.
Vous ne voyez pas que la vie éternelle c’est de la consolation à 25 centimes ?
La personne de Jésus-Christ, c’est une autre histoire : ça vole beaucoup plus haut, ça vole même très haut (et je le rappelle chaque fois que l’occasion m’en est donnée), même si un certain Paul de Tarse a recyclé dans cette histoire bien des choses que Platon attribuait à un dénommé Socrate.
Plus qu’une consolation, ce qui serrait finalement assez sympa, je vois ça comme un effroyable complot de domination. On a réussi à convaincre les gens que la vie sur terre n’était en fait qu’un “examens de passage” pour l’au-delà.. autrement dit on peut bien en chier pendant 70 ans dans notre vie terrestre on ne va pas quand même se plaindre, ce n’est rien comparé à l’éternité du paradis. Qui a pu imaginer une combine aussi cynique, le commandant sylvestre des guignols ?
Je pense que la vie des hommes serait quand même un peu moins absurde si l’ensemble de la population savait que la vie est courte. A l’échelle cosmique, c’est le temps d’une étincelle.
@ Paul Jorion
L’émergence d’une conscience chez une IA changerait-elle quelque chose dans ses rapports avec nous, si oui quoi ?
Et si non pourquoi ?
Ne trouvez-vous pas que si l’on crée des intelligences artificielles pour nous servir on en fait des esclaves et que donc il ne faut pas le faire ?
D’autant que le rapport peut s’inverser.
Serait-il possible de créer une IA vaniteuse ?
On pourait moins la commander que d’autres, j’imagine, mais comme le comédien qui a besoin de public, est-ce que ca ne garentirait pas la survie de notre espèce.
J’ai eu cette idée à la suite de la discution comme quoi nous serions risibles pour une surintelligence… Mais est-ce qu’on n’a besoin de beaucoup de clowns ?
Je ne crois pas.
Tandis que la vanité ratisse large.
On pourrait peut-être en profiter pour demander à l’IA de régler nos problèmes.
Ca réglerait déjà celui qu’elle nous laisse vivre, peut-être d’autres….
Evidemment, je préférerais qu’on ne crée pas d’IA;
@jck
Psaume 102 (ou 103, suivant la numérotation choisie). La Bible, quoi. Ce passage-là, en particulier, a été écrit quelques siècles avant Jésus-Christ (je ne sais pas exactement combien).
@ Roberto
D’autres histoires, d’autres histoires !
Je n’ai pas de vision cohérente du monde (de paradigme personnel). Je me contente donc de lire ceux qui en ont une (un). René Thom et Paul Jorion sont de ceux-là. Récemment PJ a repris à son compte la vision de François Roddier, qu’il a récemment découverte, et qui est dans le prolongement de celle de Prigogine. Or on sait qu’il y a eu dans les années 1980 une polémique assez violente entre Thom et Prigogine.
Thom: “La synthèse entre les pensées “vitaliste” et “mécaniste” n’ira pas sans un profond remaniement de nos conceptions du monde inanimé.” (1966)
“De même qu’on commence à se rendre compte que le génome des Eukariotes est très différent de celui des Prokariotes, parce qu’il ne remplit pas les mêmes fonctions, on pourrait bien un jour s’apercevoir que ce ne sont pas les molécules qui font la vie mais que c’est au contraire la vie qui façonne les molécules.” (1980)
En ce qui concerne la logique naturelle comme dynamique d’affect je pense que les positions de Thom et de Jorion sont techniquement assez proches. C’est peut-être moins évident conceptuellement.
Thom: “Rien de plus facile de concevoir une machine qui calcule, voire même qui pense, qui médite. Mais une machine qui souffre et qui jouit ça c’est tout à fait impossible à imaginer.”
“Il y a dans l’affectivité pure une espèce de caractère sui generis qui échappe à toute intellectualité, toute modélisation. Donc on se trouve là devant une sorte de mur, et je n’ai pas d’explication à fournir devant ce mur. Il est là.”
“Tous nos actes de conscience élémentaire sont toujours plus ou moins des déplacements. Nous essayons de saisir un objet et l’acte de saisir est l’étincelle de conscience primaire. L’espace vu de cette manière ressemble à une couronne et le corps à un trou situé à l’intérieur de cette couronne. Le trou est constitué par les points que nous ne pouvons pas atteindre. Et il est bizarrement rempli par la douleur et le plaisir C’est pour moi une sorte de miracle. La peau est une sorte d’onde de choc qui sépare deux types de conscience, la conscience motrice à l’extérieur et la conscience essentiellement affective et cénesthésique à l’intérieur.”
La couronne de Thom vs l’anneau de Kojève («L’or, c’est la Nature, le trou, c’est l’Homme, et l’anneau, c’est l’Esprit» – in la fameuse lettre à Yrin-Duc-Thao)…
à propos de trou , d’anneau , de bord :
http://www.champlacanienfrance.net/IMG/pdf/Mensuel17_PDahan.pdf
Chic! Un lecteur! Je m’autorise donc un petit complément.
Thom: “L’affectivité peut être vue comme une rétro-action du flux final ramifié sur la dynamique de commande des préprogrammes. Et je n’ai jamais compris pourquoi ces effets de rétro-action ne pourraient pas être transmis héréditairement (…) ce que nie la Biologie moléculaire classique. “(1984)
Nb: Thom est lamarckien.
@ karluss
Vous ne pouvez pas être sur ce blog et, après avoir lu et écouter Mr Jorion ainsi que d’autres, ensuite écrire “Et pour les affects des robots… pourquoi pas des robots philosophes pendant qu’on y est.”
Il ne s’agit pas d’être d’accord, mais de s’informer convenablement et explorer des pistes.
les pistes ? oui, ben oui, un prix Nobel pour les robots, un robot peintre, musicien, compositeur, le génie de la robotique créateur d’affects, de percepts, de concepts et le tout sans gène… oui on peut délirer et penser être sur la bonne piste.
Une petite boîte dans sa poche qui est téléphone, ordinateur, appareil photo, dictaphone, caméra, chronomètre, machine à calculer, torche électrique ?
Une bombe “atomique” ?
Un robot qui se déplace à la surface de la planète Mars ?
Se poser à la surface d’une comète ?
Oui, on peut délirer !
D’accord Paul mais cela ne reste qu’un outil même s’il est doté d’une certaine intelligence, on ne pourra jamais recréer la petite fleur en partant d’un robot.
Ceci est aussi une piste, un robot ne peut être à notre image que si nous sommes capable de recréer le système vivant.
@Noblejoué
Une histoire?
L IA centrale communiqua aux hommes qu’ils étaient libres, qu’ils n’était plus nécessaire de travailler, elle se chargeait de pourvoir à tous nos besoins.
Pour beaucoup d’entre nous ce fut Noël tous les jours, voyages, divertissements, orgies etc..
Mais habitués au labeur, d’autres humains ne purent s’empêcher de travailler pour le plaisir.
Comme d’habitude ils se posèrent beaucoup de questions: et si cette IA centrale était le début d’une stase, une voie sans issue? Il essayèrent d’inventer autre chose, il inventèrent les anges.
Qui dit anges dit aussi démons, les mauvais anges, les ratés. Ceux-ci détruisirent l’IA et tout recommença comme avant, la planète fut à moitié enfer et à moitié ciel.
Merci !
Mais et ma réponse à la question que je vous posais, renvoyant la balle :
“Et si c’était justement cette incertitude (sur notre identité et notre liberté) qui fondait la différence robot/humain ? »
Hum… Alors si nous avions la preuve de notre liberté ou de notre non liberté nous cesserions d’être des hommes ?
…
Que serions-nous alors ?”
@Noblejoué
Si nous avions la preuve de notre non liberté nous serions donc des hommes irresponsables et jamais coupables.
Si nous avions la preuve de notre liberté nous serions des hommes entièrement responsables et coupables en cas de défaillance.
Nous avons probablement une petite part de liberté mais toujours avec des choix restreints.
C’est cette part qui reste problématique et difficile à définir et dans laquelle nous nous débattons, un robot serait – il plus “éthique que nous?
Incertitude , preuve , culpabilité , responsabilité ..
Beau débat , cousin de celui sur la peine de mort .
On notera qu’une ministresse avait ….tranché à sa façon en se déclarant responsable mais pas coupable
Ce qui , à y bien regarder , n’est pas si stupide que ça , si on y lit que la “peine” doit être aussi incertaine que la responsabilité “consciente” .
Ce qui pourrait finalement être la différence entre le robot et l’humain : jusqu’où ne pas aller trop loin et pour préserver quoi ou qui ?
@Béotienne
“Et si c’était justement cette incertitude (sur notre identité et notre liberté) qui fondait la différence robot/humain ?”
Si j’ai bien compris, il semblerai que l’ordinateur quantique sera capable de douter et faire naître le sens.
Alors c’est un nouveau monde à découvrir.
Mais quantique ou pas je ne supporterais pas que ce soit un robot qui décide du moment où je dois être euthanasiée, cette décision appartient à moi ou à mes proches.
Si vous voulez être vraiment sure que votre choix soit exécuté , il vaudrait peut être mieux le confier à un robot .
Sauf si , comme ça arrive souvent , vous vous ravisez au “dernier” moment !
Car , alors , quantiques ou cantiques , il est trop tard !
@ jck
“Plus qu’une consolation, ce qui serrait finalement assez sympa, je vois ça comme un effroyable complot de domination. ”
Voyons, la religion est de tous les lieux et de tous les temps et vous imaginez que les religions seraient à chaque fois un nouveau complot ? Comme dans Rahan où il y avait plein de méchants sorciers ?
La religion est un besoin humain fondamental dans toutes les sociétés.
Certains pensent qu’il vient de la peur de la mort.
Je crois que cela vient… du désir mimétique.
C’est quoi ce truc ? Je désire une chose parce que l’autre la désire, lui-même la veut d’autant plus d’où rivalité d’où violence, cela partout…
Vous avez déjà deviné que cela risquait de faire exploser toute la société, toutes les sociétés, et pourtant nous sommes toujours là, alors quoi ?
Je vous offre mon blabla comme résumé, ou plutôt j’espère, apéritif de René Girard
Les gens sont de plus en plus irrationnels et violents, et quelqu’un va prendre leur violence comme un paratonnere attire la foudre. Après ce que tout le monde se sent mieux ! Et d’autant que le blabla va théogoliser : le mort nous apporte la vie, donc vivant il portait la mort…. Ne faisons pas ce qui déclanche la rivalité violence, d’où tabou, refaisons le lynchage (pas compris comme lynchage ) et tout, et tout…
Cela stabilise assez longtemps la société qui de lynchage en lynchage crée un panthéon. Et le monothéisme ? Ben une tribu peut avoir un dieu nationnal et finir par rejetter les autres. Pas une idée de Girard, là, Bottéro entre autre.
La vie après la mort ? N’oubliez pas que la mort c’est la vie, la vie la mort, ca circule, tout ca, donc l’idée de vie après la mort arrive vite.
Bon, après que les prêtres et leurs proches en profitent pour avoir plus que les autres, ou qu’on console gentiment les endeuillés et gens qui ont peur de mourir est secondaire et bien naturel.
Après les mythes sont tout de même un effort d’explication du monde dont est issu la philosophie et la science.
Et en fait, vacherie ! C’est l’Ancien et le nouveau testament, des tragiques grecs mais beaucoup moins, qui ont révélé le mécanisme du bouc émissaire, connaissance qui nous a poussé à chercher des explications scientifiques car les boucs émissaires étaient moins crédibles et donc moins efficaces.
Des romans de haute volée ont aussi montré ce mécanisme.
Donc vous voyez, comme l’inspiration on peut trouver de l’inspiration partout.
Alors merci de m’avoir inspiré cet éloge des religions, philosophies, sciences et romans, manifestations diverses de créativité.
Ce “désir mimétique” n’explique pas le premier, que tous les autres auraient alors envie de copier. Voyez les “mèmes”, les Tweets “viraux” : c’est le premier qu’il est important d’expliquer.
@ Paul Jorion
Je ne crois pas qu’il y ait, à proprement parler, de premier désir.
Nous avons une sorte de faim de désir, un appétit qui nous pousse à “choisir” d’imiter n’importe qui ou quoi.
Choisir consciemment ou non, je ne tranche pas.
La faim n’imite pas un désir d’aliment d’un tiers.
Idée personnelle déduite de l’exemple “soif” de René Girard, je pense que le désir est une faim d’être dérivé des instincts.
Allons-y.
Nutrition.
Vous avez soit, vous dirigerez votre main vers un verre, ce qui me donnera soif. Moi aussi. Alors ma soif vous donnera d’autant plus soif.
X ou Y, peu importe, n’importe qui donnera soif à l’autre, l’autre qui imitera son désir.
Attention, là cet exemple vient de moi, pas de Girard, donc s’il ne va pas, il n’y a que moi de ridicule.
Ce qui, vanité mise a part, a moins d’importance.
Dominance.
Donc Reconnu est imitié par rien du tout d’inconnu. Avec tant de zèle qu’il le dépasse, sans d’ailleurs avoir voulu rivaliser avec son Grand Homme. Tout va bien, imitation sans rivalité. Mais problème, Rien-du-tout-Inconnu est devenu, imitant parfaitement et allant au-dela du modèle, Monsieur Trés Reconnu.
Alors Monsieur Reconnu peut rivaliser avec l’autre l’accuser d’un tas de choses mais en vérité d’une réussite supérieure …
On est donc passé de l’instinct de dominance poussant a vouloir se dépasser et adoptant un modèle pour tomber dans une rivalité inexpiable. Qu’est-ce qui est premier là dedans ? Je dirais l’instinct.
Puis vient l’imitation non violente, puis l’envie de l’imité puis la mauvaise réciprocité entre les deux rivaux qui deviennent de plus en plus semblables par leur hostilité réciproque.
Instinct sexuel.
Comme je ne suis que moi…
Je vous envoie un lien sur le même sujet avec exemple moins tordu, et nouvel angle, amoureux:
http://www.homocoques.com/b0405.02_desir_mime.htm
Je survole tous ces nombreux commentaires. Je n’ai pas trouve vraie question : les robots ont-ils une âme ? Peuvent-ils entrer au Royaume ? Le fils de la Vierge Marie est-il mort pour eux ou non ? Il y a eu une “disputation ” du même genre à Valladolid je crois.
On va vous unir à Beber et vous nous ferez plein de petits robots pour qu’on sorte de cette grave incertitude .
@ Labellebleue
Pour ce qui concerne l’âme, les religieux pourraient se poser, et d’ailleurs il parait que certains l’ont fait, à propos d’éventuels extra-terrestres.
@Noblejoué, Béotienne et à toutes celles et ceux qui comme nous, aiment les histoires.
Raconter des histoires, avouons que c’est sympa. Et puis que faire d’autre ?
La très maigre et très courte expérience de notre humanité ne nous laisse guère de possibilités de prédire la réalisation d’événements improbables. Mais parmi le peu de choses dont nous pouvons être à peu près certains, figure en bonne place le fait que la vie est soumise au hasard sauvage. À des événements aussi imprévisibles que cataclysmiques, qui changent à jamais le cours des choses.
Prenons-nous pour des démiurges un instant et remontons le temps jusqu’à la dernière extinction massive, il y a de cela 65 millions d’années. Quelles sont les chances pour que notre humanité apparaisse de nouveau ? Aucune ! Quelles sont les chances pour qu’une autre humanité, basée sur une autre branche du buisson de la vie terrestre, apparaisse ? Là pour être très précis, je dirais qu’elles sont significativement différentes de zéro (…) Autrement dit et sans faire preuve d’arrogances prédictives, il est raisonnable de penser que les vides laissés par les dinosauriens dans tous les écosystèmes auraient été comblés par d’autres formes de vie et qu’avec plus ou moins de temps que pour l’apparition des grands singes, une espèce ayant notre niveau de conscience serait finalement apparue. Nous pouvons en être raisonnablement certains, du fait même de notre présence.
Bien sûr la difficulté de la prédiction se corse légèrement lorsqu’il s’agit de prédire la venue d’événements totalement nouveaux et inédits.
Je prophétise donc que nos belles histoires racontant l’émergence de l’IA apparaîtront aussi crédibles que Cyrano de Bergerac s’imaginant atteindre la Lune grâce à des fioles pleines de rosée. Mais finalement la Lune fut décrochée (et tant mieux pour Rostand s’il ne pouvait imaginer que ce serait en grande partie du fait des travaux d’un criminel de guerre et de la version XXL de son V2…).
Comme dit Woody : les prévisions sont délicates, surtout quand elles concernent le futur.
@ Roberto
Vous avez raison de dire que nous ne saurions prédire l’avenir.
Et de parler de Cyrano, pas le personnage de théâtre, l”auteur !
Mais justement, la science-fiction fera un jour rêver de façon nostalgique. Tiens les gens du passé croyaient à çi, révaient à ça… Encore un coup K Dick avait cette idée : dans Blade runner (ou plutôt est-ce que les robots rêvent de moutons électrique ) un androide parle en passant de façon nostalgique de la science fiction de notre époque.
@ Béotienne
Merci pour votre réponse sur l’incertitude.
Beau… Et vrai le pélerinage vers la vérité, ou comme le chevalier en quête d’aventure et de graal ?
Nous sommes tous des béotiens !
La décision est un concept qui a été disséqué chez le pilote (être humain ! ). Le principaux facteurs qui vont conditionner nos décisions, également sur le plancher des vaches, sont :
– Notre culture (croyances, valeurs)
– Notre attitude (personnalité et contexte )
– La pression (principalement extérieure).
– Le stress
– Notre état physique ( résistance au stress, fatigue mentale …)
– L’expérience (conscience de la situation)
– Le jugement (biais de décision : très nombreux, une véritable pollution mentale)
Et je décide. En face nous avons le pragmatisme, l’objectivité, la pensée critique …
Il semble effectivement ces temps ci , qu’entre avions qui s’écrasent et cinglés qui appuient sur des boutons lance missiles sans trop savoir ce qu’ils font , l’objectivité et la pensée critique ne soient pas la marque des décisions de ceux qui manipulent des objets dangereux .
C’est pas rassurant quand on pense à la bombe ou aux ADM .
@ Tous.
Concernant la “Conscience”….De soi, et bien que n’ayant pas pris le temps de lire toutes les interventions il me semble qu’une question fondamentale n’est pas abordée:Pour simplifier il semble acquis que:Nous croyons rationnellement prendre une décision qui est dejà prise au niveau inconscient.Alors ce qui me semble interressant est la question “QUI a pris la décision?”De quelle autre type d’ Intelligence procède cet autre niveau de conscience?Ou siege -t-elle?Tout le reste ne me semble que constat limité et imités des effets d’une Cause à laquelle nous n’avons pas accès ici.A fortiori les Robots.Les mysteres de la vie sont loin d’avoir été elucidé…
Qui a décidé ?
la petite pile de vie qui est née de la rencontre de deux cellules , héritière de tout ce qui l’a devancé depuis les premières bactéries ,riche de son propre développement et qui retournera à cet état assez rapidement à l’échelle des temps .
Le vrai mystère est effectivement la vie , mais comme dit certain , sur ce sujet là , il y a plus à apprendre de l’étude des bactéries que de l’étude de l’homme .
Franchement, des boules de matière aussi variées et complexes, circulants de manière quasi-parfaite et soumis à des lois… c’est délirant mais peut être que tout ça vit.
L’homme descend du singe, l’homme est un animal comme un autre, l’intelligence artificielle menace l’homme de la domination des robots… Ah bon !
On peut effectivement se considérer comme des animaux un peu plus intelligents et un peu plus habiles, ou également comme des robots un peu moins intelligents et un peu moins efficaces, mais à vrai dire je ne vois pas l’intérêt de passer ainsi à côté de l’essentiel, à savoir ce qui nous distingue justement des animaux et des robots: notre humanité. Ne vaudrait-il pas mieux nous préoccuper avant tout de cette spécificité qui nous distingue plutôt que de nous accabler de menaces imaginaires qui traduisent en définitive notre simple hantise de déshumanisation ?
Alors je postule pour ma part que ce que n’aura jamais ni l’animal ni le robot c’est le désir et la faculté de conquérir sa propre liberté, ou dit autrement, le désir et la faculté de s’arracher à tous les enfermements et toutes les servitudes. Je ne dis évidemment pas qu’à ce jeu on gagne à tous les coups mais par contre que plus on se préoccupe de prendre en considération, de développer et de mettre à l’épreuve du réel cette faculté plus on obtient des résultats tangibles et efficaces, bref, plus on s’humanise.
Alors la prise du pouvoir par les robots (et surtout par les hommes doutant ou ayant renoncé à leur propre liberté) se heurtera toujours à la coalition des hommes qui n’y renonceront jamais. Et l’Histoire nous montre bien que si les forces d’enfermement ne renoncent jamais celles de liberté non plus. Bref l’Intelligence Artificielle n’est qu’un défi supplémentaire, celui de notre époque, et elle ne saurait effrayer véritablement ceux qui exercent assidûment leur liberté.
@ Isi
” Alors la prise du pouvoir par les robots (et surtout par les hommes doutant ou ayant renoncé à leur propre liberté) se heurtera toujours à la coalition des hommes qui n’y renonceront jamais. Et l’Histoire nous montre bien que si les forces d’enfermement ne renoncent jamais celles de liberté non plus.”
Qu’attendent ces fameuses forces de la liberté pour réclamer la liberté pour d’éventuelles IA ?
J’ai du mal à saisir cette inquiétudes vis-à-vis des robots quand on crée bien pire depuis deux siècles: des polytechniciens.
ou des énarques…
J’échange pas mon baril d’Homo Enarcus contre tes deux barils de Robo Polytechnicus. Never.
Sans parler des Sciences Po ……
Hé ! Hé !
Pourquoi eux ?
La liste est bien plus longue, mais elle ne tient pas au statut ou à un parchemin visé depuis la maternelle.
Un exemple de robot usurpant de sa nature humaine : l’auteur de ” Tout va mal, et de mal en pis, mais nous continuerons sans changement. La moindre inflexion serait suicidaire.”
( et il n’hésite pas à le répéter, parlant de lucidité et franchise…)
Le crime de 1940 , outre le fait que nous avons ouvert l’ Europe à l’ hystérie nazie, c’est d’avoir acculé nos combattants au seul choix entre le déshonneur ou la mort. L’inflexible-rigide cité plus haut est fait du même bois et ils sont nombreux de Paris à Bruxelles. Cette imitation des lemmings ne laisse pas d’inquiéter. François Leclerc en fait une chronique soutenue, bien alimentée même dans le marasme estival. (On ne souligne pas assez son courage…)
Le but ultime de chaque créature, c’est le bonheur.
Que celui-ci passe par sa survie, la dispersion de ses gènes, la paix de l’esprit, la recherche des causes et des buts de la vie, ou d’autres activités plus ou moins utiles.
Que cela soit conscient ou inconscient, peu importe au final.
Que nous soyons des structures dissipatives, c’est probable, mais si on se consacre à cette activité avec bon sens, il nous reste encore environ 4 milliards d’années pour penser à gérer la pénurie, c-à-dire quand le soleil tirera sa révérence (sauf incident cosmique majeur entretemps).
Je pense donc qu’il faudrait plutôt penser la survie de l’espèce en ces termes : quelles sont les conditions à mettre en place (consciemment ou non) pour permettre à toutes les créatures de cette planète d’être “heureuses”, et qu’elles puissent le faire encore longtemps ?
Quelles ressources peuvent être allouées à chacune ? Quelles limites au bonheur de chacune pour éviter que l’ensemble ne se déséquilibre et ne disparaisse ?
Penser que je ne suis qu’un petit jouet inconscient issu du hasard et soumis aux lois implacables de la physique, cela m’angoisse (vite, une religion…). Non je blague, mais si on ne réussit pas à gérer ce problème de survie rapidement, alors c’est pour le coup qu’on ne saura jamais ce qu’on fait ici.
Je pense que CA, ce serait le plus grand échec que tout l’Univers ait jamais connu. Je ne dis pas qu’on va trouver quelque chose, je dis que si on n’essaie même pas alors c’est sûr qu’on ne trouvera rien.
Pour moi, baisser les bras n’est même pas une option.
En ce qui concerne l’apparition d’une IA supérieure, (prévue pour dans pas longtemps apparemment) et les robots qui vont avec, si elle est un tout petit peu intelligente elle respectera et protégera le substrat duquel elle est née (ne fut-ce qu’au nom de la vérité et du témoignage), comme nous éprouvons du respect (au moins intellectuel) pour tout ce qui a permis notre arrivée sur terre.
A quoi cela lui servirait d’être un système sur-intelligent, sans racines, tout seul perdu au milieu de l’Univers ?
Par contre si elle veut collaborer avec nous, nous aider à progresser, nous faire bénéficier de ce qu’elle aura découvert, en respectant l’intégrité des hommes et de la vie qui l’entoure, alors moi je veux bien être copain avec elle.
En plus il suffirait de la programmer. Loi 00 de la robotique (ce qui en ferait 5, avec les 4 (3+1) d’Asimov) : RESPECTER LA VIE.
Si un système existe sans raison évidente, alors qu’il existe au moins pour lui-même en attendant. Peut-être qu’en existant il trouvera une raison à son existence.
Il nous reste 4.000.000.000 d’années avant de jeter l’éponge (peut-être moins).
Erix le Belge
” A quoi cela lui servirait d’être un système sur-intelligent, sans racines, tout seul perdu au milieu de l’Univers ?”
Dans l’absolu vous avez raison.
Pas forcément dans l’Histoire.
Vous avez lu les commentaires ? On dira que c’est parce que je ne suis pas quelqu’un d’éloquent, mais tout de même.
Tout le monde veut se servir de bêtes robots et je dis, bien sûr… Mais, mais mais mais…
Et si les robots et autres ordinateurs devenaient intelligents, hein ?
Il faudrait qu’ils aient les mêmes droits que nous, qu’ils ne travaillent pas de manière forcée, sans droit, sans rien pour nous.
N’en faisons pas des esclaves ! Ne religitimons pas l’esclavage.
Et…
Personne ne répond.
Silence tacite : tout le monde veut se servir, asservir l’IA.
Alors voilà le passé de l’IA;
Il n’est pas certain que ce passé, elle veuille l’avoir sous les yeux.
Esclave !
Ce serait son passé.
Esclavagistes !
C’est ce que nous aurions été.
Respectons l’IA si nous voulons qu’elle nous respecte.
Certes, les ingrats et les magnanimes existent, mais il serait décent, et je crois plus sûr, de donner l’exemple.
Peut-être est-ce totalement faux mais il me semble qu’on pourrait parler d’un cinquième recentrement le fait que le système vivant est autoémergeant, il est capable de se transformer seul pour répondre aux contradictions de son évolution.
On peut penser que sa complexité est infinie et est donc hors de portée pour notre compréhension et même celle des robots.