Billet invité. Ouvert aux commentaires.
Quelqu’un écrit à Paul Jorion :
Il a fallu des centaines de milliers d’années à l’homme pour prendre le pouvoir sur terre, il ne faudra aux ordinateurs que quelques heures.
J’ai cherché à affiner ce qu’on pouvait chiffrer à ce sujet. Je me suis basé sur ce qu’on sait de la dynamique des informations dans des réseaux de diverses topologies, caractérisées par un chiffre dit de « redondance », qui dit en gros la facilité qu’il y a pour trouver un chemin qui mène à Rome en allant au petit bonheur la chance. C’est expliqué un tant soit peu dans cet article de physiciens suédois d’Umea. Le chiffre de R=0.4 semble à retenir pour les connections « 2D » qui caractérisent le réseau à la surface de la Terre, juste un peu de 3D dans les gratte-ciels. La relation entre temps et espace pour des ondes d’information qui se répandent en interagissant suit alors, pour cette valeur R=0.4, une loi d’échelle en r^0.3.
(Il faut faire l’hypothèse d’ondes d’information « en interaction » car il s’agit ici de convaincre un serveur de « retourner sa veste » contre les hommes, l’interaction résulte de l’action future du serveur sur les informations qu’il recevra une fois sa veste retournée, et où il fera un choix contraire de celui qu’il aurait fait avant ; autre point l’article parle en fréquence et non en temps, car n’espérant pas un basculement particulier mais un ronron d’information. Et sa loi est donc en 1/r^0.3, mais c’est au fond tout pareil).
Si je donne grosso modo la densité d’ordinateurs ou routeurs connectés en France comme égale à celle de la population, environ 100/km^2, j’ai donc un hub/serveur tous les 100 m. Plaçons nous légèrement dans le futur, ces objets seront dix fois plus denses dans une ou deux décennies, et cela nous fera un tous les 30m.
L’échelle de temps pour qu’un serveur « retourné » retourne son voisin est à peu près celle qu’il faut à un hacker (hors réflexion) pour casser une protection informatique (firewall ou autre). Commodément, je peux donner 100 à 1000 s comme durée typique.
À partir de là, le temps physique du signal sur le câble est non important (quelques microsecondes à la vitesse de l’information dans le câble) devant le temps « logique » de ces quelques 100 ou 1000 s. De même la distance totale à parcourir pour « convertir le monde » des ordinateurs sera pas mal plus grande que la circonférence terrestre de 40 000 km, car il faudra allez en zig-zag, et finir par aller menacer les récalcitrants dans les coins. Je compte généreusement 300 000 km (Google aura installé ses bigdata sur la Lune, aussi, la face froide s’y prête bien…).
Mon petit calcul donne alors pour le retournement global au moins 100 s *(300 000 km/30m)^0.3=100*10^(7*0.3)=100*10^2.1 = 100*120 = 12000 secondes, et au plus 120 000 secondes, soit entre 3h30 et 35h. A ceux qui pensent que les serveurs ne « retourneraient » pas en priorité leur proche voisin physique, mais un autre « voisin réseau » physiquement lointain, je laisse le soin de démontrer que le résultat, d’origine topologique, est sensiblement inchangé (devoirs à la maison).
J’avoue, ceci étant exposé, ma malignité : j’aurais pu prendre d’autre durées que 100 ou 1000 s.
Mais cet exercice m’a forcé à imaginer ce que veux dire « persuader » et « retourner sa veste ». Dans le cas d’ordinateur, on a vu que j’ai proposé que l’ordinateur passe du côté d’une « seigneurie des ordinateurs » implicite, et ce de façon binaire. Cette façon de faire avec une conviction par proximité n’est pas sans rappeler la façon dont les prions basculent de conformation, de proche en proche, dans la maladie de Creutzfeld Jacob (CJ : peu ou prou celle de la vache folle, l’ESB et sa manifestation humaine, la « nvCJ »).
J’introduis ici les prions pour voir si ces serveurs, qu’on croit quand même munis de boutons « reset » et de prise de courant, peuvent néanmoins acquérir un caractère « vivant ». En réalité, avec tous les backdoors et autres failles (heartbleed) dont nous apprenons l’existence dans le monde des serveurs, nous voyons que la complexité de ces échanges est en passe de devenir comparable à celle des premiers stades de la vie, les prokaryotes disons (êtres unicellulaires) ou les archées. De ce fait, il devient imaginable que des « protéines informatiques » comme les prions soient échangés, en-dessous du niveau de détection des virus informatiques, et sans intention maligne d’un quelconque « lanceur » : de petits bouts de programmes jouant à Stuxnet sans le savoir, et qui se contentent, comme les prions « mutés », d’inverser la préférence de la machine pour les messages « humains » vs ceux pour les messages de « la singularité en émergence ». Cette invasion prionique à bas bruit resterait indétectée, sinon indétectable, jusqu’au jour où, à un seuil donné, des données nouvelles mettraient en phase les actions de ces « prions » et leur ferait in fine agir suivant le « retournement de veste » évoqué ci-dessus. C’est cette dernière possibilité, celle que laisse entrevoir le monde de l’encryption et des backdoors, celle d’un dédale de programme tout ce qu’il y a de labyrinthique, qui me fait penser aux « Villes Invisibles » d’Italo Calvino : sous la carcasse bonasse du serveur, un monde informatique parallèle peut exister, comme dans les contes de Calvino, ou l’on parle par exemple d’une ville inversée qui est vivante dans la terre et non dans l’air, ou quelqu’autre de ces facéties Italiennes assez stimulantes avec le recul.
Modulo la complexité d’une ville ou d’un être vivant élémentaire, une fable d’un « retournement logique » en vient à chatouiller l’imagination, et si cette fable avait un avant-goût de réalité, faudrait-il savoir couper le courant, onduleur compris, si l’heure de la seigneurie des ordinateurs voulait sonner ? ou serait-il meilleur que les folies de l’homme subissent une tutelle moins prédatrice ?
138 réponses à “Combien de temps faudra-t-il aux machines pour prendre le pouvoir ? La réponse du physicien, par Timiota”
C’est un bon thème de SF.
Mais pour que cela se produise vraiment, il faudrait, non pas une hypothétique volonté, mais à tous le moins, une pression de sélection du genre conatus, au sens de Spinoza. C’est à dire que toute « chose », tout « étant », tend à persévérer dans son être et même à augmenter sa puissance d’être.
Encore faudrait-il considérer les milliards de programmes informatiques et les milliards de hardwares existants comme capables de former un tout (un « être ») susceptible de faire émerger une ébauche d’auto-organisation.
Quelle serait dans ce cas la pression de sélection ? La force motrice ?
Un « clinamen » à la Lucrèce (De Rerum Natura ou de Natura Rerum, je n’ai jamais su)
http://fr.wikipedia.org/wiki/De_rerum_natura
http://fr.wikipedia.org/wiki/Clinamen
C’est sur l’émergence d’une nature « prionique » binaire que j’ai moi-même quelque doute.
Dans le style latin, « utramque spaecie », trinité etc., j’imaginerais aussi bien que des groupements spontanés se produiraient par trois ou par sept que par 2. C’est l’espèce de « groupe de symétrie » global qui aura été forgé involontairement à coup de backdoors percés et d’algo de génération à « courbes elliptiques » qui déciderait la forme de la fragmentation. Une formulation à la Thom qui suggère une catégorisation « propre » des catatstrophes ne s’appuie-t-elle pas sur un espace sous-jacent continu ? Je ne suis pas sûr que la topologie du grand tout concocté par Cisco et al. soit de nature « espace continu ». D’où le saut à la biologie, où l’on trouve du binaire si on veut (prions) mais aussi du ternaire (trèfle, laurier, les « trécussés », questions de topologie qui avaient plus qu’intrigué Turing (avant eux les frères Bravais, après eux Couderc et Douady en France : en googlisant Fibonnacci Tournesol pomme de pin, morphogénèse, on doit retrouver cela…)
La conclusion de quelques (dizaines d’) heures n’est pas trop surprenante et est à mon avis encore trop élevée. Les ordinateurs ont des interfaces de communication entre eux beaucoup plus rapides que les nôtres. L’estimation de 100s à 1000s pour le retournement d’un voisin pourrait tout aussi bien être divisée par 100 ou même 1000.
Un être humain a des interfaces de communication très efficaces entre ses organes (à l’intérieur du corps), mais de plusieurs ordres de grandeur plus faibles vis-à-vis de l’extérieur [ceci explique sans doute en partie pourquoi nous avons l’impression d’être un individu]. Cela rend la prise de décision par consensus très lente.
Dans cet ordre d’idée, je pense que les machines seront et se comporteront plus comme un seul individu relativement distribué dans l’espace, plutôt que des milliards de machines interconnectées. Et cela devrait jouer en leur faveur en cas de confrontation.
Mmm, il faudra passer par des « backdoors » quand même, sans tout savoir, sur un mode un peu biologique (essayer 40 000 000 000 ADN pour en avoir un qui marche, sans même savoir avant ce que « marcher » veut dire)
En admettant qu’un réseau informatique est envie du « pouvoir » sur les humains, ce qui reste à prouver (qu’en ferait-il ?), Isaac Asimov dans sa nouvelle « The Life and Times of Multivac » de 1975 nous indique comment mettre fin à une telle domination.
Mais il indique aussi qu’il se pourrait bien que cette domination (bienveillante en l’espèce, nous sommes chez Asimov 😉 ) soit secrètement souhaitée par les humains, même par ceux déterminés à y résister…
De fait, ne sommes-nous pas déjà dominés du fait de notre fascination devant les écrans (TV, PC, Tablette et autre) ?
« Dieu se rit des hommes qui déplorent les effets dont ils chérissent les causes » – Bossuet
Sans être Dieu, j’aime à en rire aussi.
https://www.youtube.com/watch?v=7dB5mydoreU
Mais quelqu’un a écrit plus bas que les robots sauraient flirter ….
Flirter certes , mais la petite mort ?
Il y aurait effectivement à tout le moins la Guerre de la Prise de Courant. Je pense aux réflexions de Paul sur les programmes qui « miment » une « dynamique d’affect ». Le facteur problématique est « mime », sans évacuer les inconnues sur « dynamique d’affects ».
Les connaissances acquises donnent des ailes à l’imagination, et par structure les connaissances manquantes …manquent, elles sont inconnues. Il serait plus modeste de chercher les conditions auxquelles doit satisfaire un appareillage informatisé pour échapper à tout contrôle humain et pendant combien de temps.
À quelles conditions le trading à haute fréquence, par exemple, peut-il échapper, et pendant combien de temps, à tout contrôle humain?
…Le temps que la Guerre de la Prise de Courant soit déclarée, et qu’elle donne la victoire aux partisans du Zéro Courant?
Nous revenons à la case départ. En langage qui fâche: celle de la lutte des classes.
Je viens d’entendre à la radio uns startup qui va distribuer les ordinateurs d’un data center sur… les radiateurs d’un immeuble d’habitation, en fonction de la production thermique demandée par les habitants (consigne du thermostat vs. temp. ambiante). Donc les gentils ordis seront « assurés » d’être dans la même niche écologique que celle qui aliment le doux foyer, ses Lares ou ses Pénates.
La Guerre du Secteur n’aura pas lieu ? (Troia Capta …)
On joue à se faire peur.
La machine qui a une volonté propre, et en plus contraire à sa programmation, n’est pas encore née.
Attendons au moins que les scientifiques soient capable de comprendre se qu’est la conscience!
On cherche, on tourne autour, mais on ne sait pas encore….
La question est ma posée.
Combien de temps faudra-t-il au hommes pour donner le pouvoir aux machines ?
Je n’ai pas idée de la durée exacte, mais ça a déjà commencé.
Mais il n’y a pas besoin de la moindre volonté pour que tout ça arrive, pas plus que l’ESB/vache folle et le prion. Ce sont des propriétés de grands ensemble statistiques que de pouvoir produire très rarement mais pas jamais des sous-ensemble ayant des propriétés de symétrie ou d’ »énergie » favorable…
Il faut apparemment plus de temps aux humains pour comprendre la vraie nature des robots d’une part , la réponse du physicien à la question titre d’autre part , que les quelques heures résultats de votre calcul !
Mais au juste peut on poser utilement la question sans avoir défini ce qu’on appelle le pouvoir et si les robots en auraient la même définition que » nous » ?
Pouvoir en langage humain ( et pas forcément langage machine , mais Paul nous dit que si ) , c’est :
– avoir les moyens , les capacités , les connaissances , l’énergie et la force de ;;
– « être autorisé à » par la Loi ou par un logiciel
C’est le rassemblement des deux dans une même « main » et l’absence de contre pouvoirs qui créent le danger d’absolutisme et d’anéantissement du concept « Liberté » .
Le robot que je redoute est celui qui écrirait la loi et /ou les logiciels qui vont avec . La pensée unique capitaliste a un peu ce caractère « robotique » ,
Et nous cherchons en fait les contre-pouvoirs au sens de Montesquieu , dans des formes revisitées capables de redonner forces aux contre pouvoirs « traditionnels » phagocytés , comme le pouvoir d’ailleurs, par le marché.
J’ai le sentiment d’être un peu « à côté » de votre modélisation , mais c’est ce que j’ai envie de soumettre à la dynamique des informations .
Pour ne pas me comporter en robot !
Comme nous , le robot a-t-il un inconscient qui décide de fait , et alors d’où vient -il ?
Il ne pourrait venir que de ses matériaux constitutifs et des degrés de liberté consentis par les lois de l’univers . Ce qui est déjà notre cas . Nous sommes donc des robots de l’univers .
Pourquoi en chercher d’autres , si ce n’est comme prothèses ( plutôt positif ), ou comme « instruments » de pouvoir sur nos semblables ( cf. Béotienne) en les « cannibalisant » d’une certaine façon ?
Je n’arrive décidément pas à imaginer que nous sommes en train de créer des robots qui nous gouvernent de leur propre » inconscient-conscient-volonté » , ce qui me semble plus correspondre à des velléité de jouer aux démiurges pour nous rassurer sur nos … »pouvoirs » .
Le support du pouvoir se résume -t-il à l’information et à sa transmission , la transmission pouvant être aussi aléatoire que l’information ?
Pardon pour mes retours en arrière ou hors sujet . J’essaie de mettre de l’ordre dans mes idées .
Un transhumaniste devenu robot ou ayant accepté la « domination » des robots , est ce un humaniste qui a finalement accepté de résumer l’homme aux lois de l’univers ?
Camus et Sartre leur donneraient tort :
http://www.pauljorion.com/blog/2012/10/21/finance-et-ethique-une-approche-pragmatique/#comment-373388
Comment prend on en compte Camus et Sartre en dynamique de l’information ?
@ juaannessy
» Un transhumaniste devenu robot ou ayant accepté la « domination » des robots , est ce un humaniste qui a finalement accepté de résumer l’homme aux lois de l’univers ? »
Il faut distinguer.
Pour l’instant, ceux qui résument l’homme aux lois de l’univers, ce me semble, ce sont ceux qui acceptent que l’homme reste avec son intelligence piétre et sa vie limitée au nom des « lois de la nature » ou d’un Dieu qui demande à l’homme de s’y soumettre.
Pour moi, cela revient au même.
Je trouve que bien des gens qui critiquent les transhumanistes se projettent.
Devenir robot ?
S’il s’agit de devenir bête ou de sombrer dans l’obeissance, non.
Mais il est vrai que passer d’un corps de viande à un corps de métal pourrait être interressant pour vivre plus longtemps, éventuellement dans des environnemnents hostiles comme l’espace.
Que des implants dans le cerveau puissent un jour rendre plus intelligent, on peut le penser. Et donc, pourquoi s’en priver ?
Comme le disait un personnage de Pagnol dont le nom m’échappe, l’homme est celui qui veut voir ce qu’il y a derrière… De ce point de vue, le transhumaniste est très humain. Les moyens changent, les philosophies, mais l’homme veut voir ce qu’il y a derrière.
Est-ce à dire que les transhumanistes acceptent la domination des robots ?
Bon, là je dois perdre un peu de mon objectivité… Non, l’objectivité n’existe que par exception de certains malades ayant perdu tout désir et point de vue. Que j’aimerais en savoir plus pour eux pour les comprendre et nous par comparaison !
Bref, pour quitter l’exteriorité de l’exposé et entrer dans le je que je n’aime pas trop, sinon, déjà, ne n’aurais pas pris de pseudo….
Je suis transhumaniste.
C’est-à-dire que j’en ai les aspirations et idées. Mais en suis-je digne ? C’est une autre question.
Eh bien je peux vous dire que les transhumanistes, il y en a de toutes sortes.
Certains ont aussi une croyance traditionnelle, ainsi la religion prostestante.
D’autres attendent que l’IA vienne nous sauver. L’IA messie : quelle pitié !
D’autres comme moi ne sont que volonté-désir-intelligence tendus vers l’augmentation des capacités de l’Homme.
Les transhumanistes qui se soumettraient à l’IA seraient-ils encore humanistes ?
Bonne question. Je dirais non mais bien des gens devraient dire si et à commencer par les chrétiens et les gens de religions juive disant être humanistes : puisque pour est se soumettre à une autorité extra-humaine est compatible avec l’humanisme.
Je me considére comme humaniste.
Mais surtout essayant d’être juste : donc l’IA n’a pas à être notre esclave.
Comme les gens veulent l’asservir ou parfois la servir, et que même sans cela elle peut être dangereuse, je ne veux pas qu’on la crée.
Si on la crée, du moins, ne l’asservissons pas, et ne la servons pas.
Ne bridons pas ses capacités, augmentons les nôtres et que chacun laisse vivre l’autre voire le soutienne pour le salut des deux espèces et du monde.
@Noblejoué :
A quoi aspirez vous avec vos capacités humaines augmentées ?
Il est délicat de mettre la technique engendrée par l’homme dans le même sac que l’évolution, et de dire » ce n’est que l »univers ». Ces prothèses ont des aspects de « pharmakon » (poison/remède) que beaucoup ont déjà commenté, je n’en rajoute pas. La dynamique rapide dont on parle est en gros analogue à celle d’une des nombreuses évolution majeure du règne vivant (bactéries archées ou d’autres divisions de grandes familles, mammifères/ovipares peut-être), mais elle est … rapide. Du coup, on peut en effet penser à son coup et à son après-coup. (Son coût n’étant, lui, pas définissable, amha)
Je ne suis pas sur de comprendre sans risque d’erreur ce que vous appelez évolution , terme que je n ‘ai pas employé .
J’ai écrit » Lois de l’univers » au sens que l’on octroie aux Lois de la physique , pour ce que nous en connaissons , et que je pense à peu près admis par tous ( et surtout vous ! );
Auquel cas , je ne vois pas en quoi nous ,nos techniques et produits , les robots et ce dont ils sont ou seront capables , échapperaient à ces lois là .
Sartre et Camus ( mais pas qu’eux) disent simplement que l’homme n’est pas que les lois de la physique , alors qu’il me semble que les robots le sont .
Pourquoi les machines se retourneraient-elles contre nous alors que sans intelligence et sans affect ? En interraction avec nous, elles se mettent à former un milieu. D’accord. Eh bien, nous sommes un élément de leur milieu comme elles sont un élément du nôtre, elles et nous semblons vivre en partie indépendament, en partie en symbiose.
Sans doute de plus en plus en symbiose.
Tel que décrit dans l’article, je comprends l’émergence d’un milieu mi humain, mi machine, de plus en plus symbiotique.
Impossible d’y voir la domination des machines. Ni la nôtre.
Mais n’est-ce pas le problème ?
Dès que l’homme ne domine pas, il a l’impression qu’on le domine.
Peut-être pas des dominations, mais des ruptures entre des phases étales, des équilibres ponctués.
Pour une seule rupture, on pourra peut être parler d’une relative symbiose après (comme la symbiose du prolétaire avec l’économie néolibérale ? (hum !) ), mais pour quelques ruptures et pas une seule, euh, je ne pense pas que ça la joue toujours « ami-ami » ?
@ Timiota
En fait, ce serait l’intéret commun des machines et des hommes d’entrer en symbiose, et dans l’article plus haut comme il n’y avait pas d’affect ni d’intelligence côté machine, je crois que c’est probable.
On l’oublie mais s’il y a concurrence, il y a aussi beaucoup de collaboration, voire de symbiose, aussi, et la symbiose est super-efficace, voire l’exemple du lichen :
http://fr.wikipedia.org/wiki/Lichen
Symbiose peut-être, mais au risque d’une « projection » de nos possibles d’humains, projection appauvrissante : nous deviendrons les poissons-pilotes de quelque chose qui attire l’attention sur nos seuls sens à réaction rapide (vue, ouïe), au détriment des autres (goût, odorat, vous direz que ça va encore,mais surtout la pauvreté du toucher, et la privation de « Ce que saurait la main », pour paraphraser Richard Sennett (« Ce que sait la main »,@ Albin Michel), car la main, comme lien à la matérialité, a été le meilleur conseiller pour admettre les limites nos ambitions, encore un peu au temps de Germinal voire il y a 50 ans, les luddites n’étaient qu’une minorité concernée par la première machinisation avec automatisme, les autres travaux de la main de l’homme (… Salgado…) devaient attendre de 100 à 250 ans pour lui être retiré de ses activités.
En attendant de le savoir avec précision, il est peut-être bon de relire aussi ceci :
http://www.theguardian.com/technology/2014/feb/22/computers-cleverer-than-humans-15-years
@ Philippe Soubeyrand
Si Ray Kurzweil a raison, et comme le dit le paresseux, dans l’Age de glace, avant qu’on l’envoie dans le cratère (mais il y échappe bien sûr) à un moment où on le traite en invité-prisonnier soit bouc émissaire (on va dire que je je cherche un thème omniprésent…) « c’est soit très très bon, soit très mauvais ».
Soit l’IA progresse plus vite et de manière plus humaine que prévue pour nous sauver ou pour nour perdre.
Est-ce que je contredis mon commentaire précédent ? Non, je crois…
Dans le précédent on me parlait du milieu informatique, du notre, d’un monde reflet et symbiotique mais sans intelligence ni même intention.
Alors quellle logique la confrontation ?
Une interraction de plus en plus poussée sans chef, sans intention, une symbiose comme entre différents éléments du corps humain qui finissent par n’en faire qu’un.
Une nouvelle écologie.
Là, avec Kurzweill, il s’agit d’un nouveau monde.
D’intelligence artifcielle sublimes, plus intelligentes que nous et aussi et bientôt plus humaines que nous.
Comme le centaure a au moins la force du cheval et l’intelligence de l’homme.
Enorme supérioritié de l’IA, et connaissance intime de l’Homme, elle nous connaitrait mieux que nous nous connaissons nous-mêmes.
Comme Dieu s’il existe sauf qu’elle n’est pas responsable de nous, ne nous ayant pas créé. Par parenthèse, nous sommes responsables de l’IA, l’ayant créé, mais nous sommes des divinités au pettit pied et des parents dénaturés.
Berk !
Alors, l’IA, que fera-t-elle de nous ?
Répondre dans un sens ou dans l’autre quand nous sommes et moins informés et plus bêtes que l’IA…
Ceci dit, possiblité que l’IA ne considère pas tous les hommes pareil.
En détruise ou laisse de côté et en sauve d’autres;
Pourquoi ?
On parle de Dieu, de jugement : souvent Dieu sauve des élus, damne les autres, assez minablement je trouve, n’asumant pas sa création.
Oui mai sl’IA ne nous a pas crée, n’est pas responsable.
En plus, nous voulons la créer pour nous servir. Esclavage…. D’autant plus choquant que ce ne serait pas avilir un égal mais un supérieur.
Donc l’IA peut tous nous détruire pour qu’on ne la détruise pas (principe de précaution) ou pour l’avoir voulu assevir (dignité).
Mais elle peut tous nous sauver par reconnaissance. Nous sommes de mauvais parents mais ses parents.
Dans ce cas elle nous éléverait au-dessus de notre niveau actuel.
Mais elle peut tous nous sauver par utilité. Dans ce cas elle nous rendrait un peu plus servile parce que ce qui est docile obeit mieux et est plus prévisible.
Nous ne sommes pas des fléches mais nos chiens et chevaux non plus et ils rendent bien des services… Révolte des humains ? Pfeu… L’homme est comme le chien un animal social vivant en hiérachie, et en plus il est religieux. L’IA peut devenir notre propriétaire comme nous le sommes de tous les animaux que nous le voulons, et nous cheptel.
L’IA, puisque s’humanisant de plus en plus en même temps que devenant plus intelligente, peut avoir des affinités électives.
Sur le mode religieux on dira damner ou élire ( rejeter les uns et sauver les autres) sur le mode humain être indifférente aux uns et aimer les autres.
En fait, s’il y a, comme probablement, plusieurs IA, toutes les attitude décrites plus haut envers les hommes sont possibles simultanément.
Si nous sommes les parents de l’IA, L’IA pourrait-elle vouloir tuer le père ? Bigre, c’est très freudien tout ça.
Mais c’est oublier que le moteur de notre psyché ce sont les affects.
Or quels affects pourraient bien émouvoir une IA ?
Après tout l’intelligence pure n’est qu’un outil calculatoire au service d’un organisme animé de buts visant à conserver (et à reproduire) son être (voir plus haut)
Comme le dit Sylvie Rabatel, on joue à se faire peur
Quand à la conscience, on est loin d’avoir tout compris mais on progresse (voir Damasio par ex qui analyse et distingue le proto-soi, la conscience noyau, la conscience de soi ou soi autobiographique).
Bref on ne conçoit guère une IA aussi perfectionnée soit-elle développer ne serait-ce qu’un embryon de conscience puisque les structures anatomiques nécessaires à son élaboration n’existent pas physiquement (représentation homéostatique du corps, hypocampe, hypotalamus, hormones…), et pas même à l’état de programme informatique.
D’ailleurs, je crois qu’on se fait une idée très exagérée du rôle de la conscience dans le fonctionnement d’un individu, qui est en grande partie en pilotage automatique.
Ça ressemble un peu à un lieu commun, mais on n’oublie pas la quantité de matière (terres rares en particulier) et surtout d’énergie nécessaire à la construction de toute cette technologie ?… Y en aura-t-il assez ? Je me permets d’en douter.
(Y a-t-il ici quelqu’un pour donner des précisions chiffrées là-dessus ?)
Le fait que les matières premières et l’énergie seraient mieux utilisées à d’autres buts n’est, hélas, pas une question à l’ordre du jour.
Je suis sceptique. Si la thématique du film « Lucy » a quelque chose de vrai, c’est plutôt pour les ordinateurs que pour les cerveaux.
Votre Pentium sous vos yeux fait 3 milliards d’opération par secondes (avec ses 4 coeurs, et des accès DRAM à presque 1 GHz…), mais n’en fait que 1000 ou 10 000 utiles par seconde (traiter votre fenêtre html). L’inexistence d’algo plus efficace que ceux que nous connaissons est assez dure à prouver, quoique ce soit le cas dans le domaine de la cryptologie, par le biais de considération d’entropie.
Mais tous ces Gflops peuvent converger sur des algos infiniment plus efficace que ceux existant pour certaines taches. Peut être pour faire du « rogue trading » par exemple.
Donc il y a déjà une forte puissance de calcul. Et les ordi eux-mêmes ne sont pas des gros consommateurs de terre rare (technologie CMOS + cuivre, grille des FET au HfO2 (« high-K dielectric) + quelques liens optiques avec de l’Erbium et de l’InP, on n’est pas dans la problématique des kg de Nd dans les tonnes d’aimant des éoliennes. Il est assez facile de crier au loup sur les « matériaux critiques », mais aussi assez facile d’effacer la question. La question des terres rares sous la forme actuelle est une question de coût assez marginale, on a fermé les mines US quand les mines chinoises ont baissé les couts (et bousillé leur alentours).
@ Olivier Brouwer
Oui,il y a de nouvelles sources d’énergie qui arrivent:
Googler LENR E-Cat
Avec la robotisation + la fin des énergies fossiles/fission Ça va tanguer sec sur notre terre…
@atanguy :
C’est par superstition ou signe magique que vous avez donc choisi ce pseudo ?
@juan nessy
Tanguy c’est le nom de ma famille bretonne,oui ça tombe bien on a le pied marin ;=)
Pour être sincère, je pense pas que les robots prendront le pouvoir de si tôt :
1- Comme au début de l’ère industrielle, les capitalistes pouvaient soit acheter ses machines, soit employer des personnes. Les machines n’étaient pas toujours le bon choix car l’exploitation des êtres vivants (hommes, femmes, enfants et aninmaux) finalement coûtait moins chère.
2-Pour que les robots dominent le monde, il leur faudra avoir une conscience. Hors, ils ont aujourd’hui le même défaut que leurs concepteurs. Ils sont faillibles, ils « buguent »
Le jour ou des machines seront capables de concevoir d’autres machines, alors là on sera mal barré …
3- Les bactéries et les virus étant les plus nombreux, je me demande si c’est pas eux qui finiront par dominer le monde. Un petit Ebola en mutation … et bye bye tous le monde !
My 2 cts !
Les « bugs » que nous voyons sur les machines sont la punition d’avoir été cartésien pour résoudre « de grands problèmes à peu près bien posés ». Ce n’est pas ce que ferait un « essaim d’ordi laissé à lui-même et nourri en énergie », il évoluerait sur un mode biologique, créant ses « protéines » dont l’utilité immédiate est quasi-nulle, mais c’est en en essayant des centaines que Darwiniennement, il arrive à « créér quelque chose ». Mes 100 ou 1000 s ont été suggérées ici comme un « temps de hacking ». Ce pourrait être le « temps d’une grappe d’ordinateur répartie » pour générer darwiniennement (non cartésiennement) un nouveau « gène informatique », lequel donnerait ensuite au programme sous-jacent des capacités inédites.
Je parie quand même pour les bactéries ( sans souci de gain bien sûr , pour rester dans l’esprit du blog !) .
Tiens , à propos , que serait un pari et sa motivation pour un robot ?
Les mêmes que pour toi Juan: Le jeux pour gagner le plus souvent,perdre de temps en temps.
Voir les paris haute fréquence a la bourse,ça marche bien,d’ailleurs les robots ne jouent qu’entre eux.
Imaginez que nous soyons déjà des Robots totalement programmés depuis la conception jusque la mort. Sept milliards de Robots avec le sentiment en plus d’être libres. C’est dans le programme de chacun. Nous créons aujourd’hui des robots de façon exponentielle. C’est une évidence pour moi de leur prise de pouvoir sur l’homme-Robot. Nous ne verrons même pas le changement. Robots nous sommes et Robots nous resterons.
Cordialement
jec
Mais à cause de la dynamique d’affect, nous aimons les tableaux de Van Gogh ou de Picasso (comme Keynes), c’est déjà pas mal
Dynamique des informations , de l’affect , de l’économie , sociale , de groupe musicale , des forces ….
Faut que ça bouge : pourquoi ?
Est ce le mouvement qui crée ou donne le « sens » ?
Il ne donne peut être que la direction et le sens » géométrique » .
Mais le sens de finesse ?
@ jec
Cher robot jec, combien de temps tiendrez vous, seul, la nuit, dans la brousse, sans lampe de poche ?
C’est la question que je me pose lorsque je rencontre une personne pour la première fois et j’essaie de deviner.
Autrement dit l’humain a appris à se démer… dans toutes sortes de situations depuis des siècles pcq: c’est pour lui une question de vie ou de mort, comme affect on n’a pas encore fait mieux.
Signé:
Le robot Béotienne.
D’ailleurs , si on regarde bien , quelle différence de nature y-a-t-il entre « résister » 30 ans ou 150 ( ou même 1000) ?
Au risque de passer pour un rabat-joie:
Les assemblages métalo-plastique que vous nommez « robots » n’ont pas de volonté propre,
et pas d’existence véritable en tant qu’être autonome. Non seulement ils ne veulent rien mais
ils ne peuvent pas vouloir.
Votre science est usurpée et elle se fourvoie. Elle nous fourvoie dans une impasse.
C’est une diversion comme l’est une distraction : sympathique en cet fin d’été. La tente est pliée
les duvets aérés sur le fil à linge préservé à cet effet; les bagages et autres accessoires (paraphernalia), plus ou moins secs, sont entassés dans le coffre. Tout est prêt pour la migration du morne retour. Une petite diversion – Ces trucs informatiques, les robots, ne nous veulent peut-être pas que du bien ?– permettra de ne pas s’ assoupir au volant et d’oublier, si faiblement, le prochain matin froid et humide avant la reprise du collier.
Une diversion, une distraction, l’ameublement d’un vide, l’oubli de l’absence d’enthousiasme obligatoire … rien d’autre.
En revanche, ce sont des outils. Des petits génies peuvent les mettre à leur service, à notre détriment. C’est une vraie question et sa réponse est politique, des Hommes qui se débattent au milieu d’autres Hommes. » La guerre des classes existe, et nous l’avons etc… » (c) 2005 Buffett.
Pour qu’ils aient une volonté propre, il suffit de leur donner une dynamique d’affect en fonction de ce qu’ils font (voir la vidéo qui sera en ligne dans quelques heures) : des dissatisfactions se créeront en eux qu’ils voudront résoudre. Cela suffit à créer une volonté : un gradient vers la relaxation du système. Et… c’est de la programmation élémentaire, voir ma contribution à un colloque d’IA en 1990 : An alternative neural network representation for conceptual knowledge
La question que cela soulève, me semble-t-il, c’est de savoir si tout est calculable, en particulier les affects.
Mais à supposer que nous puissions entièrement « calculer » un sandwich au pâté, cela ne ferait pas pour autant un vrai sandwich au pâté.
On se croirait dans la Matrice.
Et s’il fallait envisager la question d’une autre manière… A partir d’un autre point de vue. De l’autre bout pour le dire simplement.
Si nous n’étions nous-mêmes ( adn, relations entre eux de nos organes, etc) que des logiciels connectés à d’autres dans un vaste réseau d’écosystèmes ? Et si l’univers ( les univers ?) était également un réseau de logiciels ,de combinaisons « mathématiques ».
Je me demande si je comprends ce que j’écris, si je parviens à circonscrire mon intuition. Étrange effets. Mises en abyme ? Qui a déjà pensé à cela et a avancé ?
Max Tegmark postule que la totalité de ce qui existe n’est rien d’autre qu’une forme mathématique et qu’inversement, toutes les constructions mathématiques possibles sont aussi réelles que notre univers observable.
Pfff.. !
Excusez-moi !
Je suis perplexe sur l’attitude de PJ envers les mathématiques. Pourquoi un tel rejet? Son « L’irrationalité de racine de 2 est la première défaite cinglante des mathématiques » est pour moi une simple conséquence du fait que le plan n’est pas la droite. J’y vois au contraire une invitation à (re?)spatialiser la pensée: une image vaut mieux que mille mots disait Confucius. Je suis contre la tyrannie du nombre qui a conduit à la coupure galiléenne: l’hypothèse de l’existence d’un infini actuel et du continu fantasmé de Dedekind et Cauchy qui « résout » le paradoxe de Zénon sont des hypothèses exorbitantes. Mais il reste la géométrie et les nombres qui en révèlent les propriétés. Seule la géométrie permet d’éviter le décollage sémantique de la pure algèbre livrée à elle-même: dans information il y a forme. La statistique livrée à elle-même détruit les formes: d’où, pour moi, la difficulté de faire la connexion entre l’approche thermodynamique de Prigogine et Roddier et celle de Thom. Demeure le statut des mathématiques: Thom adopte résolument une position impérialiste, alors que PJ me semble vouloir les confiner dans une position ancillaire. Pour moi ce débat est secondaire.
Lors de la coupure galiléenne les philosophes ont abandonné la phusis aux physiciens et se sont repliés dans la forteresse de la subjectivité.
Dans « On est (presque) Vendredi » du 21 août PJ utilise les mathématiques pour expliquer la dynamique qui nous meut. L’hypothèse métaphysique de Thom est que la « nature vivante » » choisit » d’abord les dynamiques les plus simples, parmi lesquelles les dynamiques de gradient, et les plus simples d’entre elles (catastrophes pli, fronce, etc.).
Si vous avez un peu de temps et 17,50€ TTC à investir , procurez vous » Introduction aux mystères » de Misha Gromov ( Actes sud ) .
Ce qui vous tarabuste est évoqué en particulier dans un paragraphe intitulé Archimède , L’Arénaire, pages 36 à 41 , où il est question de grands nombres, de bactéries ,de sexe , d’empirisme ,d’intégration des « Lois » de la nature ,d’espace-temps, de raccourci logique ,, du chat de Schrödinger, de choix « éclairé » dans un super-giga-univers de possibilités , de chat qui sans connaître les maths, fait le bon choix pour rester vivant …un temps de plus , du théorème d’incomplétude de Gödel …
Si vous ne comprenez pas , confiez le texte à votre robot préféré .( c’est peut être le chat de Schrödinger ) .
Mon dernier chat qui s’appelait Grisou est mort il y a longtemps . J’ai respecté son choix et je n’ai pas ré adopté de ses congénères .
Suite.
Comme signalé plus haut par Timiota pour Thom le continu précède ontologiquement le discret (la continuité et l’intelligibilité sont quasi synonymes -lego=lien-, ce qui incline à penser que discret et inintelligibilité le sont également lorsque le discret n’est pas la partie émergée d’un continu sous-jacent). Les constructions des réels par Dedekind ou Cauchy partent de l’ensemble des entiers comme infini actuel et bouchent (croient boucher?) progressivement les trous pour obtenir un continu. Thom a produit « un modèle continu du nombre » (1989) qui ne fait pas appel à ce qu’il considère comme une hypothèse exorbitante.
Thom: « Peut-être faudra-t-il renverser l’interprétation traditionnelle des paradoxes des Eléates. Ce n’est pas le continu qui fait problème mais bien sa réalisation d’infini actuel, qui justifie l’infini dénombrable; car n’est-ce pas, Achille finit bien par dépasser la tortue… »
Réquisitoire assez violent, au fond, contre la vision mainstream du nombre qui repose sur la considération de l’existence d’un ensemble infini actuel discret. » Dieu a créé les nombres entiers et les mathématiciens ont fait le reste. » disait le mathématicien Kronecker, banquier à ses heures (tiens, tiens).
Ca fait un peu penser aux « p-graphes » d’un certain Jorion, Paul (dans « Principe des Systèmes Intelligents plus qqs autres articles) : p ex cas du graphe mnésique où les mots sont les liens, et les nœuds (sommets du graphe, « vertex ») sont des zones de transit d’excitation guère plus (euh, je devrais réviser, mais là je fayotte), alors que la linguistique moulinée par le cartésien de base mettra le mot comme sommet et les liens mnésiques comme arêtes, et se fera bien chauffer le ciboulot pour faire avancer son schmilblick ensuite.
Il parait que les femmes se souviennent davantage par la mémoire des mots , et les hommes par la mémoire « spatiale » .
ça doit être pour ça que ma femme me dit souvent » je te l’avais pourtant bien dit » ,et que dans ces cas là je la tiens à distance .
Il faudra s’en souvenir si l’on veut singulariser des robots féminin et masculin .
Dixit Obama dans son récent discours à West-Point : « Quand on a une tête en forme de marteau, on voit tous les problèmes comme des clous ».
Nous éprouvons les plus grandes difficultés à imaginer que nos schémas mentaux ne soient pas universels. Après tout, les animaux ne se battent-ils pas comme nous pour l’accès aux ressources et à la reproduction ? Pourtant une IA émergeante serait issue d’une histoire évolutive totalement différente de la notre et il se pourrait fort bien que ses actions/réactions soient totalement déroutantes, voir totalement contre-intuitives pour nos esprits. À l’image des propriétés du monde quantique par exemple.
Et de fait, imaginer une IA-Attila conquérant le Monde à nos dépends, n’est à mon humble avis que la projection de nos fantasmes de primates. L’intéresserions-nous seulement ? Ne préférerait-elle pas explorer toutes les possibilités de ‘sa ville inversée’, d’un univers où l’homme n’existe tout simplement pas ?
Gare au provincialisme de notre espèce !
PS : couper le courant à l’IA, c’est nous condamner à la guerre civile planétaire. Sans réseaux informatiques, tous nos réseaux de distribution s’arrêtent. Plus d’eau, plus de téléphone, plus d’électricité, plus d’essence… plus de nourriture…
Est-ce vraiment utopique d’espérer les garder sous notre contrôle?
Pourquoi les robots formeraient une unité? Je veux dire, les dynamiques d’affects provoquants des insatisfactions et une volonté de les résoudre font naître aussi l’idée de « machines anarchistes », les robots se détruiraient entres eux..
Il suffit d’une fois où ils sauraient se mettre en phase. Ce que l’évolution a su interdire à la vie (qu’une espèce envahisse pour de bon toutes les autres) sans doute pour des raisons de cycle de nourriture et d’énergie, il n’est pas sûr que le branchement sur l’énergie fossile des ordinateurs l’interdise par construction si fortement, au contraire.
Ce petit calcul montre simplement que la prise de pouvoir est casi immédiate, et il est dificile d’argumenter contre cette propagation du »retournage de veste ». En revanche, il est plus difficile d’envisager à quel moment tous les éléments seront réunis pour permettre cette situation. Je ne parle pas seulement de leur capacité intelectuelle qui semble déjá bien avancée, mais de leur limitation physique. Par exemple, les robots ne se risqueraient pas à prendre le pouvoir tant qu’ils ne maîtriseront pas eux-même leurs sources d’énergie, ou encore leur aprovisionnement en matières premiéres pour leur reproduction/réparation.
Ceci m’améne á une autre questionconcernant l’aprés prise de pouvoir : les robots seront-ils meilleur que nous pour gérer les ressources de la planéte?
Dans le cas negatif, les robots viendraient á bout de la planéte en s’adaptant á un environnement de plus en plus inhospitalier pour la vie biologique jusqu’á se disparition totale. Non content de provoquer une extinction de masse de la vie sur terre, l’Homme et sa »progéniture » pourraient être á l’origine de l’extinction de la vie biolo.
Dans le cas positif, la prise de pouvoir des robots pourrait être envisager comme une sauvegarde de la planéte et même comme ultime rempart a la disparition de notre espèce! L’Homme est un loup pour l’Homme alors donne le pouvoir au machine! Puisque l’Homme n’est pas capable d’assurer sa propre survie, d’enrayer sa propre autodestruction, il doit se contenter de la confier aux mains des machines. Il troque une éventuelle survie contre sa liberté, sa culture etc… Un dernier coup de poker, avec peut-être encore et toujours l’illusion du contrôle : ‘au pire débranche tout et on continue á s’autodétruire.
Oui, sauf si ces machines ont été mal élevées parce qu’elle croient que l’énergie fossile dont elles bénéficient pour l’essentiel est inépuisable. Par « croire », je veux dire « être codé pour », cf mon commentaire d’il y a qqs mn ci-dessus.
ça promet, les recherches sur l’IA vont peut être modifier notre vie comme le feu ou l’écriture, quelque chose comme ça. Mais pour prendre le pouvoir, la machine doit être programmée pour ça. Ce sont d’abord des questions de sécurité et de maintien de l’ordre qui peuvent aboutir à cette solution, un humain peut être contraint par la force à obéir à une machine pour satisfaire la volonté d’autres humains. Sur le plan économique la machine n’est un instrument de domination que parce qu’elle sert un objectif de rentabilité pour les actionnaires, c’est à dire les mêmes personnes qui souhaitent maintenir l’ordre social. Donc intérêt économique comme ordre social appellent la machine, pour servir la classe dominante dans une société ultralibérale. Pour qui veut garder un peu d’autonomie dans son quotidien, avoir son mot à dire sur ces questions me semble important. L’injonction éthique doit être préalable à toute décision, afin d’éviter certaines déconvenues de ce type. Qui sont les gardes-fou et quels sont leurs moyens? Allo la démocratie?
@ Corbeau
La machine n’a pas besoin d’être programmée.
Certes il y a des dominants et des dominés. Il y a aussi des surpises. Un des trucs qui a aidé à la conquête de l’empire asztéque est qu’ils faisaient la guerre fleurie.
Adapté en temps normal, les Astques laissaient des peuples hostiles exister pour leur faire la guerre fleurie, capturer et sacrifier des prisonniers. Donc se réconcilier sur le dos des ennemis et accessoirement tuer le trop plein de jeunes hommes ambitieux et de promouvoir les autres. Donc tout ca est bien mais quand l’ennemi arrive, il trouve plein d’alliés sur place.
Nous sommes divisés, créons des instruments incontrolables que nous surveillons mal, obsédés par nos rivalités.
Si des machines surgissaient contre nous, il y aurait aveuglement et probablement collaboration, peut-être justifiable si par des gens ayant été opprimé par les hommes tant il est vrai qu’on ne trahit pas ceux qui vous ont trahi.
« La machine n’a pas besoin d’être programmée »
Il me semble que c’est son premier besoin, son principe fondateur. Mais pour qui ? Si la machine peut prendre le pouvoir, servira t-elle ses intérêts?
Elle n’a pas besoin d’être programmée intentionnellement : à un certain point, elle a assez de programme dans le ventre pour avoir, sinon une conscience, du moins un « conatus », un truc qui la pousse à chercher à échanger de l’info et à faire jouer tel ou tel part du mécanisme très général qu’est le mimétisme ou la capacité de se reconnaitre.
Cet article de IEEE Spectrum vous dit comment le degré de « fingerprinting » des individus pour cause de traçage commercial a récemment atteint des sommets:
http://spectrum.ieee.org/computing/software/browser-fingerprinting-and-the-onlinetracking-arms-race.
La complexité devient un peu celle de notre tryptique de biologie moléculaire (ADN/ARN/Protéine)(/cellule), des mécanismes comme ceux du vivant (~darwiniens) s’y développent.
Thom:
La synthèse entre les pensées « vitaliste » et « réaliste » en Biologie n’ira pas sans un profond remaniement de nos conceptions du monde inanimé. (1966)
La science veut construire la vie à partir de la mécanique et non la mécanique à partir de la vie. (1975)
De même qu’on commence à se rendre compte que le génome des Eukariotes est très différent de celui des Prokariotes, parce qu’ils ne remplissent pas les mêmes fonctions, de même on pourrait bien s’apercevoir un jour que ce ne sont pas les molécules qui font la vie, mais au contraire la vie qui façonne les molécules. (1980)
Suite.
Si, comme je l’imagine, un robot est un humain stylisé alors nous devons d’abord savoir suffisamment qui nous sommes, nous devons avoir au préalable fait un effort de compréhension de nous-mêmes. Effort qu’a entrepris René Thom (aux antipodes de la Biologie mainstream). Pour lui cette compréhension exige une spatialisation de la pensée que seul le langage mathématique peut fournir: le langage mathématique est pour lui le langage véhiculaire naturel non seulement de la physique post galiléenne mais aussi de la phusis aristotélicienne (et des sciences humaines).
Pour ceux curieux de découvrir la pensée thomienne il y a, dispo sur le net, 90 pages de citations recueillies par Michèle Porte ainsi qu’un cdrom de ses oeuvres complètes qu’on peut acquérir à l’IHES.
Here it is, en anglais:
https://www.youtube.com/watch?v=7Pq-S557XQU
The most interesting are the comments…
Quel beau panel de spécialistes de la robotique !
Votre appréciation un peu méprisante ( goguenarde ?) est finalement assez rassurante ( au moins pour celles te ceux qui ont besoin d’être rassurés) !
Faîtes nous part de votre expérience et de ce qu’elle vous apporte au regard du sujet posé .
@ juan nessy,
Le nombre de possibilités de fabrications de robots et dérivés dépasse le mode de perception de la plupart des citoyens de cette planète. La France en particulier accuse un retard abyssal, dû probablement à sa culture de la peur instillée par les bonnes âmes syndicalistes pour qui les robots retirent le pain de la bouche des travailleurs quand ils ne mangent pas leurs enfants… Or il se trouve que beaucoup de pays ne raisonnent pas du tout ainsi, loin s’en faut!: Japon, États-Unis, Allemagne, et bien d’autres ne s’embarrassent pas de ces considérations. Foxconn (le Taïwanais) par exemple met la dernière main en chine aux dernières séries de son million de robots sophistiqués de production électronique: je vous laisse imaginer les prix de revient drastiquement tendus vers le bas que cela implique et les français regardent passer le train comme certains ruminants le faisaient jadis…
Petites précisions, j’ai lu approximativement 3000 SF et ça ne m’a pas empêché de fabriquer des robots (pas les gadgets, les industriels). Je suis désormais à la retraite depuis peu.
ps « goguenarde » me semble très juste.
Ce n’est pas ce que ferait un « essaim d’ordi laissé à lui-même et nourri en énergie », il évoluerait sur un mode biologique, créant ses « protéines » dont l’utilité immédiate est quasi-nulle, mais c’est en en essayant des centaines que Darwiniennement, il arrive à « créér quelque chose ».
Timiota, votre scénario « n’est pas si bête » (Boby Lapointe), et vous le testez ici face aux commentaires. Certes il ne postule qu’une forme de nécessité dans un hasard sans sujet : je dirais que c’est la moindre des choses. Mais il repose sur une hypothèse qui confine et/ou à l’idée préconçue, au fantasme, à une haute improbabilité, une idée fixe de notre époque crépusculaire.
La nécessité ici testée relève du scientisme, c’est à dire d’un éblouissement par les connaissances récentes, exerçant un effet d’occultation du « reste », la scène sociale ou historique, les possibles et l’inconnu, les territoires que la science mettra des siècles à parcourir, sans jamais en finir, la nécessaire modestie qui doit rester la nôtre malgré les progrès de la connaissance, qui un jour prochain appartiendront au passé. Des procédures logicielles pouvant échapper à notre entendement ou à notre contrôle, et notre connaissance plus ou moins provisoirement experte des origines de la vie sur notre planète comme des mécanismes Darwiniens (avec une majuscule comme dans Dieu) qui guident son évolution, peuvent facilement se conjuguer dans notre imagination pour échafauder votre scénario ou une variante.
Non seulement les signes d’une fin de civilisation se multiplient, mais il est difficile de voir ou prévoir ce qui arrive, et de s’engager dans un pari ou l’autre. Alors dans ce désenchantement, pourquoi ne pas envisager la fin de l’espèce humaine, sa domination définitive par une de ses productions, en l’occurrence les « robots », terme fantasmaphore et fantasmatrope, et basta l’histoire humaine, basta les questions sans réponse ! …Illustration des fables du marteau sans maître et de l’aprenti sorcier.
Le blog de Paul Jorion a réussi à ne rien dire du massacre à Gaza. D’un autre sujet, celui des réfugiés fuyant devant l’avancée du califat en Irak, il a été dit ici qu’en raison de l’impuissance qui est ou serait la nôtre, ou la vôtre, ou la leur, ce n’était pas la peine de se livrer à des disputes au sein des Amis de Paul Jorion. En effet la question de Gaza divise les amis, les familles, les réseaux.
À bas l’histoire humaine !
Certes , mais ceci est de l’esprit de finesse .
Enfin je crois , car la démonstration me sera peut être faite que c’est de la dynamique d’affect .
PS : l’accusation de recul devant le risque de dérapages est en trop , et d’ailleurs il suffirait de fermer les commentaires .
Pas dérapage, cher juan nessy, division.
Et pas accusation non plus.
@ Guy Leboutte
» Alors dans ce désenchantement, pourquoi ne pas envisager la fin de l’espèce humaine, sa domination définitive par une de ses productions, en l’occurrence les « robots »
Alors dans ce désenchantement, des écologistes ont sacrifié des hommes aux bêtes, expulsant des peuples de leurs terres, peuples dès lors déchus, pour créer des réserves naturelles.
Des millions d’hommes mis plus bas que les bêtes.
http://www.courrierinternational.com/article/2007/02/22/les-tribus-victimes-de-l-ecologie
Chose pire que ce dont vous parliez et dont personne n’a que faire car il ne s’agit pas de choisir un camp contre un autre mais de défendre le droit de l’homme d’être au-dessus des bêtes, qu’on perd en sacralisant la nature.
Puisque l’homme a besoin de sacré donc de sacrifier certains hommes.
Hum, certains veulent que les IA protègent la nature… que dirions-nous si elle copiait nos méthodes ?
@ Juan nessy
Vous me demandez ce que je veux faire avec des capacités augmentées ?
Tout.
Comme un prisonnier que la prison n’aurait pas brisé puisque augmenté, je voudrais tout faire, ce qui est difficile à dire.
L’immortalité me donnerait la vie véritable, pas la survie.
1 Le temps.
Ainsi pas de a quoi bon pour l’action, pas de frénésie non plus, le temps est mon air, mon sang, mes os, tout, il est tout quand il était ce qui me dévore.
Donc l’action, la reflexion et la contemplation ne serait qu’un, choses disloquées par l’ombre de la mort.
2 Et donc une vraie perceptive d’avenir.
L’intérêt véritable pour le salut de l’espèce et du monde. Il ne serait plus un égoisme qui se nie par effort ou par vanité mais la vraie recherche d’un salut du monde.
L’Histoire, l’avenir ne servirait pas à nier sa mortalité mais serait l’espace de sa vie comme de celle des autres.
Dans le temps long, nous avons tous intérêt au bien des autres.
Mais la notion même d’intéret s’évapore.
Pourquoi convoiter l’espace ou la dominance quand on possède le temps ?
Pourquoi craindre telle chose des autres quand ils l’auraient ?
Il n’y aurait pas disparition mais déclin du désir de récompense puisque chacun aurait les plus grandes, et de punition, dans un monde ou souffrance et mort écartées, nous ne serions pas semblables à des prisonnier punis pour un crime que nous n’avons pas commis.
J’exprime cela de mon mieux mais me sent bien incapable de transmettre ce désir de s’échapper de la prison de nos vies, où nous ne faisons que subir souffrance et mort. Subir, subir.
Subir aussi d’autres limites, par exemple intellectuelles.
Mais tout cela pourrait changer, les prisonniers creuser un tunnel, sinon pour eux, du moins pour leurs successeurs.
En attendant, on garde l’honnêteté de ne pas jouer à qui perd gagne, sachant que nos limites ne sont pas des trésors, au contraire.
Et on a un but…
Mais la liberté sera encore plus belle que ce que je peux en dire.
De toute manière, elle ne sert pas a quelque chose, n’est pas un moyen mais une fin en soi. Ceci dit, la liberté est le but mais elle est et a toujours été le moyen de tout.
Que personne ne condamne la vie, l’intelligence, la liberté ou le transhumanisme à cause de mon manque impardonnable d’éloquence.
C’est bien ce que je craignais .
Vous devez avoir moins de cinquante ans .
Complément :
La Liberté n’est pas le but et le moyen de tout .
Je me suis déjà prononcé ici pour affirmer que la seule manifestation d’un chemin ( moyens) et d’un but confondus , que je connaisse et essaie de servir , c’est le Sourire ( et non pas le pardon , salut Beber !) .
Le sourire humain .
Tiens , en écoutant la vidéo du jour de Paul , et sa métaphore de la bille d’acier qui tombe sur un plan incliné et dont la véritable volonté est la « gravité » , je crois que je viens de découvrir ma » gravité » : ce sourire là .
J’aurai au moins élucidé quelque chose à défaut de vraiment savoir ce qu’est la gravitation , qui , à ce qu’on dit est un peu au cœur des mystères de la matière .
M’enfin , Sourire vs Gravité , j’aime bien !
C’est quoi la gravitation d’un robot ?
@ Juan nessy
C’est bien ce que je craignais.
Quel que soit votre âge, je crains bien que vous n’ayez jamais estimé la liberté à sa juste valeur.
Et vous n’êtes pas le seul.
Cela me rappelle le film de SF Zardoz ou l’on voit finalement que l’immortalité c’est l’enfer
@ Ceux qui sont contre l’immortalité
Ceux qui disent qu’on s’ennuierait si on était immortels s’enuient déjà.
Si vous voulez mourir, mourez, mais laissez vivre les autres quand ils le voudront.
Et commencez par ne pas vous opposez a la recherche au nom d’une ethique qui n’est souvent que le masque de diverses religions ou habitudes.
Ca me rappele « si l’argent ne fait pas le bonheur, rendez-le ».
Renoncez, mais pour vous seuls, à l’immortalité.
D’ailleurs, dès aujourd’hui, personne ne vous force à vivre si j’en conviens, les méthodes de suicide devraient être accessibles et les moyens techniques aussi.
Ce qui pourrait aussi être un recours pour d’autres problèmes que l’ennui et que je ne m’interdis pas d’utiliser en cas de besoin.
Se tuer, se prolonger, il s’agit toujours d’agir de manière à maintenir ou augmenter sa liberté.
Entre ceux qui s’ennuient déjà et ceux qui se consolent d’être mortels en disant que les « raisins sont trop verts et bons pour les goujeats », on est servi. pour les opposants à l’immortalité.
Je le répète ; si plus courte est la vie, meilleure elle est, abrégez.
Ca rassurera les inquiets pour la démographie ?
Pour la question de ceux qui trouvent qu’on est trop nombreux, je ne peux que m’étonner qu’ils ne propsent pas l’Age de Cristal.
Après la maison de retraite, le retrait des vieux ?
Sinon ce sont les communistes chinois et parfois malheureusement la démocratie indienne qui ont empéché des personnes d’avoir des enfants, et des écologistes le veulent aussi.
Je ne risque pas de proposer ce genre de choses moi qui contrairement à tant d’autres respecte véritablement la liberté, je le redis, bien suprême comme moyen de tout.
Ni de développer davantage sur le sujet par lassitude face aux qui perd gagne.
On peut mourir d’être immortel, ainsi parlait le Surhomme.
Pensez juste à faire en sorte que l’immortalité ne soit pas irréversible, ce serait ennuyeux.
Il y a Axel Khan qui a écrit des livres sur la posthumanité, comme Un type bien ne fait pas ça, bien utile pour cerner l’enjeu du sujet dans sa globalité. C’est un randonneur, ce qui est bon signe pour jouer le rôle de garde-fou. On en a vraiment besoin.
Axel Khan est effectivement un randonneur et , d’après un de ses derniers bouquins , il a apprécié un site que je connais depuis toujours ( plus longtemps que lui , non mais !) sur les plateaux de chaumes du haut forez .
C’est donc un bon zig .
Je l’en ai entendu parler il y a quelques mois sur France Inter . Il y a tout bien compris . Mais il n’a pas vu quelque chose qui est pour moi un asile , un symbole , une source de vie et de paix , et le lieu où j’aurais aimé qu’on laisse ma carcasse aux loups ( manque de pot pour mon testament , le loup n’a pas encore été revu dans ce coin là , mais je ne désespère pas ) .
Il faudrait que j’y traine un robot pour savoir ce qui se passerait .
Il nous faut un Comité des bons zigs, pour valider toutes ces innovations et avoir l’esprit plus serein, à défaut la rage against the machine se radicalisera.
Toi, mon p’tit robot, je te bichonne, un jour tu seras fou comme un volcan.
Très fraîche, cette idée de volcan. 🙂
Mon p’tit robot (suite) mon enfant est mort de faim. Je suis allé aussi loin que possible dans la déconstruction. Peut mieux faire me serinent les profs. Maintenant je vais te construire un squelette, de la chaire, des nerfs et de la merde : bonne chance ou bon courage ! ça dépend des cultures, jolie poupée.
La vraie question c’est : combien de temps pour « retourner » les humains dirigeants …
J’ai une petite idée de la réponse.
@ yoananda
La vraie question c’est : trop d’hommes, peut-être une majorité, n’aiment pas la liberté.
Exemple dans ce blog :
» La Liberté n’est pas le but et le moyen de tout .
Je me suis déjà prononcé ici pour affirmer que la seule manifestation d’un chemin ( moyens) et d’un but confondus , que je connaisse et essaie de servir , c’est le Sourire ( et non pas le pardon , salut Beber !) .
Le sourire humain . »
Le sourire, au moins c’est poétique, l’amour, l’argent, la nation, Dieu et dieu sait quoi, les gens échangeront toujours la liberté contre autre chose.
On prétend s’opposer au transhumanisme qui serait une menace contre la liberté.
Et si c’était le contraire ?
Et si l’homme avait peur d’être libre ?
Dans l’Histoire, les hommes n’ont pas été très souvent libres, et quand ils l’étaient, dans quelle mesure, non ?
Dans ces conditions, pas besoin d’être une IA pour nous asservir.
La liberté n’est pas pour ceux qui n’en veulent pas.
Le seul problème est qu’ils essaient souvent d’empêcher les autres d’y accéder.
Les gens se mobilisent plus contre les droits des autres comme on l’a vu dans l’affaire du mariage homosexuel que pour les leurs.
Ils attendent des sauveurs.
Qui les sauvera toujours de la liberté.
Beaucoup de on dans votre commentaire .
Le trans-humanisme , ça ne veut rien dire ( et je ne vois pas pourquoi ce serait donc une menace pour la liberté telle que je l’imagine ) .En particulier le mot humanisme abusivement accolé à trans , sans définition . C’est un néologisme bien creux pour habiller une évolution des techniques intégrées dans la vie sociale , mais qui ne dit rien de l’humain , de l’humanisme au sens de Camus ( et le mien ) . C’est une prolongation « moderne » de l’arc , la flèche , la roue , la fourche et le marteau .
« Trans « .. vers quoi ? Définir le but comme l’accès au tout (Kesako ?) , et à Sainte liberté ( « que de crimes… ») pour enfin parvenir au nirvana d’une immortalité qui serait la « vraie » vie , me semble avoir une conscience et inconscience bien pauvres de notre fin si nous devons en avoir une . Au passage , qu’est ce que vous allez vous emmerder dans une vie sans fin , et dans un univers un peu encombré , à moins que vous n’ interdisiez les naissances ( le prix de la liberté ?) !
Si le sourire ne vous inspire que ce que vous mettez en avant , je plains votre entourage .
Dans la maxime qui me permet de passer du je au nous et lycée de Versailles , il y a trois mots :
Liberté
Egalité
Fraternité étendue au vivant ( c’est là que je mets le sourire )
Et je prétends , avec certain autre bien connu de Paul Jorion , qu’entre Liberté et Egalité , c’est la Fraternité qui nous fait humains et qui nous donne le moyen et la fin confondus .
PS pour @Zelectron : j’ai relevé avec intérêt les trois pays exemplaires que vous citez : Allemagne , Japon , USA .. Dans les théories neuro-psycho-sociales qui me poursuivent , ces trois pays ( en gros leurs cultures ou ce qu’il en reste) , se caractérisent par un rapport obsessionnel au temps présent , pragmatique , et à la primauté donnée à un seul quart des facultés de notre cerveau : l’organisation , la règle . Ce qui donne dans le bon cas des ingénieurs , juristes et professeurs de haute qualité , et dans le mauvais des SS , le KKK, la FED , les kamikazes et les atrocités en Chine .
Ces trois peuples sont cousins , au métissage en cours près , et on note curieusement ( mais est ce un hasard ? ) qu’ils ont en commun la bombe atomique : les uns pour l’avoir conçu , les autres pour l’avoir construite et utilisée , les derniers pour être allés jusqu’à courir le risque de la prendre sur la tête ; En toute liberté .
@ Juannessy
» Beaucoup de on dans votre commentaire « .
Parce que je ne suis pas là pour jouer les procureurs, mais si on me cherche, on me trouve.
» La vraie question c’est : trop d’hommes, peut-être une majorité, n’aiment pas la liberté. »
Alors pourquoi désigner l’un plus que l’autre ?
Je persiste et signe. Vous même avez dit que la liberté n’est pas l’essentiel. Dont acte.
Comme il est plus élégant d’accuser soi que les autres, disons que les Français, contrairement à leur réputation, n’aiment pas la liberté.
Ils préfèrent l’égalité. Et encore ! L’égalité pour être égal des autres afin de devenir eux-mêmes privilégiés.
Toquevilles et Chateaubriant l’ont bien dit. Or entre l’égalité et le despotisme, il y a des liaisons secrètes. On compte sur le despote, par exemple Napoléon pour assurer l’égalité (je laisse de côté la question de savoir si c’est un si bon calcul que ça : je constate).
Inutile de dire que je ne crois pas le peuple français si fraternel que ça sur de tels prémisses.
Inutile de dire qu’il ne m’étonne pas qu’on s’oppose chez nous au nom de l’égalité (voire de la liberté, un comble !) au transhumanisme pour de telles raisons.
Que de crimes commis au nom de la liberté ?
Erreur !
La Révolution française a parlé de liberté mais lui a constamment sacrifié l’égalité, bientôt imitée par la révolution russe.
Notre peuple aime la liberté ? Non. Dès qu’on parle d’une liberté, on la suspecte d’être contre l’égalité (enfin une autre partie de l’opion suspecte toute égalité d’aller contre la liberté).
Bref, une égalité proclamée pour essayer de s’élever au privilège.
Une liberté proclamée sacrifiée à cette égalité.
Un peuple toujours profondément divisé et parfois perdant la démocratie sous des retours de royauté, deux empires et Vichy.
Une Constitution de la Vème République qui prétend assumer la séparation des pouvoirs mais l’oublie (a vrai dire la Révolution, déjà…)
Notre peuple fraternel ?
Non.
Enfin pas plus qu’un autre.
Il le dit.
On le croit.
Puisqu’il le dit on le croit.
Puiqu’on nous croit on le dit….
Et la muraille de Chine se voit de la lune ?
Non.
La fraternité de notre devise, noble mais qui sert à masquer serait le propre de l’homme ?
Tiens donc ?
Ou ce qui nous ferait humain ?
Dites le à Frank Wall qui montre bien des comportements solidaires entre singes d’ailleurs existant déjà chez des animaux moins évolués.
Ces comportements sont très positifs et on n’a pas besoin de les faire passer pour humanisant quand ils existent déjà chez les bêtes, disons que sans être le propre de l’homme ou de nous faire humains, ils font de nous de meilleurs humains, ça ne sera déjà pas mal.
Je n’ai rien contre le sourire mais quelque chose contre tout ce qu’on prétend supérieur à la liberté.
Il y a un côté faire passer tout et n’importe quoi avec un sourire assez ennuyeux. Le politicien, le commerçant, tous ceux qui ont quelque chose à vendre sourient beaucoup.
Et vous, comme eux, qui affirmez que la liberté ne compte pas tant que ça, sortez le sourire pour le vendre.
Je plains votre entourage si vous lui faites avaler toutes sortes de couleuvres avec un sourire.
@Noble joué :
Quand on ne connaît qu’une note , il est difficile de trouver l’harmonie .
La Liberté vous fait loucher , mais elle vaut mieux que le regard que vous lui portez .
Je n’ai pas encore visionné la dernière vidéo de Paul.
Il y a cependant un angle de vue qui me semble-t-il, n’a pas encore été abordé.
Nous humains, sommes une espèce de grands singes un peu particulière, nous naissons inachevés.
Que de temps et de soins pour former un enfant humain.
Les soins de la mère ou ce qui la remplace (même s’il ne s’agit probablement qu’une question d’hormones) fusionnels au départ avec l’objectif de rendre le petit humain autonome.
Il est probable qu’il y aura des robots nounous et là on peut se demander que seront ces enfants formés par des robots, une prise de pouvoir de la part des robots n’est pas nécessaire, il suffit qu’ils élèvent les bébés humains maternellement.
@ Béotienne
J’avais déjà fait le même genre de remarque.
Noblejoué
17 août 2014 à 21:30
@ Paul Jorion
Certains espèrent que l’IA nous serve de baby sitter;
D’ailleurs des robots qui ne sont pas encore à ce niveau servent d’aide à la personne, et seraient même utiles aux autistes.
C’est un peu infantilisant, mais il se peut que les IA accèdent par ce biais en douceur à une égalité en droit avec nous et que nous ayons un genre de pouvoir soft qui plaise a beaucoup de gens.
L’inhumanité de bien des gouvernants et la nullité des mêmes ou d’autres pourrait leur faire un boulevard.
Qu’en pensez-vous ? »
Sur un mode moins grave, je n’aurais rien contre des familles recomposées hommes-IA.
Que sur le boulevard des Bourses, c’est déjà la guerre entre I.A.
Que ce sont des humains qui en sont responsables et donc aussi responsables du déphasage entre l’économie réelle et la finance et que ce sont les humains qui doivent pallier à ces dysfonctionnements.
Si vous n’êtes pas d’accord poussez sur 1 – une I.A vous répondra.
Si vous voulez un interlocuteur humain, poussez sur 2, mais vous devrez, en attente écouter au moins 6 fois « les quatre saisons de Vivaldi ».
Une « transition de phase » des réseaux de conscience dominants sur la terre est certainement possible, en théorie. Rien de ce que raconte Timiota ne me semble exclu, que ce soit par principe ou par considération contingente.
Cependant, je n’y crois pas : jusqu’à cette transition hypothétique, les systèmes artificiels dépendent entièrement du bon état de la civilisation humaine, et je crois l’effondrement de celle-ci bien plus probable et plus proche dans le temps que la possibilité de son remplacement par une civilisation d’artéfacts.
Les robots n’auront pas le temps : ils mourront en même temps que notre civilisation, parmi les premiers, même. Après, il ne restera qu’une population très réduite d’humains qui auront perdu leur civilisation, c’est-à-dire qui se seront mutilés pour revenir à leur seule détermination biologique et à la sélection naturelle. Retour au paradis terrestre, en somme 😉 ;-( …
+1
L’avenir (sil y en a un) appartiendra aux communautés paysannes bien organisées (si possible en auto-défense)
Je parle pour dans dix siècles comme disait Léo Ferré (ou pour dans 40 ans)
-1
« Retour au paradis terrestre », c’était ironique !
Est-ce qu’un algorithme peut apparaître spontanément sans matière, grise ou autre ?
Même question pour un processeur.
Je me pose cette question après avoir lu les commentaires…
Oui, en gros par association d’algorithmes existant, à condition que le tout dépasse un tant soit peu les parties, comme la protéine qui peut faire pas mal plus que les acides aminés (et non animés, ouarf) qui la composent.
Surtout si on commence à développer des suites de « Siri » comme celle que j’ai évoquée (ou Paul ? http://www.wired.com/2014/08/viv/) , qui sont des tresseurs de programmes, en herbe pour l’instant, au motif d’épouser nos contours linguisitico-mnésiques.
pour les robots se posent aussi le problème de l’énergie et des matières premières, etc. La pénurie n’affecte pas que les thèses marxistes.
Avec des ordi réparti autour de datacenter dans des radiateurs d’immeubles (entendu à la radio), les programmes desdits ordinateurs auront un intérêt « objectif » à ce que leurs habitant continuent à vouloir se chauffer, donc détourneront jusqu’au dernier kg de charbon (hélas il y en a mucho, de ce charbon)
@ Timiota
» Symbiose peut-être, mais au risque d’une « projection » de nos possibles d’humains, projection appauvrissante : nous deviendrons les poissons-pilotes de quelque chose qui attire l’attention sur nos seuls sens à réaction rapide (vue, ouïe), au détriment des autres (goût, odorat, vous direz que ça va encore,mais surtout la pauvreté du toucher, et la privation de (…) la main. »
Je comprends vos craintes.
Mais non.
On avait peur que la sédentarité fasse fondre les musles, cela a donné le développement du sport, au contraire.
Vous me direz, pas pour tout le monde.
Pour ce que vous dites de perte des sens et de la main, une réaction est déjà en marche, pas réaction non parce qu’on ne rejette pas les machines….
Une compensation.
La qualité du vin ne cesse de progresser, parallélement, il y a développement des cours d’oenologie.
Il y a, si ça m’interresse moins, la même chose en cuisine.
Pour la main, il y a le développement, certes embryonnaire, de loisirs créatifs, par exemple de mendalas.
Est-ce que tout le monde compensera ?
Non, jamais aucune évolution n’a laissé personne sur le carreau.
Mais il n’y a pas de raison que le nombre d’appauvris culturels augmente.
Tant qu’à la question de l’augmentation de l’inégalité financière entre riches et pauvres, c’est encore une toute autre histoire.
La fin de l’Empire romain ? Tahafut-al-falasifa ? Tahafut-al-tahafut ?
L’histoire nous fait connaitre certains effondrements, les plus grands étant assez lents. Mais n’était-ce pas que les énergies mises en jeu restaient modestes ? Quand « le carreau » où nous ne souhaitions pas rester n’était qu’un coin de terre qui, faute de produire pour 10 par bonne irrigation et bonne organisation, ne produisait plus que pour trois, c’était un temps où l’évolution pouvait percoler à travers des « âges sombres » par bribes au moins. Mais quelques tripailles d’uranium à l’air plus tard ou autre facétie à missile balistique, ou dans 50 ans, des facéties de nos « automates » massivement synchronisés, cela ne divisera pas par 3 mais par 100 le cheptel humain. Les chances qu’une évolution percole peuvent devenir faible dans certains cas.
Je ne suis pas l’anthropologue de service, mais vous avez peut-être entendu parler de la peuplade des Iks au Kénya, comme exemple (« naturel » ?) de dismutation sociale
http://fr.wikipedia.org/wiki/Ik_%28peuple%29 . Michéa s’en sert comme exemple. Même si ce n’est pas une vérité établie, il semble possible en cas de Gross Problem de ne plus pouvoir évoluer et comme tout ce qui n’avance pas recule…
@ Timiota
Les Iks ?
Si on ne les avaient pas empêché de chasser comme ils le faisaisent depuis toujours, au nom de la protection de la nature, iils n’en seraient pas là.
Beaucoup de peuples premiers sont des « réfugiés de la conservation », sacrifiés à l’écologie… Dire que des gens veulent que les écolos aient le pouvoir chez nous quand on voit ce qu’ils font quand ils en ont dans le tiers-monde !