Bonsoir GMM, v/com. est très vrai. Vous avez raison à propos d’ une majorité des population qui vivent avec peu…
Loading ...Email a copy of 'PRINCIPES DES SYSTÈMES INTELLIGENTS (1989), chapitre 2, réédition en librairie le 23 novembre' to a friend
Loading ...*Le seul Blog optimiste du monde occidental*
Bonsoir GMM, v/com. est très vrai. Vous avez raison à propos d’ une majorité des population qui vivent avec peu…
Marché du travail aux US Une info gouvernementale sur les clauses de non-concurrence aux USA La décision de la Commission…
Je vis auprès d’une personne qui souffre d’hyperosmie (trouble qui consiste à amplifier le ressenti des odeurs qui nous arrive),…
La dictature est en marche et Poutine est, comme vous l’indiquez très bien, le dernier rempart de la démocratie contre…
Et donc, le scénario possible, c’est une condamnation suffisamment solide pour que Donald soit inéligible, ce qui serait en mesure…
Régis Pasquet, La glace, en Thaïlande, on ne la bouffe plus, on la met dans la piscine, et il y…
Stéphanie et Paul Vous êtes adorables ! Quel bienêtre vous nous apportez !! merci à vous deux .
Pour info les fluctuations des prix des différents marchés pétroliers: https://en.wikipedia.org/wiki/Urals_oil#/media/File:Oil_price_benchmarks.webp où on retrouve : * WTI * Brent *…
Bientôt, quiconque osera critiquer l’état hébreu sera traité de terroriste , voilà le programme. Déjà, aujourd’hui, quiconque ose critiquer les…
Merci pour vos réponses qui répondent à ma curiosité pour le fixing à la bourse de St Petersbourg, mais je…
Allemagne Aristote bancor BCE Bourse Brexit capitalisme centrale nucléaire de Fukushima ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »
23 réponses à “PRINCIPES DES SYSTÈMES INTELLIGENTS (1989), chapitre 2, réédition en librairie le 23 novembre”
Ho, tout peut se simuler, y compris l’affectivité, dans la mesure où un système intelligent interfère avec le reste du monde, il peut avoir des préférences.
Je ne veux pas dire « sciemment simulé par un système intelligent pour imiter l’homme » mais « créer dans le programme de fond du système un équivalent », que ce soit un module de parole avec des caractéristiques personnelles, différentes d’un système à l’autre, obtenues lors de l’apprentissage, et pas qu’un accent mais une tournure d’esprit, un module d’éthique ou d’honnêteté, de loyauté, etc, et même pourquoi pas, de besoin de reproduction.
Oui je sais c’est amusant, mais je parle de semi-clônage de système intelligent dans un système séparé, un peu différent dès sa « naissance » et ensuite indépendant du premier après son apprentissage. Semi-clônage puisque le système intelligent détermine lui-même les paramètres de fonctionnement de départ des différents modules de son « fils ».
Je suis persuadé qu’un système ne peut devenir intelligent que s’il est doté d’affectivité et d’un besoin inépuisable d’interférer avec l’extérieur de lui-même, créé par un compteur d’angoisse augmentant tout seul en permanence mais pouvant décompter dans certaines conditions, pour se « sentir mieux ».
Oui, et c’était bien entendu cela le coeur du logiciel ANELLA, qui faisait son originalité en 1989 : un univers de mots animé par une dynamique d’affect.
Qu’est-ce qui pourrait bien pousser une machine à se perpétuer dans un univers hostile qui ne peut que la dégrader ? Il y a, au moins, « le plaisir » : c’est une boucle de rétroaction efficace, laquelle peut asservir (réguler par servo-mécanisme ) toutes les autres. De plus, elle nous pousse à imaginer et instituer de nouvelles structures comportementales, destinées à l’assouvir, lorsque les modifications de l’environnement demandent l’invention de nouveaux comportements régulateurs. Sa caractéristique est d’être à un niveau de circuiterie purement biochimique, tandis que les couches de langage plus élaborées demeurent interprétables dans le langage biochimique du » processeur ».
(Sigmund Freud, Lettre du 7 juin 1908, Correspondance S. Freud K. Abraham, Gallimard, 1969, p.47).
Pourtant, le fait est que dans une première étape nous avons institutionnalisé (fait tourné avec efficacité et transmis) une première couche de langage construit autour de la satisfaction du circuit du plaisir, par l’organisation de dispositif sociaux organisant le plaisir par la dominance, la hiérarchie, la propriété etc. C’est à dire que nous avons renforcé le sous circuit de la punition et du déplaisir, nous avons institutionnalisé un compteur d’angoisse inutile ! La compilation ne permet pas l’évolution, il faut changer de processeur; par contre les langages interprétés permettent l’évolution rapide des langages; – la dominance est un interpréteur dépassé !. Nous sommes loin d’avoir utilisé toute les potentialités adaptatives et évolutives de nos comportement relativement à l’utilisation de de notre processeur biochimique, …. « minimiser la quantité de déplaisir »… Pff… (soupir ) ?
Nous disposons également, par construction, d’une autre circuiterie, les « neurones miroir » qui nous permettent de ressentir ce que l’autre ressent. Sachant ça, aujourd’hui, nous pouvons balancer toutes les hypocrisies liées à l’usage de ces univers de mots que constituent l’éthique et la morale ; chacun de nous est armé pour s’avoir qu’il est bon de « traiter les autres comme nous voudrions être traités ». … de « ne pas faire aux autres ce que vous ne voudriez -pas qu’ils vous fassent » .
Allez, chacun sait que « l’économie » est un bon prétexte, s’il s’agit de dissimuler toute sorte de stratégies de domination, à commencer par l’organisation de la rareté et de la pénurie par l’économie de la concentration des richesses. « Lâcher du lest » en morigénant les financiers est certes une tactique intéressante, mais seulement pour éviter la terreur et … « passer muscade » ;).
Intéressant votre idée de « compteur d’angoisse » comme marqueur de l’intention d’inscrire une action. Une action orienté vers son interlocuteur.
Dialogue entre un homme et un système intelligent :
– Dis-voir machine, la terre est-elle ronde ou est-elle plate ?
– La terre est ronde.
– En-es tu vraiment sûre ?
– Maintenant que vous me posez la question, je n’en suis plus aussi sûre.
– Alors, comment est la terre ?
– Elle est plate.
– Ce n’est pas la réponse que j’attendais.
– Vous savez, je n’ai jamais pu parcourir la terre et me faire une idée. Pourriez-vous m’instruire à ce sujet ?
– Eh bien tu vois, la terre est ronde, et elle tourne autour du soleil ce qui explique l’alternance entre le jour et la nuit.
– Comme vous êtes intelligent, ô maître !
– Merci machine, tu me vois flatté
😀
Dialogue entre deux machines « intelligentes »
Dis donc tas de ferraille, tu la connais celle-là:
« Une saucisse est dans un micro-onde avec une autre saucisse.
– Il fait chaud ici dit l’une des saucisses.
– Au secours, répond l’autre, je suis avec une saucisse qui parle. »
….Tas de ferraille toi-même, c’est pas drôle.
….C’est bien ce que je pense.
L’expression « intelligence artificielle » ne serait-elle pas un oxymore ?
Par ailleurs, quand les humains s’évertuent à comprendre le fonctionnement de l’univers et de leur univers (les relations sociales) en termes de lois, alors qu’il est patent pour ceux qui savent vivre qu’il s’agit d’un terrain où la lutte domine, est-il logique de croire que ces mêmes humains, si désarmés dans leurs vies et éblouis par des conceptions du monde à la solde de la domination, peuvent apprendre quoi que ce soit à des machines en ce qui concerne la vraie vie (ou la vie bonne, ou la vérité, etc.)
Une opinion sur un sujet est un agrégat de faits de diverses origines, des faits « durs », scientifiques, vérifiables, des faits « mous », souvent l’opinion de personnes considérées comme respectables et sages sur le sujet, plus parfois quelques réflexions personnelles, généralement basées sur la morale ou l’éthique, donc l’affectif « ça c’est bien / mal ! ».
Tout comme une personne, un système intelligent a ses « valeurs », celles qu’on lui a imposées, du moins au début. Y a-t-il beaucoup de points communs dans la définition de « vraie vie » entre celle de Marlowe et d’un trader acharné, par exemple?
Un système dit intelligent sans « âme » ou sans personnalité, sans opinion, ne serait qu’un système expert, une machine à calculer, variante électronique d’une montre mécanique.
La « vraie vie » (la « vie bonne ») dont parle Marlowe est en lutte avec la vie de l’argent qui se meut à travers le trader.
Dans la vraie vie, les hommes sont complices ou ennemis et le savent.
Amsterdam, le 30 octobre 2012
Chèr Paul,
http://www.nytimes.com/2012/10/30/science/rethinking-the-computer-at-80.html?src=dayp
Cordialement,
JL
La troisième guerre mondiale a éclaté. Les militaires ont mis au point un ordinateur ultra puissant, auquel ils peuvent soumettre des problèmes tactiques particulièrement ardus. Cet outil de recherches en intelligence artificielle est d’une puissance de calcul stupéfiante. L’état-major a fait entrer un maximum de données : les règlements militaires, l’état des armements, toutes les campagnes de Jules César et de Napoléon, les grandes guerres mondiales et les guérillas de tous les continents, les données de la géographie et de la politique mondiale, et même l’âge du capitaine. Lui ayant fait ingurgiter les données, ils posent la question :
– Faut-il attaquer aujourd’hui ou remettre l’attaque à un autre jour ?
L’ordinateur émet quelques cliquetis, une série de bips et soudain, la réponse jaillit :
– Oui.
Les généraux se regardent, perplexes. L’un d’eux décide d’agir : il s’approche du clavier et tape une autre question :
– Oui quoi ?
L’ordinateur répond, instantanément :
– Oui mon général !
🙂
Hi!Hi!
Un logiciel n’est pas limité par la physique, comme une maison en briques. Il est limité par l’imagination, par sa conception et son organisation. En bref, il est limité par les gens eux-mêmes, pas par les propriétés du monde. Ralph Johnson
Un logiciel n’est pas limité par la physique, comme une maison en briques. Il est limité par l’imagination, par sa conception et son organisation. En bref, il est limité par les gens eux-mêmes, pas par les propriétés du monde. Johnson Ralph
Jamais deux sans trois.
[…] Blog de Paul Jorion » PRINCIPES DES SYSTÈMES INTELLIGENTS (1989), chapitre 2, réédition en libra…. […]
Texte très intelligent ! Et très intéressant. Je lui ai cependant trouvé un petit défaut, ici :
Il manque un terme : un être intelligent est capable d’oublier ! Sinon ça veut dire qu’il retient tout, ce qui devrait compliquer son but de produire « à chaque instant l’information la plus pertinente« . Plus précisément, un système capable de se souvenir de trop de détails de son histoire, prouverait qu’il n’est qu’une machine.
On peut pondérer différemment les souvenirs récents et anciens, ou les moins utilisés, et/ou lui dire de ne pas chercher à l’infini jusqu’à la dernière occurrence. Les humains non plus n’oublient pas, presque rien quand on cherche bien, ils ne pensent pas à tout tout le temps, c’est différent.
Pas si simple. Pour commencer, faudrait savoir comment peut fonctionner un « univers de mots animé par une dynamique d’affect« … Bon, admettons que ce soit faisable : j’associe mes souvenirs personnels au mot « vécu », et à « vécu » j’associe un affect fort puisque c’est perso. Ainsi je me souviens de ce qui est pertinent pour moi-même. Mais comme il est souvent gênant de parler de son vécu, faut introduire l’affect « pudeur », et lui donner un poids fort pour tout ce qui est personnel. Mais, s’agissant du vécu professionnel, et dans le cadre d’un entretien d’embauche, la pudeur ne doit plus peser : il est au contraire pertinent de se vanter de son vécu…
Jorion parle avec raison d’ »information qui se discute, qui se négocie« , mais, dans une conversation, se sont d’abord les affects qui se négocient. C’est manifeste en français où la politesse exige le vouvoiement. Donc ça se complique. (Et ça ne résout pas la question de l’oubli.)
C’est un sujet très intéressant mais intimidant.Chacun a sa petite idée sur les dérèglements climatiques ,financiers,technologiques(je suis devenu un expert en refroidissement des corium ) mais s’aventurer à commenter un sujet aussi pointu quant on on a pas un embryon de commencement d’illumination sur la question procède du suicide médiatique.
On peut toujours, aborder le problème sur le plan éthique et se demander ce qu’il conviendrait de faire si les mots tellement chargés d’affect,les circonstances de la création,l’interaction avec le créateur buté,faisaient dérailler le bel objet doué de raison.
Et l’homme créa l’ IA à son image…
Ce qu’un homme espère quand il demande mais sans employer tous les mots nécessaires pour l’exprimer, c’est ce qu’il appelle l’intention qu’il avait en demandant. Et dans ce cas-ci, l’ordinateur a deviné l’intention de l’utilisateur. L’intention pourrait être une interprétation à postériori : satisfait du retour (plus que de la réponse) du système l’homme requalifie ce retour comme s’il était celui qui était attendu.
L’homme est satisfait, cette machine l’a surpris comme il est surpris à tout moment par ses semblables : elle n’a pas suscité la déception qui résulte normalement d’un comportement machinique entièrement prévisible. Le système a confronté un être humain au déborde- ment habituel du désir par rapport à la demande. C’est aussi l’attitude de l’enfant qui tire de son jouet des satisfactions répétées parce qu’il sait faire de celui-ci un support de son imaginaire..
Un système, informatique ou autre, doit être défini. Il l’est par ses éléments (ils en font partie) et par son environnement (c’est-à-dire tout le reste).
Vous abordez la question en positionnant le système (intelligent) comme un ensemble de dispositifs de traitement automatique de l’information, et l’environnement comme un interlocuteur humain. Vous interrogez leur relationnel pour dégager les principes d’un dialogue de type « stimulus-réponse » évolutif.
Fatalement, cette démarche rencontre des limites. Elle est sûrement intéressante pour des phénomènes à traiter bien circonscrits, mais ne restera, j’en suis persuadé, qu’une aide essentielle, mais à ne pas suivre aveuglément en devenant son esclave docile. Michel Crozier (« L’acteur et le système ») a développé sa réflexion dans le sens contraire en disant « l’esprit humain est le meilleur intégrateur de complexité ». La catastrophe du Rio-Paris ne remet pas vraiment en cause son opinion, l’esprit humain n’est pas infaillible non plus.
1 – L’environnement du système n’étant pas limité à l’interlocuteur humain considéré, il peut induire, de la part de la logique informatique choisie, des réponses incohérentes par rapport au débat engagé. Cela peut aller de la perturbation par une émission électromagnétique par une éruption solaire exceptionnelle, à des captures, par les capteurs environnementaux utilisés (et indispensables à la créativité) de données parasites en raison de phénomènes imprévus lors de leur conception en tant que capteurs.
2 – Les données à traiter sont presque toujours entachées d’une marge d’imprécision, ce qui implique d’introduire un usage massif de calculs de probabilité dans la logique interne, pour rester sur le domaine de la meilleure probabilité de « bonne réponse ». La logique des sous-ensembles flous (A. Kaufman a collaboré avec IBM dans les années 60-70) conduit à des foisonnements exponentiels rapidement insurmontables. Dès que la complexité échappe à la logique humaine, elle échappe aussi très vite aux systèmes. Il ne s’agit pas seulement des données chiffrées. Les mots non plus ne correspondent pas à des concepts précis et stables dans les lieux et dans le temps. Un terme aussi banal que « commande d’achat » ne précise pas si elle est ferme et définitive, ou indicative d’une intention pouvant être modifiée (en particulier si le délai de livraison est hasardeux), si la quantité peut être retouchée, etc. Affecter chaque mot d’une ribambelle d’attributs pour le préciser conduit à des dialogues homme-machine rapidement accablants. Que dire alors des concepts philosophiques.
3 – Le « non-dit » a une très grande importance dans la gestion des situations. Il est omniprésent dans les situations de conflit de pouvoirs (ou d’intérêts) qui se produisent partout, tout le temps.
Ce n’est pas pour autant qu’il est vain de progresser dans cette réflexion, au contraire.