PRINCIPES DES SYSTÈMES INTELLIGENTS (1989), chapitre 3, réédition en librairie le 23 novembre

Comme un débat intéressant est en train de s’instaurer sur le blog (par opposition au silence pesant qui accueillait la parution d’un livre en 1989), je continue la publication des chapitres de Principes des systèmes intelligents.

3. Caractéristiques d’un système intelligent

Une réflexion portant sur les principes des systèmes intelligents ne peut se concevoir valablement que dans le cadre d’un projet qui en constitue à la fois l’horizon et l’épreuve : la réalisation d’un système intelligent. Définissons donc un cadre à seul fin de référence : tel est l’univers au sein duquel se déploie notre investigation. Ce qui a été dit au chapitre précédent quant à l’attente d’un utilisateur en matière d’intelligence d’un système (prise en compte de son inten- tion, présentation par le système de l’information qui lui est la plus pertinente, acquisition par la machine du savoir qu’il lui propose, négociation par la machine du savoir dont elle dispose), dépasse l’ambition des réalisations actuelles en matière de systèmes intelligents. Ceci n’est pas en soi gênant : pour réserver la part de son enthousiasme et de sa créativité, le chercheur a besoin d’une telle perspective de dépassement, il a besoin d’un authentique projet.

Examinons alors de manière plus fine comment se présente le cadre qui nous servira de référence :

1. Un système intelligent dispose d’un savoir.

Un SI dispose, stocké en mémoire, d’un ensemble d’informations susceptibles d’être augmentées, effacées ou modifiées dans leur contenu. Il va de soi que ces informa- tions sont pour la facilité de leur manipulation organisées d’une certaine manière, soit ce que l’on entend par « base de données ».

2. Un système intelligent est à même de transmettre son savoir.

Un SI est à même de communiquer son savoir à un uti- lisateur, sous une forme que celui-ci comprend. Soit donc l’existence d’une interface en langue naturelle (orientée sorties).

3. Un système intelligent est à même d’acquérir un savoir.

Un SI est à même d’extraire des connaissances de l’information que lui transmet son utilisateur. Ce qui implique au moins l’existence d’un analyseur (parseur). Mais aussi, entre celui-ci et la base de données conçue comme dynamique, un « module d’apprentissage »,

4. Un système intelligent veut apprendre.

Soit aussi, l’existence d’un « module d’interrogation de l’utilisateur » connecté (sorties) avec le module d’apprentissage.

5. Un système intelligent n’impose pas son savoir mais le négocie avec son utilisateur.

Soit l’existence de deux interfaces en langue naturelle capables d’interpréter la logique intersubjective qui lie nécessairement deux interlocuteurs, permettant au système et à l’utilisateur de négocier les connaissances qu’ils échangent : un « module d’entrée » capable d’interpréter le degré d’adhésion de l’utilisateur aux propositions qu’il soumet au système, un « module de sortie » permettant au système de présenter ses affirmations selon un degré variable de négociabilité, correspondant au caractère plus ou moins révisable pour lui des connaissances correspondantes.

6. Un système intelligent a une personnalité propre.

La structuration du réseau sémantique sur laquelle repose un SI s’opère systématiquement à partir des connaissances déjà enregistrées. Un SI a donc une histoire1 irréversible et celle-ci porte sur l’inscription successive des connaissances dans sa dimension affective ou émotionnelle aussi bien que dans sa dimension cognitive.

Illustrons cette considération un peu abstraite : un système intelligent qui a a acquis successivement la médecine et l’art de l’ingénieur abordera les problèmes d’une autre manière que celui qui aura parcouru l’itinéraire inverse : disons que le premier aura tendance à concevoir la réalisation d’un ouvrage comme une situation à traiter à l’exemple d’une cure, alors que le second tendra à envisager un patient comme un problème structurel à résoudre.

Qu’on ne prenne cependant pas cet exemple imaginaire trop à la lettre : ce que j’entends suggérer, c’est que les premiers savoirs acquis par un système lui impriment une tendance à aborder les problèmes qui se poseront à lui ensuite selon la prégnance (en réalité, la configuration topologique) des premières inscriptions en mémoire, celles qui correspondraient – s’il s’agissait d’un être humain – à la mémoire infantile, dont la psychanalyse a souligné l’importance capitale pour la connaissance comme pour l’affect.

Partager :

23 réflexions sur « PRINCIPES DES SYSTÈMES INTELLIGENTS (1989), chapitre 3, réédition en librairie le 23 novembre »

  1. Bonjour M. Jorion

    En lisant la description du référentiel que vous définissez pour l’étude/recherche d’un système intelligent, il m’est venu que les grands ensembles mythologiques fondateurs de civilisations semblent posséder toutes les caractéristiques requises.
    A la différence, peut être, que le langage « poétique » parfois hermétique utilisé pour la rédaction de ces textes est le facteur d’adaptation du système aux générations successives: les grands textes « classiques » sont inépuisables en sens et permettent donc à chaque génération de les reprendre en leur temps propre et de s’inscrire dans le monde.
    Dans le cas d’un système comportant des machines, l’utilisation d’un tel langage , à supposer qu’il puisse être élaboré par des « non poètes inspirés » me semble difficile à concevoir en l’état actuel des connaissances et techniques.
    Pour ma part, je crois qu’ un système intelligent « répond » à l’humain , alors qu’un système expert est une aide à la résolution d’un problème plus technique et plus limité.
    Je précise ceci car à compter du moment où la machine intervient la confusion entre ces eux types de systèmes est probable dans un débat de blog.

    Cordialement.

  2. disons qu’un système intelligent qui aurait acquis le savoir de la médecine et l’art de l’ingénieur peut aussi en venir à s’adonner à la peinture (léonard de vinci)

  3. Dans la définition d ‘ intelligence, il y aurait des polémiques …Ce terme peut etre assimilé a la « raison »….Du fait que l’ intelligence aurait tendance a ne servir qu’ un seul maitre : le porteur de ce caractère ….et ce , bien sur au détriment du groupe , de la civilisation ….ou de l’ espece …..Un « intelligence » qui agirait pour le groupe , la civilisation ou l’ espèce …. ne serait pas « moderne » mais issu d’ un système « naturel » !……jamais une machine .
    S l’ on assimile l’intelligence a la « raison » , il faut pour la machine , concevoir une force , au moins égale , inhibitrice qui lui évite une rapide éllimination : des rites structurants qui puisse lui éviter au moins l’ Ubris …. ce contrepouvoir « mécanique » me semble plus difficile a concevoir que celui de l’ intelligence .

  4. « Qu’on ne prenne cependant pas cet exemple imaginaire trop à la lettre : ce que j’entends suggérer, c’est que les premiers savoirs acquis par un système lui impriment une tendance à aborder les problèmes qui se poseront à lui ensuite selon la prégnance (en réalité, la configuration topologique) des premières inscriptions en mémoire, celles qui correspondraient – s’il s’agissait d’un être humain – à la mémoire infantile, dont la psychanalyse a souligné l’importance capitale pour la connaissance comme pour l’affect. »

    Aucune raison qu’un système informatique sans personnalité intrinsèque et sans oppression de l’environnement puisse avoir des résidus indélébiles de ses premiers apprentissages biaisant ses nouveaux apprentissages et ses décisions à moins d’avoir été programmé à escient, ou à tout le moins de ne pas avoir prévu d’algorithmes de revalidation de l’acquis.

    1. @ Sgmsg:
      ///// Aucune raison qu’un système informatique sans personnalité intrinsèque et sans oppression de l’environnement puisse avoir des résidus indélébiles de ses premiers apprentissages biaisant ses nouveaux apprentissages et ses décisions à moins d’avoir été programmé à escient,… ///

      On ne peut , me semble t il concevoir d’ intelligence, sans traitement des informations au vu de la mémoire d’ évènements antérieures…. Le déterminisme humain des premieres info conditionnant les suivantes , est tres fort du fait que ces premieres infos sont fournies par des acteurs exogènes in-contestables ( affect) du fait qu’ils offrent la sécurisation des besoins premiers ……….mais meme sans cette pression de l’ affect, le fait qu’ un évènement ne puisse etre traité que par des évènements précédents , ne peut que donner un poids disproportionné au premier évènement .

      1. « On ne peut , me semble t il concevoir d’ intelligence, sans traitement des informations au vu de la mémoire d’ évènements antérieures…. »

        Bien si, (il me semble): Puisque que chaque élément d’apprentissage est listée dans une base de données, il est naturel de pondérer chaque élément d’apprentissage avec tout les autres.

        Advenant qu’un des premiers apprentissages aient été biaisé par un phénomène ponctuel, il ne serait pas sage de ne pas avoir instaurer des mécanismes de validation continue.

        Ex: le système apprend dans ces premiers balbutiements que la Terre est plate, ce n’est pas une bonne idée qu’il commence tout analyse subséquente de voyage par cette prémisse qui l’empêchera à jamais de trouver la route optimale.

  5. Le système d’apprentissage me semble trop limité vu sous cet angle. Le problème de l’acquisition du savoir est que le savoir est un ensembles de savoirs spécialisés, dont les natures varient trop pour que l’on puisse fabriquer un module d’apprentissage global. De même, créer des modules spécialisés semble impossible car cela nécessite une trop grande anticipation de contextes possibles.
    Aussi, je préfère la vision générativiste du module d’apprentissage qui cherche à créer un (ou des) module de génération de sous-modules d’apprentissages spécialisés. Ainsi, en fonction du besoin, ‘l’intelligence’ doit pouvoir créer un algorythme d’analyse adapté et le modifier en fonction des résultats obtenus. Encore là, l’intelligence doit pouvoir comparer ses résultats avec la réalité.

  6. En tant qu’informaticien habitué à concevoir des logiciels, je me pose une question fondamentale : quels sont les caractéristiques minimales permettant de décréter qu’un système est « intelligent ».
    Je fait un raisonnement simple. Si j’enlève les caractéristiques que vous citez une par une, jusqu’où peut-on aller pour continuer de qualifier le système d' »intelligent ».
    Au final cela revient à se poser la question – sans réponse précise pour l’instant – de définir un système intelligent.
    On se retrouve avec la problématique de l’œuf et de la poule. Lequel génère l’autre ?
    Dire qu’un système est intelligent permet-il de lister ses caractéristiques ? Ou donner une liste de caractéristiques permet-il de déclarer qu’elles caractérisent un système intelligent ?
    Le même genre de question se pose à ceux qui cherchent à définir la notion d’être vivant minimal.

    L’hypothèse que je fait, c’est que comme la problématique de l’œuf et de la poule ne peut-être résolue que dans le cadre d’un système évolutif, adaptatif (évolution des espèces et adaptation à son environnement), un système intelligent est le résultat d’une adaptation millénaire.
    Reste à décrire les mécanismes de l’évolution de l’intelligence.

  7. Aristote discerne la morale intellectuelle de la morale « naturelle » ( coutume , moeurs qui a la meme racine) ……De la meme façon on peut poser qu’il y a 2 procédures cognitives , si l’ intelligence est considérée comme une prise d’information et son traitement ….la naturelle et l’ humaine .
    L’ intelligence humaine ne peut etre que réductrice et débile au regard de l’ outil naturel …aussi pourquoi vouloir singer celle là plutot que celle ci ?
    Il est intéressant de s’intéresser aux pratiques anciennes qui utilisaient l’ « apprentissage » naturel …J’ ai été frappé par la pratique de culture des graminées par les gaulois …Jusqu’au 4e S av JR …les semis etaient mélangés ….( plusieurs sortes de blés , avoines , seigles etc ..) …le but étant d’assurer une récolte quasi certaine qqs soient les conditions climatiques ….de façon collatérale, l’ avancée des graminées dans les différents territoires a sélectionné les especes les plus propices a chaque territoire , non seulement géographiquement ( lattitude , altitude , climat spécifique etc …) mais en intégrant les variations annuelles …..on peut imaginer que sur les causses , le blé froment a rapidement disparu , au point que le paysan devait en acquérir pour tenter d’ensemencer sa meilleure parcelle …
    Si on analyse cette procédure adaptative « intelligente » ,on retrouve une interraction complexe et permanente de rétroactions , prises d’ info , traitements etc …. qu’il serait difficile , voire impossible a la technologie humaine de répliquer avec ce degré de réussite .
    La procédure mise en place est pourtant des plus simple , qui use de la complexité (au sens math du terme) ….serait il si difficile de s’inspirer de cette « intelligence » plutot que de répliquer des procédures déja réductrices ?

    1. le but des gaulois n’était pas que l’obtention d’une récolte quelque soit les circonstances
      ils avaient compris que l’association des plantes génère une dynamique du sol lui-même et déploie une interactivité favorable
      méthode insecticide naturelle, revitalisation du sol exploité supérieure à celle qu’on lui emprunte pour la production du moment

      cf: on est en train de le rédécouvrir et remettre à l’ordre du jour
      documentaire les moissons du futur( arte)
      et pas mal de chercheurs en biodynamique des sols et permaculture
      japonais mais partout dans le monde
      ex Sepp Holzer

      1. @Rahane :
        Ce n’est pas mon hypothèse , mais ce qu’ affirment les paléobotanistes et les antropo -archéo …Ce me semble se tenir …..Ils en déduisent l’ Hypothèse « forte » d’ une étatisation , lors du passage a la culture sélective , puisque l’échec d’ une récolte pouvait etre compensée autrement .

        Un autre domaine d’interet : la récolte a longtemps ete faite a la main par épis et ce, en fonction de l’espece et la maturité ….comme Vigneron … C’est parait il une récolte plus rapide qu’on ne le croie et tres efficace ….moins de volume a gérer …mais cette pratique , versus la « moderne » ( serpe) , freinait le phénomène des plantes dites « suiveuses » ( celles qu’on valorisait à l’ insu de notre plein gré ) …la serpe serait donc une « date » de migration des especes végétales cultivées) …….De plus la serpe rend difficile la cueillette sélective et va induire une production mélangée qui permettra a l’espece de »choisir » son sol de prédilection .

  8. nous sommes entourés de systèmes d’analyses et de tri d’informations
    qui ne s’exaspère pas de la demande de sélectionner la touche 1 à 9 au téléphone et de devoir suivre un parcours de labyrinthe dans les méandres de l’arborescence téléphonique pour obtenir le service demandé ( et échouer au moins 3 fois avant d’y parvenir)
    en fait de système « intelligent » nous vivons sous la contrainte de la multiplication de robot parlant qui n’ont d’intelligence qu’une fonction d’aiguillage complexes.
    même nos ordinateurs focntionnent sur ce plan et la vitesse donne l’illusion d’une réactivité qu’on qualifie d’intelligence mais qui n’en est pas

    ce que vous nommez intelligence dans votre SI est une fonction de triage
    et la notion de « savoir » recouvre plutot du stockage et ordonnancement d’information que d’un réel savoir sous tendu par une connaissance.
    ce qui permettrait sans doute une petite évolution mécanique du SI serait la capacité d’évaluation mais sans doute le programme serait très complexe et sujet à tant de défaillances qu’il faudrait y apporter sans cesse des garde-fous.

    et c’est bien le problème de civilisation auquel nous sommes confrontés: cet empire du triage sur l’intelligence véritable qui par le rapport de force( quantitatif) en vient à soumettre l’intelligence réelle par mimétisme. doublé de l’empire de la compilation d’informations qui fait passer les champions de réponses aux jeux télévisuels pour des savants.

    la réelle mémoire  » vive  » est celle qui dispose d’un filtre émotionnel pour sortir le bon souvenir du bon tiroir au moment opportun
    et dans notre société de robotisation les capacités de l’émotion sont reléguées à un outil de distraction et même contraint par des programmes SI de soumission à un ordonnancement selon un ordre moral préétabli de manière artificielle.
    la différence réelle entre le savoir et la connaissance se situe dans la disposition des deux entités par rapport à la limite du temps
    le savoir est dans le temps mesurable, la connaissance se situe au-dela.
    l’intelligence selon qu’elle est mécanique ou créative idem se situe des deux cotés, la véritable intelligence disposant d’une autonomie par rapport à n’importe quel système dans ou hors du temps.
    et la robotisation ayant gagné le fait de franchir le temps perceptible nous fait croire, parce que nous sommes incapable de cette vélocité, à l’illusion que les robots ou les SI de cette nature seraient hors du temps ce qui n’est pas le cas

    sociologiquement il va être interessant de se pencher sur ce qui va se passer dans une ville comme NY plus qu’ailleurs soumise à la cadence impalpable des ordinateurs dans une configuration de panne d’électricité( et de communication en général) conséquente.(on pourrait trouver un point de comparaison avec la situation du Québec il y a une vingtaine d’année bien que le dépassement de la limite du temps maitrisable par les sens ait eut lieu après au niveau du grand public)
    le building de goldman sachs est resté allumé malgré la panne…
    au dela de l’image il serait vraiment interessant de comprendre comment et pourquoi?

    1. le building de goldman sachs est resté allumé malgré la panne…
      au dela de l’image il serait vraiment interessant de comprendre comment et pourquoi?

      comment : par un système de secours tels qu’ils en existent pour les hopitaux et les centres névralgiques. Grtoupes électrogènes et accumulateurs.

      pourquoi : pour ne pas perdre le contrôle de leur bizness.

      1. je ne m’interroge pas sur les moyens techniques
        mon pourquoi est ailleurs
        je note qu’on a transféré les malades de l’hopital dont le générateur était insuffisant alors que la tempête était amorcée
        et que goldman schas dispose d’un générateur assez puissant
        ce qui m’interroge c’est l’ordonnancement des priorités
        les choix de survie mis en oeuvre
        l’endroit où se situe le pouvoir de décision
        l’obédience générale
        etc.
        je m’imagine new yorkaise prévoyant qu’une tempête plus sévère pourrait avoir lieu (parce que c’est de l’ordre du probable)
        et il y a parait il au moins 20millions d’américains que cela préoccupe cf mermet d’hier après midi

  9. On pourrait ajouter « Un système intelligent élabore des modèles ».

    L’intelligence revient à choisir un certain nombre d’éléments conceptuels, considérés comme « utiles pour progresser » et à les organiser en identifiant des liens entre eux. Le résultat est un ensemble d’éléments interactifs entre eux, autrement dit un nouveau système spécifique, qui dispose de ce fait de propriétés nouvelles, « not yet invented ». Si la réflexion aboutit, c’est que ce système parcellaire est considéré comme valable, autrement dit utile à quelque chose. Il devient un nouveau résultat conceptuel qui peut être intégré au savoir général pour être ressorti en cas de besoin.
    Comment décider si la construction élaborée est valable et mérite d’être conservée ? Elle l’est s’il existe des perspectives d’utilisation, et a fortiori de réutilisation. Elle est devenue un modèle d’élaboration de réponse à une problématique particulière.

    Mais encore faut-il que la réponse soit reconnue comme adéquate. Il faut alors la replacer dans une problématique plus générale. L’être humain, du fait de ses acquis culturels, quels qu’ils soient, y arrive généralement, le plus souvent même sans y réfléchir. Chacun se cherche un sens à la vie et se dote de multiples points de repère en conséquence.
    L’intelligence humaine est très axée sur la recherche de modèles comportementaux et sur la réflexion scientifique. Un des critères de validation des modèles est l’expérience et c’est probablement le plus objectif. Néanmoins, les comportements d’individus différents face à une problématique donnée sont souvent très incohérents entre eux et beaucoup de situations débouchent sur des conflits.

    Quel « sens de la vie » donner comme repère général à un système d’intelligence artificielle ?
    S’il prenait le dessus sur l’intelligence humaine et en décidait lui-même, il pourrait décider d’éliminer l’espèce humaine qui perturbe beaucoup trop les équilibres de la planète. Les auteurs de science fiction ont déjà envisagé la chose.

  10. Bonjour à tous

    Paradoxalement , la première caractéristique d’un système intelligent est de pouvoir se tromper!
    Puis de rectifier ses erreurs!

    Comme le rappelle F. Leclerc dans le premier billet du jour:
    « Errare humanum est, perseverare diabolicum! »

    Cordiales OAT ( mod. Eurodrag.2012, rectifié 13, rectifié14 etc…= éternels regrets en cette veille de fête des morts) .

  11. Est-ce qu’il n’y a pas dès le départ une erreur à parler de SI lorsqu’il s’agit d’une machine. Comment un système peut -il être intelligent ? L’erreur ne vient-elle pas du fait que l’on compare le fonctionnement d’une machine avec le fonctionnement du cerveau.Il me semble que l’on pourra réellement parler d’ intelligence artificielle lorsqu’un ordinateur sera capable d’intuition. Ce qui à mon avis est déterminant dans l’intelligence,c’est cette capacité à sortir de la rationalité , faculté issue des lois de l’évolution que l’on trouve chez les animaux.

    1. @Mephisto

      Première occurrence de système en français: Ponthus de Thyard en 1552 : système philosophique
      étymologie: du grec philosophique; sustemos= ensemble

      Réduire système à machine est comme réduire Méphistophélès à une marque de souliers!

      Cordialement.

  12. Ce qui frappera tout d’abord, ce sont ces appa-rences d’illumination subite, signes manifestes d’un long travail inconscient antérieur; le rôle de ce tra-vail inconscient dans l’invention mathématique me paraît incontestable, et on en trouverait des traces dans d’autres cas où il est moins évident. Souvent, quand on travaille une question difficile, on ne fait rien de bon la première fois qu’on se met à la be-sogne; ensuite on prend un repos plus ou moins long, et on s’asseoit de nouveau devant sa table. Pendant la première demi-heure, on continue à ne rien trouver et puis tout à coup l’idée décisive se présente à l’esprit. On pourrait dire que le travail conscient a été plus fructueux, parce qu’il a été interrompu et que le repos a rendu à l’esprit sa force et sa fraîcheur. Mais il est plus probable que ce repos a été rempli par un travail inconscient, et que le résultat de ce travail s’est révélé ensuite au géomètre, tout à fait comme dans les cas que j’ai cités; seulement la révélation, au lieu de se faire jour pendant une promenade ou un voyage, s’est produite pendant une période de travail conscient, mais indépendamment de ce travail qui joue tout au plus un rôle de déclanchement, comme s’il était l’aiguillon qui aurait excité les résultats déjà acquis pendant le repos, mais restés inconscients, à revêtir la forme consciente. Il y a une autre remarque à faire au sujet des conditions de ce travail inconscient : c’est qu’il n’est possible et en tout cas qu’il n’est fécond que s’il est d’une part précédé, et d’autre part suivi d’une pé-riode de travail conscient. Jamais (et les exemples que j’ai cités le prouvent déjà suffisamment) ces inspirations subites ne se produisent qu’après quel-ques jours d’efforts volontaires, qui ont paru abso-lument infructueux et où l’on a cru ne rien faire de bon, où il semble qu’on a fait totalement fausse route.

  13. Bien sur cher steve … système… est à prendre dans le sens de logiciel informatique et pas dans le sens philosophique comme le système de Descartes…Tu as raison les systèmes de Descartes et de Spinoza sont des systèmes intelligents.

Les commentaires sont fermés.