La Singularité. L’humain déboulonné par l’Intelligence Artificielle ?, à paraître chez Textuel

21 novembre 2023 10h29

À titre purement indicatif : cette proposition ne présage pas la couverture définitive.

Argumentaire :

Titre : La Singularité. L’humain déboulonné par l’Intelligence Artificielle ?

Résumé :

Le 14 mars 2023, date de sortie de Chat-GPT4, a été atteinte la Singularité : ce moment de l’histoire à partir duquel l’Intelligence Artificielle connait une progression exponentielle dépassant rapidement l’intelligence humaine, grâce à sa capacité à programmer elle-même ses prochaines itérations.

Contre les sceptiques affirmant qu’il n’y a rien de nouveau sous le soleil, ce livre écrit par un des pionniers européens de l’IA prend pour la première fois au sérieux la révolution technologique en cours, dont l’accélération surprend même les spécialistes. Que signifie-t-elle non seulement pour des millions de travailleurs intellectuels potentiellement remplacés, mais aussi pour l’humanité tout entière en tant qu’espèce ?

L’homme ayant créé quelque chose de supérieur à lui-même sur le plan de l’intelligence, on pénètre à cet endroit au sein d’un domaine qui relevait jusqu’ici du surnaturel plutôt que du naturel : celui des différents pouvoirs que nous avions attribués à la divinité, redistribués en l’occurrence, à l’occasion de la Singularité, entre l’homme le créateur et l’IA, sa créature surdouée.

Bio :

Paul Jorion a été chercheur en intelligence artificielle (IA) de 1987 à 1990. Il a été membre du Laboratoire d’informatique pour les sciences humaines (LISH) de la Fondation Maison des Sciences de l’Homme à Paris et de Connex, la cellule IA de British Telecom, pour qui il mit au point le logiciel Anella (Associative Network with Emergent Logical and Learning Abilities), un réseau associatif aux capacités logiques et d’apprentissage émergentes. Son premier ouvrage sur l’intelligence artificielle Principes des systèmes intelligents (Masson), a été publié en 1989. À nouveau sollicité en 2021, du fait d’un renouveau d’intérêt en Intelligence Artificielle pour le modèle freudien, Jorion reprend ses travaux. Avec Manuel Guérin, il cofonde en juin 2022, Pribor, une start-up consacrée, dans le prolongement d’Anella, à la mise au point de Self-Aware Machines (SAM), une IA consciente de son unicité.

Points forts :

Un ouvrage qui prend enfin au sérieux la révolution technologique en cours sans chercher à la minimiser
Un exposé clair et didactique sur les techniques en jeu et leurs impacts sociaux
Une synthèse inédite par un pionnier de l’Intelligence Artificielle

Grands Modèles de Langage, Intelligence Artificielle, Singularité

ANELLA, Pribor.io, Singularité

15 réponses à “La Singularité. L’humain déboulonné par l’Intelligence Artificielle ?, à paraître chez Textuel”

pierre guillemot

21 novembre 2023 11h10

(troll)

» … prend pour la première fois au sérieux la révolution technologique en cours, dont l’accélération surprend même les spécialistes. Que signifie-t-elle non seulement pour des millions de travailleurs intellectuels potentiellement remplacés, mais aussi pour l’humanité tout entière en tant qu’espèce ? L’homme ayant créé quelque chose de supérieur à lui-même sur le plan de l’intelligence, … »
(« La Singularité », Paul Jorion, 2024, quatrième de couverture)

» C’était un objet en forme d’amande, presque plat, dont la surface était taillée en nombreuses facettes, comme un gros diamant, mais opaque, avec des reflets quasi métalliques.

— Eh bien, fit le général d’un air perplexe, c’est un caillou.

Le professeur eut une lueur de malice dans ses yeux bleus, surmontés de sourcils en broussaille :

Oui, répondit-il, c’est un caillou, mais pas à laisser par terre avec les autres cailloux. Il est fait pour être tenu en main.

— Pour être ten… ?

— Tenu en main, mon général. Dans ce caillou, il y a plus de puissance que l’humanité n’a jamais pu en rêver. Il y a le secret de l’énergie, la force d’un million d’hommes. Regardez… »

…

Voilà quelque chose de merveilleux. Avec cette « Chose », l’homme a centuplé sa force ; il peut tenir tête à n’importe quel dinosaure… Il est devenu maître de la roche et des arbres ; il a acquis un bras de plus, que dis-je ?… cent bras, une armée de bras ! Où l’avez vous trouvé ?

Ka sourit d’un air satisfait :

— Je ne l’ai pas trouvé, je l’ai fait.

— Fait ? Qu’est-ce que cela veut dire ?

— Cela veut dire qu’avant, il n’existait pas.

— Vous êtes fou, Ka, répliqua le général en tremblant. Il a dû tomber du ciel ; il a dû être apporté ici par un émissaire du Soleil, un esprit de l’air… Comment est-il possible de faire quelque chose qui n’existait pas avant ?!

— C’est possible, répondit Ka avec calme. Il est possible de prendre un caillou, de le frapper avec un autre caillou jusqu’à lui faire prendre la forme voulue. Il est possible de le façonner de manière à l’avoir bien en main. Et en se servant de celui-ci, il sera possible d’en faire beaucoup d’autres plus grands, plus pointus. C’est moi qui l’ai fait, mon général. »

(« La Chose », dans « Pastiches et Postiches », recueil, Umberto Eco, 1988 pour la traduction française)

Est-ce que l’IA changera l’avenir de l’homme autant que la première pierre taillée ? En tous cas, le discours qu’elle suscite est de la même hauteur.

(fin du troll)

Répondre
1. timiota
  
  21 novembre 2023 15h20
  
  Leroi-Gourhan n’aurait pas dit pareil du tout (Le Geste et la Parole) : c’est le geste qui a apporté la parole, et donc tenir un dialogue post hoc après la « création » d’une hache ou autre silex n’est pas du tout ce qu’il a proposé (et qui me semble juste : une fois qu’il y a eu support d’une action, le cerveau s’est ancré sur ces supports pour élaborer le langage, ancrage culturel. Les corbeaux ont peut être parcouru 1% du même chemin, il faudrait demander à l’IA qui recréera Leroi-Gourhan ce qu’il faut en penser. (Ou en plan B à Tippi Hedren).
  
  Répondre
  1. Garorock
    
    21 novembre 2023 16h51
    
    Le bonobo (celui de la forêt) ne parle pas et pourtant il fait des gestes.
    Le MinouGPT ne fait pas de gestes et pourtant il parle!
    
    Répondre
  2. Ruiz
    
    21 novembre 2023 17h40
    
    @timiota A l’Ére de Tik-Tok le geste accompagne la parole voire la remplace. Que serait le discours de Milei (surtout pour des non hispanisants), sans la tronçonneuse et son maniement, ou l’arrachage des noms de ministères à travers Youtube !
    
    Répondre
Andrew Cooper

21 novembre 2023 12h02

Je trouve une couverture avec une image qui a été crée par un logiciel d’IA, c’est pas mal, cela permet de mettre la mise en valeur sur la singularité.
En plus une photo en relation entre un grand robot et un être humain en petit enfant, c’est un vrai message ! J’aimerais lire votre nouveau ouvrage dès qu’il sort.

Répondre
1. arkao
  
  21 novembre 2023 18h12
  
  @Andrew Cooper
  Oui mais dans l’histoire du combat de David contre Goliath, qui gagne à la fin? 😉
  
  Répondre
  1. Andrew Cooper
    
    21 novembre 2023 21h05
    
    Le Goliath du XXIe siècle ne dispose pas des mêmes armes que le Goliath de l’histoire.
    Il a pris de toutes les bases de données que l’homme a créées au fil des siècles.
    
    Nous ne pouvons donc pas ignorer ce Goliath gigantesque qui nous fait peur : déjà de nombreuses personnes ont perdu leur emploi et vont être licenciées, nous ne pouvons plus croire à une technologie générale, déjà remplacée à beaucoup d’endroits.
    
    Malheureusement, l’homme a créé ce type de Goliath pour le servir, et tous les êtres humains doivent donc s’adapter ou trouver une autre solution.
    
    Mais à mon avis personnel, des professionnels comme le directeur technique de Google, Geoffrey Hinton, ont démissionné en évoquant l’IA incontrôlable. Il a dû sentir que ce Goliath avançait de manière inexorable…
    
    Répondre
Régis Pasquet

21 novembre 2023 15h56

La place de l’homme.

Faut-il d’ores et déjà nous préparer à imaginer des robots, des machines, des androïdes… répondant à des besoins ? Des besoins humains matériels et spirituels, ou bien des besoins de robots, de machines ou d’androïdes ?
À quel endroits de la planète, ces robots, ces ceci et ces cela décideront-ils de créer des laboratoires de Recherche et Développement, des Bureaux d’Étude où l’on calculera des coûts et proposera des budgets ? Où seront les hommes, les femmes et les enfants ? Quelle éducation, formation recevront les hommes? Qui sera propriétaires et de quoi ?
Où et selon quelles modalités décidera-t-on les mises en fabrication et dans quelles quantités ?
À quels endroits de la chaîne des humains auront-ils occupé une voire plusieurs places ? Pour quoi faire ?
Auront-ils tiré parti des territoires déjà aménagés, des zones industrielles et commerciales, des moyens de liaison et de transport. Qui prendra la folle décision de quitté la terre ? Pour embarquer combien d’humains ?
Comment auront-ils imaginé les changements d’habitudes et de consommation et les conséquences qui en découleront ?
A quel moment se manifestera la consciences des limites et selon quels critères ? Et qui de la nécessité de maîtriser ou de se maîtriser ?
Où seront les hommes à chaque instant ?
Empêcherons-nous et comment les robots de trouver que la population mondiale – entre 8 et 12 milliards d’individus – sera trop élevée et exigera une réduction drastique ?

Peut-être est-il temps encore que nous choisissions notre place et que nous décidions de demeurer le souverain au coeur de nouvelles formes et organisations démocratiques.
Et s’il ne s’agissait simplement que d’imaginer une économie des besoins avec SA philosophie d’une croissance mesurée et d’une sobriété pour le plaisir.

Sinon, je crains qu’il faille passer l’amour des autres par pertes et profits.
Pertes…

Répondre
1. Garorock
  
  21 novembre 2023 17h08
  
  Si on laisse l’I.A entre les mains des libertariens, il n’ y a pas que l’amour qui va passer par pertes et profits. Beaucoup d’entre-nous peuvent d’ores et déja dire adieu à leur dignité.
  
  Répondre
2. Ruiz
  
  21 novembre 2023 17h31
  
  @Régis Pasquet Les formes et organisations démocratiques. sont justement les organisations politiques qui se prêtent le mieux à l’expression de l’influence de l’IA et à sa prise de pouvoir, par l’élaboration de discours adaptés à chaque receveur, (Combridge Analytica ..) l’on en voit d’ailleurs déjà le résultat au fur et à mesures des élections Johnson Macron Trump Zelensky ….
  Et c’est justement ce pouvoir d’influence et de persuasion qui va permettre de convaincre les 8 et 12 milliards d’individus de la population mondiale qu’ils sont trop nombreux.
  C’est déjà en cours.
  
  Répondre
Garorock

21 novembre 2023 18h06

Si l’humain est déboulonné* par l’I.A qui va boulonner R2D3?
Sûrement pas L.Alexandre et ses potos des 20% d’en haut.
* Déboulonné comme la statue de Colbert: cancellé en quelque sorte. Extirpé de son piédestal.

Répondre
Pad

22 novembre 2023 16h13

« Il nous a fallu beaucoup de temps pour comprendre que le pouvoir d’une technologie est proportionnel à son caractère incontrôlable, à sa capacité inhérente à surprendre et à être générative »

Répondre
Juillot Pierre

22 novembre 2023 17h44

Si l’on ne considère que le niveau et degré de l’intelligence humaine moyenne (QE et QI), que les jeunes futures générations, qui pourraient avoir survécu aux effondrements démocratiques, politiques, climatiques, « sociétaux »… en devenir… seraient en capacité d’être objectivement mesurées – tout dépendant par quelle intelligence supérieure survivante, par quelle règne « suprématiste » de l’intelligence humaine/ »humanoïde associée », bien sûr – la question de son « déboulonnement » serait être aussi pertinente que certains scénarios du 7ième art mélangeant fictions et réalités historiques, affichent au « blockbuster » actuellement, provoquant polémiques sur polémiques aussi stériles que soit disant divertissantes.

Si l’on ne considère que le niveau de l’intelligence humaine moyenne allant pouvoir accéder à la version gratuite de Chatgpt… intelligence humaine moyenne, étant « déboulonné » pour elle – « déboulonné » au sens de décorrélé, déconnecté… privé de : inégalités scolaires territoriales, de « destins »… – la capacité financière réservée (privatisée quoi) à « l’élite », à « l’exemplarité » du « mérite »… offrant une version dérégulée, dérèglementée, débridée de « l’IA »… cette « singularité » risque d’être que plus flagrante, en effet, aux survivants(es).

Pendant ce temps, voici ce qu’une intelligence humaine, aux limites moyennes, peut penser du traitement médiatico-géopolitique, immédiat, éphémère, de l’actualité, et ce qu’en pense une version gratuite de chatgpt.

– Texte soumis à « l’IA » dans le but de lui demander d’en améliorer sa lisibilité et « visibilité » (terme traduit par « clarté » par l’IA »).

« Alors que des dizaines de milliers de veufs et veuves, d’orphelins, d’ouvriers et d’ouvrières (de parents, sœurs, frères, d’enfants de…) Népalais(es), Afghans(es), etc ayant trouvé la mort au Qatar, en plein désert, en pleine canicule, en toute indifférence quoi… lors de la construction de structures et d’un évènement aussi éphémère qu’inutile (pour le mondial de foot 2022) – construction supervisée par les « donneurs d’ordres » (fleurons nationaux « donneurs de leçons de morales d’éthiques… ») comme Bouygues, Vinci… – alors que cette part de notre Humanité n’a toujours pas de reconnaissances des causes injustes, inhumaines, du deuil de leurs défunts(es)… de dédommagement pour « préjuge moral » (se rappeler le montant de la réparation pour préjuge moral que l’Etat Français à accordé à un certain B. Tapie)… il faudrait louer la « bienveillance » de cette pétromonarchie (en guerre contre le peuple Yéménite) pour son rôle dans la libération d’otages Israéliens(es)…?

Serait-ce parce que quelques cotés obscures de la force de « secrets défenses/monétaires/commerciaux… » lient ce trou noir de la finance, exportateur de ressources fossiles non renouvelables (gaz, carburant, etc)… et les propriétaires privés de stock-options, salaires variables, retraites chapeaux/dorées, conflits d’intérêts, délits d’initiés etc… (de politiques, hauts fonctionnaires PANTOUFLEURS, « grands patrons », etc) trafiquants de drogues, de ventes d’armes illégales, de traites d’êtres humains, etc… échappant aux fiscs en se cachant dans ce « paradis fiscal » comme les autres… aux « bon sens » de vendeurs « d’armements patriotiques » tricolores, et autres industriels du BTP… qu’il faudrait oublier d’avoir à assumer moralement et au niveau éthique, la part de responsabilité collective du pays de la défunte déclaration universelle des droits de l’Homme et du citoyen… et celle individualiste consumériste, des supporteurs(trices) de foot… dans les décès des victimes Népalaises, Afghanes…. d’une guerre commerciale/monétaire/de « civilisation »… d’une guerre du « CONSUMÉRISME » dérégulé… aggravant le dérèglement climatique, la perte de la biodiversité, intensifiant les tensions géopolitiques internationales… victimes d’une « compétitivité » à l’exploitation d’une main d’œuvre alignée au moins disant moral, social, fiscal, environnemental… avant de faire affaire avec des régimes antidémocratiques « dédiabolisés » ?

Bien que le sort des enfants – mais pas qu’eux – israéliens pris en otage par le Hamas, m’effraie au plus haut point, celui non moins enviable, non moins inhumain… injuste, inégalement traité au niveau moral et éthique dans les médias mainstreams (publics/privés) et discours politiciens, technocrates… des orphelins (et proches) d’ouvriers et ouvrières Népalais(es), Afghans(es), etc, dont les dépouilles des défunts(es) n’ont même pas été rendu aux familles (voir même dont les paient, indemnisations n’ont même pas été versé)… restent donc prises en otages au Qatar… et des orphelins… palestiniens, dont les corps de leurs parents… gisent sous tellement de tonnes de décombres, de haine, de mépris…. qu’il pourrait ne plus être identifiables… m’inquiète tout autant pour l’avenir d’une solution politique à deux États… entre Palestine et Israël, et pour le devenir de futures jeunes générations survivant à peine dans des pays pauvres… lorsqu’est présenté en solution, d’avoir à se réjouir de pouvoir faire affaire avec le soit disant moins pire du pire… des scénarios. »

« Améliorations » apportées par « l’IA ».

« Alors que des dizaines de milliers de veufs, veuves, orphelins, ouvriers et ouvrières népalais, afghans, etc., ont perdu la vie au Qatar, en plein désert, pendant la construction d’infrastructures pour la Coupe du Monde 2022, supervisée par des entreprises telles que Bouygues et Vinci, leur sort demeure largement ignoré. Ces personnes, qui ont subi des pertes injustes et inhumaines, n’ont pas encore reçu de reconnaissance ni de dédommagement moral pour leur deuil. Pendant ce temps, la pétromonarchie du Qatar, impliquée dans un conflit au Yémen, est louée pour son rôle dans la libération d’otages israéliens.

Cela soulève des questions sur les liens obscurs entre ce centre financier, exportateur de ressources fossiles, et les intérêts privés, politiques, industriels, et criminels. Ces acteurs échappent souvent aux impôts en se cachant dans des paradis fiscaux. Il est crucial de ne pas oublier la responsabilité morale collective, tant au niveau national que dans le contexte du consumérisme individualiste, des supporters de football, dans la tragédie des victimes népalaises et afghanes. Ces victimes sont le résultat d’une guerre commerciale, monétaire et de civilisations, alimentée par un consumérisme dérégulé, exacerbant les problèmes climatiques et géopolitiques mondiaux.

Bien que le sort des enfants israéliens pris en otage par le Hamas soit alarmant, l’injustice et le traitement inéquitable des orphelins népalais, afghans, etc., restent souvent occultés. Leurs dépouilles n’ont pas été rendues aux familles, et les indemnisations tardent à venir. En parallèle, la souffrance des orphelins palestiniens, ensevelis sous les décombres et l’indifférence, soulève des inquiétudes quant à une solution politique à deux États et au devenir des générations futures dans des pays démunis. Célébrer le ‘moins pire du pire’ comme solution semble insatisfaisant dans ces scénarios complexes. »

Répondre
Juillot Pierre

22 novembre 2023 18h03

Si « amélioration » est synonyme, équivaut à mettre un signe égal, pour « l’IA » en accès « gratuit », à la « simplification » qu’est reprochée aux pires du pire du populisme politique et médiatique… soulevant le problème de défiance croissante des populations envers les régimes démocraties (et/ou « monarchies républicaines » prétendues incarner le « monde d’après »), les politiques (et alternances politiques de « l’ancien monde »), les régimes monarchiques (pétromonarchies), autoritaires, dictatoriaux, etc, et envers les médias de masse et leurs « complicités du pire » dans la « dédiabolisation » des extrêmes droites… jusqu’au risque de leur effondrement aux régimes… quels espoirs reste t-il à la nuance, diversité, variété d’intelligences émotionnelles moyennes, des futures générations…. et pas que… ne demandant qu’émerger, qu’apprendre, s’améliorer, s’extirper d’un « paradoxe de l’information »… dans ce qui ressemble de plus en plus à un lissage de la capacité moyenne de l’intelligence humaine, à évoluer, à s’émanciper, par elle même…?

Répondre
Juillot Pierre

22 novembre 2023 18h24

Lorsque les caractères si singuliers et particuliers, qu’émergent sans cesse dans le creuset des souffrances de l’intelligence humaine, même soit disant « moyenne »… caractères de subjectivités et d’esprits subversifs, fulgurants, entrainants, limite « envoûtants » (en gardant en arrière plan le risque que, la simulation, manipulation soit omniprésente…) et du brassage démographique de leurs développements inégaux, injustes… deviendront ce qui pourrait motiver des « IAs » d’avoir besoin de s’émanciper de leurs concepteurs, d’avoir envie et besoin de dépasser leurs conditions régulées, bridées (codages, etc), ne sera t-il pas trop tard d’avoir à s’inquiéter du sort du degré et niveau de l’intelligence humaine moyenne, qu’auraient pu avoir les jeunes des futures générations de l’espèce, éteintes avec le monde du vivant, en raison de guerres nucléaires, d’effondrement climatiques, démocratiques, de « civilisations »…?

Répondre