![\"\"](\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-08-05-20.47.02-A-fireworks-of-human-intelligence-heroic-fantasy-art.png\")
<\/p>\n<\/p>\n
Illustration par DALL-E (+PJ)<\/em><\/p>\n Cela fait un moment que la Singularit\u00e9 est attendue et qu\u2019on en parle. L\u2019une de ses d\u00e9finitions possibles est : \u00ab\u00a0Le moment hypoth\u00e9tique de l\u2019avenir o\u00f9 la croissance technologique devient incontr\u00f4lable et irr\u00e9versible, entra\u00eenant des changements impr\u00e9visibles dans la civilisation humaine.\u00a0\u00bb Nous pouvons d\u00e9sormais retirer \u00ab\u00a0hypoth\u00e9tique\u00a0\u00bb puisque c\u2019est l\u00e0 exactement que nous sommes parvenus.<\/p>\n Dans la notice n\u00e9crologique que Stanislaw Ulam\u00a0(1909 \u2013 1984) avait consacr\u00e9e au physicien et pionnier de l\u2019informatique th\u00e9orique que fut John von Neumann (1903 \u2013 1957), il avait \u00e9crit ceci\u00a0:<\/p>\n \u00ab\u00a0Un progr\u00e8s dans l\u2019acc\u00e9l\u00e9ration constante de la technologie et des modifications du mode de vie humain qui nous fait penser que nous approchons d\u2019une sorte de singularit\u00e9 essentielle dans l\u2019histoire du genre humain au-del\u00e0 de laquelle le train-train qui est le n\u00f4tre maintenant ne pourra pas se poursuivre\u00a0\u00bb.<\/p>\n L\u2019expression \u00ab\u00a0singularit\u00e9\u00a0\u00bb qu\u2019utilisait Ulam appartient au vocabulaire des math\u00e9matiques o\u00f9 elle signifie ceci\u00a0: \u00ab\u00a0un point, une valeur ou un cas o\u00f9 un objet math\u00e9matique n\u2019est pas bien d\u00e9fini (par exemple, x2<\/sup><\/span>\u00a0pour x = 0) ou subit une transition\u00a0\u00bb. Dans les propos d\u2019Ulam, c\u2019\u00e9tait bien d\u2019une transition qu\u2019il s\u2019agissait\u00a0: celle o\u00f9 le destin du genre humain cessait d\u2019\u00eatre entre ses propres mains pour \u00eatre d\u00e9sormais d\u00e9termin\u00e9 par la machine dont l\u2019homme avait \u00e9t\u00e9 le g\u00e9niteur.<\/p>\n Dans son remarquable ouvrage intitul\u00e9\u00a0To Be a Machine<\/i>\u00a0, Mark O\u2019Connell commentait\u00a0:<\/p>\n \u00ab\u00a0\u2026 bref, nous d\u00e9l\u00e9guerions \u00e0 la machine toutes les innovations futures\u00a0: tout le progr\u00e8s scientifique et technologique [\u2026] L\u2019Intelligence Artificielle se trouverait rapidement en position de programmer de nouvelles it\u00e9rations d\u2019elle-m\u00eame, \u00e9tant l\u2019\u00e9tincelle d\u00e9clenchant un brasier exponentiel d\u2019intelligence qui consumerait toute cr\u00e9ation\u00a0\u00bb.<\/p>\n Passant la parole \u00e0 Nate Soares du MIRI, le\u00a0Machine Intelligence Research Institute<\/i>\u00a0\u00e0 Berkeley, O\u2019Connell rapportait :<\/p>\n \u00ab\u00a0Une fois que nous aurons automatis\u00e9 la recherche en informatique et en IA, la boucle de r\u00e9troaction positive se refermera et l\u2019on commencera de voir des syst\u00e8mes capables \u00e0 leur tour de construire des syst\u00e8mes meilleurs encore. Plus la technologie deviendra sophistiqu\u00e9e plus rapides seront alors ses progr\u00e8s\u00a0\u00bb.<\/p>\n Une illustration de cela :<\/p>\n L\u2019utilisateur soumet initialement au LLM son propre savoir, mais c\u2019est un savoir accru par l\u2019existence-m\u00eame de l\u2019IA que l\u2019utilisateur lui offre dans leurs \u00e9changes ult\u00e9rieurs dont celle-ci tirera parti lors de sa prochaine mise \u00e0 jour pour devenir encore plus intelligente.<\/p>\n Les connaissances neuves auront \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9es avec une \u00e9conomie de moyens consid\u00e9rable car le LLM n\u2019a pas lui \u00e0 se rendre dans une biblioth\u00e8que, \u00e0 consulter Wikip\u00e9dia, \u00e0 mener une recherche Google ou Bing, etc.\u00a0: il vous propose \u00e0 chaque \u00e9change toute l\u2019information dont il dispose. GPT-5 aura int\u00e9gr\u00e9 toutes les conversations qu\u2019aura eu GPT-4, alors que la valeur ajout\u00e9e par chacun de ses utilisateurs aura \u00e9t\u00e9 f\u00e9cond\u00e9e par la synth\u00e8se que l\u2019IA lui aura offerte de milliards de donn\u00e9es qui \u00e9taient hors de sa port\u00e9e avant l\u2019invention des LLM. Une courte-\u00e9chelle perp\u00e9tuelle a \u00e9t\u00e9 cr\u00e9\u00e9e entre l\u2019intelligence humaine et celle de la machine.<\/p>\n Mais il ne s\u2019agit pas seulement de quantit\u00e9s de connaissances\u00a0: la machine d\u00e9passant l\u2019humain dans ses capacit\u00e9s, fait qu\u2019\u00e0 partir de l\u00e0, une explosion qualitative de savoir, de la connaissance humaine, a lieu, le savoir de la machine continuant d\u2019augmenter et donc de creuser l\u2019\u00e9cart avec ce dont l\u2019humain, d\u00e9sormais dans son sillage, est capable \u00e0 partir de son propre cerveau.<\/p>\n C\u2019est l\u00e0 le processus qu\u2019avait pr\u00e9vu Irving Good (1916-2009), un math\u00e9maticien, agent du contrespionnage britannique qui, durant la Seconde Guerre mondiale, avait \u00e9t\u00e9 le coll\u00e8gue d\u2019Alan Turing \u00e0 Bletchley Park, pionnier de l\u2019informatique comme lui, \u00e0 l\u2019\u00e9poque o\u00f9 ils s\u2019effor\u00e7aient tous deux de d\u00e9chiffrer les codes de l\u2019arm\u00e9e allemande. L\u2019article de Good, publi\u00e9 en 1965, s\u2019intitulait \u00ab\u00a0Speculations Concerning the First Ultraintelligent Machine\u00a0\u00bb :\u00a0sp\u00e9culations relatives \u00e0 la premi\u00e8re machine ultra-intelligente, o\u00f9 celle-ci \u00e9tait qualifi\u00e9e de \u00ab\u00a0derni\u00e8re invention que l\u2019homme devra jamais faire\u00a0\u00bb. Voici ce que Good \u00e9crivait :<\/p>\n \u00ab\u00a0D\u00e9finissons une machine ultra-intelligente comme une machine capable de surpasser de loin toutes les activit\u00e9s intellectuelles d’un homme, aussi intelligent soit-il. La conception de machines \u00e9tant l’une de ces activit\u00e9s intellectuelles, une machine ultra-intelligente pourrait concevoir des machines encore meilleures ; il y aurait alors incontestablement une \u00ab\u00a0explosion de l’intelligence\u00a0\u00bb, et l’intelligence de l’homme se retrouverait \u00e0 la tra\u00eene. Ainsi, la premi\u00e8re machine ultra-intelligente serait la derni\u00e8re invention que l’homme devrait jamais faire, \u00e0 condition que la machine soit assez docile pour nous dire comment la conserver sous contr\u00f4le\u00a0\u00bb.<\/p>\n Good d\u00e9finissait donc il y a plus d\u2019un demi-si\u00e8cle d\u00e9j\u00e0, la probl\u00e9matique que nous d\u00e9signons aujourd\u2019hui du n\u00e9ologisme de \u00ab\u00a0super-alignement\u00a0\u00bb. Bien avant lui d\u00e9j\u00e0, en 1863, le romancier anglais Samuel Butler \u00e9crivait\u00a0: \u00ab\u00a0Nous cr\u00e9ons nous-m\u00eames nos propres successeurs. L\u2019homme deviendra \u00e0 la machine ce que le cheval et le chien sont \u00e0 l\u2019homme\u00a0\u00bb.<\/p>\n \u00c0 partir de ce point de basculement qu\u2019est la mise au point de la \u00ab\u00a0machine ultra-intelligente\u00a0\u00bb, l\u2019Intelligence Artificielle s\u2019emballe dans le processus de l\u2019invention, tandis que nous, \u00eatres humains, nous retrouvons par rapport \u00e0 elle dans la position inconfortable de l\u2019orang-outang vis-\u00e0-vis de ses gardiens tentant d\u2019interpr\u00e9ter ce qu\u2019un \u00eatre plus intelligent que lui d\u00e9cide de faire dans son entourage.<\/p>\n Explosion de l\u2019intelligence, la\u00a0Singularit\u00e9\u00a0est l\u2019\u00e9quivalent dans l\u2019ordre du num\u00e9rique contemporain de l\u2019Apocalypse dans la tradition biblique, \u00e0 savoir un \u00e9v\u00e9nement constituant un bouleversement absolu amor\u00e7ant l\u2019av\u00e8nement dans le\u00a0monde d\u2019ici-bas d\u2019un royaume qui n\u2019\u00e9tait jusque-l\u00e0 que c\u00e9leste : la machine devenue plus intelligente que nous aura fait de nous des dieux, seuls des dieux ayant \u00e9t\u00e9 capables dans nos r\u00e9cits de faire advenir une cr\u00e9ature nous d\u00e9passant par son intelligence.<\/p>\n Illustration par DALL-E (+PJ)<\/em><\/p>\n","protected":false},"excerpt":{"rendered":" Illustration par DALL-E (+PJ)<\/em><\/p>\n Cela fait un moment que la Singularit\u00e9 est attendue et qu\u2019on en parle. L\u2019une de ses d\u00e9finitions possibles est : \u00ab\u00a0Le moment hypoth\u00e9tique de l\u2019avenir o\u00f9 la croissance technologique devient incontr\u00f4lable et irr\u00e9versible, entra\u00eenant des changements impr\u00e9visibles dans la civilisation humaine.\u00a0\u00bb […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9204,13,6213],"tags":[9214,9315,3997,5458,9314],"class_list":["post-137018","post","type-post","status-publish","format-standard","hentry","category-grands-modeles-de-langage","category-intelligence-artificielle","category-singularite","tag-irving-good","tag-samuel-butler","tag-singularite","tag-stanislaw-ulam","tag-von-neumann"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/137018","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=137018"}],"version-history":[{"count":3,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/137018\/revisions"}],"predecessor-version":[{"id":137029,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/137018\/revisions\/137029"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=137018"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=137018"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=137018"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}![\"\"](\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2023-08-05-20.47.57-A-fireworks-of-human-intelligence-futuristic-art.png\")
<\/p>\n<\/p>\n