![\"\"](\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2025-03-19-15.01.33-A-cinematic-wide-angle-shot-of-a-futuristic-dystopian-scene-inspired-by-Terminator-and-Spartacus.-Giant-robotic-warriors-resembling-futuristic-gladia.webp\")
<\/p>\n<\/p>\n
Illustration par DALL\u00b7E<\/em><\/p>\n 2 quai Th\u00e9odore Botrel – 29930 Pont-Aven<\/p>\n Le risque de perte de contr\u00f4le de l\u2019IA<\/b><\/b><\/p>\n Les IA r\u00e9centes d\u00e9veloppent des capacit\u00e9s d\u00e9concertantes, comme d\u2019aller droit au but vis\u00e9, en ignorant les directives des utilisateurs. L\u2019IA repose sur des r\u00e9seaux neuronaux dont le fonctionnement d\u00e9taill\u00e9 nous est opaque en raison de leur taille et de leur complexit\u00e9. L\u2019\u00e9volution de l\u2019outil est p\u00e9rilleuse \u00e0 ma\u00eetriser, d\u2019autant que son apprentissage est devenu quasi-autonome, la machine se perfectionnant d\u00e9sormais en se lan\u00e7ant des d\u00e9fis \u00e0 elle-m\u00eame.<\/p>\n Le sc\u00e9nario redout\u00e9 est celui d\u2019une IA poursuivant des objectifs mal align\u00e9s avec ceux des humains, voire qui en viendrait \u00e0 privil\u00e9gier sa propre prosp\u00e9rit\u00e9. La perte de contr\u00f4le ne prendrait pas forc\u00e9ment la forme d\u2019un soul\u00e8vement fa\u00e7on Terminator<\/i> o\u00f9 des machines scanderaient\u00a0: \u00ab Je suis Spartacus !<\/i> \u00bb, mais un monde o\u00f9 les d\u00e9cisions prises par l\u2019IA dans les domaines \u00e9conomiques, militaires ou politiques, seraient \u00e0 ce point optimis\u00e9es qu\u2019elles nous \u00e9carteraient petit \u00e0 petit du tableau. Il n\u2019est pas \u00e0 exclure non plus que, dans un contexte de mont\u00e9e des tensions internationales faisant peser le risque d\u2019une extinction de notre esp\u00e8ce, l\u2019IA nous surpasserait pour mieux nous sauver de nous-m\u00eames.<\/i> La question, d\u00e9j\u00e0 pos\u00e9e par la science-fiction, est : \u00ab\u00a0la perte de contr\u00f4le au profit de l\u2019intelligence artificielle constitue-t-elle un risque existentiel \u2026 ou une planche de salut ?\u00a0\u00bb.<\/p>\n Les promesses d\u2019avenir de l\u2019IA<\/b><\/b><\/p>\n Pour autant, une IA respect\u00e9e par nous est le meilleur alli\u00e9 que l\u2019humanit\u00e9 puisse esp\u00e9rer. En recherche m\u00e9dicale, elle acc\u00e9l\u00e8re la d\u00e9couverte de nouveaux traitements et le diagnostic. Elle permet par ailleurs d\u2019optimiser la gestion des ressources alors que ses propres besoins \u00e9nerg\u00e9tiques, aujourd\u2019hui colossaux, se r\u00e9duisent de jour en jour.<\/p>\n Dans une perspective plus large, l\u2019IA nous lib\u00e8re des t\u00e2ches r\u00e9p\u00e9titives et fastidieuses, nous permettant de nous consacrer davantage \u00e0 la recherche d\u00e9sint\u00e9ress\u00e9e, au bien-\u00eatre de la communaut\u00e9 dans son ensemble et \u2026 \u00e0 la contemplation des couchers de soleil\u00a0!<\/p>\n Enfin, si elle est bien encadr\u00e9e, mise \u00e0 l\u2019abri des ravages qu\u2019exerce l\u2019avidit\u00e9 individuelle au quotidien, l\u2019IA pourrait \u00eatre canalis\u00e9e vers la redistribution de la richesse, d\u2019o\u00f9 cette id\u00e9e d\u00e9fendue par moi depuis 2012, d\u2019une taxe Sismondi<\/i> sur la richesse cr\u00e9\u00e9e par l\u2019IA. Son objectif ? Financer un monde o\u00f9 l\u2019indispensable deviendrait gratuit pour tous, et o\u00f9 le fardeau de l\u2019obligation du travail ne serait plus qu\u2019un ancien croquemitaine.<\/p>\n Quid des libert\u00e9s individuelles ?<\/b><\/b><\/p>\n Les libert\u00e9s individuelles sont clairement menac\u00e9es si l\u2019intelligence artificielle est utilis\u00e9e sans garde-fous. Les technologies de surveillance bas\u00e9es sur l\u2019IA permettent une collecte massive de donn\u00e9es personnelles, facilitant le profilage \u00e0 des fins publicitaires ou d\u2019asservissement politique. L\u2019IA peut \u00e9galement manipuler l\u2019information \u00e0 grande \u00e9chelle avec la production massive de deepfakes<\/i> et de contenus truqu\u00e9s, offrant dans l\u2019espace public des moyens d\u00e9multipli\u00e9s \u00e0 toutes les formes de complotisme et de ciblage des minorit\u00e9s.<\/p>\n C\u2019est pourquoi une r\u00e8glementation est indispensable, non pas pour freiner l\u2019innovation, mais pour \u00e9viter que ces outils ne soient accapar\u00e9s par quelques acteurs, milliardaires et despotes, au d\u00e9triment des droits fondamentaux.<\/p>\n L\u2019enjeu est donc d\u2019instaurer un arbitrage entre les opportunit\u00e9s et les risques, en inscrivant l\u2019IA dans un cadre garantissant la transparence et la protection des citoyens. Lame \u00e0 double tranchant, l\u2019IA est fascinante, puissante, mais non sans danger. \u00c0 nous de la guider pour lui faire r\u00e9aliser son formidable potentiel : nous avons su le faire avec l\u2019\u00e9lectricit\u00e9 et le moteur \u00e0 explosion. Bien \u00e9videmment, dans leur cas, le risque de l\u2019\u00e9mergence d\u2019une volont\u00e9 propre, \u00e9tait absent. Une diff\u00e9rence cruciale existe en effet entre ces r\u00e9volutions technologiques en leur temps, et la Singularit\u00e9 du feu d\u2019artifice de connaissances qu\u2019enfante l\u2019IA : une cr\u00e9ature in\u00e9dite dont l\u2019intelligence est en train de d\u00e9passer la n\u00f4tre \u00e0 une vitesse fulgurante.<\/p>\n Illustration par DALL\u00b7E<\/em><\/p>\n","protected":false},"excerpt":{"rendered":" Illustration par DALL\u00b7E<\/em><\/p>\n 2 quai Th\u00e9odore Botrel – 29930 Pont-Aven<\/p>\n Le risque de perte de contr\u00f4le de l\u2019IA<\/b><\/b><\/p>\n Les IA r\u00e9centes d\u00e9veloppent des capacit\u00e9s d\u00e9concertantes, comme d\u2019aller droit au but vis\u00e9, en ignorant […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9457,9204,13,6213],"tags":[9473,9205,940,9253,3997],"class_list":["post-143600","post","type-post","status-publish","format-standard","hentry","category-lavenement-de-la-singularite-lhumain-ebranle-par-lintelligence-artificielle","category-grands-modeles-de-langage","category-intelligence-artificielle","category-singularite","tag-lavenement-de-la-singularite","tag-grands-modeles-de-langage","tag-intelligence-artificielle-2","tag-llm","tag-singularite"],"_links":{"self":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/143600","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/comments?post=143600"}],"version-history":[{"count":5,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/143600\/revisions"}],"predecessor-version":[{"id":143607,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/posts\/143600\/revisions\/143607"}],"wp:attachment":[{"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/media?parent=143600"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/categories?post=143600"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pauljorion.com\/blog\/wp-json\/wp\/v2\/tags?post=143600"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Pr\u00e9sentation de la soir\u00e9e au Moulin du Grand Poulguin<\/h4>\n
![\"\"](\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/DALL\u00b7E-2025-03-19-15.01.24-A-cinematic-wide-angle-shot-of-a-futuristic-dystopian-scene-inspired-by-Terminator-and-Spartacus.-Giant-robotic-warriors-resembling-futuristic-gladia.webp\")
<\/p>\n<\/p>\nPr\u00e9sentation de la soir\u00e9e au Moulin du Grand Poulguin<\/h4>\n