Étiquette : superalignement

  • Purge chez OpenAI : Elon Musk, Nouvel Ordre Mondial altruiste, etc.

    Portrait de Sam Altman par Stable Diffusion (contenant un casse-tête pour dactylophiles) Vous vous souvenez sans doute de la révolution de palais ratée chez OpenAI le 17 novembre de l’année dernière quand le patron, Sam Altman, après avoir été renversé, avait été réintégré quelques jours plus tard, le 21, après avoir reçu le soutien de…

  • L’urgence à reconnaître la Singularité, par Cyril Touboulic

    Illustration par DALL·E (+Philip K. Dick) L’Avènement de la Singularité. L’humain ébranlé par l’intelligence artificielle est un ouvrage précieux dans la reconnaissance de la Singularité, ce moment où l’intelligence de la machine « explose ». En parcourant de nouveau les dates clés 1948 et 1956, marquées respectivement par la publication de l’article « Intelligent Machinery » d’Alan…

  • 14 mars 2023 : le jour où le genre humain fut assailli par le doute XI. Aligner les objectifs de l’IA et les nôtres

      Illustration par Stable Diffusion + Paul Gauguin (+PJ) « Se placer dans le sillage d’une créature plus intelligente que l’humain », sans doute, mais comment se sentir et demeurer en sécurité au sein d’un environnement en sachant que le cadre vous est pour une part, incompréhensible ? La question est celle, fameuse, de l’orang-outang qui n’entend rien…

  • Une colle : « L’orang-outang dont les gardiens font ce que lui veut »

    Illustration Stable Diffusion (+PJ) Dans un tweet, il y a 3 jours, Sam Altman, le patron d’OpenAI, la compagnie derrière ChatGPT, appelait cela « superalignement » : comment faire pour que les objectifs d’une Intelligence Artificielle restent alignés sur ceux d’êtres humains qui seraient éventuellement (tousse ! tousse !) beaucoup moins intelligents qu’elle ? a lot of…