Selon certaines sources, des chercheurs d’OpenAI ont pr\u00e9venu le conseil d’administration de la perc\u00e9e de l’IA avant l’\u00e9viction du P-DG,\u00a0<\/strong>
\nPar Anna Tong, Jeffrey Dastin et Krystal Hu<\/p>\n22 novembre (Reuters) – Avant les quatre jours d’exil du P-DG d’OpenAI, Sam Altman, plusieurs chercheurs de l’entreprise ont \u00e9crit une lettre au conseil d’administration pour l’avertir d’une puissante d\u00e9couverte en mati\u00e8re d’intelligence artificielle qui, selon eux, pourrait menacer l’humanit\u00e9, ont d\u00e9clar\u00e9 \u00e0 Reuters deux personnes au fait de l’affaire.<\/p>\n
La lettre et l’algorithme d’intelligence artificielle, qui n’avaient pas \u00e9t\u00e9 signal\u00e9s auparavant, ont \u00e9t\u00e9 des \u00e9l\u00e9ments cl\u00e9s avant l’\u00e9viction par le conseil d’administration de M. Altman, la t\u00eate d’affiche de l’intelligence artificielle g\u00e9n\u00e9rative, ont d\u00e9clar\u00e9 les deux sources. Avant son retour triomphal mardi, plus de 700 employ\u00e9s avaient menac\u00e9 de d\u00e9missionner et de rejoindre Microsoft en solidarit\u00e9 avec leur chef licenci\u00e9.<\/p>\n
Les sources ont cit\u00e9 la lettre comme l’un des facteurs d’une longue liste de griefs formul\u00e9s par le conseil d’administration qui ont conduit au licenciement de M. Altman, parmi lesquels des pr\u00e9occupations concernant la commercialisation des avanc\u00e9es avant d’en comprendre les cons\u00e9quences. Reuters n’a pas \u00e9t\u00e9 en mesure d’examiner une copie de la lettre. Le personnel qui a r\u00e9dig\u00e9 la lettre n’a pas r\u00e9pondu aux demandes de commentaires.<\/p>\n
Apr\u00e8s avoir \u00e9t\u00e9 contact\u00e9e par Reuters, la soci\u00e9t\u00e9 OpenAI, qui s’est refus\u00e9e \u00e0 tout commentaire, a reconnu dans un message interne adress\u00e9 aux membres du personnel l’existence d’un projet appel\u00e9 Q* et d’une lettre adress\u00e9e au conseil d’administration avant les \u00e9v\u00e9nements du week-end, a d\u00e9clar\u00e9 l’une des personnes concern\u00e9es. Un porte-parole d’OpenAI a d\u00e9clar\u00e9 que le message, envoy\u00e9 par Mira Murati, cadre de longue date, alertait le personnel sur certains articles de presse sans en commenter l’exactitude.<\/p>\n
Certaines personnes chez OpenAI pensent que Q* (prononc\u00e9 Q-Star) pourrait \u00eatre une perc\u00e9e dans la recherche de ce que l’on appelle l’intelligence artificielle g\u00e9n\u00e9raliste (AIG), a d\u00e9clar\u00e9 l’une d’entre elles \u00e0 Reuters. OpenAI d\u00e9finit l’AIG comme des syst\u00e8mes autonomes qui surpassent les humains dans la plupart des t\u00e2ches \u00e0 valeur \u00e9conomique.<\/p>\n
Avec de vastes ressources informatiques, le nouveau mod\u00e8le a pu r\u00e9soudre certains probl\u00e8mes math\u00e9matiques a d\u00e9clar\u00e9 cette personne sous couvert d’anonymat car elle n’\u00e9tait pas autoris\u00e9e \u00e0 parler au nom de l’entreprise. Bien qu’il n’atteigne que le niveau des \u00e9l\u00e8ves de l’\u00e9cole primaire, le fait de r\u00e9ussir de tels tests a rendu les chercheurs tr\u00e8s optimistes quant au succ\u00e8s futur de Q*, a d\u00e9clar\u00e9 la source.<\/p>\n
Reuters n’a pas pu v\u00e9rifier de mani\u00e8re ind\u00e9pendante les capacit\u00e9s de Q* annonc\u00e9es par les chercheurs.<\/p>\n
Les chercheurs consid\u00e8rent les math\u00e9matiques comme l’une des pierres angulaires du d\u00e9veloppement de l’IA g\u00e9n\u00e9rative. Actuellement, l’IA g\u00e9n\u00e9rative est efficace pour l’\u00e9criture et la traduction des langues en pr\u00e9disant statistiquement le mot suivant, et les r\u00e9ponses \u00e0 une m\u00eame question peuvent varier consid\u00e9rablement. Mais conqu\u00e9rir la capacit\u00e9 de faire des math\u00e9matiques – o\u00f9 il n’y a qu’une seule bonne r\u00e9ponse – implique que l’IA aurait des capacit\u00e9s de raisonnement plus grandes, proches de l’intelligence humaine. Selon les chercheurs en IA, cela pourrait s’appliquer \u00e0 de nouvelles recherches scientifiques, par exemple.<\/p>\n
Contrairement \u00e0 une calculatrice qui ne peut r\u00e9soudre qu’un nombre limit\u00e9 d’op\u00e9rations, l’IA peut g\u00e9n\u00e9raliser, apprendre et comprendre.<\/p>\n
Dans leur lettre au conseil d’administration, les chercheurs ont soulign\u00e9 les prouesses de l’IA et les dangers potentiels, ont indiqu\u00e9 les sources, sans pr\u00e9ciser les probl\u00e8mes de s\u00e9curit\u00e9 exacts mentionn\u00e9s dans la lettre. Les informaticiens d\u00e9battent depuis longtemps du danger que repr\u00e9sentent les machines hautement intelligentes, par exemple si elles peuvent d\u00e9cider que la destruction de l’humanit\u00e9 est dans leur int\u00e9r\u00eat.<\/p>\n
Les chercheurs ont \u00e9galement signal\u00e9 les travaux d’une \u00e9quipe de \u00ab\u00a0scientifiques de l’IA\u00a0\u00bb, dont l’existence a \u00e9t\u00e9 confirm\u00e9e par plusieurs sources. Ce groupe, issu de la fusion des \u00e9quipes \u00ab\u00a0Code Gen\u00a0\u00bb et \u00ab\u00a0Math Gen\u00a0\u00bb, \u00e9tudiait les moyens d’optimiser les mod\u00e8les d’IA existants afin d’am\u00e9liorer leur raisonnement et, \u00e0 terme, d’effectuer des travaux scientifiques, a indiqu\u00e9 l’une des personnes interrog\u00e9es.<\/p>\n
M. Altman a dirig\u00e9 les efforts visant \u00e0 faire de ChatGPT l’une des applications logicielles \u00e0 la croissance la plus rapide de l’histoire et a attir\u00e9 les investissements – et les ressources informatiques – n\u00e9cessaires de la part de Microsoft pour se rapprocher de l’IAG.<\/p>\n
Outre l’annonce d’une s\u00e9rie de nouveaux outils lors d’une d\u00e9monstration ce mois-ci, M. Altman a laiss\u00e9 entendre la semaine derni\u00e8re, lors d’un sommet de dirigeants mondiaux \u00e0 San Francisco, qu’il pensait que des avanc\u00e9es majeures \u00e9taient en vue. \u00ab\u00a0Quatre fois dans l’histoire d’OpenAI, la derni\u00e8re fois au cours des deux derni\u00e8res semaines, j’ai eu l’occasion d’\u00eatre pr\u00e9sent lorsque nous repoussons le voile de l’ignorance et la fronti\u00e8re de la d\u00e9couverte, et c’est l’honneur professionnel d’une vie\u00a0\u00bb, a-t-il d\u00e9clar\u00e9 lors du sommet de l’Organisation de coop\u00e9ration \u00e9conomique Asie-Pacifique (APEC).<\/p>\n
Un jour plus tard, le conseil d’administration licenciait M. Altman.<\/p><\/blockquote>\n
Tout cela para\u00eet cependant assez innocent, \u00e0 ceci pr\u00e8s que, traduit en bon fran\u00e7ais, cela signifie, par exemple, la capacit\u00e9 pour les nouvelles IA de d\u00e9crypter en un temps limit\u00e9 un texte jusque-l\u00e0 ind\u00e9chiffrable, au sens o\u00f9 le d\u00e9cryptage aurait pris un nombre quasi-infini de temps-machine<\/strong>.<\/p>\nD’excellentes explications ici :<\/p>\n
![\"\"](\"https:\/\/www.pauljorion.com\/blog\/wp-content\/uploads\/Q-star-3-1024x553.png\")
<\/p>\n