Archives de catégorie : Réseaux neuronaux

Ce que j’ai fait depuis lundi, le 10 janvier 2020 – Retranscription

Retranscription de Ce que j’ai fait depuis lundi, le 10 janvier 2020. Ouvert aux commentaires.

Bonjour, nous sommes le vendredi 10 janvier 2020 et ayez l’amabilité de ne pas m’écrire pour me dire que j’ai mauvaise mine parce que j’AI mauvaise mine en effet et je suis au courant. J’ai eu la grippe. Je récupère mais je voulais quand même vous tenir un peu au courant.

D’abord, je voudrais m’excuser auprès des gens qui ont voulu m’entendre à Montpellier mercredi. Si j’étais allé en répondant aux insistances vraiment pressantes des personnes qui m’invitaient… Je leur disais : « Mais non, je suis malade », et je ne sais pas pourquoi, on m’a dit : « Ah non, on ne peut pas dire ça ! On va dire que c’est la grève des trains ». J’ai dit : « Non, moi, je vais mettre sur mon blog que j’étais malade et que je m’excuse. Vous ne pouvez pas, vous, de votre côté, dire que c’est la grève des trains ! » et alors, on m’a répondu quelque chose de très très curieux : « Non, non, on ne peut pas dire que vous étiez malade parce que c’est la première séance du cycle cette année ». Le rapport entre les deux ? Je ne sais pas. C’est peut-être plus particulièrement majestueux ou solennel, la première rentrée, et là, on ne peut pas faire qu’il n’y ait personne qui parle. Je crois que mon ami Roland Perez a improvisé, ce qui est très gentil de sa part.

Continuer la lecture de Ce que j’ai fait depuis lundi, le 10 janvier 2020 – Retranscription

Partager :

Que se passe-t-il vraiment dans un réseau neuronal ?

Ouvert aux commentaires.

C’est Naftali Tishby qui, à mon sens, comprend le mieux ce qui se passe dans un réseau neuronal (artificiel). Son image est parlante d’un réseau neuronal comme un pipeline fuyant abondamment à chacune de ses soudures, pour ne plus débiter qu’une seule goutte à l’arrivée. Le débit à l’entrée, ce sont tous les pixels d’une image, et la goutte à l’arrivée, c’est le bit qui dira si oui ou non, il s’agit bien de l’image d’un chien.

Dans ses vidéos, il fait allusion au fait que ses collègues sont très réservés quant à ses explications, voire tentent de le descendre en flammes. À mon avis, c’est parce ses explications les dépassent.

Ceci dit, bien qu’il ait défriché considérablement la question, il reste des choses à expliquer. Je voudrais constituer un petit groupe de scientifiques et autres mathématiciens appliqués pour qu’on aille de l’avant sur cette question. Vous pouvez m’écrire ici, mais nous pouvons aussi bien lancer le débat ici même, s’il y a suffisamment de lecteurs du blog que cela intéresse.

cf. mon billet Le deep learning en termes de théorie de l’information par Naftali Tishby, le 24 décembre 2017

et le billet de Marc Peltier De l’intelligence artificielle produite par des méthodes optiques (et quelques réflexions à ce sujet), le 6 août 2018

Partager :