question answering et deep learning pour du language understanding

Ce soir nous aurons deux speakers. Le speaker principal, Yannis Flet-Berliac, parlera de question answering et deep learning. En plus, nous aurons une présentation plus courte (détails à venir) par un ingénieur chez Vente-Privée, société parisienne qui ouvre bientôt un centre à Nantes.

Titre:

Le question answering et deep learning pour du language understanding.

Résumé:

Le « question answering » est assez générique pour couvrir un certain nombre des tâches de NLP (compréhension de texte, machine translation, topic modeling, etc.) et le deep learning a apporté des avancées spectaculaires dans la modélisation du langage. Après avoir rappelé les piliers fondateurs de la modélisation séquentielle par réseaux de neurones (RNN), nous parcourrons certaines des avancées dans le domaine de question answering et plongerons en détail dans les architectures des modèles les plus intéressants pour comprendre leur efficacité.

Bio :

Diplômé de l’ECN et de la DTU au Danemark, les premiers projets de machine learning de Yannis Flet-Berliac datent d’il y a deux ans avec, pour commencer, un système de recommandation pour traducteurs de textes professionnels et du seq2seq machine translation lors d’un emploi chez EasyTranslate. Yannis a ensuite croisé les pas d’une startup danoise (Corti) pour laquelle il a travaillé sur un modèle de reconnaissance vocale faisant appel au deep learning (et à la fonction CTC). Aujourd’hui, il finit un projet de research assistant pour DTU et une autre startup (Soply), où il travaille sur des modèles de reconnaissance d’images. Son projet de master thesis portait sur le NLP et le question answering.

Lecture:

M. Seo et al., “Query-Reduction Networks for Question Answering”, June 2016. ( https://arxiv.org/pdf/1606.04582.pdf )

M. Henaff, Y. LeCun et al., “Tracking the world state with recurrent entity networks”, 2016. ( https://arxiv.org/pdf/1612.03969.pdf )

A. Kumar et al., “Ask me anything: Dynamic memory networks for natural language processing”, International Conference on Machine Learning, pp. 1378–1387, 2016. ( https://arxiv.org/pdf/1506.07285.pdf )

S. Sukhbaatar, J. Weston et al., “End-to-end memory networks”, Advances in neural information processing systems, pp. 2440–2448, 2015. ( https://arxiv.org/pdf/1503.08895.pdf )