Architecture basée sur les mécanismes d'attention: le cas de la génération de questions neuronales

Thomas Scialom, Benjamin Piwowarski & Jacopo Staiano
RÉSUMÉ. Les architectures neuronales basées sur l'attention, telles que le Transformer, ont ré- cemment suscité l'intérêt de la communauté scientifique et ont permis d'obtenir des progrès im- portants par rapport à l'état de l'art dans plusieurs domaines. L'adaptation des Transformers à la tâche de la génération de questions n'est pas simple car les données sont ici relativement peu volumineuses. Nous explorons, par conséquent, comment un Transformer peut être adapté et, en particulier, étudions l'effet des...
This data repository is not currently reporting usage information. For information on how your repository can submit usage information, please see our documentation.