GalsenAI

L'avènement de ChatGPT a jeté la lumière sur les modèles linguistiques à grande échelle ou Large Language Models (LLMs) qui sont entrain de complètement redéfinir le marché de l'IA. Les cas d'usage liés à l'IA générative abondent et le métier de Data Scientist qui subissait déjà une profonde transformation tirée vers la spécialisation s'en voit impacté de nouveau. Tout le monde souhaite sa propre adaptation de ces LLMs pour ses propres besoins et la nécessité de monter en compétence sur ces questions se fait de plus en plus sentir. Cette vague se fait déjà sentir depuis la Bay Area et commence à ruisseler petit à petit vers nous.

Le Retrieval Augmented Generation (RAG) et le Fine-Tuning sont aujourd'hui les deux approches phares pour l'adaptation de ces LLMs. Après une première séance d'anthologie autour des RAGs, nous revenons avec une nouvelle opportunité de plonger dans le monde fascinant des LLMs avec un Workshop autour du Fine Tuning de Mistral 7B avec QLoRA sur Google Colab.

Nous dévoilerons des techniques de pointe pour affiner Mistral 7B, un modèle de langage avancé, en utilisant QLoRA – une méthode pour l'optimisation des requêtes – et ce, en exploitant la puissance de Google Colab dans sa version gratuite.

Ce que vous allez apprendre :

• Charger et préparer un dataset open source de HuggingFace ;
• Mettre en œuvre la technique QLoRA pour un fine-tuning efficace ;
• Des astuces pour maximiser les performances sur la version gratuite de Google Colab.

Pré-requis:

• Un niveau de programmation intermédiaire en PyThon ;
• Une certaine familiarité avec les notions de Deep Learning (loss, epoch, optimizer, etc...).
• Une première expérience avec la librairie HuggingFace serait un plus.

📅 Date : Samedi 27 Avril 2024
🕞 Heure : À partir de 15:30 GMT
📍 Lieu : Impact Hub Dakar Cité Keur Gorgui à côté du magasin Auchan

Préparez-vous pour une session interactive pleine d'apprentissage et de networking. Que vous soyez un expert ou que vous fassiez vos premiers pas dans l'IA, cet atelier est la plateforme parfaite pour élargir vos compétences et rencontrer des esprits similaires.

Nombre de places très limité – Réservez la vôtre place dès maintenant !

Nous avons hâte de vous voir parmi nous et de bâtir ensemble l'avenir de l'Intelligence Artificielle au Sénégal et en Afrique 💪