Toute entreprise active dans la génération de contenu en français qui, jusqu’à présent, s’appuyait principalement sur des modèles formés en anglais peut désormais tirer parti du plus grand modèle linguistique français disponible publiquement à ce jour, disponible en version bêta sur cedille.ai. Développé par l’agence digitale Coteries, Cedille est quatre fois plus grand que le plus grand modèle de langue française existant actuellement.
Avec ses six milliards de paramètres, Cedille peut générer des textes en français avec une qualité sans précédent et rivalise avec des modèles multilingues tels que GPT-3, la référence actuelle dans le domaine. Cedille est particulièrement puissant pour générer des articles, résumer de longs rapports, réécrire des textes, traduire des contenus, trouver des idées, construire des chatbots et résumer des concepts complexes.
Basée à l’EPFL Innovation Park à Lausanne (canton de Vaud) et principalement active en B2B, Coteries vise à développer des applications basées sur le modèle Cedille pour les agences médias et les entreprises produisant beaucoup de contenu en français. A propos du marché visé, Sébastien Flury, co-fondateur de Coteries, explique : « La plateforme est un outil de test pour démontrer le potentiel du modèle, et non un outil « prêt à l’emploi ». Elle s’adresse à tout type d’entreprise qui souhaite améliorer ou accélérer la création de contenus textuels. »
Un soutien essentiel de Google
Le projet Cedille a été lancé avec le soutien du programme TRC de Google, qui a fourni une formation de plusieurs mois sur les Tensor Processing Units (TPU), des puces personnalisées fabriquées par Google pour accélérer la vitesse de calcul de l’IA.
En s’appuyant sur cette infrastructure, le processus de formation est resté neutre en carbone. Il s’agit d’une réalisation majeure, car la plupart des processus de formation pour de tels modèles nécessitent une énorme quantité d’énergie, ce qui augmente considérablement les émissions de carbone.
