Traitement du langage naturel : une alternative proposée par LightON

Laurent Daudet, CEO de LightON

LightOn, acteur européen de l’IA générative pour les entreprises, annonce proposer une version modernisée, économique et optimisée du modèle BERT pour le traitement automatique du langage naturel. BERT est l’acronyme de « Bidirectional Encoder Representations from Transformers« . C’est un modèle de langage développé par Google en 2018.

Une alternative aux LLMs comme GPT


LightOn propose ModernBERT issu de la collaboration avec Answer.AI. ModernBERT vise à repousser les limites du traitement et de la classification des données. L’usage de  ModernBERT est destiné aux pipelines RAG (Retrieval Augmented Generation), en devenant une alternative agile et efficace aux LLMs  (Large Language Models) comme GPT, selon LightOn.


LightOn annonce des performances élevées pour ModernBERT pour traiter des volumes étendus de données complexes. La sécurité est mise en avant avec une conception prévue pour s’intégrer dans les infrastructures des entreprises, et assurant la confidentialité et le contrôle des données. ModernBERT vise à améliorer le traitement des données et la valorisation des bases documentaires. ModernBERT est conçu pour répondre aux besoins des entreprises en matière de gestion de données dispersées dans des bases hétérogènes.



Un modèle entrainé sur le Cloud Orange


Selon LightON, ModernBERT présente des performances accrues et une latence réduite tout en optimisant les flux de travail internes et maîtrisant les coûts liés à l’utilisation des modèles de langage. ModernBERT a été entrainé sur l’infrastructure d’Orange Cloud Avenue dans le cadre du partenariat entre LightOn, Orange Business et HPE (Hewlett Packard Enterprise).



ModernBERT est conçu pour analyser des données volumineuses, incluant des documents complexes et du code. Il est destiné à être hébergé sur l’infrastructure des clients, pour un contrôle total des données dans des environnements sécurisés.

Une complémentarité avec l’IA générative pour des réponses contextualisées


ModernBERT est destiné à s’intégrer naturellement dans les pipelines de Retrieval Augmented Generation (RAG). Cette approche combine la recherche d’informations pertinentes et leur transmission à un modèle d’IA générative, afin d’obtenir des réponses contextualisées et précises. ModernBERT veut proposer une alternative performante et économique pour des cas d’usage à grande échelle en s’opposant aux modèles de langage de grande taille (LLM) comme GPT,  onéreux et gourmands en ressources.


LightOn a été fondé en 2016 à Paris et est une société de l’IA Générative cotée sur Euronext Growth. Sa plateforme Paradigm vise à permettre aux organisations de déployer des IA à grande échelle, tout en garantissant la confidentialité de leurs données. LightOn se propose pour traiter d’importants volumes de données pour des usages industriels, avec des applications dans des secteurs variés tels que la finance, l’industrie, la santé, la défense et les services publics.

Des experts techniques intervenant à distance chez Answer.ai


Answer.AI est un laboratoire de R&D en intelligence artificielle soutenu par des investisseurs, pour transformer les avancées technologiques en solutions concrètes et opérationnelles pour les utilisateurs. Opérant exclusivement à distance, l’entreprise rassemble une équipe d’experts techniques, sans contrainte de localisation ni de parcours académique. Son objectif : convertir les innovations en applications stratégiques, apportant une véritable valeur ajoutée aux utilisateurs finaux.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *