Orange Business annonce une offre d’IA générative de bout en bout avec LightOn

Orange Business lance en France des solutions pour mener des projets d’IA générative de bout en bout et de confiance. Il revendique être le premier acteur de confiance couvrant l’intégralité du cycle de vie d’un projet d’IA générative. Ces offres s’appuient sur les solutions de LightOn, startup française proposant ses propres solutions d’IA générative. « En nous associant à des entreprises comme LightOn, nous renforçons notre engagement en matière de souveraineté des données » souligne Aliette Mousnier-Lompré, CEO d’Orange Business.

Depuis les serveurs GPU jusqu’au déploiement et la maintenance

Ces solutions vont de la couche infrastructure (IaaS) jusqu’aux applications (SaaS). Orange Business propose d’intervenir de l’idéation à la maintenance, en passant par le déploiement de l’IA et l’optimisation de sa valeur via des ateliers d’acculturation et d’idéation pour la définition des cas d’usage, la configuration, la programmation et les formations.

Les solutions sont proposées pour les entreprises de toutes tailles et de tous secteurs d’activité. Les solutions sont opérationnelles sur des serveurs et des GPU (Unités de Traitement Graphiques employées pour exécuter les algorithmes d’IA) hébergés dans les Data centers d’Orange en France, sur Cloud Avenue opérée et gérée par les équipes Orange Business.

Orange promet un contrôle total des données et une maîtrise des coûts, notamment pour les déploiements de grande ampleur. Les solutions sont construites avec Hewlett Packard Enterprise (HPE), spécialiste du Cloud hybride et partenaire stratégique d’Orange Business, qui fournit l’infrastructure matérielle à l’usage avec HPE GreenLake.

Une offre pour des entreprises de toutes les tailles

Orange Business délivre une offre SaaS clé en main d’IA générative avec LightOn. Cette offre SaaS est entièrement intégrée et destinée aux entreprises de toutes tailles, y compris les PME et les ETI. Les cas d’usage évoqués sont la gestion documentaire, le reporting, la génération de contenus, etc. LightOn est une startup française qui propose une solution complète incluant un moteur de type LLM (Large Language Model) et une interface métier intuitive qui doit rendre l’usage et l’optimisation extrêmement facile, y compris pour les non-experts.

Cette solution vise à être fortement adaptable au contexte de chaque organisation. Elle permet d’intégrer des bases documentaires spécifiques afin de développer des applications conversationnelles. « Les clients peuvent ainsi bénéficier de tout le potentiel de l’IA générative avec un très faible taux d’erreur » indique Orange Business. LightOn propose en effet une offre RAG (Retrieval Augmented Generation) de LLM (grand modèle de langage). Cette technique de génération augmentée de récupération (RAG) complète la génération de texte avec des informations provenant de sources de données privées ou propriétaires en interne à l’entreprise. Elle permet également de tracer comment une IA générative a conçu sa réponse et qu’elle puisse citer ses documents source.

LightOn a débuté sa trajectoire en tant que startup préparant un ordinateur photonique avant de basculer sur les LLM en 2021. Orange Business souligne qu’il gère l’offre entièrement afin de maîtriser la confidentialité et la sécurité des données. Orange Business propose une offre « GPU as a Service » pour l’entraînement et l’inférence. Cette offre s’adresse aux clients souhaitant disposer d’un contrôle total sur une infrastructure de confiance pour héberger tout type de projets d’IA générative. Orange Business commercialise alors des ressources matérielles dédiées (GPU) sur sa plateforme Cloud Avenue, sur lesquelles les entreprises pourront déployer leurs propres modèles de LLM avec le partenaire de leur choix.

Une offre de « GPU as a Service »

L’offre de « GPU as a Service » vise une personnalisation élevée. Elle cible l’entraînement, le paramétrage fin et la spécialisation de LLM, grâce à des serveurs équipés de GPU. L’infrastructure dédiée à l’entraînement est conçue pour entraîner des modèles ultra-complexes, très gourmands en puissance de calcul. Ce service est également destiné à l’inférence, pour les projets d’IA générative à grande échelle. Les clients pourront ainsi avoir accès à une infrastructure dédiée pour la mise en production et le déploiement de leurs modèles auprès d’un grand nombre d’utilisateurs.