Les entreprises devront sécuriser le « Shadow AI », les prédictions de Forrester Research

L’intelligence artificielle est la prochaine étape à bien négocier par les entreprises. Le « shadow AI »  monte en puissance, c’est-à-dire les IA amenées par les employés. Les entreprises doivent se préparer à sécuriser ces IA. C’est un des conseils du cabinet d’analystes Forrester Research pour 2024 qui décortique les enjeux liés à l’IA et à la Data.

Chacun amène ses propres IA pour son travail

Deux travailleurs sur trois (60%) utiliseront leur propre IA pour effectuer leur travail et leurs tâches. Les entreprises n’innoveront pas assez vite pour devancer l’utilisation généralisée par leurs employés des services d’IA grand public. Les entreprises devraient se concentrer sur l’élaboration d’une stratégie de gestion et de sécurisation du BYOAI (« Bring Your own AI ») dès maintenant, tout en développant des ressources d’IA officielles approuvées de manière interne. 

Dans le même temps, les budgets pour les plateformes d’IA sont à la hausse. Les dépenses vont croître de 36% par an jusqu’en 2030. Les Data Scientists, les Data ingénieurs, les développeurs d’applications et les experts métiers ont besoin d’outils pour canaliser les données, sélectionner et comparer des modèles d’IA Open Source et commerciaux, former, ajuster, recycler, déployer des modèles dans des applications, et les surveiller et les gouverner en termes d’efficacité et de biais.

De nombreuses équipes d’IA commencent par utiliser un mélange d’outils Open Source. Mais les entreprises ont besoin de solutions évolutives pour les capacités business critiques des plates-formes d’IA commerciales afin d’accélérer le déploiement.  Les décideurs technologiques devraient éviter la prolifération des outils d’IA tout en investissant dans une plate-forme d’IA qui fournit des outils de productivité pour l’ensemble du cycle de vie de l’IA, s’intègre aux meilleurs modèles et aux cadres (frameworks) Open Source.

Les modèles d’IA en Open Source séduisent les entreprises

Autre orientation à prendre en compte, le mouvement vers des modèles d’IA en Open Source. 85% des entreprises développeront de l’IA avec des modèles en Open Source. L’IA générative a explosé en 2022 sur le modèle propriétaire d’OpenAI. Cependant, les entreprises s’intéressent de plus près à la construction d’applications avec l’IA générative, et Forrester Research constate que beaucoup d’entre elles se tournent vers des modèles Open Source tels que GPT-J, BERT et FlanT5.

La tendance vers les modèles Open Source a accéléré avec la publication de familles de modèles portables telles que LLAMA2, ou une place de marché telle que HuggingFace et les investissements des entreprises dans ces initiatives. Cela ne signifie pas la fin des modèles propriétaires. Les modèles Open Source et propriétaires coexisteront dans de nombreuses entreprises, et même au sein de nombreuses applications, en fonction du goût du risque et des résultats commerciaux.

L’adoption de l’IA nécessite d’autre part une prise en compte de la réglementation. 40 % des entreprises investiront de manière proactive dans la gouvernance de l’IA à des fins de conformité réglementaire. Certaines entreprises insisteront encore davantage sur la conformité de l’IA à cause de l’adoption prochaine par l’UE de la nouvelle loi sur l’IA (AI Act), ainsi que de la volonté des régulateurs américains de produire des documents collatéraux sur l’IA et l’IA générative, et la récente réglementation chinoise sur l’IA générative.

Garder l’oeil sur un horizon réglementaire changeant

Si les entreprises n’investissent pas dans cette conformité, elles risquent de ne pas respecter les délais dans lesquels elles devront se mettre en conformité et vont devoir adapter leur gouvernance de l’IA, ce qui accroît la complexité, les coûts et les délais. Il faut garder l’œil sur un horizon réglementaire qui évolue constamment.

Autre évolution, on voit apparaître des postes de responsable de l’intelligence artificielle et de sa stratégie, les Chief Artificial Intelligence Officer (CAIO). Les entreprises cherchent à tenir la promesse de productivité de l’IA. Les CDO (Chief Data Officer) ne sont pas pour autant en voie d’extinction. Les données sont une ressource vitale et souvent sous-exploitée face aux problèmes de qualité, de gouvernance et d’accès. Désormais, il faudra accorder les patrons de l’IA et ceux des données.  

Sujet plus technique, l’adoption des bases de données vectorielles va tripler afin de soutenir les initiatives d’IA générative. Les organisations vont se tourner vers les bases de données vectorielles pour prendre en charge les recherches de similarité de texte, d’images et de documents. Les bases de données traditionnelles reposent principalement sur des correspondances exactes, alors qu’avec les bases de données vectorielles, on peut trouver des données similaires ou pertinentes en fonction du contexte, un besoin clé pour une sortie générative. Grâce à la représentation vectorielle, les LLM (Large Language Models ou grands modèles de langages) peuvent traiter rapidement de grands ensembles de données pour exécuter des analyses complexes.

Améliorer la qualité des données pour améliorer la précision de l’IA

Côté Data, moteur de l’IA, l’amélioration de la qualité des données améliorera de 20 % la précision des modèles d’intelligence artificielle et de Machine Learning (Apprentissage automatique). La précision repose en grande partie sur la qualité des données d’entraînement. L’amélioration de la qualité des données permet aux modèles d’apprentissage automatique d’identifier avec précision les modèles sous-jacents, améliorant ainsi la précision des prédictions.

Lorsque les organisations donnent la priorité à la qualité des données grâce à des mesures, des évaluations, une surveillance continue et des améliorations rigoureuses, elles améliorent non seulement la fiabilité des modèles, mais réduisent également le risque de conclusions biaisées ou erronées. Cette amélioration de la précision des modèles se traduit par des économies de coûts, de meilleurs résultats commerciaux et un avantage concurrentiel. Vieux cheval de bataille, il faut établir la responsabilité de la qualité des données au sein des équipes d’ingénierie et des équipes en charge de l’analyse des données, ainsi que des mesures d’amélioration claires.

Autre point clé, les données non structurées gérées par les entreprises doubleront en 2024. Pour l’heure, seulement 27 % des données gérées par les grandes entreprises sont non structurées. L’IA générative doublera ce chiffre à mesure que les entreprises déploieront des expériences plus conversationnelles pour les clients et les employés.

Les données non structurées priorité de 2024

Les entreprises se démèneront pour stocker, analyser et donner un sens à ce déluge de données non structurées. Cette tendance se manifestera dans l’espace des pipelines de données, où 80 % des nouveaux pipelines de données construits en 2024 seront destinés à l’ingestion, au traitement et au stockage de données non structurées.

Il faudra créer des infrastructures de données unifiées ad hoc. Forrester Research cite les plateformes de données unifiées tout-en-un telles que Lakehouse, Translytical et Data Fabric pour gérer les coûts, prendre en charge l’analyse de données multi-structurées et permettre des cas d’utilisation et des applications plus larges. D’autre part, 60 % des employés d’entreprise recevront une formation sur « l’ingénierie du prompt ou ingénierie de l’invite », ce mode d’interrogation de l’IA générative. Selon Forrester Research, entrer la bonne invite dans un outil d’IA générative fait la différence entre obtenir des réponses pertinentes ou obtenir des « absurdités cohérentes ».

L’IA est prévue pour améliorer la productivité future de tous les employés, les équipes devront continuer à investir dans des programmes de maîtrise des données et de l’IA pour parvenir à créer des « invites » réussies. Le service informatique doit développer des directives d’utilisation de l’IA (BYOAI) et des programmes de formation d’entreprise pour les employés afin de les aider à tirer le meilleur parti de l’IA générative de manière cohérente et en toute sécurité.

Un assureur prendra le risque d’assurer les hallucinations de l’IA générative

Enfin, toujours selon Forrester Research, un grand assureur proposera une police de protection spécifique contre les hallucinations générées par les IA. Les IA génératives créent des risques d’erreur,  ce que l’on appelle des hallucinations. Forrester estime que des assureurs d’avant-garde seront disposés à couvrir des risques uniques et difficiles à assurer comme les hallucinations. « Malgré les nombreux impacts inconnus des hallucinations de l’IA, nous prévoyons que l’assurance contre les hallucinations sera très lucrative en 2024 » annonce Forrester. Toutefois, il faudra lire les petits caractères afin de noter les exclusions de garanties, prévient le cabinet d’analystes.