L’Arcom attentif à l’impact de l’IA sur l’audiovisuel et la communication numérique

L’Autorité de régulation de la communication audiovisuelle et numérique (Arcom) entend être prête face aux usages de l’intelligence artificielle, et en particulier de l’IA générative dans les médias, l’audiovisuel et la communication numérique qu’il s’agisse de la création de contenus ou d’information.

Assurer l’équilibre entre la liberté et la protection

Face à l’IA, Roch-Olivier Maistre, Président de l’Arcom déclare souhaiter appliquer une régulation inspirée par l’audiovisuel, c’est-à-dire d’assurer l’équilibre entre garantir une liberté publique fondamentale et assurer la protection du public même s’il reconnaît que l’on ne peut pas réguler les plateformes numériques comme l’audiovisuel. En ce qui concerne la régulation de l’IA, il souligne la nécessité de garder une information honnête, de protéger les auteurs et de favoriser la confiance par des pratiques éthiques dans une logique de transparence.

Au-delà, le Président de l’Arcom veut mettre la technologie de l’IA au service des métiers de régulation de l’Arcom. On pense alors à la mesure des temps de parole par exemple sur les différentes antennes TV. Cette mission a été confiée au DG de l’Arcom, Alban de Nervaux. Elle en est aux pistes actuellement, selon Roch-Olivier Maistre. « Ces outils peuvent rendre nos tâches plus simples, faciliter notre action » pense-t-il.

Dans le cadre d’une mission IA lancée fin 2023, l’Arcom a listé les impacts de l’IA à la fois dans ce qu’elle appelle les médias éditorialisés (audio, vidéo, presse) et les médias algorithmiques (les grandes plateformes en ligne). L’Arcom met en exergue un nouveau type de média, les médias du 3^ème type également appelés les médias synthétiques qui sont des services qui s’appuient sur l’intelligence artificielle générative afin de créer des contenus de toute nature, et générer des articles, des livres, des programmes audio ou vidéo pour les proposer sur des sites internet dédiés ou des plateformes en ligne.

« Sur les médias éditorialisés, ce sont bien des personnes qui créent les contenus sous la responsabilité d’un éditeur. A l’inverse, les médias algorithmiques ne produisent pas le contenu qu’ils diffusent qui est généré par les utilisateurs. Les médias synthétiques génèrent bien leurs propres contenus, plus ou moins originaux, mais de manière principalement voire entièrement algorithmique » explique-t-on côté Arcom. « C’est à dire que cela ressemble à un média éditorialisé mais ils n’ont ni auteurs ni journalistes« .

Les résultats de la mission IA ont été présentés à  l’occasion d’un événement organisé le 14 octobre par l’Arcom dans ses locaux, à Paris 15^ème. A ce stade, cette mission IA présente un diagnostic décrit comme plutôt rassurant pour la France, essentiellement à cause d’un usage bienveillant de ces technologies dans l’hexagone, grâce « à des comportements responsables et à l’existence d’un cadre réglementaire ».

La mission IA confiante face à des acteurs français responsables

La mission IA souligne que des usages marginaux de l’IA tels que l’écriture de scénarios occupent la une des médias et créent des controverses en comparaison de la catégorisation automatique de contenus effectuée par IA qui ne déclenche pas d’agitation. De même, la création de vidéo est encore expérimentale, par rapport aux sous titrages d’émissions. La mission IA de l’Arcom se montre confiante et considère que « les principaux acteurs français de l’information et de la création adoptent une attitude plutôt rassurante et responsable vis-à-vis de l’IA ».

La mission IA estime cependant qu’il y a un besoin d’accompagnement et de formation pour éviter les décrochages de certains acteurs par rapport à ceux qui peuvent utiliser abusivement ces nouvelles technologies d’IA pour créer des contenus. Il faut préserver les emplois et les savoir-faire essentiels. Cela nécessite une vigilance accrue de la part de l’Arcom.

La mission IA constate que des ayants droits sur des contenus employés pour l’entraînement des IA veulent un système d’opt-out. L’Arcom souligne que la reconnaissance des contenus d’origine dans un résultat produit par une IA est très importante ainsi que le respect des droits d’auteurs. La mission IA de l’Arcom s’inquiète que les médias synthétiques puissent phagocyter des médias originaux car si reproduire des contenus existant est très ancien, il se fait que l’IA générative réalise cela à une grande échelle. Dès lors, la mission IA propose de mesurer l’impact de ces médias synthétiques sur les plans économiques et sur les revenus publicitaires. A noter que les moteurs de recherche sur internet évoluent vers cette production de contenus à la place du simple affichage de liens URL vers des sites.

Difficile de faire respecter le système d’opt-out des ayants droits

L’intervention lors du même événement, d’Alexandra Bensamoun, professeure de droit à l’université de Paris Saclay et membre de la Commission interministérielle de l’IA créée par Elisabeth Borne, alors première ministre, a douché les partisans du respect de leurs droits. Elle avertit sur le fait que le système d’opt-out, c’est-à-dire la manifestation de la volonté d’interdire par un auteur l’usage de ses contenus, est plutôt difficile à faire respecter et que des robots contournent cet opt-out et captent les contenus malgré tout afin d’aller nourrir les algorithmes d’IA générative.

D’autant plus, qu’à écouter Alexandra Bensamoun, on comprend que la législation sur le sujet est plutôt alambiquée et peut permettre des interprétations diverses en matière de captation libre et massive de contenus sur internet pour les robots américains.  Cette difficulté à faire respecter les droits des auteurs est illustrée par David El Sayeg, DGA de la Sacem, intervenant également lors de l’événement.

Le DGA de la Sacem déplore la nature du dialogue avec les sociétés qui sont soupçonnées d’utiliser des musiques d’artistes français afin d’entraîner leurs algorithmes. En bref, ces sociétés déclarent ne pas utiliser ces musiques mais indiquent qu’au cas où elles le feraient, elles demandent à la Sacem d’indiquer quelles sont ces musiques afin de les retirer de leurs bases de données d’entraînement.

Une table ronde a permis de voir que l’usage de l’IA se diffuse dans les sociétés de production en mettant en place des garde-fous. Par exemple, le studio Newen du groupe TF1 a remplacé temporairement une actrice atteinte du Covid par une autre comédienne, sur laquelle a été placé grâce à une IA, le visage de la première actrice qui ne pouvait pas participer aux dernières séances de tournage. Cette solution était préférable au fait de devoir retourner toutes les séquences avec la nouvelle actrice. Les contrats ont été cadrés spécifiquement pour ce cas en total accord avec les deux comédiennes.

Des visages créés par IA qui reproduisent les émotions humaines

Autre cas, des documentaires font appel à l’IA pour remplacer des visages ou des voix avec des visages et des voix synthétiques créés par l’IA et simulant les mêmes émotions humaines que les intervenants d’origine. Ces solutions  ont été choisies afin de protéger les intervenants filmés car le simple floutage habituel les aurait mis en danger. Le remplacement des visages a eu lieu dans le documentaire « Nous, jeunesse(s) d’Iran » de Solène Chalvon Fioriti pour France Télévisions car un floutage permet de revenir au visage d’origine. Sur les images du documentaire, il est alors indiqué que « le visage a été modifié par l’intelligence artificielle« .

Quant aux voix remplacées par des voix de synthèse, elles reprennent les propos d’agents de la DGSE. Cet usage avancé de l’IA suscite des dangers pour ceux qui manient ces technologies et qui ont contribué au documentaire sur l’Iran par exemple. Ils sont traqués parce que l’on sait qu’ils ont remplacé de vrais speakers interviewés en Iran dont ils disposent des vrais visages sur leurs ordinateurs par des visages de synthèse. Ils ne souhaitent pas d’ailleurs apparaître de manière lisible dans la réalisation alors qu’au quotidien ils interviennent sur des vidéos pour Cartier ou Calvin Klein.

A noter que l’IA permet aussi de pré-vendre certaines émissions TV alors même qu’aucune image n’a encore été tournée. On décrit une image qui correspond à ce que l’on va tourner et un outil comme Midjourney crée l’affiche ad hoc qui servira à vendre  le programme, explique Marianne Carpentier, directrice de l’innovation chez Newen Studios, du groupe TF1. Cela a été fait par exemple pour la série « Cat’s eyes » pour laquelle le prompt de création de l’affiche indiquait qu’il fallait représenter trois filles en combinaisons moulantes sur les toits de Paris. Cat’s Eyes raconte, à l’origine, l’histoire de trois sœurs, Tamara, Alexia et Sylia, qui tiennent un café. Mais la nuit, elles deviennent des voleuses, qui veulent récupérer les œuvres ayant appartenu à leur père.

Peut-on voir un jour des scénarios être écrits par l’IA ? La responsable écarte cette solution et indique que tous les scénaristes actuellement se servent cependant de l’IA générative comme d’un partenaire d’échange afin de challenger leurs idées. Quant à ce qui concerne le doublage, qui crée des inquiétudes chez les acteurs, elle renvoie la balle vers les sociétés spécialisées dans cette activité et avec lesquelles elle travaille car elles ont l’expérience de cette discipline depuis des années. Pour sa part, elle indique n’avoir recours qu’à l’usage du sous titrage et de voix off créées par l’IA qui permettent l’exportation de certaines émissions sans créer de problèmes de synchronisation ni de justesse d’émotion.

L’Arcom à l’écoute des professionnels du secteur

Pour établir ses lignes directrices en matière d’IA, l’Arcom a interrogé Radio France, France.tv, Canal+, Ina, SACD, Sacem, Altice, Deezer, Newen (studios du groupe TF1), Groupe TF1, etc.