Nous nous entretenons avec Peter Archer, directeur du programme IA générative à la BBC, dans le cadre d'une série d'entretiens avec les contributeurs du Rapport d'actualité 2025 de l'UER : Les salles de rédaction de premier plan à l'ère de l'IA générative.

L'auteur principal et intervieweur est le Dr Alexandra Borchardt.

Le rapport d'actualité 2025 de l'UER sera disponible en téléchargement complet à partir de mi-avril.

Une étude de la BBC a récemment révélé des inexactitudes troublantes lorsque des agents d'IA fournissaient du contenu d'actualité et s'appuyaient sur des documents de la BBC. Environ une pièce sur deux présentait des problèmes. Vous attendiez-vous à cela ?

Nous nous attendions à un certain degré d'inexactitude, mais peut-être pas aussi élevé que celui constaté. Nous nous sommes également intéressés à la diversité des erreurs rencontrées par les assistants IA, notamment les erreurs factuelles, mais aussi le manque de contexte et la confusion entre opinion et fait.

Il était également intéressant de constater qu'aucun des quatre assistants que nous avons étudiés – ChatGPT, Copilot, Gemini et Perplexity – n'a réussi à résoudre ce problème. étaient bien meilleurs ou pires que les autres, ce qui suggère un problème avec la technologie sous-jacente.

Ce résultat a-t-il changé votre vision de l'IA comme outil journalistique ?

En ce qui concerne notre propre utilisation de l'IA, cela démontre la nécessité d'être conscient des limites de ces outils.

Nous sommes prudents quant à l'utilisation des outils d'IA générative dans les salles de rédaction et, selon nos directives internes, l'IA générative ne doit pas être utilisée directement pour la création de contenu d'actualité, d'actualité ou factuel.

Nous avons toutefois identifié des cas d'utilisation spécifiques, comme les résumés et le reformatage, qui, selon nous, peuvent apporter une réelle valeur ajoutée.

Nous n'autorisons actuellement pas les tiers à extraire notre contenu pour l'inclure dans des applications d'IA. Nous avons autorisé ChatGPT et les autres assistants IA à accéder à notre site uniquement dans le cadre de cette recherche. Mais, comme le montrent nos conclusions, rendre le contenu disponible peut entraîner une distorsion de ce contenu.  

Vous avez souligné que la collaboration avec les plateformes d'IA était essentielle pour relever ce défi. Allez-vous également mettre en œuvre des conséquences internes ?

L'IA générative pose un nouveau défi : Parce que l'IA est utilisée par des tiers pour créer du contenu, comme des résumés d'actualités.

Je pense que cette nouvelle intersection entre technologie et contenu nécessitera une étroite collaboration entre les éditeurs et les entreprises technologiques, à la fois pour garantir l'exactitude du contenu et pour exploiter pleinement l'immense potentiel de l'IA générative.

Vous pensez donc que le secteur devrait avoir davantage confiance en lui ?

Les éditeurs, et les industries créatives et médiatiques en général, sont essentiels pour garantir que l'IA générative soit utilisée de manière responsable. Les deux secteurs – l'IA et les industries créatives – peuvent collaborer de manière positive, en combinant expertise éditoriale et compréhension du public avec la technologie elle-même.

Plus généralement, l'industrie des médias devrait développer une position sectorielle – ce qu'elle pense sur les questions clés. L’UER peut être un élément très utile à cet égard. Au Royaume-Uni, des régulateurs comme l'Ofcom s'intéressent au secteur de l'IA.

Nous devons mener une discussion constructive sur la manière dont nous pouvons collectivement garantir la robustesse et la fiabilité de notre écosystème d'information. Le secteur des médias est au cœur de cette démarche.

En ce qui concerne la recherche, nous répéterons l'étude, en espérant inclure d'autres rédactions. Parce que je suis fasciné par deux choses : les performances des assistants évoluent-elles au fil du temps ? Et les rédactions des langues moins répandues rencontrent-elles les mêmes problèmes, voire davantage ?

Pensez-vous que l’industrie des médias en général se comporte de manière responsable envers l’IA ? Ou qu'observez-vous lorsque vous regardez au-delà de votre univers BBC ?

Dans l'ensemble, oui, et c'est formidable de voir des perspectives différentes ainsi que des centres d'intérêt communs. Par exemple, je pense que tout le monde s'intéresse désormais à des expériences comme les assistants de chat.

Il y a tellement de choses à faire qu'il serait formidable d'identifier des priorités communes au sein du groupe UER, car travailler sur l'IA peut être difficile et coûteux, et là où nous pouvons collaborer, nous devrions le faire.

Cela dit, nous avons constaté des erreurs assez flagrantes dans le secteur, notamment au cours des 12 à 18 premiers mois suivant le lancement de ChatGPT. et l'enthousiasme a parfois pris le pas sur une utilisation responsable.

Il est également très utile de voir d'autres organisations tester certaines limites, car cela nous aide, ainsi que d'autres organisations de médias de service public, à évaluer notre situation actuelle et nos actions.

Le secteur nourrit de grands espoirs quant à l'utilisation de l'IA générative pour rendre le journalisme plus inclusif et transcender les frontières des formats afin d'attirer des publics différents. Ces espoirs sont-ils justifiés ?

Je suis plutôt optimiste. L’essentiel est que nous restions totalement alignés sur notre mission, nos normes et nos valeurs. L'IA évolue beaucoup, mais ce qu'elle ne change pas, c'est qui nous sommes et ce que nous sommes censés faire.

L'un des projets pilotes que nous étudions pour développer consiste à utiliser l'IA pour transcrire un contenu audio, dans cet exemple, une retransmission de football, et créer un résumé, puis une page de texte en direct.

Les mises à jour et les pages de texte en direct sur les matchs de football sont extrêmement populaires auprès de notre public, mais le nombre de matchs pour lesquels nous pouvons créer une page en direct est actuellement limité. La possibilité d'utiliser l'IA pour faire évoluer ce système et proposer une page de texte en direct pour chaque match de football que nous couvrons à la radio serait formidable.

Nous allons également plus loin avec notre propre modèle linguistique BBC, qui reflète le style et les normes de la BBC. Cette approche de l’IA constitutionnelle est vraiment passionnante. Le projet est mené par l'équipe R&D de la BBC ; nous avons une chance incroyable de pouvoir compter sur eux.

Avez-vous déjà mis en œuvre quelque chose de complètement ?

Notre approche avec l'IA générative consiste à procéder par étapes. Dans plusieurs domaines, comme le football, nous commençons modestement avec des solutions tactiques et fonctionnelles que nous pouvons étendre à d'autres applications tout en travaillant en parallèle sur des versions produites.

Un autre exemple est l'utilisation de l'IA pour créer des sous-titres sur BBC Sounds. Nous disposons ici d'une solution provisoire que nous utiliserons pour fournir davantage de sous-titres aux programmes, tout en créant en parallèle une version produite, beaucoup plus robuste et plus facile à adapter à l'ensemble du contenu audio.

Il est essentiel de créer des fonctionnalités compatibles avec plusieurs cas d'utilisation, et non un seul, ce qui prend du temps.

Quelle est votre position concernant l'étiquetage ?

Notre position est très claire : nous signalerons l'utilisation de l'IA lorsqu'il existe un risque d'induire le public en erreur.

Cela signifie que toute sortie d'IA susceptible d'être confondue avec la réalité est clairement signalée. Ceci est particulièrement important dans le secteur de l'information, où nous devons également être transparents quant aux impacts matériels ou significatifs de l'IA sur le contenu ou sa production, par exemple si un article est traduit grâce à l'IA.

Nous sommes prudents, car la confiance de notre public est essentielle.

Quel est l'état d'esprit interne vis-à-vis de l'IA ? La BBC est une organisation gigantesque, et vous travaillez probablement dans une bulle d'IA. Mais avez-vous une idée de la façon dont les gens s'intègrent ?

L'un des aspects clés de mon rôle consiste à communiquer avec les équipes et les divisions pour expliquer ce qu'est et n'est pas l'IA, ainsi que l'approche de la BBC.

Au cours des 12 derniers mois, nous avons constaté une augmentation significative de l'adoption d'outils d'IA comme Microsoft Copilot, et de nombreux employés sont convaincus de l'utilité de l'IA au quotidien. travail.

Bien sûr, de nombreuses questions et préoccupations subsistent, notamment face à l'évolution rapide de l'IA.

Il est essentiel d'encourager les équipes à tester les outils dont nous disposons afin qu'elles en comprennent les opportunités et les limites. Des outils comme Microsoft Copilot sont désormais disponibles dans toute l'entreprise, tout comme Adobe Firefly, GitHub Copilot et très prochainement ChatGPT.

Mais il est important de trouver le juste équilibre et d'écouter attentivement ceux qui s'inquiètent de l'utilisation de l'IA.

Nous avançons avec la plus grande prudence, car la créativité et un journalisme humain, avec des normes éditoriales très élevées, sont au cœur de la BBC. Nous n'allons pas mettre cela en péril.

De quoi parle-t-on trop peu dans le contexte de l'IA générative et du journalisme ?

Nous ne devrions pas sous-estimer l'ampleur des changements qui se produisent dans le monde qui nous entoure. Les assistants et les aperçus d'IA sont là pour durer.

Il s'agit d'un changement fondamental dans notre paysage informationnel. Dans deux ou trois ans, beaucoup pourraient s'informer directement sur Google ou Perplexity.

Comme le montrent nos recherches, il existe de réelles raisons de s'inquiéter. Et il y a ce point plus large autour de la désinformation. Nous avons tous vu le pape dans une doudoune, n’est-ce pas ? Nous avons tous vu des images d'IA des inondations en Europe et du conflit à Gaza.

Mais nous commençons également à observer une utilisation de l'IA à une échelle très locale, peu médiatisée, mais qui pourrait néanmoins ruiner des vies.

En tant que journalistes, nous devons être attentifs aux potentielles désinformations difficiles à repérer qui circulent à notre porte.