AccueilMarché & enjeuxChiffres et analyses« ChatGPT m’a dit » : quand la réponse de l'IA devient LA vérité

« ChatGPT m’a dit » : quand la réponse de l’IA devient LA vérité

Chronique de Sébastien Carensac

Publicité

Cette phrase, certains d’entre vous l’ont peut-être déjà entendue de la bouche d’un client qui rentre dans votre magasin ou vous appelle parce qu’il ne comprend pas pourquoi son pH monte après remise à niveau de sa piscine alors qu’il a ajouté du pH- ou qui, lorsque vous lui présentez votre contrat d’entretien, s’offusque de son prix parce que l’IA lui a expliqué qu’avec sa régulation automatique sa piscine allait fonctionner sans besoin d’intervention (un constat partagé par les participants à notre dernière Table ronde que vous retrouverez très prochainement sur le site).

Le problème n’est pas tant lié à l’utilisation par le client de l’IA pour ses recherches qu’au fait qu’il aura confondu la fluidité du texte proposé avec la vérité technique. Autrement dit, la forme parfaite de la réponse favorise son acceptation… sans inciter au doute critique parce qu’elle a « apparemment » répondu à sa question.

L’IA est un outil formidable. Elle permet de produire du contenu en quantité, rapidement et à moindre coût. Cette facilité doit cependant nous interroger sur nos pratiques en tant que média afin de vous apporter une information fiable, pertinente et objective. En effet, l’IA, cet assistant de rédaction incroyable, n’est pas le/la journaliste ! Elle n’a pas notre capacité à identifier des sujets en lien avec vos problématiques terrain, à trouver des axes pour les traiter, à interviewer des experts, à vérifier nos sources, etc.
Le risque ? La perte de valeur ajoutée pour nos lecteurs professionnels et, surtout, bien plus grave, que nos contenus soient référencés par l’IA – qui considère que les médias sont des sources fiables.

Comme vous le savez, la capacité de l’IA à absorber l’ensemble des contenus produits par l’humanité est sans commune mesure. Quand je dis l’ensemble, c’est bien TOUS les contenus : les bons et les mauvais. Le cœur du problème est que les modèles statistiques sur lesquels s’appuie l’IA pour répondre à vos clients ne jouent pas en faveur des « bonnes réponses ».
Et c’est là le deuxième effet Kiss Cool : si la production de contenus par les médias n’est pas objective, étayée et vérifiée, elle participe à alimenter l’IA d’informations toujours plus approximatives voire totalement erronées.

Conséquence pour vous : un temps précieux perdu à réexpliquer et à argumenter, et de la frustration pour votre client. Pourtant la réponse de l’IA était si précise ! 

À ce propos, je vous conseille l’écoute de cet épisode de podcast qui donne la parole à un référenceur qui a testé l’IA en lui soumettant un site présentant des chiffres complètement inventés, retrouvés quelques semaines plus tard dans le rapport d’une grande banque et d’une revue scientifique internationale ! 

Le pool bashing est probablement le meilleur exemple pour illustrer les conséquences d’une information superficielle. La critique de la piscine est bien trop souvent basée sur une vision partielle et dogmatique, sans chiffres réels à l’appui. Des chiffres que la fédération, par ses études et ses travaux, essaie d’apporter pour éclairer objectivement les débats.

L’approximatif produit du doute, l’information vérifiée participe à la pédagogie.

A l’instar du bon traitement au bon moment et en bonne quantité pour la piscine, produire un contenu de qualité nécessite du temps, de la méthode et de l’expertise. C’est là que réside la valeur du travail journalistique que tente de mener la rédaction d’Enjeux Piscine : interroger, vérifier, croiser les sources et donner du sens à l’information pour éclairer vos décisions et celles de vos clients.

Face à la multiplication des contenus générés sans cet esprit critique, nous devons tous nous interroger sur nos pratiques pour éviter d’être confrontés à des contre-arguments qui auront un coût, à terme, pour chacun d’entre nous :

  • la presse professionnelle sur ses pratiques de production ;
  • et les acteurs de la piscine, professionnels et industriels, sur leurs pratiques de lecture. 

Notre charte sur nos usages de l’IA est à retrouver sur le site et l’application Enjeux Piscine.