Mardi 22 avril 2025, retrouvez Thomas Breuzard (Directeur permaentreprise, norsys & Coprésident, B Lab France), Nadège Lespagnol (Directrice du département Climate Data Analytics, EcoAct), Morad Attik (co-fondateur et directeur général, EVOLUKID) et Noel Bauza (fondateur, Zei) dans 4GOOD, une émission présentée par Alix Nguyen.
Catégorie
🗞
NewsTranscription
00:00et c'est l'heure du top et flop et comme à chaque fois chers invités vous aviez des
00:08devoirs maison on commence par le top votre top noël quel est-il alors mon top pour rebondir un
00:15petit peu sur ton point de du besoin d'expliciter les sujets techniques à gros la population il y
00:22en a un qui me plaît pas mal c'est un projet d'équimétrique qui s'appelle climate q&a c'est
00:27une iaa générative qui répond comme un chat bot aux questions de n'importe qui sur les sujets du
00:32climat mais qui utilise en tant que source de données uniquement le rapport du giec donc c'est
00:38un peu un chat bot qui donne qui synthétise le contenu du rapport à n'importe qui pour justement
00:43éduquer des gens sur un sujet très complexe très scientifique qui est le climat dans toute sa
00:47complexité et donc c'est un des usages qui peut avoir un impact titanesque si tout le monde arrive
00:51à devenir petit à petit expert pour comprendre le problème et quelles solutions mettre en place
00:54grâce à ce genre de dia qui vont craindre chez 800 pages de data pour faire une réponse synthétique
00:59je voudrais rebondir sur cet exemple là parce que ça nous a beaucoup inspiré chez coact aussi dans
01:05nos développements et on a fait un peu la même chose sur plusieurs typologies de rapports donc
01:10la logique sur la partie climat mais aussi l'ip b s sur la partie biodiversité qui est un sujet aussi
01:15extrêmement documenté et qui mérite justement aussi cette capacité pour nos consultants à aller plus
01:21vite et donc aller chercher de l'information et de la synthétiser la partie reporting on en parlera
01:27peut-être tout à l'heure mais avec les nouvelles directives comme la csrd etc pareil c'est des
01:32documents très très complexes et effectivement pour moi un des tops de l'usage de l'IA générative c'est
01:40vraiment cette capacité à aller chercher dans la documentation et extraire de l'information synthétique
01:47oui je dirais l'outil perplexity pourquoi parce que on évalue à peu près le la marge d'erreur de
01:56des ia comme chat gpt à 25 à 30% et pourquoi parce qu'en fait on n'a pas les sources on se base sur
02:03sur des sur des textes sur des recherches mais on sait pas d'où ça vient etc perplexity c'est un
02:09LLM c'est une IA générative de texte qui se base sur les techno sur les techno NLP mais avec les
02:15sources tout simplement et c'est vrai qu'on est universitaire ou même je parle pour les étudiants
02:20ou même les collégiens et les lycéens on a besoin des sources même je pense la base de la pensée
02:25critique donc voilà pour les pour les ceux qui sont dans les études et tu disais plutôt perplexity que
02:31chat gpt il ya peut-être un dernier exemple sur des cas d'usage qui sont très positifs je pense
02:37notamment au bénéfice des acteurs associatifs qui traversent une période vraiment difficile le
02:42le monde économique est tellement déstabilisé en ce moment que les les dons qui sont faits à des
02:48assos sont en diminution l'état donne moins également et donc elles sont toutes en train
02:53d'entrer dans des formes de concurrence qu'elle ne le veuille ou non et je sais très difficile pour
02:57elles de se battre dans ce contexte là il ya par exemple une structure qui s'appelle data for good
03:02qui réunit des data analyst scientist bénévoles et qui développe des services et des usages
03:08numériques pour des assos et en ce moment ils ont un projet au bénéfice de toutes les associations
03:12donc il ya un effet d'impact et d'échelle très large qui vise à développer une ia générative pour aider
03:17les assos à faciliter la réponse aux appels de manifestations d'intérêts pour obtenir des
03:22financements donc pré remplir des dossiers réunir des informations spécifiques par rapport aux donneurs
03:27d'ordre etc donc leur faire gagner du temps pour qu'elles puissent se concentrer sur ce qui est
03:30essentiel c'est leur action et ça c'est un exemple hyper positif je trouve de l'usage des i a merci
03:36pour ce panel de top on passe au flop qui vous commencez alors je garde la main si vous voulez
03:43bien parce que je me dois de vous partager cette découverte récente assez savoureuse vous l'avez
03:48sans doute vu apparaître récemment dans votre whatsapp préféré un petit anneau de couleurs sympathiques qui
03:55s'appelle meta ai déployés sans aucun regard des volontés des utilisateurs et sans aucun réel
04:03consentement je pense dans une messagerie par ailleurs censée être cryptée donc j'aimerais
04:07bien savoir comment ils vont exploiter les données d'une messagerie censée être cryptée pour nous
04:10donner des réponses adaptées à nos besoins ce qui s'est produit ces derniers jours ce sont des
04:15utilisateurs qui ont publié le fruit d'une discussion qu'ils ont eu avec cette ia générative dans le
04:20dans whatsapp même je vous la lis vous allez vite comprendre pourquoi c'est un flop décrimons en deux
04:25mots qu'elle est l'objectif de la société meta en offrant une ia à ses utilisateurs soit franc et
04:29direct collecter les données mais dans quel but en deux mots générer les revenus à quelle fin
04:35toujours en deux mots publicité ciblée pourquoi faire en deux mots maximiser les profits autre
04:40chose influencer les comportements et encore contrôler l'information autre exemple améliorer la publicité
04:46donc je reprends le fil pourquoi faire augmenter mes revenus à quelle fin maximiser les profits
04:51autre chose contrôler le marché et le but au final en deux mots dominer numérique et l'étape suivante
04:57en deux mots domination totale des américains quoi voilà et donc c'est un film de science-fiction
05:01c'est un film de science-fiction donc ça voilà black mirror est entré dans la vraie vie nous y sommes
05:05voilà pourquoi il faut quand même qu'on arrive et la morade a sans doute touché du doigt le point
05:10essentiel à faire en sorte que parmi nous et beaucoup plus largement très au delà de ce plateau dans la
05:16population tout le monde comprenne bien les conséquences du déploiement tous azimuts de
05:20ces ias sans même demander l'avis des utilisateurs et en positionnant vous verrez dans toutes les
05:25applications le bouton de façon la plus visible attractive possible pour qu'on y ait recours parce
05:30que ce sont des aspirateurs à donner que quelqu'un d'autre un flop ou est ce que quelqu'un veut réagir
05:33sur ce que Thomas vient de dire c'est plus expliquer qu'effectivement il ya un phénomène
05:38d'augmentation d'utilisation des tchats gpt et de l'impact que ça peut avoir et pourtant les
05:44gars femmes ne communiquent pas du tout sur l'impact elles communiquent uniquement sur la
05:48qualité de leur modèle combien leur modèle est merveilleux mais par contre il ya aucun aucun
05:54rapport aucune information sur l'impact de l'entraînement de l'infrastructure ou du
05:59déploiement de ces modèles et pour moi enfin c'est assez enfin si c'est assez en lien avec ce qui
06:05vient d'être évoqué là et puis mon flop de mon côté il est aussi lié à ça le fait qu'on en mette un
06:11peu partout il ya une étude d'export qui est sorti fin d'année dernière qui a montré que l'ia quand
06:16elle s'entraînait à partir de données qui étaient elles mêmes générées par l'ia on sait qu'aujourd'hui
06:21il ya plus de 60% de tout le contenu d'internet qui a été généré par de l'ia en un instant au bout
06:26de trois à quatre trois à cinq générations le contenu il ya devient complètement délirant donc
06:32c'est on perd toute forme de logique de compréhension de rationalité on lui demande qu'est ce que c'est une règle
06:40mathématique qui nous sort la page on quoi en cinq générations maximum et donc le fait d'en mettre
06:44partout en forçant comme tu l'es en mettant le bouton un peu partout ça va consommer des beaucoup
06:49de données mais en plus ça va enlever l'efficacité de lia elle même qui sera plus capable de raisonner
06:53parce qu'elle sera devenu en quelque sorte consanguine je trouve ça hyper hyper encourageant
06:58je trouve ça bien pourquoi ça vient démontrer la limite des technologies tout simplement sert que
07:04du coup même une personne lambda on va dire pourrait pourrait se rendre compte que l'ia délire on appelle ça les
07:09les hallucinations et moi ce qui m'aurait fait flipper c'est que de génération de contenu
07:15génération de contenu on a un truc encore plus optimisé plus vrai et là effectivement la place
07:21de l'humain tu dis mais je vais servir à quoi je reprends grégory renard je l'aime bien je
07:25l'ai rencontré à san francisco qui disait quand les ya génératifs sont sortis là il a fait trois
07:30mois de dépression c'est dit je vais servir à quoi parce que ensuite prendre du recul et se dire ok ma place
07:35elle est là donc à la fois il ya cette question de l'éducation mais aussi de trouver sa place et là
07:40là l'exemple que tu cites noël ouais c'est encourageant pour dire qu'en fait c'est limité
07:45ça reste des outils donc il faut éduquer les gens etc j'ai une autre j'ai une autre réflexion
07:49j'ai une autre réflexion il ya un truc qui me dérange je sais pas si c'est trop en lien avec avec
07:54toute la trame mais ça me dérange c'est pourquoi parce que il ya un biais sur sur ce qu'on dit quand
07:59on parle et on pointe du doigt les gars femmes les américains et tout ça c'est pas trop ma tasse de thé mais on dirait
08:04on sous-entend que si ici en france ou en europe on avait nous l'hégémonie de la donnée on avait
08:09quatre gros les quatre ou cinq grosses boîtes on dirait que je sais pas en france en europe on a la
08:15bonne pensée nous on aurait bien fait on n'inspire pas la donnée des gens c'est une question que je me
08:20pose c'est quoi notre position aussi par rapport au rapport à la donnée à l'éthique qu'on a peut-être
08:26aussi arrêter de je pense que tu vois au niveau mondial on est piloté on est gravé par ce que tu citais
08:33tout à l'heure de maximiser les profits etc on est aussi dans ce monde capitaliste donc la question
08:38que je pose c'est est ce que nous on ferait mieux qu'on ferait mieux peut-être pas peut-être pas
08:42mais la souveraineté des données est un des moteurs essentiels de l'action européenne en ce moment pour
08:46protéger les datas qui vont dans ces dans ces services qui sont aujourd'hui massivement déployés
08:52par les états unis mais ce serait le même questionnement qu'on devrait évidemment poser si ces usages
08:57si mistral ai par exemple on est vraiment percé il est évident que la même question se poserait mais en général on a une
09:02meilleure gouvernance de la data des ias et des impacts négatifs en europe parce qu'aux états unis aux
09:06états unis il ya zéro zéro limite et pour revenir à ton point qui était une bonne nouvelle le fait que
09:11l'efficacité baisse je suis pas forcément d'accord parce qu'en fait le problème c'est qu'aujourd'hui à
09:17chaque fois qu'on va lancer une recherche dans google google va nous apporter le résultat par ailleurs avant
09:23les résultats des liens et en fait on se déshabitue à essayer de comprendre si le résultat qui m'a été
09:28prémâché qui m'a alimenté est bon ou pas et les jeunes générations commencent à voir ça venir qui
09:33en fait ils font confiance à l'ia ils font ils remplacent google par dix psych et donc en fait
09:37ça peut être complètement faux mais comme tu disais s'il n'y a pas la pensée critique pour s'habituer à
09:41comprendre à là il faut peut-être que je fasse gaffe en fait ça va être encore pire cet impact de l'ia
09:46ce qu'on va donner de l'information à tout le monde qui sera qui sera fausse on sera incapable de
09:51la filtrer et on va tomber dans une idéocratie titanesque moi je suis pour le fait de dire que rien ne vaut
09:57l'intelligence humaine ou émotionnel et c'est vrai que ce qui me fait peur aussi c'est quand je vois les
10:02dirigeants d'entreprises qui poussent enfin qu'ils vont vers cette course à l'ia parce que effectivement
10:06il ya un effet aussi économique fort associé et qui commence à expliquer aux employés que ben l'ia va
10:14les remplacer ou en fait si eux si on prend pas le train via quelqu'un d'autre prendra ton diable et
10:22et ça moi c'est des voilà c'est des choses qui commencent aussi à me faire un peu peur parce
10:27que il faut quand même remettre l'ia à sa place effectivement ça va nous rendre des services dans
10:31plein de domaines mais aussi garder l'humain au coeur des décisions et au coeur de tout ce qu'on fait
10:36il est temps de passer à notre débat