Peut-on faire des choix éthiques à l'ère de l'IA ? avec Damien Van Achter
🦖 Masterclass : Marketing & IA, performer sans sacrifier tes valeurs
Le 11 septembre, 2h en ligne. 10 actions concrètes pour utiliser l'IA dans ton marketing sans trahir ce en quoi tu crois : outils, méthode, cadre de décision. Live avec chat ouvert, replay illimité inclus.
Tarif early bird : 167€ jusqu'au 31 août (197€ ensuite).
Cet article est le transcript et les ressources de l'épisode 72 du podcast Slow Marketing. 🎧 Voici le lien pour écouter l'épisode ! 📮 Abonne-toi à la Newsletter pour ne rien louper des prochains épisodes !
"Ce n'est pas forcément faire les choses moins vite. C'est les faire mieux."
Dans cet épisode de la mini-série d'été animée par Sarah Ladam, nous plongeons dans une question qui dérange : peut-on encore faire des choix éthiques à l'ère de l'IA ?
Sarah Ladam reçoit Damien Van Achter, journaliste, formateur et consultant dont l'expertise se situe au croisement des médias, de la technologie et de la pédagogie. Il accompagne les rédactions et les entreprises partout en Europe, et dirige le parcours innovation et entrepreneuriat à l'IHECS à Bruxelles.
Ensemble, ils explorent ce que l'omniprésence de l'IA révèle de nos rapports au travail, à la propriété de nos outils, à la souveraineté numérique et surtout, à notre liberté de choisir.
Thèmes abordés :
L'IA, une question philosophique avant d'être technologique : qui détient les données, qui détient l'infrastructure ?
Comment prendre le temps dans un monde qui s'accélère et pourquoi c'est possible
Rendre son entreprise plus robuste, pas juste plus rapide : l'analogie du moteur
La bataille du volume sur les plateformes : faut-il y participer ?
L'IA agentique et la question de la responsabilité éthique
Protéger la joie de faire face à la "pénibilité de la correction"
L'impact environnemental de l'IA : un impensé collectif
Des outils différenciés selon les usages : ce qui existe et ce qui manque
Le premier pas courageux d'un dirigeant : liberté, souveraineté, factualité, solidarité
🦖
Les ressources
Damien Van Achter : LinkedIn
Étude Anthropic sur les utilisateurs de l'IA (citée dans l'épisode) : 19 % des utilisateurs estiment que l'IA n'a pas tenu ses promesses ; seulement 4 % se soucient du coût environnemental
Hugging Face (modèles open source) : huggingface.co
Amazon Mechanical Turk : la plateforme de micro-tâches qui a participé à l'entraînement des premiers réseaux neuronaux
Hugo Bienvenu, nominé aux Oscars pour son film d'animation, référencé dans l'épisode pour son discours sur l'imposition des outils IA
Ce qui a inspiré cet épisode :
L’enquête utilisateurs d’Anthropic : https://www.anthropic.com/features/81k-interviews
OK Mila - Le projet porté par le CSEM et les copines de Tapages studio, qui interroge l’éthique dans l’IA (désinformation, diversité, écologie, cyber-harcèlement, politique et créativité) https://www.ok-mila-eam.be/
Le Contre-atlas de l’intelligence artificielle de Kate Crawford
Les ressources conseillées par Damien :
la mini-série très fouillée “#IA - l’enquête” du média Sismique de Julien Devaureix https://www.sismique.fr/episodes
Le livre “De la liberté” par Timothy Snyder
Le transcript
Présentation de l'épisode
La première fois que j'ai utilisé l'IA, c'était dans mon cadre professionnel. Je menais alors une étude sur la désirabilité de l'écologie territoriale pour les entreprises, et j'ai utilisé l'IA pour faciliter la rédaction des conclusions. Moins de deux ans plus tard, l'IA apparaît désormais comme la boussole de nos métiers et serait la solution à nos manques de temps et de moyens.
Alors que dans mon entreprise actuelle, nous cherchons le moyen de conjuguer humanité, soin et utilisation de cet outil, j'ai souvent la sensation que l'espace pour la réflexion critique devient de plus en plus étroit et que le risque pourrait être de nous retirer le plaisir, peut-être même la compétence, de faire les choses par nous-mêmes.
Ce sentiment de décalage serait partagé par près de 19 % des utilisateurs, qui estiment que l'IA n'a pas tenu ses promesses, selon une étude récente d'Anthropic.
Aujourd'hui, alors qu'elle tente de s'imposer comme l'unique solution, nous manquons cruellement de recul sur ses implications réelles.
Dans cet épisode, j'ai donc eu envie de sortir de ma seule expérience pour interroger mon sentiment de malaise. Quel regard porter sur l'IA ? Comment poser des choix conscients face à une offre qui semble s'emballer ? Et surtout, quels sont les résultats concrets de ces arbitrages ?
La vraie question ne serait-il pas, non pas faut-il utiliser l'IA, mais plutôt au service de quoi ? Pour m'aider à y voir clair, je reçois Damien Van Achter.
L'IA, une question philosophique avant d'être technologique
Qu'est-ce qui se joue vraiment avec cette omniprésence
de l'IA ? Et dans ton cas, quel choix d'utilisation et de réflexion ça t'a amené à poser ?
Damien Van Achter
Pour moi, la vraie question n'est pas tant technologique que philosophique, presque. C'est de se dire - non pas qu'est-ce que je vais en faire - mais qui détient les données, qui détient l'infrastructure ? Est-ce que je suis maître à bord ? Est-ce que j'ai encore mon outil de travail dans mes mains ? C'est très marxiste, presque... On pourrait se mettre à chanter l'Internationale quand on dit ça, mais il y a un vrai enjeu des outils de production
Cet enjeu est intrinsèquement lié à l'accélération que le numérique nous fait vivre depuis une trentaine d'années: une accélération à la fois fascinante, vertigineuse, qui ouvre des perspectives créatives incroyables, mais qui dans le même temps, comme les plateformes en ont été un bel exemple, nous a dépossédés. Je fais partie de cette génération qui a eu la naïveté de penser que Facebook allait nous permettre de vivre dans des démocraties en meilleur état. Et même si pour un certain nombre de choses ça a été utile, la nature humaine étant ce qu'elle est et les marchés financiers étant ce qu'ils sont, on vit aujourd'hui les conséquences de ces choix industriels.
Une bonne partie de la population a été dépossédée de ces outils. Les données ne nous appartiennent pas, et donc l'usage qu'on en fait est très téléguidé, très normalisé. Si on parle de l'IA générative, elle a plutôt tendance à faire de l'eau tiède que de l'eau chaude ou froide, puisqu'elle est prédictive et qu'elle lisse les aspérités.
Prendre conscience de ça, c'est déjà un premier pas. Puis vient la question : comment se réapproprie-t-on ces outils, à l'échelle individuelle, à l'échelle de nos entreprises, à l'échelle de nos institutions, à l'échelle de nos démocraties ? Comment met-on l'IA à notre service et pas l'inverse ? Ça nécessite de se poser un certain nombre de questions - pas définitives, heureusement - mais qui demandent du temps.
Moi, j'ai d'abord pris le temps. Comme tout le monde, je me suis rué sur les premières versions de Mid-Journey et ChatGPT quand elles sont arrivées en version grand public. Et une des premières choses que j'ai faites, c'est retirer la prise. Je n'ai rien donné à l'IA, je n'ai rien fait avec. Je me suis formé, j'ai appris, j'ai suivi des cours, j'ai cherché à comprendre. Je ne suis pas développeur, je ne suis pas informaticien: les maths, ce n'était vraiment pas ma came à l'école. Mais la logique mathématique, la tuyauterie, les workflows de création, de publication, de diffusion et de feedback, ce sont des choses qui m'intéressent profondément.
Depuis que je blogue (depuis 2004-2005) tout ce que je produis est passé à travers un certain nombre de filtres. En tant que journaliste, la factualité est le cœur de ce que je fais : si on ne parle pas des mêmes faits, on ne parle pas de la même réalité. Quand j'ai commencé à travailler publiquement avec l'IA, ça a été dans ces conditions sine qua non. Et ma manière de me réapproprier mes outils de production, ça a été de mettre en place ma propre tuyauterie.
Prendre le temps dans un monde qui s'accélère
Comment gérer la friction entre s'approprier rapidement ces outils et prendre le temps de comprendre leur fonctionnement ?
Sarah Ladam
Ce que tu viens de dire me questionne beaucoup. L'accélération du temps fait qu'on a ce sentiment d'être toujours poussé à prendre des décisions rapides, efficientes. Pour quelqu'un qui démarre aujourd'hui ou qui a démarré il y a six mois, il y a une espèce de sentiment d'urgence, s'approprier ces outils, les intégrer dans les process, voir ce qu'on peut faire avec ça. Et en même temps, toi tu contrebalances ça avec le fait de prendre le temps. Comment gère-t-on cette friction ?
Damien Van Achter
Ce n'est pas incompatible. Quand je vois le nombre d'itérations que je fais par jour sur mes process, il est assez vertigineux, je modifie des choses en permanence, j'incrémente en permanence, je modifie mon code plusieurs fois par jour. Mais la perspective que j'en ai, l'horizon sur lequel je garde les deux yeux, celui-là bouge peu. Je sais que le chemin ne sera pas tout droit.
Et plus on apprend, plus on réalise qu'on ne sait pas grand-chose. Ce n'est pas grave d'être à la ramasse sur un certain nombre de sujets. Être au courant de tout tout le temps, c'est schizophrénique. Là, on est vraiment le hamster dans la roue.
Ce choix s'aligne avec des choix de vie plus larges. J'ai arrêté de fumer il y a 7 ans, je ne bois plus d'alcool depuis 3 ans. J'ai fait le choix de me séparer de choses dont je n'avais pas besoin. Ce n'est pas parce qu'on peut se les permettre qu'on doit les avoir. C'est un luxe d'y renoncer, j'en ai pleinement conscience. Mais c'est un choix qui me permet de me sentir droit dans mes baskets et de garder l'énergie pour ce qui compte vraiment. Parce que si je crâme le kérosène par les deux bouts, à un moment la machine va m'envoyer péter et la première machine dont je dois prendre soin, c'est mon corps.
Rendre son entreprise plus robuste, pas juste plus rapide
En quoi intégrer l'IA de manière critique et responsable rendrait une entreprise plus robuste ? Est-ce qu'on peut utiliser la tech pour mieux penser, au lieu de moins penser ?
Damien Van Achter
Je vais me permettre une analogie automobile. On crée des moteurs — il y a eu les moteurs de recherche, maintenant on a les moteurs de solution, les moteurs de réponse. Un moteur robuste, c'est un moteur qui dure longtemps. Les moteurs de course sont très performants, mais ils ne durent pas. Et entre les deux, il y a les véhicules grand public — performants sur le long terme, robustes.
Je suis assez convaincu qu'on a chacun la possibilité aujourd'hui de se créer ses propres petits moteurs, la barrière à l'entrée est tombée tellement bas avec l'IA grand public. Connecter ses services les uns avec les autres, en conscience. Si je mets en place une routine qui va chercher dans mes mails les retours importants et me fait des synthèses avec 2-3 insights sur les signaux clients, je choisis consciemment de mettre en route un petit moteur.
Mais il faut se poser les bonnes questions : quel est son degré d'efficacité ? Quelle est sa durée dans le temps ? Est-ce que je fais du leasing, c'est-à-dire que je donne tout à une plateforme et le jour où Anthropic décide d'arrêter Coworker, je me retrouve à poil sur le bord de la route ?
Des entreprises font aujourd'hui des choix d'optimisation court terme qui font qu'en fin d'année, on préfère vider les caisses en dividendes plutôt que de construire les 2-3 années qui viennent. C'est une vision du monde. Mais tant qu'on a le choix de dire au service de quelles entreprises je vais mettre ma force de travail, je pense qu'il n'y a jamais eu autant d'opportunités de rejoindre des entreprises capables de s'aligner là-dessus. Et si vous n'êtes pas content, créez les vôtres.
La bataille du volume : faut-il y participer ?
Est-ce que le courage, ce serait d'accepter de perdre la bataille du volume ?
Damien Van Achter
La seule manière de ne pas perdre cette bataille, c'est de ne pas la jouer. C'est un choix conscient. Quand on sait qu'on ne peut pas gagner, à quoi ça sert de jouer ?
Le problème, c'est qu'on joue avec des règles du jeu qui nous sont imposées. Si on veut profiter de la manne d'attraction que les réseaux nous amènent, on doit jouer leur jeu. Je l'accepte. Je donne des contenus, je partage ma veille, je produis de l'information avec la grammaire que les algorithmes me demandent. Ce sont eux qui décident les règles. Je ne suis pas chez moi, je suis chez eux.
Le jeu du volume, oui, il en faut, les algos fonctionnent comme ça. Mais ça ne dit rien de la qualité. Mes processus me permettent aujourd'hui de turbiner une cinquantaine à soixantaine d'articles par jour, mais je n'en publie que trois, ce qui paraît déjà beaucoup. Ce sont des contenus différents, sur la même information, travaillés autrement pour chaque plateforme.
Là où j'ai la main, c'est sur la qualité. Et surtout : quels processus mettez-vous en place pour garantir que le jour où les plateformes tombent, vous n'êtes pas sans audience, sans relation avec vos clients, pas tout nu sur le bord de la route parce qu'une plateforme a été weaponisée par un gouvernement ?
Rester éthique à l'ère de l'IA agentique
En tant qu'entreprise, est-ce qu'un agent qui agit seul, dans un environnement avec des codes non maîtrisés, peut malgré tout rester responsable, éthique et réfléchi ?
Damien Van Achter
Non. Mais la perfection n'existe pas. Elle n'est pas de ce monde. Entre le c'est la merde et les agents font n'importe quoi et le c'est parfait, je pars aux Bahamas sans les mains, la réalité est entre les deux et elle sera toujours entre les deux.
La robustesse, pour moi, fait partie d'une série d'enjeux liés à comment j'ai encore envie de me lever le matin, à quoi je suis utile, et comment je m'y retrouve pour vivre la vie la plus intense possible. Être en surrégime n'est pas bon pour les individus, pas bon pour les entreprises, pas bon pour les organisations. Mais ronronner ne l'est pas non plus.
Moi, j'essaye d'être sur la vague, pas dedans. Les pics de cycle sont intenses à vivre, quand ça surperforme, c'est génial. Sauf que généralement, la descente derrière fait mal. Je préfère plein de chouettes petites vagues, des ondulations qui font qu'on se sent vivant.
Et c'est valable pour les entreprises. Il y a un beau défi à réussir à coder ses missions, ses visions, ses valeurs dans ce qu'on demande à la machine d'effectuer pour soi. Transformer une intention humaine louable en contrainte par le code, c'est fascinant.
Protéger la joie de faire face à la pénibilité de la correction
Comment protéger la joie de faire dans le cas du marketing ?
Sarah Ladam
Il y a une contradiction que je trouve intéressante : l'IA est souvent présentée comme un soulagement, on va gagner du temps, ne plus faire ce qui nous ennuie. Et en réalité, j'ai parfois le sentiment que ça se transforme en une nouvelle forme de pénibilité : ce rôle de correcteur de la machine, qu'on récupère en fin de processus. Est-ce qu'on ne risque pas de se transformer en ouvriers de la donnée ?
Damien Van Achter
Il ne faut pas oublier d'où les IA viennent et comment elles ont été entraînées. Elles ont d'abord été entraînées par des humains, par les tâcherons du web, comme les appelle Tisseron. Des gens payés à la micro-tâche, c'est le Mechanical Turk d'Amazon. Des personnes payées, notamment en Afrique, à regarder des heures de vidéos pour identifier des conducteurs en train de s'endormir afin d'entraîner les IA de reconnaissance qui permettent à nos voitures de nous alerter. C'est comme ça que les réseaux neuronaux ont commencé.
Peux-tu nous donner la définition d'un réseau neuronal ?
Damien Van Achter
Les réseaux neuronaux, c'est ce qu'il y a à la base du machine learning: l'apprentissage des machines. C'est quand on a interconnecté des machines entre elles à la façon d'un cerveau humain. L'intelligence artificielle existe depuis les années 50-60. Ce qui a changé, c'est la façon dont ces réseaux ont été entraînés par les humains.
Corriger les machines est donc inscrit dans l'ADN même des réseaux neuronaux. Mais la joie de créer est avant tout dans les angles, dans les connexions que la machine vient tisser là où notre propre cerveau n'avait pas pensé les faire, même si elle le fait de manière probabiliste.
Paradoxalement, les IA les plus performantes sont les plus contraintes. Mon système fait 20 000 lignes de code avant même la production de quoi que ce soit, parce que je voulais contraindre la machine avec ce que j'estime être des règles intangibles, pour ne pas avoir à jouer uniquement le rôle de contrôleur de qualité.
Et si ça fait des erreurs, c'est de ma faute, pas de la faute de la machine. C'est parce que je ne lui ai pas correctement dit ce que je voulais. Posez-vous la question de votre tech stack : de quoi est-elle composée ? De qui êtes-vous dépendant ? Êtes-vous en location-gérance, ou pleinement propriétaire ?
L'impact environnemental de l'IA : un impensé collectif
À quel moment l'usage des LLM va-t-il devenir disproportionné par rapport aux bénéfices rendus ?
Sarah Ladam
Selon la même étude d'Anthropic que j'ai citée en début d'épisode, seulement 4 % des utilisateurs mondiaux se soucient du coût environnemental de l'IA. À quel moment cet usage devient-il disproportionné ?
Damien Van Achter
L'étude est intéressante, mais elle s'adresse déjà à des gens qui utilisent Anthropic. Dans la population générale, le chiffre serait probablement encore plus bas. Grosso modo, les gens n'en ont rien à faire, face au gain immédiat de l'étudiant qui doit rendre une rédaction, et dont le prof a probablement lui-même posé la question à l'IA pour générer le sujet. Des IA qui parlent aux IA. Ça n'a aucun intérêt.
Le coût n'est pas que écologique, il est systémique. Et rejeter sur les individus la responsabilité de ce coût écologique, c'est une escroquerie intellectuelle. La vraie question, c'est celle des gouvernements, des institutions, des entreprises qui rendent ces technologies accessibles. Quelle est leur responsabilité ?
Zuckerberg annonce la première IA agentique grand public de Meta et pendant ce temps, on dit aux individus qu'utiliser Sonnet 4.6 pour générer un mail anodin, c'est dispendieux. Tirer au bazooka sur une mouche. Tu pourrais utiliser un LLM beaucoup plus sobre. Mais on nous fait croire qu'on a besoin du plus puissant, bien sûr.
Des outils différenciés selon les usages : ce qui existe déjà
Existe-t-il aujourd'hui des outils suffisamment différenciés pour être utilisés à bon escient selon les besoins ?
Damien Van Achter
Oui, sauf qu'on ne sait pas qu'ils existent. Il y a plein de modèles open source, des modèles beaucoup plus sobres en énergie. Les modèles open source sont parmi les plus intéressants, puisque ce n'est pas une boîte noire. J'aime beaucoup ce que fait Hugging Face, par exemple.
La question, pour les entreprises : est-ce que je dois avoir la même brique partout, ou est-ce que je peux composer avec mon Lego ? Ça demande d'abord d'auditer ce qui est fait aujourd'hui. J'entends souvent : "On a des gens qui utilisent ça super bien, on leur donne des abonnements et on a gagné un temps de dingue." Mais sur le long terme, comment le truc est maintenu ? Quand ces gens partent, ils emportent quoi avec eux ?
Le knowledge de la boîte, il est où aujourd'hui ? Est-ce que ce qui est développé est suffisamment résilient en interne ? Si votre tech stack repose sur des moteurs externes, êtes-vous vraiment propriétaire de ce que vous construisez ? On peut trouver des circuits différents, faire confiance à ses employés, mais ça demande qu'on ait posé un cadre. Et l'urgence qu'on fait sentir aux gens: "grouille-toi d'apprendre l'IA sinon tu vas perdre ton job", c'est précisément ce qui pousse ceux qui repèrent les trous dans la raquette à partir. Ils ont acquis des compétences. Et souvent, la boîte n'a rien fait pour les retenir.
Le premier pas courageux : aligner son IA avec ses valeurs
Quel est le premier pas courageux qu'un dirigeant peut faire pour aligner son usage de l'IA avec ses valeurs ?
Damien Van Achter
Je ne suis pas un donneur de leçons, et je n'ai pas de boule de cristal. Mais ma boussole, c'est ma liberté et ma liberté passe par le fait de pouvoir dire non à un certain nombre de choses. Pour pouvoir dire non, il faut aussi savoir dire oui, sinon on ne mange pas.
À l'échelle d'une entreprise, se poser la question de la liberté qu'on s'offre pour continuer à remplir sa mission, sa vision, ses valeurs, ça passe par une forme d'humilité : "On ne sait pas tout, mais voilà comment on assure la pérennité de notre entreprise et des services qu'on vous offre."
Pour moi, il y a cinq principes.
La liberté. Pour être libre, il faut être souverain. Imprévisible. Mobile. Capable de bouger ses données, de changer de système sans être enfermé dans des logiciels dont on ne peut pas sortir. On le voit aux États-Unis, on le voit en Hongrie, on le voit en Russie : comment votre entreprise assure-t-elle ce degré de liberté à ses clients, ses partenaires, ses employés ?
La factualité. Si on ne parle pas de la même réalité, si on ne vit pas dans les mêmes faits, comment prendre des décisions communes ? C'est valable en démocratie. C'est valable dans votre entreprise. Quand vous bullshitez vos employés sur les chiffres — ils le savent.
L'humilité. Dire ce qu'on fait, comment on le fait, reconnaître ce qui reste à améliorer. Pas de perfection, de l'honnêteté.
La mobilité. Avoir la capacité de changer de tech stack sans tout perdre. Ne pas être captif d'une plateforme qui peut être weaponisée par un gouvernement.
La solidarité. Mes libertés individuelles n'ont de sens qu'à partir du moment où elles se coordonnent avec les libertés des autres. Si je manage par la coercition, le présentéisme, des KPI restrictifs, je manage par la force. Ça fonctionne. Mais est-ce que ça donne envie de faire des projets ensemble, de faire du business, d'aller boire des coups ? Je ne suis pas certain.
Si je te dis Slow Marketing, tu penses à quoi ?
Damien Van Achter
Ce n'est pas forcément faire les choses moins vite. C'est les faire mieux.
Commentaires