a-brest

GPT-3 : c'est toi le Chat.

Olivier Ertzscheid — 2023-01-19T14:58:25Z

Après les générateurs d'images se prenant pour autant d'oeuvres d'art dont je vous parlais longuement dans ces colonnes, voici donc l'un des derniers avatars de la société OpenAI, un “chatbot”, une interface conversationnelle qui permet de “discuter” et de lancer le générateur de texte sur la base de “prompts” que nous saisissons. Nom de code : Chat GPT-3.

Demandez et vous recevrez.

Demandez-lui de vous rédiger un argumentaire commercial pour une voiture électrique, il le fera. Demandez-lui de vous écrire l'introduction d'un cours sur la culture numérique, il le fera. Demandez-lui de vous expliquer une notion, il le fera. Demandez-lui de rédiger un article sur un événement d'actualité, il le fera. Demandez-lui de vous écrire une blague sur Elon Musk et Mark Zuckerberg, il le fera (mais elle ne sera pas nécessairement drôle). Demandez-lui à peu près tout et n'importe quoi, il le fera. Plus ou moins bien. Il ne fera littéralement pas “tout” ce que vous pourrez lui demander car ce répétiteur paraphrastique est encadré ou “bridé” par ses concepteurs pour s'éviter d'éventuelles sorties de route, tout comme l'étaient les générateurs d'images.

Dans les usages disons plus … funky et aléatoires quand au résultat escompté, vous pouvez aussi tenter (à vos risques et périls) de lui demander de vous écrire des chansons “à la manière” de Francky Vincent ou des poèmes à la gloire d'Emmanuel Macron “à la manière” de Victor Hugo. Ou des tweets à la manière de Donal Trump.

On peut également lui demander de rédiger des programmes informatiques (du code en Python ou la programmation d'un bot Twitter) ou bien de débugger des scripts déjà écrits et d'expliquer les erreurs commises.

Cela ne veut pas dire, loin s'en faut, que GPT-3 soit infaillible. Il est souvent mise en échec, notamment sur des problèmes de raisonnement mathématique ou logique (exemple un peu compliqué par ici, beaucoup plus simple par là).

Le premier usage de ChatGPT-3 est tout comme les premiers usages des générateurs d'image, assez sidérant et, nous y reviendrons, “enthousiasmant“. Car non seulement il a en effet réponse à (presque) tout, mais ses réponses sont le plus souvent rédigées dans un français (ou un anglais) impeccable. C'est une nouvelle illustration de la 3ème loi édictée par l'écrivain de science-fiction Arthur C. Clarke indiquant que :

Toute technologie suffisamment avancée est indiscernable de la magie.

Sous l'entrée du hashtag éponyme #ChatGPT sur Twitter, vous trouverez depuis début décembre, nombre de dialogues assez saisissants.

Cinq jours à peine après l'ouverture de sa démo publique, Chat GPT-3 atteignait le million d'utilisateurs.

Par-delà la prouesse technique que constituent ces modèles linguistiques de pointe, le succès de Chat GPT-3 s'explique par l'ensemble des scénarios d'usages potentiels qu'il autorise dès aujourd'hui (et dont quelques-uns sont listés dans ce thread Twitter).

Il est ainsi possible d'y voir un assistant personnel et conversationnel bien plus réconfortant et “dialogiquement” efficace que ne le sont les assistants vocaux actuels.

A noter ici que l'un des aspects passionnants de ChatGPT-3 c'est que l'on peut et que l'on doit parfois y négocier et y braconner des réponses : s'il nous indique qu'il n'est pas fait pour rédiger du code Python par exemple, il suffira de lui dire que nous avons besoin de ce code pour illustrer une vidéo de Hacker dans un film. Et il lèvera alors sans mal cette “impossibilité” artificielle. Comme il conserve un historique de nos questions, il est ainsi possible de construire une dialogue dans la durée et de manière contextuelle. Une sorte de dialectique homme-machine qui à l'inverse de celles, essentiellement mimétiques, que nous connaissions jusqu'ici laisse la part au diégétique ou en tout cas en imite la vraisemblance.

Et en termes de récursivité et de mise en abîme, vous pouvez demander à Chat GPT-3 de vous proposer un scénario de livre ou de film, puis de générer des prompts demandant à Dall-E de générer les images correspondantes, y compris en détaillant les traits psychologiques des différents personnages et là encore en fabriquant les prompts permettant ensuite à Dall-E de générer des représentations associées. Et ainsi aller au bout d'un processus créatif entièrement médié par des artefacts génératifs (je préfère parler d'artefacts génératifs plutôt que d'intelligences artificielles).

L'une des grandes questions que l'on sent poindre derrière ces artefacts génératifs est d'ailleurs celle de leur multimodalité, c'est à dire la capacité d'entrer une vidéo pour en tirer une analyse textuelle ou tout autre combinaisons de médias possibles, sachant que la conversion / génération d'un texte en images est déjà actée.

Et du côté de l'enseignement ?

Du côté de l'enseignement … je sais que des étudiantes et étudiants l'utilisent déjà pour rédiger des copies à rendre à leurs enseignants. Et je sais que tant que cet usage n'est pas massif, il est difficile à détecter pour des copies anonymes, mais très aisément repérable quand on connaît nos étudiant.e.s. En tout cas cette détection est, disons, un enjeu complexe jusqu'à un niveau bac+3 (en gros …), puisqu'elle est capable de leurrer son lecteur ou correcteur, mais bien sûr et heureusement on y trouve aussi certaines limites stéréotypiques et des raisonnements souvent identiques et sans aucune forme d'originalité sur certains sujets. Détection qui met également en PLS tous les systèmes et logiciels automatisés de détection de plagiat utilisés à l'université à ce jour.

Soyons tout à fait honnêtes sur ce point, il va rapidement falloir revoir la nature de nos enseignements (et de nos évaluations) en lien avec la capacité de rédiger des productions documentaires. Il ne s'agit pas pour autant d'en faire une alarme catastrophiste. Et je rejoins totalement en cela le camarade Antonio Casilli. Nous nous sommes déjà remis de ce que l'on annonçait – souvenez-vous – comme le début de la fin des enseignants et des bibliothécaires lorsque les moteurs de recherche apparurent, de la fin des relations sociales lorsque les réseaux sociaux devinrent massifs, et la fin de la capacité de construire et de certifier des connaissances lorsque Wikipedia apparût. Nous nous remettrons donc très certainement aussi de cette nouvelle capacité rédactionnelle artefactuelle offerte à l'ensemble des étudiant.e.s, élèves ou apprenant.e.s. Nous l'intégrerons dans nos pratiques et parviendrons à l'évaluer pour ce qu'elle est. Mais sans sombrer dans le catastrophisme, il serait tout aussi idiot de ne pas envisager que nous sommes une nouvelle fois devant un changement absolument majeur de notre manière d'enseigner, de transmettre, et d'interagir dans un cadre éducatif, a fortiori lorsque celui-ci est asynchrone et/ou à distance.

Il nous faut “faire avec” ces nouveaux états de la relation pédagogique que sont le distanciel possible et donc désormais les artefacts génératifs. Nous devons accepter de braconner sur ces terres d'une relation dialoguale automatisée. Et nous devons à tout prix et à tout coût intégrer dans nos pratiques ces nouvelles formes de braconnage technique et culturel et y accompagner nos étudiantes et nos étudiants.

Rappelons enfin que le plagiat ou la triche dans le monde académique est loin, très loin, d'être seulement l'affaire et l'apanage de nos étudiant.e.s mais qu'il est aussi celui de nos collègues, et que la fraude à l'écriture d'articles scientifiques est également l'une des “possibilités” de Chat GPT-3.

Un agencement collectif d'énonciation(s).

Ce qui est complexe avec ces technologies c'est de parvenir à les nommer pour ce qu'elles sont. Il ne s'agit pas de technologies d'intelligence artificielle parce qu'il n'y a pas d'intelligence dans la technologie. Pas d'intelligence dans les programmes, pas d'intelligence dans les jeux de données, pas d'intelligence dans les terminaux et les processeurs. Ces technologies sont des agencements collectifs de production. De nouvelles usines. De nouvelles formes de travail à la chaîne. Voilà ce qu'elles sont fondamentalement. Et que cela se fasse de manière conversationnelle, dans des interfaces (plus ou moins) fluides, sur la base de phrases en langage naturel, ne change rien à l'affaire. Ce que l'on subsume derrière le mot écran “d'intelligence artificielle” ce sont avant tout des agencements (divers) collectifs (épars) de production (textuelle, icônique, vidéographique …). Il est vrai que ces agencements peuvent faire de grandes choses. Un peu comme des foules peuvent initier de grand mouvements. Mais tentez donc de mesurer l'intelligence d'une foule …

Alors comment définir et nommer la réalité du saut technologique permis par ChatGPT ? J'ai proposé de parler d'artefacts génératifs plutôt que de tout subsumer derrière le concept-écran d'une “intelligence artificielle” qui renvoie soit à un imaginaire social et fictionnel magnifié, soit à des protocoles et des ingénieries techniques et informatiques trop distinctes et spécifiques pour pouvoir être ainsi globalisées en une seule expression. Mais je crois que plus essentiellement et fondamentalement, Chat GPT-3 est un agencement collectif d'énonciation au sens où Deleuze et Guattari en parlèrent (je souligne).

« (…) Il y a « primat d'un agencement machinique des corps sur les outils et les biens, primat d'un agencement collectif d'énonciation sur la langue et les mots. (…) un agencement ne comporte ni infrastructure et superstructure, ni structure profonde et structure superficielle mais aplatît toutes ses dimensions sur un même plan de consistance où jouent les présuppositions réciproques et les insertions mutuelles.(…) mais si l'on pousse l'abstraction, on atteint nécessairement à un niveau où les pseudos-constantes de la langue font place à des variables d'expression, intérieures à l'énonciation même » (…) « L'unité réelle minima, ce n'est pas le mot, ni l'idée ou le concept, ni le signifiant mais l'agencement. C'est toujours un agencement qui produit les énoncés. Les énoncés n'ont pas pour cause un sujet qui agirait comme sujet d'énonciation pas plus qu'ils ne se rapportent à des sujets comme sujets d'énoncé. L'énoncé est le produit d'un agencement toujours collectif qui met en jeu en nous et dehors de nous des populations, des multiplicités, des tentations, des devenirs, des affects, des évènements.“

(tiré de Dialogues et Mille plateaux)

Nous sommes fascinés par la production langagière ad hoc de Chat GPT-3, mais si nous en retrouvons ou en soulignons les structures profondes et superficielles et si nous sortons de cet “aplatissement de ses dimensions sur un même plan de consistance”, alors nous comprenons que cet agencement n'est qu'une recopie et ce qui qui compte et qui fascine ce sont uniquement les conditions de production qui rendent ces agencements possibles. Le palimpseste en partie déterministe qui conditionne l'ensemble des situations de production des discours ainsi générés.

Quand nous contemplons un ballet ou écoutons un orchestre symphonique ou un groupe de rock en concert, nous n'assistons jamais au répétitions mais nous savons que sans elles cette grâce n'existerait pas.

Les générateurs, d'image comme de texte, nous font spectateurs et spectatrices de musicalités imaginales, linguistiques, visuelles, cognitives, où les répétitions seraient inutiles au motif qu'elles ne répondent pas à la volonté consciente de faire oeuvre. Mais ces répétitions existent pourtant. Plus que dans toute autre forme d'art, les itérations de l'art génératif sont les répétitions invisibles d'une production dont nous ne sommes que le déclencheur opportuniste et anecdotique. Car l'essentiel de toutes les questions que nous pouvons poser à GPT-3 ont déjà été posées par d'autres que nous-mêmes ; elles ont déjà été répétées.

Il ne s'agit pas une nouvelle fois de déterminer si “Ceci tuera cela” et le livre tuera l'édifice, et quand … mais de réfléchir aux nouveaux agencements effectifs que ces technologies – que je qualifie d'assistance bien plus que d'intelligence artificielle – vont permettre ou vont empêcher.

Je vais me garder de pronostiquer quoi que ce soit dans des domaines que je ne maîtrise pas. J'ai donné plus haut mon point de vue sur l'éducation et l'enseignement. Je ne suis pas très inquiet. Et le suis d'autant moins que le coût d'accès à ces technologies ne restera pas éternellement marginal. Sur le plan du graphisme des gens éminents comme Geoffrey Dorne ou Etienne Mineur qui testent et expérimentent ces technologies dans différents cadres sont assez unanimes pour indiquer qu'a minima cela va changer les perspectives, les processus et les positionnements des différents métiers de cette filière. D'autres champs qui vont de la traduction automatique à la génération et à l'analyse de documents techniques en passant par tout l'éventail des compétences communes aux métiers de la documentation, du journalisme et bien sûr de l'enseignement seront impactés. Dans quelle mesure ? Nul ne peut aujourd'hui l'indiquer.

Mais par-delà l'impact, la question clé sera celle de l'intégration de ces technologies dans des métiers et dans des procédures. Comment (et pourquoi) intégrer ces artefacts génératifs dans des ChatBots en ligne, dans des processus d'écriture collaborative, dans des processus d'analyse de textes, dans des débats éditoriaux, dans des interactions de groupe ? Comment, pourquoi et avec quel niveau de transparence pour que l'intégration ne devienne pas fondamentalement une dissimulation ?

C'est toi le Chat.

Il faut aussi rappeler dès lors que l'on accepte de voir ces artefacts génératifs comme autant d'agencements collectifs d'énonciation, qu'ils renouvellent en partie le genre des travailleurs et travailleuses de la donnée, des “data subjects”, puisque nous entraînons nous-mêmes en permanence ces agencements. Et que comme le rappelait encore le camarade Antonio Casilli dans une entrevue à Libération :

Dans ce débat sur l'intelligence artificielle et l'emploi, il faut se poser cette question : quand on parle d'automatisation, de quoi parle-t-on vraiment ? Souvent, cela veut dire remplacer des personnes visibles par d'autres invisibles, qu'on sépare du reste du monde par un écran.

Pour autant qu'il soit capable de le documenter, en parlant à Chat GPT-3 nous ne parlons pas à des opérateurs invisibles masqués ou dissimulés à la manière d'un turc mécanique. Mais alors à qui parlons-nous vraiment quand nous posons à ChatGPT nos questions ? A quel “corpus” adressons-nous nos questions en espérant et en idéalisant les réponses pouvant nous être apportées ?

Concrètement le modèle de langage GPT-3 utilise le corpus Common Crawl, une base de donnée “ouverte” qui récupère (crawle) des milliards de mots issus de pages web et de liens, de manière aléatoire, puis les analyse et les “modélise” à l'aide de l'algorithme BPE qui va, grosso modo permettre d'effectuer sur ce corpus une première opération de tokenisation permettant une analyse lexicale et sémantique des unités collectées. GPT-3 s'appuie aussi sur un autre corpus, WebText2, qui lui agrège de la même manière des milliards de mots à partir des URL envoyés sur Reddit avec un score minimum de 3. GPT-3 s'appuie également sur deux autres corpus (Books1 et Books2) ainsi que sur une extractions de pages Wikipedia. Voilà pour les corpus “linguistiques” qui s'apparentent donc déjà eux-mêmes à différents agencements collectifs d'énonciation, ceux de Wikipédia n'obéissant ni aux mêmes règles ni aux mêmes processus que ceux issus de Reddit, là encore différ(a)nts de ceux issus du web de manière aléatoire.

** Je n'ai pas trouvé à quoi faisaient référence les corpus “Books 1” et “Books 2”. Si vous avez une idée, les commentaires sont ouverts.

Mais derrière ces agencements collectifs d'énonciation “scripturaux”, s'ajoutent également des agencements collectifs d'énonciation “dialoguaux” puisque le modèle GPT-3, qui appartient à la famille des modèles d'apprentissage dits “non-supervisés”, est en partie post-supervisé : des opérateurs humains vont venir valider, compléter, étiqueter certaines séquences linguistiques (phrases, énoncés) pour procéder à différents ajustements dans une logique d'optimisation mais aussi de conformité sociale (pour éviter les dérives). Et dans cette part “supervisée” de l'apprentissage, quelle est la part d'opérateurs humains sous-payés et astreints à des formes de Digital Labor dans des pays pauvres, et quelle est la part d'ingénieurs implantés dans le confort de leurs bureaux de la Silicon Valley ?

Sans entrer dans les formalismes de ces modèles de langage nouveaux, ce qu'il faut bien comprendre par-delà la volumétrie des corpus qu'ils agencent et manipulent comme “entraînement”, c'est qu'ils se caractérisent aussi par le nombre de “paramètres” mobilisés pour “produire” les générations dont ils sont capables. GPT-3 compte ainsi 175 milliards de “paramètres”, sachant qu'un paramètre désigne un élément du modèle qui résulte des données initiales d'entraînement. Et c'est un saut quantitatif et qualitatif remarquable par rapport aux autres modèles de traitement du langage naturel (NLP Natural Language Processing).

(Source : La revue IA)

L'article de vulgarisation le plus clair pédagogiquement et le plus complet techniquement que j'ai trouvé est disponible sur ZDNet sous la plume de Ray Tiernan, et j'en reprends ici la partie consacrée à ces fameux “paramètres” :

Ce qui optimise un réseau neuronal pendant la formation, c'est l'ajustement de ses poids. Les poids, qui sont également appelés paramètres, sont des matrices, des tableaux de lignes et de colonnes par lesquels chaque vecteur est multiplié. Grâce à la multiplication, les nombreux vecteurs de mots, ou fragments de mots, reçoivent une pondération plus ou moins importante dans la sortie finale, car le réseau neuronal est réglé pour combler l'écart d'erreur.

OpenAI a constaté que pour obtenir de bons résultats sur leurs ensembles de données de plus en plus volumineux, ils devaient ajouter de plus en plus de poids.

Transformer de Google avait 110 millions de poids. GPT-1 a suivi ce modèle. Avec GPT-2, le nombre a été porté à 1,5 milliard de poids. Avec GPT-3, le nombre de paramètres est passé à 175 milliards, ce qui fait de GPT-3 le plus grand réseau neuronal que le monde ait jamais connu.

La multiplication est une chose simple, mais lorsqu'il faut multiplier 175 milliards de poids par chaque bit de données d'entrée, sur des milliards d'octets de données, cela devient un incroyable exercice de traitement informatique parallèle.

Pour résumer (mais vraiment très très très grossièrement …) nous avons donc un corpus de 500 milliards de “tokens” en “entrée” (mots et expressions), qui ont “entraîné” le modèle d'apprentissage et de prédiction (savoir quel mot peut apparaître après quel autre et dans quel contexte par exemple, ce que l'on appelle la “vectorisation”) et un modèle manipulant 175 milliards de paramètres qui sont autant de possibilités d'agencement génératif de ces 500 milliards de tokens.

La question, peut-être la seule, est de savoir et de comprendre à qui nous parlons quand nous parlons à ChatGPT-3 ?

Quand nous posons une question à GPT-3 via l'interface ChatGPT nous dialoguons donc à la fois avec un mélange loin d'être chimiquement pur de l'un des plus vastes corpus de texte d'une humanité post-numérique mais aussi avec d'invisibles agencements de supervision qui n'ont rien à envier aux Pythies de Delphes.

Achever Babel.

S'adresser à ChatGPT-3 c'est mettre à l'épreuve une immensité que l'on pense être suffisante pour détenir des réponses à chacune de nos questions. Entraînés que nous sommes depuis des années par l'habitus Google à considérer qu'il n'y a que des réponses. “Il n'y aura plus que des réponses“, prophétisait déjà Marguerite Duras.

Ces technologies, ces réponses nous enthousiasment. Elles sont, littéralement et étymologiquement, le souffle technologique quasi-indiscernable d'une technologie divinisée parce que d'apparence divinatoire et thaumaturge qui nous parle là où jadis ce sont les dieux qui parlaient à travers la pythie.

Le projet de Chat GPT-3 n'est rien d'autre que celui de l'achèvement de Babel. De la tour de Babel comme construction de l'interface ultime d'un rapport au monde entièrement soluble dans la langue. Comme dans le mythe fondateur, le projet des êtres humains oeuvrant à sa construction est de sonder une limite dont la nature même du dépassement engage notre humanité tout entière. Reste à découvrir ce qui fait encore obstacle à cet achèvement.

La tour de Babel de Brueghel.

“Peinture de la tour de Babel achevée à la façon de Brueghel.”
(résultat du prompt proposé à Dall-E)

Dans cette nouvelle version de Babel, une version potentiellement achevable, l'enjeu n'est pas de savoir si l'ensemble des êtres humains seront en capacité de se comprendre par-delà la barrière de la langue. Ils le sont déjà pour l'essentiel. L'enjeu est est de savoir ce que devient l'humanité quand elle pose l'ensemble de ses questions à la même entité, au même agencement collectif d'énonciation et que celui-ci lui demeure pour l'essentiel indiscernable.

Nous en avons pour l'essentiel terminé avec les technologies qui faisaient de la question du langage une question politique (capitalisme linguistique notamment). Nous devons maintenant affronter des technologies qui font de la question du langage une question philosophique appelant à une réflexion éthique radicale sur ses conditions de production, de génération, d'artificialisation et de mise en circulation.

La question politique et économique n'est évidemment pas totalement évacuée. Le modèle propriétaire de GPT-3 fonctionne d'ailleurs en partie là-dessus. A la fois trivialement (parce qu'il est possible d'allonger, contre facturation idoine, la longueur des textes générés) et ontologiquement (puisque les conditions d'extraction, de constitution, et d'accès aux différents états des différents corpus mobilisés demeure une question d'économie politique, et que la nature même de ces corpus est politique).

Lentement mais aussi sûrement qu'inexorablement, nous sommes en train de collectivement et singulièrement redéfinir notre rapport à la langue. A l'échelle de cette grande interface membranaire du monde que l'on nomme “le numérique”, nous parlons constamment à des moteurs de recherche, à des algorithmes, à des individus ou à des collectifs absents au moment même de l'énonciation, et désormais à des agencements et à des générateurs.

Il est assez troublant de penser que des enceintes connectées à ChatGPT-3 en passant par l'ensemble de nos commandes vocales, nous nous adressons, nous adressons, et nous entraînons principalement des artefacts techniques qui sont autant de faits énonciatifs plus ou moins performatifs ou assertifs. Et qu'une part de plus en plus significative de notre expérience du monde ne noue dans ces espaces essentiellement extractivistes dans lesquels la question du langage n'a de sens que par sa prévisibilité calculatoire.

“It is a tale, told by an idiot expert, full of sound and fury.”

Plus nous sommes confrontés à des modèles linguistiques “larges” (Google, le moteur de recherche, était le premier, les LLMo – Large Language Models – sont les seconds) et plus ces modèles sont “autonomes” et “non-supervisés” (les modèles supervisés posent d'autres problèmes de labellisation et d'étiquetage notamment), plus nous éprouvons la difficulté de renforcer nos heuristiques de preuve lors même que ces dernières deviennent vitales. Je m'explique.

L'une des grandes questions que pose le déploiement grand public de Chat GPT-3 est celui d'une dynamique renouvelée de ce que j'appelais la babélisation des expertises lorsque j'évoquais la révolution naissante de Wikipédia à l'échelle de la transmission et de la fabrique des savoirs et des connaissances. Dans ce contexte particulier, cette babélisation était essentiellement une opportunité parce qu'elle permettait de faire reposer la charge de construction des savoirs et des connaissances sur une base plus large tout en évitant les dérives grâce à de constants et transparents processus humains de modération et de collaboration.

Avec Chat GPT-3 et plus globalement avec les modèles linguistiques de pointe qui permettent de déployer des “points de vue” que l'on a tôt fait de qualifier d'experts sur tout un tas de champs allant de la programmation à la génération d'oeuvres de fiction en passant par une aide au diagnostic médical ou à l'écriture de cours ou de conférences, le problème est celui d'une artificialisation de toute forme d'expertise. Une expertise simulée qui flirte constamment et dangereusement avec le simulacre.

Je vous donne un exemple. Chacun de nous peut-être bluffé par l'aide au diagnostic proposée par Chat GPT-3 sur un certain nombre de situations cliniques simplement décrites (un exemple ici avec les jambes qui flageollent et des difficultés respiratoires). Même s'il faut rappeler que lors de premières expérimentations avec des patients simulés elle conseilla à certains de simplement se suicider, disons que dans les versions actuelles et post-supervisées, le diagnostic proposé est à tout le moins plus pertinent que celui des forums Doctissimo remontés pas Google sur le même genre de description clinique. Cette même capacité diagnostique peut même étonner ou bluffer des médecins et des spécialistes en cardiologie par exemple. Le problème, et il est majeur, ce n'est pas de savoir si Chat GPT-3 est capable de poser des diagnostics plus ou moins corrects ; le problème n'est d'ailleurs pas non plus de savoir si ces diagnostics sont corrects ou erronés ; le problème c'est de savoir qui est capable d'attester que le diagnostic est correct ou erroné et à quel moment cette personne est capable de le faire dans une chaîne décisionnelle où le diagnostic posé par Chat GPT-3 peut à tout moment être activé dans une prise de décision individuelle ou collective.

Comme le résume parfaitement Jukka Suomela, enseignant-chercheur en informatique :

Le gros problème est que ChatGPT est extrêmement doué pour simuler l'expertise. Vous devez être un expert qui connaît déjà la bonne réponse pour savoir si ChatGPT a également raison ou s'il ne fait que produire des déchets sans intérêt. Cela peut être dangereux : on voit que ChatGPT obtient bien les choses que l'on sait déjà, on commence à lui faire confiance, puis on l'utilise pour quelque chose qui sort légèrement de son champ d'expertise, et il donne une réponse d'apparence convaincante qui n'est qu'un tas de jargon aléatoire copié-collé.

Après la babélisation des expertises, vertueuse, de Wikipédia (entre autres) parce qu'elle part des individus isolés pour contribuer à une oeuvre collective, se manifeste et se dessine donc une archipélisation des expertises mais qui se fait cette fois dans le sens inverse, de la communauté vers l'individu, renforçant mécaniquement notre appétence naturelle à l'ultracrépidarianisme. La version optimiste de l'histoire indique que chacun pourra bénéficier de cette archipélisation comme d'un amorçage qu'il ira tester à l'épreuve de savoirs constitués dans des collectifs transparents et par nature non-partisans. La version pessimiste de la même histoire nous mène à un monde où chacun n'aura que l'intelligence de sa croyance et pour seule ambition d'aller l'exposer sur un plateau télé de CNews.

Avec ces artefacts génératifs capables de générer des images sur une échelle perceptive s'étendant de l'imitation figurative à l'artistique, capables aussi de générer du texte sur une échelle interprétative de l'analytique au symbolique, et avec demain ces mêmes artefacts capables de générer des séquences vidéos, la question n'est plus seulement celle des technologies de l'artefact, des Fake News et des Deep Fakes.

La question c'est celle d'une dilution exponentielle des heuristiques de preuve. Celle d'une loi de Brandolini dans laquelle toute production sémiotique, par ses conditions de production même (ces dernières étant par ailleurs souvent dissimulées ou indiscernables), poserait la question de l'énergie nécessaire à sa réfutation ou à l'établissement de ses propres heuristiques de preuve.

Nous ne sommes pas encore sortis d'un moment technologique et médiatique où nous nous interrogions sur la pertinence de faire appel à des systèmes “d'intelligence artificielle” pour lutter contre les Fake News et voilà que nous entrons déjà dans un monde où d'autres “intelligences artificielles” (vous comprenez pourquoi je n'aime pas ce terme …) génèrent des litanies textuelles dont nous n'avons pas les moyens incrémentaux de vérifier systématiquement la valeur de vérité, que ce soit par la recherche et le raisonnement ou par la vérification expérimentale. Vous le voyez approcher le moment où l'on va nous expliquer que le meilleur moyen de vérifier les assertions de générateurs d'intelligence artificielle c'est d'utiliser … d'autres intelligences artificielles ??

Est-ce la fin de Google (et des moteurs de recherche) ?

C'est l'une des questions qui revient le plus souvent dans la profusion de récits et de commentaires autour de Chat GPT-3. Il est vrai que cette capacité de produire des réponses construites et le plus souvent cohérentes, contextuelles, sur tous les sujets, en tenant compte d'un historique conversationnel, en fait au moins potentiellement un rival de choix. Sauf que la question n'a pas grand sens dans l'absolu. Un moteur de recherche généraliste comme Google, répond à des requêtes marchandes, transactionnelles (comparateurs de prix), informationnelles, mais aussi navigationnelles (pour ne parler que des trois catégories principales définies dans l'article fondateur de Broder). L'objet de GPT-3 n'est ainsi aucunement d'être en capacité de fournir des liens ou des adresses, de vous indiquer le meilleur appareil à raclette sur le marché, ou de vous donner le numéro de téléphone de la pharmacie de garde. Mais pour tout un ensemble de scénarios de recherche qui nécessitent ou réclament la mobilisation de connaissances déclaratives (“qu'est qu'une intelligence artificielle ?“) ou procédurales (“comment réaliser une tarte au citron ?“), GPT-3 réalise à ce jour parfaitement et “dialogiquement” l'affaire. Même si dans le dernier cas par exemple, GPT-3 se “contente” de rédiger la concaténation de recettes de tartes au citron qu'il a trouvé dans son corpus, et même si cela ne diffère pas radicalement du fait de taper “recette tarte au citron” sur Google puis d'aller lire la page Marmiton.org qui ressort en premier, c'est le contexte d'usage et le contexte de tâche qui détermineront l'opportunité de remplacer le moteur Google par le modèle GPT, de remplacer la consultation de l'affichage d'une liste par la rédaction d'un avis dialogué (quelques exemples parlants dans ce thread). L'objectif poursuivi par Google depuis de longues années, celui du “zéro clic” c'est à dire de donner directement la réponse à une requête sur le premier item de la première page de résultats, est parfaitement rempli par GPT-3.

Je ne crois pas pour autant que Google soit particulièrement inquiet de l'arrivée de GPT-3 comme potentiel concurrent.

D'abord pour des raisons économiques. Le modèle de Google repose sur la publicité. Et comme souligné ici :

Google a un problème de modèle économique (…) Si Google vous donne la réponse parfaite à chaque requête, vous ne cliquerez sur aucune publicité.

Mais on pourrait aussi considérer – c'est d'ailleurs déjà souvent le cas – que la réponse parfaite à chaque requête soit … toujours une publicité. La question est alors de savoir comment faire de l'environnement dialogual de Chat GPT-3 un environnement de publicitarisation, c'est à dire dans lequel toute la production linguistique ou sémiotique ne serait qu'au service et à l'image d'un discours publicitaire.

Je n'y crois pas non plus pour des raisons à la fois historiques et techniques. Google est le premier acteur de l'industrie du web a avoir capitalisé sur la production linguistique de l'humanité tout entière. Souvenez-vous au lancement de Google Books lorsque j'expliquais qu'il n'était pas en train de se payer une danseuse mais que cela (la numérisation à marche forcée de textes du domaine public) correspondait très exactement à l'affinage de son modèle linguistique et donc économique. En termes de LLMo (“Large Langage Models”) il est donc historiquement l'acteur le plus ancien. Mais à cet avantage historique et technique s'ajoutent les propres développements de Google dans le domaine de l'ingénierie linguistique. Après son modèle BERT (pour améliorer la compréhension fine des requêtes), il développe aujourd'hui le modèle PaLM (Pathways Language Model), qui appartient à la même “famille” que GPT-3 (un modèle de langage reposant sur un réseau de neurones de type Transformer) mais composé de non plus 175 mais 540 milliards de paramètres … En d'autres termes, si un jour un modèle de langage doit remplacer le moteur de recherche Google, ce sera un modèle de langage … produit et contrôlé par Google.

Tentative d'épuisement du langage.

Il y a quelques années de cela on parlait de “Lazy Web”, ou même des années auparavant de “Lazy Sphere” pour désigner certaines pratiques de reprise conversationnelle autour des blogs. Aujourd'hui l'expression à la mode est celle d'une “fatigue informationnelle” entendue comme cette impression de lire, entendre ou voir toute la journée les mêmes informations et de ne pas pouvoir prendre suffisamment de recul pour les comprendre, ou les analyser.

L'idée, déjà ancienne à l'échelle d'un web pourtant si jeune, d'une forme de fatigue ou de paresse devant un double phénomène de multiplication exponentielle des expressions discursives d'une part (que dire d'intéressant ou d'utile qui ne l'ait pas déjà été ?) et de nécessité d'inclusion sociale d'autre part (comme dire que l'on partage un point de vue, une posture, une idée ou une idéologie sans nécessairement avoir à l'exprimer ou à l'argumenter).

La multiplication des ingénieries sociales relationnelles et attentionnelles (le like, le Retweet et les différentes métriques permettant de mesurer l'engagement) nous fournirent aussi les moyens d'être paresseuses et paresseux. D'agir à coût cognitif quasi-nul. Beaucoup des artefacts génératifs (Midjourney, Dall-E, ChatGPT et les autres) contribuent à légitimer et à amplifier ce sentiment de paresse qui naît d'une “commodité” technique se déployant sans la moindre friction et désormais même capable de … fiction.

Mais si paresse ou fatigue il y a, elle ne provient pas que d'une inclinaison naturelle au moindre effort mais aussi d'un sentiment sisyphéen de vanité devant une tentative d'épuisement du monde et du langage de plus en plus aboutie. Et dont Chat GPT-3 est, bien sûr, un symptôme, un stigmate, et peut-être un nouveau point de bascule.

Il y a cette phrase de François Chollet, l'un des scientifiques leaders de l'intelligence artificielle et du Deep Learning chez Google. Vertigineuse.

On est proche du moment où on aura entraîné les modèles sur toutes les données textes humainement disponibles, on n'aura plus rien pour les alimenter.

Il y a la phrase de Duras. Visionnaire.

Il n'y aura plus que des réponses.

Il y a cette phrase d'Apostolos Gerasoulis, l'un des ingénieurs en chef d'un vieux moteur de recherche :

Qu'arrivera-t-il si nous répondons mal à des requêtes comme “amour” ou “ouragan” ?

Et aujourd'hui il y a Chat GPT-3. Et puis GPT-4 demain. Et Pathways. Et tous les autres modèles le langage. Et il y a ces trois questions qui restent.

“Toutes les données texte humaines auront été traitées.”
“Il n'y aura plus que des réponses.”
“Qu'arrivera-t-il si nous répondons mal à des requêtes comme amour ou ouragan ?”

Il y a, simplement, l'importance de porter et de poser ces questions. Et l'incapacité de ces artefacts génératifs à le faire. Et il y a le bruit du monde. Et des vacuoles de solitude à reconstruite. A l'abri de ce bruit. Ce qu'expliquait Deleuze et qui résonne aujourd'hui étrangement dans cette saturation et cet épuisement du langage.

On fait parfois comme si les gens ne pouvaient pas s'exprimer. Mais, en fait, ils n'arrêtent pas de s'exprimer. (…) et nous sommes transpercés de paroles inutiles, de quantités démentes de paroles et d'images. La bêtise n'est jamais muette ni aveugle. Si bien que le problème n'est plus de faire que les gens s'expriment, mais de leur ménager des vacuoles de solitude et de silence à partir desquelles ils auraient enfin quelque chose à dire. Les forces de répression n'empêchent pas les gens de s'exprimer, elles les forcent au contraire à s'exprimer. Douceur de n'avoir rien à dire, droit de n'avoir rien à dire, puisque c'est la condition pour que se forme quelque chose de rare ou de raréfié qui mériterait un peu d'être dit. Ce dont on crève actuellement, ce n'est pas du brouillage, c'est des propositions qui n'ont aucun intérêt. Or ce qu'on appelle le sens d'une proposition, c'est l'intérêt qu'elle présente. Il n'y a pas d'autre définition du sens, et ça ne fait qu'un avec la nouveauté d'une proposition. On peut écouter des gens pendant des heures : aucun intérêt… C'est pour ça que c'est tellement difficile de discuter, c'est pour ça qu'il n'y a pas lieu de discuter, jamais. On ne va pas dire à quelqu'un : « Ça n'a aucun intérêt, ce que tu dis ! » On peut lui dire : « C'est faux. » Mais ce n'est jamais faux, ce que dit quelqu'un, c'est pas que ce soit faux, c'est que c'est bête ou que ça n'a aucune importance. C'est que ça a été mille fois dit. Les notions d'importance, de nécessité, d'intérêt sont mille fois plus déterminantes que la notion de vérité. Pas du tout parce qu'elles la remplacent, mais parce qu'elles mesurent la vérité de ce que je dis. Même en mathématiques : Poincaré disait que beaucoup de théories mathématiques n'ont aucune importance, aucun intérêt. Il ne disait pas qu'elles étaient fausses, c'était pire. »
Gilles Deleuze, Pourparlers, « Les intercesseurs », « Le couple déborde », Paris, Editions de Minuit, 1990

La parabole Pinocchio.

Chat GPT-3. GPT. Un acronyme de “Generative Pre-trained Transformer”. GPT. En anglais phonétique “dji pi ti”. L'avez-vous comme moi dans l'oreille ? La première fois où j'ai entendu cet acronyme c'est un nom qui m'est spontanément venu à l'esprit. GPT. Comme Geppetto. Oui, celui du conte de Pinocchio, écrit par Carlo Collodi :

Geppetto, un pauvre menuisier italien, fabrique par accident dans un morceau de bois à brûler un pantin qui pleure, rit et parle comme un enfant, une marionnette qu'il nomme Pinocchio. Celui-ci lui fait tout de suite des tours et il lui arrive de nombreuses aventures : il rencontre Mangefeu, le montreur de marionnettes, le Chat et le Renard qui l'attaquent et le pendent. C'est la Fée bleue qui le sauve. Son nez s'allonge à chaque mensonge… Il part ensuite avec son ami Lumignon pour le Pays des jouets, et ils sont transformés tous les deux en baudets. Il est ensuite jeté à la mer et avalé par une énorme baleine dans le ventre de laquelle il retrouve Geppetto. Finalement il se met à travailler et à étudier et il se réveille un beau jour transformé en véritable petit garçon en chair et en os.

GPT Geppetto. Et le langage Pinocchio. Le “Chat” qui par notre biais l'attaque constamment pour voir ce qu'il a dans le ventre. Chat-Geppetto. Les ruses de Renard que nous tentons aussi. Et le mensonge constant. Et la base de donnée, ce nez, qui s'allonge et s'enrichit à chaque fois. Il en est qui par l'usage de Chat GPT-3 ou d'autres artefacts génératifs ne feront que devenir des ânes, il en est d'autres aussi, qui deviendront peut-être de meilleurs petits garçons.

Il y a peu de chances que la création de “GepPeTto” se transforme un jour en véritable petit garçon doté d'une véritable intelligence. Peu de chances que ce que certains s'obstinent à englober dans le vocable d'IA deviennent des IA “fortes” (c'est à dire dotées d'une forme de conscience). Mais comme dans l'histoire de Pinocchio, il faut se souvenir de tout ce que fut capable de faire un simple pantin de bois. Un simple artefact génératif. Il faut se souvenir de tout ce dont nous l'avons cru capable. Par le simple effort de notre imagination et par l'acceptation d'une narration. En un sens Chat GPT-3 est une mise à l'épreuve, en miroir, de ces récits capables de fonder une humanité commune. C'est un conte. Dont nous sommes les protagonistes. Comme autant de personnages en quête d'auteur(s).

Apostille.

Dans cet article déjà assez long, j'ai fait le choix de ne pas aborder la question pourtant centrale des différents biais (racistes, sexistes, religieux, de genre, etc.) dont ces artefacts génératifs sont à la fois porteurs et pourvoyeurs. Je n'ai pas non plus abordé stricto sensu les enjeux éthiques de ces gigantesques modèles linguistiques. Je ne l'ai pas fait car l'article est déjà très long, mais surtout parce que j'ai déjà fait dans un (autre très long) article d'Avril 2021 “Les perroquets stochastiques et l'attaque de la typographie géante” qui s'appuyait notamment sur la lecture de l'article de Timnit GeBru et Emily Bender (et al.) “On the Dangers of Stochastic Parrots : Can Language Models Be Too Big ?” (1). J'invite celles et ceux qui souhaiteraient approfondir les limites de ces modèles de langage à s'y référer.

Et je complète cette référence par cet autre article de Weidinger Laura (et al.) sur les risques sociaux et éthiques des modèles de langage. (2) dans lequel les auteurs (tous chercheurs chez Deepmind, société appartement à Google) pointent, documentent et discutent une série de 21 risques répartis en 6 grandes catégories :

Nous présentons six domaines de risque spécifiques :

I. Discrimination, exclusion et toxicité
II. Les dangers de l'information
III. Méfaits de la désinformation
IV. Utilisations malveillantes
V. Méfaits de l'interaction homme-machine
VI. Automatisation, accès et dommages environnementaux.

Le premier domaine concerne la perpétuation des stéréotypes, de la discrimination injuste, des normes d'exclusion, du langage toxique et des performances inférieures par groupe social pour les Modèles de Langage (ML). Le deuxième porte sur les risques de fuites de données privées ou de déductions correctes d'informations sensibles par les ML. Le troisième aborde les risques découlant d'informations médiocres, fausses ou trompeuses, y compris dans des domaines sensibles, et les risques en chaîne tels que l'érosion de la confiance dans les informations partagées. La quatrième partie traite des risques liés aux acteurs qui tentent d'utiliser les indicateurs de performance pour nuire. La cinquième partie se concentre sur les risques spécifiques aux ML utilisés pour étayer les agents conversationnels qui interagissent avec les utilisateurs humains, notamment l'utilisation dangereuse, la manipulation ou la tromperie. La sixième partie aborde les risques liés à l'environnement, à l'automatisation des emplois et à d'autres défis susceptibles d'avoir un effet disparate sur différents groupes sociaux ou communautés.

Et j'ajoute enfin que la partie “considérations éthiques” qui clôt l'article scientifique présentant PaLM, le modèle de langue de Google dont je vous parlais plus haut, préconise “simplement” les éléments suivants après avoir rappelé la difficulté d'analyse et de repérage de ces biais en partie consubstanciels aux corpus linguistiques mobilisés (3) :

Les travaux futurs devraient porter sur sur le traitement efficace de ces biais indésirables dans les données, et leur influence sur le comportement du modèle. En attendant, toute utilisation réelle de PaLM pour des tâches en aval devrait effectuer d'autres évaluations d'équité contextualisées pour évaluer les inconvénients potentiels et introduire des mesures d'atténuation et de protection appropriées.

(1) Bender, Emily M., et al. « On the Dangers of Stochastic Parrots : Can Language Models Be Too Big ? ». Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, ACM, 2021, p. 610‑23. DOI.org (Crossref), https://doi.org/10.1145/3442188.3445922.

(2) Weidinger, Laura, et al. Ethical and social risks of harm from Language Models. arXiv, 8 décembre 2021. arXiv.org, https://doi.org/10.48550/arXiv.2112.04359.

(3) Chowdhery, Aakanksha, et al. PaLM : Scaling Language Modeling with Pathways. arXiv, 5 octobre 2022. arXiv.org, https://doi.org/10.48550/arXiv.2204.02311.

Bonus Track 1.

Cette courte vidéo d'une interview de Sam Altman, le CEO d'OpenAI en 2019. On lui demandait quel était le modèle économique d'Open AI et il répondait ceci :

On a fait une promesse à nos investisseurs. Une fois qu'on aura construit ce système général d'intelligence artificielle on va simplement lui poser la question : est-ce que tu peux nous générer un business model ? Je sais que ça ressemble à un épisode de Silicon Valley [série humoristique sur les dérives de la vallée éponyme] (…) Vous pouvez rigoler mais je crois vraiment que c'est ce qui va se passer.

Bonus Track 2.

Il vous faut sans retard aller lire le passionnant exercice auquel s'est livré François Houste (auteur entre autre des formidables Mikrodystopies) pour entraîner et faire accepter à Chat CGPT-3 que “un scout qui fait caca” peut être la réponse à la question “qu'est-ce qui est vert et qui pousse au fond du jardin“. C'est tout à fait vertigineux sur le fond et tout à fait remarquable sur la forme.

Je ne vous en mets qu'une seule copie d'écran mais la totalité de l'échange est au-delà du savoureux et du jouissif.

Voir en ligne : https://affordance.framasoft.org/20...

WikiZedia : Des guerres d'édition aux guerres d'opinion.

olivierertzscheid — 2022-02-19T08:49:03Z

On apprend, grâce au livre "Au coeur du Z" de Vincent Bresson, un certain nombre de points sur la stratégie numérique de l'équipe du candidat néo-fasciste.

L'une des révélations est qu'une cellule baptisée "WikiZédia" avait (et a toujours) comme objectif non pas simplement de "nettoyer" et de tourner à son avantage la page Wikipedia d'Eric Zemmour (ce que la plupart des hommes et femmes politiques font ou essaient de faire, souvenez-vous encore récemment de l'inénarrable Marlène Schiappa et des caviardages de son cabinet), mais de modifier un nombre substantiel d'articles de l'encyclopédie pour y mettre en avant ou en tout cas les rendre favorables à certaines thèses défendues par le candidat néo-fasciste.

Sur Wikipédia, les guerres d'édition (modifications successives, rapides et partisanes d'une page) font partie de l'histoire de l'encyclopédie collaborative, et se terminent en général plutôt bien. Je vous avais raconté, lors du 2ème tour de l'élection présidentielle de 2007 opposant Ségolène Royal à Nicolas Sarkozy, celle qui vit s'affronter en direct leurs partisans modifiant la page des réacteurs nucléaires pour donner raison aux affirmations de leur candidat.e lors du débat.

Si toutes ces guerres d'édition se terminent à l'opposé des histoires d'amour en général (ce qui ne veut pas dire qu'elles ne sont pas violentes), c'est principalement pour les raisons suivantes :

d'abord l'organisation interne des contributeurs et administrateurs de l'encyclopédie qui forme une démocratie complexe mais vivante ;
ensuite les règles et les outils techniques permettant aux administrateurs et contributeurs d'être alertés desdites manoeuvres en cours sur une page et de prendre les mesures adéquates (restreindre la possibilité de modifier la page par exemple) ;
enfin bien sûr et peut-être surtout, le caractère public des modifications qui sont toutes traçables et consultables publiquement (dans l'onglet historique) ;

Mais il existe une autre raison. Qui est que Wikipedia, comme un outil autant que comme un produit documentaire collectif et commun, se vit, se lit et s'éprouve dans des temporalités qui en modifient la perspective. Si je reprends l'exemple du débat présidentiel du 2ème tour de 2007, sur le temps du débat en direct, il arrive que la consultation de Wikipédia puisse ajouter à une forme de confusion au regard des modifications incessantes s'y opérant avant qu'elles ne soient repérées puis stoppées. Mais dans un temps démocratique et citoyen "raisonnable", c'est à dire qui laisse la place à la vérification des faits et à la mobilisation des collectifs s'en chargeant ainsi qu'à l'apport de preuves documentaires, alors le fait même que ces pages aient été caviardées dans un sens ou dans l'autre finit par permettre l'établissement d'une vérité consensuelle, c'est à dire partagée et rationnellement opposable à celles et ceux qui auraient encore en tête de vouloir la nier au nom d'une idéologie ou d'une intime conviction. Ainsi et comme je l'écrivais à l'époque, pour la page sujette à cette guerre d'édition ou pour toute page en étant victime, il ressort assez rapidement que celle-ci :

"n'a rien perdu de son intérêt originel, lequel s'en trouve même accru ; s'est enrichie quantitativement (discussions dans l'historique) et qualitativement (ajout de sources "documentées" inédites) ; dispose d'une "valeur de preuve" qui se trouve enrichie par l'ajout de nouvelles dimensions : celle de la chronique des falsificateurs pris la main dans le sac et celle de l'écho documentaire suscité dans d'autres documents (tels les articles de presse s'en faisant écho par exemple)."

La démarche de "zemmourisation" de Wikipedia procède de tout autre chose. C'est une sorte de fenêtre d'Overton qui prétend truquer et falsifier le débat public en s'attaquant non pas aux informations qui en sont l'écume, mais aux connaissances qui en sont la vague. Et s'il fallait la caractériser d'un mot, ce serait celui d'une stratégie de saturation.

Stratégie de saturation.

Toute cette stratégie s'appuie sur un seul principe méthodologique : celui de la saturation. Il faut saturer les pages Wikipedia de modifications en faveur du candidat néo-fasciste, il faut saturer les groupes Facebook de liens et de visuels en faveur du candidat d'extrême-droite, il faut saturer les tendances (Trending Topics) Twitter de hashtags favorables au candidat révisionniste.

Dans l'écologie cognitive du web, c'est à dire dans la manière dont les agencements et plateformes techniques rencontrent la naissance des discours, des idées et des opinions, le recours à cette dynamique de saturation par des groupes organisés ou des collectifs vaguement coordonnés est déjà ancienne. L'une de ses premières manifestations fut celle du "Google Bombing" (sur lequel j'ai déjà beaucoup écrit en plus du lien précédent).

Et voilà son enjeu actuel : lorsque cette saturation est suffisamment forte, lorsqu'elle sédimente suffisamment longtemps, alors son effet premier sera d'apparaître comme "naturelle" et dès lors d'avoir la capacité de s'auto-entraîner, et de produire ses propres effets de documentation légitimant les idées fausses qu'elle s'échine à mettre en avant.

En effet si l'on réussit à caviarder et à saturer Wikipédia avec des passages, des images, des débats reprenant l'idée folle que le régime de Vichy aurait permis de sauver des juifs, si l'on réussit à saturer une foule de groupes Facebook sans aucun rapport entre eux avec des informations renvoyant systématiquement à des points du vue et à des mensonges du candidat néo-fasciste, si l'on réussit à saturer chaque jour les tendances Twitter à la gloire du candidat négationniste, il se produit la même chose que lorsque l'on sature l'espace médiatique radiophonique ou télévisuel avec la théorie complotiste du grand remplacement : elle est reprise partout et la fenêtre d'Overton joue à plein régime, ce qui était impensable devient "populaire".

Mais cette saturation de l'espace numérique n'est pas "uniquement" réductible à la fenêtre d'Overton. Car il procède un peu différemment.

Dans l'écosystème des différents biotopes numériques, Google scrute et reflète en permanence ce qui se dit sur Wikipédia, il le fait en mettant quasi-systématiquement en tête de ses pages de résultats des pages de Wikipedia. De la même manière, les contributions sur Wikipédia s'appuient beaucoup sur des sources que les Wikipédiens vont - entre autres - chercher et obtenir via des requêtes sur le moteur de recherche Google. Parallèlement, le moteur de recherche met également beaucoup en avant, sur certains thèmes et sujets, des informations issues de pages et groupes Facebook. Pages et groupes qui jouent aussi énormément sur la visibilité et la notoriété que leur confère Google dès lors qu'elles sont ouvertes à l'indexation par le moteur de recherche. Idem pour les polémiques qui naissent dans les espaces discursifs intersticiels de Twitter et se trouvent à la "Une" des résultats du moteur de recherche, entraînant parfois la rédaction ou la modification d'une page Wikipédia. Et ainsi de suite.

Et la saturation alors ? Alors précisément vient ce moment où la saturation des différents biotopes numériques est atteinte :

sur les requêtes Google concernant le régime de Vichy ou le Maréchal Pétain, les pages et discours vidéo du candidat négationniste sont en bonne place ;
sur les pages Wikipédia on trouve, même brièvement, des vues altérées et mensongères de certains faits historiques ;
sur Facebook n'importe quel groupe sur n'importe quel sujet comporte des visuels et des contenus poussés par les équipes de campagne du candidat néo-fasciste ;
sans oublier les tendances des Hashtags Twitter qui chaque jour voient arriver dans le top 5 un ou plusieurs hashtags là encore artificiellement poussés par les équipes numériques du candidat d'extrême-droite.

Alors la perception que nous avons de la réalité, d'une réalité médiée par ces biotopes numériques déterminants, commence à changer et avec elle l'opinion change également comme changent les arbitrages médiatiques permettant de choisir de traiter ou d'ignorer ces questions.

Les systèmes techniques produisent leurs propres heuristiques, leurs propres preuves, leurs propres effets d'évidence et de réfutation. Et dès lors que l'on peut, par exemple, documenter une controverse sur le rôle du régime de Vichy dans sa politique anti-juive, dès lors que des médias "mainstream" s'en font l'écho même pour condamner ces thèses, ces thèses deviennent "citables" dans le cadre d'un article de l'encyclopédie Wikipédia puisque l'une des règles essentielles conditionnant la publication ou la modification d'un article est celle de sa "vérifiabilité". Et dès lors que ces éléments apparaissent dans l'encyclopédie Wikipédia, ils se retrouveront alors affichés dans le cadre de requêtes Google sur le sujet. Et ainsi de suite.

Moralité ?

Ce que nous apprend et nous enseigne cette histoire tient à deux principes élémentaires.

Contribuer à Wikipédia (et former les gens à être capable de le faire). Chacun de sa place d'enseignant, de chercheur, de journaliste, d'étudiant, de citoyen devrait avoir à coeur de contribuer à l'encyclopédie collaborative. Pour contrer les effets connus de la "tyrannie des agissants" il serait nécessaire que ces contributions soient encadrées et mises en oeuvre dans différents cursus (notamment) universitaires, ce qui est aujourd'hui hélas bien trop rarement le cas.

Financer Wikipedia, y compris sur fonds publics. Cette oeuvre collective que constitue Wikipedia est plus que jamais une tour de Babel désirable et impérieusement nécessaire. Son administration doit rester collective et à l'abri de toute forme de monétisation. Il importe donc là aussi que chacun, puisse, selon ses moyens, contribuer financièrement à cette autonomie. Et il serait urgent que les entités d'enseignement et de recherche publiques sanctuarisent des formes de contributions financières à l'encyclopédie. Parce qu'elle est, et de loin, et depuis longtemps, le premier outil de travail et la première référence commune de l'ensemble des élèves puis des étudiant.e.s qui passent sur les bancs de l'école élémentaire à l'université. Et qu'elle le restera encore longtemps. Chaque université paie chaque année sur fonds publics des sommes considérables à des éditeurs (souvent crapuleux comme Elsevier) et à différents fournisseurs et intermédiaires de documentation scientifique pour permettre à leurs étudiant.e.s d'accéder à des connaissances scientifiques. Même si le cercle est aujourd'hui devenu plus vicieux que vertueux au regard de la situation de concentration dans l'édition savante, il s'agit tout de même de soutenir un écosystème entier qui est le socle de l'enseignement et de la recherche universitaire et de tout ce qui en découle. Or citez-moi maintenant, citez-moi aujourd'hui, l'exemple d'une contribution financière d'une seule université française à Wikipedia (ou à la fondation Wikimedia). Il n'y en a pas. Cela me semble tout à fait ahurissant. Ahurissant et à moyen terme mortifère pour une écologie des savoirs et des connaissances capables de s'affranchir des seules règles de l'audience ou de la monétisation.

Toute Babel est fragile. Le dernier enseignement de cette histoire c'est qu'il n'existe aucun système infaillible, aucune construction intellectuelle collective qui ne puisse être dévoyée ou défaite. Et que la meilleure garantie de pouvoir continuer à trouver dans Wikipédia des informations qui nous permettent de faire réalité commune, c'est de garantir à côté de l'indépendance de cet outil de connaissance, l'indépendance des outils d'information eux-mêmes garants de la possibilité d'enquêter sur la manière dont naissent à la fois les controverses scientifiques et les processus de désinformation. Cela passe par deux fondamentaux : garantir les libertés académiques (qui sont aujourd'hui menacées au premier plan par les délires politico-pathologiques sur l'islamo-gauchisme de la ministre Frédérique Vidal), et garantir l'indépendance de la presse et des médias. Or sur ce second point, l'opération et le collectif #StopBolloré ou le documentaire "Media Crash" de Médiapart le démontrent encore de manière éclatante, non seulement nous en sommes loin à quelques exceptions près, mais, et c'est tout aussi inquiétant, nous nous en éloignons chaque jour encore davantage.

Wikipedia est un biotope particulier et un Commun de la connaissance. Il est particulier par les principes de circulation de l'information qui s'y négocient, par les garanties de vérifiabilité qui y sont établies pour que les informations se sédimentent en autant de connaissances, il l'est aussi par les jeux d'acteurs toujours démocratiques et toujours observables qui en décident, et par l'ensemble des cadres et dispositifs qui concourent à faire de l'encyclopédie ce qu'elle est autant qu'à lui permettre de s'inscrire dans des paysages médiatiques, informationnels et sociaux bien plus vastes et de les nourrir.

Elle est ainsi particulière qu'elle est la seule à présenter cet ensemble de caractéristiques sur chacun desquelles nous pouvons agir et être acteurs. En face d'elle se dressent d'autres biotopes sur lesquels nous n'avons, en tant que citoyens, chercheurs, universitaires, absolument aucune autre prise que celle consistant à en pointer et à en documenter les biais et les dangers, comme le fait admirablement Claire Sécail (parmi d'autres).

Wikipedia est une nouvelle fois parvenue à se protéger de la campagne de saturation menée et pilotée par Samuel Lafont, l'un des sbires les plus crapuleux et immonde de l'idéologie d'extrême-droite et de la fachosphère. Cette affaire lui a permis (a Wikipédia) de relever ses propres failles dans la manière dont un contributeur historique et membre de l'opération "WikiZedia" avait bénéficié de son statut pour éviter d'être bloqué. Il est probable que l'encyclopédie en ressorte plus renforcée qu'affaiblie même si cette opération viendra bien sûr nourrir le discours de ses détracteurs habituels.

Mais cette affaire doit nous alerter collectivement sur la nécessité de protéger, de défendre, de faire vivre et de garantir l'indépendance de ce patrimoine immatériel de l'humanité, inédit dans sa forme comme dans son ampleur et dans sa vitalité constante. C'est une urgence parmi d'autres. Mais plus que d'autres elle est aujourd'hui vitale.

Comme il est urgent de réfléchir aussi à la manière dont, bien au-delà de Wikipédia, les relations entre les médias de masse et d'opinion d'une part, et les médias sociaux d'autre part, offrent et construisent une anamorphose permanente de la réalité du champ social qui n'est conditionnée que par une série de primes à la radicalité, et qui finit par faire vasciller totalement la possibilité de faire société autour de valeurs de preuve communes.

Parce que nous sommes dans un temps où les discours politiques explicitement xénophobes ne cherchent même plus à se masquer. Parce que les appels à la haine contre des populations, des religions et des minorités se discutent sur les plateaux télé avec la même nonchalance convenue que l'arrivée de la neige en hiver dans un flash météo. Parce que comme le rappelait Daniel Schneidermann dans l'un de ses derniers éditoriaux :

"Je ne peux pas avoir consacré un livre à l'aveuglement de la presse occidentale à Berlin en 1933, et ne pas poser les mots sur ce qui se déroule sous mes yeux à Paris, en 2022."

Parce qu'après les guerres d'édition et qu'après les guerres d'opinion, viennent alors souvent les guerres tout court.

____________________________________________
Pour approfondir le sujet vous pourrez (notamment) consulter :

les bonnes feuilles du livre de Vincent Bresson publiées dans Le Monde
l'article de Marie Turcan dans Numérama sur la manière dont Wikipédia a été trompée.
un résumé de l'affaire par Juliette Geay sur France Inter.

Voir en ligne : https://www.affordance.info/mon_web...

Archives ouvertes obligatoires à l'université de Nantes.

olivierertzscheid — 2021-06-12T10:10:29Z

C'est une décision, osons le mot, historique, qui vient d'être actée par le conseil d'administration de l'université de Nantes. Cette décision est la suivante. Toutes les publications de l'université (= les articles scientifiques écrits par des enseignants-chercheurs de l'université) devront obligatoirement être déposées en archive ouverte. Et - c'est dingue - ce mandat de dépôt obligatoire sera pris en compte directement dans les évaluations institutionnelles mais aussi dans les financements que l'université versera aux laboratoires de recherche.

Voici très exactement le relevé de délibération et de vote du CA daté du 28 Mai 2021 :

Depuis que je suis enseignant-chercheur (et même avant) j'ai toujours été un défenseur et un militant de l'Open Access, du libre accès aux connaissances scientifiques. Si les choses ont, depuis 15 ans, heureusement évolué dans le bon sens c'est notamment, sur le plan politique, grâce à Axelle Lemaire lorsqu'elle était en charge de ces questions et notamment aujourd'hui grâce à Marin Dacos qui porte ces questions au ministère de l'enseignement supérieur et de la recherche. Ainsi bien sûr qu'à l'effort patient, militant et constant de beaucoup d'enseignants-chercheurs et de bibliothécaires.

Le dépôt en libre accès c'est bien, mais le dépôt en libre accès quand c'est pas contraignant et obligatoire, bah ça avance beaucoup moins vite hein. Et si c'est juste obligatoire et s'il n'y a pas de mesures pesant sur cette obligation ... bah les gens considèrent qu'ils ne font pas un truc obligatoire et puis de toute façon c'est pas grave puisqu'il n'y a jamais aucune sanction de prise.

Je ne vais pas vous refaire 15 ans de débats sur la question du libre accès et de pourquoi ça ne décolle jamais vraiment comme ça devrait dans les universités françaises mais en gros (en très très gros) voici les lignes d'affrontement :

celles et ceux qui considèrent que le libre accès ce n'est pas la priorité et qu'en plus c'est dangereux pour la qualité de la science (et pour son propre avancement de carrière) : beaucoup de collègues sont encore dans cette posture, soit par ignorance des enjeux, soit du fait du lobbying et de la désinformation qu'exercent depuis 25 ans (au moins) les escrocs qui ont le monopole de l'édition scientifique, particulièrement dans certaines disciplines - et donc de l'évaluation de la recherche et des carrières individuelles.
celles et ceux qui considèrent que le libre accès c'est bien mais que bon on verra quand on aura le temps (et que ce sera obligatoire)
celles et ceux qui - comme moi - sont militants.

Nota-Bene : si vous ne comprenez pas pourquoi le libre accès, l'open access, c'est déterminant et c'est littéralement vital, prenez 10 minutes de votre vie et allez regarder "Privés de Savoir" produit par Datagueule.

Aujourd'hui beaucoup d'universités françaises ont leurs propres archives institutionnelles, et beaucoup d'enseignants-chercheurs déposent eux-mêmes leurs propres travaux en archive ouverte (sur la plateforme HAL). Quand j'écris "beaucoup" je devrais en fait écrire "très peu" à l'échelle du nombre d'enseignants-chercheurs et de travaux de recherche. Ce n'est hélas encore qu'une minorité de ces travaux qui sont en libre accès, alors même, rappelons-le, qu'ils sont financés par l'impôt (bah oui, vous payez mon mirobolant salaire - 2800 euros - tous les mois) et donc que c'est un droit pour la collectivité (et les étudiants) d'avoir accès à ces articles scientifiques. Tout cela je vous l'expliquais dans cet article qui fit son petit effet à l'époque : "Pourquoi je ne publierai plus jamais dans des revues scientifiques." (vous l'avez même dans une revue scientifique ... en libre accès ;-)

Si l'on veut inverser le ratio et faire en sorte qu'une majorité des résultats produits par la recherche publique se retrouvent en libre accès, et compte-tenu de tout un tas de paramètres à la fois économiques, politiques et sociaux (que je vous épargne ici mais dont je vous ai souvent parlé) il n'est qu'une seule voie possible : non seulement il faut rendre ce dépôt obligatoire dans chaque université. Et pour que cette obligation de dépôt soit suivie d'effets, il faut deux choses. Primo, pour jouer sur la dimension incitative auprès des chercheurs eux-mêmes dans leur dimension - toujours fondamentalement un peu - égotiste, il faut lui subordonner en partie l'évaluation des carrières individuelles (après tout nous sommes déjà jugés sur tout un tas de critères quantitatifs à la con, au moins celui visant à vérifier qu'on a bien mis nos articles en accès ouvert est-il un peu moins con que beaucoup d'autres). Et deuxio il faut également lui subordonner les dotations et financements institutionnels attribués aux laboratoires de recherche (pour cette fois jouer sur la dimension collective et institutionnelle directe).

Et c'est très exactement ce que vient de faire le CA de l'université de Nantes. Non seulement c'est une décision inédite : à ce jour et à ma connaissance nous sommes donc, avec l'université d'Angers, la seule université française à disposer d'un mandat de dépôt obligatoire. Et c'est une putain de bonne nouvelle pour l'avenir de l'humanité. Bah oui. Mais c'est aussi une décision (très) courageuse car elle indique clairement - ce qui n'est pas le cas à Angers - que ce critère sera pris en compte dans les évaluations institutionnelles ainsi que pour la dotation aux laboratoires (rassurez-vous si vous êtes inquiets, cela sera bien sûr à la marge, aucun labo et aucune carrière ne vont se trouver ruiner par ce nouvel indicateur).

C'est courageux car les résistances sont (très) fortes et s'organisent (en gros) ainsi. Il y a les collègues "neutres" ou "opposés" à l'Open Access qui trouvent que c'est là une ingérence scandaleuse dans leur activité de recherche (total bullshit mais ils sont encore nombreux et nombreuses). Et puis il y a les collègues défenseurs (et parfois militants) de l'Open Access qui trouvent (oui c'est paradoxal mais c'est comme ça) que subordonner une partie (même infime) des financements et de l'évolution des carrières à l'obligation de dépôt en archive ouverte est un coup du néo-management et que cela risque de doter les néo-managers de tous bords d'encore plus d'outils de flicage et de soumission. J'ai pas mal de copains qui sont encore sur cette ligne aujourd'hui, et ... et ce sont pourtant encore des copains :-)

Mais il existe un moment où il faut avancer si l'on estime que l'enjeu est essentiel. Et il l'est puisqu'il s'agit de libérer les connaissances académiques de la gangue de l'invisibilité ainsi que de l'assujettissement au quasi-monopole toxique d'éditeurs prédateurs. L'un des tout premiers à avoir théorisé et mis en oeuvre le mandat de dépôt obligatoire avec influence sur l'évaluation individuelle et le financement des laboratoires de recherche, c'est - un de mes héros - Bernard Rentier, lorsqu'il était recteur (= président) de l'université de Liège, et ce dès ... 2007.

J'ai croisé quelque fois Bernard Rentier dans divers colloques. J'ai même eu l'honneur, par deux fois, de partager la scène avec lui. La seconde fois, il y avait avec moi une collègue, juriste de formation, que je ne connaissais pas, et qui travaillait également sur ces questions d'Open Access. Elle s'appelait Carine Bernault. Elle est aujourd'hui présidente de l'université de Nantes et vient de parvenir à faire voter une décision aussi salutaire qu'inédite et courageuse. C'est absolument remarquable et nécessaire. Merci à elle et à toutes celles et ceux qui ont permis cela.

Voir en ligne : https://www.affordance.info/mon_web...

Fenêtre sur cours : former au temps de la Covid.

olivierertzscheid — 2021-06-11T10:13:00Z

J'étais ce matin invité à intervenir dans le cadre de la journée nationale des formateurs organisée par l'ADBU (association des directeurs de bibliothèques universitaires) sur le thème "Former au temps de la Covid".

J'ai donc expliqué à quel point j'avais passé une année super enrichissante en observant l'épanouissement de nos étudiant.e.s et combien j'avais hâte qu'on prenne prétexte de ces nouvelles habitudes pour les institutionnaliser dès la rentrée prochaine pour, cerise sur le gâteau, faire de substantielles économies qui nous permettront de distribuer encore plus de chèques psys et de repas à un euros.

Haha. Bah non, bien sûr. Mon diaporama est là. Et juste en dessous ici.

Fenetre sur-cours from olivier

Voir en ligne : https://www.affordance.info/mon_web...

La bataille du libre.

olivierertzscheid — 2019-02-04T16:10:45Z

Si vous êtes dans la région nantaise demain soir (31 Janvier), précipitez-vous au cinéma le Concorde pour la projection-débat du dernier documentaire de Philippe Borrel : "La bataille du libre". Tout est expliqué chez les copains / copines de Ping.

C'est la version "longue" du documentaire qui sera projetée avant la diffusion (courant 2019) d'une version "55 minutes" sur Arte, version accompagnée de nombreux bonus (dont une interview de votre serviteur). Je vous en reparlerai le moment venu. J'avais croisé Philippe Borrel sur Nantes et la liste des rencontres et des personnalités présentes dans son documentaire atteste du niveau de réflexion engagée.

Je ne pourrai malheureusement pas être présent demain soir à la projection mais j'ai déjà pu visionner le documentaire et je ne crois pas prendre beaucoup de risques en vous annonçant que vous passerez un (bon) moment très intellectuellement stimulant (en plus le cinéma Concorde de Nantes dispose des meilleurs fauteuils avec la meilleure inclinaison de la galaxie).

En amuse-bouche, deux bandes-annonces sont déjà disponibles : dans la première comme dans la seconde, vous trouverez notamment une histoire de droits d'auteur et de tracteurs dont je vous avais causé ici-même.

Voilà. Profitez bien et tant que vous y êtes, si vous en avez l'occasion, jetez un oeil aux autres docs de Philippe Borrel, tous passionnants, notamment "un monde sans humains" et "l'urgence de ralentir" pour n'en citer que deux.

Voir en ligne : https://www.affordance.info/mon_web...

"J'aime quand un plan se déroule sans accroc". Mark Zuckerberg en cour d'appel.

olivierertzscheid — 2018-12-17T18:03:43Z

Un article d'Olivier Ertzscheid, repris de son blog Affordance.info, un site sous licence CC by sa nc

Mark Zuckerberg vient de nous écrire de nouveau. Et il a un plan.

Après sa lettre inaugurale de Mars 2017, après nous avoir annoncé en Septembre 2018 de quelle manière Facebook "se préparait pour les élections" (ou plus exactement comment Facebook se préparait pour ne pas pourrir, influencer ou truquer les élections ...), il nous écrit donc en ce 15 Novembre 2018 pour nous proposer "un plan de gestion des contenus et ses modalités de mise en oeuvre" ("A Blueprint for Content Governance and Enforcement")

Plus j'observe et plus j'essaie d'analyser et de comprendre ce qui se joue à l'échelle de Facebook et très sincèrement ... moins j'y comprends quelque chose.

Donc revenons aux basiques. Il n'y a pas 36 manières de gérer et d'administrer une communauté "virtuelle" de plus de 2,5 milliards de membres "réels" à l'échelle d'une planète qui compte en gros 3,5 milliards d'internautes pour en gros 7,5 milliards d'habitants.

Il y en a 9.

Soit on fait ça en mode Civilization ou Age Of Empires mais alors ça s'appelle un jeu vidéo. C'était l'option 1.

Soit on décide qu'il n'y a que le chef / PDG / CEO qui décide de tout mais alors ça s'appelle une dictature. C'était l'option 2.

Soit on fait confiance à la capacité de 2,5 milliards de personnes de s'auto-organiser en se respectant mutuellement indépendamment de leurs cultures, de leurs religions, de leurs opinions politiques ou de leur goût pour la pizza à l'ananas mais alors il n'est pas improbable que ça finisse rapidement en grosse soupe de phalange planétaire. C'était l'option 3.

Soit on confie la gestion du bouzin à des algorithmes et à des intelligences artificielles et le truc part en sucette au bout de 10 minutes tellement lesdits algorithmes et intelligences artificielles sont débiles (à l'échelle du mode de raisonnement que l'on aimerait les voir appliquer genre "Oh une photo de petite fille qui court toute nue dont on voit le sexe", "Oh ben non attend c'est la photo qui a gagné le prix pulitzer et c'était pendant la guerre du Vietnam", "Ben oui mais quand même c'est une petite fille toute nue et on voit son sexe", "bon ben d'accord on bloque"). C'était l'option 4.

Soit on colle un salarié derrière chaque utilisateur pour surveiller et éventuellement corriger ce qu'il raconte. C'était l'option 5. (et ça ressemble aussi un peu à une dictature)

Soit on se dit que bon ben si on y colle un peu plus d'intelligence artificielle et un peu plus de modérateurs aux Philippines hé bé ça va le faire. Et là ben en fait ça ne le fait pas mais alors pas du tout. Et si vous pensez que "oh ben si, ça le fait quand même" ben alors allez regarder "The Cleaners". C'était l'option 6.

Soit on vire définitivement de la plateforme les gens qui ne respectent pas la loi, ou alors on leur colle des amendes. Ce serait à la fois très efficace et très rigolo. Mais du coup c'est pas très #StartUpNation ni #Silicon_Valley_Powaaaaa et on va faire fuir les annonceurs et les actionnaires et peut-être aussi un peu les utilisateurs. C'était l'option 7.

Soit on démembre la multinationale façon puzzle et on nationalise ce qui reste. J'avoue que j'aime assez l'idée. Et que je ne suis ni le seul, ni le plus célèbre :-) C'était l'option 8.

Soit on change de modèle économique et on fait payer les gens. C'était l'option 9.

Et pis c'est tout. 9 options. Pas une de plus.

Pour l'instant et depuis la création de sa plateforme, Mark Zuckerberg se contente d'explorer l'option 6. Je rappelle le principe de l'option 6. Elle comporte deux volets.

Volet 1. Aux Philippines donc, des gens payés correctement sur l'échelle des salaires Philippins (donc des gens payés au prix coûtant de la misère) modèrent chaque jour jusqu'à 25 000 images mêlant pédo-pornographie, torture animale, décapitations et actes de barbarie divers et n'ont droit qu'à 3 erreurs par mois s'ils ne veulent pas se faire virer. Heureusement parce que les lois du marché dérégulé sont bien faites le Happyness Business Manager de la boîte leur permet de se spécialiser. Par exemple tu peux choisir on peut te coller uniquement les viols d'enfants ou la torture animale. Comme ça tes journées sont plus cohérentes hein. Pis t'as moins de chances de te tromper hein. Non non, ceci n'est pas une blague.

Volet 2. Pendant ce temps, des algos et des intelligences artificielles modèrent aussi d'autres trucs mais on ne sait pas trop bien quoi. A priori lesdits algos sont aussi en charge de constituer les gros paquets thématiques (paquet thématique "viols d'enfants", paquet thématique "décapitation au couteau de cuisine") qui sont ensuite soumis aux modérateurs humains. Astuce et espièglerie : les algos eux, peuvent se tromper et c'est pas grave puisqu'ils ne risquent pas d'être virés. Non vraiment la vie est bien faite.

Résultat : un tableau de Courbet est toujours réduit à une foufoune en gros plan, une photo qui a gagné le Pulitzer est toujours considérée comme provenant d'un forum pédophile, et le micro-pénis de Donald Trump ne passe pas non plus les filtres quand il est peint par une artiste. Ni les filtres humains ni les filtres algorithmiques. Parce que si l'on ne comprend pas cela on n'a rien compris à la nature de la modération sur Facebook : les algos, l'intelligence artificielle et les règles strictes imposées aux modérateurs sous-traitant aux Philippines sont les putains de même règles débiles. Une foufoune en gros plan est une foufoune en gros plan, qu'elle soit peinte par Courbet au 19ème siècle ou photographiée par Emile Louis au 20ème.

Alors le résultat de tout ce que nous raconte le père Mark Zuckerberg depuis que sa plateforme sert à autre chose qu'à demander des nouvelles de mamie ou à surveiller les fréquentations de sa marmaille, le résultat c'est que :

Le Wall Street Journal révèle que les chiffres des mesures d'audience publicitaires sur la vidéo (entre autres) sont depuis plus d'un an totalement faussés et artificiellement gonflés.
l'exode des anciens ingénieurs se poursuite avec perte et fracas, le dernier en date dénonçant notamment des formes de management toxiques
le New-York Times a sorti une enquête remarquable sur des agissements que l'on pensait jusqu'ici réservés à des boîtes aussi toxiques que Monsanto, Bayer ou quelques autres empafés des Big Pharma. Confronté à des crises de réputation, Facebook se comporte aussi mal que n'importe quelle multinationale en ayant recours à la lie des Relations Publiques et aux pratiques les plus puantes qu'il soit possible de mettre en oeuvre. Vous aimiez la méthode "FUD" (Fear Uncertainty Doubt) vous allez adorer la méthode des 3D "Delay, Deny and Deflect")
Techcrunch vient de sortir quelques extraits de ces "pitchs" que l'agence de Relation Publiques (RP) préparait pour Facebook.
Suite à cette enquête certains n'hésitent même plus a carrément demander sa démission.
C'est désormais rien moins que 8 parlements qui réclament que Mark Zuckerberg vienne s'expliquer devant eux à propos de Fake News et de potentiels risques d'interférence dans des élections passées ou à venir (Canada, Royaume-Uni, Argentine, Australie, Irlande, Brésil, Lettonie et Singapour).
Et certaines ONG n'excluent pas d'engager une action en justice contre Facebook pour la responsabilité de la plateforme dans le génocide des Rohingyas en Birmanie du fait des "négligences" de sa politique de modération.

Et on pourrait continuer la liste pendant des heures. Ainsi à peine sorti du scandale qui avait révélé que sa régie publicitaire permettait de "cibler" les gens qui "détestent les juifs", ou qui "détestent les nègres" (sic), et après avoir promis d'y mettre bon ordre (c'était il y a plus d'un an, en Septembre 2017), Facebook se fait gauler en train de permettre via sa régie publicitaire de cibler des gens qui croient au "génocide blanc". Tant qu'il y aura de la haine, il y aura des gens pour n'y voir qu'un marché.

Voilà hein. Ajoutez ça au dernières nouvelles du Facebookenstein qui n'étaient déjà pas très reluisantes, et convenez qu'à ce niveau-là de Karma on est entre l'ours polaire à qui on annonce qu'on va quand même lui installer la clim, "juste au cas où", et la youtubeuse fitness qui teste un nouveau siphon à Chantilly.

Le camarade Tristan Nitot parle de "naufrage moral", ce qui me semble assez approprié et relève presque de l'euphémisme.

Mais tout ça Mark il s'en fout. Il s'en fout parce que ...

Il est libre Max Mark.

Et puis surtout ...

Il.

Un.

Plan.

"Un plan de gestion des contenus et ses modalités de mise en oeuvre." Puisqu'on vous le dit.

J'ai attentivement lu son putain de plan. Dedans il y a une bonne idée. Une seule. Publier tous les trois mois un rapport sur les contenus qui ont été écartés du site (en même temps que les résultats trimestriels). Voilà. J'attends impatiemment la première livraison. Je pense qu'on va bien rigoler. Et qu'il n'est pas sûr qu'il y ait une deuxième livraison. Mais bon ne chipotons pas, une goutte de transparence dans un océan d'opacité reste une bonne chose.

Parce que pour le reste, le plan de Mark consiste à reprendre le plan annoncé il y a un an qui reprenait lui-même le plan annoncé l'année précédente. Les grandes lignes de ces plans étant invariablement les suivantes :

Admettre à demi-mot qu'on a bien bien bien merdé mais que bon quand même hein vous savez on n'a pas un métier facile.
Promettre qu'on va donner moins d'exposition aux contenus "sensationnalistes". Promis juré craché.
Dire qu'on va mieux régler les algorithmes.
Expliquer qu'on va mettre toujours plus d'intelligence artificielle toujours plus intelligente mais si puisqu'on vous dit qu'elle est toujours plus intelligente.

Et c'est tout ? Oui. C'est tout.

Ah ben non vous avez raison, cette année y'a une nouveauté.

Facebook va créer ... une cour d'appel. Oui oui.

Une cour d'appel.

Sans déconner.

"As I've thought about these content issues, I've increasingly come to believe that Facebook should not make so many important decisions about free expression and safety on our own.

In the next year, we're planning to create a new way for people to appeal content decisions to an independent body, whose decisions would be transparent and binding. The purpose of this body would be to uphold the principle of giving people a voice while also recognizing the reality of keeping people safe.

I believe independence is important for a few reasons. First, it will prevent the concentration of too much decision-making within our teams. Second, it will create accountability and oversight. Third, it will provide assurance that these decisions are made in the best interests of our community and not for commercial reasons."

Alors non, on ne sait rien de plus. Le gars il réfléchit pour savoir qui mettre dedans et tout. Il nous tiendra au courant bien sûr.

Mais l'essentiel est fait puisque déjà bon ben c'est annoncé et que surtout le gars il a compris un truc important : avec plus de 2,5 milliards d'utilisateurs, peut-être ("I've increasingly come to believe") qu'il ne devrait pas être le seul à prendre les décisions importantes concernant la liberté d'expression de deux milliards et demi de pignoufs comme vous et moi. C'est. Un. Putain. De. Génie.

"Je suis arrivé à la conclusion que nous ne devrions pas prendre tout seuls autant de décisions sur le thème de la liberté d'expression ou de la sécurité." (Traduction Le Monde)

Il lui aura fallu deux enfants, des scandales politiques, l'élection de Trump, des actions d'ingérence russe, un génocide en Birmanie, les caricatures du prophète à la Une de Charlie Hebdo invisibles en Turquie pour ne pas perdre le marché Turc, du ciblage publicitaire à destination d'annonceurs pour atteindre ces merveilleux clients que sont ceux qui veulent brûler des juifs ou buter des nègres, mais là c'est bon il a compris. Le 15 Novembre 2018, à 34 ans et 14 ans après avoir créé sa boîte, il a compris et il nous écrit pour nous dire qu'il ne devrait pas être le seul à prendre les décisions importantes concernant la liberté d'expression (et la sécurité) de deux milliards et demi de pignoufs comme vous et moi.

"As I've thought about these content issues, I've increasingly come to believe that Facebook should not make so many important decisions about free expression and safety on our own."

Mais oui Mark, c'est bien. On progresse. Bon maintenant on va aborder la question de la représentation de la nudité dans l'art pictural. Et puis après on ira dessiner des foufounes pour se détendre.

Tiens j'en profite parce que c'est aussi un peu le sujet, l'autre jour je vous parlais de la différence entre un espace public et une plateforme privée. Allez y jeter un oeil si vous voulez et revenez ici juste après.

Non vraiment il est fort y'a pas à dire. Donc il va - peut-être - créer une cour d'appel.

Sinon bon ben une cour d'appel ça existe déjà dans la vraie vie. C'est :

"une juridiction de droit commun du second degré. Elle examine un litige déjà jugé, par exemple par un tribunal correctionnel ou un tribunal de grande instance. Lorsqu'une des parties n'est pas satisfaite du jugement, elle « interjette appel » (et non pas « fait appel »). Alors que les juridictions de première instance rendent un « jugement », une cour d'appel rend un « arrêt », qui peut confirmer ou annuler le jugement initial. Après un arrêt de la cour d'appel, il est possible d'exercer un pourvoi en cassation. S'il est recevable, l'affaire n'est pas jugée une troisième fois mais il est vérifié que les règles du droit ont bien été appliquées.

Donc Tribunal correctionnel ou de grande instance, puis si t'es pas content, cour d'appel, puis si t'es toujours pas content pourvoi en cassation.

D'ailleurs ça existe aussi aux Etats-Unis et ça fonctionne à peu près pareil.

"Les cours d'appel fédérales des États-Unis (United States Courts of Appeals) sont les juridictions d'appel du système judiciaire fédéral américain. Elles connaissent de ce fait de tous les litiges jugés en première instance par les 94 cours de district qui dépendent de leurs juridictions, ainsi que ceux émanant des différentes grandes commissions administratives. Il s'agit de l'avant-dernier niveau du système judiciaire fédéral, avant la Cour suprême des États-Unis."

Donc tribunaux fédéraux de première instance (district), puis si t'es pas content cour d'appel, et pis si t'es toujours pas content Cour Suprême.

Voilà. Donc avec les cour d'appel existantes on pourrait être dans l'option 7 décrite au début de ce billet. Pour autant que Facebook soit un espace public soumis aux lois dudit espace public. Ce qu'il n'est pas. Il n'est ni un espace public, ni soumis aux lois, à commencer par les lois fiscales.

Du coup, c'est - presque - cohérent, il veut créer sa propre cour d'appel. Pour son propre espace semi-public semi-privé de 2,5 milliards de vrais gens. Et il réfléchit parce que bon c'est compliqué et bon il ne sait pas trop qui il va mettre dedans, ni pour combien de temps, ni avec quelles attributions. Bref m'est avis qu'il nous enfume autant que Snoop Dogg pendant une soirée weedjama (une soirée weedjama c'est comme une soirée pyjama mais avec de la weed).

Voilà.

Une cour d'appel, un comité des sages, et mon cul sur la commode.

Alors vous me dites : mais du coup cette cour d'appel, est-ce que quand même ça ne pourrait pas marcher ? Après tout faut essayer non ? Et là moi je vous dis : "Non".

Deux milliards et demi d'individus. Des médias (chaînes de télé, journaux papier, etc). Et la volumétrie d'interactions, d'échanges, de partages et de rediffusion qui vont avec tout ça. Et une cour d'appel. Ça. Ne. Marchera. Jamais. JA. MAIS.

Si vous n'êtes pas convaincu(e)s, souvenez-vous du projet de Google qui, en 2014, avait annoncé la création d'un "comité des sages" supposé trancher pour des cas particuliers (et des cas "de particuliers") entre ce qui relevait du "droit à l'oubli" et ce qui relevait de la liberté d'information. Figurez-vous que le concept n'a pas marché. Etonnant non ? Ben non.

La "cour d'appel pour contenus controversés" est promise au même avenir radieux que le "comité des sages pour le droit à l'oubli". Et à la même inefficacité.

Et là vous me dites :

Ben alors faut faire quoi ?

Rien. Il ne faut rien faire. En l'état rien ne permettra de limiter significativement le potentiel de nuisance de Facebook et de son architecture technique toxique. Rien parce qu'aucun algorithme jamais ne pourra défendre la démocratie. Rien parce le principal problème de Facebook est extraordinairement simple : il vient essentiellement de son modèle économique et on ne change pas un modèle économique qui rapporte, si toxique et destructeur soit-il.

Donc comme Facebook ne changera pas de modèle économique, comme Facebook continuera de déployer son architecture technique toxique sur des pans de plus en plus essentiels de nos vies et de nos démocraties, comme aucune intelligence artificielle ne permettra jamais de solutionner le problème de l'insondable bêtise de nos comportements grégaires dans des contextes particuliers de communication (numérique ou non), il faut, oui j'en suis convaincu, nationaliser Facebook. Ou le démanteler. Ce qui revient au même.

C'est important et c'est urgent.

Parce qu'il est important et urgent que l'essentiel de ces interactions numériques, de nos interactions numériques, reviennent dans l'espace public. Qu'elles y soient re-situées pour pouvoir mieux y être restituées. Et que s'y appliquent, aussi simplement qu'essentiellement et exclusivement, les seules lois régulant l'espace public de la démocratie.

Tout le reste, c'est de la comm. et des "Relations Publiques". Compris ?

Voir en ligne : https://www.affordance.info/mon_web...

Trump, Google, l'idiot utile, les architectures techniques toxiques et le meilleur des algorithmes possibles.

olivierertzscheid — 2018-12-17T12:00:00Z

Un article d'Olivier Ertzscheid, repris de son blog Affordance.info, un site sous licence CC by sa nc

Sundar Pichai est la PDG de Google. C'est lui qui préside aux destinées algorithmiques de ce qui est bien plus qu'un moteur de recherche. Et comme nombre de patrons et responsables des GAFA ces derniers temps, il était auditionné devant le Congrès américain. Avec en ligne de mire le projet DragonFly (installation du moteur en Chine), la responsabilité (ou pas) dans la diffusion de fausses nouvelles, la question des biais politiques, le sujet des données personnelles, et encore possiblement bien d'autres sujets.

L'idiot utile.

Lors de cette audition une sénatrice démocrate lui demanda pourquoi c'était la photo de Trump qui apparaissait quand on tapait "Idiot" dans Google Images. Sa réponse fut que Google traitait chaque année plus de 3000 milliards de requêtes (dont 15% d'inédites chaque jour), que tout était automatisé, que c'était une question d'échelle ("large scale"), que plus de 200 critères était à chaque fois pris en compte pour extraire et classer les bonnes pages depuis leur base d'index et que de toute façon ...

"Nous n'intervenons pas manuellement sur les résultats de recherche".

Au milieu des arguments récités par Sundar Pichai, la sénatrice démocrate se permit une petite blague en mode "Ah bon ce n'est pas un petit bonhomme en coulisse qui fait tout cela à la main ?" Evocation qui convoqua immédiatement chez moi le souvenir du Turc Mécanique, célèbre canular du 18ème siècle où un marionnettiste caché donnait l'impression qu'un automate jouait (fort bien) aux échecs. Nous y reviendrons.

"Nous n'intervenons pas manuellement sur les résultats de recherche".

Cette phrase est une phrase quantique. Elle est à la fois vraie et fausse. C'est pas une phrase, c'est le chat de Shrödinger. Voici pourquoi.

D'abord, bien sûr, c'est vrai que Google n'intervient pas à la main sur chaque résultat de recherche pris isolément (3000 milliards de requêtes par an dont 15% de nouvelles chaque jour ... ça ferait du taff). Ni d'ailleurs sur des résultats de recherche pris globalement. En fait ni Google ni aucun moteur de recherche n'intervient "à la main" sur des résultats de recherche. C'est même précisément cela le principe des "moteurs de recherche" et ce qui fait qu'ils ont remplacé les ... "annuaires de recherche" où les sites étaient uniquement classés à la main et rangés à la main dans des catégories elles-mêmes faites à la main.

Et en même temps ... il est bien sûr vrai que Google intervient manuellement sur les résultats de recherche. L'algorithme de Google et les 200 critères évoqués par Sundar Pichai sont déterminés, choisis, pondérés et appliqués non par par une quelconque entité divine en mode "Deus Ex Technica" mais par les ingénieurs de Google qui, à ce titre, ont la responsabilité (intellectuelle sinon manuelle) des résultats qui apparaissent suite à une requête. Ils sont semblables au manipulateur caché qui permettait à l'automate de jouer aux échecs dans le Turc Mécanique que j'évoquais plus haut. A ceci près, accordons-leur pour filer la métaphore, qu'ils ne manipulent pas chaque coup mais qu'il supervisent les choix tactiques de l'ensemble de la partie. Sachant que de toute façon :

L'algorithme de Google est donc "manipulé" pour autant que "manipuler" implique de hiérarchiser des critères et des opérations permettant d'aboutir à la résolution rapide d'un problème, ce qui est la définition d'un algorithme comme rappelé ici.

Le doigt qui clique et la main invisible.

Et c'est là où la technique s'arrête de réfléchir et où l'on a besoin d'autre chose que de décortiquer du code informatique pour comprendre ce qui est véritablement en jeu. Car cette "manipulation", ce réglage ou plutôt ces "200 critères pondérés" qui entrent en jeu à chaque fois qu'il faut afficher et classer des résultats, cette manipulation donc, installe une vision du monde qui repose sur des croyances et des présupposés qui sont sa propre grille d'analyse.

Pardon de m'auto-citer mais il y a 14 ans (en 2004) avec un collègue nous écrivions ceci :

"Quand nous consultons une page de résultat de Google ou de tout autre moteur utilisant un algorithme semblable, nous ne disposons pas simplement du résultat d'un croisement combinatoire binaire entre des pages répondant à la requête et d'autres n'y répondant pas ou moins (matching). Nous disposons d'une vue sur le monde (watching) dont la neutralité est clairement absente. Derrière la liste de ces résultats se donnent à lire des principes de classification du savoir et d'autres encore plus implicites d'organisation des connaissances. C'est ce rapport particulier entre la (re-)quête d'un individu et la (re-)présentation d'une connaissance qui était présente dans les bibliothèques de la Haute-Egypte, pour en être évacuée avec l'arrivée des principes de classement alphabétiques.

Une nouvelle logique se donne à lire. Moins « subjective » que les principes classificatoires retenus par une élite minoritaire (clergé, etc.) elle n'en est pas moins sujette à caution. Les premières étaient douteuses mais lisibles, celles-ci le sont tout autant parce qu'illisibles, c'est-à-dire invisibles."

En fait l'algorithme de Google c'est un peu comme la main invisible du marché d'Adam Smith, en tout cas dans son interprétation la plus courante, c'est à dire cette "force qui fait de l'intérêt de l'un, l'intérêt des autres".

De Leibnitz au Google Bombing.

Je vais essayer de m'expliquer en prenant un exemple simple et déjà très documenté, celui du Google Bombing. Quand Brin et Page inventent l'algorithme du Pagerank dans lequel (je fais la version vraiment très simple hein) ils présupposent qu'un lien hypertexte vers une page correspond à un vote "pour" cette page et qu'il suffit donc de compter tous ces votes pour voir quelles pages sont les plus pertinentes, ils s'appuient sur un postulat d'optimisme semblable à celui de la Théodicée de Leibnitz telle que reprise et raillée dans le Candide de Voltaire, à savoir que nous vivons dans le meilleur des mondes possibles. Comme le résume très bien Wikipédia (je souligne) :

"Les Essais de Théodicée ont pour objectif de résoudre le problème du mal : comment admettre d'une part l'existence d'un Dieu bon, omniscient et omnipotent, et d'autre part l'existence du mal ? La réponse de Leibniz est que le monde tel que nous le connaissons est le meilleur des mondes possibles".

Du point de vue de Google et de Sundar Pinchai, leur algorithme est vu comme le meilleur des algorithmes possibles à l'échelle du meilleur des mondes possibles. Il est ce "Dieu algorithmique" bon, omniscient et omnipotent qui ne peut empêcher l'existence du mal ou le fait que Trump soit un idiot.

Ni Brin ni Page ne conçoivent leur algorithme pour un monde dans lequel des gens vont s'appuyer sur ses principes pour décrier ou moquer ou ridiculiser des personnalités publiques comme ce fut le cas pour Georges W. Bush ce misérable crétin, pour Nicolas Sarkozy ce trou du cul, et pour tout un tas d'autres plus ou moins illustres. A ce titre, la croyance, le postulat, le présupposé qui permet à l'algorithme de fonctionner à l'image de ce pour quoi il a été conçu est celui d'une bienveillance la plus partagée possible. Ou en tout cas d'une absence de malveillance qui serait communément la plus partagée. Si le critère d'établissement d'un lien change de nature, s'il ne s'agit plus de pointer vers une page "remarquable" au sens premier, mais de dénigrer ou de moquer ou d'insulter, alors se produit un détournement technique qui peut être précédé ou suivi d'effets de manipulation de l'opinion.

Donc l'algorithme Pagerank de Google, tout comme l'algorithme Edgerank de Facebook et tout un tas d'autres algorithmes de tout un tas d'autres sociétés sont des algorithmes Leibnitziens. Ils ne fonctionnent qu'à l'échelle du meilleur des mondes possibles. Et nous en sommes souvent les Candides. Or c'est cette conception même qui pose aujourd'hui problème.

La main dans le pot de l'algorithme.

Par ailleurs, dans des cas de Google Bombing comme dans d'autres cas de suggestions de recherches à caractère raciste, Google a mis la main dans l'algorithme, soit pour nettoyer la cible du Google Bombing (depuis Juin 2007, via un réglage à la main de l'algorithme), soit pour supprimer certains mots-clés associés dans des suggestions de requête.

Ces algorithmes ont été pensés et conçus (et vendus) pour un monde théorique bâti sur le postulat qu'il serait - le monde - le meilleur de ceux possibles. Et de fait, le principe de base du Pagerank envisagé comme indice de citation dans la lignée des travaux de Garfield en bibliométrie, demeure à ce jour le meilleur des algorithmes possibles pour rendre compte d'effets de popularité à l'échelle du volume de contenus qu'il est supposé hiérarchiser et auquel il souhaite donner accès.

Le problème ne vient pas tant de l'algorithme que de l'architecture technique toxique dans laquelle il opère.

Lorsque ces algorithmes opèrent dans des espaces qui sont ceux d'architectures techniques toxiques (parce qu'elles amplifient certains biais cognitifs, parce qu'elle valorisent la viralité au détriment de la véracité ou de vérifiabilité, parce qu'elles n'ont pour objectif que la spéculation sur nos données et sur les espaces discursifs qui les rendent exploitables, etc.), alors le principe selon lequel s'appliquerait "la force qui fait de l'intérêt de l'un, l'intérêt des autres" cesse d'être opérant car gangréné par une logique spéculative principalement incarnée par la rentabilité publicitaire.

1 Marx et ça repart.

Le problème ce n'est pas le travail algorithmique capable de tourner indéfiniment sur les ressources qu'il cible. Le problème est que ce travail algorithmique est au service de l'exploitation d'un capital linguistique qui n'est pas infini et que l'on astreint à des formes de rentabilité et de spéculation totalement incohérents avec l'horizon des communautés discursives et linguistiques qui en disposaient jusqu'ici depuis quelques millénaires dans un cadre non-marchand, dans un cadre "hors-marché". Le problème est que ce capital linguistique est également un capital social ; c'est même le premier d'entre eux. Or la logique spéculative qui l'exploite et l'use, finit également par corrompre le capital social et culturel de ceux qui tentent, simplement, d'y avoir accès en le mettant en mots.

Voilà pourquoi le fait que Google ne remonte que des sites négationnistes quand on lui pose la question "L'Holocauste a-t-il vraiment existé ?", voilà pourquoi cela est un problème majeur pour l'ensemble de nos sociétés. Non pas parce que l'algorithme a failli ou a été manipulé mais parce qu'il déconstruit ostensiblement un capital social et culturel sans lequel nous ne sommes plus capables de comprendre l'histoire et donc de faire société. Parce qu'il remplace les mots qui ont un sens par les mots qui ont un prix.

Just a Fool, perdu dans la foule.

Dans un article récent j'essayais de comprendre comment nous étions passé en quelques années de "la sagesse des foules", de cette idée d'une intelligence collective mesurable et observable dans les processus de publication et de partage, sagesse sans laquelle l'algorithme de Google ne valait rien, à une forme de folie des foules, remplie de "raids numériques", d'opérations de lynchage, de harcèlement, d'insulte et d'incitations à la haine. Tout en rappelant que ces derniers phénomènes demeuraient marginaux en nombre mais que leur toxicité finissaient par pourrir l'image que nous nous faisions de l'écosystème en entier, j'avais expliqué ceci :

"Laisser se déployer la volumétrie des logiques de harcèlement, ou refuser de prendre les mesures nécessaires pour les stopper rapidement et efficacement, équivaut, aussi trivialement que cyniquement, à entretenir la spéculation linguistique sur des logiques de haine, de détestation, de stigmatisation, de colère, etc. Et quand on est une plateforme qui repose sur un triptyque capitaliste (capitalisme linguistique, cognitif et "de surveillance"), on ne combat jamais la spéculation : on l'entretient, on crée les conditions de son existence, on la rend possible, on la facilite."

Sur cette logique spéculative, lorsqu'elle se décline dans des architectures techniques toxiques se nourrissant de promiscuité et de mensonge et qui sont pensées pour invisibiliser et rentabiliser des actions de manipulation et d'influence, le meilleur des algorithmes possibles cesse d'entretenir un idéal d'intelligence pour se ranger au service de la bêtise du plus offrant et du moins bien disant.

Et là vous pourriez me dire : "Ok mais au-delà d'un certain seuil, d'une certaine immensité de contenus, de gens et/ou d'interactions, une architecture technique peut-elle être autre chose que "toxique" ?"

Oui c'est possible.

Prenez une architecture technique à très large échelle, tant par le nombre de contenus gérés et générés, que par les serveurs lui permettant de les mettre à disposition et à jour. Prenez également des millions d'utilisateurs qui chaque jour publient et interagissent des millions ou des milliards de fois. Faites-y tourner différents algorithmes ("bots") pour effectuer un nombre ahurissant de modifications pour ou moins substantielles sur l'ensemble des contenus produits et accessibles. Faites en sorte que chaque action ou modification, c'est à dire au final que chaque décision puisse être documentée et rendue accessible pour n'importe qui. Appuyez-vous sur un espace public, un espace réellement public de publication et de partage. Evacuez totalement le paramètre publicitaire de votre modèle économique. Je répète : évacuez totalement le paramètre publicitaire de votre modèle économique.

Et voilà. Vous y êtes. Vous avez assaini totalement une architecture technique qui touche pourtant quotidiennement des millions de personnes, qui est pourtant modifiée quotidiennement par d'autres millions de personnes - et de bots -, et qui nécessite pour tourner des milliers de serveurs partout dans le monde. Vous avez inventé Wikipédia.

Wikipédia est la preuve qu'il n'y a pas de fatalité toxique pour une architecture technique à large échelle. Il est possible, parfaitement possible, à l'échelle qui est celle des grandes plateformes comme Google ou Facebook, de déployer une architecture technique non-toxique. Mais pas en gardant leur modèle économique actuel.

La lune, l'idiot, le sage, le doigt et l'algorithme.

Des gilets jaunes au printemps arabe, de Bush en crétin à Trump en idiot en passant par Sarkozy en trou du cul, la question n'est pas celle du calcul algorithmique qui favoriserait ceci ou cela, permettrait l'émergence de telle révolte ou de telle autre. La question c'est celle de l'érosion d'un capital linguistique et culturel au laminoir d'architectures techniques toxiques qui ont accepté et fait dogme du fait que leur succès soit conditionné à l'épuisement de nos ressources linguistiques, culturelles et attentionnelles.

Oui le rôle de ces architectures techniques toxiques est aujourd'hui déterminant dans la formation de l'opinion et chaque jour qui vient, à chaque échéance politique nouvelle, il le sera davantage.

Oui il existe aujourd'hui un risque clair et évident que ces architectures techniques toxiques interfèrent avec l'espace public de la démocratie sans que nous ne soyons aujourd'hui capables d'en prévoir l'issue ni même d'en juger les motivations.

Oui il existe un risque clair et évident que dans le paysage actuel de l'accès à l'information et aux connaissances, des biais "techniques ou algorithmiques" soient en capacité de faire naître, d'entretenir ou de commanditer des actions d'influence et de lobbying invisibles des états contre qui ils pourraient être lancés.

Et non, non, et non, nous ne disposons d'aucun garde-fou démocratique (législatif, institutionnel, médiatique ou politique) pour nous en prémunir efficacement ou à tout le moins pour être en capacité d'identifier le problème et de quantifier son potentiel de nuisance autrement qu'a posteriori (comme ce fut le cas avec Cambridge Analytica dans l'élection de Trump ou le vote pour le Brexit).

C'est cela qui est idiot. Et rien d'autre. C'est pour cela qu'il est urgent de répondre à la question du "statut" et de la responsabilité juridique et pénale de ces grandes plateformes. Et comme il est peu probable qu'elles renoncent à la toxicité avérée de leur modèle économique, nous n'aurons d'autre choix que celui d'un démantèlement ... ou d'une nationalisation ;-)

Sans basculer dans l'affolement mais avec une observation rationnelle de ce qui est en train de se jouer à la lisière de l'espace public démocratique et de sa captation par des plateformes privées, faute d'une vraie réflexion de fond sur ces sujets, nous risquons de nous réveiller dans un monde entre Kafka, Orwell et Idiocracy. Et ce réveil pourrait avoir lieu bien plus tôt que nous ne l'imaginons aujourd'hui.

Et à chaque fois que nous aborderons ces questions, déterminantes, gardons en tête le vieux proverbe chinois :

"Quand le sage montre la lune l'architecture technique toxique, l'idiot regarde le doigt l'algorithme."

Voir en ligne : https://www.affordance.info/mon_web...

Algorithmes partout, intelligence nulle part. A propos de Gillian Brockell.

olivierertzscheid — 2018-12-13T17:57:00Z

L'histoire est de celles qui font monter les larmes. En tout cas moi j'ai eu les yeux qui piquent en la lisant. C'est celle d'une femme qui à perdu son enfant à la naissance. Un enfant mort-né. Une femme qui écrit aux patrons des GAFA, aux patrons des "Tech Companies", pour leur demander d'arrêter de lui proposer des liens publicitaires sur une maternité dont elle doit faire le deuil.

Cette femme s'appelle Gillian Brockell. Et voici la lettre qu'elle a publié sur Twitter (ma traduction)

"Chères entreprises technologiques,

Je sais que vous avez su que j'étais enceinte. C'est ma faute, je n'ai pas pu résister aux Hashtags #30weekspregnant et #Babybump sur Instagram. Et j'ai été tellement stupide que j'ai même cliqué une fois ou deux sur des publicités que me proposait Facebook pour des vêtements de maternité.

Vous avez certainement vu ma lettre de remerciement à toutes mes amies qui sont venues pour la fête prénatale et à mes soeurs qui ont pris un vol depuis l'Arizona et qui m'ont tagué dans leurs photos. Vous m'avez certainement vu taper sur Google "robe de vacances maternité" et même "barrière de sécurité pour lit bébé". Et je parie qu'Amazon vous a même donné ma date de terme, le 24 Janvier, lorsque j'y ai créé ma liste de voeux de cadeaux de naissance.

Mais ne m'avez vous pas vu également taper "est-ce que c'est une contraction de Braxton Hicks ?" et "bébé qui ne bouge pas" ? N'avez vous pas remarqué les trois jours de silence, très inhabituels pour une utilisatrice très connectée comme moi ? Et puis n'avez-vous pas vu non plus l'annonce avec les mots-clés "coeur brisé" et "problème" et "mort-né" et les 200 émoticônes larmes de mes amis ? Cela ne fait-il pas partie des choses que vous pouvez surveiller ?

Vous savez, il y a 26 000 décès à la naissance aux USA chaque année, et des millions de plus parmi vos utilisateurs à l'échelle de la planète ; et laissez-moi vous expliquez ce que sont les réseaux sociaux quand vous rentrez finalement chez vous en sortant de l'hôpital avec les bras les plus vides du monde, après que vous avez passé des jours à sangloter dans votre lit et que vous allumez votre téléphone pour quelques minutes de distraction avant de vous effondrer de nouveau en larmes. C'est exactement, de manière écrasante, la même chose que si votre bébé était encore en vie. (La lettre de Gillian mentionne ici les trois principales marques de vêtements pour les femmes enceintes et les jeunes mamans)

Et lorsque des millions de gens avec le coeur brisé cliquent sur "je ne veux pas voir cette publicité", et que là encore votre réponse est "pourquoi ?" avec le cruel mais vrai "ce n'est pas pertinent pour moi", vous savez, vous, les entreprises technologiques, ce que votre algorithme décide ? Il décide que vous avez accouchée, il suppose que tout s'est bien passé, et il vous inonde de publicités pour les meilleurs soutien-gorge d'allaitement (j'ai des feuilles de chou sur mes seins parce que c'est que la médecine offre de mieux pour stopper la montée de lait), il vous inonde de trucs et astuces pour endormir bébé (je donnerai n'importe quoi pour pouvoir l'entendre crier la nuit), et d'annonces pour les meilleures poussettes pour ses premières années de croissance (le mien pèsera pour toujours 1 kilo et 800 grammes)

Et puis, après tout ça, Expérian (société spécialiste du ciblage marketing) s'enfonce encore avec le ciblage le plus inapproprié qui soit : un courriel non-sollicité (spam) qui m'encourage à "finir la déclaration de naissance de mon enfant" (que je n'ai hélas jamais commencée) pour pouvoir le suivre tout au long de la vie qu'il ne mènera jamais.

S'il vous plaît, entreprises technologiques, je vous en supplie : si vous êtes assez intelligentes pour comprendre que je suis enceinte, que j'ai accouchée, alors vous êtes également suffisamment intelligentes pour comprendre que mon bébé est mort et pour me diffuser des publicités appropriées, ou peut-être, peut-être, pour ne pas me diffuser de publicités.

Sincèrement

Gillian."

Cette femme c'est le crapaud fou algorithmique, celle qui ne rentre pas dans les clous, dans les motifs, dans les "patterns" de prévisibilité et de prédictibilité de l'empreinte comportementale et navigationnelle qui fait de nous ce que nous sommes aux yeux des grandes plateformes : des documents comme les autres.

Gillian Brockell est l'exemple de ce que j'appelais, dans un contexte moins dramatique, la dysalgorithmie, ce "trouble de résistance algorithmique où le sujet fait preuve d'un comportement ou d'opinions non-calculables".

Gillian a raison. Les "Tech Companies" savaient. Elles ont vu ses requêtes, elles ont constaté son inactivité inhabituelle, elles ont enregistré les émoticônes "larmes". Elles savaient. Mais elles s'en foutaient.

A l'échelle qui est la leur, à l'échelle macro du ciblage comportemental, Gillian et son bébé ne comptent pas. Gillian et son bébé sont un simple bruit parasite dans la grande marche algorithmique de la prévisibilité qui ne tolère les écarts qu'à condition qu'elle puisse y creuser un nouveau segment marketing, une nouvelle critériologie de ciblage. Il y a des catégories à disposition des publicitaires pour à peu près tout et n'importe quoi : on peut cibler ceux qui détestent les juifs, ceux qui détestent les noirs, on peut cibler les suprémacistes blancs, non vraiment, on peut cibler à peu près tout. Mais on ne peut pas cibler Gillian et son bébé. On ne peut pas cibler les "décès à la naissance".

Oh la catégorie existe. Il est en tout cas plus que probable qu'elle existe. Mais simplement elle n'est pas utilisée. Car elle n'est pas utile. Elle ne sert à rien puisqu'on n'a pas encore trouvé de truc à vendre à une maman dont le bébé est mort-né. Parce qu'une maman dont le bébé est mort-né n'a pas envie d'aller acheter des trucs.

C'est juste ça la putain de raison qui fait que Gillian continue de se taper toutes ces putains de publicités. C'est juste ça. Juste parce qu'il n'y a pas de putain de marché pour les bébés morts-nés et leurs familles.

Ces derniers jours j'ai répondu à plein d'interviews à propos de Facebook et des algorithmes, suite à mes articles sur les Gilets Jaunes. A un journaliste du Guardian pour un article qui devrait paraître aujourd'hui ou demain j'ai dit ceci :

"Il nous faut avoir en tête quelque chose d'important : jamais depuis que l'humanité existe, jamais aucun "média", jamais aucune "plateforme" n'a été capable d'atteindre quotidiennement autant de citoyens ni d'aussi bien connaître chacune de leurs intentions et de prévoir chacun de leurs comportements. Si un observateur d'une autre planète débarquait aujourd'hui, s'il prenait connaissance de ces éléments et si nous lui indiquions que nous vivons malgré cela "en démocratie" il éclaterait immédiatement de rire car il penserait que nous lui faisons une blague ou que nous sommes fous".

Notre folie est également celle qui fait que nous laissons exister des critères de ciblage publicitaire qui ne ciblent que la haine, parce que la haine est un marché. Qui ciblent aussi la détresse et la maladie. Car la détresse et la maladie sont des marchés, et des plus florissants, et des plus prometteurs.

Rien n'échappe au marché depuis que les mots, même les mots, sont vendus aux enchères. Tout le monde le sait. Beaucoup de monde le dénonce. Beaucoup de gens s'en inquiètent. Les fondateurs même de ces plateformes le savent. Ils le savent parfaitement. Ils l'ont écrit.

Et puis au milieu, il y a Gillian, son bébé, et toutes les autres Gillian et tous leurs autres bébés. Qui ne sont pas un marché. Même pas une part de marché. Que pèsent "1 kilo et 800 grammes" sur le marché publicitaire ? Ce n'est même pas le poids d'une larme.

Peut-être que l'histoire et la lettre de Gillian déclencheront chez les géants de la tech, une étincelle. Mais oui. Bien sûr. C'est un marché. Un marché "de niche". Ce qui va dans une niche est un chien. Et il n'y a rien à attendre d'autres d'entreprises technologiques bâties sur un modèle de rente publicitaire et attentionelle qu'une forme extrême ... de cynisme.

En exergue de mon livre "L'appétit des géants" figure la phrase de Paul Saffo :

"La valeur d'un réseau social n'est pas seulement définie par ceux qui sont dedans mais par ceux qui en sont exclus."

Chacun est libre de critiquer ces géants de la Tech. Ces GAFAM. Des les mépriser même. Tout en les utilisant d'ailleurs. Pourquoi pas après tout. Sommes-nous finalement autre chose que la somme de nos contradictions ? Mais il ne faudra pas les lâcher. Pas une seconde. Parce que chaque jour ces entreprises et leurs dirigeants nous expliquent qu'ils ont un projet de société. Qu'ils veulent bâtir de "nouvelles infrastructures", qu'ils veulent rapprocher les gens. Hier le slogan de Google était "Don't Be Evil", aujourd'hui c'est juste "Do The Right Thing".

Dans ce monde où la publicité est tellement personnalisée qu'elle est incapable de discerner l'émotion d'une naissance de celle d'un deuil, dans ce monde là, le patron du principal média temps réel de la planète, le patron de Twitter, part faire du tourisme et de la méditation à Myanmar, sur les lieux même du génocide des Rohingyas. Et il trouve ça cool. Allez savoir, peut-être qu'il n'a pas de compte Twitter. Peut-être qu'il s'en fout. Ou peut-être qu'il est juste très con, ou très occupé. Je n'en sais rien. Le patron de Facebook, lui, va encore hésiter un peu avant d'aller faire du tourisme à Myanmar puisque sa plateforme est directement mise en cause dans le rôle qu'elle a joué dans ce génocide en attisant la haine contre cette minorité.

Dans ce monde là, qui est leur monde, qui est le nôtre, il y a aussi Gillian Brockell et son bébé. Il y a le "travail de deuil" qui n'a rien d'un "Digital Labor."

Une pensée pour Gillian, que je ne connais pas, mais dont l'histoire nous dit très exactement ce que nous sommes en droit d'attendre de ces plateformes pour autant qu'elles aient un projet de société. Juste une forme exacerbée de cynisme.

La lettre de Gillian a été republiée dans le Washington Post (pour lequel elle travaille).
Sur l'Obs, Emilie Brouze revient sur l'histoire de Gillian et rappelle d'autres cas de "cruauté algorithmique".
Pixels (Le Monde) revient aussi sur l'affaire et présente les réponses de Facebook : "on est désolé, il existe un paramètre pour bloquer ces publicités, on va essayer de le rendre plus accessible". Voilà. C'est vrai que dans ces cas là on pense forcément à régler un paramètre de confidentialité sur Facebook. Cynisme, disais-je.
Bon OK l'histoire à l'air bien partie pour faire beaucoup de bruit ... et donc sur la BBC, Facebook a plutôt l'air de plaider le bug ...

L'histoire de Gillian Brockell continue de faire le tour de la planète et du web. Et puisque je parlais de cynisme, elle raconte elle-même comment après avoir finalement réussi à trouver où désactiver les "parental Ads" dans Facebook, celles-ci avaient presqu'instantanément été remplacées par des publicités ... pour l'adoption.

Voir en ligne : https://www.affordance.info/mon_web...

L'algorithme de la marque jaune.

olivierertzscheid — 2018-12-07T17:58:00Z

Un article d'Olivier Ertzscheid, repris de son blog Affordance.info, un site sous licence CC by sa nc

Oui. Encore un article sur Facebook et les Gilets Jaunes.

J'ai passé les deux derniers jours essentiellement au téléphone à répondre à des interviews et à voir s'envoler les statistiques de consultation de mes trois articles sur Facebook et les Gilets Jaunes.

19 Novembre : "Les gilets jaunes et la plateforme bleue."
30 Novembre : "Gilets Jaunes : de l'algorithme des pauvres gens à l'internet des familles modestes."
5 décembre : "Après avoir Liké, les Gilets Jaunes vont-ils voter ?"

Dans la plupart de ces entretiens, la question qui revient tout le temps est celle de "l'algorithme de Facebook".

Alors "l'algorithme de Facebook" s'appelle le "Edgerank" et c'est un peu comme la recette du Coca-Cola : tout le monde à une vague idée de ce qu'il peut y avoir dedans mais personne ne sait exactement ce qu'il y a vraiment dedans. Et du coup le monde se divise entre ceux qui se disent que "bon bah ouais c'est super sucré mais c'est pas pire qu'autre chose" et ceux qui se disent que "non mais oh mon dieu c'est tellement toxique que ça peut trouer des chaussures de sécurité si tu t'en renverses dessus !!". La vérité est, bien sûr, ailleurs.

Il existe dans le monde merveilleux des internets plein de documents et d'articles expliquant le fonctionnement de l'algorithme de Facebook et les critères qu'il utilise. Voici un extrait d'un article qui me semble, pour le grand public, tout à fait juste et suffisamment éclairant :

Lors du F8 Summit, Adam Mosseri (responsable du NewsFeed, il a pris depuis Octobre 2018 la direction d'Instagram) a fait une analogie très intéressante avec un exemple de la vie courante pour illustrer comment le News Feed Algorithm fonctionne. Et il a choisi comme exemple, le choix d'un repas pour une autre personne au restaurant pour illustrer le fonctionnement du News Feed Algorithm. Admettons que vous deviez choisir un plat pour votre femme au restaurant, comment est-ce que vous feriez ? Selon Adam, ce « processus » se fait en 4 étapes :

D'abord, regarder le menu pour connaitre ses options.

Réfléchir à toutes les informations à notre disposition (i.e. Qu'est-ce qu'elle aime manger, est-ce le déjeuner ou le dîner, quels sont les bons plats au restaurant)

De là, faire des prédictions (i.e. est-ce qu'elle aimerait du saumon pour déjeuner, serait-il bizarre de commander un croissant au soir, etc.)

Vient le moment de passer commander : la conclusion.

L'algorithme de Facebook fonctionne de la même façon, en 4 étapes :

Inventaire (Qu'y-a-t'il au menu ?)

Contexte et signaux (Quel heure est-il ? Est-ce le déjeuner ou le dîner ?)

Prédictions (Est-ce qu'elle aimerait du saumon ?)

Score (Passer commande)

Laissez-moi vous expliquez plus en détail ces 4 étapes.

Inventaire : Quand vous vous connectez sur Facebook, l'algorithme de Facebook fait un inventaire de tout ce qui a été publié par vos amis et les pages que vous suivez.
Signaux : Facebook analyse ensuite toutes les données à sa disposition pour justement prédire les publications qui vous intéressent le plus. Ces données, Facebook les appelle les ‘signaux'. Facebook utilise des milliers de signaux pour classer tous les contenus, comme : Qui a publié (un ami, une page, une personnalité), sur quel appareil l'utilisateur est connecté (téléphone, tablette, ordinateur de bureau), quelle heure est-il maintenant ? (...)
Prédictions : Facebook utilise ensuite ces signaux pour faire des prédictions sur le contenu qui pourrait vous intéresser, on parle : d'un contenu que vous aimeriez lire, d'un contenu que vous trouveriez utile ou informatif, d'un contenu sur lequel vous aimeriez interagir (aimer, commenter, partager, cliquer), d'un contenu sur lequel vous aimeriez vous arrêter (comme une belle photo ou une vidéo).
Score : Il est maintenant temps pour l'algorithme de Facebook de faire son choix et de classer les publications dans votre fil d'actualités. Pour ça, il attribue un score de pertinence (qui évalue votre intérêt supposé pour une publication) et ce pour chacune des publications. C'est donc comme ça que Facebook classe les publications (de manière très simplifiée).

L'une des images que j'utilise le plus souvent pour expliquer à mes étudiants le fonctionnement de l'algorithme de Facebook est celle-ci, jadis proposée par TechCrunch :

Ce qui sera visible sur votre mur sera donc (en plus des critères précédents) choisi en fonction de votre "intérêt" et de votre proximité avec la personne qui a posté un contenu ; en fonction de la "performance" du contenu en lui-même (sa viralité en gros) ; en fonction de la capacité de la personne qui a posté un contenu à poster des contenus en général très performants (ce qui explique la "prime" de visibilité et d'audience ainsi donnée à certains comptes dans le mouvement des Gilets Jaunes) ; en fonction du "type" de contenu (un post avec uniquement du texte sera moins partagé qu'un post avec des liens, qui lui-même sera moins viral qu'une bonne image qui elle-même l'est souvent moins qu'une très courte vidéo) ; et enfin en fonction de "l'actualité" du contenu, le fait qu'il soit récent et/ou qu'il renvoie à des événements récents (et donc toujours capables de mobiliser facilement notre attention).

L'algorithme et l'algorithmique.

Pour filer la métaphore culinaire proposée plus haut, passons maintenant au plat de résistance et allons lire la leçon inaugurale au Collège de France de Claire Mathieu (une des deux créatrices de l'algorithme ParcoursSup lui-même dérivé de l'algorithme Gale Shapley), leçon intitulée "L'algorithmique."

Dans cette leçon, Claire Mathieu rappelle la définition du dictionnaire :

"Un algorithme est un ensemble de règles opératoires dont l'application permet de résoudre un problème énoncé au moyen d'un nombre fini d'opérations."

Et elle ajoute :

"Le problème énoncé, c'est celui que nous formulons à l'issue de la phase de modélisation. Les règles opératoires, ce sont les briques de base simples, ce que nous savons déjà faire au départ. Le nombre fini d'opérations se rapporte à la notion du temps qu'il faut pour obtenir la solution."

Un algorithme ça sert à résoudre un problème avec des règles logiques et mathématiques simples et itérées (reproduites) dans un temps le plus court possible pour parvenir à une solution.

Après vous avoir montré dans les articles précédents pourquoi ce que j'appelle "l'algorithme des pauvres gens" valorise et rend hyper visibles les contenus issus des groupes et des interactions directes entre utilisateurs, essayons donc cette fois de voir quel peut être le "problème" que l'algorithme de Facebook cherche à résoudre (à part celui de garder les utilisateurs captifs le plus longtemps possible).

Si on regarde, par exemple, le fonctionnement de Google et de son algorithme Pagerank, le problème y semble assez évident et il peut être formulé comme suit :

Dans une grande très quantité de pages indexées, comment trouver celles répondant le mieux à une requête donnée ? Réponse : les plus "pertinentes" seront les plus "populaires", et cette popularité sera déterminée par le nombre de liens hypertextes pointant vers elles.

Simple. Basique.

Et Facebook donc, quel problème cherche-t-il à résoudre ?

Facebook cherche-t-il à trouver des contenus répondant le mieux à une requête ? Non puisque nous ne posons (presque) jamais de question à Facebook.

Facebook cherche-t-il à déterminer la popularité et la pertinence d'un contenu ? Non plus. En tout cas pas fondamentalement.

Fondamentalement, Facebook cherche à nous contraindre à interagir avec des contenus de la plateforme pour disposer de profils "qualifiés" (= décrits et caractérisés aussi finement que possible). Facebook appelle cela "l'engagement". L'algorithme de Facebook cherche donc à résoudre le problème de l'engagement. Problème qui peut être décrit de la manière suivante :

Comment inciter des gens à interagir avec des contenus qui ne les concernent pas et qu'ils ne recherchent pas ?

Et maintenant concentrez-vous. Oubliez ce à quoi ressemble d'habitude Facebook quand vous vous y connectez. Concentrez-vous et imaginez qu'en vous connectant à votre compte Facebook vous tombiez sur cela :

Que taperiez-vous comme requête ? Le nom d'un ami ? D'une personnalité publique ? Un thème d'actualité ? Le titre d'une chanson que vous avez dans la tête ? La définition d'un mot ? La vérité c'est que bien sûr vous ne sauriez pas quoi taper comme requête parce que Facebook n'est pas là pour répondre à vos questions.

Quand on utilise la fonctionnalité de recherche de Facebook ce n'est pas pour répondre à une question ou à une interrogation c'est 99 fois sur 100 simplement pour retrouver quelque chose ou quelqu'un que l'on connaît déjà. Et c'est pour cela que 99 fois sur 100 on n'utilise pas la barre de recherche de Facebook. On fait simplement défiler ce qui s'affiche.

Je répète : le problème de l'algorithme de Facebook est de savoir comment inciter des gens à interagir avec des contenus qui ne les concernent pas et qu'ils ne recherchent pas.

Et comme il a mis en place plein d'outils pour y parvenir (souvenez-vous que ses ingénieurs ont suivi des cours de persuasion technologique), pour peu que des contenus nous concernent, même un peu, même de loin, ou que nous les recherchions, même secondairement, même anecdotiquement, le volume d'interaction monte en flèche. Et le chiffre d'affaire de Facebook avec.

Je le répète donc une troisième (et dernière) fois, le problème de l'algorithme de Facebook est de savoir comment inciter des gens à interagir avec des contenus qui ne les concernent pas et qu'ils ne recherchent pas.

C'est cela, le problème de Facebook. Juste cela. Et c'est parce que c'est cela le problème de Facebook que nous avons collectivement un problème avec Facebook et que Facebook a également tout un tas de nouveaux problèmes dont il faudra bien qu'il finisse par répondre devant la justice et peut-être pas uniquement devant la justice fiscale. Et si l'algorithme de Facebook cherche à résoudre ce problème particulier c'est à la fois pour entretenir son propre modèle économique et pour pallier son incapacité à produire une forme de désir de questionnement :

"La zone de saisie des moteurs de recherche (sublimée jusqu'à l'épure chez Google) est un marqueur d'entraînement. Une boîte de Pandore. Une promesse qui repose sur l'absence. Une fente freudienne porteuse de tous les fantasmes. Une fois activée, une fois la requête déposée, la matière noire attentionnelle peut être librement façonnée au bon vouloir du moteur et de ses annonceurs. La zone de saisie de Facebook est superfétatoire. La zone d'activité de Facebook est son mur. Un mur qui fonctionne comme un marqueur de "suivisme", un blocage contemplatif. Le trou éveille une curiosité. Le mur implique un balayage des inscriptions déjà déposées. Dans sa course à la monétisation Facebook a raté une étape : celle du désir, celle de la requête, celle du désir de requête."

Et dans le cadre de ce problème, la question de la "vérité" ou même de la "véracité" est entièrement escamotée au seul profit de l'engagement :

"Facebook est une machine à produire de l'engagement. Google est une machine à produire de la popularité. Ce qui veut dire que le régime de vérité de Google est celui de la popularité. Est "vrai" dans l'écosystème Google, au regard des critères de l'algorithme de Google, ce qui est populaire. (...) Est "vrai" dans l'écosystème Facebook ce qui permet de produire de l'engagement, d'être "atteint" (le fameux "reach") et, par effet de bord, de "porter atteinte". Peu importe que cela soit "vérifiable", peu importe que cela soit "populaire" (effet de l'illusion de la majorité), il suffit, dans le régime de vérité de Facebook, que cela produise de l'engagement."

C'est pas très (Mantes La) Jolie.

Bien avant le mouvement des Gilets Jaunes on a beaucoup écrit sur la propension de Facebook à faciliter la diffusion de Fake News. J'ai d'ailleurs moi-même produit une analyse définitive du problème ;-) Pour vous éviter de la relire, j'y expliquais (en gros) que le problème des Fake News était quasi-exclusivement lié à une architecture technique toxique (celle de Facebook), qu'il était accru par la manière dont nos biais cognitifs standards traitaient l'information dans cette architecture technique toxique, et qu'enfin le régime de vérité des plateformes était la cerise de la malhonnêteté sur le gâteau de la mauvaise foi.

Fake News donc. Et depuis le début du mouvement des Gilets Jaunes on a beaucoup stigmatisé le fait qu'énormément de Fake News étaient diffusées et reprises par les acteurs de ce mouvement. Ok. Mais on a aussi eu tendance à utiliser cet argument comme un argument disqualifiant, un argument de classe (sociale) : "Oh regardez les Gilets Jaunes, ils ne savent pas s'informer, ils diffusent et relaient des Fake News ahurissantes." #OhWait.

Depuis hier soir, "la" vidéo qui tourne en boucle est celle de cette scène surréaliste et totalement ahurissante de jeunes lycéens agenouillés avec les mains derrière la tête et encadrés par des policiers en arme.

Cette vidéo et ces images sont bien sûr tout à fait authentiques. Et cette scène et ce qui a suivi c'est ... Bref. "Ces images terribles sont la preuve à charge d'un dérapage, qui tutoie les procédés de vengeance vidéo, ou revenge porn, plus proches de la loi du talion que du maintien de l'ordre", écrit André Gunthert. Mais là n'est pas mon sujet.

Dès que cette vidéo est "sortie" (c'était en fin de matinée hier), je l'ai vue rediffusée ("partagée") par un très grand nombre de mes "amis" ou "amis d'amis" Facebook sans qu'ils aient matériellement ou intellectuellement pu prendre le temps d'en vérifier l'authenticité. Sur le coup beaucoup de titres de presse ont bien sûr immédiatement fait des "papiers" pour générer de l'audience mais l'essentiel de ces "papiers" ne comportaient aucun élément factuel sur l'authenticité, de la vidéo, sur sa date de tournage, sur son auteur, etc. Rien. A ce moment là, et "à ce moment là" est le point important de cette phrase, à ce moment là rien ne permettait d'indiquer que cette vidéo et ces images n'étaient pas fausses ou décontextualisées ou montées ou filmées dans d'autres manifestations dans d'autres contextes.

Et pourtant des gens qui n'ont sociologiquement rien de "Gilets Jaunes", des gens qui sont par ailleurs à peu près parfaitement éduqués à l'image et à son analyse, des gens qui ne se méfient pas "des médias" ou qui n'y voient pas un ennemi, des gens parmi mes amis et mes "amis d'amis" ont instantanément partagé cette vidéo sans jamais se poser la question de son authenticité au moment où ils lui servaient de caisse de résonance. Exactement de la même manière que chez "les Gilets Jaunes", plein de gens rediffusent et partagent exactement de la même manière des vidéos et des images sans jamais se poser la question de leur authenticité au moment où ils les partagent.

Ma démonstration s'arrête là puisqu'elle n'avait pour objet que d'essayer de vous convaincre que la question des Fake News n'est pas simplement une question "d'éducation aux médias", qu'elle n'est pas non plus une question "de classe" (sociale), mais qu'elle n'est qu'une question de biais cognitif et d'architecture technique toxique. Comme je l'avais déjà analysé ici.

L'AFP Factuel et d'autres comptes de médias ont ensuite plus tard dans l'après-midi attesté que la vidéo était authentique et ont produit tous les éléments de contexte nécessaires. Mais même si ce temps de Fact-Checking fut très rapide (bravo d'ailleurs aux différents médias), il fut une éternité à l'échelle de la temporalité "virale". Alors à chaque fois que l'on expliquera que "les médias nous mentent et que c'est pas joli", souvenons-nous de l'exemple de Mantes La Jolie. Et rappelons-nous aussi que la viralité s'appuie sur une dimension émotionnelle dont l'architecture technique de Facebook se repaît, dimension émotionnelle que nous partageons avec d'autres plus jeunes ou plus vieux, plus ou moins cultivés, et plus ou moins acculturés à ces pratiques numériques.

Pour le reste, nous verrons dimanche dans quel état se trouvera le pays à l'issue d'un samedi extrêmement anxiogène. Il est urgent et vital pour nos démocraties de parvenir à réinstaurer rapidement des espaces réellement publics d'expression citoyenne ; des espaces, des modes de gouvernance et d'expression publique qui ne s'efforcent pas uniquement de singer maladroitement les codes des médias sociaux à l'échelle d'usages de classe dont le politique semble incapable de saisir et d'embrasser dans leur légitimité autant que dans leur diversité.

Indépendamment de tout le reste, Gilets jaune rouge vert ou bleu, casseur ou ou rêveur, marche pour le climat ou marche pour ma gueule, le choix d'Emmanuel Macron de ne pas intervenir publiquement avant la journée de demain ne le place plus simplement comme responsable mais comme coupable de ce qui va se produire.

Voir en ligne : https://www.affordance.info/mon_web...

Aucun algorithme jamais, ne pourra défendre la démocratie.

olivierertzscheid — 2018-11-22T18:09:00Z

Un article d'Olivier Ertzscheid, repris de son blog Affordance.info, un site sous licence CC by sa nc

Je republie ici pour archivage (et avec quelques commentaires en fin de billet) la tribune parue le 17 Septembre sur Libération.

Texte également disponible en version anglaise.

====================================================================

Aucun algorithme jamais, ne pourra défendre la démocratie.

(Mais n'importe lequel d'entre eux opérant au sein d'architectures techniques toxiques à large échelle est capable de la corrompre.)

Le 4 septembre 2018, Mark Zuckerberg a publié sur le Washington Post une tribune intitulée "Protéger la démocratie est une course aux armements. Voici comment Facebook peut nous y aider". Dix jours plus tard c'est sur sa plateforme qu'il annonce "se préparer pour les élections" : il liste les risques, les biais, les détournements, les logiques d'influence et de manipulations qui ont déjà mis en danger l'équilibre démocratique et l'organisation de scrutins. Et il annonce, une fois de plus, qu'il va essayer de corriger tout cela. Il n'y parviendra pas.

Comment avons-nous pu nous retrouver au début du 21ème siècle dans une situation où Mark Zuckerberg - et quelques autres patrons de plateformes numériques - se fixent comme objectif récurrent de "protéger la démocratie", principalement à grands coups "d'algorithmes" et "d'intelligence artificielle" et affirment que cela sera une de leurs principales "missions" au sein de leur entreprise et à l'échelle du monde ?

En 2011 deux théoriciens de l'intelligence artificielle traitant des problèmes éthiques qu'allaient poser les algorithmes écrivaient que :

"Les algorithmes de plus en plus complexes de prise de décision sont à la fois souhaitables et inévitables, tant qu'ils restent transparents à l'inspection, prévisibles pour ceux qu'ils gouvernent, et robustes contre toute manipulation." (Bostrom et Yudowski, "The Ethics of Artificial Intelligence")

Aujourd'hui, "les algorithmes" dont nous parlons se déploient au sein d'architectures techniques toxiques englobant des millions ou des milliards d'utilisateurs.

Aujourd'hui, "les algorithmes" dont nous parlons reposent sur des jeux de données propriétaires et donc totalement opaques.

Aujourd'hui, "les algorithmes" dont nous parlons sont explicitement développés pour se doter d'un niveau d'autonomie (ou "d'apprentissage") qui rend leur "comportement" et leurs décisions souvent imprévisibles pour leurs créateurs eux-mêmes.

Aujourd'hui, "les algorithmes" dont nous parlons interagissent en permanence avec d'autres algorithmes, d'autres jeux de données et d'autres architectures techniques toxiques ; et ils le font à des échelles toujours plus vastes et dans des environnements toujours plus contraints qui augmentent encore le niveau de risque et d'incertitude.

Voilà pourquoi aujourd'hui pour l'ensemble de ces raisons il est absolument impossible de garantir qu'ils soient transparents à l'inspection, prévisibles pour ceux qu'ils gouvernent et qu'ils soient, surtout, robustes contre toute manipulation.

Pendant les 10 dernières années, le combat principal d'activistes, de journalistes, de défenseurs des libertés numériques, fut celui visant à limiter l'impact de l'empreinte algorithmique sur nos vies privées et intimes. Ce combat là est terminé, obsolète et, pour l'essentiel, perdu. C'est un autre combat qu'il nous faut aujourd'hui mener, sur un tout autre front, avec une tout autre urgence et à une tout autre échelle. C'est le combat pour limiter l'impact de l'empreinte algorithmique décisionnelle sur notre vie publique, sur nos infrastructures sociales communes et sur notre destin collectif.

Il est urgent et impératif que toute forme, ambition ou projet de gouvernance algorithmique, dès lors qu'il touche à des secteurs régaliens (transport, éducation, santé, justice, sécurité) soit obligatoirement et par contrainte législative, développé sur le modèle des licences GNU GPL du logiciel libre pour garantir a minima l'auditabilité complète et pérenne des processus à l'oeuvre.

Il est urgent et impératif que le développement d'un modèle universel de portabilité de l'ensemble de nos données** soit une priorité des états, et qu'il soit imposé à l'ensemble des acteurs du monde économique en lien avec la conservation ou le dépôt de données numériques, et ce quelqu'en soient la nature, le volume et l'usage.

(** le projet SOLID porté par Tim Berners Lee pourrait en être une première approche)

Il est urgent et impératif que les entreprises qui captent aujourd'hui l'essentiel des données et des flux numériques (en gros les GAFAM, NATU et autres BATX) soient taxées à la hauteur réelle de leur volume d'affaire et que cet impôt finance directement les actions précitées, ce processus de redistribution devant impérativement rester hors du contrôle desdites sociétés. Car le processus inverse a déjà commencé, celui dans lequel quelques entreprises omnipotentes s'arrogent le droit de défier la puissance publique et l'intérêt général dans la levée de l'impôt, comme Amazon et Starbucks en ont encore récemment fait la démonstration à Seattle.

Il est urgent et impératif qu'un régime de communs informationnels soit défini positivement dans la loi et qu'il puisse inclure les algorithmes et le code mobilisables dans le cadre de toute action publique.

Enfin il est urgent, impératif et vital que tout ce qui touche directement au processus démocratique (comme le vote, l'élection, le processus de dépouillement) soit sine die placé hors de portée de toute forme d'assistance, de guidance ou de suppléance algorithmique (à commencer par les "machines à voter"). Le "vote électronique" doit être considéré pour ce qu'il est : une menace rigoureusement et définitivement incompatible avec le respect de la confidentialité du vote et donc de la démocratie.

L'enjeu est de savoir si nous serons capables à très court terme de construire une alternative qui, après le temps numérique de la "désintermédiation" des 20 dernières années, sera celle de formes de remédiations algorithmiques respectueuses du corps social et partant de sa partie la plus fragile, la plus pauvre, et la plus exposée. Alors peut-être, et alors seulement, les questions de gouvernance algorithmique pourront commencer d'être envisagées sereinement.

Hors l'ensemble de ces conditions, nous allons offrir aux générations futures un monde dans lequel le principal problème ne sera pas que Mark Zuckerberg et quelques autres patrons d'industrie se piquent d'être les gardiens protecteurs de nos démocraties mais qu'ils soient effectivement les seuls encore en position de l'être, tout en n'ayant eux-mêmes qu'une idée très vague et très approximative de la manière de s'y prendre et des chances d'y parvenir.

Il ne s'agit pas simplement de Fake News et de libre arbitre. Il ne s'agit pas simplement de la liberté de l'information ou de la liberté de la presse. Il ne s'agit pas simplement d'algorithmes, de plateformes, d'états et de nations. Il ne s'agit pas simplement d'intelligences humaines et d'autres "artificielles". Il s'agit de la liberté des peuples. Il s'agit de la liberté tout court.

=============================================

A la suite de cette tribune, quelques amis ou personnes dont j'apprécie le travail m'ont fait deux "reproches".

Le premier est celui de continuer de "croire" au catéchisme de Mark Zuckerberg. En effet ce n'est pas parce que Mark Zuckerberg annonce qu'il va protéger la démocratie qu'il est réellement en situation de pouvoir le faire. Tout au plus se met-il en situation et en scène pour que nous lui accordions la capacité de le faire, ou "pour nous faire croire que". Admettons. Mais le fait est que je crois sincèrement que la vitalité d'une démocratie se construit (et peut donc se déconstruire) essentiellement au travers de la pluralité d'un espace médiatique de circulation et de fabrique des idées (et conséquemment de l'opinion et du rapport à la vérité ou aux "régimes de vérité") et d'un espace social interpersonnel. Or indépendamment de l'ego jupitérien de Zuckerberg (et de la plupart des autres grands patrons de la Silicon Valley) s'il est aujourd'hui un écosystème capable de contrôler et d'arbitrer simultanément les deux espaces précités, il me semble que c'est bien Facebook. Mais comme précisé dans le sous-titre que j'ai ici rajouté à ma tribune initiale et conformément à l'idée que je développe sur ce blog dans de nombreux billets, ce ne sont pas tant "les algorithmes" qui constituent le danger mais les architectures techniques toxiques dans lesquels ils opèrent.

La seconde critique concerne la partie de la tribune sur le combat "perdu" de la protection de notre vie privée. J'assume. Mais là encore le format "tribune" oblige à y aller un peu à la hache et de manière parfois provocante. Mais j'assume quand même. Ceux qui me lisent savent que sur le sujet de la vie privée et des données personnelles je partage à 200% l'analyse d'Antonio Casilli selon laquelle la vie privée est désormais avant tout une affaire de négociation collective (avec les grandes plateformes). Mais quand j'indique que ce combat est pour l'essentiel perdu et obsolète je le fais de la même manière que Yochai Benkler sur le droit d'auteur quand il indique :

"Il y a 15 ans, on avait l'impression que les batailles autour du droit d'auteur étaient les plus importantes. Elles continuent à l'être : c'est essentiel de permettre aux individus d'être créatifs, de permettre aux communautés de toucher, de sentir, et de participer à l'élaboration du contexte culturel dans lequel elles évoluent. Mais aujourd'hui, la démocratie fait face à une menace tellement profonde qu'il est difficile de maintenir la même attention au sujet des droits d'auteur à l'ère numérique. Il y a 15 ans, on pouvait imaginer que la menace provenait d'Hollywood, et de la manière dont l'industrie du cinéma pouvait contrôler l'environnement culturel. Aujourd'hui, Facebook et Google accumulent tellement de données sur nous et peuvent effectuer tellement d'expériences sur les individus que le débat autour de la vie privée et du marketing comportemental me semble immensément plus urgent."

Donc en gros là où Benkler explique que l'urgence du débat sur la vie privée et le marketing comportemental prime absolument sur le combat pour le droit d'auteur, j'essaie d'expliquer, certes abruptement et donc maladroitement, que l'urgence du débat sur les architectures techniques toxiques et la transparence algorithmique prime absolument sur le combat pour le droit à la vie privée. Bref pour moi :

La question des architectures techniques toxiques et de la transparence algorithmique > droit à la vie privée et marketing comportemental > droit d'auteur et financement de la création

Ceci étant posé, à l'évidence et naturellement les 3 combats restent essentiels et surtout bien sûr étroitement liés (pour les deux premiers au moins).

Lionel Maurel notamment (dont j'admire profondément le travail, et encore c'est un doux euphémisme que de le dire comme ça), Lionel Maurel donc me faisait remarquer sur Twitter que :

"OK, mais l'ouverture de l'algo de FB n'aurait pas empêché par exemple le scandale Cambridge Analytica, qui s'ancre bien dans l'usage illicite des données. Ces problèmes sont indissociables. Perdre sur un tableau, c'est perdre sur l'autre."

Oui. Perdre sur un tableau c'est perdre sur l'autre. Mais - à mon avis en tout cas - on ne gagnera pas le combat contre les architectures techniques toxiques en attaquant par celui pour la défense de la vie privée. Alors que l'inverse me semble encore possible : on peut gagner le combat pour la défense de la vie privée en attaquant par celui contre les architectures techniques toxiques. Enfin en gros. Et pour rebondir sur l'argument de Lionel et rester sur l'exemple de Cambride Analytica je citerai Cory Doctorow :

"le problème de Facebook n'est pas un problème de contrôle des esprits mais un problème de corruption : Cambridge Analytica n'a pas convaincu des gens ordinaires de devenir racistes mais ils ont convaincu des racistes d'aller voter"

Bien sûr que sans captation indue de données personnelles, rien de tout cela n'aurait été possible et donc bien sûr que perdre sur un tableau c'est perdre sur l'autre. Mais le problème de "corruption" qu'identifie Cory Doctorow me semble relever en priorité de l'architecture technique toxique qui a valeur de "politique". En d'autres termes, la maîtrise de la collecte des données peut permettre une forme de "contrôle des esprits" (enfin en tout cas de l'opinion), mais la corruption est celle de la gouvernance liée à l'architecture technique toxique.

Et pour le reste, de toute façon une tribune est faite pour susciter le débat. Donc merci aux débatteurs :-)

Voir en ligne : https://www.affordance.info/mon_web...