« Où Est la Ligne Où L’Immoral Devient Le Mal?’

Note de l’éditeur: Dans celui d’hier Keynote lors de la conférence Disinformation and the Erosion of Democracy, organisée par The Atlantic et l’Institute of Politics de l’Université de Chicago, Maria Ressa a comparé l’impact des médias sociaux sur notre écosystème de l’information ces dernières années à celui d’une bombe atomique: destructrice, dévorante, irréversible. Par la suite, Ressa s’est entretenue avec Adrienne LaFrance, rédactrice en chef d’Atlantic, pour discuter de Rappler, le site d’information qu’elle a cofondé aux Philippines, de la liberté de la presse, des plateformes de médias sociaux et de la manière dont les journalistes et le public peuvent se prémunir contre la désinformation. Leur conversation a été légèrement modifiée pour plus de clarté et de concision.


Adrienne LaFrance: Je veux commencer par revenir en arrière, plus précisément au début de Rappler.

Maria Ressa: Vous avez été le premier journaliste américain à écrire sur Rappler, en 2012.

LaFrance: Nous retournons loin en arrière. Et quand nous avons parlé il y a toutes ces années, je me souviens de votre préoccupation pour la contagion émotionnelle. Je me souviens que vous m’avez dit quelque chose comme: “Nous devons créer des environnements informationnels où les gens peuvent être rationnels et pas seulement émotionnels.” C’était il y a 10 ans. Nous y voilà maintenant. Quand tu repenses à ce que tes rêves étaient pour Rappler quand vous avez commencé, quelle est votre principale observation sur ce qui a changé autre que ce qui a empiré? Et avez-vous toujours l’impression que la rationalité sur l’émotivité est la mission principale? Est-ce suffisant?

Ressa: Oh mon Dieu, il y a trois choses qui sont là, non? Juste en haut. Nous avons donc sorti un compteur d’humeur et un navigateur d’humeur quelques années avant que Facebook ne fasse les réactions emoji. Mais la raison de l’indicateur d’humeur était parce que je voulais voir comment une histoire avait un impact émotionnel sur notre société, n’est-ce pas? Et il a en fait été utilisé par plusieurs universités pour examiner le partage—vous savez, comment les gens partagent en ligne-et il est basé sur la valence, l’excitation et la domination.

LaFrance: Les lecteurs ont répondu et vous ont dit “  » Cet article me met en colère.”

Ressa: Correct, correct, correct. Mais à ce moment—là-jusqu’en 2016 – la principale émotion [avec laquelle les gens ont répondu sur Rappler J’étais « heureux » aux Philippines, non? Donc, nous avons vraiment regardé ce genre de choses et nous savions quand les gens étaient en colère, parce que ce n’était pas joué et que nous ne manipulions pas.

Donc, la question que vous vous êtes posée est la contagion sociale. Je pensais que si vous cliquiez sur ce que vous ressentez, cela vous arrêterait et vous ferait réfléchir. Et parce que tu arrêtais de penser, tu deviendrais plus rationnel. J’ai commencé à m’intéresser à la théorie des réseaux sociaux lorsque je regardais comment l’idéologie virulente du terrorisme se propageait. Et donc quand nous regardions, quand je regardais ça et que j’ai regardé comment créer des cascades sociales, nous avons regardé les émotions. Nous savons tous que les émotions sont importantes. J’espérais encore, contre tout espoir, que nous pourrions l’utiliser pour de bon, et nous le faisons toujours parce que nous ne vous manipulons pas avec les algorithmes. Nous ne vous micro-ciblons pas. Nous ne collectons pas le genre de données que vous donnez maintenant librement aux [Grandes plateformes technologiques], c’est là que notre marchandage faustien du diable a commencé.

Avance rapide jusqu’à aujourd’hui: je n’ai pas abandonné. Mais c’est pourquoi je crois que nous devons mettre en place une législation, que nos données devraient être les nôtres, que Article 230 devrait être tué, car en fin de compte, ces plates-formes, vos plates-formes technologiques, ne sont pas comme le téléphone. Ils décident. Ils pèsent sur ce que vous obtenez. Et le principal moteur est l’argent. C’est le capitalisme de surveillance.

Sur le micro-ciblage, c’est comme aller voir un psychologue—je vais citer Tristan Harris—aller voir un psychologue et lui dire votre secret le plus profond et le plus sombre. Et puis ce psychologue fait le tour et dit: « Yo, qui veut ça? Qui est le plus offrant? J’ai le secret d’Adrienne.” C’est un peu ce que nous faisons, vous savez, donc c’est un moment sombre. [Les menaces du gouvernement Duterte contre Rappler sont] juste des plaintes légales maintenant, mais je vais vous donner une idée de ce que cela signifie. Cela signifie, pour une personne qui dirige un groupe de presse, que je dois m’inquiéter pour les personnes nommées sur cette plainte, qu’elles pourraient être récupérées le dernier jour before avant les vacances de Pâques. Ce serait comme le Jeudi Saint aux Philippines. Tout s’arrête pour Pâques. Et quand cela arrivera, s’ils sont arrêtés, ils resteront en prison jusqu’au lundi d’après. Ce sont donc les types de harcèlement auxquels nous devons faire face. Ça me met très en colère.

LaFrance: Comme il se doit. La liberté de la presse aux Philippines n’a pas été robuste historiquement, et pourtant elle semble avoir obtenu particulièrement mauvais ces dernières années. Vous en avez certainement fait l’expérience de première main. Pouvez-vous parler, en particulier pour un public de nombreux Américains, de ce que c’est que de vivre cette glissade, et en particulier des choses que les gens ne remarquent peut-être pas qui changent autour d’eux alors que le sol se déplace en dessous d’eux?

Ressa: En 1986, il y a 36 ans, la Révolution du Pouvoir populaire a évincé Ferdinand Marcos et toute sa famille. Ferdinand Marcos a déclaré la victoire aux élections de 1986, et en quatre jours, les gens sont descendus dans la rue, et le quatrième ou le cinquième jour, les hélicoptères américains ont emmené la famille hors des Philippines, n’est-ce pas? Nous pensions tous que la démocratie était là pour rester. Comme nous avions tort. Aucun président ne m’a jamais vraiment aimé complètement aux Philippines. C’est bon.

LaFrance: C’est une bonne chose en journalisme.

Ressa: Exact! Ça ne me dérange pas tant qu’ils te respectent. Mais aujourd’hui, c’est tellement différent.

LaFrance: Que pensez-vous que les Américains—qu’il s’agisse de journalistes ou simplement d’individus, d’institutions-devraient faire maintenant, ou hier, ou il y a cinq ans, pour empêcher ce qui vous arrive aux Philippines?

Ressa: La manipulation ne concerne pas à quel point vous êtes intelligent ou pas intelligent. La manipulation est notre biologie. C’est ta biologie. C’est la manipulation de vos émotions. Alors, à la minute où tu te fâches, n’est-ce pas? Ne partagez pas. Encore. Je veux dire, j’ai parlé de valence, d’excitation et de domination. Donc, je vais d’abord prendre cela dans le monde virtuel, puis j’entrerai dans la démocratie dans le monde physique. Valence c’est ce que quelque chose, le contenu, vous fait ressentir. Excitation est le genre d’émotion que vous ressentez, donc la colère est une forte excitation; la tristesse est une faible excitation. Vous êtes plus enclin à partager une excitation élevée par rapport à une faible excitation, et domination c’est à quel point vous vous sentez responsabilisé dans l’instant. Alors, quelles personnes partagent le plus? Ainsi, par exemple, si les gens ont peur comme si nous étions aux Philippines pendant de longues périodes, vous ne partagez pas, vous savez, parce que [vous ressentez] une faible domination. Maintenant, prenez cela dans le monde réel. Ce qui se passe dans le monde virtuel est exactement la façon dont nous sommes censés voter. Tu as encore de la chance. Vous ne ressentez pas encore de peur pour votre sécurité. La démocratie est si fragile, et tout repose sur ce que nous croyons, sur les faits, sur cette réalité partagée. Alors je suppose que … nous sommes les cobayes pour vous, n’est-ce pas? Voici donc ce que le lanceur d’alerte de Cambridge Analytica, Christopher Wylie, a dit à propos des Philippines. Je pense que tu as écrit à ce sujet. [Le Cabinet de conseil] a testé ces tactiques de manipulation, de manipulation de masse dans des pays comme les Philippines, le Kenya, le Nigeria, les pays du Sud, parce que vous pouvez vous en sortir. Et puis, s’ils travaillaient dans nos pays, ils-le mot qu’il a utilisé, c’est qu’ils vous l’ont” porté ». Cela fonctionne dans [nos réseaux de médias sociaux]; cela fonctionne dans le vôtre.

LaFrance: Parlons des plates-formes pendant une minute. Vous avez mentionné TikTok dans votre Keynote lors de notre conférence, sur laquelle je souhaite également entendre votre point de vue, mais je poserai une question trop simplifiée juste pour obtenir votre réaction. Instagram Facebook Si vous aviez une baguette magique et que vous pouviez faire disparaître l’une des plateformes—Google, Facebook, TikTok, YouTube, Instagram; évidemment, certaines de ces entités se possèdent mutuellement—laquelle vous concerne le plus, et quelle absence rendrait l’humanité meilleure?

Ressa: Je pense que nous devons faire la même chose avec chacun d’eux, c’est-à-dire, vous savez, qu’ils ne peuvent pas nous manipuler insidieusement, comme la technologie CRISPR peut essentiellement personnaliser votre bébé. Mais dans nos pays, dans votre pays, vous ne pouvez pas faire cela. Vous mettez des garde-corps parce que vous savez que nous n’avons pas la sagesse des dieux. Mais nous ne faisons pas cela dans nos esprits.

Je répondrai directement à votre question. Aux Philippines, Facebook est la plus grande plate-forme de diffusion d’informations et, pour la sixième année consécutive l’année dernière, les Philippins ont passé le plus de temps en ligne et sur les réseaux sociaux à l’échelle mondiale. Mais l’autre partie est, parce que 100% des Philippins sont sur Internet, 100% sont sur Facebook. Dès 2013, les Philippins ont téléchargé et téléchargé les vidéos les plus … sur YouTube à l’échelle mondiale. Et puis voici l’autre partie, à droite: Ainsi, la désinformation, comme le négationnisme historique des réseaux de désinformation Marcos, commencerait sur YouTube. Facebook Facebook ne les vérifie pas réellement, car le contenu n’est pas sur Facebook. Alors le voici. C’est tout un écosystème de manipulation. Je ne comprends pas pourquoi nous permettons cela. Ce n’est pas moi. Je suis juste la victime. S’il te plaît, fais quelque chose à ce sujet.

LaFrance: Hmm, je veux dire, ma réponse courte serait que Facebook et Google ont été les plus conséquents pour les organes de presse et pour l’environnement informationnel. Mais je m’inquiète vraiment pour YouTube. Je pense que c’est sous—examiné-et Google d’ailleurs aussi. Je pense que la mesure dans laquelle nous venons d’externaliser totalement notre relation avec la connaissance à Google est effrayante. Alors tous, peut-être?

Ressa: Je pense que notre autre problème avec cela est que nous, les gens de nouvelles, nous avons volontairement donné nos relations les plus profondes lorsque nous avons mis un bouton “Partager” sur nos sites Web.

LaFrance: Rappler il n’a pas ça, n’est-ce pas?

Ressa: Nous le faisons! Nous le faisons! Parce que nous sommes nés sur Facebook. J’ai bu le Kool-Aid.

LaFrance: Tout le monde l’a fait. Je veux dire, toute l’industrie l’a fait.

Ressa: Exactement. Voici donc l’autre partie qui s’adresse aux journalistes: en ce moment, vous laissez les plateformes technologiques déterminer quelles nouvelles survivent. Et nous savons déjà ce que les algorithmes amplifient. Alors, quelles nouvelles survivront?

LaFrance: Alors, comment devrions-nous changer? Je sais que vous avez mentionné l’article 230, et nous pouvons entrer là-dedans. Mais comment devrions-nous changer l’architecture du Web social pour à la fois permettre la dissidence—ce qui, d’ailleurs, est également très important pour la démocratie – et éviter que les entreprises technologiques ne prennent toutes les grandes décisions en notre nom, mais également prévenir les préjudices et les abus?

Ressa: Vous pouvez—ce n’est pas un problème de liberté d’expression. Ce n’est pas une question de liberté d’expression, comme, ne croyez pas le mensonge. Il s’agit en fait de cet algorithme et des données. C’est la technologie et les données. C’est ce que nous devons examiner. Parce que écoute, je peux me tourner vers mon voisin et dire un mensonge, n’est-ce pas? Vous pouvez mentir à votre voisin, mais cela ne sera pas amplifié à 10 millions de personnes, n’est-ce pas? C’est la distribution qui pose problème. Pour citer un comédien, c’est une question de liberté d’accès, pas une question de liberté d’expression. Sacha Baron Cohen a dit cela; il avait plus de sagesse que nous. Je dis juste, n’est-ce pas? La liberté d’expression n’a donc jamais été le problème.

Mais c’est le pouvoir et l’argent, et cela fait partie de ce qui ne va pas. Donc, nous devons résoudre ce problème, non? Quelle est la source du gain démesuré de ces entreprises? Ce sont toutes nos données. C’est notre vie personnelle. Donc, quand on pense à ce à quoi devrait ressembler notre Internet, il n’est pas si difficile de l’imaginer. Les lois du monde réel, qui ont des freins et contrepoids, qui protègent à la fois les droits individuels et la sphère publique—celles-ci doivent être reflétées dans le monde virtuel.

LaFrance: Dites un peu plus précisément ce que vous voulez dire. Je vais donner un exemple. Certaines personnes diraient—je pense que Frances Haugen a dit, par exemple, au sujet de la liberté de portée, comme vous le dites—que nous devrions avoir des disjoncteurs, en gros, pour quand quelque chose est sur le point de devenir extrêmement viral, donc il y a un contrôle avant qu’il ne le fasse. Pendant longtemps, j’ai plaidé pour une meilleure modération du contenu, ce qui est une façon très journalistique de voir les choses. Depuis, je suis d’avis que ce ne sera pas ce qui résoudra nos problèmes.

Mais parlez un peu plus spécifiquement de la protection des individus et des communautés. Je l’aborde d’un point de vue très américain en termes de liberté d’expression. Les gens s’attendent à ce que vous puissiez sortir sur ces nouvelles places publiques et débattre les uns avec les autres sans que personne ne vous dise ce que vous pouvez ou ne pouvez pas dire. Alors, à quoi ça ressemble?

Ressa: Mais encore une fois, je vais revenir à, comme, vous ne pouvez plus débattre sur ces plateformes de médias sociaux, n’est-ce pas? Parce qu’à l’ère de l’abondance, et parce que le modèle commercial l’aide à aller dans ce sens, parce qu’ils veulent que vous restiez sur le site le plus longtemps, l’émotion qui est encouragée est l’indignation morale, et l’indignation morale devient la règle de la foule. Ce n’est pas une question de liberté d’expression; c’est, encore une fois, ce que vous amplifiez. Imaginez si Atlantique j’ai décidé “ »Je vais gagner de l’argent à tout prix, et je vais amplifier le contenu qui mettra le plus de gens en colère parce qu’ils resteront de mon côté le plus longtemps et qu’ils le partageront le plus.” Nous ne faisons pas cela parce que nous avons des normes et une éthique.

Nous avons des plateformes qui disent que, vous savez, il s’agit de l’actionnaire corporatif. On est là pour gagner de l’argent pour eux. C’est immoral. Alors, voici le problème: Où est la ligne où l’immoral devient le mal?

LaFrance: Avons-nous franchi cette ligne?

Ressa: Je le crois.

LaFrance: Quand?

Ressa: Vous savez, j’étais avec CNN quand nous sommes passés de chicken-noodle news au leader mondial des dernières nouvelles, donc je sais à quel point il peut être difficile et accablant de réorganiser-pendant que le bus va changer les pneus, n’est-ce pas? J’ai donc donné beaucoup de marge de manœuvre. Mais maintenant, ce que nous voyons, c’est que les plates-formes doublent, certaines d’entre elles. Et ils disent en fait, vous savez, c’est à vous de décider. Mais chaque jour qu’il n’y a pas de loi, qu’il n’y a pas de garde-corps en place, quelqu’un meurt. Où est l’aveugle au mal quand vous savez que les gens meurent parce que vous gagnez plus d’argent et que vous continuez à le faire? Alors, oui, je suis très en colère. J’essaie de ne pas être en colère. Attends, l’optimisme! Il y a de l’optimisme! L’espoir-d’où viendra l’espoir? Ukraine. D’accord, c’est horrible, ce que nous voyons se passer en Ukraine et ce que la Russie a fait. Mais à quelle vitesse le monde libre s’est-il réuni? Pas vrai? Et tout d’un coup, le monde semble se redresser, mais les plateformes n’ont pas encore vraiment changé. Et qu’est-ce qui a déclenché le changement en ligne? Ce n’était pas un gouvernement, c’était [le président ukrainien Volodymyr] Zelensky.

LaFrance: Nous sommes au tout début de la compréhension du rôle des plateformes dans ce conflit. À travers le brouillard de la guerre, et cetera, nous avons encore une idée très limitée du flux d’informations.

Ressa: C’est mauvais, vraiment. Mais vous savez, je suppose que ce que je dis avec Zelensky [c’est que] s’il était parti—une personne—les Russes ne seraient-ils pas entrés?

LaFrance: Et pour être juste, lui et d’autres utilisent des plateformes pour promouvoir la démocratie, qui était le rêve utopique d’Internet en premier lieu.

Ressa: Encore une fois, je reviens au design des plateformes. C’est, par conception, un système de modification du comportement qui nous vend nos moments les plus faibles pour le profit.

LaFrance: Permettez-moi de poser une autre question: Que pensez-vous d’Elon Musk être sur le forum Twitter?

Ressa: Je devrais retourner ça sur toi, Adrienne!

LaFrance: Non, tu ne devrais pas.

Ressa: Je ne sais pas; c’est un peu comme, où nous en sommes en ce moment, n’est-ce pas? Nous connaissons ses antécédents. Et c’est-cela peut être inquiétant, mais c’est un changement. Et vous pouvez voir qu’ils sont proactifs dans la lutte contre la désinformation. Cela va-t-il changer? Je vais vous dire ce que les données montrent, mais pour le moment, il est trop tôt pour le dire. Alors je vais lui donner le bénéfice du doute.