Intervention aux "Assises de la lutte contre la haine sur internet." organisées p

1. Ertzscheid
Olivier
Maître de conférences.
Université de Nantes.
IUT de La Roche sur Yon.
www.Affordance.info
Paris. 22 février 2015
1

2. Préambule
2

3. Discours de la haine ?
OUI C’est compliqué
C’est compliqué
3

4. Qui décide ?
De diffuser ou de bloquer
cette vidéo ?
Qu’il s’agit de tweets antisémites
ou d’humour ?
Qu’il s’agit de blasphème
ou de droit à la caricature ?
4

5. Qui décide ??
La justice ?
Mais laquelle ? Française ? Européenne ?
Saoudienne ?
Israëlienne ? Palestinienne ? …
Nous ?
Mais nous sommes capables du
meilleurs, comme du pire …
Un algorithme ?
Sur quels critères ? Avec quel risque
d’erreur ?
Une multinationale ?
Mais sur quels critères ? De quel(s)
droit(s) ? A quelle échelle ? 5

6. Qui décide ?
Une real-géo-
politique du
business ? 6

7. RAPIDE RETOUR EN ARRIÈRE
7

8. Il y a 20 ans
« Vos lois ne
s’appliquent
pas ici »
• 1996. John Perry Barlow rédige la « déclaration d’indépendance du cyberespace. »
• « Nous sommes en train de créer un monde où tous peuvent entrer sans privilège et sans être
victimes de préjugés découlant de la race, du pouvoir économique, de la force militaire ou de la
naissance.
• Nous sommes en train de créer un monde où n’importe qui, n’importe où, peut exprimer ses
croyances, aussi singulières qu’elles soient, sans peur d’être réduit au silence ou à la
conformité.
• Vos concepts légaux de propriété, d’expression, d’identité, de mouvement, de contexte, ne
s’appliquent pas à nous. Ils sont basés sur la matière, et il n’y a pas ici de matière. »
8

9. Il y a 15 ans
« Code is Law »
• 2000. Lawrence Lessig publie l’article « Code is Law. »
• « Des gens choisissent la manière dont le code effectue tout cela. Des gens
écrivent ce code. Dès lors le choix n'est pas de savoir si les gens pourront
choisir la manière de réguler le cyberespace. D'autres gens - les codeurs -
le feront. Le seul choix est de savoir si nous jouerons collectivement un
rôle dans leurs choix - et si nous pourrons alors déterminer la manière
dont ces valeurs se régulent - ou si nous autoriserons collectivement ces
codeurs à décider de ces valeurs à notre place. »
9

10. Il y a 1 mois.
« Nous sommes
au-dessus des
lois ? »
• 9 Janvier 2015.
• 2 jours après les attentats, Mark Zuckerberg écrit sur son mur
« Nous suivons les lois de chaque pays, mais nous ne laissons
jamais un pays ou un groupe de gens dicter ce que les gens
peuvent partager à travers le monde. »
10

11. Je résume
1996.
« Il n’y a pas de lois ici »
2000.
« le code c’est la loi »
9 Janvier 2015.
« certaines plateformes sont
au-dessus de certaines lois. »
11

12. HEUREUSEMENT …
Lutter contre la haine sur internet ?
12

13. • Les lois existent et elles s’appliquent USA (patriot act), France (LOPPSI)
• Des dispositifs existent et sont utilisés
– Au niveau des états : https://www.internet-signalement.gouv.fr/
– Au niveau des plateformes : « report » / « block ». #BigBrother VS #LittleSisters
– Au niveau des … consciences : phénomènes d’auto-régulation.
• Panoptique dont nous sommes à la fois les gardiens et les prisonniers.
• Mais toutes les voix ne se valent pas :
– D. Cardon : « On est tous égaux a priori, mais la différence se creuse ensuite dans la
mesure de nos actes, entre ceux qui agissent et ceux qui n’agissent pas. Internet donne
une prime incroyable à ceux qui font. Et du coup, il peut y avoir une tyrannie des
agissants. » http://www.culturemobile.net/visions/dominique-cardon-democratie-
internet
13

14. ALORS ATTENTION …
14

15. Attention à ne plus se tirer une balle dans le pied
• OUI C’EST VRAI : il est facile de « se radicaliser / acheter des armes /
harceler les gens » EN LIGNE.
• OUI C’EST VRAI AUSSI : il n’a jamais été aussi facile de repérer ceux qui
« se radicalisent / achètent des armes / harcèlent les gens » EN LIGNE.
• Car le numérique est, par nature, un média de la trace, de l’archive. Pas
besoin de la NSA pour s’en souvenir.
• Numérique est un « Pharmakon » (Stiegler) : à la fois remède et poison.
15

16. Attention à « internet zone de non-droit » que l’on
fantasme en « internet état de droit »
• Peut-il y avoir des lois « transnationales » ? Non. Il peut y avoir des
accords mais pas de lois.
• Internet n’est pas un « état ». Ou alors Mark Z., Brin et Page sont des
chefs d’état.
Barak O. Président of USA.
320 millions d’habitants.
Mark Z. CEO of Facebook.
1,5 milliard d’utilisateurs.
16

17. Avant de (ré)agir …
comprendre
17

18. Affaire du bijoutier
de Nice.
1 même fait
mais 2 réalités
DANS L’UN ET DANS L’AUTRE CAS :
Où sont les manifestants ?
Quels discours tiennent-ils ?
Contre qui ont-ils « de la haine » ?
Contre la justice ? Contre les jeunes ?
Contre la société ?
Quel est le poids de ce discours de
haine et/ou de colère ?
Poids médiatique ? Poids politique ?
Poids sociétal ? Poids communautaire ?
18

19. Affaire du bijoutier
de Nice.
1 même fait
mais 2 réalités
JE PARTICIPE À UNE MANIF.
Je m’engage. Je m’astreins. J’impacte.
Coût physique (déplacement)
Coût cognitif (je me renseigne pour
savoir si cela en vaut vraiment la
peine). Je peux ne pas être disponible.
19

20. Affaire du bijoutier
de Nice.
1 même fait
mais 2 réalités
JE PARTICIPE À 1 DISCOURS
COLLECTIF.
Je me désengage. Je m’affranchis de la
nécessité de l’engagement. Je me
dédouane.
Aucun coût, ni physique, ni cognitif.
Ce qui ne coûte rien n’engage à rien
(et si c’est gratuit c’est moi le produit)
Je suis tout le temps disponible.
20

21. Affaire du
bijoutier de Nice
Pas la même temporalité
Pas le même coût
Pas la même participation
Pas le même engagement
Et peut-être même pas forcément
Les mêmes … personnes !!
21

22. Y-a-t-il vraiment un discours de haine
sur internet ? Oui mais …
22

23. 23
Effet « petit pois » : on se focalise sur des phénomènes
relevant quantitativement de l’exception, de l’infinitésimal
#jesuiskouachi : http://www.arretsurimages.net/chroniques/2015-01-22/-
JeSuisKouachi-le-hashtag-sulfureux-peut-dire-merci-au-FN-id7399
#jenesuispascharlie : http://www.20minutes.fr/societe/1512771-20150108-
attaque-charlie-hebdo-comment-reseaux-sociaux-gerent-messages-haineux
Effet Streisand : supprimer « publiquement » un contenu c’est lui
donner de l’audience. Supprimer un contenu c’est accélérer sa
republication (et l’audience qu’aura cette republication)
Effet miroir (ce qui est à gauche apparaît à droite dans le miroir) : on les interprète
à l’inverse de ce qu’ils signifient.
Pour 100 000 « je suis charlie », 100 « je ne suis pas charlie ».
Et sur ces 100 : 99 pour condamner celui qui a dit « je ne suis pas charlie »

24. 24
• Effet cigogne* (confondre
corrélation et causalité)
• « sur internet il y a des terroristes / antisémites /
pédophiles et les appels à la haine sont plus élevés que
dans la vie. Conclusion : Internet incite à la haine. »
• Cf « Tyrannie des agissants » déjà citée de D. Cardon.
• * http://cortecs.org/effets-sophismes-biais-techniques/effets-cigogne-correlation-vs-causalite/
+ + =

25. Pourquoi est-ce si compliqué ??!
Ok mais alors lutter contre la haine sur internet,
25

26. 3 moyens de lutte contre la haine
• La loi
– principe de territorialité
– Nul n’est censé l’ignorer.
– Mais tout le monde à le droit à un avocat.
• Les règlements (CGU)
– principe de viabilité commerciale.
– Nul n’est censé les lire
– mais tout le monde est considéré comme les ayant accepté.
• Le code
– principe d’invisibilité.
– Nul n’est (plus) censé le maîtriser,
– mais tout le monde quotidiennement s’y soumet.
– Y compris … le législateur ?
• What Else ?
• Principes ? Morale ? Ethique ? Valeurs ? 26

27. 27
Lutter contre la haine
• La loi
• Les règlements (CGU)
• Le code
• Qu’est-ce qui est le plus important ? LE CODE.
• Qu’est-ce qui décide ? LE CODE.
• Que doit connaître la loi ? LE CODE.
Océan / plage (espace public)
CIRCULAIRE n° 86-204 du 19 juin 1986.
Surveillance des plages et lieux de baignade d'accès non payant.
Piscine (espace privé)
Dans quoi je me baigne ??
Dans de l’eau ou dans de l’acide chlorydrique ?
27

28. « Nul n’est censé ignorer la loi »
« Nulle loi ne peut plus se permettre
d’ignorer le code. »
Devient …
« Code is Law »
28

29. Résultat ?
• 9 Janvier 2015.
• 2 jours après les attentats, Mark Zuckerberg écrit sur son mur « Nous suivons les lois de
chaque pays, mais nous ne laissons jamais un pays ou un groupe de gens dicter ce que les
gens peuvent partager à travers le monde. »
Il a le code.
Nous avons signé son règlement.
IL EST LA LOI. SA LOI.
29

30. On fait quoi ??!
Donc pour lutter contre la haine sur internet …
30

31. Principes de démocratie
• Ce sont, in fine et de facto les plateformes, leurs CEO et leurs
algorithmes qui décident :
1. Décident de publier telle ou telle vidéo,
2. Décident de laisser passer tel ou tel #hashtag,
3. Algorithmes ont un pouvoir de police et de justice permanent et pour l’essentiel
parfaitement opaque.
• Or ces 3 points relèvent d’une éditorialisation « classique »
• On ne peut pas demander aux plateformes :
– de « modérer » les millions de contenus publiés chaque minute.
– D’appliquer une « territorialité du droit » sur tous les sujets
• DONC IL FAUT OUVRIR ET METTRE EN DÉLIBÉRÉ LA PARTIE DU
CODE QUI RELÈVE DE CETTE ÉDITORIALISATION
• Stiegler « la démocratie est d’abord un exercice de rendu public. »
• Ne pas tout attendre du politique ni des plateformes
– « Internet joue en effet un rôle majeur dans l’émancipation, dans l’auto-
organisation de la société civile, sans que ses acteurs aient nécessairement à se
préoccuper du centre de la société que seraient l’exécutif et la démocratie
représentative… » D. Cardon
31

32. Ne pas laisser ces plateformes devenir le web.
32Et imposer leur loi.