**English version below**

L’attaque récente contre le Capitole américain conduite par une foule d’extrémistes de la droite pro-Trump a bouleversé le monde – occidental en particulier – de par sa forte symbolique. Les institutions de la plus ancienne démocratie moderne ont été délibérément visées par des citoyens américains dans le but de renverser des élections présidentielles qui se sont déroulées de manière démocratique et dont l’ex-vice-président Joe Biden est ressorti vainqueur, afin de maintenir le président Donald Trump au pouvoir.

Les réseaux sociaux tels que Facebook et Twitter se sont très vite retrouvés sous les feux des projecteurs au vu de leur rôle de plus en plus évident dans cette attaque contre la démocratie. Il est indéniable que ces plateformes ont activement contribué à radicaliser une grande portion de la population américaine en permettant la prolifération de « fake news » qui visent à discréditer le processus électoral et à convaincre les internautes que les élections ont été « volées » par le parti démocrate. La campagne de désinformation menée par Donald Trump et ses alliés, et largement reprise par plusieurs groupes conspirationnistes tels que QAnon, a été particulièrement efficace car ceux-ci ont bénéficié d’une aide précieuse inattendue. Leurs propos incendiaires ont été propulsés à travers les réseaux sociaux grâce aux algorithmes de Facebook et Twitter.

Ces algorithmes utilisent les données personnelles des utilisateurs afin d’identifier le contenu qui génère de fortes émotions, quelle que soit sa véracité, dans le but de le promouvoir auprès du plus grand nombre possible d’utilisateurs. C’est en effet ce type de contenu qui assure aux plateformes un taux d’engagement élevé, et par conséquent une plus grande monétarisation de la publicité. Cette faiblesse du système est constamment exploitée par des acteurs motivés politiquement et qui ont pour dessein d’influencer l’opinion publique. Les réseaux sociaux sont ainsi devenus l’un des principaux vecteurs d’idées populistes. Ce phénomène n’est d’ailleurs pas nouveau, ni propre aux États-Unis. Le scandale Facebook-Cambridge Analytica a démontré que les données personnelles de millions d’utilisateurs Facebook ont pu être exploitées de manière à influencer les électeurs britanniques sur la question du Brexit. De même en France, les réseaux sociaux ont influencé le mouvement des gilets jaunes avec la prolifération de fausses informations, ce qui a notamment conduit à une défiance envers les médias traditionnels. Ce même mécanisme peut être observé à travers le monde et a été accentué avec la crise liée au Covid-19. La désinformation sur les réseaux sociaux contribue à compliquer la tâche des autorités face à la pandémie.

Dans une tentative d’endiguer le phénomène de désinformation au sujet des élections présidentielles américaines qui, selon le FBI, continue à représenter une grande menace envers les institutions de chacun des états du pays à l’aube de la transition de pouvoir – qui aura lieu aujourd’hui-même –, les géants du Web ont simultanément pris des mesures coercitives à l’encontre des principaux réseaux de propagande. C’est ainsi que le président américain sortant a vu son compte Twitter être suspendu avant de se faire purement et simplement bannir de la plateforme. Facebook, Instagram, YouTube et Snapchat ont suivi peu après en prenant des mesures similaires à son encontre. En parallèle, Twitter a fermé 70’000 comptes liés à QAnon et Facebook a supprimé le contenu du groupe pro-Trump « stop the steal ». Le réseau social Parler, qui était devenu la plateforme refuge des conservateurs, a également été visée par les GAFAM. Apple et Google ont supprimé l’application Parler de l’App Store et de Google Play respectivement, et Amazon a cessé de fournir ses serveurs pour le stockage des données de l’application en raison du refus de ce réseau social de prendre les mesures requises pour limiter les contenus haineux et les appels à la violence.

Bien que chacune de ces mesures semble appropriée et nécessaire face aux dangers actuels qu’encourent les institutions américaines, elles dévoilent le pouvoir presque infrangible dont bénéficient les GAFAM sur l’ensemble de la population, et même sur les personnalités politiques. Il paraît invraisemblable qu’une poignée de sociétés privées puissent exploiter les données personnelles de millions d’utilisateurs avec pratiquement aucune responsabilité et qu’elles aient une telle influence sur la manière dont tout un chacun façonne son opinion politique. Ce pouvoir considérable est d’autant plus inquiétant que le cadre réglementaire actuel – ou l’absence de cadre – laisse les États dépourvus de moyens face aux réseaux sociaux et que la lourde tâche de règlementer le contenu mis en ligne a été déléguée à ces mêmes sociétés. Cette inquiétude est notamment partagée par la chancelière allemande Angela Merkel qui considère que la censure entreprise par les géants du Web est « problématique », ainsi que par le ministre français de l’économie Bruno Le Maire pour qui « la régulation des géants du numérique ne peut pas se faire par l’oligarchie numérique elle-même » (voir La censure de Donald Trump par les géants du web dérange l’Europe, RTS info, 12 janvier 2021).

Selon un récent rapport de la Chambre des représentants américains, le pouvoir monopolistique des GAFAM représente une menace pour la démocratie. Ces sociétés sont devenues si puissantes qu’elles « érodent l’entreprenariat, dégradent la vie privée en ligne des américains et affaiblissent le dynamisme de la presse libre et diversifiée. Il en résulte une baisse de l’innovation, moins de choix pour les consommateurs et une démocratie affaiblie ». Le sénat américain a notamment convoqué les représentants de Google, Facebook et Apple en 2020 afin d’évaluer la nécessité d’introduire un nouveau cadre réglementaire et de démanteler les GAFAM dans le but de réduire leur pouvoir monopolistique. L’Union Européenne a pour sa part introduit en 2018 le RGPD qui vise à renforcer la protection des données des utilisateurs et la confiance des citoyens et entreprises dans le marché unique du numérique. Deux projets de nouveaux règlements sont en train d’être examinés pour créer un espace numérique plus sûr dans lequel les droits fondamentaux de tous les utilisateurs de services numériques sont protégés (Digital Services Act et Digital Markets Act). En France, la Commission Nationale de l’Informatique et des Libertés (CNIL) a infligé des amendes record à l’encontre de Google et d’Amazon pour le non-respect de la loi sur le ciblage publicitaire. On peut ainsi observer une prise de conscience de ces gouvernements quant à la nécessité de revoir le cadre législatif applicable à l’espace numérique dans le but de garantir les droits des utilisateurs.

Le gouvernement fédéral suisse est, quant à lui, resté passablement inactif sur cette problématique pourtant centrale. Les entreprises suisses ont tout de même été largement contraintes à appliquer le RGPD au vu de sa portée extraterritoriale. C’est au niveau cantonal que le débat relatif au respect des droits fondamentaux dans l’espace numérique prend place. La Commission 2 de la Constituante du canton du Valais propose d’intégrer un droit à l’intégrité numérique dans la future Constitution valaisanne avec un article prévoyant que « [t]out être humain a droit à l’intégrité numérique ». La section genevoise du PLR a également lancé en septembre 2020 un projet d’initiative populaire visant à intégrer dans la Constitution cantonale un alinéa stipulant que « [t]oute personne a le droit à son intégrité numérique ». Le projet a été abandonné au profit d’un projet de loi constitutionnelle. Mais à elle-seule, la création d’un droit constitutionnel à l’intégrité numérique ne permettra pas de garantir les droits fondamentaux dans l’espace numérique. L’efficacité du droit à l’intégrité numérique face aux GAFAM dépendra entièrement du contenu, de la portée et surtout de la mise en œuvre de ce droit par le législateur.

Quoi qu’il en soit, le débat sur l’opportunité d’un nouveau droit à l’intégrité numérique – inspiré des droits à l’intégrité physique et psychique – permet d’enrichir la réflexion sur les mesures à prendre à l’encontre des GAFAM, ainsi que les outils propres à protéger les droits fondamentaux dans l’espace numérique. Ces questions ont été débattues à l’Université de Neuchâtel en février 2020 à l’occasion du colloque dédié au droit à l’intégrité numérique, conjointement organisé par la Prof. Guillaume et le Prof. Mahon. Le panel d’intervenants s’est notamment demandé si la protection de l’intégrité physique et psychique peut être étendue à l’intégrité numérique. Un ouvrage réunissant les contributions écrites des intervenants s’intitulant « Le droit à l’intégrité numérique – Réelle innovation ou simple évolution du droit ? » a été publié en janvier 2021.

Les événements récents permettent de contextualiser les questions fondamentales traitées par chacun des auteurs de l’ouvrage. L’intérêt collectif des êtres humains, tout comme les valeurs démocratiques, doivent être remis au centre de l’espace numérique afin de garantir les droits fondamentaux. Il en va du maintien du tissu social et de la préservation des institutions démocratiques. Les plateformes numériques et autres réseaux sociaux doivent être ré-imaginés pour que les utilisateurs ne se retrouvent plus dans une position d’esclavagisme numérique de par la récolte et l’exploitation de leurs données personnelles contre leur volonté. La technologie blockchain pourrait contribuer à la création de nouvelles plateformes dont la gouvernance serait distribuée entre les utilisateurs et dont l’autorégulation permettrait de lutter contre la dissémination des contenus illicites ou préjudiciables en garantissant les droits fondamentaux des utilisateurs dans un marché numérique ouvert à la concurrence et affranchi d’acteurs au comportement prédateur.

Texte co-écrit par la Prof. Florence Guillaume et Sven Riva

The right to digital integrity as a shield against the hegemony of Big Tech

The recent attack on the US Capitol led by a host of right-wing pro-Trump extremists has shocked the world – the West in particular – with its strong symbolic significance. The institutions of the world’s oldest modern democracy were deliberately targeted by American citizens in an attempt to overthrow democratically conducted presidential elections in which former Vice President Joe Biden emerged victorious, in order to maintain the President Donald Trump in power.

Social networks such as Facebook and Twitter quickly found themselves in the limelight given their increasingly obvious role in this attack on democracy. It is undeniable that these platforms have actively contributed to the radicalization of a large portion of the American population by allowing the proliferation of “fake news” which aim to discredit the electoral process and to convince Internet users that the elections were “stolen” by the Democratic Party. The disinformation campaign led by Donald Trump and his allies, and widely echoed by believers in conspiracy theories such as members of the QAnon movement, has been particularly effective as they have received unexpected and valuable help. Their inflammatory comments were propelled through social networks thanks to the algorithms running behind Facebook and Twitter.

These algorithms exploit users’ personal data to identify content that generates a strong emotional response, regardless of its truthfulness, with the aim of promoting it to as many users as possible. It is indeed this type of content that ensures platforms a high engagement rate, and therefore greater advertising monetization. This weakness imbedded in the system is constantly exploited by politically motivated actors who aim to influence public opinion. Social networks have thus become one of the main vectors of populist ideas. This phenomenon is not new, nor unique to the United States. The Facebook-Cambridge Analytica scandal has shown that the personal data of millions of Facebook users was exploited in order to influence British voters on the Brexit issue. Likewise, in France, social networks have influenced the “gilets jaunes” movement with the proliferation of false information, which has led in particular to mistrust in traditional media outlets. This same mechanism can be observed across the world and has been accentuated with the Covid-19 crisis, where disinformation on social networks is complicating the authorities’ response to the pandemic.

In an attempt to stem the disinformation campaign that is affecting the US elections, which the FBI says continues to pose a great threat to institutions in each state of the country during the days leading to the transition of power – which will take place today –, Big Tech companies have simultaneously taken coercive measures against the main propaganda networks. This is how the outgoing US President saw his Twitter account suspended before being banned from the platform. Facebook, Instagram, YouTube and Snapchat followed suit soon after with similar moves against him. At the same time, Twitter closed 70,000 accounts linked to QAnon and Facebook removed content from the pro-Trump group “stop the steal”. The social network Parler, which had become a Conservative safe haven platform, was also targeted by Big Tech. Apple and Google removed the Parler app from the App Store and from Google Play respectively, and Amazon stopped providing its servers to Parler, as the social network refused to take the prescribed measures to limit hateful content and calls for violence.

Although each one of these measures seems appropriate and necessary in view of the current dangers facing American institutions, they reveal the almost unbreakable power that Big Tech companies exercise over the general population, and even over politicians. It seems almost unreal that a handful of private companies can exploit the personal data of millions of users with virtually no accountability and that they have such influence over how each person shapes their political opinion. It is all the more worrying that the current regulatory frameworks – or lack thereof – leaves nation-states powerless when dealing with social media and that the onerous task of regulating online content has been delegated to these same companies. This concern is particularly shared by German Chancellor Angela Merkel for whom the censorship undertaken by Big Tech companies is “problematic”, as well as by the French Minister of the Economy Bruno Le Maire for whom “the regulation of digital giants cannot be done by the digital oligarchy itself” (see La censure de Donald Trump par les géants du web dérange l’Europe, RTS info, 12 January 2021).

According to a recent report by the US House of Representatives, the monopolistic power of Big Tech represents a threat to democracy. There is evidence that these companies have grown to be so powerful that they “wield their dominance in ways that erode entrepreneurship, degrade Americans’ privacy online, and undermine the vibrancy of the free and diverse press. The result is less innovation, fewer choices for consumers, and a weakened democracy”. Those conclusions were made after the representatives of Google, Facebook and Apple testified in front of Congress in 2020 to assess the need to introduce a new regulatory framework and dismantle Big Tech in order to reduce their monopolistic power.

The European Union introduced the GDPR in 2018, which aims to strengthen the protection of user data and the confidence of citizens and businesses in the digital single market. In addition, two draft new regulations are being considered in order to create a more secure digital space in which the fundamental rights of all users of digital services are protected (Digital Services Act and Digital Markets Act). In France, the Commission Nationale de l’Informatique et des Libertés (CNIL) imposed record fines against Google and Amazon for failing to comply with the law on targeted advertising. We can thus observe a rising awareness from these governments as to the need to review the legislative framework applicable to the digital space in order to guarantee the rights of users.

As for Switzerland, the federal government has remained largely inactive on this central issue. Swiss companies must however systematically apply the GDPR given its extraterritorial scope. It is at the cantonal level that the debate on the guarantee for rights in the digital space takes place. The Commission 2 of the Constituent Assembly of the canton of Valais proposes to integrate a right to digital integrity in the future version of the Valais Constitution with an article providing that “every human being has the right to digital integrity”. The Geneva section of the PLR political party also launched in September 2020 a popular initiative project aimed at integrating into the cantonal Constitution a paragraph stipulating that “everyone has the right to their digital integrity”. The project was abandoned in favor of a constitutional bill. However, the incorporation of a constitutional right to digital integrity will not be sufficient to guarantee fundamental rights in the digital space. The effectiveness of the right to digital integrity vis-à-vis Big Tech will depend entirely on the content, the scope, and above all, on the implementation of this right by the legislator.

Either way, the debate on the advisability of a new right to digital integrity – inspired by the rights to physical and mental integrity – makes it possible to enrich the reflection on the measures to be taken against Big Tech companies, as well as specific legal tools to protect fundamental rights in the digital space. These questions were debated at the University of Neuchâtel in February 2020 during the conference dedicated to the right to digital integrity, jointly organized by Prof. Guillaume and Prof. Mahon. The panel of speakers discussed in particular whether the protection of physical and mental integrity can be extended to digital integrity. A publication collecting the written contributions of the speakers entitled “Le droit à l’intégrité numérique – Réelle innovation ou simple évolution du droit ?” was published in January 2021.

Recent events allow us to contextualize the fundamental questions addressed by each of the authors of the book. The collective interest of human being, as well as democratic values, must be put back at the center of the digital space in order to preserve fundamental rights. The safeguard of the social fabric and the preservation of democratic institutions are at stake. Digital platforms and other social networks must be re-imagined so that users no longer find themselves in a position of digital slavery by the collecting and exploitation of their personal data against their will. Blockchain technology could contribute to the creation of new kinds of platforms whose governance would be distributed among users and whose self-regulation would make it possible to fight against the dissemination of illegal or harmful content by guaranteeing the fundamental rights of users in a digital market open to competition and freed from actors with predatory behavior.

Text co-written by Prof. Florence Guillaume and Sven Riva

Auteur(s) de cette contribution :

Page Web | Autres publications

PhD student and research assistant at University of Neuchâtel | Research focus on legal issues of digitalization (blockchain, platforms, AI, digital integrity)

Page Web | Autres publications

Professor of Private International Law at the University of Neuchâtel | Research focus on legal issues of digitalization (blockchain, platforms, AI, digital integrity) | Founder of the LexTech Institute