Pour une application du numérique éthique et responsable

Faire de la révolution numérique une chance

La Révolution Numérique dont la marche s’accélère est au centre de nos réflexions. Notre époque n’est ni rassurante ni protectrice tant elle bouscule les approches conventionnelles. Les craintes sont légitimes, mais c’est toujours des situations chaotiques que jaillit l’énergie créatrice.
Un refus de principe du progrès n’est pas plus envisageable aujourd’hui qu’il ne l’était hier, mais la vigilance critique et la dénonciation des dérives et des abus restent nos devoirs.

Les membres de notre association encouragent une réaction consciente et active des citoyens pour orienter les réponses de nos systèmes de gouvernance aux changements sociétaux profonds qui accompagnent le nouveau paradigme numérique. Le citoyen responsable pourra d’autant plus librement bénéficier des nombreux avantages des nouvelles technologies qu’il aura analysé leurs inconvénients, risques et contraintes en contrepartie.

Les défis de la révolution numérique

Tel que nous percevons aujourd’hui la Révolution Numérique, ses défis sont inhérents à quatre de ses caractéristiques :

Les cycles de progrès des technologies de l’information s’accélèrent spectaculairement mettant chaque jour davantage nos systèmes conventionnels de gouvernance sous le stress de l’urgence, en mode réactif plutôt que proactif ;
La mise en réseau global des individus au travers de nouvelles formes de communication favorise la circulation des idées, la décentralisation des décisions. Cet élargissement de notre espace social modifie déjà nos comportements, bouscule notre identité privée avant d’influencer durablement notre nature humaine ;
La nouvelle approche des systèmes d’information a favorisé la convergence des NBIC qui associent les technologies de l’infiniment petit (le N, pour Nanotechnologies), de la fabrication du vivant (le B, pour Biotechnologies), des automates (le I, pour technologies de l’Information) et enfin de l’intelligence artificielle (le C, pour applications Cognitives). Chaque nouvelle mutation de l’un de ces domaines influence et engage le devenir des trois autres.
Les capacités ouvertes par les innovations technologiques ont encouragé le développement d’un nouvel entrepreneuriat. La Nouvelle Économie Numérique est fondée sur des codes qui bousculent l’entreprise conventionnelle. Les premiers discours lénifiants annonçant l’Internet libérateur ouvrant l’accès au savoir, porteur des valeurs de liberté, de démocratie et de respect des droits de l’Homme ont progressivement laissé la place aux craintes qui accompagnent un écosystème artificiel incroyablement puissant, solidement capté par un nombre limité de géants économiques et financiers, pour leur bénéfice immédiat.

Définir une approche éthique des applications du numérique [1]

Aucune technologie n’est neutre puisque son déploiement résulte de choix économiques et/ou idéologiques. Si les applications numériques influencent et contraignent nos comportements, il appartient à chacun de contribuer en retour à l’adaptation voire à l’évolution des intentions initiales, en conformité aux principes communs qui nous gouvernent et aux choix éthiques ou moraux que nous défendons collectivement ou individuellement.

Parallèlement à la constitution de l’association, la première action de ses membres a été d’établir une liste de thèmes traduisant leurs craintes et leurs espoirs immédiats liés à la numérisation de notre environnement social.

Cette liste qui guidera notre veille éthique est appelée à se développer et à évoluer. Elle se focalise aujourd’hui autour de trois objectifs retenus a priori :

Remettre à leur juste place l’autorité du politique et celle des citoyens, seuls capables de prendre en charge l’organisation de la transition et un partage équilibré des bénéfices du progrès ;
Restaurer l’espace privé et redonner son intimité à l’individu ;
Renforcer les fondations éthiques relatives aux NBIC pour protéger la nature de l’homme et, plus largement, pour respecter le vivant.

Remettre à leur juste place l’autorité du politique et celle des citoyens

Il n’est pas dans la stratégie du marché Numérique de « laisser du temps au temps ». Comme le rappelle souvent la presse économique, le principe qui dit que « le gagnant rafle tout [2] » fonde le modèle d’un marché hautement concurrentiel où tout atermoiement est un risque.
Tout écosystème humain est cependant fragile. Pour s’adapter au changement, notre propre rythme biologique tout comme celui des institutions qui nous gouvernent requièrent une progression linéaire peu compatible avec la spectaculaire accélération que les nouvelles technologies imposent [3].

Les nouvelles technologies nous font bénéficier d’avantages immédiats certains (les nombreux services gratuits, la fiabilité et la disponibilité des communications, l’accessibilité financière au matériel de haute technologie, la création de nouvelles filières prometteuses d’emploi …). Mais nous ne maîtrisons pas toujours la contrepartie qui nous engage et nous savons par expérience qu’aucun de nos avantages antérieurs ne peut être considéré comme définitivement acquis.

Des lanceurs d’alertes ou la sortie de scandales contre la démocratie nous rappellent régulièrement à la réalité, comme récemment celui de Cambridge-Analytica qui impliquait Facebook. Malgré tout, l’emprise de la nouvelle économie numérique est déjà si solidement installée que nous retournons vite à notre torpeur [4].

L’accaparement de l’autorité par les géants technologiques

Pourquoi et comment les géants du GAFAM échappent-ils encore à la loi antitrust, loi libérale pourtant toujours en vigueur et supposée garantir la régularité du marché comme la loyauté de sa compétition ? Faut-il aujourd’hui démanteler ces monopoles ?
Les systèmes démocratiques organisent, décident et gèrent l’environnement nécessaire à l’harmonie et au développement solidaire de notre cadre de vie (éducation, santé, justice, sécurité, défense, etc.). Comment exiger une juste contribution des grands monopoles bénéficiaires de ces services et infrastructures, mais qui organisent pourtant leur exemption fiscale ?
Comment ces entreprises osent-elles déléguer la résolution de problèmes qu’elles ont elles-mêmes créés, mettant alors les États devant le fait accompli [5] ?
Dans un système globalisé, quels sont les moyens de rétorsion d’un État — voire d’une communauté élargie comme celle de l’Europe — contre les géants de l’Internet ?
Négocier directement et individuellement avec ces entreprises fait-il partie du mandat des gouvernements élus ? Et au titre de quel statut particulier ces nouveaux partenaires justifient-ils leurs prétentions [6] ?
L’utilisateur final qui profite des nouveaux services technologiques est-il peu ou prou le complice recéleur du détournement d’autorité opéré par les géants du net ?

La remise en cause brutale des repères

En chamboulant les modèles conventionnels (comme, en particulier, le fordisme [7]), la Nouvelle Économie Numérique entrainera-t-elle la fin de l’emploi ?
Quels sont les codes de cette nouvelle économie ?
Forcent-ils à une remise en cause de la « valeur travail » ?
Quand, face à son ordinateur, l’utilisateur compte ses amis virtuels par milliers, l’ouverture de l’Internet ne devient-elle pas paradoxalement un renfermement sur soi ?
La redéfinition de l’espace social par les communautés virtuelles de l’Internet fait tomber les barrières institutionnelles ordinaires. Les nouveaux espaces communautaires sont-ils libres de tous devoirs et obligations légales vis-à-vis des pays où résident leurs membres ? Quelles sont les lois qui régissent ces communautés virtuelles ?
La virtualisation de l’espace, la globalisation des modes de consommation et de vie est-elle une chance ou un asservissement ?
La virtualisation du contenu remet en cause la responsabilité éditoriale [8].
Qui est responsable du contenu ? L’hébergeur ou l’auteur ?
Quand l’utilisation de pseudonyme est-elle acceptable [9] ?
Comment garantir la pertinence et le sérieux du contenu publié sur l’Internet quand il n’a pas un propriétaire explicitement désigné, et à défaut de l’engagement responsable d’un éditeur ou d’un auteur ?

Élaboration et prise en charge de la transition

Le déploiement des nouvelles technologies semble accélérer la disparité de la répartition des richesses et l’installation d’un nouveau rapport de force.
Ces constats traduisent-ils une réalité durable ?
Quels garde-fous le modèle économique et social existant propose-t-il ?
Peut-on éthiquement se satisfaire de la réponse néo-darwinienne des prophètes-technologistes plaçant leur confiance dans « la main invisible du progrès [10] » qui trouverait nécessairement une solution ?
Pour que la puissance publique reprenne l’initiative sur le marché, les impacts du changement doivent être anticipés et l’accompagnement de la transition doit être organisé en conséquence :
Quels sont les scénarios concrets projetés pour les particuliers ? Pour les entreprises ?
Quel est le projet politique à moyen terme et avec quels accompagnements adaptés ?
À quel niveau organiser l’initiative ? National, européen, mondial ?
Quels nouveaux outils d’observation et de veille faut-il déployer [11] ?
Quand les organisations humaines délèguent leur système de décision à la seule rationalité des robots, n’y a-t-il pas un risque de déshumanisation des relations, de fabrication d’exclus de la technologie ?
Il y a déjà des exclus de la révolution numérique. Nombreux sont encore ceux qui n’ont pas accès à l’Internet, que ce soit par manque de moyen financier, de formation ou de capacité à franchir le pas. Comment organiser l’accompagnement à court terme de ces exclus [12] ?
En perdant son rôle d’ascenseur social, le modèle français d’éducation, pourtant loué hier, semble s’essouffler aujourd’hui : un diplôme n’est plus la garantie d’un emploi et une carrière devient souvent une succession de réorientations professionnelles.
Éducation et formation : Peut-on encore distinguer entre, d’une part, l’éducation consistant à enseigner des techniques génériques d’apprentissage et d’analyse de la complexité [13] et, d’autre part, la formation continue chargée de transmettre un savoir-faire spécialisé pour accompagner les remises en causes professionnelles dorénavant inévitables ?
Quelle place relative donner à l’Internet dans ces processus ?

Restaurer l’espace privé :

« Pour l’essentiel, l’homme est ce qu’il cache : un misérable petit tas de secrets » [14].
Aujourd’hui pourtant, la référence au Big Brother de George Orwell [15] est permanente pour dénoncer les atteintes à nos droits individuels fondamentaux au travers de l’intrusion des applications numériques dans notre vie privée, par la captation permanente et organisée de nos données.

La marchandisation des données personnelles

Mes données personnelles peuvent-elles être considérées comme une ressource marchande ordinaire ?
Puisqu’elles participent de ma personnalité, puis-je moralement vendre ou échanger mes données personnelles contre de l’argent ou un service [16] ?
Et, pour les mêmes raisons, peut-on moralement les acheter ?
Notre profilage permanent s’impose comme outil de décision qui analyse nos demandes pour adapter l’offre des services marchands. N’a-t-il pas pour conséquence un nivellement par le bas ?
L’économie restera-telle solidaire? L’offre marchande ne sera-t-elle pas naturellement tentée de se concentrer sur les « profils à profits » et d’exclure les autres ?

La propriété des données personnelles

Peut-on être dépossédé de ses données personnelles ? Sont-elles inaliénables ?
Suis-je d’ailleurs le propriétaire de mes données personnelles quand la publication libre et généralisée des analyses ADN individuelles fait courir un risque à ma communauté ?
À quelles conditions une organisation (privée ou publique) peut-elle disposer des données privées d’autrui ? Comment garantir le strict respect de ces conditions [17] ? Un État peut-il par exemple vendre les données qualifiant sa population [18] ?

Les justifications de la captation des données personnelles

L’intérêt public (pour exemple, la sécurité de tous) prévaut-il toujours sur le respect de l’intimité des personnes ?
Passer outre le respect de la vie privée ne doit-il pas toujours être justifié et autorisé au cas par cas [19] ?
Le droit international doit-il condamner voire interdire une utilisation totalitaire des nouvelles technologies par un État [20] ?
Les statistiques ethniques sont aujourd’hui interdites en France. Cette interdiction disparaîtra à terme, débordée de fait par les possibilités qu’offrent déjà les analyses des Big-Data. Ceci est un exemple où les entreprises technologiques transfrontalières forcent implicitement la loi des États sans seulement soulever un débat.
Quel sens prendrait aujourd’hui un procès fait à ces entreprises sur ce point ? Les défenseurs de la loi n’apparaitraient-ils pas rétrogrades et détachés des réalités ?

Protéger la nature de l’homme et respecter le vivant :

Les questionnements qui relient les applications du numérique et le fragile équilibre du vivant sont indéniablement ceux qui déchainent le plus de passion. La difficulté à comprendre la réalité technologique derrière les nombreuses annonces concrètes ou fantasmées encourage les interprétations contradictoires et accroît la confusion.
Trois thèmes à dimensions plus philosophiques résument ces préoccupations :

L’homme a fondé sa domination sur la supériorité de son intelligence. Hier esclave mécanique, la machine est devenue robot « intelligent ». Cette « intelligence » change-t-elle la nature des interactions personne-machine ? Fait-elle du robot un compétiteur potentiel du genre humain ? Une super-intelligence dépassera-t-elle un jour celle de l’humain, remettant alors en cause le leadership de ce dernier, son autorité quant à la destinée de son espèce [21] ?
D’un point de vue matérialiste, tout processus naturel peut être abordé comme un système d’information. Ainsi, en biologie, la fabrication d’une cellule vivante spécifique peut être appréhendée comme un nanomécanisme qui sélectionnerait la recette adaptée à la future fonction cellulaire dans la bibliothèque qu’est l’ADN. Mais, quand le progrès rend les manipulations génétiques possibles, les humains peuvent-ils intervenir dans les cycles de l’évolution naturelle ? Mesurent-ils toujours les risques pris ?
La convergence des technologies NBIC élargit le champ de nos préoccupations éthiques. De fait, les leaders du marché IT ont tous des branches investissant dans la santé, dans le développement des capacités cognitives associé à l’intelligence artificielle et aussi dans la consolidation des données génétiques et médicales. Notre association peut-elle alors faire l’impasse sur les questions clés du transhumanisme et du post-humanisme ?

La mise en compétition du Robot et de l’humanité

L’Intelligence Artificielle tient-elle son qualificatif par opposition à « l’Intelligence naturelle » qui est le résultat d’un long processus de mutations biologiques [22] ? Est-elle plutôt artificielle parce que créée à dessein par des humains, par analogie aux processus de l’intelligence que nos modèles scientifiques proposent ?
Intelligence Artificielle et intelligence naturelle peuvent-elles être comparées ? Existe-t-il des limites techniques à l’intelligence artificielle ? Un automate peut-il développer un sens commun (ou « bon sens ») ? Un sens critique ? Une capacité d’extrapolation ? Une conscience de son existence propre ? De l’empathie pour une communauté, voire un sentiment social d’appartenance ? Une vision de son futur ? Comment confirmer ces capacités existentielles chez l’automate ? Comment les mesurer ?
Les robots créés par les humains ne sont-ils pas alors aussi leurs héritiers, descendants actifs parmi les autres maillons d’un futur commun ?
Les relations humaines se basent pour une grande partie sur la confiance entre les interlocuteurs concernés. Quand, comment et pourquoi faire confiance à un robot [23] ?
Situation extrême : Exécuter un acte moralement aussi lourd que celui de donner la mort à un autre humain peut-il être délégué à un robot [24] ?
L’expérience a souvent démontré que la mise en œuvre des algorithmes se traduit par des bugs et que les projets informatiques sont souvent mal maîtrisés. La rationalité et la rigueur annoncée ne sont pas toujours au rendez-vous. Quelle confiance peut-on avoir dans les systèmes informatiques ? Comment sont-ils contrôlés ?
Doit-on et pourra-t-on toujours expliquer la démarche et la cohérence des réponses de l’IA ?
Existe-t-il une nouvelle culture numérique ? Si oui, comment la définir ? L’outil numérique peut-il contribuer au développement de l’esprit critique ou, à l’opposé, un trop-plein d’informations digéré par un algorithme peut-il brouiller la recherche de « l’essentiel » ?
Quand nos interactions humaines passent par le numérique plutôt que par un échange physique direct, la nature même des relations humaines n’est-elle pas impactée ?

La manipulation du vivant

Penser et définir les limites pour faire ou défaire la chaîne ADN : n’est-ce pas là la priorité éthique de l’humanité ?
La réalité semble rattraper la fiction [25]. Y a-t-il une limite à la curiosité des chercheurs ?

L’Homme augmenté

La frontière souvent étroite entre la médecine réparatrice, la médecine amélioratrice et l’extension artificielle des capacités humaines justifie toutes les dérives. Comment préciser ces limites implicites ?
Un « homme augmenté » par les moyens de la technologie n’est-il pas d’abord un « homme diminué » quand il s’exclut du reste de l’humanité ?

Notes et références :

[1] ⤶ Voir également l’article « Une approche éthique de l’application du numérique, pourquoi?«

[2] ⤶ Traduction de l’expression américaine « winner takes all » très en vogue dans la presse économique en référence aux GAFAM et à leur frénésie de rachat de part de marchés à des prix astronomiques.

[3] ⤶ Voir la Loi de Moore qui s’est réalisée au point que l’adjectif « exponentiel » semble s’être échappé des seuls cours de mathématiques du secondaire pour être définitivement rattaché au terme « croissance ».

[4] ⤶ Tous les parents qui se sont essayés à limiter l’accès de leur progéniture à Facebook mesurent la dépendance qu’engendre ce service.

[5] ⤶ Pour exemples, les conséquences économiques et sociales du déploiement d’Airbnb ou d’Uber qui ont fait les gros titres des médias un peu partout sur la planète.

[6] ⤶ Ce point fait référence aux réunions fréquentes rapportées par la presse entre les chefs d’États du G20 et les patrons du GAFAM traités comme partenaires à autorité démocratique équivalente.

[7] ⤶ Modèle établi d’après l’expérience du constructeur Américain d’automobiles Henry Ford. Antonio Gramsci a théorisé ce « compromis économique et social vertueux » où la consommation de masse est au bénéfice de l’économie globale : de bons salaires rendus possibles par les gains de productivité assurent des débouchés commerciaux aux entreprises. Les salariés consomment et les entreprises en bénéficient en retour pour leurs investissements.

[8] ⤶ À comprendre par opposition à la réglementation qui gère la propriété intellectuelle et la responsabilité éditoriale des publications conventionnelles en Europe.

[9] ⤶Pierre Dac avait définitivement tranché ce débat bien avant l’avènement de l’Internet: « Une lettre anonyme est un acte sans nom ».

[10] ⤶ Sœur cadette de la main invisible du marché.

[11] ⤶ En référence aux indicateurs économiques et sociaux conventionnels qui ne sont plus toujours appropriés.

[12] ⤶ oir les nombreux problèmes posés aux plus anciens contraints à un accès aux services de l’État par le seul moyen de l’Internet.

[13] ⤶ Selon la formule mille fois déclinée « l’éducation c’est apprendre à apprendre pour mieux se former »

[14] ⤶ André Malraux, dans son roman « les Noyers de l’Altenbourg ». Première parution en 1948, éditions Gallimard, réédition en collection Folio (no 2997) en 1997. Cité par l’hebdomadaire Marianne dans son dossier « Big Brother est déjà chez vous », numéro 1099 du 6 au 12 avril 2018.

[15] ⤶ En référence à « 1984 », roman de George Orwell publié en 1949 où l’on trouve le célèbre « Big Brother is watching you ».

[16] ⤶ On peut ici faire l’analogie avec l’interdiction existante de vendre son sang ou ses organes.

[17] ⤶ Les difficultés techniques à mettre en pratique le « droit à l’oubli » illustrent cette réserve.

[18] ⤶ Ce point se réfère aux articles de presse prêtant à l’État Français l’intention de céder les données de la Sécurité Sociale.

[19] ⤶ Exemple : un distributeur d’énergie peut-il conditionner l’accès à ses services par l’installation d’un « compteur intelligent » ?

[20] ⤶ C’est par exemple le cas du programme de dictature digitale déployé par les autorités chinoises pour un contrôle centralisé du « crédit Social » mesurant le mérite individuel des citoyens, grâce aux nouvelles technologies.
Autre exemple, après les attentats du 11 septembre, le « Patriot Act » a été mis en œuvre définitivement à grand renfort de technologie. Il donne aux autorités des USA la possibilité d’intrusion dans la vie privée de chacun, sur le sol américain comme à l’étranger. Par la récupération d’un drame et contre toute éthique, les USA ont ostensiblement déployé un réseau d’espionnage industriel couvrant les territoires de ses amis et alliés.

[21] ⤶ Singularité technologique, moment de bascule que les futurologues en vogue annoncent vers 2030.

[22] ⤶ Un A380 atterrit sur une piste d’aéroport guidé par un automate : performance de l’IA ; un peu plus loin, un bourdon atterrit sur une fleur contre le vent : intelligence commune. Lequel des deux atterrissages est techniquement et physiquement le plus complexe

[23] ⤶ « Si je dois passer par un bloc opératoire, quelle que soit la précision des outils informatiques mis à disposition du chirurgien, je veux que ce dernier reste maître du geste chirurgical ». Nous ne sommes pas prêts à déléguer toutes nos décisions à un algorithme, aussi intelligent soit-il. Ainsi, certains outils de recherche médicale sur l’Internet ne font qu’encourager les hypocondriaques ; de même les MOOC ne peuvent pas remplacer totalement l’échange élève professeur ; un automate de conseils juridiques ne remplace pas l’interprétation in situ d’un juriste ou un rappel physique de la loi. Mais, à l’inverse, certaines décisions pourtant dépendantes de critères objectifs laissent une regrettable place au doute et à l’arbitraire lorsqu’un intermédiaire humain intervient (exemple : l’attribution des logements sociaux est-elle toujours impartiale?).

[24] ⤶ La nouvelle génération des drones létaux décide par algorithme du contexte et du moment pertinents pour passage à l’acte pouvant aller jusqu’à abattre un ennemi. Un débat moral oppose aujourd’hui plusieurs gouvernances militaires au sein même de l’OTAN.

[25] ⤶ Deux exemples : l’édition du génome humain par injection de cellules aurait déjà été expérimentée en 2016 (Référence au protocole CRISPR-Cas 9 qui aurait été expérimenté en Chine sur un humain à des fins thérapeutiques) ; des cellules du cerveau d’une souris ont été génétiquement modifiées pour lui implanter par la suite des souvenirs fictifs (testé et publié en 2013 par le MIT, avec recours dans une deuxième phase à l’optogénétique qui active les neurones en les exposant à une source lumineuse).