.png)
Les limites du "techno-solutionnisme"
Il est incontestable que la technologie au service de l'inventivité humaine a apporté des bénéfices incommensurables dans nos vies et ouvert la voie à un avenir meilleur dans de nombreuses régions du monde. Mais l'omniprésence de la technologie et ses impacts sur la vie de milliards d'individus, la connexion de toute chose partout et à tout instant supposent désormais quelques questions cruciales: Quelle place pour l'homme dans un monde dominé par la technologie, quelles orientations du progrès voulons-nous, avec quels buts et quels moyens? Dans son ouvrage Pour tout résoudre cliquez ici paru en 2014 Morozov nous propose une définition très claire de ce qu'est le solutionnisme technologique. Pour lui le développement des nouvelles technologies s’est accompagné de celui de « deux idéologies ». La première "le solutionnisme" érigé en totem par les chantres de la Silicon Valley pour qui tous les aspects de notre vie peuvent être améliorés et la plupart des problèmes résolus grâce et par la technologie. La seconde "le webcentrisme" - nouveau fantasme qui anime la nouvelle économie obèse de transformation numérique - a fait du numérique le centre de gravité du monde. La numérisation à marche forcée constatée depuis des années n'est pas sans conséquence. On ne compte plus les dérives : désinformations grandissantes, fuites et exploitations illégales des données d'utilisateurs, hameçonnage publicitaire, usurpation d’identité... Si Jadis les plateformes étaient considérées comme le nouveau lieu des utopies contemporaines elles ont fil du temps favorisé l'émergence d'un individualisme vorace et d'un égocentrisme décomplexé loin de l’esprit des pionniers de l’internet né de la contre-culture libertaire des années 1970 (1).
Loin des querelles intestines et de la dualité irréconciliable entre technophiles et technophobes - dont les oppositions sont sans doute trop binaires et schématiques pour être justes - j'observe depuis des années la façon dont les nouvelles technologies façonnent chaque jour un peu plus nos vies et préemptent le long terme.
Aujourd'hui, tout semble aller vite, trop vite, sans que cela n’effraie outre mesure nos dirigeants politiques sans qu’une réflexion réelle soit portée sur l’impact social, environnemental et les conséquences sur le plan éthique. L'innovation technologique s'est au fil du temps substituée à la notion de progrès pire elle apparaît chaque jour un peu plus comme sa seule manifestation. Cette réalité doit nous éclairer sur l'ampleur de la tâche et stimuler notre intelligence trop souvent résignée. A travers cet article je vais donc tenter de répondre à une question que beaucoup se posent : Et si la technologie provoquait plus de problèmes qu'elle ne promet en résoudre?
Terre rares, une course sans fin
La quête effrénée des précieuses terres rares - le nouvel or noir - nécessaires au bon fonctionnement de nos smartphones, ordinateurs et autres voitures électriques dégradent les espaces terrestres et marins. De l’extraction de lithium dans le désert de sel d’Atacama au Chili, en passant par celle du cobalt, tungstène, coltan en Mongolie intérieure et en RDC jusqu’à celle des nodules polymétalliques dans les fonds océaniques, l’Homme détruit chaque jour un peu plus les écosystèmes terrestres, côtiers et marins pour satisfaire sa boulimie technologique. Parce que rien ne semble combler les aspirations sans fin d’une humanité en perte de boussole, c’est désormais sur la Lune que les grandes puissances engagent une véritable course pour extraire des métaux exploitables notamment l’hélium-3e considérée comme l’énergie du futur...
Censée décarboner l’économie par la transition énergétique, la révolution verte semble décidément bien loin et se heurte à certaines réalités. Car pour produire un grand nombre d'énergies « renouvelables », il est besoin de métaux rares.
Si faire de l'éolien, du solaire, de l’hydraulique ou encore de la biomasse les boucs émissaires de la pollution mondiale due aux activités minières, relève du sophisme, il convient de se demander si le remède n'est pas pire que le mal et donc de questionner cette "révolution verte" outrageusement fantasmée. Dans "La Face cachée des énergies vertes" Guillaume Pitron montre de manière extrêmement claire que toute innovation technologique dite « verte » engendre inévitablement des transferts de pollution. Pour Aurore Stephant, ingénieure géologue minier, il est impératif de revoir impérativement les approches en matière de transition numérique et d’identifier les leviers possibles pour réduire drastiquement les impacts associés,
Les projets consommateurs de terres rares se multiplient un peu partout. "Spot" le chien robot de Boston Dynamics permet désormais de sécuriser les sites nucléaires, participe à des missions de premiers secours et intervient sur les incendies. L'Homo Numericus Elon Musk le patron de Tesla et SpaceX ambitionne quant à lui de produire des millions d'unités de son nouveau robot humanoïde "Optimus" pour "bâtir un "avenir d'abondance et transformer fondamentalement la civilisation".
Dans le Cloud - devenu le Graal des géants du numérique - se cachent nombre de serveurs, des terminaux, des terres rares et de déchets. La consommation en CO2 nécessaire au développement des algorithmes d’intelligence artificielle - pour ne parler que d'eux - entrainent une empreinte carbone désastreuse. Selon des chercheurs de l’Université du Massachussetts Arhmes, entraîner des réseaux de neurones (méthode d'intelligence artificielle aussi appelée deep learning) peut consommer autant d’énergie que 5 voitures, de leur production à leur fin de vie. L’étude a été repérée par la MIT Technology Review. Enfin si la question de l’usage de l’eau dans le datacenter est un domaine qui confine au confidentiel, les Pays-Bas - frappés par la sècheresse - ont récemment découvert la consommation dantesque du Datacenter de Microsoft: 84 millions de litres d'eau alors que l'entreprise américaine indiqué que son installation n'avait besoin que de 12 à 20 millions de litres... Actuellement, les émissions de CO2 et l’innovation technologique des captages et stockages carbone (CSC) sont au cœur de toutes les discussions. Si certains considèrent les crédits carbone comme une solution pragmatique aux problèmes climatiques de la planète, d'autres défendent l’idée qu'ils aggravent le problème donnant aux pollueurs la liberté d'émettre plus qu'ils ne le feraient autrement. Si cette solution n'est pas définitivement à proscrire pour l’heure, les crédits et compensations carbone associés à la blockchain et aux crypto monnaies n’ont jamais démontré leur plein efficacité et leur capacité à réduire les émissions de gaz à effet de serre de manière nette et durable.
En finir avec la loi de Moore
La "course technologique" sans fin - vendue comme un impératif catégorique - est au cœur des enjeux géopolitiques et de la rivalité sino-américaine. Alors que la 5G commence tout juste à faire son apparition, les satellites chinois testent déjà la 6G... Conscients des applications stratégiques dans les domaines militaires et civils, les États investissent d'ores et déjà des milliards dans la sixième génération de technologies de communication sans fil. À en croire l'entreprise LG, la 6G pourrait être commercialisée dès 2029 même si elle doit encore surmonter plusieurs obstacles techniques en matière de recherche fondamentale. En attendant Intel, Qualcomm, Google, Cisco du côté américain; Huawei, LG, NTT Docomo, ZTE, Samsung, coté asiatique; et Nokia, Ericsson, Atos, Orange, Siemens, Telefonica, côté européen (proket Hexa-X) fourbissent déjà leurs armes pour remporter la bataille de la 6G.
« Dans une société extrêmement mobile et où tout se jette, le besoin psychologique de sécurité et de stabilité est souvent exploité de manière perverse par l’industriel, l’agence de publicité et le commerçant, qui détournent l’intérêt du consommateur vers les ornements superficiels d’un fugitif "groupe dans le vent". - Victor Papanek
À l’instar de la 5G et de toutes les générations qui l’ont précédée, les terminaux ont besoin d'être en constante évolution. La compatibilité des devices liés à leur conception est un des grands enjeux pour les constructeurs et à la fois le principal problème. Le principe de la loi de Moore selon lequel les capacités informatiques font plus que doubler tous les deux ans ont permis l'émergence et la massification d'appareils plus petits, plus pratiques et performants . Si on constate un ralentissement significatif de la logique prophétique et empirique de la loi de Moore - du fait notamment des limites de la miniaturisation des composants - de nombreux acteurs tels que IBM ou encore Samsung souhaitent repousser ses limites avec notamment la fabrication de transistors verticaux jusque là construits de manière horizontale.
Cette logique qui ne fait qu'accroître une désirabilité toujours plus grande dans des objets de subordination et de dépendance qui - ironie du sort - étaient censés nous rendre plus libres... Cette volonté d'innovation permanente, propice à l'obsolescence programmée - pousse à consommer toujours plus, rendant vaine et illusoire la lutte contre le consumérisme numérique.
Le livre hrift and Thriving in America nous rappelle l’importance et les bienfaits de la « frugalité » et comment cette valeur morale a su articuler les dimensions normatives de la vie économique au cours des XVIIème et XIXème siècle et même tout au long de la majeure partie de l'histoire américaine.
A chaque problème sa solution technologique
Loin de réfléchir aux origines des problèmes les États et autres institutions ont comme premier réflexe le solutionnisme technologique. C'est le cas pour la gestion des flux migratoires via le recours aux nouvelles technologies d’identification et de surveillance qui permettent de suivre, de tracer les individus. Bien qu'utiles et parfois nécessaires ces dispositifs intégrant des puces dans les visas et les documents de séjour, des lecteurs de puces, des caméras et des identifiants biométriques reliés à des bases de données, relèvent d’un système réactif classique et non d'une politique proactive visant à anticiper en amont les flux migratoires.
" Toute science, étant devenue expérimentale, dépend de la technique qui seule permet de reproduire techniquement les phénomènes. Or, cette technique reproduit abstraitement la nature pour permettre l’expérimentation scientifique : d’où la tentation de contraindre la Nature à se conformer aux modèles théoriques, de réduire la nature à l’artificiel technoscientifique " - Jacques Ellul
Le progrès technologique est devenu un formidable alibi pour nous déculpabiliser de nos errements et l’outil de correction de nos folies les plus grandes.
En nous attaquant maladroitement aux racines du problème, nous finissons par y répondre de la pire des manières. Alors qu'on sait aujourd'hui que l'usage croissant de la climatisation aggrave le réchauffement climatique, Dubaï a investi des milliards de dollars dans des tours gigantesques et autres résidences de très haut standings énergivores en climatisation pour ensuite investir des sommes considérables pour développer des technologies qui stimulent les nuages pour faire pleuvoir. La manipulation du climat par le biais de la géo-ingénierie pourrait avoir un impact catastrophique sur le fonctionnement et l’équilibre de l’atmosphère et des océans. Il convient à minima de questionner la pertinence de ces interventions anthropiques. Si certains font remarquer l’intérêt environnemental de nouvelles pratiques et de l'essor de nouveaux outils qui permettent notamment de réduire certains déplacements, le télétravail est un des nombreux exemples.
Le Metaverse est quant à lui devenu en peu de temps le nouvel avatar d'un monde futuriste dystopique où les jumeaux numériques promettent de synchroniser le physique et le virtuel. Facebook promet aux chirurgiens de pouvoir s'entraîner autant que nécessaire dans le Metaverse avant d'opérer de vrais patients et aux étudiants de pouvoir écouter Marc Antoine débattre dans la Rome antique trente-deux ans avant notre ère.
Situées en plein milieu du Pacifique, les Îles Tuvalu de Tuvalu, et leurs 12 000 habitants, pourraient être submergées à cause du réchauffement climatique l'Etat de Tuvalu envisage de créer une version virtuelle de l'archipel polynésien avant qu'il ne soit submergé d’ici la fin du siècle à cause du réchauffement climatique rapporte le Guardian.
Si les applications sont bien réelles Raja Koduri, responsable chez Intel, affirme que créer un métavers pour des centaines de millions d'utilisateurs suppose une puissance de calculs mille fois plus importante qu'actuellement. Sans oublier le renouvellement des appareils nécessaires à notre nouvelle vie immersive: des téléphones aux casques et lunettes de réalité virtuelle, en passant par les ordinateurs" (2). Pour Fabrice Flipo " il est primordial d’instaurer rapidement un système d’autorisation de mise sur le marché» qui contraindrait les firmes à produire des études d’impact sur la trajectoire socio-écologique de leurs projets numériques."(3)
L'Age du Capitalisme de surveillance
L'ère du numérique a apporté de nombreuses avancées et avec elle son lot de désillusions et de nouvelles menaces pour nos vies privées. L'un des plus grands dangers vient de la façon dont les grandes entreprises de la Tech collectent et utilisent nos données.
Selon l’universitaire Sarah Spiekermann « Certaines entreprises détiennent jusqu’à 30 000 points de données pour chaque individu qu’elles traquent. »
Initialement Internet avait été conçu pour être un réseau décentralisé, où chaque utilisateur pouvait se connecter à n'importe quel autre utilisateur sans passer par un serveur central. Cette conception était basée sur la conviction que la décentralisation rendrait Internet plus résistant à la censure. Les différentes instances et autres régulateurs de données personnelles - la Cnil, le California Consumer Privacy Act (CCPA), le RGPD européen ou encore le Health Insurance Portability and Accountability Act (HIPAA) - constituent des pare-feu mais n'empêchent malheureusement pas les dérives. La collecte et la transmission des données personnelles de millions de français au géant IQVIA - leader mondial de la collecte et de l'analyse des données médicales - en est la preuve. L'entreprise américaine détient aujourd’hui - avec l'assentiment de la CNIL et de nombreuses pharmacies - toutes sortes d'informations médicales notamment des prescriptions pharmaceutiques. Si les données sont « pseudonymisées » pour rendre la réidentification des personnes la plus difficile, l'opération est réversible contrairement à l'anonymisation.
L'omniprésence des algorithmes
Source de progrès dans de nombreux domaines comme de scandales en tout genre, les algorithmes fascinent au moins autant qu'ils effraient. Désormais, ils rythment la vie sociale des individus et nourrissent trop souvent les clivages et les fractures. Aussi sommes-nous amenés à nous interroger sur leurs différentes applications. Dans son livre l'Âge du Capitalisme de surveillance la Professeure émérite à Harvard et sociologue Shoshana Zuboff dénonce le pouvoir « monstrueux » des machines intelligentes, un pouvoir qui ne dépend pas tant de leurs interactions au présent que de leurs capacités à prédire et à orienter nos comportements futurs. Sans nier la contribution réelle à tous les aspects de nos vies, l'intelligence artificielle est clairement pointée du doigt. En automatisant les lignes de fracture et les discriminations existantes, la transformation numérique ne fait que les renforcer. Les scientifiques de l'AI Now Institute de l'Université de New-York se sont récemment alarmés du manque de réglementation autour de l'IA. Les craintes soulevées dans leur rapport concernent surtout les technologies de reconnaissance faciale et les biais algorithmiques " Il apparaît de plus en plus clairement que dans divers domaines, l’IA amplifie les inégalités, place les informations et les moyens de contrôle dans les mains de ceux qui ont le pouvoir", peut-on lire dans le document.
L'intelligence artificielle dans le monde de la santé
L'Intelligence Artificielle et surtout le machine learning peuvent considérablement aider à traiter les données médicales et donner aux professionnels de la santé d'importantes informations, améliorant ainsi les résultats en matière de santé et le ressenti des patients. Structurer les données issues des patients, faciliter le diagnostic, guider la prise en charge thérapeutique, aide à la prédiction dans les domaines oncologique ou cardiovasculaire les exemples d'applications de l'intelligence artificielle dans le domaine de la santé sont nombreux et indéniables. L’intelligence artificielle a beau offrir des garanties importantes en termes de sécurité, elle n’en reste pas moins une technologie vulnérable notamment sensible aux attaques dites "contradictoires" et à des manipulations qui peuvent modifier le comportement de l'IA. En changeant quelques pixels sur un scanner pulmonaire, il donc possible de tromper une IA qui peut voir une maladie qui n'existe pas ou à ne pas en voir une qui existe nous explique Samuel Finlayson, chercheur à la Harvard Medical School et au MIT et auteur de l'article Adversarial attacks on medical machine learning
L'article insiste sur le un sentiment croissant d'inquiétude quant à la possibilité d'attaques contradictoires qui pourraient toucher aussi bien les services de reconnaissance faciale que ceux utilisés par les voitures autonomes ou encore ceux des scanners d'iris et lecteurs d'empreintes digitales. En 2018, une équipe de la Tandon School of Engineering de NYU a réussi à créer des empreintes digitales virtuelles capables de tromper les lecteurs d'empreintes digitales dans 22 % des cas. En d'autres termes, 22% de tous les téléphones ou PC qui utilisaient potentiellement ces lecteurs pourraient être déverrouillés...
Face à un tel constat, il convient de s'interroger sur le chemin que nous sommes en train d'emprunter et s’il est souhaitable ou non d'utiliser les algorithmes pour des nouvelles applications qui un jour nous dépasseront. Timnit Gebru, une des plus grandes chercheuses des Etats-Unis selon le magazine Nature avait été remerciée par son employeur Google pour avoir émis des critiques sur la politique de recrutement des minorités de l'entreprise et les biais des systèmes d'intelligence artificielle. Dans son livre, Weapons of Math Destruction, Cathy O'Neil, doctorante en mathématiques, diplômée de l’université de Harvard et chercheuse en géométrie algébrique, s’évertue à démontrer comment et pourquoi "les Big Data augmentent les inégalités et menacent la démocratie".
Les scientifiques de l'AI Now Institute de l'Université de New-York se sont d'ailleurs récemment alarmés du manque de réglementation autour de l'IA.
Les craintes soulevées dans leur rapport concernent surtout les technologies de reconnaissance faciale et les biais algorithmiques " Il apparaît de plus en plus clairement que dans divers domaines, l’IA amplifie les inégalités, place les informations et les moyens de contrôle dans les mains de ceux qui ont le pouvoir, réduisant du même coup ceux qui n’en ont déjà pas" peut-on lire dans le document.
Crédit social, le monde d'après...
Souvent décrites comme le nouvel or noir du XXIesiècle. les données personnelles - que s'arrachent les géants chinois et américains - représentent des ressources précieuses et stratégiques pour les grandes entreprises et les États.
Même s'ils s’en défendent de nombreux pays n’hésitent plus à louer les mérites du contre-modèle chinois et en viennent même du bout des lèvres à remettre en cause l’efficacité des méthodes utilisées par les démocraties. Des pays comme le Sri Lanka, le Cambodge, le Chili ou encore la Pologne se disent intéressés par le crédit social chinois. En France, certains élus dont le sénateur Jean-Raymond Hugon militent pour la mise en place d’un crédit social à la française. L’idée fait donc son chemin en France et dans certains pays européens. Si le modèle français ne ressemble en rien au modèle chinois le pass vaccinal obéit à la même logique que celle qui a justifié le système de crédit social chinois. Pris en étau entre la tentation du crédit social chinois à les censures arbitraires des plateformes américaines qui interdisent tout débat contradictoire, nos démocraties paraissent bien fragiles. Sans jamais nier la nécessité d'apporter des réponses adéquates à une situation exceptionnelle et au-delà même de l'inquiétante question de l'accoutumance au contrôle social, que reste-t-il de la légitimité des Etats si chaque crise, qu’elle soit sanitaire ou sécuritaire, met en évidence l’incapacité de ces derniers à y faire face sans avoir recours à des solutions qui entraînent davantage de coercition. Dans les périodes de troubles, d'instabilité démocratiques - qui se multiplient un peu partout en occident, la frénésie technologique ne peut être l’unique solution.
Nul ne sait si un jour, sous prétexte de mieux dompter l’anomie rampante, le pass vaccinal - pour ne citer que lui - ne sera pas utilisé pour généraliser le contrôle social en France et affaiblir encore un peu plus la liberté herméneutique.
Une urgence à réguler
La mise à disposition et l’exploitation des données de santé sont devenues un des enjeux majeurs de notre siècle. Ces données dites sensibles font l’objet de conditions de protection particulière encadrées par la CNIL et le RGPD. Pourtant depuis 2018, la Commission nationale de l’informatique et des libertés autorise plus de 14 0000 pharmaciens à collecter les données personnelles pseudonymisées de millions de français, ces dernières sont ensuite transmises au plus gros data broker américain Iqvia. Si le géant américain prétend ne pas utiliser ces données santé "anonymisées" à des fins commerciales, les risques sont pourtant bien réels. Les géants de la tech mais aussi de grands grands assureurs investissent des sommes considérables dans ce secteur de la santé et les initiatives de partenariats se multiplient à l'image de l'accord signé entre le National health system britannique et Alphabet dont l’objet était le traitement des données de 1,6 millions de patients. Les doutes demeurent sur les garanties de sécurité, d’intégrité et de confidentialité de la collecte et du traitement des données des patients !
En 2018 la société Grindr fut au cœur d’un véritable scandale. L’application avait alors livré les données personnelles de ses abonnées, notamment leur statut VIH, à des entreprises.
Depuis quelques années, les technologies d'analyses et de traitements des Big data à vocation prédictive se multiplient un peu partout. La société Palantir Technologies spécialisée dans l'exploitation de données à des fins d'analyse pour l'aide à la décision et à la prédiction est probablement la plus connue de toutes. Financée par In-Q-Tel, la branche de capital-risque de la CIA, cette société spécialisée dans l'exploitation de données fut utilisée par la police de la ville de Nouvelle-Orléans en 2012 afin de prédire quelles personnes étaient susceptibles de commettre des crimes.(4) Si la technologie peut indubitablement aider les forces de l'ordre à lutter contre la criminalité : (numérisation et impression 3D de scènes de crime, prédictions morphologiques, anticipation d'actes criminels...) l'exemple de la Nouvelle-Orléans montre la limite des technologies prédictives qui ont mis en lumière de nombreuses erreurs et des biais majeurs en renforçant dans ce cas précis les préjugés sociaux, raciaux et économiques. Cet exemple constitue la base de la célèbre Critique de Lucas théorisée par Robert E. Lucas lauréat du prix Nobel d'économie.
Autre exemple : la discrimination tarifaire - basée sur l'historique de navigation enregistré par les cookies - introduite par certaines sociétés. Désormais certains internautes savent manipuler les prix des billets proposés par les compagnies aériennes en modifiant leur comportement. Il est ainsi assez facile pour eux de tromper les cookies responsables de cette discrimination afin d'obtenir de meilleures offres. En suivant cet exemple, il est aisé de comprendre pourquoi le contrôle ex ante par toute autorité des outils fournis par l'intelligence artificielle serait illusoire. Des applications concrètes existent néanmoins , chercheurs et médecins expérimentent des applications vertueuses de l'intelligence artificielle. Au CHU de Bordeaux l'objectif est d'optimiser la prise en charge des patients et de faire gagner du temps aux soignants.
"Dans le domaine de la santé, le Progrès éthique vise à réparer l'homme, le progrès non éthique travaille à augmenter l'homme" - Axel Kahn
La question d'une meilleure régulation est plus que jamais posée. En Europe le Digital Services Act (DSA) et le Digital Market Act (DMA) tentent de fixer un ensemble de règles communes et de réguler l’espace numérique européen. Aux États-Unis l'Algorithmic Accountability Act a été introduit au Sénat américain et à la Chambre des représentants le 3 février 2022. La Chine a également drastiquement réglementé l’usage des algorithmes de recommandation en multipliant ces dernières années avec notamment la mise en place du PIPL (« Personal Information Protection Law »), la grande loi chinoise de protection des données à caractère personnel calquée sur le modèle du RGPD européen.
La stratégie européenne en matière d'IA présentée en 2021 visant à faire de l’UE une plaque tournante de classe mondiale pour l’Intelligence artificielle semble aller dans le bon sens, c'était d'ailleurs l'objet de mes travaux - envoyés à Margrethe Vestage - et pour lequel j'avais consacré un article en 2018. Cependant les sommes allouées pour soutenir une telle ambition sont très nettement insuffisantes. Dans le cadre des programmes pour une Europe numérique et Horizon Europe, la Commission prévoit d’investir 20 milliards d’euros au cours de la décennie numérique, à titre de comparaison les Chinois et les Américains prévoient de dépenser trois à quatre fois plus si on ajoute les investissements publics et privés.
Pharmakon numérique
Le nouveau paradigme technologique symbolisé par la reconnaissance faciale, l’essor de l’Internet des objets, la surveillance massive des données, l'hyper automatisation, la tyrannie des biais algorithmiques, les technologies de géolocalisation ou encore la multiplication des caméras de surveillance, rapproche chaque jour un peu plus nos sociétés de la dystopie "1984" de George Orwell.
Si nous ne sommes pas encore dans le monde du "Cycle des Robots" de Isaac Asimov et John W. Campbell, les drones pollinisateurs, les chiens robots en patrouille le long des frontières ou encore la robotique humanoïde aux expressions faciales ultra réalistes derniers avatars de nos lubies technologiques nous en rapprochent inexorablement. Cette fuite en avant technologique largement dénoncée par Jill Lepore, professeur d’histoire de Harvard, ne doit pas nous faire oublier que contrairement au progrès - qui recherche une amélioration de la condition humaine - l’innovation se contente quant à elle de créer et de lancer de nouveaux produits en laissant au législateur le soin de gérer les questions éthiques.
“The technology already exists. It’s only the will we’re lacking.” - Cathy O'Neil
Qu’il s’agisse de l’accompagnement des besoins des personnes âgées et en perte d’autonomie, de l’enjeu du dessalement d'eau de mer et des eaux saumâtres, de la réduction de la mortalité maternelle et infantile ou encore des grands défis liés aux maladies génétiques et aux cancers, les besoins sont nombreux et les défis gigantesques. Ainsi, la technologie de modification du génome - Crispr - fonctionnant comme un scalpel moléculaire programmable - pourrait permettre à terme de soigner les maladies génétiques les plus graves. L’implant cérébral Neuralink dont la promesse est d’aider les personnes handicapées ouvre de nouvelles perspectives.... À moins que ces technologiques ouvrent au contraire la boîte de pandore du pire du transhumanisme. Car si la technologie est neutre, l'éthique de l’utilisateur et du concepteur, elle, ne l’est pas toujours. Loin de vouloir se protéger contre la foudre du progrès, il convient d’accompagner cette grande transformation en mettant en place des garde-fous. En 2021 l'entreprise Clear View AI, qui avait provoqué un véritable scandale en collectant près des milliards de photos sans la moindre permission, avait permis aux enquêteurs américains du FBI de confondre et d'arrêter un pédocriminel argentin recherché depuis des années. Preuve que la technologie est capable du pire mais aussi du meilleur.
Entre les technosolutionistes qui ont fait de la technologie une idéologie et "les furtifs" d'Alain Damasio évoluant dans les angles morts de notre société tentant de fuir l'enfer des puces et des robots il existe probablement un chemin au milieu des orties et une petite lumière d'espoir au fond de caverne. Le mouvement Low Tech - qui encourage l'Écoconception, la résilience, la sobriété et la responsabilité -, le relocalisme, le questionnement grandissant du rapport à la consommation de millions de citoyens à travers le monde, la décarbonation de la supply chain ou encore le concept de dé-numérisation de certains secteurs font leur chemin. Tout n'est donc pas perdu si nous séparons le bon grain de l'ivraie si toutes ces initiatives technologiques sont passées au tamis de la raison et du bon sens. Leurs usages en lien avec l'intimité, la liberté et la vie privée des individus questionnent les fondements même de nos sociétés démocratiques. La perpétration du pire et son acceptation dépendra de nos choix ou de nos absences de choix .
A ceux qui, après la lecture de cet article, se posent encore la question de savoir si la technologie dans son champ le plus large, constitue la réponse ou le problème, tout comme Bernard Stiegler je crois qu’elle est un Pharmakon: à la fois le poison et le remède.
_______
Références :
(1) Les réseaux sociaux, miroir de notre société | LinkedIn
