top of page

Elon Musk et d’éminents chercheurs tirent la sonnette d’alarme sur les IA avancées.

"Nous appelons tous les laboratoires d’IA à suspendre immédiatement pendant au moins 6 mois la formation de systèmes d’IA plus puissants que GPT-4."


La lettre, publiée par l’Institut Future of Life à but non lucratif, note que les laboratoires d’IA sont actuellement enfermés dans une " course hors de contrôle » pour développer et déployer des systèmes d’apprentissage automatique « que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable ". Parmi les signataires figurent quelques pompiers pyromanes comme Yuval Noah Harari, des acteurs incontournables de la tech comme Elon Musk dont on ne sait plus quoi penser tant ses prises de position sur le sujet sont contradictoires et d’autres plus respectables comme Gary Marcus, professeur de psychologie à l'université de New York et entrepreneur en IA, l'un des critiques à l'egard de l'apprentissage automatique. Soyons clairs , il n'y a aucune chance que les différents acteurs du secteur fassent une quelconque pause, ils continueront leur ascension à marche forcée et l'ethique viendra après comme trop souvent dans la tech. Ne nous faisons pas l'illusion quant à à l'effet de cette lettre et encore moins sur les motivations "réelles" d'une bonne partie des signataires...


Dans mon article " Les limites du Techno-solutionnisme" j’écrivais " L’intelligence artificielle a beau offrir des garanties importantes en termes de sécurité, elle n’en reste pas moins une technologie vulnérable notamment sensible aux attaques dites "contradictoires" et à des manipulations qui peuvent modifier le comportement de l'IA. En changeant quelques pixels sur un scanner pulmonaire, il est donc possible de tromper une IA qui peut voir une maladie qui n'existe pas ou à ne pas en voir une qui existe […] Face à un tel constat, il convient de s'interroger sur le chemin que nous sommes en train d'emprunter et s’il est souhaitable ou non d'utiliser les algorithmes pour des nouvelles applications qui un jour nous dépasseront."


La lettre, publiée par l’Institut Future of Life intervient deux ans après celle envoyée à lettre à l'Union par 51 organisations, dont AlgorithmWatch et la Société numérique européenne, pour demander une interdiction totale de la surveillance. La commission européenne avait en réponse publiée sa proposition de "règles harmonisées sur l’IA". Parmi elles on retrouve la limitation de de l’utilisation des forces de l’ordre de la reconnaissance faciale en public. Dans un article écrit en 2018 intitulé « IA, cette guerre de trop que l’Europe pourrait bien perdre" j’écrivais " La France et l'Europe doivent s'imposer comme le leader d'une IA responsable, éthique, vertueuse et tournée vers le bien commun. L'Europe doit mettre à profit les bienfaits que peuvent apporter l’intelligence artificielle en aidant à résoudre les grands défis que sont le changement climatique, l'alimentation, les inégalités, la santé et encore l’éducation. Reste à savoir si l'Europe parviendra à imposer cette vision en obtenant notamment l'adhésion du reste du monde et si les normes en matière d'intelligence artificielle avec notamment un contrôle plus strict sur les algorithmes ne seront plus un frein qu'un véritable atout, l'avenir nous le dira... " Cinq ans plus tard nous y sommes plus que jamais.







Posts récents

Voir tout

Comentarios


bottom of page