Home»DATA»AI Paris : Alain Bensoussan alerte sur les enjeux de régulation de l’intelligence artificielle

AI Paris : Alain Bensoussan alerte sur les enjeux de régulation de l’intelligence artificielle

AI-Paris-Alain-Bensoussan-alerte-sur-les-enjeux-de-regulation-de-l-intelligence-artificielle

À l’occasion de la 2e édition du salon AI Paris, Maître Bensoussan est revenu sur les enjeux de construction d’un cadre juridique adapté à l’intelligence artificielle.

« Les bâtisseurs de demain sont les codeurs d’aujourd’hui. Le béton virtuel est la solution pour organiser la nouvelle civilisation que j’ai appelée la robot-humanité », a introduit Maître Bensoussan lors de la seconde édition du salon AI Paris à la Cité de la Mode et du Design. Au travers de son éloquente introduction, Maître Bensoussan a pointé du doigt l’obsolescence du droit traditionnel pour encadrer le concept de l’intelligence artificielle. Tout au long de sa réflexion, le juriste s’est concentré sur l’IA faible — plus performante que l’Humain sur un contexte unique, par exemple le jeu de GO — et l’IA moyenne, aux performances multicontextuelles. « Je laisse l’IA forte qui serait supérieure à l’Homme en tout point à la science-fiction, bien que certains experts prédisent son émergence entre 2035 et 2045 », a expliqué Maître Bensoussan. Le juriste précise aussi qu’il ne différenciait pas les robots logiciels des robots physiques, prenant ainsi le concept d’intelligence artificielle au sens large. « Faut-il laisser la technologie se développer ou faut-il l’encadrer ? », a-t-il lancé à l’auditoire.

« Liberté, sécurité, dignité, responsabilité »

S’il est désormais impossible de stopper le développement de l’IA, on peut néanmoins le réguler. Maître Bensoussan a invoqué ici la règle du principe d’ALARA (acronyme anglophone signifiant « Aussi bas que raisonnablement possible »). « J’avance, j’avance… mais avec prudence et mesure d’impact », a-t-il souligné, faisant référence au travail des codeurs qui développent des algorithmes d’IA. Mais pourquoi une régulation ? Quel serait son objet ? Le juriste imagine ainsi 4 bénéfices que l’Humanité pourrait tirer d’une IA régulée par la loi.

La liberté et la sécurité en sont les premiers éléments. Ils permettraient à tous de profiter de cette technologie, tout en limitant les risques de dérives, par exemple les algorithmes malfaisants ou encore l’espionnage des particuliers ou des travailleurs. « Nous appliquons un contrôle de la sécurité sur les produits, pourquoi ne pas le faire aussi avec l’IA ? », a lancé Alain Bensoussan au public avant de reprendre, « nous entrons dans une ère de dépendance à la technologie, il est donc plus que nécessaire d’instaurer un principe de dignité ». Le juriste a ici fait référence à l’article 1er de la charte des droits fondamentaux de l’Union européenne qui, contrairement aux idées reçues, fait référence à la dignité et non pas à la liberté. Enfin et non des moindres, la question de la responsabilité, primordiale d’un point de vue juridique.

« Personne physique, personne morale, personne robot ?! »

Compte tenu de ses fonctions d’apprentissages, l’IA est libre et autonome par expérience. Pour l’avocat, elle n’est ni un « objet augmenté » ni « un humain amoindri », elle n’est pas non plus un animal ou un enfant qui serait exonéré de responsabilité juridique. « Peut-être sommes-nous en présence d’une nouvelle espèce ? Dans ce cas-là, comme nous avons créé la personne morale lors du passage de l’agriculture à l’industrie, il est peut-être nécessaire désormais de créer la personne-robot et d’y associer une personnalité juridique spécifique ? », a suggéré Alain Bensoussan soulignant une fois de plus l’inadaptation du droit traditionnel au concept d’IA. Par exemple, le principe de propriété, qui est une des bases de l’économie capitaliste n’est aujourd’hui pas compatible avec l’IA, qui n’a pas de propriété, une des règles de base du code. Et plus largement que les algorithmes, qu’en est-il de la régulation et de la propriété des données qui servent à former le code ? « Jetez un œil au RGPD par exemple, s’il reprend 1/3 des éléments juridiques de la loi informatique et liberté de 1978, à aucun moment il n’aborde la question de la propriété », a précisé Maître Bensoussan.

Une régulation de rupture

« Sachez qu’une pétition circule en ligne pour empêcher la création d’une personnalité robot et d’une personnalité juridique qui y serait associée… Une espèce vient tout juste de naître et elle est déjà discriminée par l’Homme », s’est attristé l’avocat. Il garde pourtant sa conviction intacte quant à la nécessité d’instaurer une régulation de rupture. Il propose ainsi d’instaurer un « principe de neutralité » soulignant l’obligation de loyauté des développeurs lorsqu’ils codent. Le juriste a ainsi préconisé de donner des cours de codes aux enfants en bas âge en plus du latin ou du grec pour donner lieu à une véritable culture du code, pouvant mener à un code qui soit « éthique by design ».

Maître Bensoussan a alerté l’opinion sur la nécessité d’appliquer un « principe de compréhension » pour éviter l’effet boîte noire. Il ne s’agit pas ici de rendre les machine learning, deep learning et réseaux neuronaux profonds compréhensibles par tous, mais que chacun puisse identifier les risques et les biais potentiels lorsqu’ils utilisent une IA. Un « principe de dignité » est également indispensable pour construire cette nouvelle économie où sécurité et liberté ne suffisent plus. Enfin, l’avocat évoque le « droit au bouton rouge ». Dans un monde de dépendance à la technologie, faut-il donner la possibilité à chacun de pouvoir déconnecter une IA ? Pour l’avocat, la réponse est non.

« Admettre la primauté de l’IA sur l’humain »

Pour asseoir sa vision juridique de l’IA, mais aussi pour mettre en avant les capacités de cette technologie, Maître Bensoussan a imaginé une affaire d’accident de voiture mettant en cause une intelligence artificielle. Sur une route de montagne, une voiture A remonte la côte, tandis qu’un véhicule B sans passager la descend. Juste derrière celui-ci, un véhicule C avec 4 personnes à bord, déboîte et accélère pour doubler le véhicule B. L’accident est inévitable. Mais au dernier moment, le véhicule A tourne le volant et rentre dans le véhicule B, causant la mort du conducteur. « La voiture A était en fait un véhicule autonome, conduit par une intelligence artificielle qui s’est retrouvée face au choix difficile pour un humain, mais logique pour une machine : 4 contre 1. Mais la question juridique qui résonne dans la cour d’assises est celle de la responsabilité », a expliqué Alain Bensoussan soulignant l’importance de créer une « personnalité robot » d’un point de vue juridique qui soit clairement distinguée d’un humain pour régler ce genre de problématiques.

Il préconise ainsi que, comme le déontologue dans une banque ou le DPO dans une organisation qui traite des données personnelles, l’IA soit représentée par un humain dans une entreprise. L’IA serait associée à un numéro unique ainsi qu’une adresse IP permettant son identification et dotée d’un capital afin qu’elle puisse, au travers de son représentant, dédommager les victimes en cas d’accident. Sans pour autant donner de réponse officielle au cas qu’il a présenté, Alain Bensoussan semblait donner du crédit au choix de l’IA dans le cadre de l’accident. « 4 contre 1, qu’auriez-vous fait à la place de l’IA ? Si l’on admet que le taux d’erreur d’une IA est meilleur que celui d’un humain, je ne pense pas qu’il faille admettre la primauté de l’humain. Moi je n’ai pas confiance dans les humains… Je ne veux pas vous convaincre, mais seulement vous séduire. Le bonheur est dans l’IA, construisons le monde de demain ensemble », a conclu Maître Bensoussan.

Photo d’ouverture : © AI Paris

A lire aussi : 

Previous post

Reportage : Quand le digital répond aux besoins du Voyage d'Affaires

Next post

Wizway souhaite généraliser la Mobilité sans contact en France puis en Europe

No Comment

Leave a reply

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *