Les eurodéputés doivent donner mercredi un premier feu vert au projet européen de régulation de l’intelligence artificielle (IA), une étape clé dans la course lancée par le législateur face au rythme effréné des innovations de type ChatGPT.
L’Union européenne veut être la première au monde à se doter d’un cadre juridique complet pour limiter les dérives de l’IA, tout en sécurisant l’innovation. Bruxelles a proposé il y a deux ans un projet de règlement ambitieux, dont l’examen a traîné en longueur et qui a encore été retardé ces derniers mois par les controverses sur les dangers des IA génératives capables de créer des textes ou des images.
Pas en application avant... 2026
Pas en application avant... 2026
Le Parlement européen doit adopter sa position à la mi-journée, lors d’un vote en séance plénière à Strasbourg. Le feu vert attendu doit permettre d’engager dès mercredi soir les négociations avec les États membres pour finaliser la législation, si possible, d’ici la fin de l’année. Le commissaire Thierry Breton, qui a porté le texte avec sa collègue Margrethe Vestager, a appelé à conclure le processus “durant les prochains mois”. Mais le règlement n’entrera pas en application avant 2026, dans le meilleur des cas. Estimant qu’il y avait urgence, les deux responsables ont annoncé leur intention d’obtenir des engagements volontaires des entreprises aussi vite que possible.
L’IA : fascination et inquiétude
D’une grande complexité technique, les systèmes d’intelligence artificielle fascinent autant qu’ils inquiètent. S’ils peuvent sauver des vies en permettant un bond en avant des diagnostics médicaux, ils sont aussi exploités par des régimes autoritaires pour exercer une surveillance de masse des citoyens. Le grand public a découvert leur potentiel immense à la fin de l’année dernière avec la sortie du générateur de contenus rédactionnels ChatGPT de la société californienne OpenAI, qui peut rédiger des dissertations originales, des poèmes ou des traductions en quelques secondes. Mais la diffusion sur les réseaux sociaux de fausses images, plus vraies que nature, créées à partir d’applications comme Midjourney, a alerté sur les risques de manipulation de l’opinion et les dangers pour la démocratie.
“Nous avons besoin de règles”
Des scientifiques ont réclamé un moratoire sur le développement des systèmes les plus puissants, en attendant qu’ils soient mieux encadrés par la loi. “Nous avons besoin de règles (...). Le monde entier nous regarde”, a souligné l’eurodéputé Brando Benifei, lors d’un débat mardi. La position du Parlement confirme dans ses grandes lignes l’approche de la Commission. Le texte s’inspire des réglementations existantes en matière de sécurité des produits et imposera des contrôles reposant d’abord sur les entreprises. Le cœur du projet consiste en une liste de règles imposées aux seules applications jugées à “haut risque”. Il s’agirait des systèmes utilisés dans des domaines sensibles comme les infrastructures critiques, l’éducation, les ressources humaines, le maintien de l’ordre ou la gestion des migrations...
Prévoir un contrôle humain
Parmi les obligations: prévoir un contrôle humain sur la machine, l’établissement d’une documentation technique, ou encore la mise en place d’un système de gestion du risque. Leur respect sera contrôlé par des autorités de surveillance dans chaque pays membre. Le Parlement européen entend mieux prendre en compte les IA génératives du type ChatGPT en réclamant un régime spécifique d’obligations qui reprennent essentiellement celles prévues pour les systèmes à haut risque. La proposition de la Commission, dévoilée en avril 2021, prévoit déjà un encadrement des systèmes d’IA qui interagissent avec les humains. Elle les obligera à informer l’utilisateur qu’il est en relation avec une machine et contraindra les applications générant des images à préciser qu’elles ont été créées artificiellement. Une obligation qui sera probablement élargie aux textes.
Surveillance de masse
Les interdictions seront rares. Elles concerneront les applications contraires aux valeurs européennes comme les systèmes de notation citoyenne ou de surveillance de masse utilisés en Chine. Les eurodéputés veulent aussi supprimer les dérogations prévues par la Commission pour autoriser la reconnaissance faciale à distance des personnes dans les lieux publics par les forces de l’ordre. Ce sujet devrait nourrir les débats avec les États membres qui invoquent la lutte contre la criminalité et le terrorisme pour refuser l’interdiction de cette technologie controversée.
Les interdictions seront rares. Elles concerneront les applications contraires aux valeurs européennes comme les systèmes de notation citoyenne ou de surveillance de masse utilisés en Chine. Les eurodéputés veulent aussi supprimer les dérogations prévues par la Commission pour autoriser la reconnaissance faciale à distance des personnes dans les lieux publics par les forces de l’ordre. Ce sujet devrait nourrir les débats avec les États membres qui invoquent la lutte contre la criminalité et le terrorisme pour refuser l’interdiction de cette technologie controversée.
3 Commentaires
Intelligence artificielle : le lancement de Google Bard retardé en Europe par la CNIL irlandaise
Les autorités irlandaises estiment que l’entreprise américaine n’a pas fourni suffisamment d’éléments concernant la façon dont seront protégées les données des utilisateurs de Bard, son nouveau robot conversationnel.
-
Et toi, qu'est ce que tu inities, clochard ?
Répondre
+0
-0
Signalier
Permalink
{comment_ads}Reply_author
En Juin, 2023 (11:49 AM)Participer à la Discussion