L’AI Act : Un Accord Politique Attisé Par Les Eurodéputés

Résumé : Après de vives discussions et des débats prolongés, les eurodéputés ont finalement conclu un accord politique sur l’AI Act. Ce texte, qui réglementera l’utilisation de l’intelligence artificielle (IA) dans l’Union européenne, a été repoussé en raison de préoccupations concernant les modèles de fondation, tels que ChatGPT. Des mesures plus strictes ont été proposées pour ces systèmes d’IA, y compris le respect des normes environnementales de l’UE et la garantie du respect du droit de l’UE et des droits fondamentaux.

Régulation plus stricte des modèles de fondation

Les eurodéputés ont plaidé pour une distinction entre les systèmes d’IA (SIA) à usage général et les modèles de fondation. Pour ces derniers, un régime plus strict a été introduit. Les modèles génératifs, par exemple, devront être développés en accord avec le droit de l’UE et les droits fondamentaux, y compris la liberté d’expression. Ils devront également produire un résumé détaillé des données de formation couvertes par le droit d’auteur.

De plus, afin de renforcer la transparence, il sera nécessaire de préciser que le contenu a été généré par une IA. Les fournisseurs de modèles de fondation qui ne respectent pas ces règles pourraient être passibles d’une amende de 10 millions d’euros ou de 2% de leur chiffre d’affaires annuel, le montant le plus élevé étant retenu.

Classification des risques

Selon la proposition initiale de l’AI Act, les SIA sont classés selon différents niveaux de risque : minime, limité, élevé, haut risque et inacceptable. Les fournisseurs de SIA à haut risque devront se conformer à un régime plus strict, notamment en matière de transparence, de gestion des risques et de gouvernance des données.

Selon l’accord du 27 avril, les SIA seront classés à haut risque uniquement s’ils présentent un risque significatif de préjudice pour la santé, la sécurité ou les droits fondamentaux. De plus, pour être catégorisés « à haut risque », les SIA devront présenter un « risque important » en raison de la gravité, de l’intensité, de la probabilité d’occurrence et de la durée de ses effets.

Les SIA biométriques classés à risque inacceptable

Les systèmes d’identification biométrique en temps réel et a posteriori sont désormais considérés comme à risque inacceptable et donc interdits, sauf en cas de criminalité grave et d’autorisation préalable. L’utilisation de logiciels de reconnaissance des émotions dans les domaines de l’application de la loi, de la gestion des frontières, du lieu de travail et de l’éducation est également interdite.

Cet accord politique sur l’AI Act marque une étape importante dans la régulation de l’IA au sein de l’UE, avec des mesures spécifiques visant à garantir le respect des droits fondamentaux.

Les grands acteurs du numérique dans le viseur

Dans le cadre de cet accord, les eurodéputés ont également ciblé les très grandes plateformes en ligne, dont les systèmes de recommandation sont désormais classés comme “à haut risque”. De même, les SIA utilisés pour gérer les réseaux énergétiques ou de l’eau ont été ajoutés à cette catégorie à haut risque.

Une attention particulière a été accordée à la durabilité. Les SIA à haut risque devront tenir des registres de leur empreinte environnementale. Cette mesure s’aligne avec les efforts de l’UE pour atténuer les impacts environnementaux des technologies numériques.

Une étape importante vers une régulation européenne de l’IA

Après le report du vote de la Commission européenne initialement prévu le 26 avril dernier, un accord politique a finalement été atteint le 27 avril. Une version affinée des amendements de compromis a ensuite été partagée le 5 mai, et le vote devrait finalement se dérouler le 11 mai.

Cet accord est une étape majeure vers l’adoption d’une réglementation européenne sur l’IA. Le texte sera soumis à un vote en plénière dans environ un mois.

En conclusion, l’AI Act vise à établir un cadre de régulation clair pour l’IA dans l’UE, en veillant à ce que ces technologies soient utilisées de manière sûre et éthique. La proposition de loi met l’accent sur la protection des droits fondamentaux et la garantie d’un haut niveau de protection de la santé et de la sécurité des consommateurs.