La newsletter qui reconnecte l'innovation au progrès — par Cap Digital
Le 19 décembre 2023
Vous n’êtes pas sans savoir que Noël approche, et à cette occasion, l’Union Européenne a glissé sous le sapin un présent un peu particulier : l’IA Act. Un texte de loi destiné à mieux encadrer la création et l’usage d’intelligences artificielles, alors que les craintes à leur égard ne cessent de se multiplier. Droit d’auteur, surveillance, transparence… Que prévoit vraiment ce règlement, et pourquoi est-il critiqué par les spécialistes du sujet ? Nous ferons le point dans cette newsletter. Vous y trouverez également, si l’IA Act n’a déjà plus de secret pour vous :
Mais encore : Un petit point sur notre appel à candidatures pour le SIGGRAPH ;
L'appel à projets en stock :Un retour sur l’appel à candidatures Inneauv, co-lancé par l’IGN et le BRGM ;
Le nouvel adhérent : Une affaire qui roule... on vous présente la start-up de mobilité douce Gaya ;
On y était : Un retour sur le Radi Raf, les rencontres dédiées à l’innovation dans le monde de l’animation ;
Et enfin, comme toujours, notre sélection d’événements à ne pas manquer et des actus à suivre.
En vous souhaitant de belles fêtes de fin d'année, et beaucoup de bûches glacées,
C’est une grande première dans le monde. L’IA Act, un texte de loi qui a pour objectif de mieux protéger les citoyens face aux possibles dérives de l’intelligence artificielle, vient de faire l’objet d’un premier accord au niveau européen. Alors concrètement, que va-t-il changer ? A quel point devrez-vous adapter vos pratiques ? On fait le point sur les évolutions à venir… et les critiques qui vont avec.
Ce qui va changer
1- Bonjour, c’est moi, c’est l’IA
C’est probablement l’une des règles qui touchera le plus de monde. Désormais, les créations réalisées grâce à une IA devront être clairement identifiées et identifiables. En d’autres termes, si vous créez un faux portrait mêlant des images de Georges Clooney et d’un chaton pour votre prochaine campagne pub, il faudra l’indiquer quelque part. Un peu comme la mention obligatoire des retouches photos, par exemple. Cela vaudra pour tout type de production : musique, texte, vidéo, etc.
De la même façon, les IA qui vous parlent devront montrer patte blanche. Si vous parlez à un bot dont les réponses sont générées par l’IA, le-dit bot vous le fera savoir.
De façon générale, l’IA Act va dans le sens d’une plus grande transparence. Si un futur “simili-ChatGPT” sortait sur le marché européen demain, ses concepteurs devraient fournir une documentation technique et des détails sur les données d’entraînement de leur IA. Plus le système sera jugé à risque, et plus cette documentation sera conséquente. Elle devra justifier du respect des droits fondamentaux des citoyens, de remparts suffisants en matière de cybersécurité, de sa conformité avec l’Etat de droit, la protection de l’environnement, de celle des données personnelles et de la vie privée.
2- La copie, c'est fini : le droit d’auteur renforcé
L’IA Act a aussi pour objectif de mieux protéger les droits d’auteur. C’est une question qui a déjà été soulevée à de nombreuses reprises depuis l’émergence des nouvelles IA génératives. Auteurs, artistes, écrivains, entreprises ou média s’inquiétaient de voir leurs œuvres et productions reprises pour entraîner les machines.
À ce sujet, les créateurs d’intelligences artificielles devront rendre public un “résumé suffisamment détaillé” de leurs sources et données d’entraînement. L’identification des auteurs, si elle est assez claire et précise, devrait permettre aux auteurs de prétendre à des droits.
3- Souriez, vous n’êtes plus surveillé
Autre inquiétude que l’on entend souvent au sujet des IA : le fait qu’elles puissent être utilisées à des fins de surveillance. Ceci ne tient pas du fantasme, puisque la Chine par exemple, y a déjà eu recours. En Europe, pourrez-vous dormir sur vos deux oreilles ? Ce qui est certain, c’est que des interdictions concrètes ont été mises en place pour que l’IA ne soit, autant que possible, pas utilisée à des fins de surveillance.
Cela comprend les systèmes de catégorisation biométriques (qui permettent de classer la population en fonction de ses opinions politiques ou religieuses, de son orientation sexuelle ou de son ethnie), mais aussi les systèmes de notation des citoyens, de surveillance de masse, d’extraction non ciblée de photos de visages (en ligne ou via une vidéosurveillance) pour créer des bases de données, l’exploitation des vulnérabilités de chacun grâce à l’IA, la manipulation des comportements humains grâce à l’IA, ou la reconnaissance automatisée des émotions dans les établissements scolaires et sur les lieux de travail… grâce à l’IA.
Toute entreprise ou institution qui manquerait à ces obligations s’exposera à des sanctions. Pour les appliquer, une instance européenne dédiée sera créée. Elle aura le pouvoir d’infliger de lourdes amendes aux entreprises, pouvant aller jusqu’à l’équivalent de 7% de leur chiffre d’affaires tout de même. Sachant que tout citoyen qui s’estime lésé pourra porter plainte.
“Mouais”, “waouh super”… Que faut-il en penser ?
L’IA Act fait l’objet de réactions contrastées. Certains le jugent très bien, d’autres “bien, mais pas suffisant”, d’autres enfin, le pointent directement du doigt.
1- Une surveillance limitée... mais pas trop
Prenons l’exemple de la surveillance. Elle est interdite certes, mais il existe des passe-droits et exemptions pour les Etats. Les forces de l’ordre pourraient par exemple user des systèmes d’identification biométrique dans le cadre de la lutte contre le terrorisme. L’ONG Amnesty International s’en est inquiétée. Mher Hakobyan, conseillère en IA en son sein, parle au média Usbek & Rica de “feu vert à une surveillance numérique dystopique” et de “précédent dévastateur au niveau mondial”. Elle regrette également qu’il soit permis d’exporter des technologies “jugées nuisibles”, ce qui pourrait se retourner contre l’UE à terme : les IA pourraient servir, depuis des pays tiers, à surveiller les citoyens européens, malgré une loi locale plus restrictive, imagine Amnesty International.
2- À la fois trop, et pas assez : le droit d'auteur divise
Concernant le droit d’auteur, les dispositions ont été globalement saluées. Mais certains les estiment trop peu précises, et d’autres les jugent… trop précises, et en contradiction avec le secret des affaires, puisque les entreprises devraient communiquer l’origine de leurs données d’entraînement.
3- L'IA Act va-t-il freiner l'innovation ?
De son côté, Aurélie Jean, numéricienne et entrepreneuse spécialiste des algorithmes, de la data et de l’intelligence artificielle, note que “plusieurs questions restent en suspens”. Si elle salue la portée globale du texte, elle s’interroge chez Radio France sur l’application du règlement au domaine de la recherche. Et si l’IA Act devenait un frein à l’innovation ?
“Le RGPD faisait clairement la distinction entre les données utilisées dans une application industrielle et celles utilisées à des fins de recherche, précise l’experte. Il permettait ainsi de faire bien plus en recherche et ainsi d’encourager l’innovation”. L’IA Act prévoirait bien la possibilité de réaliser des expérimentations de type “bac à sable réglementaire”, notamment pour que les PME puissent développer des solutions sans l’aide des géants américains, mais cela ne serait pas suffisamment explicité.
4- L'UE dans son bon droit - ou presque -
En matière de droit enfin, quelques manquements et lacunes ont été relevés par des spécialistes comme Alexandre Lazarègue, avocat spécialisé en droit du numérique. Dans un article, il revient sur plusieurs points qui seraient, selon lui, à clarifier. “Le texte propose une classification des systèmes d’IA à haut risque obligeant les entreprises à évaluer si leur système présente un risque significatif pour la santé, la sécurité et les droits fondamentaux des individus, sans toutefois fournir des critères suffisamment clairs pour déterminer quels systèmes relèvent de cette catégorie", dit-il, avant d’ajouter : “Cette ambiguïté risque de semer la confusion quant à l’application de la réglementation.”
Il estime aussi qu’il manque des éléments permettant une “compréhension approfondie” du fonctionnement des systèmes d’IA. “Je pense que la gouvernance doit évoluer avec le temps au regard des évolutions technologiques et scientifiques des algorithmes, indiquait Aurélie Jean à ce sujet, mais aussi dans le domaine de l’explicabilité algorithmique qui permet de maîtriser et d’extraire la logique de fonctionnement de ces IA.” Il reste donc encore un peu de boulot pour l'UE.
MAIS ENCORE...
Venez présenter votre innovation au SIGGRAPH
Le SIGGRAPH, c’est le plus grand événement mondial dédié aux computers graphics et aux technologies de l’interactivité. Sa 51ème édition aura lieu du 28 juillet au 1er août à Denver, dans le Colorado. Et la bonne nouvelle, c’est que Cap Digital vous propose d’y présenter votre entreprise ou organisme et vos innovations. Depuis 2009, nous animons en effet le Pavillon France, l’un des plus grands espaces d’exposition sur le salon ! Pour se joindre à nous, il faudra en faire la demande avant le 9 février 2024. C’est l’occasion de vous faire connaître auprès de PME ultra-innovantes, de centres de recherches du monde entier, ou des géants de la tech… Les grands noms présents ne manquent pas. Plus d’informations par ici.
L'APPEL À PROJETS EN STOCK
L'appel à candidatures Inneauv’, pour répondre aux enjeux de l’eau
Le dernier appel à candidatures en date lancé par l’IGN et le BRGM - et en partenariat avec Cap Digital -, a été baptisé Inneauv. Comme son nom l’indique, il vise à accompagner, encourager et soutenir des entreprises (PME, TPE, start-up ou associations) développant des solutions innovantes qui répondent, chacune à leur façon, aux enjeux de l’eau. Protection et gestion des ressources, accès à l’information, recherche, gestion et prévention des risques… Les thématiques sont vastes. L’idée sera cependant toujours de s’appuyer sur les données et outils cartographiques.
Vous avez jusqu’au 26 janvier 2024 pour vous inscrire et participer à cet appel à candidatures. Pour en savoir plus, rendez-vous sur le site web de l’IGN.
ON Y ETAIT...
Au Radi Raf, le rendez-vous de l’animation
Fin novembre, on assistait au Radi Raf, aka trois jours de rencontres et d’échanges sur le secteur de l’animation. Nous y avons croisé plusieurs adhérents, comme Technicolor, Golaem, Mercenaries Engineering, mais aussi Dada ! Animation, dont le cofondateur et directeur de l’innovation, Quentin Auger, animait une passionnante conférence sur l’IA générative. Son questionnement : sommes-nous vraiment prêts pour l’impact de l’IA générative ?
Les progrès des IA génératives en matière d’animation, nous a expliqué Quentin Auger, sont indéniables. Si certaines IA ont encore un peu de mal à éviter les bugs dans la matrice (et à faire tenir une tasse de thé dans les 8 doigts et la paume tordue d’un être humain qui devait être tout à fait lambda), d’autres sont prometteuses, avec une “qualité dingue”, même sur des sujets en mouvement.
Mais la stabilité et la valeur des modèles ne sont évidemment pas les seuls enjeux. L’éthique et la légalité sont au cœur des débats. Le cofondateur de Dada ! Animation, un studio parisien, est notamment revenu sur l’épineuse question des droits d’auteur, et les autres sous-champs qu’elle soulève, comme les outils de protection technique contre les violations de droits d’auteur (par exemple, en manipulant l’IA pour qu’elle pense voir une banane plutôt qu’un chien, et soit confuse !), ou le sujet des rémunérations. À ce jour, et nous l’avons d’ailleurs évoqué dans notre focus sur l’IA Act, la loi est encore en cours d’évolution sur ces thématiques. Techniquement, un droit d’auteur est possible. “On sait dire aujourd’hui dans quelle proportion une image en a inspiré une autre”, souligne à ce propos Quentin Auger. Il note en revanche qu’il n’existe pour l’instant pas trop de recherche quant au droit d’auteur sur les œuvres créées via une IA. Pourrons-nous un jour se dire créateurs et auteurs d’une réalisation de ChatGPT, que l’on doit certes aux bases de données d’entraînement, mais aussi à la valeur de notre prompt ? Rien n’est moins sûr…
ON SOUHAITE LA BIENVENUE À...
Gaya, une affaire qui roule
Amélie Guicheney et Jacques Bonneville, cofondateurs de Gaya.
Parmi nos nouveaux adhérents, nous accueillons Gaya, le spécialiste de la mobilité douce. La jeune pousse parisienne, lancée il y a deux ans par Amélie Guicheney et Jacques Bonneville, propose un vélo à assistance électrique… ou plutôt deux : un longtail, et un format plus classique.
Son objectif, c’est de remplacer, grosso modo, la voiture par le deux-roues écologique lors des déplacements urbains quotidiens. Elle promet des vélos robustes, accessibles, au design léché, et les plus innovants possibles. On remarquera notamment leur système d’antivol intelligent intégré, capable de détecter un mouvement à proximité du vélo, de déclencher si besoin une alarme sonore, de bloquer le moteur, et d’envoyer une alerte via l’appli mobile de Gaya. Chaque vélo est par ailleurs équipé d’un traceur GPS avec une batterie autonome. En d’autres termes, les voleurs n’ont qu’à bien se tenir…
ON Y SERA
Autrement dit, l’agenda des événements qu’on vous recommande un peu plus que d’autres.
• Haute Densité :Notre second événement Haute Densité aura lieu le 18 janvier chez Cap Digital. Au programme : des discussions sur le métavers et les univers virtuels de demain, avec des expert.e.s du sujet.
•EUCNC :Du 3 au 6 juin, aura lieu l’EUCNC, une conférence européenne sur les télécommunications, à Anvers en Belgique.
SNIPPETS
Les actus de la quinzaine, en flux continu.
•Votre avis nous intéresse !Une enquête a été ouverte pour recueillir des idées en vue de la création par la Région Île-de-France d’un tiers-lieu, futur campus d’excellence de l’intelligence artificielle. • Trois de nos adhérents exposeront au stand de la Région Île-de-France lors du CES 2024 : félicitations à Qarnot, Brain Cybersecurity et Enchanted Tools. Et visiblement, on croisera aussi Buddy, le robot de Blue Frog Robotics, dans les allées. •
Le projet européen AI BOOST propose aux start-up travaillant sur les LLM et l'IA générative un soutien financier (250k€) et un accès aux plus puissants supercalculateurs d'Europe. Candidatez avant le 16 janvier 2024.•Félicitations à notre adhérent Reyouzz qui remporte le prix Impact Environnemental du trophée Alliancy - la preuve en images•La start-up Cleyrop a fait son apparition dans La Gazette Normandie, à l’occasion de l’obtention de son label Cap Digital.• Dawex et le Groupe Bouygues annoncent un nouveau partenariat (PDF) pour un écosystème interne innovant.•
Et voilà pour cette quinzaine ! Cette newsletter vous a plu ? N'hésitez pas à nous faire vos retours en répondant directement à ce mail.
Un·e ami·e vous a fait suivre ce mail ? Abonnez-vous aussi, ça ne peut pas faire de mal. Ou faites suivre ce mail, même si ceci n’est pas une chaîne.
Sinon, vous pouvez aussi vous désinscrire, on ne le prendra pas mal.
Et si vous avez raté les précédents numéros, plongez dans nos archives.
