Le débat autour de l’utilisation éthique et juridique de l’intelligence artificielle (IA) prend de l’importance avec la proposition de loi 4025/23, présentée par le député Marx Beltrão. Au milieu des discussions sur le droit d’auteur, l’image et la propriété intellectuelle, l’initiative vise à clarifier les questions délicates liées à la création et à l’utilisation d’œuvres générées par l’IA. Dans ce contexte, l’avocate Thereza Castro , spécialiste du droit d’auteur et stratège de l’innovation pour le marché littéraire, apporte des informations précieuses sur les implications juridiques et éthiques de ce scénario en constante évolution.
Pourriez-vous expliquer comment le projet de loi 4025/23 proposé par le député Marx Beltrão aborde l’utilisation de l’intelligence artificielle en relation avec le droit à l’image des personnes représentées par l’IA ?
Le projet de loi 4025/23 propose que la manipulation de l’image d’une personne par l’intelligence artificielle dépende de son autorisation expresse, c’est-à-dire que l’accord de la personne doit être exprimé pour qu’il soit possible de manipuler son image. Il convient de noter que nous parlons de l’acte de manipuler, premièrement, nous n’abordons même pas les conséquences patrimoniales du produit. Juste pour manipuler l’image de quelqu’un, quel qu’il soit, il faut que cette personne l’autorise. Par ailleurs, le projet précise que lorsqu’il s’agit d’une personne décédée ou absente, la liste de ceux qui pourraient donner cette autorisation serait uniquement les conjoints, ascendants et descendants.
Comment voyez-vous l’importance de l’autorisation préalable pour l’utilisation d’images de personnes par l’IA, notamment dans le contexte de l’émergence des deep fakes, comme dans le cas de la publicité Volkswagen avec Elis Regina ?
L’intelligence artificielle nous apporte de nouveaux défis, il est donc nécessaire, en pensant à la sécurité de tous et au bon usage de l’outil, que la législation suive et embrasse les possibilités d’innovation, donc l’autorisation, qui n’est qu’un petit pas au milieu de la mer des questions autour de l’IA, est essentielle.
Il faut rappeler qu’avant l’autorisation d’utiliser une image d’une personne, d’être capturée, ou d’en utiliser une existante, existait déjà, mais l’IA a d’autres horizons, permettant de produire des images de la personne qui ne se sont jamais produites, comme dans le cas de la publicité avec Elis Regina.
Même si l’utilisation faite par Volkswagen dans la publicité, comme on l’a dit à l’époque, avait l’autorisation de la famille du défunt chanteur, elle attire l’attention sur la fiabilité que l’IA est capable de produire. Et quand on y pense, réglementer les autorisations n’est que la pointe d’un énorme iceberg, que nous aurions dû surmonter depuis longtemps. Il est urgent de réglementer largement l’utilisation de l’IA, uniquement par rapport à l’image dont nous parlons, à la possibilité concrète d’utilisations éthiques et non éthiques d’un outil capable de rendre une image suffisamment réaliste pour inspirer la croyance, ce qui est un danger potentiel à différents niveaux.
une rémunération pour les œuvres protégées par le droit d’auteur utilisées pour former des IA génératives . Quelle est l’importance de cette proposition et comment pourrait-elle affecter les titulaires de droits d’auteur ?
C’est aussi un point très important, puisque l’IA générative a besoin d’utiliser une base de données pour générer ses réponses, et de s’entraîner à chaque fois pour une plus grande assertivité. En d’autres termes, si vous utilisez un livre protégé par le droit d’auteur pour demander à l’IA de générer une réponse dont l’explication conceptuelle y est écrite, aucune rémunération n’est impliquée pour le propriétaire.
Il semble basique de dire que si je veux utiliser le travail de quelqu’un d’autre, je dois payer pour cette utilisation, si le propriétaire ne l’a pas rendu public, n’est-ce pas ? Mais ce n’est pas ce qui se passe actuellement, c’est pourquoi ce point de la proposition est de la plus haute importance pour les titulaires, qui, après tout, doivent être rémunérés pour ce qu’ils ont produit en tant qu’auteurs, y compris, avec cette règle en vigueur à l’avenir. , les entreprises propriétaires des IA devront clarifier et classer les données qu’elles utilisent, en donnant plus de clarté sur ce qu’elles utilisent. En effet, comme l’IA une fois entraînée n’oubliera pas ce qu’elle a appris, il est raisonnable pour nous d’y penser. la période pendant laquelle ces œuvres sont utilisées sans compensation. Des règles devraient découler de cette disposition pour qu’elle soit appliquée efficacement.
Concernant le droit d’auteur des œuvres générées par les IA , le projet de loi établit qu’elles ne bénéficient pas de la protection du droit d’auteur. Comment voyez-vous cette décision en termes de protection des droits des créateurs de ces œuvres ?
Ce point est en fait, à mon avis, l’erreur du projet. Parce qu’il maintient la disposition de la loi sur le droit d’auteur (9 610/98) en établissant que seule une personne humaine peut être auteur, puisqu’il s’agit de la création d’une âme. Il soutient également que la personne morale peut bénéficier de la protection des termes de la loi susmentionnée, ce qui se produit lorsqu’une entreprise ou une organisation représente le collectif d’auteurs, par exemple. Cependant, les œuvres produites grâce à l’IA sont largement publiées par des personnes qui en ont donné la maîtrise. Ces œuvres appartiendraient-elles alors à ces êtres humains ? Le projet ne nous donne pas la réponse. Et si l’on pense que l’IA utilise effectivement une base de données dans laquelle se trouvent des œuvres effectivement produites individuellement ou collectivement par des humains, sans l’utilisation de l’IA, des œuvres protégées par le droit d’auteur, cela devient encore plus flou, car la génération du produit ne serait peut-être pas utiliser des extraits, même modifiés, de ces œuvres ? Et cela, et bien d’autres réponses, dépendent de l’interprétation de ce qu’est finalement l’IA et de l’influence que la personne qui émet la commande a ou n’a pas sur le produit généré.
En bref, ce n’est pas exactement ce que dit la disposition du projet, elle dit simplement que le produit généré ne peut pas être attribué à la paternité de l’IA, mais elle ne détermine pas s’il peut ou non être attribué à la personne qui a émis la commande. Alors, je reviens à la question, qui appelez-vous les créateurs de ces œuvres ? Parce que cette réponse s’inscrit également dans une réflexion sur ce qu’est réellement l’IA et le rôle de ceux qui lui donnent des commandes .
Partant du fait que le produit généré par l’IA ne bénéficie pas de la protection du droit d’auteur et que le contrôleur humain se contente d’ appuyer sur des touches, alors tout ce qui est généré par l’IA serait libre d’utilisation, ce qui semble être un problème pour ceux qui, d’une manière ou d’une autre, peuvent l’utiliser. ont compris différemment lors de l’achat d’une licence.
Sur la scène internationale, il existe différentes approches pour traiter les produits générés par les IA génératives . Pourriez-vous expliquer les principales écoles de pensée et leur lien avec le projet de loi proposé ?
Oui, il n’y a pas d’unanimité sur la manière de gérer l’IA, tout comme il n’y a pas de consensus sur la manière de gérer le produit de votre génération. L’Europe, avec ses récents changements juridiques dans ce que l’on appelle la loi européenne sur l’IA, est celle qui semble réellement en discuter largement et sérieusement. Nous comprenons qu’il existe aujourd’hui différents points de vue sur l’IA et le rôle de l’être humain qui l’utilise, en ce qui concerne les droits sur le produit généré par cette interaction.
L’un des courants propose que même si la création auctoriale émane de l’âme humaine, la protection patrimoniale resterait pour le détenteur de l’outil, donc le contenu devrait être sous licence. Ici, nous comprenons que le développeur a créé une machine complexe capable de fournir des résultats créatifs, et les commandes de l’être humain n’ont pas autant d’influence sur ce point, étant simplement une simple pression sur des boutons.
Selon le deuxième point de vue, nous constatons un manque général de protection du droit d’auteur, ni pour la machine ni pour l’être humain qui en a donné la commande. Cela semble à première vue être une tendance suivie par le projet. Dans ce cas, la machine est dépourvue d’âme, aussi complexe soit-elle, et l’être humain n’a aucune contribution fondamentale d’âme et de créativité au produit final . On pourrait alors comprendre une utilisation libre du résultat.
Un tiers n’accorde pas non plus de protection du droit d’auteur, mais limite le produit à un usage général tout en comprenant que le titulaire serait l’être humain ou l’entreprise qui a attribué les commandes et payé la licence du logiciel, celui-ci serait alors celui qui pourrait exploiter le résultat généré par l’IA. Dans cette vision, nous avons l’IA comme un outil, proche de ce que nous voyons pour d’autres logiciels, comme une suite bureautique, nous payons pour l’ utiliser , mais ce que nous y générons, c’est, en premier lieu, qui paie pour son utilisation. utiliser.
Pensez-vous que l’analyse des droits impliqués dans les produits d’IA serait plus efficace si elle était discutée au cas par cas ? Comment cela pourrait-il affecter l’utilisation sûre de l’IA dans divers domaines ?
Je comprends qu’il y aura des cas dans lesquels une analyse individuelle sera nécessaire, le point est extrêmement complexe et ses conséquences peuvent l’être encore plus, donc même une législation qui tente de réglementer toutes les possibilités échouera, mais elle doit exister pour guider l’analyse. Cette situation se présentera sans aucun doute comme une nécessité, lorsque les règles directrices ne suffiront pas à la situation factuelle qui se présente.
Ce que nous ne pouvons cependant pas, c’est fonctionner en l’absence de ces règles générales, qui ne résulteront que d’un large débat et porteraient sur la technologie qui nous est déjà présentée. Bien que la législation existante soit vaste, elle ne couvre pas bon nombre des possibilités et des défis que l’IA nous offre déjà, ce qui crée de l’insécurité non seulement en raison du manque de clarté dans l’application de ce qui existe déjà sur cette nouvelle technologie, mais aussi en raison du utilisations possibles des lacunes juridiques pour ce qui n’est pas actuellement réalisé par les lois existantes. Rappelons-nous l’un des principes fondamentaux de notre Magna Carta qui vise à apporter la sécurité, mais qui oblige aussi le législateur à être en accord avec les temps qui se présentent, l’art. L’article 5, II de la Constitution fédérale brésilienne stipule : « Nul ne sera obligé de faire ou de s’abstenir de faire quoi que ce soit si ce n’est en vertu de la loi ».
Dans quelle mesure est-il important d’établir des règles claires pour l’utilisation et l’exposition des IA en relation avec les droits d’auteur et de propriété intellectuelle ?
Il est important pour nous d’avoir une utilisation sûre, éthique et transparente de cette technologie, en garantissant que chacun sache ce qu’il utilise, que les bases de données ne violent pas les droits, comment et quand il peut ou ne peut pas utiliser les produits générés par l’IA. outil, que s’il est utilisé, lors de la présentation d’un produit avec son utilisation, il est clair que cela s’est produit, sans confondre la création avec cette interférence de ceux qui ne l’ont pas utilisé. En d’autres termes, les règles apporteront sécurité et traitement équitable à toutes les personnes impliquées.
Pensez-vous que l’évolution de la technologie de l’IA rend plus difficile l’analyse des droits liés aux produits qu’elle génère ? Comment cela affecte-t-il les professionnels impliqués et les droits à la création ?
Sans aucun doute, à mesure que l’IA s’améliore, il devient plus difficile de détecter sans exposition claire que l’outil a été utilisé, que ce soit pour créer des images ou composer du texte, par exemple. Si cela n’est pas clair, nous donnons la possibilité d’évaluer deux choses différentes avec le même poids. Il est important, lors de la présentation d’une œuvre par exemple, que les règles soient les mêmes, donc s’il y a la possibilité d’utiliser l’IA, il faut l’étendre à tout le monde, sinon personne ne peut l’utiliser. Cette hypothèse garantit que chacun se sente juste, traité de la même manière et partant d’un point de vue plus ou moins égal. Si nous n’établissons pas de normes préalables, quelqu’un pourrait présenter un produit comme le sien et, disposant d’une IA très développée, affirmer ou détecter l’utilisation de l’IA serait pratiquement impossible sans une analyse très approfondie, qui véhiculerait de fausses informations et donnerait des informations erronées. un avantage injuste.
Le cas récent de disqualification d’une œuvre du prix Jabuti en raison de l’utilisation de l’IA pour générer sa couverture soulève des questions sur ce que nous voulons englober par rapport à l’utilisation de l’IA. Comment voyez-vous ce cas en termes d’avenir de l’utilisation de l’IA ?
Ce cas illustre ce que j’ai mentionné dans la question précédente. Si nous évaluons une couverture qui a été théoriquement générée uniquement par la créativité humaine, il n’est pas juste que nous en ayons une qui a utilisé l’aide de la machine évaluée avec les mêmes critères. Je comprends que la décision de disqualification a été prise afin de garantir une vision égale et équitable des concurrents, et elle démontre déjà la difficulté de détecter cette utilisation, permettant que celle-ci ne soit visible qu’à un stade avancé de l’évaluation, ce qui met en évidence l’urgence besoin de règles, et démontre également que, éventuellement, avec ces règles, nous aurons une distinction entre ce qui a été fait avec la machine et ce qui ne l’a pas été, garantissant un traitement équitable dans des situations similaires.
Compte tenu de la complexité et des ramifications potentielles de l’utilisation de l’IA, quelles mesures proposez-vous pour améliorer le traitement juridique et éthique de l’IA dans les années à venir ?
Il est essentiel que nous discutions en tant que société de notre compréhension de l’IA et disciplinons son utilisation, cela garantira que nous serons en mesure de faire face aux futurs développements technologiques, qui se présentent déjà très rapidement, avec un minimum d’orientation, afin que de temps en temps Il est temps pour nous de réexaminer ce sujet et d’éliminer, autant que possible, les utilisations qui violent les droits individuels et fondamentaux de l’être humain.
Nous devons discuter et réglementer ce point afin de pouvoir innover dans son utilisation en toute sécurité, en sachant ce qu’il adviendra des nouvelles créations, ce qui peut être fait ou à quels points nous devons prêter attention, et afin d’éviter rapidement les erreurs. usages de la technologie.
En outre, tant que nous restons au point mort, le débat éthique reste également au point mort, laissant notre société actuelle et les générations futures qui sont éduquées aujourd’hui, non préparées à affronter cet avenir, ou à vivre avec un avenir sans lignes directrices claires, un l’avenir qui se précipite si vite vers nous. .
Suivez Thereza Castro sur Instagram