Valve autorise désormais la publication de la « grande majorité » des jeux utilisant l'IA sur Steam

**Stéphane le calme** · 03/07/2023, 17h20

Valve bannit les jeux avec du contenu généré par IA : une mesure nécessaire ou excessive ?
L'éditeur de Steam indique son incertitude sur la façon d'appliquer le droit d'auteur

Valve, le célèbre développeur et distributeur de jeux vidéo, a commencé à interdire les jeux sur sa plateforme Steam qui contiennent du contenu produit par l’intelligence artificielle (IA). Cette décision a provoqué des remous dans l’industrie du jeu, soulevant des questions sur l’avenir de l’IA dans le développement de jeux.

Selon un développeur anonyme qui a partagé son expérience sur Reddit, Valve a rejeté sa soumission de jeu sur Steam en raison de la présence d’assets artistiques générés par l’IA qui semblaient s’appuyer sur du matériel protégé par le droit d’auteur appartenant à des tiers. Valve a expliqué que la propriété légale de ces assets générés par l’IA était incertaine, et qu’il fallait que le développeur confirme qu’il possède les droits sur tout le contenu utilisé dans le jeu, y compris celui utilisé dans le jeu de données qui a entraîné l’IA à créer les assets

Potterharry97 a initialement publié un article sur le rejet en mai où il a admis « qu'une grande partie des actifs ont une certaine implication de l'IA dans sa création » grâce à l'utilisation de Stable Diffusion. Dans un article de suivi publié fin juin, il a expliqué que la soumission initiale était conçue comme une première version d'espace réservé, « avec 2-3 actifs/sprites qui étaient évidemment générés par l'IA ».

Cette utilisation « évidente » de l'IA a apparemment déclenché une sonnette d'alarme chez un modérateur de Valve, qui aurait répondu que Valve avait « identifié la propriété intellectuelle... qui semble appartenir à un ou plusieurs tiers. En particulier, [Nom du jeu ici] contient des actifs artistiques générés par l'intelligence artificielle qui semblent s'appuyer sur du matériel protégé par des droits d'auteur appartenant à des tiers ».

« Comme la propriété légale de ces œuvres générées par l'IA n'est pas claire, nous ne pouvons pas distribuer votre jeu tant qu'il contient ces actifs générés par l'IA », a-t-il indiqué dans la suite de son message, « à moins que vous ne puissiez confirmer de manière affirmative que vous possédez les droits sur toutes les propriétés intellectuelles utilisées dans l'ensemble de données qui a entraîné l'IA à créer les éléments de votre jeu ».

Potterharry97 a à nouveau soumis le jeu avec quelques modifications artistiques pour supprimer « tout signe évident d'IA ». Mais le développeur a déclaré que la réponse de Valve indiquait « qu'après [avoir pris] notre temps pour mieux comprendre la technologie d'IA utilisée pour créer [le jeu] », Valve « refusait toujours de distribuer [le jeu], car il n'est pas clair si la technologie d'IA sous-jacente utilisée pour créer les actifs dispose de droits suffisants sur les données de formation ».

« Je ne savais même pas que l'art de l'IA n'était pas autorisé, car j'en avais entendu parler, et j'ai même vu moi-même quelques exemples assez évidents », a écrit potterharry97 dans le fil de commentaires sous le message initial.

Nom : valve.png
Affichages : 1360
Taille : 499,0 Ko

La réaction de Valve

Dans une déclaration en réaction à cette affirmation, la représentante de Valve PR, Kaci Boyle, a déclaré que l'objectif de l'entreprise n'était « pas de décourager l'utilisation [de l'IA] sur Steam ; au lieu de cela, nous cherchons à l'intégrer dans nos politiques d'examen déjà existantes.*» Elle a poursuivi en disant que le processus d'examen actuel de l'entreprise tient compte de la loi actuelle sur le droit d'auteur et que « bien que les développeurs puissent utiliser ces technologies d'IA dans leur travail... ils ne peuvent pas enfreindre les droits d'auteur existants ».

Boyle a ajouté que Steam remboursera les crédits de soumission d'applications pour tous les développeurs dont les jeux ont été rejetés pour des problèmes de droits d'auteur de l'IA alors que la société affine son processus de révision. Elle a fait la même offre à potterharry97.

Les règles de soumission des développeurs de Valve interdisent « le contenu que vous ne possédez pas ou sur lequel vous n'avez pas les droits adéquats » :

Envoyé par Valve

Ce que vous ne devez pas publier sur Steam :

Des propos haineux, c'est-à-dire des propos qui incitent à la haine, la violence ou la discrimination fondée sur l'appartenance ethnique, la religion, le genre, l'âge, le handicap ou l'orientation sexuelle ;
Des images sexuellement explicites de personnes réelles ;
Du contenu pour adultes non identifié comme tel et ne faisant pas l'objet d'une limite d'âge ;
Des propos diffamatoires ou calomnieux ;
Du contenu qui ne vous appartient pas ou pour lequel vous ne possédez pas les droits adéquats ;
Du contenu qui enfreint les lois d'une juridiction dans laquelle il est disponible ;
Du contenu manifestement offensant ou qui a pour but de choquer ou de dégouter ;
Du contenu qui exploite des enfants de quelque manière que ce soit ;
Des applications qui modifient les ordinateurs des clientes et clients de manière imprévue ou dangereuse, comme les logiciels malveillants ou les virus ;
Des applications qui tentent d'obtenir de manière frauduleuse des données sensibles, comme les identifiants Steam ou les informations financières (numéro de carte de crédit, par exemple) ;
Du contenu vidéo qui n'est apparenté à aucun produit publié sur Steam ;
Des vidéos de VR à 360° qui ne sont pas interactives ;
Des applications construites sur la technologie blockchain qui émettent ou permettent l'échange de cryptomonnaies ou de jetons non fongibles (NFT).

D'autres entreprises sont frileuses à l'idée de l'utilisation du contenu généré par l'IA sur leurs plateformes

Cette position de Valve est très restrictive et empêchera de nombreux développeurs d’utiliser du contenu généré par l’IA dans leurs jeux (à moins qu’ils ne veuillent changer de plateforme). En effet, la plupart des réseaux d’IA sont entraînés sur des millions d’images ou d’assets provenant du web pour créer du contenu convaincant. Il est donc impossible de posséder les droits sur tout le matériel utilisé pour entraîner l’IA. De plus, la protection du droit d’auteur entourant le contenu généré par l’IA est constamment en évolution, et il n’est pas clair si les images produites par l’IA sont éligibles au droit d’auteur ou non, selon la législation en vigueur.

Valve n’est pas la seule entreprise à réagir au paysage juridique incertain entourant l’art généré par l’IA. D’autres plateformes comme YouTube ou Spotify ont également mis en place des politiques pour limiter ou interdire l’utilisation de contenu généré par l’IA, invoquant des raisons similaires liées au droit d’auteur et à la propriété intellectuelle. Ces mesures visent à protéger les entreprises contre les éventuelles poursuites judiciaires, mais elles risquent aussi de freiner l’innovation et la créativité dans le domaine du jeu vidéo.

Des plaintes en recours collectif

L'émergence de l'IA a ajouté une nouvelle dimension compliquée aux discussions sur le droit d'auteur. Le changement a conduit à des poursuites pour des choses comme l'utilisation de code open source non crédité et la violation d'œuvres d'art protégées par le droit d'auteur, et Valve en tête avec une politique agressive concernant les actifs créés par l'IA n'est pas trop une surprise.

Des artistes numériques ont intenté une action en justice contre Midjourney et Stability AI, deux entreprises qui ont lancé des générateurs d’images basés sur l’intelligence artificielle et qui peuvent transformer des textes simples en images réalistes.

Les entreprises Midjourney et Stability AI ont lancé leurs générateurs d’images au public l’année dernière, et ont attiré plus de 10 millions d’utilisateurs. DeviantArt, une plateforme en ligne pour les artistes numériques, a également intégré la technologie de Stability AI dans son site.

Quiconque génère des images avec des systèmes tels que Stable Diffusion ou DALL-E peut ensuite les vendre, les conditions spécifiques concernant le droit d'auteur et la propriété de ces images varient. « Je ne veux pas du tout participer à la machine qui va dévaloriser ce que je fais », a déclaré Daniel Danger, un illustrateur et graveur qui a appris qu'un certain nombre de ses œuvres avaient été utilisées pour entraîner Stable Diffusion.

Ces résultats sont loin d'être magiques : pour qu'un de ces systèmes puisse ingérer vos mots et produire une image, il doit être entraîné sur des montagnes de données, qui peuvent comprendre des milliards d'images extraites d'Internet, associées à des descriptions écrites.

Les artistes qui ont intenté le procès affirment que les entreprises d’IA ont utilisé leurs images, ainsi que celles de dizaines de milliers d’autres artistes, sans leur consentement pour entraîner leurs générateurs d’images. Ils soutiennent que cela constitue une violation flagrante de leurs droits de propriété intellectuelle, selon le code américain du droit d’auteur (17 U.S. Code § 106), la loi sur le droit d’auteur numérique (Digital Millennium Copyright Act) et la loi sur la concurrence déloyale.

Ils affirment également que les générateurs d’images produisent des œuvres dérivées, c’est-à-dire des œuvres qui incorporent suffisamment d’éléments de l’œuvre originale pour qu’il soit évident qu’elles en découlent. Ils estiment que ces œuvres dérivées portent atteinte à leur droit moral et à leur réputation, et qu’elles créent une concurrence déloyale sur le marché de l’art.

En outre, ils accusent les entreprises d’IA d’avoir permis aux utilisateurs de créer ce qu’ils appellent des « faux », c’est-à-dire des imitations du style ou de la signature d’un artiste. Par exemple, après la mort de l’illustrateur coréen Kim Jung Gi, un développeur logiciel qui se fait appeler 5you a utilisé la Stable Diffusion pour créer un modèle qui pouvait produire des images dans le style de Kim. D’autres artistes ont rapporté des exemples similaires d’utilisateurs créant des œuvres dans leur style.

Sources : Potterharry97, politique de Valve

Et vous ?

Que pensez-vous de la décision de Valve concernant les jeux avec du contenu généré par l’IA ?

Avez-vous déjà joué à un jeu qui utilise du contenu généré par l’IA ? Si oui, lequel et qu’en avez-vous pensé ?

Selon vous, quels sont les avantages et les inconvénients de l’utilisation de l’IA dans le développement de jeux ?

Pensez-vous que le droit d’auteur et la propriété intellectuelle doivent s’appliquer au contenu généré par l’IA ? Pourquoi ou pourquoi pas ?

Quelles sont les autres applications potentielles de l’IA dans le domaine du jeu vidéo ?

**onilink_** · 04/07/2023, 10h18

Ils ont qu'à aller sur Google Play si ils veulent monétiser leurs jeux générés en 8 minutes (je fais référence a l'autre article

).
Ils auront une concurrence digne de leur produit.

Je suis rarement d'accord avec les décisions de Valve à propos de steam, mais celle ci me parait pertinente.
Outre les problèmes de droit d'auteurs liés à l'IA, qui ne sont plus dans un flou juridique depuis quelques temps aux US (cette personne ne s'est donc juste pas informée), il va aussi y avoir une amplification du problème de sur-engorgement des jeux sur la plateforme.
C'est déjà n'importe quoi à l'heure actuelle, alors je n'ose pas imaginer ce qui va se passer si un jour ils laissent le champ libre au contenu généré par IA...

**Fagus** · 04/07/2023, 15h55

On parle des artistes menacés par l'IA générative. Mais comme tout existe, il existe sans doute des artistes qui prennent plus de commandes, passent par une étape de génération puis retouchent pour gagner du temps.
Ce serait intéressant d'avoir des détecteurs d'IA publics et de savoir combien de faux positifs/négatifs ils font, surtout si c'est retouché...

**Mathis Lucas** · 04/07/2023, 21h52

Valve déclare que Steam n'acceptera pas les jeux contenant des actifs générés par des modèles d'IA formés sur des œuvres protégées par le droit d'auteur
pour respecter la loi sur le droit d'auteur

Valve a répondu aux allégations selon lesquelles elle a interdit les jeux contenant des actifs générés par l'IA sur sa plateforme Steam. L'entreprise de jeux vidéo a confirmé cette affirmation. Elle a précisé qu'elle n'interdit pas totalement les contenus générés par l'IA, mais qu'elle ne tolérera pas "les contenus générés par une IA entraînée sur du matériel protégé par le droit d'auteur". Selon Valave, pour qu'un jeu intégrant du contenu généré par l'IA soit accepté sur Steam, le développeur doit être en mesure de prouver que les modèles d'IA utilisés ont été entraînés avec des données qui n'enfreignent pas les droits d'auteur existants. Une tâche qui pourrait être compliquée.

La nouvelle s'est répandue la semaine dernière après qu'un développeur anonyme a partagé son histoire sur le site communautaire Reddit. Ce dernier a déclaré que Valve, propriétaire de la plateforme de distribution de jeux en ligne Steam, a rejeté sa soumission de jeu sur Steam en raison de la présence d’éléments artistiques générés par l’IA qui semblaient s’appuyer sur du matériel protégé par le droit d’auteur appartenant à des tiers. Selon son histoire, Valve aurait expliqué que la propriété légale de ces éléments artistiques générés par l’IA était incertaine et qu’il fallait que le développeur confirme qu’il possède les droits sur tout le contenu utilisé dans le jeu.

Au cours du week-end, Valve a confirmé les allégations du développeur et a clarifié sa position à l'égard du matériel généré par l'IA. « L'introduction de l'IA peut parfois compliquer le processus visant à démontrer qu'un développeur dispose de droits suffisants pour utiliser l'IA pour créer des actifs, y compris des images, du texte et de la musique. En particulier, il existe une certaine incertitude juridique en ce qui concerne les données utilisées pour former les modèles d'IA. Il est de la responsabilité du développeur de s'assurer qu'il dispose des droits appropriés pour livrer son jeu », a déclaré Kaci Boyle, porte-parole de Valve. Mais cette position est controversée.

Nom : valve.png
Affichages : 1104
Taille : 339,1 Ko

Essentiellement, Steam ne tolérera pas les jeux avec des actifs générés par une IA entraînée sur des données violant les droits d'auteur. Les développeurs doivent prouver qu'ils détiennent les droits sur les données d'entraînement des systèmes d'IA s'ils veulent distribuer leurs jeux sur Steam. Mais étant donné que cette politique pourrait s'appliquer à la plupart, voire à la totalité, des contenus générés par l'IA, il est difficile de ne pas y voir une interdiction pure et simple de l'IA par Valve. Boyle estime que l'entreprise n'essaie pas de décourager l'utilisation de l'IA, mais sa déclaration a suscité un grand débat dans la communauté des développeurs de jeux vidéo.

Elle a ajouté que les politiques de Valve pourraient changer à l'avenir. « Nous savons que l'A est une technologie en constante évolution et notre objectif n'est pas d'en décourager l'utilisation sur Steam. Au contraire, nous cherchons à l'intégrer dans nos politiques d'évaluation déjà existantes », a déclaré Boyle. Cela dit, l'on ne sait pas exactement quels modèles d'IA de génération de contenus pourraient être utilisés en toute sécurité dans ce contexte. La plupart des modèles populaires sont connus pour avoir utilisé du matériel protégé par le droit d'auteur pour entraîner leurs algorithmes. Certaines d'entre elles font l'objet de poursuites pour violation de droits d'auteur.

Une bataille juridique se prépare sur le rôle des documents protégés par le droit d'auteur dans l'industrie de l'IA. Les grands modèles de langage - tels que ChatGPT et DALL-E - ont été entraînés avec d'énormes quantités de données provenant du Web. Il s'avère qu'une grande partie de ces données sont des documents protégés par le droit d'auteur, tels que des œuvres d'art, des livres, des essais, des photographies et des vidéos. Les entreprises comme OpenAI et Midjourney sont visées par de nombreuses plaintes qui allèguent qu'elles volent et reconditionnent des millions d'œuvres protégées par le droit d'auteur et vendent ensuite un produit basé sur ces œuvres.

Ces entreprises d'IA se sont défendues en affirmant que le fait d'entraîner une IA générative à produire un nouveau contenu sur la base des données ingérées est la même chose qu'un humain qui écrit un roman en s'inspirant d'autres livres. Mais tout le monde ne croit pas à cette affirmation, d'où le refrain de plus en plus répandu : « l'IA, c'est du vol ». Les procès sont en cours, mais les experts affirment que les cadres juridiques existants dans l'UE et aux États-Unis ne permettent pas de départager facilement les deux camps. En outre, les entreprises d'IA et les détenteurs de droits d'auteur ne semblent pas prêts à trouver un compromis sur la question.

Dans ce contexte, Valve a clairement indiqué qu'elle essayait simplement de respecter la loi et d'éviter d'être poursuivie en justice. « En clair, notre processus d'examen est le reflet des lois et politiques actuelles en matière de droits d'auteur et non une couche supplémentaire de notre opinion. Notre processus évoluera en fonction de l'évolution de ces lois et politiques », a déclaré Boyle. En somme, la décision de Valve d'interdire tout jeu utilisant un contenu d'IA problématique est manifestement une position défensive destinée à se protéger contre toute évolution juridique imprévue sur le terrain réglementaire obscur de l'industrie florissante de l'IA.

Jusqu'à ce que les procès en cours génèrent une jurisprudence moderne sur le sujet, la position de la loi actuelle sur le droit d'auteur concernant le contenu généré par l'IA est loin d'être évidente. « Je suis plus troublé que jamais sur la question de savoir si la formation est un usage loyal dans les cas où les IA produisent des résultats qui pourraient concurrencer les données sur lesquelles elles ont été formées », note James Grimmelmann, juriste à l'université Cornell. En raison de cette incertitude juridique, Getty Images, Newgrounds et la revue scientifique Nature ont explicitement interdit aux contributeurs d'utiliser des œuvres d'art générées par l'IA.

Dans le même temps, des sociétés comme Marvel ou DeviantArt ont adopté l'utilisation de la technologie à un degré ou à un autre. Valve adopte une approche plus conservatrice, évitant ce qu'elle appelle "une certaine incertitude juridique". Selon les critiques, il n'y a rien de mal à cela. Mais ils ajoutent que ce faisant, l'entreprise utilise effectivement sa propre interprétation de la loi sur le droit d'auteur, même si elle affirme que la décision ne comporte pas "une couche supplémentaire de notre opinion".

Source : Valve

Et vous ?

Quel est votre avis sur le sujet ?

Que pensez-vous de la position de Valve sur les jeux contenant des éléments générés par l'IA ?

Trouvez-vous cette position trop conservatrice ? Pensez-vous qu'elle aurait pu adopter une position plus souple ?

Quels impacts la décision de Valve pourrait-elle avoir sur l'avenir de l'IA dans l'industrie du jeu vidéo ?

Voir aussi

Valve bannit les jeux avec du contenu généré par IA : une mesure nécessaire ou excessive ? L'éditeur de Steam indique son incertitude sur la façon d'appliquer le droit d'auteur

Tout le monde pourra-t-il bientôt créer des jeux vidéo en s'appuyant sur l'intelligence artificielle ? Les compétences artistiques ou en matière de codage informatique deviendront-elles inutiles ?

Nvidia présente une plateforme d'IA appelée "Avatar Cloud Engine for Games" qui permet aux joueurs de converser avec les personnages non jouables

Spacetraders, un jeu multijoueur en ligne entièrement basé sur des API, est disponible en version alpha. Pour y jouer, vous devez créer votre propre client et UI avec le langage de votre choix

**Stéphane le calme** · 11/01/2024, 14h41

Valve autorise désormais la publication de la « grande majorité » des jeux utilisant l'IA sur Steam,
cependant les développeurs doivent déclarer s'ils en ont fait usage et dire quel type de garde-fous ils utilisent pour éviter la violation du copyright

L'été dernier, Valve a déclaré qu'elle s'inquiétait des problèmes juridiques potentiels liés aux jeux réalisés avec l'aide de modèles d'IA formés sur des œuvres protégées par le droit d'auteur et qu'elle « réfléchissait à la manière d'intégrer [l'IA] dans nos politiques d'évaluation déjà existantes ». Après des mois d'enquête, la société derrière la plateforme de distribution de jeux en ligne Steam a partagé ses conclusions en annonçant un nouvel ensemble de règles pour les développeurs qui, selon elle, « nous permettra de publier la grande majorité des jeux qui utilisent [des outils d'IA] ».

Tout a commencé l'année dernière par les propos d'un développeur qui a affirmé que Valve a rejeté sa soumission de jeu sur Steam en raison de la présence d’assets artistiques générés par l’IA qui semblaient s’appuyer sur du matériel protégé par le droit d’auteur appartenant à des tiers. Valve a expliqué que la propriété légale de ces assets générés par l’IA était incertaine, et qu’il fallait que le développeur confirme qu’il possède les droits sur tout le contenu utilisé dans le jeu, y compris celui utilisé dans le jeu de données qui a entraîné l’IA à créer les assets.

Répondant au pseudonyme Potterharry97, il avait initialement publié un article sur le rejet en mai où il a admis « qu'une grande partie des actifs ont une certaine implication de l'IA dans sa création » grâce à l'utilisation de Stable Diffusion. Dans un article de suivi publié fin juin, il a expliqué que la soumission initiale était conçue comme une première version d'espace réservé, « avec 2-3 actifs/sprites qui étaient évidemment générés par l'IA ».

Cette utilisation « évidente » de l'IA a apparemment déclenché une sonnette d'alarme chez un modérateur de Valve, qui aurait répondu que Valve avait « identifié la propriété intellectuelle... qui semble appartenir à un ou plusieurs tiers. En particulier, [Nom du jeu ici] contient des actifs artistiques générés par l'intelligence artificielle qui semblent s'appuyer sur du matériel protégé par des droits d'auteur appartenant à des tiers ».

« Comme la propriété légale de ces œuvres générées par l'IA n'est pas claire, nous ne pouvons pas distribuer votre jeu tant qu'il contient ces actifs générés par l'IA », a-t-il indiqué dans la suite de son message, « à moins que vous ne puissiez confirmer de manière affirmative que vous possédez les droits sur toutes les propriétés intellectuelles utilisées dans l'ensemble de données qui a entraîné l'IA à créer les éléments de votre jeu ».

Potterharry97 a à nouveau soumis le jeu avec quelques modifications artistiques pour supprimer « tout signe évident d'IA ». Mais le développeur a déclaré que la réponse de Valve indiquait « qu'après [avoir pris] notre temps pour mieux comprendre la technologie d'IA utilisée pour créer [le jeu] », Valve « refusait toujours de distribuer [le jeu], car il n'est pas clair si la technologie d'IA sous-jacente utilisée pour créer les actifs dispose de droits suffisants sur les données de formation ».

« Je ne savais même pas que l'art de l'IA n'était pas autorisé, car j'en avais entendu parler, et j'ai même vu moi-même quelques exemples assez évidents », a écrit potterharry97 dans le fil de commentaires sous le message initial.

Dans une déclaration en réaction à cette affirmation, la représentante de Valve PR, Kaci Boyle, a déclaré que l'objectif de l'entreprise n'était « pas de décourager l'utilisation [de l'IA] sur Steam ; au lieu de cela, nous cherchons à l'intégrer dans nos politiques d'examen déjà existantes. » Elle a poursuivi en disant que le processus d'examen actuel de l'entreprise tient compte de la loi actuelle sur le droit d'auteur et que « bien que les développeurs puissent utiliser ces technologies d'IA dans leur travail... ils ne peuvent pas enfreindre les droits d'auteur existants »

Nom : steam.png
Affichages : 2262
Taille : 496,3 Ko

Le contenu généré par IA signe son retour sur Steam, mais sous certaines conditions

Les développeurs qui utilisent des outils d'IA « dans le développement [ou] l'exécution de leur jeu" seront désormais autorisés à mettre leurs jeux sur Steam, à condition qu'ils divulguent cette utilisation dans l'enquête de contenu standard lors de la soumission à Steam. Cette intégration de l'IA sera divisée en deux catégories : le contenu "pré-généré" qui est "créé avec l'aide d'outils d'IA pendant le développement" (par exemple, l'utilisation de DALL-E pour les images du jeu) et le contenu "généré en direct" qui est "créé avec l'aide d'outils d'IA pendant l'exécution du jeu" (par exemple, l'utilisation de la technologie NPC de Nvidia alimentée par l'IA).

Ces informations seront communiquées sur les pages du Steam Store pour ces jeux, ce qui devrait aider les joueurs qui souhaitent éviter certains types de contenu IA. Mais ces informations ne seront pas suffisantes pour les jeux qui utilisent une IA générée en direct pour un "contenu sexuel réservé aux adultes", que Valve déclare "ne pas être en mesure de publier... pour le moment".

Mettre en place des garde-fous

En ce qui concerne le contenu pré-généré par l'IA, Valve prévient que les développeurs doivent encore s'assurer que leurs jeux "n'incluront pas de contenu illégal ou de contrefaçon". Mais cette promesse ne s'applique qu'au "contenu généré par l'IA" et n'aborde pas le statut du droit d'auteur du contenu utilisé par les modèles d'apprentissage eux-mêmes. Le statut de ces modèles d'entraînement était une préoccupation majeure de Valve l'été dernier, lorsque l'entreprise a évoqué "l'incertitude juridique liée aux données utilisées pour entraîner les modèles d'IA", mais ces préoccupations ne méritent même pas d'être mentionnées dans les nouvelles règles d'aujourd'hui.

Pour le contenu généré en direct, en revanche, Valve demande aux développeurs "de nous dire quel type de garde-fou vous mettez sur votre IA pour vous assurer qu'elle ne génère pas de contenu illégal". Ces garde-fous devraient permettre d'éviter des situations comme celle d'AI Dungeon, qui, en 2021, a suscité la controverse pour avoir utilisé un modèle OpenAI susceptible de générer du contenu sexuel mettant en scène des enfants dans le jeu. Valve indique qu'une nouvelle "surcouche dans le jeu" permettra aux joueurs de soumettre des rapports s'ils rencontrent ce type de contenu inapproprié généré par l'IA dans les jeux Steam.

La déclaration de Valve

En juin dernier, nous vous avions communiqué que même si notre objectif restait de proposer le plus de jeux possible sur Steam, nous avions besoin de temps pour en savoir plus sur l'évolution rapide et juridiquement opaque de la technologie de l'IA, en particulier compte tenu de la portée mondiale de Steam.

Aujourd'hui, après avoir passé les derniers mois à en apprendre davantage sur cet outil et à discuter avec des équipes de développement, nous apportons des changements dans notre façon de considérer les titres qui utilisent l'IA. La grande majorité de ces jeux pourra ainsi être publiée sur la plateforme.

Tout d'abord, nous avons mis à jour le questionnaire sur le contenu que les équipes de développement remplissent lorsqu'elles soumettent un jeu pour évaluation sur Steam. Ce questionnaire inclut désormais une nouvelle section relative à la divulgation d'utilisation de l'IA, dans laquelle vous devrez décrire comment l'IA est utilisée dans le développement et l'exécution de votre titre. Cette utilisation y est divisée en deux grandes catégories.

Contenu prégénéré : tout type de contenu (images, code, sons, etc.) créé à l'aide de l'IA pendant le développement. Conformément à l'accord de distribution Steam, vous vous engagez à ce que votre jeu n'inclue pas de contenu illégal ou contrevenant aux droits d'autrui, et que celui-ci soit en accord avec vos ressources marketing. Lors du processus d'évaluation, nous évaluerons le contenu de votre jeu généré par l'IA de la même manière que le contenu non généré par l'IA. Nous vérifierons également que votre jeu tient ses engagements.
Contenu généré en direct : tout type de contenu créé à l'aide de l'IA pendant que le jeu est en cours d'exécution. En plus de respecter les règles précédemment énoncées pour le contenu prégénéré, vous devrez indiquer les garde-fous mis en place afin qu'aucun contenu illégal ne soit généré par l'IA.

Valve utilisera ces informations dans le cadre de l'évaluation de votre jeu avant sa sortie. Une grande partie sera également publiée sur la page du magasin Steam de votre titre, afin que votre clientèle puisse également comprendre comment le jeu utilise l'IA.

De plus, un nouveau système a été mis en place sur Steam : il permet de signaler tout contenu illégal au sein d'applications incluant du contenu généré en direct par l'IA. Grâce à l'overlay en jeu, les joueurs et joueuses peuvent facilement envoyer un signalement dès la découverte d'un contenu qui, à leur avis, aurait dû être détecté par les garde-fous en place lors de la génération de l'IA.

Les modifications apportées aujourd'hui sont le fruit de mures réflexions : nous comprenons désormais mieux les tenants et aboutissants ainsi que les risques propres à ce domaine, et nous avons longuement discuté du sujet avec les équipes de développement utilisant l'IA et celles élaborant des outils d'IA. Cette nouvelle approche va permettre de grandement faciliter la sortie de jeux utilisant l'IA sur Steam. La seule exception à cette règle concerne le contenu pour adultes à caractère sexuel généré en direct par l'IA. Nous ne sommes pas en mesure de publier ce type de contenu pour le moment.

Comprendre tout cela nous a pris un certain temps. Nous nous excusons auprès des équipes de développement si cela a pu compliquer les prises de décisions relatives à leurs jeux. Mais précipiter notre choix sur un sujet aussi complexe aurait encore bien plus desservi nos partenaires comme la communauté. Nous continuerons de tirer les leçons des jeux accueillis sur Steam et des avancées de la législation en matière d'IA. Nous pourrons revenir sur cette décision si nécessaire.

Put it on the Epic Games Store. We don’t ban games for using new technologies.
— Tim Sweeney (@TimSweeneyEpic) September 2, 2023

Conclusion

Depuis un an au moins, de nombreux développeurs de jeux ont commencé à adopter une variété d'outils d'IA pour la création de tout ce qui va de l'arrière-plan et des dialogues des PNJ en passant par la capture de mouvements et la génération de voix. Mais certains d'entre eux ont adopté une position intransigeante à l'égard de tout ce qui pourrait supplanter le rôle de l'homme dans la création de jeux. « Nous sommes extrêmement opposés à l'idée que quoi que ce soit de créatif puisse ou doive prendre la place de spécialistes qualifiés, c'est-à-dire nous-mêmes », a déclaré l'année dernière Rebecca Ford, directrice de la création chez Digital Extremes, à la CBC.

En septembre, le PDG d'Epic Games, Tim Sweeney, a réagi aux informations selon lesquelles un jeu alimenté par ChatGPT avait été banni de Steam en accueillant explicitement ce type de jeux sur l'Epic Games Store. « Mettez-les sur Epic Game Store. Nous n'interdisons pas les jeux qui utilisent de nouvelles technologies », a écrit Sweeney sur X/Twitter.

Source : Steam

Et vous ?

Que pensez-vous de la décision de Valve concernant le contenu généré par IA ? Les garde-fous vous semblent-ils suffisant pour endiguer les dérives ? Dans quelle mesure ?

De façon plus générale, êtes-vous pour ou contre l'utilisation de l'IA dans la génération d'un jeu ?

Si vous êtes pour, en termes de pourcentage, quelle proportion de l'IA devrait être autorisée dans la création d'un jeu ? Ou alors pour quelle(s) partie(s) (générer le scénario, générer les décors, les dialogues des PNJ, s'attaquer à des parties plus importantes du jeu ?

Si vous êtes contre, pouvez-vous expliquer pourquoi ?

Voir aussi :

Cinq ans après sa bataille ouverte contre Steam, Epic Games Store n'est toujours pas rentable. Epic espérait récolter la moitié de tous les revenus des jeux sur PC en 2021

Valve bannit les jeux avec du contenu généré par IA : une mesure nécessaire ou excessive ? L'éditeur de Steam indique son incertitude sur la façon d'appliquer le droit d'auteur