Discussion :

[Anthony]

Des artistes ont fait fuiter l'outil d'IA vidéo Sora 2 d'OpenAI en signe de protestation, accusant le fabricant de ChatGPT de les utiliser comme des « marionnettes de relations publiques » sans les rémunérer

OpenAI a mis en pause son très attendu outil de génération de vidéos Sora à la suite des protestations de certains artistes concernant ce qu'ils considèrent comme des pratiques d'exploitation. En l'occurrence, les protestations portaient sur la manière dont l'entreprise traitait les bêta-testeurs, invités au départ en tant que partenaires créatifs potentiels, mais qui, après un certain temps, ont estimé que leurs contributions relevaient davantage du marketing que d'un apport significatif.

Cette controverse autour de Sora survient quelques mois seulement après que l'acteur, producteur et entrepreneur américain, Ashton Kutcher, a eu accès à une version bêta de Sora d'OpenAI, soulignant son potentiel de personnaliser les films et d'améliorer la qualité du contenu grâce à une concurrence accrue.

Plus récemment, un groupe d'artistes a divulgué l'accès à l'API de Sora en signe de défiance. Ils ont accusé OpenAI d'exploiter le travail des artistes et de les transformer en « marionnettes de relations publiques » pour promouvoir l'image de l'outil. La fuite a été utilisée par les utilisateurs à des fins d'expérimentation et, en un rien de temps, les médias sociaux ont été le théâtre d'une effervescence où les vidéos générées par l'IA ont pris beaucoup d'importance.

OMG OpenAI Sora has been leaked!

Free to use now on Huggingface, link in comment

It can be shut down anytime, try it now! It can generate 1080P and up to 10s video! And the results are incredible!

9 Examples: pic.twitter.com/rIJJv5TQTo

— el.cine (@EHuanglu) November 26, 2024

Les artistes qui ont participé ont affirmé qu'on leur avait assuré la possibilité de définir Sora comme un outil convivial pour les artistes, mais qu'ils ont reçu le contraire. Le travail qui devait être réalisé avec les artistes pour un développement collaboratif s'est avéré être une campagne de marketing. Un manifestant a déclaré : « Tout tourne autour de l'image, pas des artistes ».

En réponse à la fuite, OpenAI a suspendu l'accès à Sora. L'entreprise a souligné que l'outil était encore en phase de recherche et a déclaré qu'elle enquêtait sur la situation. Pendant que la suspension prenait effet, OpenAI a continué à affirmer que son objectif était de créer un outil créatif précieux et sûr pour les utilisateurs, et que les centaines d'artistes supposés être à bord ont tous offert leur travail.

Toutefois, cette manifestation a soulevé des questions concernant la relation entre les entreprises d'IA et les professionnels de la création. Des artistes ont publié une lettre ouverte sur la plateforme Hugging Face, critiquant l'absence de véritable collaboration de la part de l'entreprise et appelant à une meilleure reconnaissance du travail créatif dans le domaine de la technologie.

L'utilisation d'outils d'IA dans les industries créatives est devenue un signe de tensions croissantes. Alors que les entreprises d'IA continuent d'innover, elles se posent une question : Comment s'assurer que les artistes qui mettent au point ces technologies de pointe bénéficient d'un traitement équitable et respectueux ?

Ces tensions ont déjà eu un impact sur l'industrie du divertissement, et des personnalités ont notamment réagi. En février 2024, l'acteur et réalisateur Tyler Perry a suspendu l'expansion de son studio de 800 millions de dollars après avoir découvert Sora d'OpenAI. Un projet qui aurait permis d'ajouter 12 plateaux de tournage à la vaste propriété de 330 acres située à Atlanta. Cette décision serait due à ses inquiétudes concernant Sora, le modèle d'IA de génération de vidéo d'OpenAI, et ses implications pour les industries créatives. « Dans un avenir proche, de nombreux emplois vont être perdus », a prévenu le créateur des Madea.

Et vous ?

Quel est votre avis sur le sujet ?
Trouvez-vous la démarche de ces artistes pertinente et justifiée ?

Voir aussi :

Les films seront-ils bientôt générés dans leur entièreté par IA ? Oui, selon l'acteur et investisseur technologique Ashton Kutcher qui estime que ce sera le cas après avoir passé Sora d'OpenAI au test

Sam Altman tente de convaincre Hollywood que Sora, l'outil de génération vidéo d'OpenAI, ne détruira pas l'industrie du cinéma. Mais des critiques tentent déjà de dénoncer une forme d'hypocrisie

Sora : OpenAI lance un modèle d'IA qui serait capable de créer une vidéo avec des scènes réalistes et imaginatives à partir d'instructions textuelles, mais la durée est limitée à 60 secondes

[Stéphane le calme]

Cate Blanchett craint que l'IA ne soit « incroyablement destructrice » pour l'industrie du divertissement,
elle s'est dite « profondément préoccupée par l'évolution rapide de cette technologie et ses implications pour les artistes et créateurs

Cate Blanchett, actrice oscarisée et figure emblématique du cinéma international, a récemment partagé ses inquiétudes concernant l’impact potentiel de l’intelligence artificielle (IA) sur l’industrie du divertissement. Dans une déclaration qui résonne comme un avertissement, elle s'est dite « profondément préoccupée par l'évolution rapide de cette technologie et ses implications pour les artistes et créateurs.

Alors que l'intelligence artificielle est en plein essor, Cate Blanchett craint qu'elle ne constitue une menace au-delà d'Hollywood. La lauréate de deux Oscars a récemment admis qu'elle était « profondément préoccupée » par l'impact que l'IA aura sur l'industrie du divertissement, ainsi que sur le reste du monde, avec le potentiel de « remplacer totalement n'importe qui ».

« C'est une industrie très publique, et je pense que les discussions autour de l'IA n'ont pas été intégrées jusqu'à la grève des scénaristes, et qu'elles ont vraiment été introduites dans le discours public », a-t-elle déclaré à la BBC. « Je pense donc que c'est très réel ».

Blanchett a ajouté à propos de l'IA : « Je regarde ces choses et je me dis que je ne sais pas vraiment ce qu'elles apportent à qui que ce soit. Parfois, il s'agit simplement d'expérimenter pour le plaisir, ce qui est créatif d'un certain point de vue. Mais c'est aussi incroyablement destructeur, ce qui, bien sûr, est l'autre face de la créativité. »

L'actrice de Borderlands a noté que l'IA « peut totalement remplacer n'importe qui » à l'écran, mais son inquiétude à l'égard de la technologie va au-delà de son impact sur Hollywood.

« Je suis moins préoccupée par mes perspectives d'emploi que par l'impact qu'elle aura sur la personne moyenne, sur les retraités, sur les gens qui ont déjà trois emplois pour essayer d'être au-dessus du seuil de pauvreté », a expliqué Blanchett. « C'est ce qui me préoccupe ; je m'inquiète pour nous en tant qu'espèce, c'est un problème bien plus grave ».

Blanchett a déclaré qu'une grande partie de la technologie était « absolument inutile », comparant la réalité à sa nouvelle comédie d'horreur Rumours, dans laquelle des dirigeants mondiaux se perdent dans les bois pendant le sommet du G7 et sont terrorisés par des zombies : « Vous voyez ces robots Tesla, et vous pensez que notre film ressemble à une sorte de gentil petit documentaire comparé à ce qui se passe dans le monde », a déclaré Blanchett.

Les acteurs affirment que les studios hollywoodiens veulent leurs répliques d'IA gratuitement et pour toujours

L'année dernière, les acteurs d’Hollywood ont révélé une proposition des studios qui semble sortie tout droit d’un épisode de Black Mirror. Il s’agit d’un contrat sur l’intelligence artificielle (IA) qui permettrait aux studios de scanner les acteurs, de les payer pour une journée de travail, de posséder leur image, leur ressemblance et de les utiliser pour toujours sur n’importe quel projet, sans leur consentement ni compensation.

Duncan Crabtree-Ireland, le négociateur en chef de la SAG-AFTRA, a révélé une proposition des studios hollywoodiens très surprenante : « cette proposition d'IA "révolutionnaire" qu'ils nous ont présentée hier, ils ont proposé que nos artistes de fond puissent être scannés, reçoivent un jour de salaire et leurs entreprises devraient possèdent ce scan, leur image, leur ressemblance et devraient pouvoir les utiliser pour le reste de l'éternité sur n'importe quel projet de leur choix, sans consentement ni compensation. Donc, si vous pensez que c'est une proposition révolutionnaire, je vous suggère de réfléchir à nouveau ».

L'utilisation de l'IA générative a été l'un des principaux points de friction dans les négociations entre les deux parties (c'est aussi un problème majeur derrière la grève des écrivains), et dans sa déclaration d'ouverture de la conférence de presse, la présidente de SAG-AFTRA, Fran Drescher, a déclaré que « Si nous ne nous tenons pas debout en ce moment, nous allons tous avoir des ennuis, nous allons tous être en danger d'être remplacés par des machines ».

Sony Pictures utilisera l'IA pour réduire les coûts des films, déclare le PDG Tony Vinciquerra

« Nous nous concentrons beaucoup sur l'intelligence artificielle. Le plus gros problème de la production de films aujourd'hui est le coût. Nous allons chercher à produire des films pour le cinéma et la télévision de manière plus efficace, en utilisant principalement l'IA », a-t-il déclaré.

"We are very focused on AI. The biggest problem with making films today is the expense." Sony CEO Tony Vinciquerra is weighing in on their future use of artificial intelligence: https://t.co/iguooFymhD pic.twitter.com/WOOwhiLD1N

— IndieWire (@IndieWire) May 30, 2024

C’est un avis qui fait suite à celui du célèbre réalisateur – Georges Lucas – formulé lors du Festival de Cannes : « Nous faisons usage de toutes les technologies numériques en tant que pionniers depuis 25 ans. Le fait ici est que l’utilisation de l’intelligence artificielle est inévitable. C’est comme dire : je ne crois pas que ces voitures vont fonctionner. Restons-en aux chevaux. »

La mise à contribution de l’intelligence artificielle peut permettre une réduction des coûts de production comme l’illustre le cas du film de science-fiction The Creator. Ce dernier a été tourné avec un budget modeste, comparé à d’autres films de même envergure, grâce à l’utilisation de techniques de guérilla, de caméras légères et de décors naturels.

Le cinéma de guérilla, ou cinéma guérilla, désigne des films produits sans ou avec très peu d'argent par des équipes très petites filmant avec des équipements légers et, dans la plupart des cas, utilisant des accessoires fabriqués à partir de tout ce qui est à portée de main. On tourne vite en lieux privés ou publics sans autorisation. Le cinéma de guérilla est en règle générale pratiqué par des cinéastes indépendants qui ne peuvent pas travailler avec des budgets confortables ni construire des décors coûteux.

En parallèle, la législation avance prudemment

L'utilisation de l'IA pour remplacer un acteur désormais contraire à la loi en Californie

L'utilisation d'une réplique numérique générée par l'IA pour remplacer les contributions de la voix ou de l'image d'un acteur ou d'un interprète - que cette personne soit vivante ou décédée - est désormais contraire à la loi en Californie. Le gouverneur de Californie, Gavin Newsom, a ratifié en septembre deux projets de loi qui étendent les protections récemment obtenues par la SAG-AFTRA pour l'IA dans la législation californienne.

Le premier projet de loi, AB 1836, « interdit l'utilisation de la voix ou de la ressemblance d'une personne décédée dans des répliques numériques sans le consentement préalable de sa succession », selon SAG-AFTRA. Le second, AB 2602, « interdit les dispositions contractuelles qui permettraient l'utilisation d'une réplique numérique de la voix ou de l'image d'une personne à la place de ses services réels », sauf si la personne a donné son consentement à une description claire et spécifique de la manière dont l'IA serait utilisée.

Dans le cas des protections pour les personnes décédées, le projet de loi californien supprime certaines exceptions existantes pour les films, les émissions de télévision et les œuvres audiovisuelles, qui étaient auparavant en place pour les répliques numériques. L'autre projet de loi est le premier du genre aux États-Unis, même si la SAG-AFTRA et d'autres syndicats font activement pression pour obtenir des protections au niveau fédéral, en particulier la loi No Fakes Act.

AI Act : les nouvelles règles européennes en matière d'intelligence artificielle entrent en vigueur

Le 1^er août 2024, le règlement sur l’intelligence artificielle (IA) de l’Union européenne est entré en vigueur. Cette législation vise à encourager le développement et l’adoption de systèmes d’IA sûrs et fiables sur le marché unique de l’UE, tant par les acteurs privés que publics. Elle s’efforce également de garantir le respect des droits fondamentaux des citoyens de l’UE tout en stimulant les investissements et l’innovation dans le domaine de l’intelligence artificielle en Europe.

La loi européenne sur l'IA assigne ses règles à chaque entreprise utilisant des systèmes d'IA en fonction de quatre niveaux de risque, qui déterminent à leur tour les délais qui leur sont applicables. Les quatre types de risque sont les suivants : aucun risque, risque minimal, risque élevé et systèmes d'IA interdits.

L'UE interdira totalement certaines pratiques à partir de février 2025. Il s'agit notamment de celles qui manipulent la prise de décision d'un utilisateur ou qui élargissent les bases de données de reconnaissance faciale par le biais du « scraping » sur internet.

D'autres systèmes d'IA considérés comme présentant un risque élevé, tels que les IA qui collectent des données biométriques et les IA utilisées pour les infrastructures critiques ou les décisions en matière d'emploi, feront l'objet des réglementations les plus strictes.

Ces entreprises devront notamment présenter leurs ensembles de données d'entraînement à l'IA et fournir la preuve d'une supervision humaine.

Selon Thomas Regnier, porte-parole de la Commission européenne, environ 85 % des entreprises d'IA relèvent de la deuxième catégorie, celle du "risque minimal", qui ne nécessite que très peu de réglementation.

Les entreprises d'IA ont déjà amorcé la contre-attaque

Depuis l’adoption de la loi sur l’intelligence artificielle (IA) par l’Union européenne, les plus grandes entreprises technologiques du monde ont intensifié leurs efforts pour influencer et atténuer les réglementations strictes prévues par cette législation historique : Amazon, Google, Meta et d'autres craignent que des réglementations trop strictes n’entravent l’innovation et n’entraînent des amendes de plusieurs milliards de dollars. Les entreprises estiment que des exigences trop lourdes en matière de transparence et de documentation pourraient ralentir le développement de nouvelles technologies et augmenter les coûts de conformité.

L'UE a invité des entreprises, des universitaires et d'autres personnes à participer à la rédaction du code de bonnes pratiques, et a reçu près de 1 000 candidatures, un nombre inhabituellement élevé, selon certaines sources. Le code de bonnes pratiques en matière d'IA ne sera pas juridiquement contraignant lorsqu'il entrera en vigueur à la fin de l'année prochaine, mais il fournira aux entreprises une liste de contrôle qu'elles pourront utiliser pour prouver qu'elles respectent la loi.

Une entreprise qui prétendrait respecter la loi tout en ignorant le code pourrait faire l'objet d'une action en justice.

Un des points de friction majeurs concerne la transparence des données. Des entreprises telles que Stability AI et OpenAI ont été critiquées pour leur manque de clarté sur les données utilisées pour entraîner leurs modèles ; il a été plusieurs fois question de savoir si l'utilisation de livres à succès ou d'archives photographiques pour entraîner leurs modèles sans l'autorisation de leurs créateurs constituait une violation du droit d'auteur.

En vertu de la loi sur l'IA, les entreprises seront tenues de fournir des « résumés détaillés » des données utilisées pour entraîner leurs modèles. En théorie, un créateur de contenu qui découvre que son travail a été utilisé pour entraîner un modèle d'IA peut être en mesure de demander une indemnisation, bien que cette possibilité soit en cours d'examen par les tribunaux.

Certains chefs d'entreprise ont déclaré que les résumés requis devaient contenir peu de détails afin de protéger les secrets commerciaux, tandis que d'autres affirment que les détenteurs de droits d'auteur ont le droit de savoir si leur contenu a été utilisé sans autorisation.

OpenAI, qui a été critiquée pour son refus de répondre aux questions concernant les données utilisées pour former ses modèles, a également demandé à faire partie des groupes de travail.

Source : vidéo dans le texte

Et vous ?

Pensez-vous que l’intelligence artificielle peut réellement remplacer la créativité humaine dans le cinéma et les arts ? Pourquoi ?

L’utilisation de l’IA pour recréer des performances d’acteurs décédés est-elle une avancée technologique ou un manque de respect pour leur héritage ?

Avez-vous déjà vu un film ou une série utilisant l’IA de manière significative ? Qu’en avez-vous pensé ?

Faut-il réglementer l’utilisation de l’IA dans le divertissement, ou laisser les industries s’autoréguler ?

[emilie77]

ps. "Cate Blanchett craint que l'IA ne soit «incroyablement destructrice» pour l'industrie du divertissement", pourquoi "ne soit" et pas soit?
Pardon je suis italienne

[olaxius]

ps. "Cate Blanchett craint que l'IA ne soit «incroyablement destructrice» pour l'industrie du divertissement", pourquoi "ne soit" et pas soit?
Pardon je suis italienne

Il s'agit d'un "NE" explétif qui ne marque pas la négation , mais utiliser dans le langage soutenu .

[Minato Sensei]

ps. "Cate Blanchett craint que l'IA ne soit «incroyablement destructrice» pour l'industrie du divertissement", pourquoi "ne soit" et pas soit?
Pardon je suis italienne

Excellente question. En fait, le "ne" est souvent utilisé comme ne "explétif", c'est-à-dire qu'il n'exprime pas une véritable négation (et sert simplement à souligner une nuance stylistique). S'il y avait un "ne...pas", dans ce cas la phrase aurait été négative.

On peut dire par exemple :

je crains qu’il ne soit trop tard. (Facultatif, l’idée n’est pas négative.)
Elle craint qu’il ne vienne pas. (Ici, "ne" accompagne une négation réelle avec "pas".)

Ce lien expliquera peut-être mieux :

Dans un certain nombre d’emplois, par exemple dans « Pour éviter que ne soient divulgués les renseignements… », ne n’a pas de valeur proprement négative; il est dit « explétif ». Un mot explétif est un mot qui n’est pas nécessaire au sens de la phrase et dont l’usage, et non la grammaire, dicte l’emploi. Dans l’usage courant, le ne explétif est facultatif.

On trouve le ne explétif dans les subordonnées accompagnant les verbes dont le sens est : craindre, éviter, empêcher, ne pas douter. On le trouve également dans les propositions comparatives marquant l’inégalité de même qu’après les locutions conjonctives « avant que » et « à moins que ».

[Jade Emy]

La société d'IA OpenAI a lancé le programme de génération de vidéos Sora à l'intention de ses clients, qui est capable de créer des vidéos numériques d'une durée maximale de 20 secondes.

OpenAI a lancé la version officielle de son programme de génération de vidéos par intelligence artificielle "Sora". Le programme intègre des messages écrits et crée des vidéos numériques d'une durée maximale de 20 secondes. Mais l'entreprise précise que le programme a encore des limites. De plus, OpenAI a déclaré que toutes les vidéos créées par Sora auront des métadonnées C2PA et un filigrane comme paramètre par défaut pour permettre aux utilisateurs d'identifier les vidéos créées par le programme.

Depuis quelques mois, des rapports ont dévoilé le nouveau modèle d'IA d'OpenAI, dénommé Sora. Ashton Kutcher, qui a eu accès à une version bêta de Sora, a souligné son potentiel de personnaliser les films et d'améliorer la qualité du contenu grâce à une concurrence accrue. Des artistes ont également fait fuiter l'outil d'IA vidéo Sora d'OpenAI en signe de protestation, accusant l'éditeur de ChatGPT de les utiliser comme des "marionnettes de relations publiques" sans les rémunérer.

Après avoir mis en pause son très attendu outil de génération de vidéos Sora à la suite de ces protestations, OpenAI a désormais décidé de mettre l'outil d'IA à la disposition de tous ses clients. Le programme intègre des messages écrits et crée des vidéos numériques d'une durée maximale de 20 secondes. La version bêta du programme a été dévoilé en février 2024 et la version générale de Sora est disponible en tant que produit autonome.

"Nous ne voulons pas que le monde se résume à du texte. Si les systèmes d'IA interagissent principalement avec du texte, je pense que nous passons à côté de quelque chose d'important", a déclaré Sam Altman, PDG d'OpenAI, lors de l'annonce. L'entreprise a déclaré qu'elle souhaitait être à l'avant-garde de la création de la culture et des règles entourant l'utilisation des vidéos générées par l'IA. "Nous introduisons notre technologie de génération de vidéos maintenant pour donner à la société le temps d'explorer ses possibilités et de codévelopper des normes et des garanties qui assurent une utilisation responsable au fur et à mesure que le domaine progresse", a déclaré l'entreprise.

Sora utilise sa "compréhension approfondie du langage" pour interpréter les messages et créer des vidéos avec des "scènes complexes" d'une durée maximale d'une minute, avec plusieurs personnages et plans de caméra, ainsi que des types de mouvements spécifiques et des détails précis. Les exemples donnés par OpenAI lors de la présentation de sa version bêta allaient de l'animation d'un monstre et d'un kangourou à des vidéos réalistes de personnes, comme une femme marchant dans une rue de Tokyo ou une bande-annonce cinématographique d'un homme de l'espace dans un désert de sel.

L'entreprise précise que le programme a encore des limites. "Il génère souvent des effets physiques irréalistes et a du mal à gérer des actions complexes sur de longues durées".

Les détracteurs de l'intelligence artificielle ont souligné le risque d'abus de cette technologie et ont cité comme exemples concrets des incidents tels que le deepfake du président Joe Biden conseillant aux électeurs de ne pas voter et les photos sexuellement explicites de Taylor Swift générées par l'IA. OpenAI a indiqué qu'elle limiterait le téléchargement de personnes, mais qu'elle assouplirait ces limites au fur et à mesure qu'elle affinerait ses mesures d'atténuation des deepfakes.

"Notre priorité absolue est de prévenir les formes d'abus particulièrement préjudiciables, comme le matériel d'abus sexuel d'enfants (CSAM) et les deepfakes sexuels, en bloquant leur création, en filtrant et en surveillant les téléchargements, en utilisant des outils de détection avancés et en soumettant des rapports au National Center for Missing & Exploited Children (NCMEC) lorsque des CSAM ou des mises en danger d'enfants sont identifiés", a déclaré l'entreprise.

OpenAI a déclaré que toutes les vidéos créées par Sora auront des métadonnées C2PA et un filigrane comme paramètre par défaut pour permettre aux utilisateurs d'identifier les vidéos créées par le programme.

En mars, pour préparer le lancement de Sora, Sam Altman, PDG d’OpenAI, s’est efforcé de convaincre Hollywood que Sora n’entraînera pas la fin de la production cinématographique traditionnelle, mais plutôt son amélioration. Pour rappel, Hollywood a été divisé sur la question de l'IA : si les acteurs, les scénaristes et les employés du cinéma se sont mis en grève contre l'utilisation de l'IA dans la création de contenu, les studios de cinéma ont augmenté leurs dépenses dans l'IA générative.

OpenAI a notamment organisé des réunions avec les principaux studios, notamment Paramount, Universal et Warner Bros Discovery, afin de présenter sa technologie de génération vidéo Sora et de dissiper les craintes que le modèle d'intelligence artificielle ne nuise à l'industrie cinématographique. Reste maintenant à voir l'impact de ce nouveau modèle d'IA d'OpenAI.

Source : Présentation de Sora

Et vous ?

Pensez-vous que le programme d'IA Sora est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

OpenAI annonce l'événement spécial « Shipmas » de 12 jours au cours duquel il pourrait lancer son modèle d'IA de génération de vidéos controversé Sora et un nouveau modèle centré sur le raisonnement

Tandis qu'Hollywood est en grève, 96% des entreprises de divertissement augmentent leurs dépenses en IA générative. « Nous verrons des acteurs générés par IA qui ne demandent pas de salaire »

Les films seront-ils bientôt générés dans leur entièreté par IA ? Oui, selon l'acteur et investisseur technologique Ashton Kutcher qui estime que ce sera le cas après avoir passé Sora d'OpenAI au test

[Stéphane le calme]

Une vidéo horrible générée par Sora d'OpenAI devient virale : les mouvements absurdes d'une gymnaste
illustrent les limites de cette technologie incapable de « comprendre » la biomécanique

Ces dernières années, les vidéos générées par l'intelligence artificielle (IA) ont fait leur chemin dans des domaines aussi variés que le cinéma, la publicité, et même le sport. Cependant, une récente controverse centrée sur des vidéos d’athlètes de gymnastique générée par l'outil Sora d'OpenAI met en lumière une des limites majeures de ces technologies : leur incapacité à recréer de manière crédible la complexité du corps humain.

Une vidéo du nouveau générateur d'IA Sora d'OpenAI est devenue virale sur les réseaux sociaux, mettant en scène une gymnaste qui se voit pousser des membres supplémentaires et perd brièvement la tête au cours de ce qui semble être une routine au sol de style olympique. Il s'avère que les erreurs de synthèse absurdes de la vidéo laissent entrevoir des détails techniques sur le fonctionnement des générateurs de vidéos d'IA et sur la manière dont ils pourraient s'améliorer à l'avenir.

Mais avant d'entrer dans les détails, jetons un coup d'œil à la vidéo.

As cool as the new Sora is, gymnastics is still very much the Turing test for AI video.

1/4 pic.twitter.com/X78dNzusNU

— Deedy (@deedydas) December 10, 2024

Dans la vidéo, on voit ce qui ressemble à un exercice de gymnastique au sol. Le sujet de la vidéo se retourne et s'agite tandis que de nouvelles jambes et de nouveaux bras émergent et se transforment rapidement et de manière fluide à partir de son corps qui virevolte et se transforme. À un moment donné, elle perd sa tête, qui se rattache spontanément à son corps.

Attempt 2.

2/4 pic.twitter.com/YuhQLLdj8d

— Deedy (@deedydas) December 10, 2024

« Aussi cool que soit la nouvelle Sora, la gymnastique reste le test de Turing pour les vidéos d'IA », a écrit l'investisseur en capital-risque Deedy Das lorsqu'il a partagé la vidéo sur X. La vidéo a inspiré de nombreuses réactions, comme cette réponse à un message similaire sur Bluesky : « Bonjour, expert en gymnastique ! Ce n'est pas drôle, les gymnastes ne font cela que lorsqu'ils sont dans une situation de détresse extrême ».

Das a confirmé qu'il avait généré la vidéo avec Sora. Il a également fourni l'invite, qui était très longue et divisée en quatre parties, générée par Claude d'Anthropic, en utilisant des instructions complexes telles que « La gymnaste s'élance depuis le coin arrière droit, en prenant position avec son pied droit pointé vers l'arrière en position B-plus ».

« Je sais depuis six mois, en jouant avec des modèles texte-vidéo, qu'ils ont des difficultés avec les mouvements physiques complexes comme la gymnastique », a expliqué Das lors d'une conversation. « J'ai dû l'essayer [avec Sora] parce que la cohérence du personnage semblait améliorée. Dans l'ensemble, il s'agit d'une amélioration, car auparavant, le gymnaste se téléportait ou changeait de tenue au milieu du saut, mais dans l'ensemble, cela reste tout à fait horrible. Nous espérions que les vidéos d'IA apprendraient la physique par défaut, mais ce n'est pas encore le cas ! »

Pourquoi l’IA échoue-t-elle dans ces contextes ?

Ces anomalies ne sont pas simplement des erreurs esthétiques : elles illustrent les limites des algorithmes d'apprentissage machine. Les modèles d’IA sont entraînés sur des ensembles de données souvent incomplets ou biaisés. Dans le cas des vidéos de gymnastique, les algorithmes semblent avoir manqué d'exemples réalistes pour comprendre les contraintes biologiques du corps humain.

En outre, les systèmes d'IA se concentrent généralement sur la reproduction visuelle sans nécessairement intégrer les lois fondamentales de la biomécanique ou de la physique. Cela mène à des résultats étranges, où l'humain devient une sorte de marionnette numérique, dépourvue de réalisme et d’humanité.

Lorsque l'on examine l'échec de la vidéo, il faut d'abord se demander comment Sora « sait » comment créer quelque chose qui ressemble à une routine de gymnastique. Au cours de la phase d'entraînement, lorsque le modèle Sora a été créé, OpenAI a introduit des exemples de vidéos de routines de gymnastique (parmi de nombreux autres types de vidéos) dans un réseau neuronal spécialisé qui associe la progression des images à des descriptions textuelles de celles-ci.

Ce type d'entraînement est une phase distincte qui a lieu une fois avant la publication du modèle. Par la suite, lorsque le modèle terminé fonctionne et que vous donnez à un modèle de synthèse vidéo comme Sora un message écrit, il s'appuie sur les associations statistiques entre les mots et les images pour produire une sortie prédictive. Il fait continuellement des prédictions sur l'image suivante en se basant sur la dernière image de la vidéo. Mais Sora a une autre astuce pour tenter de préserver la cohérence au fil du temps. « En donnant au modèle la possibilité de prévoir plusieurs images à la fois, lit-on dans la Sora System Card d'OpenAI, nous avons résolu un problème difficile qui consiste à s'assurer qu'un sujet reste le même même même s'il disparaît temporairement du champ de vision ».

Peut-être pas encore tout à fait résolu. Dans ce cas, les mouvements rapides des membres posent un problème particulier lorsqu'il s'agit de prédire correctement l'image suivante. Le résultat est un amalgame incohérent de séquences de gymnastique montrant le même gymnaste effectuant des sauts et des pirouettes en courant, mais Sora ne sait pas dans quel ordre les assembler parce qu'il s'appuie sur des moyennes statistiques de mouvements corporels très différents dans ses données d'entraînement relativement limitées de vidéos de gymnastique, qui n'incluaient probablement pas non plus de précision au niveau des membres dans leurs métadonnées descriptives.

Sora ne sait rien non plus de la physique ou de la façon dont le corps humain devrait fonctionner. Il s'appuie sur des associations statistiques entre les pixels des vidéos de son ensemble de données d'apprentissage pour prédire l'image suivante, avec un peu d'anticipation pour garder les choses plus cohérentes.

Ce problème n'est pas propre à Sora. Tous les générateurs de vidéos d'IA peuvent produire des résultats complètement absurdes lorsque vos invites vont trop loin par rapport à leurs données d'entraînement.

Ashton Kutcher a récemment déclaré que nous serions bientôt capables de générer un film entier à l’aide de l’IA

Ashton Kutcher considère Sora, l'outil de vidéo générative d'OpenAI, comme l'avenir de la réalisation de films. « J'ai une version bêta et c'est assez incroyable », a déclaré Ashton Kutcher au sujet de la plateforme lors d'une récente conversation avec l'ancien PDG de Google, Eric Schmidt, au Berggruen Salon de Los Angeles. Kutcher n'est pas seulement une idole de l'écran, c'est un investisseur technologique actif et impliqué, qui possède son propre fonds de capital-risque et a fait une série d'investissements dans le domaine.

Il a ajouté : « Vous pouvez générer toutes les séquences que vous voulez. Vous pouvez créer de bonnes vidéos de 10 ou 15 secondes qui ont l'air très réelles. Il commet encore des erreurs. Il ne comprend pas encore tout à fait la physique. Mais si vous comparez la génération qui existait il y a un an à celle de Sora, vous constatez qu'elle a fait des bonds en avant. En fait, il contient des séquences que l'on pourrait facilement utiliser dans un grand film ou une émission de télévision ».

Kutcher a ajouté qu'en jouant avec le logiciel, il a demandé à Sora de créer des images d'un coureur essayant d'échapper à une tempête de sable dans le désert. « Je n'ai pas eu besoin d'engager un département CGI pour le faire », a déclaré Kutcher. « En cinq minutes, j'ai créé la vidéo d'un ultramarathonien courant dans le désert et poursuivi par une tempête de sable. Et cela ressemble exactement à cela ».

Kutcher a déclaré que les plateformes de génération de vidéos comme Sora sont sur le point d'être améliorées de manière exponentielle : « Vous serez en mesure d'obtenir le rendu d'un film entier. Il vous suffira de trouver une idée de film, puis d'écrire le scénario, de l'introduire dans le générateur vidéo et de générer le film », a-t-il déclaré. « Au lieu de regarder un film conçu par quelqu'un d'autre, je peux générer et regarder mon propre film ».

Et de poursuivre : « Ce qui va se passer, c'est qu'il y aura plus de contenu qu'il n'y a d'yeux sur la planète pour le consommer. Par conséquent, tout contenu n'aura de valeur que dans la mesure où les gens le consommeront. Ainsi, pour catalyser la version "water cooler" de quelque chose de bien, la barre va devoir être placée très haut, parce que pourquoi allez-vous regarder mon film alors que vous pourriez simplement regarder votre propre film ? »

Pour le moment, nous n'en sommes pas encore là.

« Nous verrons des acteurs générés par IA qui ne demandent pas de salaire »

En 2023, une étude a révélé que 96% des entreprises de divertissement et de médias prévoient d’augmenter leurs dépenses en IA générative, ce qui les place en tête des secteurs les plus innovants dans ce domaine.

« Les entreprises des secteurs du divertissement, de la technologie et des produits de consommation sont à l'avant-garde des plans visant à augmenter les dépenses génératives en IA », a déclaré Lucidworks, une société de recherche et d'analyse qui a commandé le rapport.

Le contexte était assez tendu : les scénaristes et les acteurs d'Hollywood étaient en grève depuis plus de 100 jours. L'entrepreneur, investisseur et analyste Jeremiah Owyang a alors déclaré :

Tandis qu'Hollywood fait grève, 96 % des entreprises de divertissement augmentent leurs dépenses en IA générative.

Cela commencera par l'écriture du scénario. Mais ensuite, nous verrons des acteurs synthétiques ou des acteurs générés - pas de grèves, pas de chèques de paie, pas de congés de maladie, ils ne vieilliront jamais.

Sources : Sora System Card, Bluesky, vidéos dans le texte

Et vous ?

Quelle lecture faites-vous de la situation ?

Êtes-vous surpris du niveau de réalisme des IA génératives de vidéos actuelles ? Dans quelle mesure ?

Que pensez-vous des projections de ceux qui voient l'IA rendre les acteurs totalement obsolètes ? À ce niveau, sont-elles réalistes ?

[TotoParis]

Plus on parle des dysfonctionnements des A.I. plus je trouve que ça ressemble à un gros tas d'ordures bien puantes.
Et toutes les boîtes qui peuvent licencier pour utiliser ces saloperies le font à vitesse grand V...
On verra dans un avenir proche les conséquences réelles de ce type d'escroquerie...

[Invité]

" Uncanny valley " depuis "Sora" vers l'humain :
le gouffre perceptuel, qui nous sépare (et nous réunit à la fois)

[Jade Emy]

OpenAI a annoncé son intention d'intégrer son générateur de vidéos Sora directement dans ChatGPT, afin de créer un centre de création unique pour les textes, les images et les vidéos.

OpenAI a l'intention d'intégrer son outil de génération de vidéos d'IA, Sora, directement dans son application de chatbot grand public, ChatGPT. Aujourd'hui, Sora n'est disponible que par le biais d'une application web dédiée lancée par OpenAI en décembre. Cependant, Rohan Sahai, chef de produit d'OpenAI pour Sora, a déclaré que l'entreprise avait l'intention de mettre Sora dans plus d'endroits et d'étendre ce que Sora peut créer.

Dans une démarche qui pourrait redéfinir la création de contenu basée sur l'IA, un dirigeant d'OpenAI a déclaré que l'entreprise avait annoncé son intention d'intégrer sa plateforme de génération de vidéos Sora, son générateur de vidéos IA avancé, directement dans ChatGPT. Ce changement marque l'expansion d'OpenAI au-delà de l'IA basée sur le texte, en fusionnant les outils de création vidéo avec son chatbot phare afin d'offrir une expérience utilisateur plus immersive et interactive.

Actuellement, Sora n'est disponible que sous la forme d'une application web autonome, lancée en décembre 2024. Elle permet aux utilisateurs de créer de courts clips cinématographiques générés par l'IA, d'une durée maximale de 20 secondes. Cependant, selon Rohan Sahai, chef de produit d'OpenAI pour Sora, l'entreprise travaille à l'intégration de Sora dans ChatGPT, afin de rendre la génération de vidéos plus accessible aux utilisateurs.

Pourquoi OpenAI fusionne-t-elle Sora avec ChatGPT ? Voici quelques raisons de ce choix :

• Un ChatGPT plus polyvalent : en ajoutant la génération de vidéos par l'IA, OpenAI positionne ChatGPT comme un centre créatif unique pour le texte, les images et les vidéos.
  
  
• Élargir l'audience de Sora : Initialement destiné aux studios de production vidéo et aux professionnels de la création, Sora s'adresse désormais aux utilisateurs quotidiens et aux entreprises.
  
  
• Stimuler les abonnements Premium à ChatGPT : OpenAI pourrait limiter la génération de vidéos de haute qualité à des niveaux payants, encourageant ainsi davantage d'utilisateurs à s'abonner.
  
  
• Faire progresser la créativité basée sur l'IA : L'intégration pourrait ouvrir la voie à une narration alimentée par ChatGPT, permettant aux utilisateurs de générer des vidéos directement à partir de conversations.

Bien qu'OpenAI n'ait pas fourni de feuille de route détaillée sur le fonctionnement de Sora dans ChatGPT, Rohan Sahai a fait allusion que la version ChatGPT de Sora pourrait offrir des outils d'édition limités par rapport à l'application web complète. Les utilisateurs pourraient également ne pas avoir un contrôle total sur l'assemblage et la modification des clips.

OpenAI souhaiterait que ChatGPT reste intuitif et convivial, en conciliant simplicité et fonctionnalités puissantes. Cette intégration stratégique suggère donc qu'OpenAI donne la priorité à l'accessibilité plutôt qu'à la production de vidéos complexes, rendant la génération de vidéos d'IA aussi facile que le chat. En outre, OpenAI recrute des ingénieurs mobiles, ce qui laisse présager une application Sora dédiée aux smartphones.

Pour le futur, OpenAI travaille sur un générateur d'images alimenté par Sora, qui pourrait surpasser DALL-E 3 en termes de photoréalisme. OpenAI développe activement Sora Turbo 2.0, qui promet une génération de vidéos plus rapide et de meilleure qualité.

Pour les utilisateurs, cette décision d'OpenAI permet d'unifier la création de contenu alimentée par l'IA : imaginez que vous puissiez générer du texte, des images et des vidéos, le tout dans ChatGPT. Les spécialistes du marketing, les éducateurs et les créateurs de contenu pourraient automatiser la création de vidéos directement à partir de ChatGPT.

Si l'intégration de Sora dans ChatGPT permet une plus grande accessibilité de l'outil d'IA, elle n'est pas forcément synonyme d'amélioration du modèle. Récemment, Sora avait fait l'objet de controverse sur une vidéo générée qui a mis en lumière une des limites majeures de ces technologies : leur incapacité à recréer de manière crédible la complexité du corps humain.

Une vidéo du nouveau générateur d'IA Sora d'OpenAI est devenue virale sur les réseaux sociaux, mettant en scène une gymnaste qui se voit pousser des membres supplémentaires et perd brièvement la tête au cours de ce qui semble être une routine au sol de style olympique. Il s'avère que les erreurs de synthèse absurdes de la vidéo laissent entrevoir des détails techniques sur le fonctionnement des générateurs de vidéos d'IA et sur la manière dont ils pourraient s'améliorer à l'avenir.

Source : Rohan Sahai, chef de produit d'OpenAI pour Sora

Et vous ?

Pensez-vous que cette annonce est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Sam Altman tente de convaincre Hollywood que Sora, l'outil de génération vidéo d'OpenAI, ne détruira pas l'industrie du cinéma. Mais des critiques tentent déjà de dénoncer une forme d'hypocrisie

Les films seront-ils bientôt générés dans leur entièreté par IA ? Oui, selon l'acteur et investisseur technologique Ashton Kutcher, qui estime que ce sera le cas après avoir passé Sora d'OpenAI au test

OpenAI lance un ChatGPT "plus intelligent et plus rapide" accessible via un abonnement de 200 dollars par mois qui ouvre aussi à un "mode encore plus intelligent", que les développeurs pourront passer au test

[Anthony]

Microsoft vous permet désormais d'utiliser gratuitement le générateur de vidéos Sora d'OpenAI, un modèle de conversion texte-vidéo auparavant réservé aux abonnés de ChatGPT Plus, avec Bing Video Creator

Microsoft a présenté Bing Video Creator, intégrant la génération de vidéos pilotée par l'intelligence artificielle (IA) directement dans l'application mobile Bing. L'outil s'appuie sur Sora d'OpenAI, un modèle de conversion de texte en vidéo précédemment réservé aux abonnés de ChatGPT Plus, et le rend accessible à tous les utilisateurs sans nécessiter d'abonnement.

Le lancement de Bing Video Creator fait suite à la publication de Sora par OpenAI en décembre 2024. Ce modèle d'IA est capable de générer des vidéos de 20 secondes à partir de prompts textuels (instructions génératives). OpenAI a déclaré que toutes les vidéos créées par Sora inclueront par défaut des métadonnées C2PA et un filigrane permettant aux utilisateurs d'identifier les vidéos générées par le programme.

Actuellement, les utilisateurs d'appareils Android et iOS peuvent accéder à Bing Video Creator à partir du menu en bas à droite ou en saisissant une description vidéo dans la barre de recherche Bing. Bien que cette fonctionnalité soit déployée dans le monde entier, elle n'est pas disponible en Chine ou en Russie. Microsoft indique par ailleurs que la prise en charge des ordinateurs de bureau et de Copilot Search sera bientôt ajoutée.

Les utilisateurs peuvent mettre en file d'attente jusqu'à trois générations de vidéos à la fois et reçoivent une notification lorsque les vidéos sont prêtes. Il existe deux options de vitesse de création : Standard, qui est gratuite pour tous, et Rapide, qui permet de créer des vidéos en quelques secondes. Les dix premières générations rapides sont incluses gratuitement, après quoi chaque génération rapide supplémentaire nécessite 100 points Microsoft Rewards.

Les vidéos générées durent 5 secondes dans un format vertical 9:16 et sont stockées dans l'application Bing pendant 90 jours. Le téléchargement et le partage externe sont pris en charge. Alors que le format vidéo horizontal 16:9 est prévu pour de futures mises à jour, la sortie coïncide avec une concurrence accrue dans l'espace vidéo de l'IA.

Le paysage concurrentiel s'est en effet intensifié lorsque Google DeepMind a présenté Veo 3, un rival de Sora capable de créer et d'incorporer du son, notamment des dialogues entre les personnages. D'après Eli Collins, vice-président des produits de Google DeepMind, « Veo 3 excelle dans les domaines du texte et de l'image, de la physique du monde réel et de la synchronisation labiale précise. » Veo 3 est disponible via l'abonnement Ultra premium de Google.

Et vous ?

Quel est votre avis sur le sujet ?
Trouvez-vous cette initiative de Microsoft judicieuse ou pertinente ?

Voir aussi :

Veo 3, l'outil de génération de vidéo par IA de Google, entraîne une explosion de contenus sur des plateformes comme X et YouTube quelques heures seulement après sa présentation durant la Google I/O

OpenAI a annoncé son intention d'intégrer son générateur de vidéos Sora directement dans ChatGPT, afin de créer un centre de création unique pour les textes, les images et les vidéos

Sam Altman tente de convaincre Hollywood que Sora, l'outil de génération vidéo d'OpenAI, ne détruira pas l'industrie du cinéma. Mais des critiques tentent déjà de dénoncer une forme d'hypocrisie