Le PDG d'OpenAI se présente devant le Congrès pour proposer des licences pour la construction de l'IA

Le PDG d'OpenAI se présente devant le Congrès américain pour proposer des licences pour la construction de l'IA, il se déclare "nerveux" sur l'interférence de l'IA avec l'intégrité des élections

Le PDG d'OpenAI, la startup à l'origine de ChatGPT, a déclaré mardi 16 mai à un panel du Sénat que l'utilisation de l'intelligence artificielle pour interférer avec l'intégrité des élections est un "domaine de préoccupation important", ajoutant qu'elle nécessite une réglementation.

"Je suis nerveux à ce sujet", a déclaré le PDG Sam Altman à propos des élections et de l'IA, ajoutant que des règles et des lignes directrices sont nécessaires.

Depuis des mois, les entreprises, grandes et petites, s'efforcent de mettre sur le marché une IA de plus en plus polyvalente, en consacrant des milliards de dollars et des données inépuisables à ce défi. Certaines critiques craignent que la technologie n'exacerbe les préjudices sociétaux, notamment les préjugés et la désinformation, tandis que d'autres mettent en garde contre le risque que l'IA ne mette fin à l'humanité elle-même.

"Il n'y a aucun moyen de remettre ce génie dans la bouteille. Au niveau mondial, elle est en train d'exploser", a déclaré le sénateur Cory Booker, l'un des nombreux législateurs qui s'interrogent sur la meilleure manière de réglementer l'IA.

La sénatrice Mazie Hirono a souligné le danger de la désinformation à l'approche des élections de 2024. "Dans le contexte des élections, par exemple, j'ai vu une photo de l'ancien président Trump arrêté par la police de New York et c'est devenu viral", a-t-elle déclaré, demandant à M. Altman s'il considérait que cette image falsifiée était préjudiciable.

M. Altman a répondu que les créateurs devraient indiquer clairement quand une image est générée plutôt que factuelle.

Pièce jointe 638819

S'exprimant pour la première fois devant le Congrès, M. Altman a suggéré que, d'une manière générale, les États-Unis devraient envisager des exigences en matière de licences et de tests pour le développement de modèles d'IA.

Invité à donner son avis sur l'IA qui devrait être soumise à une licence, M. Altman a déclaré qu'un modèle capable de persuader ou de manipuler les croyances d'une personne serait un exemple de "seuil important".

Il a également déclaré que les entreprises devraient avoir le droit de refuser que leurs données soient utilisées pour l'entraînement à l'IA, une idée qui fait l'objet de discussions au Capitole. M. Altman a toutefois précisé que le matériel disponible sur le web public serait considéré comme une bonne chose.

M. Altman a également déclaré qu'il "ne dirait pas non" à l'idée de la publicité, mais qu'il préférait un modèle basé sur l'abonnement.

La Maison-Blanche a convoqué des PDG de grandes entreprises technologiques, dont M. Altman, pour aborder la question de l'IA. De même, les législateurs américains cherchent à prendre des mesures pour renforcer les avantages de la technologie et la sécurité nationale, tout en limitant son utilisation abusive. Le consensus est loin d'être acquis.

Un membre du personnel d'OpenAI a récemment proposé la création d'une agence américaine d'octroi de licences pour l'IA, qui pourrait s'appeler Office for AI Safety and Infrastructure Security (OASIS).

OpenAI est soutenue par Microsoft Corp. M. Altman appelle également à une coopération mondiale en matière d'IA et à des mesures incitatives en faveur du respect des règles de sécurité.

Christina Montgomery, responsable de la protection de la vie privée et de la confiance chez International Business Machines Corp, a exhorté le Congrès à concentrer la réglementation sur les domaines susceptibles de causer le plus grand préjudice à la société.

Source : Sam Altman

Et vous ?

:fleche: Quel est votre avis sur le sujet ?

:fleche: Trouvez-vous que les revendications du PDG d'OpenAI sont pertinentes et nécessaires pour faire face aux dommages sociétaux potentiels associés à l'IA ?

Voir aussi

:fleche: Le PDG d'OpenAI craint que les autres développeurs d'IA qui travaillent sur des outils de type ChatGPT ne mettent pas de limites de sécurité, il estime que cela pourrait créer une IA plus diabolique

:fleche: Le PDG d'OpenAI, Sam Altman, se dit effrayé par sa propre invention, l'IA pourrait être utilisée pour diffuser largement de fausses informations, ou encore lancer une nouvelle course à l'armement

:fleche: Le PDG d'OpenAI affirme que sa technologie est susceptible de "détruire le capitalisme", mais la startup d'IA est critiquée pour son partenariat avec le géant des logiciels Microsoft

:fleche: Découvrez Sam Altman, PDG d'OpenAI, qui a appris à programmer à l'âge de 8 ans et qui se prépare également à l'apocalypse avec une réserve d'or, des armes et des masques à gaz