OpenAI offre des bourses de 100 000 dollars chacune pour des idées sur la gouvernance de l'IA

OpenAI, la startup à l'origine du populaire chatbot d'intelligence artificielle ChatGPT, a annoncé jeudi 25 mai 2023, qu'elle accordera 10 subventions égales à partir d'un fonds d'un million de dollars pour des expériences de processus démocratiques visant à déterminer comment les logiciels d'IA devraient être gouvernés pour tenir compte des préjugés et d'autres facteurs.

Les subventions de 100 000 dollars iront aux bénéficiaires qui présenteront des cadres convaincants pour répondre à des questions telles que celle de savoir si l'IA doit critiquer les personnalités publiques et ce qu'elle doit considérer comme "l'individu médian" dans le monde, selon un billet de blog annonçant le fonds.

Nom : Screenshot_2023-05-26 OpenAI offers 0,000 grants for ideas on AI governance – Recherche Googl.png
Affichages : 379
Taille : 346,8 Ko

Les critiques affirment que les systèmes d'IA tels que ChatGPT sont intrinsèquement biaisés en raison des données utilisées pour façonner leurs opinions. Des utilisateurs ont trouvé des exemples de résultats racistes ou sexistes provenant de logiciels d'IA. On craint de plus en plus que l'IA travaillant avec des moteurs de recherche tels que Google d'Alphabet et Bing de Microsoft ne produise des informations erronées de manière convaincante.

OpenAI, soutenue par Microsoft à hauteur de 10 milliards de dollars, est à l'origine de l'appel à la réglementation de l'IA. Pourtant, elle a récemment menacé de se retirer de l'Union européenne en raison des règles proposées. « Le projet actuel de loi sur l'IA de l'UE serait trop réglementé, mais nous avons entendu dire qu'il allait être retiré. Ils en parlent encore », a déclaré Sam Altman, directeur général d'OpenAI.

Les subventions accordées à la startup ne permettraient pas de financer autant de recherches sur l'IA. Les salaires des ingénieurs en IA et d'autres personnes travaillant dans ce secteur en plein essor dépassent facilement les 100 000 dollars et peuvent même atteindre 300 000 dollars.

Les systèmes d'IA « devraient bénéficier à l'ensemble de l'humanité et être façonnés de manière à être aussi inclusifs que possible. Nous lançons ce programme de subventions pour faire un premier pas dans cette direction », a déclaré OpenAI dans son billet de blog.

La startup de San Francisco a déclaré que les résultats du financement pourraient façonner son propre point de vue sur la gouvernance de l'IA, bien qu'elle ait précisé qu'aucune recommandation ne serait « contraignante ».

Altman a été l'une des figures de proue de l'appel à la réglementation de l'IA, tout en lançant de nouvelles mises à jour de ChatGPT et du générateur d'images DALL-E. Ce mois-ci, il a comparu devant une sous-commission du Sénat américain, déclarant que « si cette technologie va mal, elle peut aller très mal ».

Microsoft s'est également prononcée récemment en faveur d'une réglementation complète de l'IA, tout en s'engageant à intégrer la technologie dans ses produits, en faisant la course avec OpenAI, Google et des startups pour offrir l'IA aux consommateurs et aux entreprises.

Presque tous les secteurs s'intéressent au potentiel de l'IA pour améliorer l'efficacité et réduire les coûts de main-d'œuvre, tout en craignant que l'IA ne propage des informations erronées ou des inexactitudes factuelles, ce que les initiés de l'industrie appellent des « hallucinations ». L'IA est déjà à l'origine de plusieurs mystifications largement répandues. Récemment, une fausse image virale d'une explosion près du Pentagone a brièvement affecté le marché boursier. Malgré les appels à une plus grande réglementation, le Congrès n'a pas réussi à adopter une nouvelle législation pour limiter de manière significative les Big Tech.

Source : OpenAI

Et vous ?

Quel est votre avis avis sur le sujet ?

Voir aussi :

La FSF adopte de nouvelles mesures de gouvernance : un accord des membres du conseil d'administration et un code d'éthique

Intelligence artificielle : les axes de normalisation de l'AFNOR pour une IA capable d'établir des bases de confiance et de gouvernance

Le nombre d'organisations ayant des applications d'IA en production est resté stable à 26 % au cours des deux dernières années 51 % d'entre elles manquent encore de gouvernance en la matière

OpenAI fait de Microsoft Bing la recherche par défaut dans ChatGPT