Discussion :

[Coriolan]

Les fondateurs de LinkedIn et eBay font un don de 20 millions de dollars pour aider à se prémunir contre l'IA
Et l'avancer dans l'intérêt du public

Avec le développement rapide de l’intelligence artificielle, beaucoup craignent qu’elle aille affecter l'intérêt public, c’est le cas des fondateurs de LinkedIn et eBay qui viennent de faire des dons de 10 millions de dollars chacun pour financer la recherche académique destinée à maintenir l’éthique dans les systèmes d’IA. Un fonds de recherche va chercher à atteindre ce but en appliquant des sciences humaines et sociales ainsi que d’autres disciplines dans la conception et le développement de l’IA. Le MIT Media Lab et le Berkman Klein Center for Internet & Society de l’Université de Harvard serviront comme les institutions de base de cette initiative.

Une chose est sure, l’intelligence artificielle se développe rapidement, favorisée par l’émergence de nouveaux systèmes comme le big data et l’apprentissage approfondi qui ont révolutionné la façon de vivre de millions de personnes ces dernières années. Aujourd’hui, on fait appel à l’IA dans de nombreux domaines, en effet, elle intervient pour choisir les news qu’on va voir, déterminer les profils de personnes à qui accorder des crédits et même déterminer les tâches qu’on doit réaliser dans certains cas. Bien que l’IA a tous ces avantages et bien d’autres (elle peut scanner des montagnes de données pour détecter le cancer et automatiser le pilotage de véhicules pour éviter des accidents), beaucoup de personnes, notamment de la Maison-Blanche et de l’Open AI d’Elon Musk ont averti maintes fois que ce développement rapide de l’IA pourrait mal tourner. Pour cette raison , il est primordial que la recherche sur l’IA et son développement soit encadré par une grande variété de disciplines et de voies, qui inclut non seulement les ingénieurs et les firmes, mais aussi les experts en sciences sociales, les philosophes, les économistes, les avocats, etc.

Cette initiative va mettre en place un conseil de direction qui réunit les participants et encadrer la distribution de prix et faciliter d’autres activités dont l’intérêt est de mettre en liaison l’informatique aux sciences sociales et humaines. « Il y a une urgence à s’assurer que les avantages de l’IA soient utiles à la société et limitent son mal », a dit Reid Hoffman, fondateur de LinkedIn. « La prise de décision de l’IA peut influencer beaucoup d’aspects de notre monde - éducation, transport, la santé, la justice et l’économie - cependant, les données et le code qui sont derrière ces décisions peuvent être largement invisibles. »

Les systèmes d’IA recourent actuellement à l’analyse de larges quantités de données, qui sont préalablement préparées et catégorisées par des humains. De ce fait, personne ne garantit qu’il n’y ait pas de préjugés. « L’un des enjeux majeurs est de savoir comment les machines que nous entrainons ne vont pas perpétuer et amplifier davantage les mêmes préjugés portés par les humains et qui tourmentent la société », a dit Joi Ito, directeur du Media Lab à MIT.

Le fonds cherche à imprégner l’intérêt public dans l’avancement de l’IA en diversifiant les discussions et les projets qui adressent les impacts de l’IA sur les humains. Voici en gros quelques problèmes que les fondateurs du fonds cherchent à adresser :

*La complexité de la communication : Comment mieux communiquer, à travers les mots et les processus, les nuances d’un champ complexe comme l’IA ?
*Design d’éthique : comment concevoir et bâtir des technologies qui prennent en compte des cadres d’éthique et des valeurs morales au centre de l’innovation technologique ?
*L’avancement d’une IA responsable et juste : Quels sont les mécanismes de contrôle dont on a besoin pour minimiser des préjudices potentiels sur la société et tirer le maximum de ses avantages ?
*L’innovation dans l’intérêt public : Comment maintenir la capacité des ingénieurs et les entrepreneurs à innover, créer et profiter, tout en s’assurant que la société est informée et que le travail intègre des perspectives d’intérêt général ?
*Comment élargir la discipline pour s’assurer qu’un large éventail d'acteurs est impliqué dans la création d’outils et l’analyse de l’impact social ?

Le fonds cherchera donc à déterminer à quel point les systèmes d’intelligence artificielle seront socialement responsables. Le groupe cherche également à explorer les façons d’impliquer le public dans la conception de ces systèmes et le sensibiliser à propos des enjeux dans l’avenir.

Source : Knight Foundation

Et vous ?

Qu'en pensez-vous ?

Voir aussi :

Forum Intelligence artificielle

[Tagashy]

A la lecture de cet article j'ai l'impression d'une vision très noire de L'IA (une vision que j'aurais beaucoup plus vue dans la bouche des politoc*** habituel que dans des entreprises relier de prés a l'informatique) et surtout j'ai l'impression qu'ils essaient de faire une police de ce qui est bien ou non du coup leur argument

L’innovation dans l’intérêt public : Comment maintenir la capacité des ingénieurs et les entrepreneurs à innover, créer et profiter, tout en s’assurant que la société est informée et que le travail intègre des perspectives d’intérêt général ?

me semble être une bonne blague et puis le intérêt général XD intérêt de linkedin et ebay oui ^^

Pour ce qui est d’empêcher l'IA de faire des erreurs ... le fait que tous software aura toujours un bug on en parle ... il faut plutôt se demander qu'est ce qui doit rester juger par la morale et du coup par l'homme et qu'est ce qui peut être traitée automatiquement, il faut arrêter de penser qu'une IA pourra un jour avoir une morale il s'agit d'un bout de code s’exécutant sur un processeur via des instructions en assembleur.

pour le passage

Les systèmes d’IA recourent actuellement à l’analyse de larges quantités de données, qui sont préalablement préparées et catégorisées par des humains. De ce fait, personne ne garantit qu’il n’y ait pas de préjugés. « L’un des enjeux majeurs est de savoir comment les machines que nous entrainons ne vont pas perpétuer et amplifier davantage les mêmes préjugés portés par les humains et qui tourmentent la société

il s'agit encore une fois d'une machine qui traite des donnée si on lui as coder tu mets en prison toute les personne qui ont moins de 500€ sur leur compte bancaire et que un individue rentre moins de 500 € par préjuger sur une personne, ce n'est pas la faute de la machine c'est celle de l'homme derrière qui as remplis les données ...


enfin tout ça pour dire qu'une IA ça reste juste une liste d'instruction assembleur et des formules mathématiques.
après on va me dire oui mais ça pourrais faire un logiciel qui tuerais des gens ce qui n'existe pas a l'heure actuel. ah bas mince les drones c'est quoi, les bombes atomiques c'est quoi d'après vous ...

P:S je me trompe peut être sur leur objectif mais j'ai quand même l'impression qu'ils nous prennent pour des con en voulant nous dire ce qu'on as le droit de faire ou non
P:S plutôt que faire des choses comme ca se concentrer sur le fait de faire payer des cotisation sociale ou similaire aux robot/IA me semble bien plus intelligent et benefique pour la societe car même si ils établissent des lois il y auras toujours des personne pour les briser

[MikeRowSoft]

Embrouille quand tu nous tiens... Seul la cause et la perte de contrôle peuvent provoquer cela...
Pourquoi pas, cela dit les failles de sécurités avec des vraies intelligences collective et collaboratives a déjà fait beaucoup plus que "son" homologue artificiel...

[Aurelien.Regat-Barrel]

"Science sans conscience n'est que ruine de l'âme". Je trouve cela bien que l'on se pose la question du champ d'utilisation et d'application d'une telle technologie avant son adoption massive (la science est neutre mais la technologie ne l'est pas).

Quel intérêt pour ces grandes entreprises? Je pense qu'elles anticipent cette réflexion qui sera inévitable afin de pouvoir légiférer sur le sujet. Pour moi elles cherchent à accélérer l'intégration de cette techno dans la société, et accessoirement se couvrir aussi. C'est aussi, bien sûr, une façon de défendre leur point de vue. Mais globalement je trouve ça bien qu'ils mettent le sujet sur la table sans attendre que ça se fasse à l'arrache par des politiciens pris de court.

PS: une IA ce n'est pas un programme impératif avec un code source en clair de ce qui est fait, mais une auto configuration dynamique (entrainement) dont on a bien du mal à interpréter logiquement les corrélations obtenues. Mais pour moi ce n'est pas le sujet ici. Le sujet c'est quel champ d'application au niveau social. Par exemple, peut-on remplacer une nounou par une intelligence artificielle ? Quelque part, c'est se poser la question de "où s'arrête la machine où commence l'être humain", autrement dit "qui sommes nous"... "Gnothi seauton"

[danyclassique]

Je suis extrêmement content qu'il y en ait qui commence à peine a s'inquiéter de cette ultime et extrêmement dangereuse avancée technologique. Après une stagnation séculaire depuis plus de 60 ans, la découverte et la progression rapide du développement de l'intelligence artificielle est la seule avancée majeure qui pourrait ,dans un proche avenir, nous créer un holocauste humanitaire technologie dotée d'une douceur exemplaire. L'IA , est a mon humble avis une bombe a retardement qui doit être gérée par l'ensemble d'équipes très consciencieuses au risque et péril de dégâts incroyables au niveau mondial, et je suis vraiment très content qu'il y ait de grands bonnets comme ebay et LinkedIn , qui offrent des dons d'une valeur de 20 millions de dollars pour contrôler cette merveilleuse arme 1000 fois plus puissante que la bombe atomique .
N'oublions pas que de cela, ont éte créés de très grandes productions cultes comme , terminator matrix et j'en passe .Plus sérieusement , si une fois l'homme lui serait accordé d'être légitimement parano , cela serai sans aucun doute sur l'importance de l'avancée de l'IA dans le monde.

[tbc92]

Ils ont eu raison de le faire.
La preuve ? c'est que les gens qui voient l'IA comme une force supérieure inter-galactique leur donnent raison. Très beau coup de Communication/Défiscalisation/Manipulation.