Discussion :

[super_navide]

Elle sera aussi pommée que nous à l’échelle de tout ce qui se passe et est ressenti dans ce monde, elle aura en effet plus de capteurs "informatiques" qu'un homme mais ça ne lui donnera pas pour autant accès à la "vérité" car elle aura toujours qu'un pouillè me des informations informatiques et n'aura pas d’accès à pleins d'autres informations non informatiques. Elle sera aussi influençable, comme l'est un homme, parce que les données sont fausses, truquées, inversées, perturbées...

Et après arrive une grande question : pourquoi ta super IA qui aurait accès (ou pas) à toutes les sources informatiques du monde ?
>Des IA qui n'ont rien d'une IA comme on a a pleins aujourd'hui pour aider à prendre des décisions ou pour jouer au scrable ? ok, que du marketing donc.
>Ou des IA, des vraies, qui seront comment ?
-comme nous ? (ouais génial, on a réussi un super défi mais notre existence même n'a plus de sens)
-super protectrice ? (un petit coup de terminator ou d'ultron )
-qui fait tout à notre place ? et nous on fait quoi ? comment on génère de la valeur, comment on vit, que fait on des gens pas assez cortiqués ou qui n'ont pas envie de faire joujou avec ces trucs ? comment on prend plaisir à faire et réussir des choses ?

bref : why ?

-super protectrice ? (un petit coup de terminator ou d'ultron ) : quelque culture de merde , les seuls IA que tu connais de la science fiction c'est ça , depuis 30 ans les médias nous abrutissent avec des IA mauvaise ....
Il faut lire de la SF plus évolué comme I AM Bank ou il imagine une société dirigé par les IA qui ont donner une place à l’être humain.
De toute façon ça sera progressif , déjà quand on utilise son GPS on confie a une machine le choix de son chemin , quand on cherche sur google ou autre moteur on confi a une machine de rechercher des informations pour soit....
Déjà notre vie est en partie dirigé par des machines et rare sont ceux qui ont le courage de se déconnecter ..... exemple les smartphone....

[petitours]

Mon GPS ne fait que regarder sur une carte où je dois passer et ajoute quelques critères très humains tels que le trafic ou informations de travaux, après il me le suggère et j'en fait ce que j'en veux. Comme un ERP dans une entreprise par exemple.
Ce n'est pas de l'IA ça, c'est un simple outil dénué de toute intelligence.

Quand on consulte un moteur de recherche on n'a pas non plus d'IA et encore moins je "confi a une machine de rechercher des informations pour soit". quand je consulte un moteur de recherche, je récupère une liste de source d'informations qui ont été présélectionnées par un outil suivant des règles établies par des gens, que j'espère bienveillants.

[Stéphane le calme]

Sam Altman laisse entendre qu'il veut remplacer les « humains médians » par une Intelligence Artificielle Générale,
des propos qui ont suscité la controverse

Sam Altman, le PDG d’OpenAI, une entreprise qui développe des technologies d’intelligence artificielle (IA) avancées, a déclaré qu’il espérait que l’IA générale (IAG), c’est-à-dire une IA capable de réaliser n’importe quelle tâche intellectuelle qu’un humain peut faire, aurait à peu près la même intelligence qu’un « humain médian que vous pourriez embaucher comme collègue ». Cette affirmation est inquiétante, car l'une des interprétations pourrait être qu'Altman cherche à remplacer le travail des « gens normaux » par une IAG qui n’existe pas encore.

L'Intelligence Artificielle Générale, le Saint Graal de la recherche en IA

L'IAG diffère de l'intelligence artificielle étroite (ANI), qui est bonne pour des tâches spécifiques, mais manque de généralisation, et de la super intelligence artificielle (ASI), qui surpasse l'intelligence humaine dans tous les aspects. L'idée de la signification d'IAG a capturé l'imagination du public et a fait l'objet de nombreuses histoires et films de science-fiction.

Quelle est la différence entre l'IAG et l'IA ? L'IAG est souvent considérée comme le Saint Graal de la recherche sur l'IA, car elle permettrait aux systèmes d'IA d'interagir avec les humains de manière naturelle et significative, ainsi que de résoudre des problèmes complexes qui nécessitent de la créativité et du bon sens. L'une des principales caractéristiques de la signification d'IAG est la capacité de raisonner et de prendre des décisions en l'absence d'instructions ou de conseils explicites.

Un autre aspect important de la signification de l'IAG est la capacité des machines à apprendre de l'expérience et à améliorer leurs performances au fil du temps grâce à des essais et des erreurs et aux commentaires des utilisateurs humains.

Cependant, l'IAG est également insaisissable et controversée, car il n'y a pas de définition ou de mesure claire de ce qui constitue l'intelligence au niveau humain ou comment la tester. Alors, comment savons-nous si un système est une IAG ou non ?

L'un des tests les plus célèbres pour l'IAG est le test de Turing, proposé par Alan Turing en 1950. Le test de Turing implique un juge humain qui interagit avec un humain et un système d'IA par le biais de messages texte et tente de déterminer lequel est humain et lequel ne l'est pas. Si le système d'IA peut tromper le juge en lui faisant croire qu'il est humain, il réussit le test de Turing.

Toutefois, le test de Turing a été critiqué pour être trop subjectif et limité, car il n'évalue que les capacités linguistiques et non d'autres aspects de l'intelligence tels que la perception, la mémoire ou l'émotion. De plus, certains systèmes d'IA peuvent réussir le test de Turing en utilisant des astuces ou des tromperies plutôt qu'une compréhension ou un raisonnement authentiques.

Par conséquent, certains experts en IA ont proposé des tests alternatifs pour l'IAG, comme fixer un objectif pour le système d'IA et le laisser déterminer comment l'atteindre par lui-même. Par exemple, Yohei Nakajima de la société de capital-risque Untapped a donné à un système d'IA l'objectif de démarrer et de développer une entreprise et lui a indiqué que sa première tâche était de déterminer quelle devrait être sa première tâche. Le système d'IA a ensuite recherché sur Internet des informations pertinentes et a appris à créer un plan d'affaires, une stratégie de marketing, etc.

Ce type d'apprentissage autonome et de résolution de problèmes est l'une des caractéristiques de l'IAG, car il montre que le système d'IA peut s'adapter à de nouvelles situations et utiliser sa propre initiative. Cependant, cela soulève également des questions éthiques et sociales, telles que la manière de garantir que les objectifs du système d'IA sont alignés sur les valeurs et les intérêts humains et la manière de réglementer ses actions et ses impacts. L'une des principales promesses du sens IAG est de créer des machines capables de résoudre des problèmes complexes qui dépassent les capacités des experts humains.

Sam Altman compare sa vision de l'IAG à un « humain médian »

Dans un article récemment publié dans le New Yorker, Sam Altman, PDG d'OpenAI, a comparé sa vision de l'IAG à un « humain médian ». Il a déclaré : «*Pour moi, une IAG est l'équivalent d'un humain médian que vous pourriez embaucher comme collègue.*»

Ce n'est pas la première fois qu'Altman fait référence à un humain médian. Dans un podcast de 2022, Altman a déclaré que cette IA pourrait « faire tout ce que vous seriez heureux qu'un collègue à distance fasse juste derrière un ordinateur, ce qui inclut apprendre à devenir médecin, apprendre à devenir un codeur très compétent ».

C’est une affirmation déconcertante, étant donné que cela pourrait laisser croire qu’Altman cherche à remplacer le travail des « gens normaux » par une IAG qui n'est pas encore disponible.

D'ailleurs, qu’est-ce qu’un humain médian ? Comment Altman, ou quiconque, pourrait-il déterminer une définition globale pour cette moyenne statistique ? Et pourquoi utiliser ce mot spécifique, qui semble réduire la diversité et la complexité de l’expérience humaine ?

Sam Altman

Une comparaison qui n'est pas nouvelle, bien que dérangeante à cause de l'individu qui la formule

La comparaison avec l’intellect humain médian n’est pas nouvelle. Comme le note l'écrivain Elizabeth Weil dans son profil Altman, le terme est utilisé par « beaucoup dans la bulle technologique ». Le terme est utilisé par les initiés de l'IA dans des forumes de discussion.

Un rapport d'août de McKinsey a adopté des critères similaires, notamment un graphique des capacités techniques dans lequel l'IA générative devrait atteindre le « niveau médian de performance humaine » d'ici la fin de la décennie.

Utiliser spécifiquement le mot « médiane » semble également être un choix distinct – et révélateur. C’est un terme fragile qui pourrait laisser beaucoup de place à l’interprétation. On ne sait pas clairement comment Altman, ou n’importe qui d’autre, pourrait déterminer une définition holistique de cette moyenne statistique. Quoi qu’il en soit, une telle quantification de l’expérience humaine semble à bien des égards déshumanisante, surtout lorsqu'il est utilisé par les responsables de modèles d'IA puissants comme le GPT-4 d'OpenAI.

« Comparer l'IA à l'idée même d'humains médians ou moyens est un peu offensant », a déclaré Brent Mittelstadt, directeur de recherche à l'Oxford Internet Institute. « Je considère la comparaison comme préoccupante et la terminologie comme étant également préoccupante ».

Middlestadt n’est pas le seul à formuler cette critique.

« Il est intéressant d'utiliser le terme humain médian - qui est très différent de l'humain moyen », a déclaré Henry Shevlin, éthicien de l'IA et professeur à l'Université de Cambridge. « Cela rend la citation encore plus dégueulasse ». « Il y a de bonnes raisons de penser que Sam Altman pourrait être plus sensible à ce sujet », a-t-il ajouté.

Cependant, Shevlin a déclaré que le profil n'était pas destiné à être un article scientifique et qu'un certain niveau de quantification était nécessaire dans ce domaine complexe.

« Une chose que les architectures et les modèles d'IA actuels ont montré, c'est qu'ils peuvent atteindre des performances fondamentalement typiques au niveau humain. Cela n'est pas problématique en soi », a-t-il déclaré. « J'ai l'impression que lorsque nous abordons des questions comme l'intelligence, les gens sont plus susceptibles, et il y a de bonnes raisons à cela ».

L'une des raisons est que la pratique consistant à tenter de quantifier l'intelligence a été entachée de racisme scientifique, même si, a ajouté Shevlin, cela ne pose pas de problème en soi.

Mittelstadt a déclaré que ce lien était rarement étayé par une « comparaison concrète et mesurable de l’intelligence humaine ». Il a déclaré: « Je pense que c'est un concept intentionnellement vague par rapport à une signification très spécifique ». « Il existe tous ces différents critères qui sont utilisés pour évaluer les performances des modèles de langage ou AGI », a-t-il continué. « Ils font peut-être référence au QI, par exemple, mais cela pose toutes sortes de problèmes ».

Les mesures traditionnelles permettant de comparer l’IA et l’intelligence humaine ont tendance à se concentrer sur les capacités plutôt que sur l’intellect général.

Sam Altman voit dans le revenu universel de base une réponse à la perte massive d'emplois

Par le passé, la technologie affectait les travailleurs peu qualifiés et à faible revenu qui se formaient par la suite pour occuper des emplois mieux rémunérés. Pourtant, une étude de Goldman Sachs indique que les dernières avancées en matière d'intelligence artificielle pourraient conduire à l'automatisation d'un quart du travail effectué aux États-Unis et dans la zone euro, exposant l'équivalent de 300 millions de travailleurs à temps plein dans les grandes économies à l'automatisation. Les avocats et le personnel administratif seraient parmi ceux qui risquent le plus d'être licenciés.

La solution de Sam Altman à ce problème est le revenu de base universel (RBU), un revenu versé régulièrement par le gouvernement à un niveau uniforme à chaque adulte, quel que soit son statut d’emploi, son revenu ou sa richesse, pour fournir un filet de sécurité. « [...] une société qui n'offre pas suffisamment d'égalité des chances pour que chacun progresse n'est pas une société qui durera », a écrit Altman dans un billet de blog en 2021. La politique fiscale telle que nous l'avons connue sera encore moins capable de lutter contre les inégalités à l'avenir, a-t-il poursuivi. « Bien que les gens aient toujours des emplois, bon nombre de ces emplois ne créeront pas beaucoup de valeur économique dans la façon dont nous pensons à la valeur aujourd'hui ». Il a proposé qu'à l'avenir - une fois que l'IA « produirait la plupart des biens et services de base dans le monde » - un fonds pourrait être créé en taxant la terre et le capital plutôt que le travail. Les dividendes de ce fonds pourraient être distribués à chaque individu pour qu'il les utilise à sa guise - « pour une meilleure éducation, des soins de santé, un logement, la création d'une entreprise, peu importe », a écrit Altman.

Le RBU assurerait donc la sécurité du revenu tout en créant des incitations à quitter les emplois mal rémunérés pour des options plus risquées mais potentiellement plus lucratives, comme le travail indépendant, l’entrepreneuriat ou la formation continue. Le climat d’innovation qui en résulte réduit la dépendance aux bas salaires et le besoin de concurrencer la technologie. Avec un revenu garanti qui ne dépend pas de la recherche d’emploi, les travailleurs ne prendront un emploi que s’ils le trouvent attrayant, ce qui diminue le déclassement et améliore leur pouvoir de négociation.

Source : NYMag

Et vous ?

Qu’est-ce que vous pensez de l’objectif de Sam Altman de créer une IAG qui a la même intelligence qu’un humain médian ?
Est-ce que vous trouvez cette comparaison entre l’IA et les humains médians offensante ou problématique ? Pourquoi ou pourquoi pas ?
Comment définiriez-vous un humain médian ? Quels sont les critères ou les indicateurs que vous utiliseriez ?
Quelles sont les conséquences potentielles de remplacer les humains médians par l’IAG sur le plan social, économique et politique ?
Quel rôle devraient jouer les humains médians dans la conception et la gouvernance de l’AGI ? Comment assurer leur participation et leur représentation ?
Le Revenu de Base Universel est-il une réponse adaptée à l’automatisation menée par l’IA ? D'ailleurs, comment serait financé et distribué ce RBU ?

[ParseCoder]

Bon courage!

[F4n1l0]

Il s'agit d'installation non ergonomique de Ctrl-X alt Man vs Vitruve Man homme médiant à l'ancienne aka tupu-RSA-pomme, AGi !
Ensuite l'espace des collègues agréables est limité. Dans un bar star wars ou même un lower deck star trek le tour interstellaire des archétypes de collègues est bouclé avant même le décollage. C'est un tour RH aussi facile à boucler que l'exobiologie vertébrée imaginable. Au pire il a l'air d'un monstre mais il aime les milk shakes car ça le réchauffe et ça lui rappelle sa maman la baleine intergalactique qui résiste aux mines impériales de l'amiral Thrawn...
Le problème stratégique c'est comment mal noter ou retarder au tableau d'avancement cet AGI qui ne demande même par sa part de compte formation alors qu'il a seulement passé le bac en simulation. Ce salaud aide déjà tous les directeurs exécutifs aux petits oignons sans "se prendre" une seule semelle. Il DOIT avoir le droit à la déconnexion et il DOIT voter aux elections syndicales sans afficher sur son front qu'il a voté nul.

[Axel Mattauch]

Manifestement, Sam Altman peut d'ores et déjà être remplacé par une IA. N'importe laquelle, au demeurant.

[pierre.E]

Les avocats et le personnel administratif seraient parmi ceux qui risquent le plus d'être licenciés.
une ia fonctionnaire ca promet

[hugotor]

Pourquoi utiliserions-nous une IAG , si l'on pouvait se séparer facilement des individus qui posent un problème pour le groupe (vécu) et au delà pour l'entreprise.

[info7777]

je pense, en particulier, tenter de faire ressembler un robot trop un humain, ca na aucun intérêt, sauf peut être a impressionner les non informaticiens,

[Mathis Lucas]

Les leaders de la Tech affirment que l'IA changera le sens du travail et entraînera des changements radicaux sur le marché de l'emploi
mais les critiques se montrent sceptiques à ce sujet

Un consensus semble se construire parmi les hauts responsables de la Tech sur l'impact que l'IA pourrait avoir sur l'emploi à l'avenir. Ils sont d'accord pour dire que l'IA entraînera probablement des changements radicaux sur le marché de l'emploi, en éliminant de nombreuses professions et en obligeant la société à repenser la manière dont les gens passent leur temps. Selon ces dirigeants, les changements en vue pourraient toucher certains acteurs de l'économie plus gravement que d'autres. Et même si la société dans son ensemble s'améliore, il sera difficile de convaincre les personnes les plus touchées. Cependant, les critiques affirment qu'il ne s'agit que de pures spéculations.

Le rythme de l'évolution technologique s'accélère sans cesse, car il permet une plus grande automatisation qui, à son tour, permet plus de progrès. Cet état de choses semble être "bénéfique" pour l'économie et le capitalisme, mais peut malheureusement avoir des conséquences dommageables sur certaines couches de la population mondiale. À titre d'exemple, les avancées récentes dans le domaine de l'IA contribuent déjà à réduire le nombre d'emplois disponibles en permettant à certains types de travailleurs d'effectuer le travail de plusieurs travailleurs. Certains employeurs se sont récemment vantés d'avoir remplacé tout leur personnel par des outils d'IA.

Selon de nombreux dirigeants de la Tech - notamment Sam Altman, PDG d'OpenAI, Vinod Khosla, un éminent investisseur en capital-risque dont l'entreprise a été l'un des premiers bailleurs de fonds d'OpenAI, et Chris Cox, chef de produit chez Meta -, ce n'est que le début et les changements futurs pourraient s'avérer plus radicaux. S'exprimant lors de la conférence Tech Live 2023 du Wall Street Journal, Altman a déclaré que les deux choses qui compteront le plus dans les prochaines décennies sont une intelligence abondante et peu coûteuse, ainsi qu'une énergie abondante et bon marché. Selon lui, cela constitue le plus grand défi dans le domaine de l'IA.

« Si nous parvenons à réaliser ces deux choses dans le monde, il est presque difficile d'imaginer ce que nous pourrions faire d'autre », a-t-il déclaré. Mustafa Suleyman, cofondateur de DeepMind et PDG d'Inflection AI, a déclaré que la course à la création de chatbots d'IA rappelle la course à la création de sites Web à l'aube d’Internet ou d'applications après l'avènement des smartphones. « Ce n'est que le début d'une transformation complète de la manière dont nous interagissons avec les machines », a déclaré Suleyman, dont l'entreprise fabrique un ChatGPT rival appelé Pi. En outre, les investisseurs en capital-risque se montrent encore plus optimistes sur l'IA.

Selon Michael Wolf, cofondateur et directeur général de la société de conseil Activate, les consommateurs vont se tourner vers TikTok, ChatGPT et d'autres applications alimentées par l'intelligence artificielle générative, au lieu d'utiliser les moteurs de recherche traditionnels. Il prédit que la domination de l'industrie de la recherche, qui pèse environ 100 milliards de dollars, est "à prendre", ajoutant que l'essor des modèles d'IA libres ouvre la voie à de plus petits entrants qui pourront concurrencer de manière significative les grandes entreprises établies. Les professionnels, des médecins aux écrivains, craignent que l'IA ne remplace entièrement certains emplois.

Altman et ses pairs estiment que la société doit anticiper ces changements et mettre en place des politiques visant à atténuer le choc pour les populations, notamment les travailleurs. « Chaque révolution technologique a des répercussions sur le marché de l'emploi. Cela ne me fait pas peur du tout. C'est la voie du progrès. Mais nous trouverons des emplois nouveaux et meilleurs. Cela dit, le processus ne se fera pas sans heurts. Je pense que nous devons faire face, en tant que société, à la vitesse à laquelle tout cela va se produire. Nous allons vraiment devoir faire quelque chose pour cette transition », a déclaré l'homme d'affaires lors de la conférence.

Et d'ajouter : « les gens doivent avoir un pouvoir d'action, la capacité d'influencer. Nous devons être ensemble les architectes de l'avenir ». En outre, les économistes et les entrepreneurs de la technologie semblent divisés sur la vitesse à laquelle ce changement pourrait se produire. Vinod Khosla, investisseur et entrepreneur dans le domaine de la technologie depuis plus de 40 ans, a présenté un calendrier très serré pour la transformation du travail par l'IA. « D'ici 10 ans, l'IA sera capable de faire 80 % de 80 % de tous les emplois que nous connaissons aujourd'hui », a déclaré Khosla. Pour lui, l'IA ne fait que reproduire le schéma classique des révolutions.

Il a cité de nombreux types de médecins et de comptables comme exemples de professions que l'IA pourrait largement supplanter, car ces systèmes peuvent accéder plus facilement à un large éventail de connaissances. L'investisseur a comparé l'ampleur des changements dans la main-d'œuvre à la disparition des emplois agricoles aux États-Unis au XXe siècle - une transition qui s'est déroulée sur plusieurs générations, et non sur plusieurs années. Selon lui, la prospérité accrue que l'IA apportera aux sociétés qui l'adopteront redéfinira profondément le sens du travail et permettra aux personnes qui ne veulent pas travailler de l'éviter si elles le souhaitent.

« Je pense que la nécessité de travailler dans la société disparaîtra dans 25 ans pour les pays qui adapteront ces technologies. Je pense qu'il y a de la place pour un revenu de base universel garantissant une norme minimale et permettant aux gens de travailler sur les choses qu'ils veulent faire », a-t-il déclaré. Cependant, Altman pense qu'il ne suffira pas de garantir un revenu de base. « Les gens auront besoin de débouchés pour l'expression créative et d'une chance d'ajouter quelque chose à la trajectoire de l'espèce », a-t-il déclaré. Ils pensent tous que l'IA devrait transformer l'économie mondiale en entraînant des gains de productivité et de croissance.

David Wadhwani, responsable de l'activité Digital Medias d'Adobe, a déclaré que malgré les craintes, il considère l'IA comme un outil qui stimulera l'emploi plutôt que de mettre des gens au chômage. Des outils tels que Firefly d'Adobe, qui peut générer des images et des logos, permettent à un plus grand nombre de personnes de devenir des professionnels de la création. « Nous aurons des professionnels créatifs plus productifs que jamais et plus de professionnels créatifs dans le monde », a-t-il déclaré. Cependant, cette déclaration est controversée, des critiques alléguant que pour le moment, la révolution de l'IA profite à très peu de personnes.

Le PDG d'Arm, Rene Haas, a déclaré que le fabricant de puces utilisait l'IA pour l'aider dans certains domaines où elle avait du mal à recruter suffisamment de talents, comme le débogage et le test des puces. Il rejoint le point de vue d'Altman et a décrit un avenir où les pénuries d'énergie pourraient freiner les progrès de l'IA, et où une pénurie de talents pourrait limiter la production de semiconducteurs. Khosla, qui a fondé Khosla Ventures il y a vingt ans, a déclaré que les investissements dans l'IA étaient entrés dans un cycle d'engouement et que "seuls des investisseurs très disciplinés récolteraient les fruits de cette technologie transformatrice".

Dans le rang des critiques, les commentaires indiquent que les prédictions des dirigeants de la Tech et des capital-risqueurs ne sont que pures spéculations. Beaucoup affirment que l'impact potentiel de l'IA sur les emplois et la société est exagéré et que ce discours semble avoir pour but d'inciter les gens à adopter des technologies prématurées qui s'avèrent finalement peu révolutionnaires. L'un d'entre eux a écrit : « les leaders de la technologie n'ont aucune idée de ce qui va se passer à l'avenir. L'impression 3D était censée être aussi importante qu'Internet et révolutionner la façon dont nous obtenons des biens. Au final, on n’a rien de tel observé ».

Un autre affirme : « il y a huit ans, les leaders de la technologie affirmaient que la blockchain allait révolutionner la gestion des données. Et il y a à peine deux ans, les leaders de la technologie affirmaient que le métavers allait changer la nature du travail. Mais cette idée a rapidement été abandonnée lorsque la bulle de l'IA générative s'est formée au cours de l'année dernière. Enfin, on se souvient également que les ordinateurs devaient éliminer le travail dans les années 60, 70 et 80. Mais ce n'est pas le cas. En gros, les leaders de la technologie ne savent rien sur la façon dont l'IA pourrait impacter le travail ou sur la façon dont elle transformera la société ».

Dans le même temps, d'autres prennent les prédictions des dirigeants de la Tech très au sérieux et appellent à l'action pour éviter l'avènement d'un monde dystopique où le pouvoir appartient aux machines, en particulier l'IA. « Imaginez que vous travailliez un jour pour l'IA. C'est-à-dire que votre patron, qui vérifie vos travaux ainsi que vos rapports, est une IA. Sans aucune émotion, compassion ou amabilité. Juste un bon ou un mauvais travail. Vous pouvez être licencié à tout moment sans aucun état d'âme et nous nous retrouverons alors dans une société d'exploitation. C'est ce que nous risquons si rien n'est fait pour réglementer l'IA », a écrit un critique.

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des prédictions faites par les dirigeants de la Tech ?
Ces prédictions sont-elles réalistes ? À quoi s'expose la société avec l'essor de l'IA ?
Y aura-t-il des suppressions massives d'emplois au profit de l'IA dans les années à venir ?
Quid des prédictions selon lesquelles l'IA entraînera des gains de productivité et de croissance ?
L'IA redéfinira-t-il le sens du travail comme certains dirigeants de la Tech le pensent ?
L'IA pourrait-il permettre aux gens de ne pas travailler comme le prédisent certains dirigeants ?
Un revenu de base universel sera-t-il nécessaire pour faire face à l'impact de l'IA sur le marché de l'emploi ?

Voir aussi

D'ici 2025, plus de la moitié des comptes OnlyFans les plus populaires seront des modèles générés par l'intelligence artificielle pilotés en secret par des hommes, d'après Alex Valaitis

L'AGI serait déjà présente, « les modèles d'IA tels que ChatGPT, Bard, LLaMA et Claude ont franchi un seuil que les générations précédentes d'IA n'ont jamais atteint », selon des chercheurs

Les besoins énergétiques futurs des outils d'intelligence artificielle pourraient dépasser la consommation d'énergie des petits pays, selon une étude d'Alex de Vries

[Bruno]

Bill Gates et Sam Altman discutent des défis de l'IA, la vision idéalisée de la concurrence dans ce domaine semble négliger les risques éthiques,
et les implications d'une compétition effrénée

Bill Gates et Sam Altman engagent une conversation passionnante sur l'état actuel et futur de l'intelligence artificielle (IA). Sam Altman, PDG d'OpenAI, partage son optimisme quant à la compréhension future des modèles d'IA, malgré la complexité actuelle de leur fonctionnement. La discussion se concentre sur les progrès attendus dans les deux prochaines années, mettant en avant la multimodalité, la capacité de raisonnement, la fiabilité, l'adaptabilité et la personnalisation comme domaines clés d'amélioration. Les deux experts abordent également la question de la réglementation de l'IA, envisageant la possibilité d'une agence mondiale similaire à l'AIEA pour réguler les systèmes superpuissants. Ils soulignent les défis potentiels liés à l'impact rapide de l'IA sur la société et la nécessité d'une adaptation rapide.

Sam Altman évoque l'enthousiasme pour les gains de productivité, notamment dans le codage, les soins de santé, et l'éducation, tout en reconnaissant les défis liés à l'adaptation rapide que la technologie pourrait imposer à la société. La robotique est également mentionnée, avec l'idée que l'IA pourrait changer le marché de l'emploi, y compris le travail en col bleu, lorsque couplée à des robots physiques avancés.

Dans une seconde partie de l'entretien entre Bill Gates et Sam Altman, les deux discutent de divers sujets allant des applications mobiles préférées aux préoccupations liées à l'IA. Sam Altman révèle utiliser Slack intensivement, tandis que Bill Gates préfère Outlook. Ils évoquent aussi la musique préférée de Sam, The New Four Seasons - Vivaldi Recomposed by Max Richter, soulignant son impact émotionnel.

Par la suite, ils abordent des préoccupations majeures liées à l'intelligence artificielle, notamment le risque qu'un pouvoir malveillant contrôle le système. Bill Gates exprime son inquiétude quant à la question de la finalité humaine, envisageant un futur où l'IA pourrait s'occuper des problèmes majeurs pendant que les humains se consacreraient à des activités personnelles déroutantes. La discussion évolue vers les défis psychologiques liés au développement technologique, avec Sam Altman soulignant la nécessité d'une adaptation face aux changements à venir. Ils explorent également la question de l'équité dans l'accès à l'IA, soulignant la tendance à la baisse rapide des coûts opérationnels des systèmes d'IA.

Enfin, Sam Altman parle de la compétition dans le domaine de l'IA, décrivant le caractère motivant et amusant de travailler sur un projet d'une telle envergure. Ils concluent en partageant des conseils, notamment l'importance de constituer des équipes diversifiées et l'encouragement à prendre des risques pour réaliser ses aspirations. L'entretien se termine sur une note positive, soulignant l'énergie et l'enthousiasme générés par les avancées dans le domaine de l'IA, ainsi que l'impact potentiellement gigantesque que chacun peut avoir en poursuivant un travail porteur de sens.

Bill Gates anticipe l'avenir de l'IA : opportunités, risques et régulation

Bill Gates, cofondateur de Microsoft, a publié une lettre intitulée « L'ère de l'IA a commencé », où il discute de l'impact de l'intelligence artificielle (IA) dans les domaines tels que la main-d'œuvre, les soins de santé et l'éducation. Gates souligne deux moments révolutionnaires dans sa vie liés à la technologie, l'un en 1980 avec l'interface utilisateur graphique et l'autre en 2022 avec les progrès d'OpenAI.

Il a défié OpenAI de former une IA capable de réussir un examen de biologie avancée, et le résultat a été impressionnant. Gates envisage un avenir où l'IA améliorera la productivité, agissant comme un "copilote" dans le travail quotidien. Il souligne également le potentiel de l'IA dans la santé mondiale pour réduire les inégalités et accélérer les avancées médicales, ainsi que son rôle dans l'amélioration de l'éducation en adaptant l'enseignement aux besoins individuels.

Gates aborde également les risques et les problèmes liés à l'IA, comme la nécessité de résoudre les erreurs contextuelles, les préoccupations éthiques et la menace d'utilisation malveillante de l'IA. Il évoque la possibilité de futures IA « fortes » capables de définir leurs propres objectifs, soulignant la nécessité de guider la conversation publique sur l'IA et de trouver un équilibre entre ses inconvénients et ses avantages. Il souligne le besoin d'investissements et de réglementations pour s'assurer que l'IA est utilisée pour réduire les inégalités et résoudre les plus grands problèmes mondiaux. Il conclut en soulignant l'énorme potentiel de l'IA et l'importance de définir des règles pour maximiser ses avantages tout en atténuant les risques.

Les idées soutenues par Bill Gates dans cette discussion reflètent un pragmatisme bien ancré dans la réalité actuelle de l'intelligence artificielle. Sa reconnaissance de la complexité actuelle des modèles d'IA, tout en restant optimiste quant à une meilleure compréhension future, dénote une approche équilibrée. Les domaines clés d'amélioration qu'il met en avant, tels que la multimodalité, la capacité de raisonnement, la fiabilité, l'adaptabilité et la personnalisation, suggèrent une attention aux détails techniques nécessaires pour faire progresser l'IA de manière significative. La proposition d'une agence mondiale de régulation, similaire à l'AIEA, démontre une préoccupation réaliste envers les risques liés aux systèmes superpuissants, soulignant la nécessité d'un cadre réglementaire international.

D'un autre côté, les idées de Sam Altman reflètent un optimisme prononcé, axé sur les avantages potentiels de l'IA, notamment dans le codage, les soins de santé et l'éducation. Son enthousiasme pour les gains de productivité est contagieux, mais il est important de noter qu'il reconnaît également les défis liés à l'adaptation rapide de la société à ces changements. L'introduction de la robotique et son impact potentiel sur le marché de l'emploi, y compris le travail en col bleu, souligne la nécessité de réfléchir de manière critique à l'impact social de l'IA.

Contrastes dans les visions de Gates et Altman

Sam Altman aborde la question de l'impact de l'intelligence artificielle et de l'automatisation sur l'emploi, exprimant l'idée que l'IA pourrait supplanter la plupart des emplois existants. Malgré cela, il se montre optimiste quant à la perspective d'une transition vers des emplois plus personnalisés et à une augmentation significative de l'abondance matérielle. Il envisage même une potentialité où le PIB mondial pourrait croître de 50 % par an pendant plusieurs décennies.

Altman met en évidence la nécessité de préparer un futur où le nombre d'emplois pourrait diminuer, tout en soulignant une augmentation substantielle de la richesse mondiale. Il évoque également l'émergence d'emplois axés sur les interactions humaines, considérant l'IA comme un moyen potentiel d'éliminer la pauvreté, de résoudre le changement climatique et de traiter diverses maladies humaines. Malgré sa reconnaissance des dangers associés à l'IA, Altman insiste sur les opportunités positives qui pourraient découler de son développement.

Bill Gates semble adopter une approche plus pragmatique et prudente, mettant l'accent sur la compréhension technique approfondie et la nécessité de réglementations internationales. Sam Altman, en revanche, est plus axé sur les opportunités et les avantages de l'IA, tout en reconnaissant les défis sociaux liés à son adoption rapide. L'harmonie entre ces deux perspectives offre une vision complète de l'état actuel et futur de l'IA.

La seconde partie de l'échange entre Bill Gates et Sam Altman, bien que riche en perspectives, suscite certaines critiques. Tout d'abord, la vision de Bill Gates concernant un avenir où l'IA résoudrait les problèmes majeurs, permettant ainsi aux humains de se consacrer à des activités personnelles déroutantes, parais être une projection excessive et potentiellement déconnectée de la réalité. Envisager un tel scénario soulève des questions éthiques et sociales majeures, notamment sur la pertinence de la finalité humaine dans un monde fortement automatisé.

La discussion sur les défis psychologiques liés au développement technologique, bien que pertinente, aurait pu être approfondie pour aborder des aspects concrets plutôt que de rester à un niveau général. Les impacts psychologiques sur les individus et la société exigent une analyse plus approfondie, surtout en ce qui concerne la gestion du stress et l'adaptation aux changements radicaux induits par l'IA.

La discussion sur la compétition dans le domaine de l'IA, bien que motivante, pourrait être perçue comme trop idéalisée. Elle néglige peut-être les implications éthiques et les risques liés à une compétition effrénée sans une régulation adéquate. Encourager à prendre des risques peut également conduire à des décisions irresponsables si elles ne sont pas équilibrées par une éthique rigoureuse.

Bien que l'entretien se termine sur une note positive, l'absence d'une exploration approfondie de certaines questions cruciales et la projection excessive de scénarios futuristes soulèvent des préoccupations quant à la compréhension réaliste des enjeux liés à l'IA et à la manière de les aborder de manière responsable.

Source : Vidéo

Et vous ?

Est-ce que la proposition d'une agence mondiale de régulation pour l'IA ne risque pas d'être difficile à mettre en œuvre, étant donné les différences culturelles et politiques à l'échelle mondiale ?

Comment concilier l'optimisme quant à la compréhension future des modèles d'IA avec la nécessité immédiate de régulation, surtout face aux risques évoqués ?

Les projections de Bill Gates sur un avenir où l'IA résout les problèmes majeurs, permettant aux humains des activités déroutantes, ne sous-estiment-elles pas les implications éthiques et sociales majeures ?

Comment garantir que la compétition dans le domaine de l'IA ne compromette pas l'éthique et la sécurité, surtout avec un encouragement à prendre des risques ?

Voir aussi :

Pour Bill Gates, l'IA est l'avancée technologique la plus importante depuis des décennies, il vient de publier une lettre de 7 pages sur l'IA et ses prédictions pour son avenir

L'utilisation des applications d'IA générative est en hausse en entreprise, avec ChatGPT en tête, suivi de Grammarly et du chatbot Google Bard, d'après un rapport de Netskope

L'IA remplacera la plupart des emplois actuels, mais avec une forte augmentation de la richesse globale, selon Sam Altman, cofondateur d'OpenAI

[Prox_13]

Oui:

Bill Gates et Sam Altman discutent des défis de l'IA, la vision idéalisée de la concurrence dans ce domaine semble négliger les risques éthiques, et les implications d'une compétition effrénée.

Mais:

OpenAI supprime discrètement l'interdiction d'utiliser ChatGPT à des fins "militaires et de guerre", une décision lourde de conséquences à cause de l'utilisation croissante de l'IA dans les conflits

Plus un domaine brasse de l'argent, moins on se pose de questions sur l'éthique. Surtout quand ledit argent vient dans notre porte-monnaie.