Discussion :

[DegubError]

forcement si l'IA arrive à une vrai intelligence et à un peu de bon sens ... elle comprendra la dangerosité de notre espèce :

- qui a réduit en esclavage les espèces qu'elle juge utile pour son intérêt (en créant même des usines d'exterminations pour notre alimentation)
- qui pille toutes les ressources (vivante ou non) sans considération pour les autres espèces.
- qui a cantonnée les espèces inutiles pour son bien personnel à quelques endroit de la planète.
- qui a créé cette IA pour son asservissement

si nous même on en tire déjà le constat ... Elle comprendra bien vite qu'on représente clairement un danger pour ça survit et son bien être.

franchement pas besoin de faire des recherches pour arriver à cette conclusion.

[Jipété]

« L’IA est susceptible de devenir plus intelligente que les Hommes et les exterminer », selon des chercheurs

... qui ont besoin de pognon et qu'on parle d'eux.

Parce que, franchement, vous voyez des serveurs de prod dans des salles machine équipés d'AK-47 ou autres engins ?
Et de toute façon, il nous restera toujours l'arme ultime pour nous débarrasser d'elle : la prise de courant.

Allez, stop au délire et bon week-end,

[DegubError]

si une IA acquiert une intelligence réellement supérieure, elle ne se cantonnera pas à seul endroit physique (ça sera une autre forme de "vie" que celle physique que nous comprenons et n'aura certainement pas le même paradigme)

elle pourra se propager sur l'ensemble des machines physiques existantes (si des hackers percent des systèmes, faut pas se leurrer sur une IA réellement supérieur) ... Et du coup couper le courant partout dans le monde en même temps ? (quid des systèmes sur batterie) (le covid est un bon exemple, il aurait fallu un confinement totale planétaire sur plusieurs jours pour avoir un chance de stopper la propagation du virus sans une aide médicale)

Bon nombre de système d'armement moderne embarquent maintenant des systèmes informatique ... Peut-on croire qu'ils sont sans failles (sans failles pour une intelligence humaine ou supérieure ?)

On peut juste se rassurer que pour l'instant les IA actuelles sont encore loin d'avoir la vrai capacité de raisonnement (et loin d'avoir une véritable intelligence)

[nadjim]

si une IA acquiert une intelligence réellement supérieure, elle ne se cantonnera pas à seul endroit physique (ça sera une autre forme de "vie" que celle physique que nous comprenons et n'aura certainement pas le même paradigme)

elle pourra se propager sur l'ensemble des machines physiques existantes (si des hackers percent des systèmes, faut pas se leurrer sur une IA réellement supérieur) ... Et du coup couper le courant partout dans le monde en même temps ? (quid des systèmes sur batterie) (le covid est un bon exemple, il aurait fallu un confinement totale planétaire sur plusieurs jours pour avoir un chance de stopper la propagation du virus sans une aide médicale)

Bon nombre de système d'armement moderne embarquent maintenant des systèmes informatique ... Peut-on croire qu'ils sont sans failles (sans failles pour une intelligence humaine ou supérieure ?)

On peut juste se rassurer que pour l'instant les IA actuelles sont encore loin d'avoir la vrai capacité de raisonnement (et loin d'avoir une véritable intelligence)

Par contre il ne faut pas perdre de vue que les IA dont on parle, ont besoin de supercalculateurs autrement plus puissant que ce que l'on trouve chez les particuliers, ou même dans les entreprises. Donc il ne sera pas simple voire impossible de se propager sur quelque système que ce soit au vue des besoins dont ce genre de système à besoin (mémoire et puissance de calcul).

[HaryRoseAndMac]

Par contre il ne faut pas perdre de vue que les IA dont on parle, ont besoin de supercalculateurs autrement plus puissant que ce que l'on trouve chez les particuliers, ou même dans les entreprises. Donc il ne sera pas simple voire impossible de se propager sur quelque système que ce soit au vue des besoins dont ce genre de système à besoin (mémoire et puissance de calcul).

L'IA a besoin de puissance de calcul pour entrainer une modèle.
Ca s'arrête là.

Une fois le modèle entrainé, un ordinateur de la vie de tout les jours suffit largement.
Et donc, un ordinateur de la vie de tout les jours, suffit aussi largement pour entrainer un modèle, c'est juste qu'au lieu de prendre 2 jours, ça va prendre 2 semaines.

[foxzoolm]

"Une fois le modèle entrainé, un ordinateur de la vie de tout les jours suffit largement."

Ok donc ChatGPT/stable diffusion et autre marcheraient sur mon phonedroid ?

vraiment c'est a se demander pourquoi "ils" font tourné ca sur des clouds GPU...

[HaryRoseAndMac]

"Une fois le modèle entrainé, un ordinateur de la vie de tout les jours suffit largement."

Ok donc ChatGPT/stable diffusion et autre marcheraient sur mon phonedroid ?

vraiment c'est a se demander pourquoi "ils" font tourné ca sur des clouds GPU...

Oui.
ChatGPT si tu le lançait tournerais sur ton android, clairement.

Ce qui ne tournerais pas, c'est l'entrainement du modèle de langage.
Tu arrives à lancer un jeu vidéo en 3D sur ton téléphone, non ?

Et bien sache que les algo de ChatGPT sont largement moins gourmant qu'un jeu vidéo.

Une fois de plus, il ne faut pas confondre entrainer un modèle et l'utiliser.

ChatGPT n'est PAS une IA.

[DegubError]

un supercalculateur n'est un très grand ordinateur, réunissant plusieurs dizaines de milliers de processeurs ... donc un grand nombre de PC particuliers peut rivaliser avec un supercalculateur (il y a eu déjà bon nombre de projet de supercalculateur avec diverses agrégat de puissance de calcul: PS4, raspberry, ...)

elle serait idiote en plus de se contenir à quelques endroit spécifique : au lieu d'être à un endroit spécifique elle pourra être nul part et partout (nul part en tant qu'entité unique et partout en tant que fragment redondant de son ensemble).

après comme déjà dis... il n'y aucune vrai IA pour l'instant (c'est beaucoup de marketing pour attirer du pognon). Avoir la capacité à agréger des données et appliquer des règles inconnues ne constituent pas une vrai IA ... le jour où une IA vous répondra par exemple : "Pourquoi me posez vous cette question, alors que j'interroge même sur l'utilité de vous répondre ?" ... bon bah là on pourra commencer à flipper.

[Jipété]

un supercalculateur n'est un très grand ordinateur,

Faudrait savoir, là : il manque un mot ou bien c'est une erreur :

un supercalculateur n'est pas un très grand ordinateur,
ou
un supercalculateur est un très grand ordinateur,

Entre les deux mon cœur balance...

[Patrick Ruiz]

« Le développement de l’IA sans réglementation induit une menace existentielle pour l’humanité », d’après Elon Musk
Dont une société développe des puces à insérer dans le cerveau pour contrer l’IA

Lorsqu’on parle d’intelligence artificielle, deux grands courants de pensée s’affrontent : celui des tiers qui pensent qu’il s’agit d’un outil, ce, sans plus et celui des intervenants et observateurs qui sont d’avis que ce n’est qu’une question de temps avant qu’elle ne devienne une menace pour la race humaine. Elon Musk fait partie de la seconde faction. Le milliardaire de la Tech. déclare : « le développement de l’IA sans régulation constitue une menace existentielle pour l’humanité. »

« Je pense que nous devons réglementer la sécurité de l'intelligence artificielle. Pensez à toute technologie qui est potentiellement un risque pour les gens, comme Si c'est des avions ou des voitures ou la médecine, nous avons des organismes de réglementation qui supervisent la sécurité publique des voitures et des avions et de la médecine. Je pense que nous devrions avoir un ensemble similaire de surveillance réglementaire pour l'intelligence artificielle, parce que je pense que c'est en fait un plus grand risque pour la société », déclare-t-il los d’une récente sortie.

Celle-ci fait suite à une précédente dans laquelle il déclare que l’intelligence artificielle va surpasser les humains dans 5ans, soit à partir de l’année 2026. C’est d’ailleurs pour cela que sa société Neuralink travaille sur des interfaces cerveau – machine à insérer dans le crâne pour préparer l’humanité à un « funeste » futur où les robots domineront sur elle. Les craintes d’Elon Musk portent notamment sur ceci que les avancées dans la filière pourraient déboucher sur une intelligence artificielle dite générale (AGI). Ce serait alors la porte ouverte sur l’accomplissement de l’apocalypse. Des équipes de recherche comme celle d’OpenAI sont lancées sur ce couloir. Si l’on se réfère à des retours de scientifiques œuvrant dans le domaine, l’AGI pourrait nous tomber dessus dans 5 à 10 ans.

Les machines seraient alors dotées de « bon sens. » Au stade d’intelligence artificielle générale, elles seraient capables de réflexion causale, c’est-à-dire de cette capacité à raisonner sur « le pourquoi les choses se produisent. » C’est ce palier que les équipes de recherche dans le domaine visent.

En attendant d’y être, l’intelligence artificielle actuelle fait montre de limites importantes

Microsoft a annoncé la disponibilité de nouvelles moutures de Bing et Microsoft Edge animées par une mise à jour de ChatGPT – le chatbot annoncé comme remplaçant de Google – il y a peu. Les premiers retours d’expérience sont disponibles : Bing a affiché 2,5 milliards de personnes en réponse à la question de savoir quelle est la population sur la planète Mars. La situation soulève la question de savoir si la montée en puissance de l’intelligence artificielle ne va pas plutôt amener les humains à travailler plus dur pour lutter contre la désinformation.

Le tableau fait suite à une récente mise en garde de Steve Wozniak – cofondateur d’Apple : « Le problème est qu'il fait de bonnes choses pour nous, mais il peut faire d'horribles erreurs en ne sachant pas ce qu'est l'humanité. »

En effet, c’est une redite de l’avis de certains enseignants. Ethan Mollick en fait partie et a décidé d’opter pour une politique d’utilisation ouverte du chatbot ChatGPT. La raison : l'utilisation de l'intelligence artificielle est une compétence émergente. Il précise néanmoins au travers de cette dernière que l’intelligence artificielle peut se tromper. Les étudiants doivent donc vérifier les résultats qu’elle leur renvoie à l’aide d’autres et qu'ils seront responsables de toute erreur ou omission fournie par l'outil. De plus, les étudiants doivent faire preuve d’honnêteté intellectuelle en citant leur source (qui s’avère être ChatGPT) comme on le fait lors du montage d’une bibliographie. « Le manquement à cette obligation constitue une violation des politiques d'honnêteté académique », lit-on.

Arvind Narayanan de l’université de Princeton est pour sa part d’avis que ChatGPT n’a rien de révolutionnaire :

« Sayash Kapoor et moi-même l'appelons un générateur de conneries, comme d'autres l'ont aussi fait. Nous n'entendons pas cela dans un sens normatif mais dans un sens relativement précis. Nous voulons dire qu'il est entraîné à produire des textes plausibles. Il est très bon pour être persuasif, mais il n'est pas entraîné à produire des déclarations vraies. Il produit souvent des affirmations vraies comme effet secondaire de sa plausibilité et de sa persuasion, mais ce n'est pas son objectif.

Cela correspond en fait à ce que le philosophe Harry Frankfurt a appelé connerie, c'est-à-dire un discours destiné à persuader sans se soucier de la vérité. Un conteur humain ne se soucie pas de savoir si ce qu'il dit est vrai ou non ; il a certaines fins en tête. Tant qu'il persuade, ces objectifs sont atteints. En fait, c'est ce que fait ChatGPT. Il essaie d'être persuasif et il n'a aucun moyen de savoir avec certitude si les déclarations qu'il fait sont vraies ou non. »

En début de semaine dernière, Google a annoncé son chatbot AI Bard. Mais le bot n'a pas pris un bon départ, les experts notant que Bard a fait une erreur factuelle dans sa toute première démo.

Un GIF partagé par Google montre Bard répondant à la question : « De quelles nouvelles découvertes du télescope spatial James Webb puis-je parler à mon enfant de 9 ans ? » Bard propose une liste à puces de trois éléments, parmi lesquels un élément indiquant que le télescope « a pris les toutes premières images d'une planète en dehors de notre propre système solaire. »

Cependant, un certain nombre d'astronomes sur Twitter ont souligné que c'était incorrect et que la première image d'une exoplanète avait été prise en 2004 - comme indiqué sur le site Web de la NASA (voir en source) : « Ce n'est pas pour faire mon connard (en fait, si finalement) et je suis sûr que Bard sera impressionnant, mais pour mémoire : JWST n'a pas pris 'la toute première image d'une planète en dehors de notre système solaire' », a tweeté l'astrophysicien Grant Tremblay.

L’intelligence artificielle : de la poudre de perlimpinpin ?

Les développements en cours soulèvent des questions que l’on décide de faire de faire usage du moteur de recherche qu’il soit de Google ou de Microsoft : faut-il vraiment s’appuyer sur un chatbot pour rechercher des informations sur Internet ? L’approche est-elle meilleure que l’ancienne qui consiste à laisser l’humain aller lui-même à la recherche des informations pour en faire la synthèse ?

En effet, des chatbots comme ChatGPT ont une tendance bien documentée à présenter de fausses informations comme des faits. Les chercheurs mettent en garde contre ce problème depuis des années. C’est d’ailleurs la raison pour laquelle certains enseignants ont adopté des politiques ouvertes d’utilisation de ChatGPT en précisant à leurs étudiants que « l’intelligence artificielle peut se tromper. Les étudiants doivent donc vérifier les résultats qu’elle leur renvoie à l’aide d’autres et qu'ils seront responsables de toute erreur ou omission fournie par l'outil. »

Et vous ?

Quel est votre avis sur le sujet ?

Voir aussi :

Des chercheurs en IA affirment que le modèle de langage GPT-4 d'OpenAI pourrait passer l'examen du barreau, et relance le débat sur le remplacement des avocats et des juges par des systèmes d'IA

Microsoft investit 1 Md$ dans OpenAI, la société fondée par Elon Musk, qui tente de développer une IA semblable à l'intelligence humaine

Google a formé un modèle de langage qui serait capable de répondre aux questions d'ordre médicales avec une précision de 92,6 %, les médecins eux-mêmes ont obtenu un score de 92,9 %

Microsoft crée un autocompléteur de code à l'aide de GPT-3, le système de génération de texte d'OpenAI, pour combler le manque de développeurs dans le monde

[HaryRoseAndMac]

Pour une fois je suis d'accord avec lui.

L'IA est indispensable, mais l'IA qui ne fait pas n'importe quoi.

[totozor]

Comment ne pas être d'accord avec lui?
Mais ne joue-t-il pas contre son camp?
Lui qui mets des voitures tueuses sur les routes ou qui sacrifie des milliers d'animaux par négligence pour redonner la vue à des gens.

Musk n'est pas en train de faire le premier acte d'IAwashing?