Citation Envoyé par kain_tn Voir le message
Une entreprise devrait-elle être tenue responsable si un de ses programmes tient des propos mensongers? Oui, évidemment. Alors pourquoi ce serait différent avec des LLM?
Je comprend ce que tu veut dire, mais le problème est que personne ne maîtrise totalement ce que va dire un LLM. Déjà il y a la question des sources utilisés pour le former, et même sans sources "nuisibles", il y a le problème des hallucinations. Comme tu le dit, on est en réalité loin de la singularité.

Ensuite, de plus ne plus de LLM sont open-source, et je pense que ce nombre va continuer de grandir. LLM qui à ce moment, ne dépendent pas d'une entreprise. Je pense que si l'on tient les entreprises pour responsable, cela risque paradoxalement de nuire aux développement des LLM open-source, et donc de renforcer le pouvoir des quelques plus grosses entreprises.