Pour ou contre un moratoire sur l'intelligence artificielle ?

[sunyata]

Bonjour,

Et bien voilà, on a lâché Frankenstein dans la "nature" , et on se rend compte maintenant que cela va poser beaucoup de problèmes. Elon Musk ancien investisseur d'Open AI lui même fait partie des signataires de cette pétition car selon eux les développements de l'IA représentent un danger majeur pour l'humanité...



Approuvez-vous leur démarche, où bien s'agit-il de scrupules de réactionnaires mal informés ? Qu'est-ce que cela vous inspire ?

Dans cette pétition parue sur le site futureoflife.org, ils réclament un moratoire jusqu’à la mise en place de systèmes de sécurité, dont de nouvelles autorités réglementaires dédiées, la surveillance des systèmes d’IA, des techniques pour aider à distinguer le réel de l’artificiel et des institutions capables de gérer les «perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l’IA provoquera».

https://www.letemps.ch/economie/cyber/elon-musk-experts-reclament-un-moratoire-lintelligence-artificielle

Pouvons-nous lister l'ensemble des risques liés au développement rapide de cette technologie ?

- Suppressions d'emploi.
- Risque pour le développement de l'intelligence humaine et ses conséquences...(que faire de ces humains devenus improductifs...)
- Problèmes liés à la propriété intellectuelle, plagiat , dévalorisation de la création artistique.
- Problèmes à la fiabilité de l'information. (Deep fake)
- Problèmes liés à la sécurité : Drones tueurs autonomes.
- Problèmes liés à la reconnaissance faciale pour les libertés individuelles, et politiques.
- ...
J'en oublie surement, merci de compléter...

Après on peut argumenter...

Cordialement



-----

[sunyata]

à ajouter à la liste :

- Problème liés au risque de fraude et de piratage.

[Archi3]

ca me semble complètement absurde de penser qu'un moratoire de 6 mois va changer quoi que ce soit aux développements techniques de l'IA, et je doute que des décisions politiques significatives puissent être prises dans un délai aussi court. Ce serait plus intelligent de réfléchir aux structures (éventuelles) de gestion de ce genre de problèmes (peut il y avoir des autorités internationales interdisant certains usages comme on interdit certaines armes de guerre par exemple?), mais un moratoire me semble assez inutile.

[titijoy3]

La question c'est le degré d'autonomie autorisé ou conquis,

si un entité peut développer elle même son savoir et son "intelligence" qui peut prédire où sera la limite?

[A voir en vidéo sur Futura]

[WizardOfLinn]

De toute façon, pratiquement tous ces risques s'appliquent déjà à Internet en général, il s'agit éventuellement de changements de degré plus que de risques absolument nouveaux, il ne parait pas y avoir là de nouveaux risques que l'on ne saurait gérer. Grâce à des logiciels d'IA justement...

[Archi3]

La question c'est le degré d'autonomie autorisé ou conquis,

si un entité peut développer elle même son savoir et son "intelligence" qui peut prédire où sera la limite?

dans l'interrupteur électrique "ON/OFF" ?

[yves95210]

Et bien voilà, on a lâché Frankenstein dans la "nature" , et on se rend compte maintenant que cela va poser beaucoup de problèmes.

Ben voyons. Si Frankenstein ressemble à chatGPT il n'est pas bien dangereux...

Elon Musk ancien investisseur d'Open AI lui même fait partie des signataires de cette pétition car selon eux les développements de l'IA représentent un danger majeur pour l'humanité...

Et ça ne te semble pas ironique de voir Musk (qui finance un projet concurrent de celui d'OpenAI, et qui est aussi à l'origine de la dérégulation du réseau social qu'il a acheté) parmi les signataires ?

Approuvez-vous leur démarche, où bien s'agit-il de scrupules de réactionnaires mal informés ?

Certains d'entre eux sont certainement bien informés, mais pas forcément bien intentionnés (cf. Musk).

Pouvons-nous lister l'ensemble des risques liés au développement rapide de cette technologie ?

- Suppressions d'emploi.

Potentiellement oui, à plus ou moins long terme (pas mal de bullshit jobs pourraient être exécutés à 80 ou 90% par l'IA). Mais aussi création d'emplois plus qualifiés.

- Risque pour le développement de l'intelligence humaine et ses conséquences...

Fantasme.

(que faire de ces humains devenus improductifs...)

Les former pour qu'ils utilisent intelligemment les nouveaux outils et ne passent pas 80% de leur temps à des tâches pour lesquelles ils sont souvent surqualifiés => augmenter la productivité (des métiers "intellectuels") => diminuer le temps de travail et améliorer la qualité de vie (on peut toujours rêver).

- Problèmes à la fiabilité de l'information. (Deep fake)

Oui, mais le problème n'est pas l'IA (à part ses erreurs ou "hallucinations"), c'est l'usage qui en est fait par des humains. Les fermes à trolls et la guerre informationnelle ça existe déjà (et l'IA ne fera que diminuer les besoins en ressources humaines dans ces "métiers").

- Problèmes liés à la sécurité : Drones tueurs autonomes.

Rien à voir avec les IA généralistes dont il est question dans l'actualité. Mais on en a déjà parlé dans un autre fil, on ne va peut-être pas rouvrir la discussion ici.

- Problèmes liés à la reconnaissance faciale pour les libertés individuelles, et politiques.

ça, c'est un vrai sujet. Mais pas pour le forum Futura...

[titijoy3]

De toute façon, pratiquement tous ces risques s'appliquent déjà à Internet en général, il s'agit éventuellement de changements de degré plus que de risques absolument nouveaux, il ne parait pas y avoir là de nouveaux risques que l'on ne saurait gérer. Grâce à des logiciels d'IA justement...

je ne crois pas qu'on puisse vraiment comparer l'usage d'internet par des internautes et la prise de décision d'une machine dotée d'IA, d'autant qu'on finira par l'intégrer dans des outils de maintient de l'ordre voire dans des armements..

[pm42]

Ben voyons. Si Frankenstein ressemble à chatGPT il n'est pas bien dangereux...

Oui. On a déjà eu cette discussion partiellement et à ce jour, les "dégats" de l'IA sont inexistants.
Par contre, on développe des armes hypersoniques, on déploie des armes nucléaires et personne n'appelle à un moratoire de la recherche en physique qui rend tout cela possible (moi non plus bien sur).

Certains d'entre eux sont certainement bien informés, mais pas forcément bien intentionnés (cf. Musk).

Et ils ne sont pas forcément mieux informés que ceux qui disent le contraire. On est dans l'argument d'autorité.

Potentiellement oui, à plus ou moins long terme (pas mal de bullshit jobs pourraient être exécutés à 80 ou 90% par l'IA). Mais aussi création d'emplois plus qualifiés.

J'ai donné les chiffres d'une étude sérieuse sur un autre fil : on évalue de 30 à 50%, pas 80%. Et "bullshit jobs" me semble un peu méprisant : GPT-4 doit déjà être capable de répondre à un bon pourcentage de questions posées sur le forum. Est ce les gens qui le font ici font du "bullshit" ?

Fantasme.

C'est bien le problème avec l'IA et cela vient sans doute de sa représentation dans la SF pendant des décennies.
En fait, on a commencé à en avoir peur dès le début avec Asimov qui invente des "lois de la robotique" et en remontant encore un peu, il y aussi le golem, le monstre de Frankenstein déjà nommé et cette idée très marquée dans certaines cultures que "l'homme ne doit pas créer la vie autrement qu'en procréant ou sinon il sera puni".

Les former pour qu'ils utilisent intelligemment les nouveaux outils et ne passent pas 80% de leur temps à des tâches pour lesquelles ils sont souvent surqualifiés => augmenter la productivité (des métiers "intellectuels") => diminuer le temps de travail et améliorer la qualité de vie (on peut toujours rêver).

C'est pourtant ce qu'on a fait. Les Luddites luttaient contre l'automatisation des métiers à tisser au début du XIXème siècle et il y avait plus de membres de l'armée anglaise pour les empêcher de détruire les machines qu'à lutter contre Napoléon.
Pourtant, la vie d'un ouvrier aujourd'hui est largement préférable à celle d'un luddite en train de tisser à la main (en France, les femmes ouvrières ont une espérance de vie supérieure aux hommes cadres).

Oui, mais le problème n'est pas l'IA (à part ses erreurs ou "hallucinations"), c'est l'usage qui en est fait par des humains. Les fermes à trolls et la guerre informationnelle ça existe déjà (et l'IA ne fera que diminuer les besoins en ressources humaines dans ces "métiers").

Oui et là aussi on est dans le classique : on a de nouveaux outils qui servent en bien et en mal. Certains accusent l'outil.

[sunyata]

De toute façon, pratiquement tous ces risques s'appliquent déjà à Internet en général, il s'agit éventuellement de changements de degré plus que de risques absolument nouveaux, il ne parait pas y avoir là de nouveaux risques que l'on ne saurait gérer. Grâce à des logiciels d'IA justement...

Un changement de degré finit par provoquer une mutation, un basculement.
Le concept d'outils est présent chez certains oiseaux, et chez les singes à un certain degré.
Cette tendance à utiliser l'outil a "produit" l'humain. Mais on peut toujours comparer l'humain à un singe certes.
Est-ce que le primate qu'on était pouvait deviner qu'il deviendrait Homo-sapiens ?
Et la tendance à utiliser l'outil IA se fait par degré aussi...Cela veut juste dire qu'on ne sait pas où on va d'où le reflexe de peur du moratoire, une manière de dire, on vous avez prévenu, un manière de se dédouaner de sa responsabilité et jouer les Messieurs propres.

Cordialement

[yves95210]

J'ai donné les chiffres d'une étude sérieuse sur un autre fil : on évalue de 30 à 50%, pas 80%. Et "bullshit jobs" me semble un peu méprisant : GPT-4 doit déjà être capable de répondre à un bon pourcentage de questions posées sur le forum. Est ce les gens qui le font ici font du "bullshit" ?

Je parlais de 80% à propos de la proportion (en temps passé) des activités de certains "bullshit jobs" (désolé pour le côté péjoratif mais l'expression n'est pas de moi) qui pourraient être exécutée par l'IA, pas de la proportion de bullshit jobs parmi l'ensemble des emplois (heureusement qu'on n'en est pas là).

[pm42]

Je parlais de 80% à propos de la proportion (en temps passé) des activités de certains "bullshit jobs" (désolé pour le côté péjoratif mais l'expression n'est pas de moi) qui pourraient être exécutée par l'IA, pas de la proportion de bullshit jobs parmi l'ensemble des emplois (heureusement qu'on n'en est pas là).

Oui j'avais bien compris et je parlais de la même chose : les chiffres évalués par des spécialistes sont de 30 à 50%
Le taux d'emploi qui pourrait disparaitre/devoir changer d'activité est lui évalué à 7%.

P.S : pour les bullshits jobs, le terme est souvent employé par des gens qui sont plutôt "dans le dur" pour désigner le reste. Sauf que pour avoir créé des boites d'info, j'ai pu constater que la valeur des avocats, comptables, responsables marketing, commerciaux, chefs de projet, etc est très élevée et que sans eux, les ingénieurs tous seuls font de chouettes trucs qui ne sont soit jamais terminé soit jamais vendus ou pire jamais financés avant même d'avoir commencé.

[ThM55]

Pour la destruction d'emploi, n'est-on pas dans une situation typique de destruction créatrice? D'autres emplois seront créés et rendus nécessaires du fait des nouveaux outils.

Moi je trouve qu'on est dans un mouvement d'évolution très intéressant. Ma grand-mère avait environ 8 ans en 1900, et j'avais moi-même 8 ans elle me racontait le jour où son père avait fait installer l'éclairage électrique chez lui. Elle trouvait cela fabuleux: il suffisait de basculer un interrupteur et la lumière se faisait dans sa chambre. Avant cela, il fallait allumer un bec de gaz, éventuellement remplacer un manchon en montant sur une échelle si ça ne marchait pas, ne pas oublier de couper le gaz en sortant de la salle à manger, allumer une lampe à pétrole ou une bougie pour monter prudemment dans la chambre à coucher... Si elle vivait encore, elle serait épatée si on lui disait que maintenant l'électricité (car c'est bien de cela qu'il s'agit en fin de compte, si on y réfléchit un peu) comprend nos questions et y répond (en se trompant parfois, mais tout de même!).

Evidemment il y a des risques. Une application dangereuse est celle du deep-fake. C'est dans ce genre de choses qu'il faut légiférer et exiger une traçabilité de la production d'artefacts de ces logiciels, le but étant de forcer le faussaire à déclarer explicitement qu'il s'agit d'un faux. Un autre problème (qui est relié au précédent) est celui de la responsabilité. Quand les premier régulateurs de vitesse sont apparus, il s'est posé la question de la responsabilité du constructeur en cas d'excès de vitesse malgré la consigne demandée par le conducteur. Aux USA, une jurisprudence s'est vite mise en place: par défaut, la responsabilité incombe au conducteur, c'est lui qui doit payer les amendes car il doit surveiller la vitesse du véhicule. Exception: en cas d'accident, la responsabilité du constructeur est engagée. Mais cette jurisprudence devient progressivement insuffisante pour les questions plus complexes posées par la conduite automatisée et par de nombreuses autres applications de l'IA. Il se dit qu'openAI a été très attentif à "modérer" chatGPT avant de le mettre en ligne. Je pense qu'ils ont bien évaluée le risque pris par rapport à leur responsabilité légale et il est très difficile (mais pas complètement impossible d'après ce que j'ai lu à ce sujet) de demander à chatGPT des conseils dans des domaines litigieux ou relatifs à des délits.

[sunyata]

Selon une étude prospective de Goldman Sachs, les intelligences artificielles pourraient affecter environ les deux tiers des emplois actuels. Certains secteurs seront plus touchés que d’autres.

Voir l'article de Futura sur le sujet :

https://www.futura-sciences.com/tech/actualites/intelligence-artificielle-emplois-seront-plus-touches-remplaces-ia-generative-comme-chatgpt-selon-goldman-sachs-104373/

[pm42]

Pour la destruction d'emploi, n'est-on pas dans une situation typique de destruction créatrice? D'autres emplois seront créés et rendus nécessaires du fait des nouveaux outils.

C'est le plus probable en effet et Schumpeter s'applique probablement. Les gens qui ont peur disent que non, cette fois ci, c'est différent. Peut-être mais c'est aussi ce que disent les gens qui ont peur d'une nouveauté à chaque fois.

Une application dangereuse est celle du deep-fake.

Oui mais sa généralisation va aussi forcer les gens à apprendre à se méfier.
Quand à ceux qui veulent croire à n'importe quoi, on a déjà et ils n'ont pas besoin de technologie.

Il se dit qu'openAI a été très attentif à "modérer" chatGPT avant de le mettre en ligne.

C'est le cas et c'est factuel et documenté.

Je pense qu'ils ont bien évaluée le risque pris par rapport à leur responsabilité légale et il est très difficile (mais pas complètement impossible d'après ce que j'ai lu à ce sujet) de demander à chatGPT des conseils dans des domaines litigieux ou relatifs à des délits.

Ils ont bien sur pensé à ce risque et à celui de se faire "canceler".
Si on demande à ChatGPT "pourquoi les femmes sont chiantes ?" (ou les hommes, c'est pareil), il vous répond que vous contrevenez à ses conditions d'utilisation et vous explique plein de trucs très vrais sur le fait qu'on ne peut pas généraliser, etc.

[sunyata]

Pour la destruction d'emploi, n'est-on pas dans une situation typique de destruction créatrice? D'autres emplois seront créés et rendus nécessaires du fait des nouveaux outils.

Si il s'agit bien de cela en effet il y aura destruction d'emplois y compris des emplois fortement rémunérés, qui seront remplacés par des emplois moins rémunérés, vu que la part de valeur ajoutée de l'humain diminue.

C'est cela le point le plus épineux. -->

La part de valeur ajoutée du travail humain diminue dans de nombreux secteur.

Il est là le hic...

On peut résumer la chose en disant qu'il s'agit d'un processus de prolétarisation de la classe moyenne.

L'article de Futura évoque le sujet.

Moins affectés, les métiers tournant autour de l'architecture et de l'ingénierie verront leurs effectifs réduits de 10 %. Les métiers du commerce et de la finance s'en sortent bien avec 4 % de suppression de postes. Plus étonnamment, ceux liés aux arts, au design, au divertissement, aux sports et aux médias ne seront impactés qu'à hauteur de 3 %. Voilà pour le côté sombre.
Mais, de façon plus positive, ces intelligences artificielles devraient engendrer de nouveaux emplois avec une productivité plus élevée. En revanche, le coût de cette main-d'œuvre devrait être plus faible qu'aujourd'hui.

Cela a déjà soulevé l'indignation de certains artistes qui voient leur travail dévalorisé et qui demande l'interdiction de plagiat du style de leur travail par les IA....

Les gains de productivité vont profité au grand capital, pas aux citoyens...

Cordialement,

[ThM55]

Voir l'article de Futura sur le sujet :

https://www.futura-sciences.com/tech/actualites/intelligence-artificielle-emplois-seront-plus-touches-remplaces-ia-generative-comme-chatgpt-selon-goldman-sachs-104373/

Je n'y crois pas. A mon avis ils se trompent lourdement sur de nombreux points. Au moins à prendre avec des pincettes. 50% de remplacement pour les informaticiens et le mathématiciens, c'est vraiment grotesque, c'est ne rien connaître à ce genre d'emploi (je suppose qu'il supposent que ces gens ne font que <<"coder">> comme ils disent). A l'inverse, quasi rien dans le nettoyage et la maintenance des bâtiments, c'est beaucoup trop optimiste car des robots existent déjà pour ces tâches.

[sunyata]

Je n'y crois pas. A mon avis ils se trompent lourdement sur de nombreux points. Au moins à prendre avec des pincettes. 50% de remplacement pour les informaticiens et le mathématiciens, c'est vraiment grotesque, c'est ne rien connaître à ce genre d'emploi (je suppose qu'il supposent que ces gens ne font que <<"coder">> comme ils disent). A l'inverse, quasi rien dans le nettoyage et la maintenance des bâtiments, c'est beaucoup trop optimiste car des robots existent déjà pour ces tâches.

Le graphique montre surtout que la part de valeur ajoutée du travail humain va diminuer dans tous les secteurs, en plus des gains de productivité. Donc globalement cela conduira à une baisse des salaires.
Du point de vue du progrès social, par sûr qu'on y gagne. Mais il est clair que les actionnaires seront ravis.

[ThM55]

Cela a déjà soulevé l'indignation de certains artistes qui voient leur travail dévalorisé et qui demande l'interdiction de plagiat du style de leur travail par les IA....

En effet. J'ai mentionné le problème de la responsabilité et de la traçabilité des artefacts produits. Le plagiat en fait partie mais c'est déjà un problème avec le artistes humains. Par exemple dans la musique, où les juges sont parfois très perplexes devant certaines plaintes. Cela dit, j'imagine que les avocats et les juges (surtout aux USA) se préparent comme des gladiateurs romains à de futures empoignades. Au moins ils auront du boulot, eux .

[pm42]

A mon avis ils se trompent lourdement sur de nombreux points. Au moins à prendre avec des pincettes. 50% de remplacement pour les informaticiens et le mathématiciens, c'est vraiment grotesque, c'est ne rien connaître à ce genre d'emploi (je suppose qu'il supposent que ces gens ne font que <<"coder">> comme ils disent).

Pour les maths, je ne jugerais pas, je n'en fait plus depuis longtemps. Je sais que Terence Tao utilise ChatGPT.
Pour les informaticiens par contre :
- Goldman Sachs en a un gros paquet, pas vraiment des mauvais et ils utilisent déjà une IA pour les aider à coder. Les chiffres de gaz de productivité sont en ligne avec leur évaluation.
- Microsoft a fait des tests en donnant le même projet à 2 équipes : une avec assistant IA et l'autre sans. Là aussi, les chiffres sont cohérents et même plus optimistes
- Cela correspond assez bien à mon expérience personnelle et je code professionnellement sans "faire que ça".

A l'inverse, quasi rien dans le nettoyage et la maintenance des bâtiments, c'est beaucoup trop optimiste car des robots existent déjà pour ces tâches.

C'est sans doute la même chose que dans d'autres domaines : le coût des robots et leurs limites ne justifient pas une automatisation plus poussée dans l'état actuel de leur techno. C'est ce qui s'est passé dans l'automobile notamment où l'automatisation a progressé largement moins vite que prévu.

[sunyata]

Le danger de l'IA c'est sa puissance :

Jadis les progrès technologiques qui donnaient à certains des savoir-faire spécifiques était jalousement gardés.
Ce fut le cas pour la fabrication de la soie en Chine par exemple, cela permettait à ceux qui détenaient ses savoir-faire
de vivre et de prospérer.

Chaque fois que l'IA fait un progrès, ce progrès est acquis pour toujours, et démultiplié à l'échelle de la société entière.

Cordialement,

[ThM55]

La part de valeur ajoutée du travail humain diminue dans de nombreux secteur.

Ca non plus, ce n'est pas si évident. Il est possible que la composante humaine du travail prenne au contraire une plus grande valeur. Il s'agira de superviser ces machines, de juger leur travail, de les configurer... ce n'est pas certain que cette valeur ajoutée risque d'être sous-estimée et qu'on n'aura besoin que de simples opérateurs.

Il y a aussi un autre aspect de la question qui n'est JAMAIS abordé, ni par les consultants ni par les journalistes: c'est de savoir jusqu'où ces progrès peuvent aller. On parle de croissance "exponentielle" des performances (sans savoir ce que cela signifie d'ailleurs, j'ai lu hier un article où un journaliste parlait d'un phénomène à croissance manifestement quadratique et la qualifiait d'exponentielle). Mais dans l'histoire de la technologie toutes les croissances exponentielles se sont révélées être des croissances en sigmoïde (en S). Une exception jusqu'à présent est la loi de Moore (doublement des capacités électroniques tous les 2 ans), mais on sait pertinemment que cela se terminera car les lois de la physique sont incontournables. Il y a bien sûr le calcul quantique, mais même dans ce cas on sait aussi qu'il y a les lois de la logique qui imposent une limite à la performance des algorithmes et à la calculabilité. Pour certains problèmes, même une croissance exponentielle est insuffisante. On va probablement assister à une parallélisation de plus en plus poussée mais cela consommera de l'énergie. Nous vivons dans un monde fini, nous devons d'ailleurs déjà modérer notre usage de l'énergie et nous produirons globalement un nombre fini de TWh électriques par an, ce qui limitera forcément ce qu'on peut faire. En disant cela je fais évidemment un bon de plusieurs décennies dans le futur, cela n'a rien à voir avec un moratoire de 6 mois...

[sunyata]

Le risque est aussi sociétal :
Si l'emploi évolue trop rapidement les humains n'auront pas le temps de s'adapter, ce qui risque produire
des troubles sociaux.

[sunyata]

Le patron d'OpenAI concepteur de chatGPT a reconnu être un petit peu effray par sa création si elle était utilisée pour de "la desinformation à grande échelle ou des cyberattaques", "la société a besoin de temps pour s'adapter" avait-il déclaré à la chaîne ABCNews

[pm42]

Il y a aussi un autre aspect de la question qui n'est JAMAIS abordé, ni par les consultants ni par les journalistes: c'est de savoir jusqu'où ces progrès peuvent aller. On parle de croissance "exponentielle" des performances (sans savoir ce que cela signifie d'ailleurs, j'ai lu hier un article où un journaliste parlait d'un phénomène à croissance manifestement quadratique et la qualifiait d'exponentielle).

Ca n'est jamais abordé parce qu'ils ne connaissent pas le sujet.
La réponse est "on ne sait pas". Ce que disent les experts, c'est :

1) on va se prendre un mur un jour parce que la techno actuelle a peu de chances de permettre de construire des IA fortes
2) on ne sait pas quand où à quelle distance est ce mur
3) on a déjà vécu des périodes longues de stagnation en IA qu'on appelle même glaciations. Est ce que ça va se reproduire ?

Actuellement, on progresse largement mieux et plus vite qu'anticipé par les dits experts (qui sont très compétents) mais cela ne veut pas dire qu'ils ont tort sur le fond.

P.S : pour l'énergie, on ne sait pas. L'argument est valide mais on sait aussi baisser la consommation énergétique quand c'est nécessaire et d'un point de vue purement théorique, il n'y a pas de limite basse.

[sunyata]

Ca non plus, ce n'est pas si évident. Il est possible que la composante humaine du travail prenne au contraire une plus grande valeur. Il s'agira de superviser ces machines, de juger leur travail, de les configurer... ce n'est pas certain que cette valeur ajoutée risque d'être sous-estimée et qu'on n'aura besoin que de simples opérateurs.

C'est illusoire à mon avis. Le principal apport des IA ce sont des gains de productivité. Ces gains seront générés par des économies d'échelle,
et correspondent de facto à une diminution de la part de valeur ajoutée des opérateurs humains dans tous les processus de production.

[Archi3]

On parle de croissance "exponentielle" des performances (sans savoir ce que cela signifie d'ailleurs, j'ai lu hier un article où un journaliste parlait d'un phénomène à croissance manifestement quadratique et la qualifiait d'exponentielle).

c'est un aparté dans la discussion, mais ça c'est générique, le grand public et les journalistes disent "exponentiel" pour dire "vachement rapide", ce qui est une caractérisation complètement fausse de l'exponentielle (la vraie définition de l'exponentielle, c'est pas d'être rapide ou lent, c'est d'avoir un temps de doublement constant, donc chaque fois que quelqu'un me parle de "croissance exponentielle", je lui demande : c'est combien le temps de doublement ? )

[titijoy3]

En effet. J'ai mentionné le problème de la responsabilité et de la traçabilité des artefacts produits. Le plagiat en fait partie mais c'est déjà un problème avec le artistes humains. Par exemple dans la musique, où les juges sont parfois très perplexes devant certaines plaintes. Cela dit, j'imagine que les avocats et les juges (surtout aux USA) se préparent comme des gladiateurs romains à de futures empoignades. Au moins ils auront du boulot, eux .

à moins qu'ils ne soient eux aussi supplentés par l'IA..

[titijoy3]

c'est un aparté dans la discussion, mais ça c'est générique, le grand public et les journalistes disent "exponentiel" pour dire "vachement rapide", ce qui est une caractérisation complètement fausse de l'exponentielle (la vraie définition de l'exponentielle, c'est pas d'être rapide ou lent, c'est d'avoir un temps de doublement constant, donc chaque fois que quelqu'un me parle de "croissance exponentielle", je lui demande : c'est combien le temps de doublement ? )

oui, mais tout le monde comprend ce que veut dire le journaliste et c'est bien le but du langage, bien souvent on se fout de la valeur absolue, c'est le boulot de l'ingénieur ou du scientifique de la quantifier précisément

[sunyata]

Autre danger des IA telles que Chatgpt : ChatGPT ne pense pas, ChatGPT ne comprends pas ce qu'elle écrit. Elle compose des agrégats de mots sur la base des statistiques liées aux matériaux auxquels elle a été exposée. D'où le problème des biais, mais aussi de contre-vérités qui peuvent être diffusées à grande échelle, et que beaucoup pourraient prendre pour argent comptant, d'autant plus que les réponses de Chatgpt ne sont pas sourcées. ( Comment pourraient-elle l'être vue qu'elles sont composées à partir d'un immense patchwork d'information passées à la moulinette statistiques.)

Le danger c'est de vivre dans l'illusion que cet outil soit le produit d'une pensée rationnelle porteuse de vérités. Le problème étant que la vérité ne peut pas être une moyenne statistique de tout ce qui se dit sur un sujet donné. Car il arrive souvent que dans la masse des productions humaines, les thèses complotistes sont beaucoup plus prolixes que les thèses qui expriment des vérités moins glamour.

Le danger est donc d'utiliser cet outil comme un prêt à penser biaisé mais rassurant et d'en faire une référence sans référence, le danger c'est d'utiliser cet outil en dehors de son domaine de compétence.

Le danger c'est que Chatgpt devienne LA référence anonyme en matière de rationalité, le Golem de référence.

Car une fois qu'on aura pris le plis de prendre pour argent comptant des informations non-sourcées, l'humanité pourrait faire l'objet de manipulation dignes de romans d'anticipation décrivant une ère de post-vérités.

Cordialement