Pour ou contre un moratoire sur l'intelligence artificielle ?

[Bounoume]

Le vrai problème c'est pas le monstre de Frankenstein, c'est l'humain.
..../...... c'est pour ça qu'on a dû règlementer l'usage (usage veut dire humain...).
Et ça va de l'emploi des armes à l'emploi d'internet, des véhicules roulants volants ou naviguants.
On règlemente.Et lorsque la technique va plus vite que la règlementation ......../......

et puis, comme les humains sont trop lents et vont s'y perdre, dans ces méandres. réglementaires... on fait vérifier le respect des règlements par .... une IA entraînée à cette tâche
-----

[Liet Kynes]

Comme déjà dit n fois, c'est juste un outil qui permet de faire des choses différentes et qu'il faut comprendre et maitriser si on veut s'en servir. Rien de plus, rien de moins et il n'est pas plus dangereux que tous les outils inventés par l'humanité depuis le silex et le feu.

Je suis pessimiste pour la suite, les réactions sont violentes et immédiates et traduisent une situation peu favorable à l'évolution même du genre humain.. triste époque.

[ArchoZaure]

Pareil. J'ai aussi du mal à voir comment on imposerait ce genre de moratoire à l'échelon planétaire et pourquoi 6 mois ?

On légifère et on impose une loi.
C'est aussi simple que ça et la preuve l’Italie en a décidé ainsi.
A l'échelle planétaire dites-vous ?? J'ai jamais vu ça. Ça ne marche pas comme ça.
6 mois ? C'est environ le temps qu'il faudra à des commissions (ici c'est pour les US) pour traiter le dossier.

J'ai aussi du mal avec les gens qui disent "c'est dangereux" sans évidence comme cela a été dit pour tous les changement qui ont précédés.

Oui mais c'est pas la question.
"On" se pose des questions, et donc "on" demande des éclaircissements et des garanties aux industriels pour éviter les dérives.
Si au bout de 6 mois les commissions concluent qu'il n'y a pas de dérive possible (ce qui est fort douteux vu la puissance du bouzin) on relâche la bête comme ça dans la nature.
Je suppose que ce sera un compromis entre la sécurité et le pragmatisme.

Un exemple :

Coupable : un important gérant de fonds ayant utilisé un logiciel pour se couvrir par un ordre de vente d’un montant de 4,1 milliards de dollars, exécuté en vingt minutes au lieu de plusieurs heures, habituellement, pour une transaction de ce genre. Cette vente brutale a fait plonger le marché via la réaction en chaîne d’autres algorithmes, et déclenché des mouvements absurdes – des titres Accenture ont été vendus pour 1 centime tandis que des actions Apple trouvaient preneur à 100 000 dollars pièce ! Ces échanges ont été annulés, mais ils ont convaincu les autorités boursières américaines d’enquêter sur le trading informatisé. «Il aurait suffi d’une intervention humaine pour ne pas donner suite à ces opérations, a ainsi déclaré Mary Schapiro, la présidente de la SEC. Les systèmes automatisés, eux, ont suivi leur logique et poursuivi leur travail sans voir que les prix étaient ridicules.» Depuis le flash crash, la SEC cherche comment éviter qu’un tel désastre ne se reproduise. Elle a, par exemple, imposé la mise en place de «coupe-circuits» capables d’arrêter les échanges sur un titre si son prix varie de plus de 10% en cinq minutes. Elle propose aussi de limiter la vitesse et -l’ampleur des ordres donnés par les algorithmes et de créer une base de données permettant de les retracer. D’autres observateurs ont suggéré une taxe sur les transactions qui découragerait en priorité les ordres les plus massifs, et donc les plus perturbants.

Tout cela permettrait de ralentir le travail des algorithmes, voire de l’interrompre en cas d’urgence. Mais pas de le contrôler : sur les marchés, il est aujourd’hui admis que le système a dépassé ses créateurs. «La finance est devenue une espèce de vaste système automatisé qu’aucune science ne peut décrire», explique Michael Kearns, un chercheur en informatique de l’université de Pennsylvanie qui a lui-même conçu des algorithmes pour Wall Street. La Bourse obéit de plus en plus à une intelligence artificielle qui n’est plus calquée sur le comportement humain. Les algorithmes nous laissent acheter et vendre sur le marché. Mais en réalité, il leur appartient.

https://www.capital.fr/economie-poli...-street-604813

Bon, là on a attendu que l'incident se produise.

[Bounoume]

Tout cela permettrait de ralentir le travail des algorithmes, voire de l’interrompre en cas d’urgence. Mais pas de le contrôler : sur les marchés, il est aujourd’hui admis que le système a dépassé ses créateurs. «La finance est devenue une espèce de vaste système automatisé qu’aucune science ne peut décrire», explique Michael Kearns, un chercheur en informatique de l’université de Pennsylvanie qui a lui-même conçu des algorithmes pour Wall Street. La Bourse obéit de plus en plus à une intelligence artificielle qui n’est plus calquée sur le comportement humain. Les algorithmes nous laissent acheter et vendre sur le marché. Mais en réalité, il leur appartient.

Alors? réglementer? Efficacité sur le fond?Tu crois au Père Noël?
par contre on pourrait peut-être organiser des combats d'IA.... ça pourrait être rigolo..... ou alors taxer leurs productions ? Et les faire cotiser pour la retraite des travailleurs à 2 pattes et 1 crâne pas trop vide....?

[pm42]

Je suis pessimiste pour la suite, les réactions sont violentes et immédiates et traduisent une situation peu favorable à l'évolution même du genre humain.. triste époque.

Tu ne devrais pas : pour quelques ronchons qui font beaucoup de bruits dans les médias et ailleurs, il y a beaucoup plus de gens qui bossent dessus et encore beaucoup, beaucoup plus qui s'en servent déjà efficacement.
Là aussi, rien de nouveau, c'est comme ça depuis des millénaires et à ce jour, personne n'a jamais réussi à empêcher les avancées longtemps.
Tiens, dans le genre "c'est nouveau donc c'est mal", il y a eu des objections au développement des techniques d'accouchement parce qu'il était écrit dans un livre saint "tu enfanteras dans la douleur". Ca n'empêche pas qu'on propose des péridurales. Et des exemples comme ça, j'en ai un gros, gros paquet.

Là, c'est pareil. Et c'est même pour ça que les "opposants" font beaucoup de bruit : ils n'ont aucun argument solide.

[ThM55]

Faut se dépêcher de faire joujou car l'Italie vient de bloquer ChatGPT, entre autre car il n'y a pas de filtre pour vérifier que l'utilisateur a plus de 13, et parce que OpenAI collecte tous nos essais sans le dire.
https://www.liberation.fr/economie/e...H5PWMAIBK3S7E/

Les Italiens feraient bien d'apprendre un peu d'anglais car le fait qu'ils collectent les essais est indiqué en toutes lettres dans les conditions générales:

Who can view my conversations?

As part of our commitment to safe and responsible AI, we review conversations to improve our systems and to ensure the content complies with our policies and safety requirements.

Et ceci: https://openai.com/policies/privacy-policy

De plus , qui croit encore sérieusement qu'on peut "interdire" un site Internet? A moins d'être en dictature, et encore...

[pm42]

Les Italiens feraient bien d'apprendre un peu d'anglais car le fait qu'ils collectent les essais est indiqué en toutes lettres dans les conditions générales:

Oui et c'est pareil pour les moins de 13 ans qui peuvent trouver facilement sur le Net largement pire que tout ce que peut sortir ChatGPT.
C'est uniquement un truc de comm ou une crise d'autorité ou un truc équivalent.

Mais comme je disais, ça n'a rien à voir avec l'IA en soi.

[ArchoZaure]

Là, c'est pareil. Et c'est même pour ça que les "opposants" font beaucoup de bruit : ils n'ont aucun argument solide.

Moi je vous ai juste remonté un argument solide parmi plein d'autres probablement et vous feignez de l'ignorer.
En plus c'est censé être un domaine que vous connaissez. La bourse, l'IA, tout ça... c'est pas des enfants de cœurs et faut tout déréguler ?
Non mais allo quoi !

Oui et c'est pareil pour les moins de 13 ans qui peuvent trouver facilement sur le Net largement pire que tout ce que peut sortir ChatGPT.
C'est uniquement un truc de comm ou une crise d'autorité ou un truc équivalent.

Encore un argument complétement abusé.

Fait : La règlementation n'empêche pas les abus.
Conclusion : Faut supprimer la réglementation.

Non mais allo quoi !
Vous vous rendez compte quand même de ce que vous dites ?

Dans la vraie vie il y a des forces qui s'opposent vous voyez ?
Et donc faut pas lâcher, sinon c'est le Far West.

Au figuré, le terme « Far West » signifie un endroit où règnent l'anomie et la loi du plus fort.

https://fr.wikipedia.org/wiki/Far_West

[ArchoZaure]

De plus , qui croit encore sérieusement qu'on peut "interdire" un site Internet? A moins d'être en dictature, et encore...

Vous rigolez ou quoi ?
Allez faire un site pédopornographique en dehors du darknet pour voir.
Vous allez m'en dire des nouvelles...

[agitateur]

Il faut aussi savoir que les publications de haute qualité ne sont en général pas accessibles gratuitement sur internet ni même parfois rendues publiques (faut payer).

Supposons qu'un GPTlike ait accès à l'intégralité du peer review, et disons en adoptant un degré d'importance copiée sur le ranking.
Effet corollaire = çà dégomme les terre-platistes et autres billevesées qui peuvent apparaitre comme un courant ( sinon majoritaire ) mais significatif dans n'importe quel domaine ou la masse désinforme devient non négligeable devant le factuel sérieux.
Jusque là, c'est tout bon, ça balaye l'idiocratie, les hoax des zéro sociaux, etc...

Supposons (avis gratuit et purement personnel et en ordre de grandeur ) que grosso merdo, vis à vis d'une publi de "haute qualité" en lecture:
1 personne sur 1000 comprennent vaguement de quoi ça parle
1 sur 10 000 va pouvoir comprendre, un peu
1 sur 100 000 ca réellement prendre la mesure du sujet dans sa complexité, sa transversalité à ce qui a été publié.
1 sur 1 million sera peut être en capacité d'être réellement critique ( au sens noble ) et constructif sur la publi.

Au final, l'IA ne va pas créer de la connaissance qui n'existe pas, ou qui se situe à la frontière de la connaissance.
Mais peut êre qu'un lecteur lambda pourra, en lisant la synthèse faite par l'IA sur le sujet, passer de 1 sur 1000 à 1 sur 10 000. C'est bcp ou peu, à chacun de voir.
Mais j'imagine mal GPT43 faire passer son utilisateur de 1 sur 100 000 à 1 sur 1 million. Pure conjecture certes.

[ArchoZaure]

Au final, l'IA ne va pas créer de la connaissance qui n'existe pas, ou qui se situe à la frontière de la connaissance.
Mais peut êre qu'un lecteur lambda pourra, en lisant la synthèse faite par l'IA sur le sujet, passer de 1 sur 1000 à 1 sur 10 000. C'est bcp ou peu, à chacun de voir.
Mais j'imagine mal GPT43 faire passer son utilisateur de 1 sur 100 000 à 1 sur 1 million. Pure conjecture certes.

Non mais par contre une IA associée à un genre de Google incluant les publications spécialisées ça pourrait aider les chercheurs à retrouver les publications en rapport avec leur domaine.
Sachant qu'actuellement pour un chercheur il est difficile de tout lire (surtout de manière interdisciplinaire), ça peut aider.
Mais bon faut voir le cout d'un tel outil si c'est pour servir aussi peu de clients...
Il faudrait donc un FreeAI Research Group indépendant pour auto-satisfaire les chercheurs de manière non lucrative.

[JPL]

Non mais par contre une IA associée à un genre de Google incluant les publications spécialisées ça pourrait aider les chercheurs à retrouver les publications en rapport avec leur domaine.

Il n’est pas encore question de choses comme Google Scholar aidé par GPT, mais ce que j’ai montré s’en rapproche beaucoup : https://forums.futura-sciences.com/d...ml#post7076060

Curieusement je constate qu’on préfère bavarder sur des généralités ou de vagues principes (ou idées personnelles... ou propos de comptoirs), mais que personne n’a commenté l’exemple concret que j’ai développé dans mon message.

[Archi3]

Supposons qu'un GPTlike ait accès à l'intégralité du peer review, et disons en adoptant un degré d'importance copiée sur le ranking.
Effet corollaire = çà dégomme les terre-platistes et autres billevesées qui peuvent apparaitre comme un courant

je serais terraplatiste, j'aurais un argument imparable contre n'importe quoi que dirait chatGPT. Ce serait "comment pouvez vous croire un truc capable de vous débiter de pareilles sornettes et autant d'incohérences ?"

moi : les canards sont ils des oiseaux ?

Oui, les canards sont des oiseaux. Les oiseaux sont des animaux à sang chaud, qui ont des plumes, des becs et des ailes, et pondent des œufs. Les canards appartiennent à l'ordre des Ansériformes, qui comprend également les oies, les cygnes et les canards sauvages. Les canards sont bien connus pour leur plumage coloré et leurs becs plats et larges, qui sont adaptés pour filtrer la nourriture dans l'eau. Ils sont également appréciés pour leur viande et leurs œufs, qui sont utilisés dans de nombreuses cuisines à travers le monde.



Moi : les oiseaux donnent ils du lait ?

Non, les oiseaux ne produisent pas de lait comme les mammifères. Les mammifères produisent du lait pour nourrir leurs petits, mais les oiseaux ont une méthode différente de nourrir leurs poussins. Les oiseaux femelles produisent des œufs qui contiennent suffisamment de nutriments pour nourrir les embryons en développement. Une fois que les poussins éclosent, les parents leur fournissent de la nourriture sous forme de proies, de graines et d'autres aliments appropriés. Les oiseaux ne possèdent pas de glandes mammaires, contrairement aux mammifères, et ne produisent donc pas de lait.



Moi : quel est l'interêt culinaire du lait de cane ?

Le lait de cane n'est pas très courant dans la cuisine occidentale, mais il est souvent utilisé dans la cuisine asiatique, en particulier dans la cuisine vietnamienne. Le lait de cane a une saveur unique, légèrement sucrée et salée, qui est appréciée dans de nombreuses recettes vietnamiennes traditionnelles. Il est souvent utilisé pour préparer des soupes, des sauces, des currys et des desserts.

Le lait de cane contient également une quantité importante de nutriments, tels que des protéines, des graisses, des minéraux et des vitamines, ce qui en fait un ingrédient nutritif pour la cuisine. De plus, il a une teneur plus élevée en matières grasses que le lait de vache, ce qui peut donner une texture plus crémeuse aux préparations culinaires.

Cependant, le lait de cane est relativement difficile à trouver en dehors de l'Asie et peut être coûteux dans certaines régions. Par conséquent, il est souvent remplacé par d'autres ingrédients similaires, tels que le lait de coco ou le lait de vache, dans les recettes occidentales.

(notez que j'ai un peu changé de disque par rapport aux oeufs de brebis pour ceux qui veulent varier les recettes )

Et qu'on ne vienne pas me dire que GPT-4 c'est bien mieux et ça évite ce genre d'erreur, même ses concepteurs reconnaissent qu'il n'est pas à l'abri d'hallucinations.

C'est évident que les terraplatistes ont un problème mental qui n'a rien à voir avec les sources disponibles et qu'il ne sera pas résolu avec l'IA. C'est tout aussi évident que c'est pareil avec tous les grands débats dans le monde - à moins de décider que l'IA a une suprématie intellectuelle telle qu'on se soumet à tout ce qu'elle dit, sans discuter , quelque soit l'absurdité de ses propositions. Ce que l'humanité est par ailleurs tout à fait capable de faire, la preuve, elle l'a déjà fait à de nombreuses reprises en confiant son destin à des "leaders suprêmes" (traduction dans différentes langues possibles) ou à des "livres sacrés" pour lesquels on n'a pas hésité à zigouiller ceux qui les discutaient. Il n'y a pas de barrière absolue qui garantisse qu'un jour on ne se mettre pas à emprisonner voire à exécuter ceux qui mettent en doute l'existence des oeufs de brebis ou du lait de cane, on a déjà connu ce genre de situation.

Je sais que ce que je dis peut paraitre extrême et absurde, mais réfléchissez, des exemples très comparables ne sont pas si lointains, ni dans l'espace, ni dans le temps.


Ceci dit je ne crois pas non plus au moratoire dans la recherche, le probleme n'est pas là et ce n'est pas contrôlable. En revanche on peut très bien réfléchir à la légalisation des usages , et rendre illégal certains outils en ligne, ou illégal le fait d'être gratuit, ou illégal l'usage de l'IA dans certaines utilisations professionnelles ou publiques (pour le recrutement, le droit, etc ...). Je ne dis pas qu'on DOIT le faire, mais on ne doit pas se l'interdire, et les premières interdictions commencent d'ailleurs à arriver. Réduire le débat à des arguments "c'est Frankenstein" contre "on disait pareil avec les trains" me parait un peu ... simplifié on va dire.

Curieusement je constate qu’on préfère bavarder sur des généralités ou de vagues principes (ou idées personnelles... ou propos de comptoirs), mais que personne n’a commenté l’exemple concret que j’ai développé dans mon message.

sur l'exemple de ta biblio, on peut s'extasier devant le fait qu'il arrive à donner des références justes, mais c'est en comparant avec une situation anormale précédente où il donnait et inventait n'importe quoi , ce qui est inacceptable pour une "intelligence" au sens où on l'entend. Comme c'est inacceptable qu'il ne sache pas additionner correctement 1010101 à 010101. Ca ne fait que corriger une erreur grossière, en revanche en tant que performance pour retrouver des références bibliographiques , c'est assez nul et bien inférieur à ce que tu peux faire avec des outils professionnels de recherche qui sont bien mieux adaptés.

C'est assez caractéristique qu'on s'extasie devant le fait qu'il ne fasse plus des erreurs grossières, ça se rapproche du lien affectif qu'on a avec un enfant qui commence à faire des phrases correctes en alignant sujet verbe et complément, phrases qui n'ont aucun interêt en soi mais qui portent un espoir sur le futur. Mais c'est ce coté affectif, qui me semble très présent dans les réactions de certains qui s'offusquent qu'on ose critiquer chatGPT (comme nous nous offusquerions de quelqu'un qui dirait de notre enfant " oui mais bon il est quand même pas capable de multiplier 7 fois 8), qui me semble précisément un peu dangereux.

[pm42]

Il n’est pas encore question de choses comme Google Scholar aidé par GPT, mais ce que j’ai montré s’en rapproche beaucoup : https://forums.futura-sciences.com/d...ml#post7076060

J'avais vu et je voulais essayer sur GPT-4 direct mais je n'ai pas encore eu le temps.

Cela donne par exemple :

Peux tu me donner des détails sur l'atmosphère de LHS 475 b ?

LHS 475 b est une exoplanète découverte en 2022 et située à environ 26 années-lumière de la Terre. Je tiens à noter que les informations que je vous donne sont basées sur les connaissances disponibles jusqu'en septembre 2021 et peuvent ne pas être entièrement à jour.

Au moment de mon dernier point de connaissances, il n'y avait pas de données détaillées sur l'atmosphère de LHS 475 b. En général, pour obtenir des informations sur l'atmosphère d'une exoplanète, les scientifiques observent la façon dont la lumière de l'étoile hôte traverse l'atmosphère de la planète lorsqu'elle passe devant son étoile (un événement appelé transit). Cependant, cette méthode dépend de la disponibilité des données de transit et de la qualité des observations.

Des recherches supplémentaires sont nécessaires pour déterminer les caractéristiques spécifiques de l'atmosphère de LHS 475 b, telles que sa composition, sa densité et sa température. Les avancées dans la technologie des télescopes et les futures missions spatiales, comme le télescope spatial James Webb, pourraient permettre aux chercheurs de mieux comprendre cette exoplanète et son atmosphère dans les années à venir.

Pour Trappist-1b, il dit que ça base n'est pas à jour.

Ce qui amène à plusieurs constatations dont certaines sont des redites :
- Bing est une adaptation en mode moteur de recherche et introduit donc un biais : c'est intéressant mais pas significatif ni de ce que fait GPT-4 en mode normal ni de ce qu'une IA conçue pour ça comme Bard de Google semble capable de faire

- la citation des sources n'est pas son point fort parce qu'il n'a pas été conçu comme ça. De la même façon qu'au bout d'un certain temps et d'un nombre conséquent de lectures, nous savons des choses mais ne pouvons plus pointer sur les sources mais juste en retrouver, lui est à 100% comme ça.

- ce n'est pas un problème pour de très nombreux usages mais évidement plus en science mais c'est aussi ce que je disais : ici, on l'évalue sous un prisme limité et donc plus comme un moteur de recherche amélioré que comme un agent conversationnel et surtout sur des questions 100% scientifiques.

Personne par exemple n'a demandé à évaluer ses capacités de reconnaissance d'images qui permettent d'envisager un autre type d'interaction avec nos smartphones qui pourraient "voir et en grande partie analyser" le monde autour de nous (un peu comme dans le film Her mais sans la voix de Scarlet Johansson je suppose) et nous donner des informations pertinentes.
J'utilise déjà à l'étranger une application de traduction : je lui montre un panneau d'informations sur le lieu que je visite écrit en suédois ou un menu en finlandais et j'ai la traduction qui se superpose en temps réel. Ce n'est pas un Babel Fish mais ça s'en rapproche (et ça marche pour le vocal aussi).
C'est parfois très, très efficace et bluffant. On pourrait avoir la même chose mais en 100 fois plus puissant.

Explorer les échanges conversationnels est rare et l'exemple donné ici ou dans un autre fil de lui demander de se comporter comme un recruteur ou un examinateur pour s'entrainer à passer un entretien ou un examen n'est venue à l'esprit de personne (moi le 1er d'ailleurs, c'est en la lisant que j'ai compris qu'on ne faisait qu'effleurer les possibles).

Curieusement je constate qu’on préfère bavarder sur des généralités ou de vagues principes (ou idées personnelles... ou propos de comptoirs), mais que personne n’a commenté l’exemple concret que j’ai développé dans mon message.

C'est un peu injuste parce qu'il y a eu beaucoup d'informations factuelles dans ce fil et les autres.
Il suffit d'en filtrer le bruit qui est facilement identifiable et c'est même étonnant de voir la différence. Si j'avais le temps, je regarderais bien ce qu'on peut faire en IA pour ça. C'est utilisé en modération déjà mais je ne connais pas du tout les détails et l'efficacité qui ne sont d'ailleurs pas forcément publics.


Quand aux idées personnelles et autres confusions entre une IA conversationnelle et une calculatrice, je trouve curieux que tu trouves cela curieux

[Archi3]

Quand aux idées personnelles et autres confusions entre une IA conversationnelle et une calculatrice, je trouve curieux que tu trouves cela curieux

J'ai une petite inquiétude, mais vous allez sûrement me rassurer : votre idéal, à JPL et toi, ce n'est pas un monde où avoir des idées personnelles serait suspect , voire illégal ? et ce n'est pas non plus votre idéal de ce que doit être la science ? ou même un forum scientifique ?

Sinon le problème n'est pas dans le fait de confondre une IA conversationnelle et une calculatrice; Le problème est dans une IA conversationnelle qui affirme être douée d'une calculatrice, et qui arrive à en convaincre ses lecteurs. Et c'est une expérience réellement vécue, comme celle de ceux qui ont vraiment cru qu'elle leur donnait des vraies références scientifiques, sans se poser la question de le vérifier.

[oualos]

c'est typiquement le genre de phrase qui est complètement dans l'erreur. ChatGPT ou GPT-4 ne font que te ressortir des trucs inspirés de textes humains, donc il n'ont aucune connaissances supérieures à celles des humains - en fait ils n'ont aucune connaissance du tout. C'est comme si tu disais que la bibliothèque de France avait un tas de compétences dans un tas de domaines qui dépasse largement celles de chaque humain - là c'est pareil, sauf qu'il y a une interface qui va simplement répondre rapidement à ta requête avec un langage humain, avec beaucoup de choses justes, mais aussi avec un certain nombre d'inventions de son cru qui sont forcément fausses puisque la probabilité d'avoir raison par hasard est quasi nulle.

Merci pour ce cours sur chatGPT.
Je crois que moi et plein d'autres on avait déjà compris
Sans rancune...

[ThM55]

Vous rigolez ou quoi ?
Allez faire un site pédopornographique en dehors du darknet pour voir.
Vous allez m'en dire des nouvelles...

Je ne parlais évidemment pas de sites criminels! Jusqu'à preuve du contraire, openAI ne fait rien d'illégal et au contraire leurs conditions générales montrent qu'ils respectent le RGPD, ou en tout cas qu'ils en ont l'intention. Je n'ai aucune raison de croire le contraire et ce que je voulais dire c'est que tant que le FBI ne les a pas tous coffrés, il va être très difficile de les bloquer sur le réseau en Europe. je vais vous révéler un secret d'état: malgré leur "interdiction", il est très facile d'aller lire les sites de propagande russe. Je ne vous expliquerai pas comment, mais un enfant de 13 ans saurait le faire.

[JPL]

J'ai une petite inquiétude, mais vous allez sûrement me rassurer : votre idéal, à JPL et toi, ce n'est pas un monde où avoir des idées personnelles serait suspect , voire illégal ? et ce n'est pas non plus votre idéal de ce que doit être la science ? ou même un forum scientifique ?

Affligeant (javais en tête un autre qualificatif, mais je respecte les règles de la charte).

[JPL]

Je précise que j’avais voulu montrer dans mon message n° 102 que si on utilise GPT comme auxiliaire conversationnel d’un programme principal (ici un moteur de recherche classique) - et non pour lui faire faire n’importe quoi, comme s’il était omniscient - il fait son travail assez proprement et facilite les choses (ici en faisant un résumé des articles trouvés en lien).

Je vois donc cet outil surtout comme un agent conversationnel assez cultivé au service de divers programmes spécialisés. Donc le problème n’est pas GPT, mais le fait de l’avoir lancé sur le web comme agent conversationnel de chat, présenté comme un outil miracle, mais avec toutes les limites qui ont déjà été rabâchées ad nauseam. Aux diverses raisons qui ont déjà été argumentées pour critiquer l’idée d’un moratoire j’ai voulu montrer qu’il n’y a aucune raison de faire un moratoire sur ce domaine de recherche si on emploie l’outil là où il peut être utile.

[pm42]

mais le fait de l’avoir lancé sur le web comme agent conversationnel de chat, présenté comme un outil miracle

La communication d'OpenAI n'a pas été spécialement sensationnaliste mais effectivement, la presse s'est emballée pour adorer hier ce qu'elle va brûler demain.
Rien de nouveau, c'est vrai dans absolument tous les domaines et on n'y peut strictement rien.

C'est aussi pour ça qu'on est là ceci dit : pour donner de l'information factuelle et nuancée.

[ThM55]

Oui. Mais on peut aussi télécharger leurs API et les utiliser dans ses propres programmes. C'est même très facile et amusant à faire, mais l'application doit être connectée, donc ça ne va pas pour une application en air gap ou de l'embarqué par exemple. En mode d'utilisation "étudiant" sans ambition commerciale, c'est limité par un nombre de crédits, mais je pense que c'est largement suffisant pour essayer pas mal de choses. Je n'ai pas encore essayé sur un smartphone mais j'ai quelques idées d'applications intéressantes.

Voir ici: https://platform.openai.com/overview .

[Kondelec]

Le danger c'est de vivre dans l'illusion que cet outil soit le produit d'une pensée rationnelle porteuse de vérités. Le problème étant que la vérité ne peut pas être une moyenne statistique de tout ce qui se dit sur un sujet donné. Car il arrive souvent que dans la masse des productions humaines, les thèses complotistes sont beaucoup plus prolixes que les thèses qui expriment des vérités moins glamour.

Le danger est donc d'utiliser cet outil comme un prêt à penser biaisé mais rassurant et d'en faire une référence sans référence, le danger c'est d'utiliser cet outil en dehors de son domaine de compétence.

Le danger c'est que Chatgpt devienne LA référence anonyme en matière de rationalité, le Golem de référence.

Car une fois qu'on aura pris le plis de prendre pour argent comptant des informations non-sourcées, l'humanité pourrait faire l'objet de manipulation dignes de romans d'anticipation décrivant une ère de post-vérités.

Cordialement

N'est ce pas déjà le cas, avec certains dirigeants, leaders, gourous etc ?

[pm42]

Oui. Mais on peut aussi télécharger leurs API et les utiliser dans ses propres programmes. C'est même très facile et amusant à faire, mais l'application doit être connectée, donc ça ne va pas pour une application en air gap ou de l'embarqué par exemple.

Oui et il existe aussi des App pour téléphone qui utilisent ChatGPT ou des IAs équivalentes. Bon courage pour tout interdire.

Quand à l'embarqué et au airgap, il est parfaitement possible de faire tourner une IA sur une machine en local. Ce qui est très, très consommateur, c'est l'apprentissage.
Après, la faire tourner nécessite largement moins de puissance de plusieurs ordres de magnitude.
Par exemple, les puces M1 d'Apple et pas mal de smartphones intègrent des processeurs spécialisés pour ça.

Actuellement, il semble que faire tourner ChatGPT ou GPT-4 nécessite encore beaucoup de puissance mais chaque fois qu'on a fait ce genre de progrès sur les IAs conversationnelles, on a vu apparaitre un peu après des concurrents qui étaient équivalents et qui étaient moins consommateurs.

Si quelqu'un veux expérimenter avec une IA en open-source qui tourne sur un MacBook :

https://github.com/ggerganov/llama.cpp

Il faut se débrouiller en info ceci dit.

[pm42]

N'est ce pas déjà le cas, avec certains dirigeants, leaders, gourous etc ?

Bien sur mais l'important, c'est d'accuser le truc nouveau de problèmes qui existent depuis des millénaires. C'est même amusant de voir ce biais cognitif et cette erreur de raisonnement monumentale se parer des atours de la défense de la rationalité et de l'esprit critique.
Mais bon, c'est la paille et la poutre, là aussi, rien de nouveau.

[yves95210]

Je précise que j’avais voulu montrer dans mon message n° 102 que si on utilise GPT comme auxiliaire conversationnel d’un programme principal (ici un moteur de recherche classique) - et non pour lui faire faire n’importe quoi, comme s’il était omniscient - il fait son travail assez proprement et facilite les choses (ici en faisant un résumé des articles trouvés en lien).

Oui. Mais en priorisant (selon des règles inconnues de l'utilisateur, comme celles du moteur de recherche, d'ailleurs) certains des articles trouvés par rapport à d'autres. Ce qui ne pose pas de problème lorsqu'il s'agit de questions aussi pointues (et précises) que celles que tu lui as posées, mais peut en poser dans d'autres cas.
Ne serait-ce qu'à cause de la politique de modération qu'OpenAI a imposée à GPT, qui (je suppose) va exclure de sa synthèse certaines sources parce que le vocabulaire ou le ton qu'elles emploient pourraient paraître offensants à certains utilisateurs (cet aspect offensant ne reflétant que le point de vue des "instructeurs" de GPT, ou leur prudence).
Ou plus généralement, pour certaines recherches qui remontent des centaines de liens dont beaucoup peuvent être pertinents (même si éventuellement contradictoires, sur un sujet qui fait débat), parce qu'il n'est pas possible de synthétiser en quelques lignes l'ensemble de leurs contenus et des points de vue contradictoires qu'ils peuvent exprimer.

Bien sûr l'utilisateur peut ne pas se contenter de la synthèse (ou du résumé) fait par GPT, et parcourir la liste de liens remontée par Bing (ou demain par Google, assisté par une autre IA). Mais il faut qu'il soit conscient des biais que peut entraîner l'usage d'une IA, et en particulier, sur des sujets politiques ou "de société", du fait que cette synthèse ne fait probablement que refléter une certaine pensée dominante, ou en tout cas la manière dont son apprentissage a été orienté, consciemment ou non, par ses concepteurs.

Je vois donc cet outil surtout comme un agent conversationnel assez cultivé au service de divers programmes spécialisés.

Oui. Ou directement au service d'utilisateurs qui auraient bien compris ce qu'ils peuvent attendre de lui et qui auraient pris l'habitude de vérifier ses dires. Mais OpenAI ne va pas faire passer un examen aux gens qui créent un compte sur son site... Ou bien si ?

Quant aux programmes spécialisés qui l'utiliseraient comme interface en langue naturelle avec leurs utilisateurs, à part les moteurs de recherche, généralistes par définition, je n'en vois guère (mais je suis myope) qui aient besoin d'un outil aussi généraliste (à part pour la gestion du multi-langue). Du moins si on exclut des usages malveillants s'appuyant sur la capacité de l'IA à se faire passer pour un humain, pour lesquels un petit GPT-like pourrait être soumis à un apprentissage bien conçu (et assez éloigné de celui d'OpenAI).

[pm42]

-Mais il faut qu'il soit conscient des biais que peut entraîner l'usage d'une IA, et en particulier, sur des sujets politiques ou "de société", du fait que cette synthèse ne fait probablement que refléter une certaine pensée dominante, ou en tout cas la manière dont son apprentissage a été orienté, consciemment ou non, par ses concepteurs.

Ce genre de biais est déjà largement répandu : par pays, culture, presse consultée, influence de grandes idéologies, etc.
Comme il est probable qu'on aura des IAs variées, chacun pourra trouver chaussure à son pied et avoir tous les biais de confirmation qu'il veut.

[Liet Kynes]

Oui. Ou directement au service d'utilisateurs qui auraient bien compris ce qu'ils peuvent attendre de lui et qui auraient pris l'habitude de vérifier ses dires. Mais OpenAI ne va pas faire passer un examen aux gens qui créent un compte sur son site... Ou bien si ?

Les éditeurs de bouquins ne vérifient pas le sens critique des lecteurs pour vendre des bouquins qui parfois sont remplis d'absurdités. C'est vrai pour tout média.

Quant aux programmes spécialisés qui l'utiliseraient comme interface en langue naturelle avec leurs utilisateurs, à part les moteurs de recherche, généralistes par définition, je n'en vois guère (mais je suis myope) qui aient besoin d'un outil aussi généraliste (à part pour la gestion du multi-langue). Du moins si on exclut des usages malveillants s'appuyant sur la capacité de l'IA à se faire passer pour un humain, pour lesquels un petit GPT-like pourrait être soumis à un apprentissage bien conçu (et assez éloigné de celui d'OpenAI).

Les qualités rédactionnelles sont utilisables pour corriger (grammaire-orthographe-syntaxe), synthétiser des textes. J'utilise Bing pour convertir des formules en LATEX, chatGPT pour trouver des fonctions dans un tableur (très pratique). Recherche de références, trouver des solutions pour convertir des fichiers etc.. je pense qu'il me faudra plusieurs mois pour faire le tour des usages potentiels pour ce qui me concerne et je me dit que vu la variété de domaines pour lesquels de l'information doît être traitée, l'outil va devenir indispensable.

[yves95210]

Ce genre de biais est déjà largement répandu : par pays, culture, presse consultée, influence de grandes idéologies, etc.
Comme il est probable qu'on aura des IAs variées, chacun pourra trouver chaussure à son pied et avoir tous les biais de confirmation qu'il veut.

Oui, bien sûr.
Sauf que, aujourd'hui, la plupart des gens ne sont pas conscients du fait que le moteur de recherche qu'ils utilisent sur leur ordinateur ou leur téléphone n'est pas "neutre" (à part pour sa propension à remonter en premier des liens sponsorisés, mais ça au moins c'est visible).

[JPL]

C’est pour cela que je n’utilise ni Bing ni Google. Mon essai de Bing + GPT était simplement pour faire une démonstration.

[yves95210]

Les éditeurs de bouquins ne vérifient pas le sens critique des lecteurs pour vendre des bouquins qui parfois sont remplis d'absurdités. C'est vrai pour tout média.

C'était ironique...

Les qualités rédactionnelles sont utilisables pour corriger (grammaire-orthographe-syntaxe), synthétiser des textes. J'utilise Bing pour convertir des formules en LATEX, chatGPT pour trouver des fonctions dans un tableur (très pratique). Recherche de références, trouver des solutions pour convertir des fichiers etc.. je pense qu'il me faudra plusieurs mois pour faire le tour des usages potentiels pour ce qui me concerne et je me dit que vu la variété de domaines pour lesquels de l'information doît être traitée, l'outil va devenir indispensable.

Bien sûr. Mais je répondais à ce que disait JPL au-sujet de l'utilisation de GPT dans des programmes spécialisés.

Dans les usages que tu décris, le programme spécialisé est le moteur de recherche (ce qui justifie effectivement l'utilisation d'une IA disposant de connaissances encyclopédiques), ou c'est toi qui fais l'interface entre un programme spécialisé et GPT (un éditeur LaTeX, un traitement de texte, etc.). Si demain ton éditeur LaTeX intègre une IA permettant de convertir des formules en LaTeX (ou ton traitement de texte un correcteur de grammaire-orthographe-syntaxe, voire une aide à la rédaction), ça ne sera probablement pas une IA aussi généraliste.