Pour ou contre un moratoire sur l'intelligence artificielle ?

[GBo]

Une autre raison est le fait qu'il ne sent plus aussi bon techniquement qu'avant, et qu'il n'accepterait pas de rester juste pour un poste honorifique grassement payé.
-----

[Liet Kynes]

C'est de l'info médiatique cette interview -> bulschit total du point de vue scientifique.

[Archi3]

bah tout le monde ne peut pas être au niveau des actus de Futura aussi ...

[pm42]

C'est de l'info médiatique cette interview -> bulschit total du point de vue scientifique.

C'est bien le problème : que l'IA pose pas mal de questions est un fait. Qu'il faille éventuellement réguler en avance pour éviter les dérives comme celles des réseaux sociaux par exemple est un sujet de débat.
Mais pour le moment, presque tout ce que je lis dans la presse grand public est très vague, souvent faux et les peurs exprimées ne sont jamais basées sur des faits mais sur des affirmations simplistes du genre "cela risque de détruire l'humanité".
Et personne ne demande jamais "comment ?"
On se contente de dire "telle personne a dit ça".

[GBo]

C'est de l'info médiatique cette interview -> bulschit total du point de vue scientifique.

Oui en effet, mais il a une bonne blague sur Biden. Par contre c'est faux ce qu'il dit (Musk fait la même erreur), car la biologie montre que des espèces moins intelligentes (comme les parasites par exemple) peuvent très bien coloniser un hôte plus cortiqué.

[Liet Kynes]

Oui en effet, mais il a une bonne blague sur Biden. Par contre c'est faux ce qu'il dit (Musk fait la même erreur), car la biologie montre que des espèces moins intelligentes (comme les parasites par exemple) peuvent très bien coloniser un hôte plus cortiqué.

Le corticoïsme ou l'intelligence sont du domaine de la philo et des croyances.

[GBo]

"Cortiqué", c'est de l'argot de toubib, il se trouve que j'en fréquente une au quotidien, pour le meilleur et pour le rire

[pm42]

Oui en effet, mais il a une bonne blague sur Biden

Ce n'est pas de lui dont il parle mais de son prédécesseur. C'est un peu dommage de commenter sans comprendre et encore plus de ne pas s'intéresser au sujet qui est le danger éventuel de l'IA mais uniquement de faire des commentaires sur le bonhomme.

[GBo]

Bah j'ai lu trop vite la blague, tout le monde peut se Trump-er, mais sur le fond des craintes du godfather, elles sont insensées concernant l'AGI, et on était donc d'accord pour une fois (il suffit de lire mes messages précédents). Mais rien n'y fait, il faut que tu ergotes...

[Archi3]

un petit jeu à la mode : faire la recherche < "Regenerate response" site:.fr > sur google, certains sites ont fait du copier coller de chatGPT et ont oublié d'enlever le bouton engendré par chatGPT à la fin pour avoir une autre réponse

[GBo]

Bien vu, par exemple le billet de blog "le business des sucettes glacée vous attend !". D'ailleurs en tapant "Quelles sont les opportunités de business avec les sucettes glacées ?" sur ChatGPT, on tombe quasiment sur les mêmes termes. Et le site est multi-langue : Arabic, Dutch, English, German, Greek, Hebrew, French. Voilà un peu d'argent tristement gagné (par la pub conjointe), sans doute multiplié par des dizaines de billets de ce genre vu la facilité avec laquelle il est désormais possible de générer du contenu aussi insipide que possible.

[Liet Kynes]

un petit jeu à la mode : faire la recherche < "Regenerate response" site:.fr > sur google, certains sites ont fait du copier coller de chatGPT et ont oublié d'enlever le bouton engendré par chatGPT à la fin pour avoir une autre réponse

C'est un outil de génération de contenus à forte valeur ajoutée, ce n'est pas anormal qu'il soit utilisé pour vendre de l'info.

Un exemple simple pour lancer une paille sur le marché dans un magazine féminin :

"Pailleo : la paille en bambou qui sublime vos boissons

Vous êtes une femme moderne, active et soucieuse de votre bien-être. Vous aimez vous faire plaisir avec des boissons savoureuses et rafraîchissantes, mais vous ne voulez pas sacrifier votre santé ni votre environnement. Vous cherchez une paille qui soit à la fois élégante, pratique et écologique ? Alors vous allez adorer Pailleo, la paille en bambou qui sublime vos boissons !

Pailleo protège vos dents

Pailleo est une paille en bambou naturel, qui vous permet de réduire le contact entre votre boisson et vos dents. Ainsi, vous évitez les taches causées par le café, le thé ou le vin rouge, et vous préservez l’émail de vos dents des attaques acides des sodas ou des jus de fruits. En utilisant Pailleo, vous gardez un sourire éclatant plus longtemps !Pailleo préserve votre peau

Pailleo est aussi une paille qui prend soin de votre peau. En effet, en évitant de plisser les lèvres à chaque gorgée, vous réduisez l’apparition des rides autour de la bouche. De plus, en buvant plus facilement et plus souvent avec Pailleo, vous vous hydratez davantage, ce qui est essentiel pour maintenir l’élasticité et la souplesse de votre peau.

Pailleo vous aide à contrôler votre appétit

Pailleo est également une paille qui vous aide à réguler votre appétit. En effet, en buvant avec Pailleo, vous ingérez moins d’air que lorsque vous buvez directement au verre. Cela évite les ballonnements et les sensations de faim causées par l’air dans l’estomac. De plus, en buvant lentement avec Pailleo, vous favorisez la satiété et vous évitez de trop manger.

Pailleo est écologique

Enfin, Pailleo est une paille qui respecte la planète. Pailleo est fabriquée à partir de bambou cultivé de manière durable, sans pesticides ni engrais chimiques. Pailleo est réutilisable et lavable, et elle se dégrade naturellement à la fin de sa vie. Pailleo est donc une alternative écologique aux pailles en plastique jetables qui polluent les océans et nuisent à la faune marine.Conclusion

Vous l’aurez compris, Pailleo n’est pas une paille ordinaire. C’est une paille qui sublime vos boissons et qui vous apporte du bien-être au quotidien. Alors n’hésitez plus et commandez dès maintenant votre pack de Pailleo sur notre site web ! Vous bénéficierez d’une offre exceptionnelle : pour deux packs achetés, le troisième est offert ! Profitez-en vite !"

Et la photo pour illustrer l'article que j'ai demandé à l'IA:

[GBo]

C'est un outil de génération de contenus à forte valeur ajoutée, ce n'est pas anormal qu'il soit utilisé pour vendre de l'info.

lol (laugh at loud)

[Liet Kynes]

L'exemple ci-dessous montre que l'IA donne des compétences élargies à des personnes, pour autant c'est l'usage de ces compétences qui doît être régulé, ce que fait déjà la loi.

[Liet Kynes]

lol (laugh at loud)

Fais un essai, produit du contenu dans le but de le vendre et compare ton travail, temps et qualité à celui de l'IA conversationnelle.

[ArchoZaure]

Fais un essai, produit du contenu dans le but de le vendre et compare ton travail, temps et qualité à celui de l'IA conversationnelle.

Je ne suis pas une femme moderne, cette publicité insipide ne me concerne pas. (mais j'ai compris qu'il était question de Paleo (tellement de fois que c'est écrit que ça donne envie de vomir comme on se sent téléporté dans les publicités des années 30), un truc de cro magnon je suppose).

[oualos]

Une petite parenthèse qui n'a rien à voir: grâce à chatGPt je suis arrivé à faire une animation pour enfants en un temps record, en langage HTML.
Pas facile facile de programmer en JavaScript...
Je n'y serais pas arrivé tout seul et il a corrigé tous ses bugs quand on lui dit que les lignes de code qu'il proposait n'avaient pas l'effet escompté.

[Archi3]

personne ne doute que chatGPT soit utile pour certaines tâches (je l'ai utilisé pour écrire des lettres de recommandation et des offres d'emploi en anglais par exemple), mais ce n'est surement pas ça qui inquiète certains grands pontes de l'IA ...

[GBo]

Une petite parenthèse qui n'a rien à voir: grâce à chatGPt je suis arrivé à faire une animation pour enfants en un temps record, en langage HTML.
Pas facile facile de programmer en JavaScript...
Je n'y serais pas arrivé tout seul et il a corrigé tous ses bugs quand on lui dit que les lignes de code qu'il proposait n'avaient pas l'effet escompté.

Tu devrais poster ton expérience réussie sur ce fil plutôt (avec des détails si possible, pour que ça serve d'exemple à d'autres):
https://forums.futura-sciences.com/s...at-gpt4-3.html

[oualos]

Je suis quand même bluffé par ses talents en informatique que j'utilise souvent. En UNIX et le langage HTML que j'utilise principalement, mais il connaît C++, Python et bien d'autres.
C'est non seulement un compilateur mais un concepteur de programme et ça quand on fait de l'informatique, c'est carrément génial!
Il est capable quand on lui soumet un programme sans explication, de dire à quoi il sert et détecter d'éventuelles fautes
C'est une animation pour enfant que j'ai fait et je pourrais la poster ici: bon elle fait pas encore des choses extraordinaires mais j'y serais sûrement pas arrivé tout seul
Ou alors en un temps tellement long que j'aurais fini par me sentir découragé et j'aurais laissé tomber comme d'autres projets en info.

[GBo]

C'est une animation pour enfant que j'ai fait et je pourrais la poster ici: bon elle fait pas encore des choses extraordinaires mais j'y serais sûrement pas arrivé tout seul

Non pas ici please, ici c'est un fil pour ou contre le moratoire. Bis repetita...

[Liet Kynes]

personne ne doute que chatGPT soit utile pour certaines tâches (je l'ai utilisé pour écrire des lettres de recommandation et des offres d'emploi en anglais par exemple), mais ce n'est surement pas ça qui inquiète certains grands pontes de l'IA ...

Dans un monde dans lequel tous les états auraient la volonté de s'accorder sur des règles communes avec une possibilité de contrôler finement le respect de ces règles, une pause pourrait être envisagée. Ce n'est pas le cas donc le moratoire est une perte de temps contre productive.

[oualos]

Déjà que les lois en Europe diffèrent complètement d'un pays à l'autre...
La discordance des lois sur la nationalité et le droit de la famille entre chez nous et l'Allemagne engendrent d'assez sinistres histoires d'enlèvements d'enfants, alors trouver un consensus au niveau mondial sur des règles internationales au sujet de l'IA...

[GBo]

Dans un monde dans lequel tous les états auraient la volonté de s'accorder sur des règles communes avec une possibilité de contrôler finement le respect de ces règles, une pause pourrait être envisagée. Ce n'est pas le cas donc le moratoire est une perte de temps contre productive.

L'UE s'accorde sur des règles communes à respecter concernant la protection de nos données, elle est en pointe sur le sujet et ça s'appelle le GDPR (General Data Protection Regulation). Du coup ce n'est pas un moratoire que risque l'AI générative "plus puissante que GPT-4", mais plus prosaïquement une demande de mise en conformité, qui s'avèrera impossible à réaliser en pratique*. Bref, OpenAI n'est pas sorti de l'auberge.

(*) à lire pour plus d'information cet article de The Verge:

"OpenAI’s regulatory troubles are only just beginning"
by Jess Weaherbed - May 5, 2023
https://www.theverge.com/2023/5/5/23...urope-eu-italy

[Liet Kynes]

L'UE s'accorde sur des règles communes à respecter concernant la protection de nos données, elle est en pointe sur le sujet et ça s'appelle le GDPR (General Data Protection Regulation). Du coup ce n'est pas un moratoire que risque l'AI générative "plus puissante que GPT-4", mais plus prosaïquement une demande de mise en conformité, qui s'avèrera impossible à réaliser en pratique. Bref, OpenAI n'est pas sorti de l'auberge.

Le déploiement sera adapté aux lois en vigueurs, je ne dit pas le contraire et possiblement impossible dans certains endroits.. Cela dit, on peux voir aussi la réglementation comme un frein à la concurrence dans certains schémas de pensées, les paradis fiscaux deviendront peut-être des paradis de l'IA ?

Le casse tête législatif est énorme et certaines idées de la RGPD d'avant GPT vont devenir difficiles à financer. Le droit d'auteur lui-même subit un changement de paradigme. Il s'agit d'une révolution technologique avec tout ce que le mot révolution implique en positif, négatif et surtout en incertitudes.

[oualos]

Le déploiement sera adapté aux lois en vigueurs, je ne dit pas le contraire et possiblement impossible dans certains endroits.. Cela dit, on peux voir aussi la réglementation comme un frein à la concurrence dans certains schémas de pensées, les paradis fiscaux deviendront peut-être des paradis de l'IA ?

L'UE s'accorde sur des règles communes à respecter concernant la protection de nos données, elle est en pointe sur le sujet et ça s'appelle le GDPR (General Data Protection Regulation).

Le système est poreux... Lors de l'année Dieudonné en 2014 et de ses sketchs antisémites, j'en avais trouvé plein sur Youtube dont un où avec Faurisson (!) ils s'étaient fait passer tous les 2 pour des animateurs d'une radio juive ce qui leur a servi a déverser leur haine négationniste via Youtube et impunément. Or l'incitation à la haine raciale est un délit chez nous en France. Donc je leur écris pour protester: Youtube me répond qu'étant localisés en Allemagne, ils ne dépendent que des lois allemandes et non françaises.
Même avec des lois ou nos lois car Dieudonné émettait en français ses sketchs -si on peut appeler ça ainsi!- donc à destination d'un public francophone, certaines personnes trouveront toujours moyen d'échapper à la loi
Comme Apple qui a réussi à ne pas payer d'impôts en Irlande récemment en convoquant la justice européenne dans le différent qui l'opposait au fisc irlandais.

[GBo]

C'est pour ça que l'article que je vous encourage à lire parle de l'UE et pas d'un pays en particulier. Regarde la directive RoHS : ça vient de l'Union Européenne et ça a été progressivement adopté partout, tu auras du mal à te procurer du fil à souder avec du plomb aujourd'hui.
Pour les IA conversationnelles, quand la loi RGPD sera peaufinée pour l'IA (avant fin 2024 dit l'article) on peut espérer qu'aucun chatbot ne racontera des çonneries sur nous. C'est la moindre des choses et ça va faire évoluer ces IA pour le meilleur.

[Liet Kynes]

on peut espérer qu'aucun chatbot ne racontera des çonneries sur nous. C'est la moindre des choses et ça va faire évoluer ces IA pour le meilleur.

Ou tout simplement faire s'effondrer le modèle Wikipedia: https://fr.wikipedia.org/wiki/Critiq...Wikip%C3%A9dia

[Liet Kynes]

Un article très intéressant de la CNIL pour comprendre les problèmes sous-jacents qui sont en cours de découverte : https://linc.cnil.fr/fr/dossier-ia-g...ia-generatives

[jiherve]

Bonjour
passage assez surréaliste :

S’agissant de l’utilisation de contenu pour créer un modèle d’IA, le droit européen fournit une réponse relativement précise. En effet, une directive de 2019 a introduit dans le droit de l’Union européenne une exception pour la fouille de texte et de données (qui est l’une des techniques utilisées pour concevoir de tels systèmes). Cette exception permet de collecter des contenus publiquement accessibles sans demander le consentement de leurs auteurs, y compris pour une exploitation commerciale, à condition que les auteurs en question aient pu s’opposer à cette réutilisation de leurs œuvres.

lorsqu’il est impossible de savoir avec précision avec quoi la bête aura été nourrie!
JR