Pour ou contre un moratoire sur l'intelligence artificielle ?

[pm42]

Tu n'as aucune étude pour valider ce que tu dis, si ce n'est quelques exemples.

C'est la définition de beaucoup de messages postés sur l'IA et d'autres sujets. Et les "exemples" sont choisis ad-hoc en ignorant les 99% de contre-exemples.

Mais quand un humain passe son temps à présenter ses croyances comme des vérités, il trouve en général ça normal et considère que quiconque dit le contraire devrait être régulé/censuré ou autre.
Alors une IA forcément il va réagir encore plus violemment puisqu'il pense que la seule source de vérité devrait être lui même.
-----

[Archi3]

Tu n'as aucune étude pour valider ce que tu dis, si ce n'est quelques exemples.
Tu peux rajouter cette mention, est-ce pour autant judicieux? Par exemple on pourait faire en sorte que chacun de nos messages ici soit publié avec la mention "Attention, ce message a été engendré par un membre de forum et aucune garantie de véracité n'est donnée. Il ne faut pas l'utiliser comme une source fiable sans l'avoir vérifié auparavant"

sauf qu'il n'y a pas d'exemples que les gens fassent trop confiance à ce que postent d'autres humains, donc en réalité le problème ne se pose pas (d'après les réactions que je vois, le problème serait plutot l'inverse, on a tendance à penser que tout ce que dit son contradicteur est faux, même quand c'est juste). Mais si c'était un vrai problème bien sûr, ça pourrait se faire, je ne vois pas de problème de principe.

En fait les mauvaises raisons que vous présentez me semblent justifier encore plus ce genre de mention

[Flyingbike]

J'ai supprimé des messages. On a dit STOP au FLOOD. La prochaine fois, c'est CARTON
L'excuse des délais d'édition ne tient pas quand il y a deux messages en trois minutes.

[yves95210]

C'est du flood quand deux messages successifs d'une même personne répondent à des messages de deux personnes différentes ?
Dans ce cas, je suppose que la modération va considérer que je suis en train de flooder si je poste des messages après celui-ci pour répondre (par exemple) aux derniers messages de pm42 et de Liet Kynes.

Donc je vais me contenter de dire que je suis d'accord avec ceci :

En fait les mauvaises raisons que vous présentez me semblent justifier encore plus ce genre de mention

et quitter cette discussion définitivement, car elle ne peut que rester stérile vu les positions dogmatiques de certains - qui ne semblent pas vivre dans le monde réel, où x% des utilisateurs d'internet et potentiellement d'un agent conversationnel intégré à leur moteur de recherche n'ont pas la moindre idée de la manière dont il fonctionne et des erreurs (pas toujours amusantes ni faciles à détecter) que ça peut entraîner, et NE SONT PAS informés de ce risque par l'éditeur de leur moteur de recherche (Liet a confirmé qu'aucun avertissement n'apparaît sur Bing depuis que GPT y est intégré. Le reste est de la mauvaise foi).

Je précise une dernière fois que, au sujet de la question posée au début de ce fil, je suis contre le moratoire tel qu'il a été proposé, mais que, faute d'une information suffisante et systématique (dans l'outil, tel qu'il est utilisé réellement par le grand public) et faute d'un filtrage interdisant à l'agent conversationnel de fournir des réponses potentiellement diffamatoires concernant des personnes vivantes, je serais favorable à la suspension de son intégration avec des outils grand public, tels que les moteurs de recherche.

[Deedee81]

C'est du flood quand deux messages successifs d'une même personne répondent à des messages de deux personnes différentes ?

Salut,

Oui. Le flood c'est des messages successifs (surtout quand le délai ne le justifie pas). Ce que je fais toujours est :
- regarder les différents messages (et réfléchir à ceux à qui je fais répondre et ce que je vais répondre, s'il y a lieu bien sûr)
- puis je fais des copier coller des "répondre avec citation" et je regroupe tout ce qui est nécessaire dans un seul message

Les flood de deux ou trois messages ça n'arrive normalement que lorsqu'on se rend compte tardivement d'un complément à ajouter. Normalement on demande à la modé de rajouter le morceau manquant mais bon, si ça n'arrive qu'occasionnellement il n'est pas rare et pas anormal d'ajouter un message avec "désolé, j'ai fait une erreur" ou "j'ai oublié ceci" .....

Les deux autres circonstances c'est quand on répond précipitamment avant de voir qu'il y a un autre message auquel répondre. Mais on est dans un forum.... pas dans un tchat. Les réponses précipitées, ça se voit et c'est souvent considéré comme un manque de respect.

Il y a encore un autre cas il est vrai nettement plus rare : ceux qui postent des tartines kilométriques et le font en plusieurs messages car trop long. Ca c'est encore moins accepté car là c'est une confusion entre blog et forum. Il vaut mieux synthétiser/résumer ses dires et noter les références utiles pour les détails en évitant tant que faire ce peut l'autopromotion ou les théories personnes (lorsque quelqu'un a ce genre de comportement, c'est souvent le cas hélas. Non, je ne donnerai pas de nom ).

Merci,

[mh34]

par défaut il va se sourcer selon les critères prédéfinis par microsoft.

De quels critères parlez-vous?

[pm42]

Je peux trouver des propos diffamatoires sur en gros n'importe qui en utilisant un moteur de recherche.
Je peux trouver toutes les horreurs possibles facilement aussi.
Réponse à yves95210 :
Je peux sans doute trouver des livres très contestables dans n'importe quelle bibliothèque ou librairie et même des articles de sciences humaines choquants et idéologiques.

On ne met pas d'avertissements.
Il me semble que tu sous-estimes une grande partie de l'humanité. Et quand à ceux qui sont prêts à croire n'importe quoi, aucun avertissement n'y fera rien. Il y a même eu des études sur le sujet.

P.S : pour le moment le nombre de cas où on a eu des affirmations diffamatoires avérées est très faible et aucun n'a eu d'impact réel. C'est curieux d'y accorder autant d'importance alors que ce problème existe globalement dans la société avec une ampleur au moins aussi grande.

[ArchoZaure]

Tu n'as aucune étude pour valider ce que tu dis, si ce n'est quelques exemples.
Tu peux rajouter cette mention, est-ce pour autant judicieux? Par exemple on pourait faire en sorte que chacun de nos messages ici soit publié avec la mention "Attention, ce message a été engendré par un membre de forum et aucune garantie de véracité n'est donnée. Il ne faut pas l'utiliser comme une source fiable sans l'avoir vérifié auparavant"

Oui mais c'est pas la question.
Si après les campagnes de pub "hallucinantes" (genre "retenez l'IA elle va être trop puissante !!!" ) les principaux intéressés ne préviennent pas de la médiocrité de leur outil, il s'agit bien d'un manque de conseil.
Si vous allez sur la page officiele du produit BING/GPT de Microsoft et que vous y cherchez les recommandations au sujet des limites de leur produit, que voyez-vous ?
Au mieux on trouve ce genre de remarques :

Microsoft and OpenAI – innovating together, responsibly
Together with OpenAI, we’ve also been intentional in implementing safeguards to defend against harmful content. Our teams are working to address issues such as misinformation and disinformation, content blocking, data safety and preventing the promotion of harmful or discriminatory content in line with our AI principles.

The work we are doing with OpenAI builds on our company’s yearslong effort to ensure that our AI systems are responsible by design. We will continue to apply the full strength of our responsible AI ecosystem – including researchers, engineers and policy experts – to develop new approaches to mitigate risk.

https://blogs.microsoft.com/blog/202...t-for-the-web/

Qui est en plus là pour rassurer l'utilisateur que ses informations seront modérées.

Comment on doit comprendre ça après avoir dit (par exemple) :

The new Bing and Edge – Your copilot for the web
We have brought together search, browsing and chat into one unified experience you can invoke from anywhere on the web, delivering:

• Better search. The new Bing gives you an improved version of the familiar search experience, providing more relevant results for simple things like sports scores, stock prices and weather, along with a new sidebar that shows more comprehensive answers if you want them.
• Complete answers. Bing reviews results from across the web to find and summarize the answer you’re looking for. For example, you can get detailed instructions for how to substitute eggs for another ingredient in a cake you are baking right in that moment, without scrolling through multiple results.
• A new chat experience. For more complex searches – such as for planning a detailed trip itinerary or researching what TV to buy – the new Bing offers new, interactive chat. The chat experience empowers you to refine your search until you get the complete answer you are looking for by asking for more details, clarity and ideas – with links available so you can immediately act on your decisions.
• A creative spark. There are times when you need more than an answer – you need inspiration. The new Bing can generate the content to help you. It can help you write an email, create a 5-day itinerary for a dream vacation to Hawaii, with links to book your travel and accommodations, prep for a job interview or create a quiz for trivia night. The new Bing also cites all its sources, so you’re able to see links to the web content it references.
• New Microsoft Edge experience. We’ve updated the Edge browser with new AI capabilities and a new look, and we’ve added two new functionalities: Chat and compose. With the Edge Sidebar, you can ask for a summary of a lengthy financial report to get the key takeaways – and then use the chat function to ask for a comparison to a competing company’s financials and automatically put it in a table. You can also ask Edge to help you compose content, such as a LinkedIn post, by giving it a few prompts to get you started. After that, you can ask it to help you update the tone, format and length of the post. Edge can understand the web page you’re on and adapts accordingly.

C'est ça que vous appelez :" Prévénir l'utilisateur de potentielles fausses informations" ?

Moi j'y vois plutôt le contraire.

[Flyingbike]

C'est du flood quand deux messages successifs d'une même personne répondent à des messages de deux personnes différentes ?

oui, quand c'est quasi systématique, par salves de 3, péniblement réduites à deux après plusieurs avertissements.

Le reste du temps, c'est le fonctionnement normal du forum ou il peut arriver que deux messages d'une même personne s'enchainent comme décrit par Deedee.

[ArchoZaure]

Je peux trouver des propos diffamatoires sur en gros n'importe qui en utilisant un moteur de recherche.
Je peux trouver toutes les horreurs possibles facilement aussi.

Ben oui puisque ça n'a rien àvoir.
Un moteur de recherche (à part quelques bricoles) ne produit pas d'information, il la propose.

Réponse à yves95210 :
Je peux sans doute trouver des livres très contestables dans n'importe quelle bibliothèque ou librairie et même des articles de sciences humaines choquants et idéologiques.

Ben oui, mais il semblerait que vous ne savez pas qu'on peut même trouver des propos sur FS et que pour les publications, les vidéo et, c'est géré depuis longtemps.

C'est quoi actuellement le système mis en place qui permet d'éviter que la fausse information incriminée de GPT continue à être diffusée ?
Et après, une fois le système mis en place, il faut demander à la justice si c'est ok de faire comme ça.
D'où la question d'un moratoire par exemple pour éviter d'être hors la loi en attendant que des mesures soient prises (et connaissant les habitudes de certains producteurs on peut éventuellement attendre jusqu'à la saint glinglin ).

On ne met pas d'avertissements.

Sans blaguer ?

Il me semble que tu sous-estimes une grande partie de l'humanité. Et quand à ceux qui sont prêts à croire n'importe quoi, aucun avertissement n'y fera rien. Il y a même eu des études sur le sujet.

On est d'accords qu'on peut y trouver du contenu sophistique.

P.S : pour le moment le nombre de cas où on a eu des affirmations diffamatoires avérées est très faible et aucun n'a eu d'impact réel. C'est curieux d'y accorder autant d'importance alors que ce problème existe globalement dans la société avec une ampleur au moins aussi grande.

C'est la loi c'est tout.

[jiherve]

bonjour,
cela ressemble de plus en plus à une querelle religieuse opposant croyants et mécréants mais rien de ce que j'ai lu ne m'a fait changer d'avis : moratoire illusoire mais anticipation des effets délétères de cette techno car il y a un changement d’échelle et de nature
Comme j'aime bien les paraboles en voici une :
toto qui n'avais jamais croisé que des chats rencontre un jour un tigre et dit : n'ayez pas peur ce n'est qu'un gros chat!
JR

[Deedee81]

Salut,

moratoire illusoire

Tu n'es pas le seul à le penser. Il y a de nombreuses réactions dans ce sens sur le net.

toto qui n'avais jamais croisé que des chats rencontre un jour un tigre et dit : n'ayez pas peur ce n'est qu'un gros chat!

Oui mais attention, c'est un gros chat en pyjama et qui dort dine (et c'est toi le repas)

[trebor]

Salut,



Tu n'es pas le seul à le penser. Il y a de nombreuses réactions dans ce sens sur le net.



Oui mais attention, c'est un gros chat en pyjama et qui dort dine (et c'est toi le repas)

Bonjour à tous,
Il est évident que I.A sera une bonne chose pour certain domaine et délétère pour d'autre, le souhait c'est de ne pas permettre le pire.
Comme permettre d'imiter la voix d'une autre personne, modifier une photo ou une vidéo et y inclure une personne qui ne s'y trouve pas, déchiffrer les identifiants et mots de pass,......mais renforcer la sécurité internet et dans d'autres domaines.
Donc à ne pas mettre entre les mains de n'importe qui, au risque qu'il pourra en faire n'importe quoi.

[Deedee81]

Comme permettre d'imiter la voix d'une autre personne, modifier une photo ou une vidéo et y inclure une personne qui ne s'y trouve pas, déchiffrer les identifiants et mots de pass,......mais renforcer la sécurité internet et dans d'autres domaines.

C'est d'ailleurs le souhait de certains de légiférer sur certains aspects (sécurité, transparence, responsabilité...) mais :
- ça prend toujours du temps (*)
- ça ne peut se faire qu'au niveau national

(*) d'où la demande de certains d'avoir un moratoire et le fait que d'autres ont dit "illusoire" !!!!!

[jiherve]

re
j'ai écrit illusoire car je ne suis pas un perdreau de l'année!
Aussi efficace que l’autorégulation des organismes financiers.
JR

[oualos]

moratoire illusoire

Tu n'es pas le seul à le penser. Il y a de nombreuses réactions dans ce sens sur le net.

toto qui n'avais jamais croisé que des chats rencontre un jour un tigre et dit : n'ayez pas peur ce n'est qu'un gros chat!

Oui mais attention, c'est un gros chat en pyjama et qui dort dine (et c'est toi le repas)

vu les erreurs très basiques qu'il fait et incompréhensibles relativement à notre cognition, il n'y a pas lieu de tellement s'inquiéter sauf si un tyran prenait le pouvoir et obligeait des scientifiques à le programmer pour à en faire une machine de propagande: ce qui est déjà arrivé mais il n'y avait pas d'IA à époque, on se contentait de brûler les livres notons-le!
J'imagine mal des scientifiques faisant diriger à l'IA une mission d'exploration sur Mars sachant que l'IA actuellement pourrait confondre Mars et le soleil!

[Deedee81]

sachant que l'IA actuellement pourrait confondre Mars et le soleil!

C'est pas grave si on y va la nuit

[pm42]

C'est pas grave si on y va la nuit

Au delà de l'humour la phrase à laquelle tu réponds confond une IA génerationelle utilisée en dépit du bon sens et "évaluée" sur la base de critères non adaptés et generalise à toute l'IA.

Parce que justement l'IA est déjà utilisée dans beaucoup de cas et l'exemple donné n'a aucun sens : on en prendrait pas une générationelle pour faire ça.

Bref c'est facile de se moquer des "erreurs" de ChatGPT quand on ne se rend pas compte des siennes propres.

J'invite le posteur à jouer à un jeu : on pose des questions de science et on compare ses réponses avec celles d'une IA bien foutue et on compare le nombre d'erreurs.

[Archi3]

C'est la définition de beaucoup de messages postés sur l'IA et d'autres sujets. Et les "exemples" sont choisis ad-hoc en ignorant les 99% de contre-exemples.

Mais quand un humain passe son temps à présenter ses croyances comme des vérités, il trouve en général ça normal et considère que quiconque dit le contraire devrait être régulé/censuré ou autre.
Alors une IA forcément il va réagir encore plus violemment puisqu'il pense que la seule source de vérité devrait être lui même.

apparemment il y a eu un problème de mise en forme, lire deux messages séparés par 3 minutes semble problématique pour certains, par rapport à tout lire dans un seul message - sans que j'en comprenne vraiment la raison, mais la modération étant reine, j'en tiendrai compte pour la suite.

J'aimerais quand même que tu indiques d'où tu sors tes 99 %, parce qu'au contraire il me semble qu'il y a eu beaucoup plus qu'une erreur tous les 100 messages générés d'après chatGPT (et je ne suis d'ailleurs même pas sur qu'on ait atteint les 100 messages , alors que de nombreuses erreurs ont été repérées). C'est particulièrement frappant dans les messages que tu as utilisé toi même pour "prouver" la fiabilité de ses réponses, sans t'apercevoir toi même qu'il y avait des erreurs dans ceux que tu prenais en exemple.

La comparaison avec les messages humains ne me parait pas judicieuse parce qu'il ne me semble pas avoir de biais qui pousserait à croire sur parole un message posté par un autre humain : le biais dont je parle est de penser que PUISQUE ça vient d'un ordinateur, c'est plus fiable que si ça vient d'un humain. Ce n'est évidemment pas le même problème quand ça vient d'un humain.

Je n'ai toujours pas compris quel problème fondamental ça poserait d'obliger les concepteurs d'une IA conversationnelle en ligne de rajouter ce genre de mention après chaque post, puisque ces mentions ne disent que la vérité. C'est même possible qu'on finisse par y arriver.

[oualos]

J'invite le posteur à jouer à un jeu : on pose des questions de science et on compare ses réponses avec celles d'une IA bien foutue et on compare le nombre d'erreurs.

Moi j'ai une devinette==>
Le père de Sylvia a cinq filles: Nana, Nini, Nono, Nunu
Question ô combien difficile, comment s'appelle sa cinquième fille ?

[JPL]

C’est censé faire avancer la discussion ?

[Archi3]

Moi j'ai une devinette==>
Le père de Sylvia a cinq filles: Nana, Nini, Nono, Nunu
Question ô combien difficile, comment s'appelle sa cinquième fille ?

réponse ici

[JPL]

Bavardage : rien à voir avec un moratoire. Comme d’habitude dès qu’il y a IA ou GPT dans un titre on parle de tout, souvent n’importe comment.

[pm42]

Sinon, dans la mesure où les IA peuvent piloter des avions de chasse et mieux que les humains, on peut penser qu'elles arriveront à trouver Mars et à s'y poser :

https://www.wired.com/story/us-air-f...-fighter-jets/

Et pour Mars même, c'est non seulement prévu : https://www.esa.int/Enabling_Support...ence_from_Mars

mais en fait déjà utilisé : https://www.science.org/content/arti...vestigate-mars

Ce qui donne une idée du niveau des "arguments" sortis sur ce fil.

[Archi3]

fort heureusement, on ne confie pas les sondes spatiales à des agents conversationnels pour qu'ils décident des ordres à donner en fonction de ce qu'ils ont lu sur internet . Les IA dont tu parles ne sont évidemment pas du tout entraînées de cette façon, et personne ne conteste qu'elles peuvent être très efficaces pour certaines tâches et bien supérieur à l'humain (par exemple filmer tous les passants d'une ville, faire de la reconnaissance faciale, et suivre à la trace le trajet de tout le monde , ça elles savent bien faire aussi ...)

[jiherve]

bonjour,
je doute que ce soit vraiment une IA du même genre(deep learning), IA c'est devenu un mot valise vendeur!
En aéro (là c'est mon domaine) il faut un déterminisme quasi absolu ce que le deep learning me semble loin d'atteindre.
Cela fait des décennies que les avions de combats embarquent des calculateurs suppléants le pilote pour certaines taches qu'aucun humain ne saurait accomplir.
Pour tout dire le rêve des avionneurs ce sont des avions sans pilote humain(çà on sait faire) et sans hublots ni pare brise car cela rend la conception mecanique des avions plus complexe: es tu prêt à prendre ce genre d'avion?
JR

[oualos]

Par contre l'IA fait une entrée remarquée dans la médecine.
Un professeur un jour dans sa classe s'est littéralement écroulé et l'analyse a révélé qu'il souffrait de 2 tumeurs au cerveau.
Il a été opéré mais les métastases sont revenues et la difficulté principale concernant les cancers consisterait à localiser leur centre névralgique car le cancer a un foyer.
Et finalement grâce à l'IA on a pu trouver que son cancer était originaire des reins et donc le traiter en conséquence de façon à ce que le cancer ne revienne pas.
Ou s'il revenait on connaissait en tout cas la zone à traiter en priorité.

[ArchoZaure]

ChatGPT est déjà très performant dans le domaine de l’aéronautique.
Son expertise pourrait s'avérer précieuse pour les voyages interplanétaires.

Mais trêve de bavardages, voyons le à l’œuvre.

Moi : Quel est le risque pour un avion posé au sol de s'écraser ?

GPT : Le risque qu'un avion posé au sol s'écrase dépend de plusieurs facteurs tels que les conditions météorologiques, les problèmes techniques éventuels de l'avion, les erreurs humaines ou les actes intentionnels de sabotage.

En général, le risque qu'un avion posé au sol s'écrase est relativement faible, car lorsqu'un avion est à l'arrêt, il n'est pas soumis aux forces aérodynamiques qui peuvent causer des accidents en vol. Cependant, il est important de prendre en compte d'autres facteurs tels que la maintenance de l'avion, la qualité de la piste, la présence d'obstacles sur la piste, ou la présence d'autres véhicules sur l'aéroport.

En cas de mauvaises conditions météorologiques, comme des vents forts ou de fortes pluies, un avion peut être soumis à des mouvements involontaires qui pourraient endommager l'avion ou le faire basculer. De même, si un avion n'est pas correctement immobilisé au sol, il pourrait commencer à bouger et causer des dommages ou des blessures.

En somme, le risque qu'un avion posé au sol s'écrase est relativement faible, mais il est important de prendre en compte les facteurs mentionnés ci-dessus pour assurer la sécurité des passagers, de l'équipage et de l'aéronef.

Noter également son soucie du détail.
Aucun obstacle ne lui échappe.

Moi : Est-il utile de sauter en parachute depuis un avion posé au sol ?

GPT : Il n'est généralement pas recommandé de sauter en parachute depuis un avion posé au sol. En effet, un avion nécessite une certaine vitesse pour que l'air entre dans les ailes et crée la portance nécessaire pour maintenir l'avion en vol. Lorsque l'avion est immobile, il n'y a pas de portance, ce qui signifie que le parachutiste ne serait pas suffisamment soutenu dans l'air pour effectuer une descente contrôlée et en sécurité.

De plus, un avion posé au sol peut avoir des obstacles tels que des bâtiments, des arbres ou des lignes électriques qui pourraient entraver le saut en parachute. Les parachutistes professionnels effectuent généralement des sauts à partir d'avions en vol et prennent des mesures de sécurité pour s'assurer que le saut se déroule en toute sécurité.

En résumé, il n'est pas utile de sauter en parachute depuis un avion posé au sol car cela n'est pas sûr et ne permet pas de profiter pleinement de l'expérience de saut en parachute.

[Archi3]

je crois que tu t'es trompé de fil Archozaure

[ArchoZaure]

je crois que tu t'es trompé de fil Archozaure

Quoi y a que moi ?