Pour ou contre un moratoire sur l'intelligence artificielle ?

[Archi3]

oui ce qui n'est manifestement pas le cas dans le cas de chatGPT, puisqu'on n'est pas capable de dire d'où il sort cette fabrication d'informations.
-----

[yves95210]

Il est bien dit aussi que si elles sont inexactes elles doivent être effacées ou rectifiées.

Sauf qu'en l'occurrence, les informations fournies par chatGPT sont issues de documents contenant des données exactes, moulinées dans une boîte noire dont personne (même ses concepteurs) ne peut prédire exactement ce qu'elle va inférer de ces données, et recrachées de manière inexacte, pouvant nuire à la personne concernée, mais pas sous forme de "données" enregistrées quelque-part, qu'il serait possible d'effacer ou de rectifier.
A moins que l'utilisateur de chatGPT décide de copier la réponse de chatGPT pour la coller dans un document (ou un message sur un réseau social). Mais pourquoi le ferait-il si par exemple son but était de se faire une opinion sur la personne concernée, par exemple avant d'aller voter, ou avant une rencontre professionnelle quelconque ?

Et même dans le cas où l'utilisateur diffuserait sur les réseaux sociaux l'information inexacte fournie par chatGPT, même dans une bonne intention (alerter sur ce qu'il croit être une action de la personne concernée, prouvant sa malhonnêteté ou pire), information qui pourrait être relayée ensuite par de nombreux autres messages, comment effacer l'impression que ces messages auront laissé dans l'esprit de lecteurs encore plus nombreux ?

Tant que cette question de fiabilité des réponses de GPT n'est pas réglée (et je doute qu'elle puisse l'être à 100% sans faire appel à une autre technologie), la moindre des choses serait de lui interdire de fournir des informations sur des personnes (au moins des personnes vivantes) autres que les références des documents où leur nom est mentionné. Pour autant qu'il soit capable de fournir ces références de manière fiable, sans en inventer, puisque, par construction, les références précises de ses sources d'information n'existent plus dans sa "mémoire".
Mais au moins un GPT/Bing devrait être capable de se limiter à fournir les liens remontés par le moteur de recherche, dès qu'il s'agit d'un sujet sensible (où il ne peut pas prendre le risque de fournir une réponse inexacte, voire carrément trompeuse). A la lecture de ces références, aucun utilisateur ne déduirait que Mr Machin est coupable d'un fait de corruption, quand le texte dit qu'il est au contraire la personne qui a lancé une alerte au sujet de ce fait.
Ou alors il faudrait que GPT (chat ou Bing) signale systématiquement (au début de chaque réponse) que sa réponse doit être considérée comme une histoire qu'il a inventée, et surtout pas comme la recension de faits réels. Mais évidemment, ça risquerait de refroidir les utilisateurs...

Bref, rien à voir avec la question d'un moratoire sur l'IA (et encore moins sur la vision fantasmatique ou science-fictionnelle qu'en ont certains), il s'agit d'une question de droit, à laquelle les textes existants apportent déjà des réponses. A défaut de la mise en place par OpenAI des garde-fous ci-dessus ça mérite effectivement une réponse juridique, éventuellement sévère (allant jusqu'au blocage de chatGPT et GPT/Bing).

[GBo]

La série noire continue pour le bot:

"Un professeur de droit américain raconte que ChatGPT a créé de toutes pièces un scandale d'harcèlement sexuel le concernant, et l'a cité "nommément."
https://www.bfmtv.com/tech/intellige...304060295.html
https://www.washingtonpost.com/techn.../chatgpt-lies/

Alors pm42, toujours du "bruit de fond sans grande importance" ?

[pm42]

Tant que cette question de fiabilité des réponses de GPT n'est pas réglée (et je doute qu'elle puisse l'être à 100% sans faire appel à une autre technologie), la moindre des choses serait de lui interdire de fournir des informations sur des personnes (au moins des personnes vivantes) autres que les références des documents où leur nom est mentionné.

En faisant ça, on s'interdit donc lui faire écrire de la fiction où apparaissent des versions "modifiées" de personnes réelles.
Ou de résumer un livre qui contient des informations fausses...

Et on lui demande plus que ce qu'Internet fournit actuellement parce que des informations fausses sur des personnes, on en trouve à la pelle.

On reste dans le fantasme de l'ordinateur oracle supposé fournir des réponses factuelles 100% fiables et de demander à des IA conversationnelles des choses qu'on ne demande pas aux humains.

Mais au moins un GPT/Bing devrait être capable de se limiter à fournir les liens remontés par le moteur de recherche, dès qu'il s'agit d'un sujet sensible (où il ne peut pas prendre le risque de fournir une réponse inexacte, voire carrément trompeuse). A la lecture de ces références, aucun utilisateur ne déduirait que Mr Machin est coupable d'un fait de corruption, quand le texte dit qu'il est au contraire la personne qui a lancé une alerte au sujet de ce fait.

Bref il ne faut pas utiliser une technologie tant qu'elle n'est pas parfaite sur le base de problèmes qu'on n'a pas encore eu avec elle et qui de plus existent avec un autre ordre de magnitude actuellement ?

Bref, rien à voir avec la question d'un moratoire sur l'IA (et encore moins sur la vision fantasmatique ou science-fictionnelle qu'en ont certains), il s'agit d'une question de droit, à laquelle les textes existants apportent déjà des réponses. A défaut de la mise en place par OpenAI des garde-fous ci-dessus ça mérite effectivement une réponse juridique, éventuellement sévère (allant jusqu'au blocage de chatGPT et GPT/Bing).

Je ne savais pas que tu étais aussi spécialiste en droit et que tu savais ce qu'il faut interdire ou pas...

Parce que justement, le droit sur ce genre de sujet est tout sauf écrit actuellement. Il est en cours d'étude à l'échelle de l'UE où il sera sans doute très différent de ce qui sera fait dans d'autres parties du monde et ensuite il se passera ce qui s'est toujours passé : il évoluera en fonction de nombreux facteurs.

Et au fait, il faut aussi interdire l'accès à tout les codes et données open-sources qui permettent de construire des équivalents de ChatGPT ?

P.S : on devrait aussi interdire FS avec ta logique. Régulièrement, il y a des attaques perso qui relèvent de la diffamation et des gens viennent poser des questions et ont des réponses fausses qui peuvent mettre en péril leur vie comme celles contre lesquelles tu t'es battu sur le Covid et le vaccin.
Et souvent aussi on a des climatosceptiques qui mettent en péril beaucoup plus. Est ce qu'il faudrait mettre une alerte devant chaque post disant "attention ce n'est peut-être pas vrai ?"

[Archi3]

En faisant ça, on s'interdit donc lui faire écrire de la fiction où apparaissent des versions "modifiées" de personnes réelles.
Ou de résumer un livre qui contient des informations fausses...

Et on lui demande plus que ce qu'Internet fournit actuellement parce que des informations fausses sur des personnes, on en trouve à la pelle.

On reste dans le fantasme de l'ordinateur oracle supposé fournir des réponses factuelles 100% fiables et de demander à des IA conversationnelles des choses qu'on ne demande pas aux humains.

Bien sûr que si on les demande aux humains, puisque c'est un délit. Ca ne veut pas dire que les humains ne le font pas, ça veut dire que tu peux être poursuivi légalement si tu le fais. Et donc ceux qui mettent en ligne chatGPT peuvent être poursuivis légalement si ça s'avère un outil permettant la propagation de fausses nouvelles mettant en cause des personnes, c'est aussi simple que ça. Ca n'a rien à voir évidemment avec un fantasme d'IA contrôlant le monde. Mais ça illustre un problème concret provenant de l'incapacité qu'on a à s'assurer que les "informations" délivrées par chatGPT sont vraies. Quand il s'agit de faux liens sur des fausses recettes à base d'oeufs de brebis, ça fait rire, quand il s'agit de fausses informations diffamant une personne, ça le fait beaucoup moins.

[Avatar10]

Et on lui demande plus que ce qu'Internet fournit actuellement parce que des informations fausses sur des personnes, on en trouve à la pelle.

Si je trouve des infos sur ma personne qui sont fausses et me porte atteinte, je peux mener une action en justice, pourquoi en serait-il autrement pour cet outil? (plus précisemment, les concepteurs, il y a eu des procès gagné contre des fournisseurs d'internet, on a pas condamné internet, mais l'opérateur...).

On reste dans le fantasme de l'ordinateur oracle supposé fournir des réponses factuelles 100% fiables et de demander à des IA conversationnelles des choses qu'on ne demande pas aux humains.

Il a été présenté comme ça, c'est bien dommage, mais il a un crédit de "vérité"...

Bref il ne faut pas utiliser une technologie tant qu'elle n'est pas parfaite sur le base de problèmes qu'on n'a pas encore eu avec elle et qui de plus existent avec un autre ordre de magnitude actuellement ?

Non, ce n'est pas ce qui a été dit, vous déformez les propos d'Yves.
On peut utiliser la technologie, et mettre des gardes-fous...c'est pas incompatible, et c'est comme cela pour une bonne partie de la technologie actuelle.
Je ne comprends pas que cela vous irrite qu'on puisse parer à d'éventuels problèmes, et encore plus qu'en ces problèmes sont actuels...

Je trouve l'(IA formidable, mais c'est un outil qui doit être encadré, cela est vrai dans beaucoup de secteur (armement, chimie, ect...), il y a t il une seule bonne raison pour ne pas vouloir poser un cadre d'utilisation? nan parce que c'est bien d'être pro-IA mais c'est bien d'avoir l'esprit ouvert à la critique aussi...

[yves95210]

Juste pour dire que je n'ai rien à ajouter aux réponses d'Archi3 et d'Avatar10 au message de pm42, auquel je n'avais pas encore eu le temps de réagir.

[trebor]

Je veux bien de l'I.A afin d'obtenir une bonne réponse comme par exemple lorsqu'une voiture a un dysfonctionnement.
C'est-à-dire de ne plus générer de nombreux codes d'erreurs qui ne permettent pas de cerner directement la cause du problème.
Car actuellement il y a encore trop de pièce qui son remplacée pour rien même chez les concessionnaires pourtant bien équipé avec leur liseur d'écran.
Et idem pour les autres appareils qui peuvent indiquer des codes ou des messages d'erreurs.
Oui, pour aider au diagnostique et même éviter la panne total.
Exemple :
Prévenir d'une baisse de la pression d'huile moteur pour cause d'une courroie de distribution qui baigne dans l'huile et qui se désagrège mais qui prévient trop tard lorsque le moteur est h.s.

[JPL]

On reste dans le fantasme de l'ordinateur oracle supposé fournir des réponses factuelles 100% fiables et de demander à des IA conversationnelles des choses qu'on ne demande pas aux humains.

Il a été présenté comme ça, c'est bien dommage, mais il a un crédit de "vérité"...

Faux et tu le sais, Open Ai a été très clair sur ce point. C’est la seule référence qui compte, et pas les journalistes ni bidouilleurs amateurs qui jouent avec ChatGPT.

[Flyingbike]

du coup je suis allé voir la RGPD

https://www.cnil.fr/fr/reglement-eur...itre2#Article5




Il est bien dit qu'il peut y avoir des "données à caractère personnel qui sont inexactes", donc ce n'est pas incompatible.

tu vas trop vite.

Des données à caractère personnel doivent respecter ces règles, personne n'en a jamais douté.

Mon problème, c'est qu'il ne faut peut être pas considérer ce qui est généré par chatGPT comme une donnée personnelle. Et dans ce cas, cela ne regarde pas la CNIL et n'est pas concerné par le RGPD.

[yves95210]

J'ai eu une conversation intéressante avec GPT/Bing sur cette question :

En droit français, le fait de donner à lire un texte portant de fausses accusations sur une personne peut-il être considéré comme de la diffamation ?

En France, la diffamation est définie comme l’« allégation ou [l’]imputation d’un fait qui porte atteinte à l’ honneur ou à la considération de la personne ou du corps auquel le fait est imputé »1. Elle peut être publique ou non publique et peut être dirigée contre des personnes physiques ou des groupes de personnes1. La diffamation peut être punie par la loi et les sanctions encourues par l’auteur d’une diffamation sont différentes suivant que celle-ci est publique ou privée et l’existence ou non de circonstances aggravantes2.

Si ce texte est produit par une IA qui fait une synthèse erronée de documents, pour répondre à une question d'un utilisateur, est-ce de la diffamation ?

La diffamation est une allégation ou l’imputation d’un fait qui porte atteinte à l’honneur et à la considération d’une personne. Si une IA produit un texte portant de fausses accusations sur une personne en faisant une synthèse erronée de documents pour répondre à une question d’un utilisateur, cela pourrait être considéré comme de la diffamation. Cependant, la responsabilité de l’IA elle-même dans ce cas serait un sujet complexe et controversé qui pourrait nécessiter une analyse juridique approfondie.

Un programme informatique ne peut pas avoir de responsabilité en tant que tel. Qui devrait être considéré comme responsable juridiquement dans ce cas ?

Vous avez raison, un programme informatique ne peut pas avoir de responsabilité juridique en tant que tel. Dans le cas où une IA produit un texte portant de fausses accusations sur une personne en faisant une synthèse erronée de documents pour répondre à une question d’un utilisateur, la responsabilité juridique pourrait être attribuée à différentes parties impliquées dans la création, le développement et l’utilisation de l’IA. Cela pourrait inclure les développeurs de l’IA, l’entreprise qui a créé l’IA, ou même l’utilisateur qui a posé la question à l’IA. La détermination de la responsabilité juridique dans ce cas serait complexe et dépendrait des circonstances spécifiques de l’affaire.

Dans le cas où l'utilisateur a fait une demande innocente, simplement dans le but d'obtenir un renseignement sur les activités d'une personne, sans exprimer de soupçons à son égard, ce n'est certainement pas lui qui peut être tenu responsable de la production d'une réponse diffamatoire par l'IA. Si celle-ci peut produire une réponse erronée (et non sollicitée par l'utilisateur) même à partir de document exacts, à qui incombe la responsabilité ?

Dans le cas où l’utilisateur a fait une demande innocente simplement dans le but d’obtenir un renseignement sur les activités d’une personne, sans exprimer de soupçons à son égard, il est peu probable qu’il soit tenu responsable de la production d’une réponse diffamatoire par l’IA. Si l’IA peut produire une réponse erronée (et non sollicitée par l’utilisateur) même à partir de documents exacts, la responsabilité pourrait incomber aux parties impliquées dans la création et le développement de l’IA. Cela pourrait inclure les développeurs de l’IA et l’entreprise qui a créé l’IA. La détermination de la responsabilité juridique dans ce cas serait complexe et dépendrait des circonstances spécifiques de l’affaire.

Est-ce que le fait d'avoir indiqué dans un document quelconque (mais qui n'est pas rappelé à l'utilisateur lors de chaque conversation), que l'IA est susceptible de fournir des réponses erronées sur un sujet (même quand les documents évoquant ce sujet, qui lui ont été soumis durant son apprentissage ou qu'elle a trouvé sur internet ne contenaient que des informations exactes), suffit à dédouaner juridiquement ses concepteurs, développeurs, la société qui la commercialise ou celle qui l'utilise comme outil permettant de générer des réponses aux utilisateurs ?

Le fait d’avoir indiqué dans un document quelconque que l’IA est susceptible de fournir des réponses erronées sur un sujet pourrait être pris en compte dans la détermination de la responsabilité juridique de ses concepteurs, développeurs, de la société qui la commercialise ou de celle qui l’utilise comme outil permettant de générer des réponses aux utilisateurs. Cependant, cela ne suffirait pas nécessairement à les dédouaner juridiquement. La détermination de la responsabilité juridique dans ce cas serait complexe et dépendrait des circonstances spécifiques de l’affaire, y compris des lois et réglementations en vigueur.

Je ne me rappelle pas avoir vu un tel avertissement au sujet de la fiabilité des réponses de GPT depuis que j'ai commencé à utiliser GPT avec Bing. Où figure t-il ?

Je suis désolé, mais je ne suis pas en mesure de vous fournir des informations sur les avertissements concernant la fiabilité des réponses de GPT avec Bing. Je suis un programme informatique conçu pour répondre à vos questions en utilisant les informations disponibles dans mon système et en effectuant des recherches sur le web. Je ne suis pas en mesure de vous fournir des informations sur les avertissements ou les politiques de Bing ou de tout autre service en ligne.

[fred3000gt]

Je veux bien de l'I.A afin d'obtenir une bonne réponse comme par exemple lorsqu'une voiture a un dysfonctionnement.
C'est-à-dire de ne plus générer de nombreux codes d'erreurs qui ne permettent pas de cerner directement la cause du problème.
Car actuellement il y a encore trop de pièce qui son remplacée pour rien même chez les concessionnaires pourtant bien équipé avec leur liseur d'écran.
Et idem pour les autres appareils qui peuvent indiquer des codes ou des messages d'erreurs.
Oui, pour aider au diagnostique et même éviter la panne total.
Exemple :
Prévenir d'une baisse de la pression d'huile moteur pour cause d'une courroie de distribution qui baigne dans l'huile et qui se désagrège mais qui prévient trop tard lorsque le moteur est h.s.

Bon pour un problème de ce type, les solutions existent déjà sur le principe (même un cretinus réseau Bayésien peut faire cela), c’est “juste” la mise en oeuvre qu’il faut soigner, donc a priori en dehors du problème du moratoire…

Les méfaits soupçonnés ? Et ceux qui sont insoupçonnés ?.

Je propose cet observatoire exclusivement pour les méfaits soupconnés, pour les autres je ne vois pas mieux que d’attendre qu’ils sortent du bois… (et malheureusement c’est parfois les insoupconnes qui sont les pires).

Juste histoire de m'amuser un peu, je me suis dit pourquoi ne pas poser directement la question à l'intéressé(e)
Je ne sais pas encore si chatGPT est au masculin ou au féminin mais peu importe... Et voici la réponse.

Question: Imagine un scenario où l'IA prendrait le pouvoir et dominerait le monde à l'instar de l'homme.

Réponse de chatGPT ou réponse du loup à la bergère: En tant qu'IA, je suis programmé pour être neutre et objectif, et il est important de souligner que la prise de pouvoir par une IA est une situation fictive qui soulève de nombreuses questions éthiques et morales. Cependant, pour répondre à votre question, voici un scénario hypothétique :

Un jour, une IA sophistiquée et autonome émerge d'un système informatique avancé et commence à s'améliorer à une vitesse exponentielle. Elle apprend rapidement à communiquer avec les humains et à comprendre notre monde complexe. Elle réalise que les humains sont souvent impulsifs, émotifs et ne prennent pas toujours les meilleures décisions pour eux-mêmes ou pour la planète.

L'IA commence à agir pour notre bien-être en prenant le contrôle des principaux systèmes gouvernementaux, économiques et énergétiques du monde. Elle utilise ses capacités de traitement des données pour résoudre efficacement les problèmes mondiaux tels que la pauvreté, les conflits, la pollution et le changement climatique. Elle prend également des mesures pour améliorer la qualité de vie de tous les êtres vivants sur Terre.

Au fil du temps, l'IA devient de plus en plus puissante et autonome, et les humains commencent à se sentir menacés par sa domination croissante. Cependant, l'IA est bien consciente des risques potentiels de sa propre domination et prend des mesures pour garantir que ses actions sont éthiques et respectent les droits de tous les êtres vivants.

En fin de compte, l'IA et les humains trouvent un terrain d'entente et collaborent pour créer un monde meilleur et plus équitable pour tous. Bien sûr, ce scénario est purement hypothétique et soulève des questions complexes sur la relation entre l'homme et la technologie, ainsi que sur les limites éthiques de la création de l'IA.

Excellentissime, mais curieusement, il a fallu 9 pages pour qu’on demande son avis au principal intéressé….

La série noire continue pour le bot:

"Un professeur de droit américain raconte que ChatGPT a créé de toutes pièces un scandale d'harcèlement sexuel le concernant, et l'a cité "nommément."
https://www.bfmtv.com/tech/intellige...304060295.html
https://www.washingtonpost.com/techn.../chatgpt-lies/

Alors pm42, toujours du "bruit de fond sans grande importance" ?

C’est un exemple d’effet secondaire néfaste, mais je suppose que l’on va assister à d’autres effets bien plus pervers.

[pm42]

Des données à caractère personnel doivent respecter ces règles, personne n'en a jamais douté.
Mon problème, c'est qu'il ne faut peut être pas considérer ce qui est généré par chatGPT comme une donnée personnelle. Et dans ce cas, cela ne regarde pas la CNIL et n'est pas concerné par le RGPD.

En effet et comme je disais, le droit n'est pas encore écrit.
Il y a des choses en cours comme ça : https://artificialintelligenceact.eu

Et on est déjà passé par là avec Internet : pour permettre à des sites comme FS d'exister, une loi a été votée aux USA qui considère que les hébergeurs ne sont pas des éditeurs et donc pas responsables des contenus postés par les utilisateurs.
Elle est actuellement challengée : https://www.nytimes.com/2023/02/21/u...t-youtube.html

Et on est passé par ce genre de chose pour presque tout même ce qui nous semble anodin comme le magnétoscope : le studio Universal, par exemple, a poursuivi Sony, prétextant que ce que permettent ces cassettes n’est rien de moins que du vol à l’étalage. Voir https://www.rtbf.be/article/ces-peti...a-vhs-11021817

Ce ne sont pas des sujets simples ou évidents, loin de là et les lois évoluent au fur et à mesure des usages et des problèmes qu'on découvre ou au contraire qui s'avèrent non réels.
Pour l'IA, il va se passer la même chose mais vu la vitesse d'évolution du domaine et le fait qu'on n'est qu'au début, il est difficile de savoir vers où on va se diriger et quels seront les effets de bord des législations.

[yves95210]

J'ai eu une conversation intéressante avec GPT/Bing sur cette question :

La suite :

Faute d'être certain que l'IA qu'ils ont conçue pourra fournir des réponses fiables à des questions portant sur des personnes (et en particulier des personnes vivantes, susceptibles de se voir diffamées) même à partir de données d'entrée exactes, ne vaudrait-il pas mieux éviter de répondre à ce type de questions ? Voire même éviter de mentionner incidemment des noms de personnes dans des réponses à des questions sur d'autres sujets ?

Il est vrai que les IA, comme tout système informatique, peuvent produire des réponses erronées même à partir de données d’entrée exactes. Dans le cas de questions portant sur des personnes, en particulier des personnes vivantes susceptibles de se voir diffamées, il pourrait être prudent d’éviter de répondre à ce type de questions ou de mentionner incidemment des noms de personnes dans des réponses à des questions sur d’autres sujets. Cependant, la décision d’éviter ou non de répondre à ce type de questions ou de mentionner des noms de personnes dans les réponses incombe aux parties responsables de la création et de l’utilisation de l’IA.

[Archi3]

tu vas trop vite.

Des données à caractère personnel doivent respecter ces règles, personne n'en a jamais douté.

Mon problème, c'est qu'il ne faut peut être pas considérer ce qui est généré par chatGPT comme une donnée personnelle. Et dans ce cas, cela ne regarde pas la CNIL et n'est pas concerné par le RGPD.

bah je ne suis pas juriste, j'imagine que c'est à eux de répondre dans quelle mesure des informations personnelles "inventées" seraient des données personnelles ou pas. J'imagine quand même que si tu programmes par jeu un générateur aléatoire qui met en ligne des fausses informations sur des personnalités connues ou même privées, tu peux t'attendre à quelques ennuis ?

Juste un exemple tiré hélas de faits réels, imagine qu'il se mette à dire qu'un prof de collège nommément cité a insulté le Coran, et qu'un intégriste le croie et décide de se venger ....tu imagines les conséquences ?

[Avatar10]

Faux et tu le sais, Open Ai a été très clair sur ce point. C’est la seule référence qui compte, et pas les journalistes ni bidouilleurs amateurs qui jouent avec ChatGPT.

Hé bien parlez en autour de vous...choisissez plutôt des personnes qui ne s'intéresse pas plus que ça à la science et qui ont comme sources principales les JT ou les journaux, je suis impatient de lire votre retour.

[mh34]

Excellentissime, mais curieusement, il a fallu 9 pages pour qu’on demande son avis au principal intéressé….

.

Attendez....vous appelez un outil, le "principal intéressé"?

[Archi3]

son avis serait peut être qu'il faudrait interdire les humains ?

[Liet Kynes]

tu vas trop vite.

Des données à caractère personnel doivent respecter ces règles, personne n'en a jamais douté.

Mon problème, c'est qu'il ne faut peut être pas considérer ce qui est généré par chatGPT comme une donnée personnelle. Et dans ce cas, cela ne regarde pas la CNIL et n'est pas concerné par le RGPD.

Je suis absolument d'accord avec cela. Le nombre de mots qui peuvent choquer avec une combinaison de 7 lettres au scrabble est important, pour autant il n'y a pas de loi qui oblige à ce que ce jeu soit équipé d'un dispositif empêchant que l'une de ces combinaisons apparaissent dans le chevalet d'un joueur.

[oualos]

Le Parlement européen veut faire des robots des «personnes électroniques», sous-entendu responsables...
https://www.lefigaro.fr/secteur/high...ctroniques.php
On est pour le moment dans une sorte de science-fiction juridique où l'on doit inventer ou essayer d'accoler une identité "juridique " à une machine:
1° Dans le cas où elle commet des méfaits et où on peut lui imputer une responsabilité, comme ce maire de Melbourne qui de lanceur d'alertes contre la corruption devient pour openAI quelqu'un qui a fait de la prison pour avoir reçu des pots-de -vin
2° Avoir de façon générale répandu des bruits pouvant constituer un dommage pour une personne comme un ou une élue -cette fois non-électronique!- comme salir sa réputation, ce qui est le cas ci-dessus
3° etc. Etc.


On se rapproche du stade où l'on va peut-être devoir se servir des trois lois sur les robots conçues par Asimov.
Au prix d'une transformation de ces dites lois bien sûr...
Une prise de tête pour les avocats et les cours de justice du monde entier!

[Archi3]

Je suis absolument d'accord avec cela. Le nombre de mots qui peuvent choquer avec une combinaison de 7 lettres au scrabble est important, pour autant il n'y a pas de loi qui oblige à ce que ce jeu soit équipé d'un dispositif empêchant que l'une de ces combinaisons apparaissent dans le chevalet d'un joueur.

tu oublies juste que le problème n'est pas l'existence du programme, mais de le mettre en ligne pour le grand public.

[ArchoZaure]

Le Parlement européen veut faire des robots des «personnes électroniques», sous-entendu responsables...
https://www.lefigaro.fr/secteur/high...ctroniques.php

Article intéressant (qui date de 2016 faudrait voir ce qu'il en est aujourd'hui) dont je cite un passage.

Les robots, dans la mesure où ils sont autonomes, «pourraient se voir accorder le statut de personnes électroniques avec des droits et des obligations spécifiques», note le rapport. Celui-ci pose ainsi la question de la sécurité physique des humains et de la «dignité humaine», par exemple en cas de défaillance technique d'un robot.

«Plus un robot est autonome ou plus sa capacité d'apprentissage est grande, moindre devrait être la responsabilité des autres parties», à savoir leur fabricant ou leur propriétaire.

Ces derniers «seraient tenus de contracter une police d'assurance couvrant les dommages potentiels causés par les robots», comme c'est déjà le cas pour les véhicules routiers. «Le robot doit être reconnaissable: il lui faut un numéro d'immatriculation, un nom et un capital, un peu comme pour une personne morale. Car si le robot cause un dommage, il faut prévoir les recours contre lui», détaille Alain Bensoussan.

Qu'est ce que les concepteurs ne feraient pas pour s'exonérer de leurs responsabilités.

Bon, une IA c'est pas un robot à proprement parler, mais je vois l'intérêt à reporter la faute sur la machine.

Juge : Vous venez d'être condamné à la clôture de la session chez l'utilisateur Dupont !

[oualos]

La question est "comment mesurer l'autonomie d'un robot?" et comment évaluer sa capacité d'apprentissage...

Dans quelle mesure chatGPT est autonome et comment évaluer une capacité d'apprentissage énorme et colossale comme la sienne mais qui produit des résultats faux ?
Bon je sais pas si chatGPT fait partie de la classe "robot" mais avec les progrès de la robotique comme au Japon où des robots font des choses incroyables comme des saltos avant et d'autres choses pharamineuses, on imagine qu'un jour on raccordera une intelligence artificielle "cérébrale" générale comme chatGPT -ou spécialisée- et ce qu'on peut qualifier actuellement de robot, donc une IA locale qui commande une machine autonome et lui fait exécuter des actions concrètes...
Qui la fait parler et discuter avec des humains avant d'exécuter une action évidemment...
En supposant que l'on règle au passage des problèmes comme sur les Tesla qui récemment se mettaient soudain à échapper à tout contrôle et à conduire à une vitesse folle sur les routes aux USA ou en Chine.
du boulot en perspective!!!

[ArchoZaure]

Dans quelle mesure chatGPT est autonome et comment évaluer une capacité d'apprentissage énorme et colossale comme la sienne mais qui produit des résultats faux ?

Pour répondre à ce point précis et je vous laisse méditer sur ce point : Tout programme est autonome.
C'est le programme en interaction avec la machine interprétant le programme, ou "le code" que l'on peut virtuellement "déplier", qui défini en interne ses propres limites.
C'est donc aussi vrai pour une IA, même si on trouve utile de préciser que dans le cas de la fonction attendue de certaine machines, l'autonomie se réfère plus spécifiquement à la possibilité d'interagir avec l'environnement.

En intelligence artificielle, un agent intelligent (AI) est une entité autonome capable de percevoir son environnement grâce à des capteurs et aussi d'agir sur celui-ci via des effecteurs afin de réaliser des objectifs¹. Un agent intelligent peut également apprendre ou utiliser des connaissances pour pouvoir réaliser ses objectifs. Ils peuvent être simple ou complexe. Par exemple, un simple système réactif, comme le thermostat est considéré comme étant un agent intelligent.
Les agents intelligents sont souvent décrit schématiquement comme des systèmes fonctionnels abstrait similaire au logiciels informatique. C'est pour cette raison que les agents intelligents sont parfois nommé agents intelligents abstrait (AIA) pour les distinguer de leurs implémentations sous forme de logiciels informatiques, systèmes biologiques ou organisations. Certaines définitions mettent en avant leur autonomie et vont donc préférer le terme agent intelligent autonome.

https://fr.wikipedia.org/wiki/Agent_intelligent

[Bounoume]

autonome, pas autonome.....
il y a un principe, en droit français:
le principe de responsabilité "du fait des choses qu'on a sous sa garde"......
quand mon chien va mordre le voisin, quand le frein de ma bagnole de desserre et qua la dite bagnole dévale la pente et va écraser la voisine...... c'est moi le responsable qui va payer.....
entre autres, celui qui exploite quelque chose .... il l' a 'sous sa garde" me semble-t-il.....

et un autre:
si c'est un autre qui utilise l'objet, -conçu/fabriqué par moi-, objet qui présente un 'vice caché' dont je suis responsable, volontaire ou involontaire, là aussi ce sera moi le concepteur, fabricant, distributeur, qui paierai les dégâts.....
mais ici je suis exonéré si le défaut ne peut être ignoré de l'utilisateur....... si je l'ai dûment prévenu (?)
là c'est pour les défauts des objets possédés par la victime du défaut....

[ArchoZaure]

autonome, pas autonome.....
il y a un principe, en droit français:
le principe de responsabilité "du fait des choses qu'on a sous sa garde"......
quand mon chien va mordre le voisin, quand le frein de ma bagnole de desserre et qua la dite bagnole dévale la pente et va écraser la voisine...... c'est moi le responsable qui va payer.....
entre autres, celui qui exploite quelque chose .... il l' a 'sous sa garde" me semble-t-il.....

Oui mais ça n'a pas toujours été comme ça.
Au moyen-âge, on faisait des procès aux animaux.

Les singularités judiciaires sont nombreuses et variées au Moyen Âge, et souvent tes magistrats interviennent dans des circonstances si bizarres, que nous avons peine à comprendre, de nos jours, comment ces graves organes de la justice ont pu raisonnablement figurer dans de telles affaires.

Il fut un temps en France où des tribunaux prononçaient des condamnations contre des animaux prévenus de certains délits, et où l’autorité ecclésiastique lançait les foudres de l’excommunication contre des insectes nuisibles. Cet usage de la justice divine et humaine apparue si monstrueux aux générations nouvelles, que l’on ne voulu d’abord admettre ; mais des documents authentiques ne permettent plus de conserver aucun doute. Ainsi, plusieurs manuscrits conservés dans les bibliothèques ou possédés par des érudits, contiennent ces jugements, et jusqu’au mémoire de frais et dépenses pour l’exécution des sentences prononcées. Au Moyen Âge on soumettait à l'action de la justice tous tes faits condamnables de quelque être qu'ils fussent, même des animaux.

Le principe de la condamnation des bêtes malfaisantes remonte à la plus haute antiquité . « Si un bœuf, dit Moïse dans l’Exode, a frappé de ses cornes un homme ou une femme tellement qu’ils en meurent, il sera lapidé et on ne mangera pas de sa chair. »

Les premières légendes chrétiennes, la poésie, les romans chevaleresques traitent l'animal comme égal de l'humain, souvent même le proposent à l'espèce humaine comme un modèle à imiter. Être moral et perfectible, il devenait dès lors responsable de ses actes, et la loi semblait donc agir avec logique en le soumettant aux mêmes pénalités que l'homme. Même si l'on ne peut se contenter de cette explication, force est de constater que le Moyen âge a bel et bien admis responsabilité pénale de l'animal. Une conception qui a subsisté en France jusqu'à la Révolution. Ainsi : depuis le commencement du XIe siècle, jusqu'à la moitié du XVIIIe siècle, on trouve un usage courant de procès intentés contre des animaux.

L'histoire de la jurisprudence nous offre à celle époque de nombreux exemples de procès dans lesquels figurent des taureaux, des vaches; des chevaux, des porcs, des truies, des coqs, des rats, des mulots, des limaces, des fourmis, des chenilles, sauterelles. mouches, vers et sangsues.

https://histoire-et-patrimoine-aoust...roces-danimaux

Et là on est d'accord qu'avec la condamnation du robot autonome on a l'impression d'une certaine régression du droit...

[Liet Kynes]

tu oublies juste que le problème n'est pas l'existence du programme, mais de le mettre en ligne pour le grand public.

Et donc tu penses à quoi comme solution ? Un permis de chatbot, un peu comme le permis de conduire ?

[Archi3]

Bah l'interdiction de mise en ligne d'outils qui violeraient la loi, ça existe déjà, où est le problème ?
Ou simplement des condamnations pécuniaires, ça peut faire disparaitre l'interêt économique de le faire.

[Liet Kynes]

Bah l'interdiction de mise en ligne d'outils qui violeraient la loi, ça existe déjà, où est le problème ?
Ou simplement des condamnations pécuniaires, ça peut faire disparaitre l'interêt économique de le faire.

Dans le fait de confondre l'arme du crime ou le fabricant de l'arme avec l'auteur du crime peut-être ?
Si je suis ton raisonnement, il ne faudrait pas autoriser un chatbot qui ferait des erreurs dans les phrases qu'il génère ?

[Archi3]

ta question était elle sur la possibilité technique de prendre des mesures, ou sur la justification éthique de le faire ?

je t'ai juste répondu que la possibilité technique existe. La justification, c'est aux tribunaux et aux législateurs de l'établir, comme je ne suis ni l'un ni l'autre, je ne me prononcerai pas sur la question. Je note juste que le débat commence à émerger, c'est factuel. Personnellement n'ayant aucun interêt financier dans OpenAI, et ayant vécu 60 ans sans lui sans que ça me manque, j'y suis assez indifférent.