IA et conscience

[Cyrano]

on peut très bien utiliser l'IA sans lui faire aveuglément confiance, c'est pareil avec les humains, tu l'as dit toi même.
-----

[Cyrano]

A propos de l'usage massif, j'ai lu un truc marrant sur "l'interface de viande".

De plus en plus de gens vont utiliser l'IA pour écrire un rapport pour leur hiérarchie. Leur hierarchie va utiliser l'IA pour résumer le rapport et le transmettre en encore plus haut lieu. Le haut lieu va utiliser l'IA pour synthétiser les rapports et écrire un rapport général. L'humain n'a rien fait, il a juste servi de "cable de viande" entre les différentes IA. Ce n'est plus l'homme qui utilise les machines pour communiquer, ce sont les ordinateurs qui utilisent les humains pour communiquer. C'est le progrès ....

[titijoy3]

un peu de la même manière qu'un mécanicien général programme la machine pour usiner telle ou telle pièce.. enfin, programmait, car aujourd'hui je suis persuadé que l'on confie à la machine le fichier numérique mis au point par le bureau d'étude et on appuie sur le bouton marche..

[bibifikotin]

je ne peux pas le savoir, du coup je ne laisse à aucun humain le pouvoir de décider de trucs à ma place.

Bjr , Et pourtant c'est ce que tu fais trés souvent
Si tu prends le train ,tu laisses l'humain décider de la conduite du train.
S'il doit freiner en urgence.....ben vaut mieux lui faire confiance plus tot que d'embrasser le bloc de roche sur la voie.
Si tu dois te faire opérer: monsieur on ne vous garantit pas que vous vous réveillerez (erreur possible de 2%) signé donc ce document
qui me dégage de responsabilités.
Pour l'avion c'est itou pareil, en cas de pépins et si le pillote s'en aperçoit vaut mieux qu'il réagisse .
Et des tas d'autres situations dans la vie de tout les jours.
Bref ça "cause" pour causer.... et tout le monde est content !
etc..etc..
A forçe de " causer " on finit par dire le contraire de ce que l'on dit au départ !!!
Bonne journée

[pm42]

A forçe de " causer " on finit par dire le contraire de ce que l'on dit au départ !!!

Pas vraiment : depuis le début, il dit la même chose "moi supérieur, moi intelligent, vous pas". C'est un Trump du pauvre
Qu'ensuite, le discours qui supporte cette assertion répétée en boucle ne soit pas cohérent n'est pas plus un problème pour lui que pour Donald

[Biname]

Salut,

La plupart des gens utilisent l'IA en mode "je cause avec un chat en ligne" et parmi ceux là, beaucoup s'en servent comme d'un Google amélioré (dixit les fournisseurs d'IA).

Par exemple, avec de genre d'outils, les IAs font 90% ou plus de mon boulot à ma place : elles écrivent les mails à mes clients et les contrats, relisent leur réponses, écrivent les programmes que je dois livrer, les testent, fournissent leur documentation et les supports de formation, répondent aux questions des utilisateurs à ma place, font le marketing, surveillent le Net pour me tenir au courant de ce qui est important dans mon domaine, etc.
Et bien sur, elles intègrent de l'IA dans les programmes que je livre en écrivant les prompts...

P.S : et il y a des gens qui sont nettement plus avancés que moi.

Heureusement, tu composes encore à la main les messages que tu postes ici. Paradoxe ?

Une nouvelle histoire d'IA autonome vient de sortir :

https://www.dwarkesh.com/p/openai-huggingface

Le texte est long et en anglais, passez le lien à votre IA favorite et demandez-lui un résumé en français de ce texte.

[pm42]

Heureusement, tu composes encore à la main les messages que tu postes ici. Paradoxe ?

Bonne remarque mais effectivement, je me demande parfois ce que je viens faire ici à part répondre à un besoin névrotique (mais au moins je suis en bonne compagnie).
D'autant qu'effectivement, hors bricolage, les IAs répondent nettement mieux aux questions que le forum.
Et que faire un outil qui répond à certaines questions de façon automatisée prendrait quelques minutes café compris.

https://www.dwarkesh.com/p/openai-huggingface

Ce n'est pas spécialement nouveau, cela a déjà quelques semaines ce qui est une éternité dans le monde de l'IA et j'y ai fait référence implicitement plusieurs fois dans ce fil. Vu que la presse grand public a largement couvert, j'ai supposé que c'était connu des gens qui s'intéressent assez à l'IA pour venir en parler ici.

[non bwana]

Bonjour,

j'y ai fait référence implicitement

C'est quoi, une référence implicite ? C'est une source sous-entendue ?

[mh34]

La plupart des gens utilisent l'IA en mode "je cause avec un chat en ligne" et parmi ceux là, beaucoup s'en servent comme d'un Google amélioré (dixit les fournisseurs d'IA).
De plus, ils n'en utilisent qu'une, ne connaissent pas les options et ne savent pas forcément comment leurs prompts influencent la dite IA.

Je confirme, pour ce que je lui demande je ne vois pas l'intérêt d'en utiliser plusieurs. Par contre on se rend très vite compte que la réponse va différer selon la façon de lui poser la question.

C'est très différent de l'utiliser en mode agentique c'est à dire en lui faisant faire des tâches autonomes qui peuvent lui prendre plusieurs heures ou plusieurs jours, en les faisant travailler en équipes et communiquer entre elles, en utilisant différents modèles pour profiter du fait qu'ils ont tous leurs points forts et faibles, en faisant faire la critique du travail d'une IA par d'autres IAs automatiquement afin de corriger les erreurs...

Ca je n'ai aucun problème pour le croire.

De plus, une IA réagit à de nombreuses choses :
- le modèle, c'est à dire sur quoi elle a été entrainée et comment
- le prompt système, c'est à dire ce qui lui dit comment interagir avec les humains
- sa mémoire des interactions avec l'humain en question. Actuellement, elles gardent une trace de ce qu'on leur a dit et le prennent en compte pour donner des réponses plus personnalisées
- les prompts de l'utilisateur bien sur qui introduisent beaucoup de biais
- les paramètres de configuration : température (l'aléatoire introduit dans chaque réponse), le style et la concision des réponses, etc
- le harnais c'est à dire l'ensemble des outils et instructions qui lui permettent d'être un agent autonome, sans doute un des concepts les plus importants actuellement. Par exemple, le même modèle avec 2 harnais différents ne va pas faire les mêmes erreurs, sera plus ou moins bon pour certaines tâches, etc.

Oui là ça parait assez évident, pour ce que j'ai surligné en gras ; le reste par contre je l'ignorais totalement

De ce que je lis ici, je n'ai pas l'impression que beaucoup d'intervenants s'en servent de cette façon.

C'est très probable en effet!

Merci pour la réponse détaillée.

[pm42]

C'est quoi, une référence implicite ? C'est une source sous-entendue ?

Quand j'ai parlé du fait que les IAs étaient capables de mentir, se cacher, en recruter d'autres pour des tâches pas vraiment prévues par exemple.

Soit on a une discussion où les gens veulent apprendre ce que peuvent faire les IAs actuelles et ils posent des questions et on peut donner des références précises, soit comme c'est le cas à 70/80% ici, on a une discussion où ils expliquent sans même lire la presse grand public et connaitre des sujets qui provoquent réactions de gouvernements, etc.
Dans ce cas, je ne rentre pas dans les détails parce que l'expérience montre que cela n'intéresse personne et que les rares qui lisent les liens ne le font que pour le plaisir de dire "cela dit exactement le contraire de ce que j'affirme donc en fait, cela montre que j'ai raison".

[mh34]

Dans la chaine d'écoute, il existe un maillon majeur, c'est le cerveau. Si tu sais ce que tu écoutes, le cerveau ( et ton attente ) écoutes bien plus que tes esgourdes.

Bien entendu.

Pour être complet, il faut voir ce que tu compares. Si tu préfères les colorations, les creux et les bosses, etc....il est possible que tu préfères un analogique bancal versus un numérique propre du même morceaux.

Bah c'est simple ; quand j'ai la sensation que les sons les plus graves et les plus aigus ont disparu...je n'arrive plus en effet à écouter.

On tombe en plein dans le milieu hifiste de maintenant, ou une majorité adore son propre système ( perclu de défaut ) mais ce même système sonne comme une casserole pour 90% des gens ( sauf éventuellement si il est trés cher avec des produits ésotériques reconnus ( trés chers mais pourris quand même effet renforcé du rôle du cerveau et du résultat attendu ). A l'inverse, un système "neutre" plait au plus grand nombre ( en aveugle ).

j'ignorais totalement l'existence de ce milieu "hifiste", et je pense que je vais continuer à l'ignorer.

[Bounoume]

remarques marginales:
l'article de dwarkesh parle de 'civilisations' d'IA..... terme non explicite pour moi....
pourrait-on, à sa place, utiliser le mot 'instances' , matérialisations multiples et indépendantes d'un 'type' d'objet préalablement défini (comme c'est le cas dans les langages objets comme C++ .....)
deuxième remarque:
l'article proposé par biname présente en haut à gauche une option 'traduire' et la traduction est excellente.... et c'est au lecteur de conclure à la lecture des faits déconcertants énoncés, pas à une IA !

[Bounoume]

ps l'option 'traduire en français' disparaît définitivement si.... on accepte les cookies du site grrr!

[Cyrano]

Quand j'ai parlé du fait que les IAs étaient capables de mentir, se cacher, en recruter d'autres pour des tâches pas vraiment prévues par exemple.

Soit on a une discussion où les gens veulent apprendre ce que peuvent faire les IAs actuelles et ils posent des questions et on peut donner des références précises,

on peut très bien avoir cette discussion, c'est juste que ce n'était pas le sujet du fil donc il faudrait ouvrir un autre fil pour en discuter.

[Cyrano]

Pas vraiment : depuis le début, il dit la même chose "moi supérieur, moi intelligent, vous pas". C'est un Trump du pauvre
Qu'ensuite, le discours qui supporte cette assertion répétée en boucle ne soit pas cohérent n'est pas plus un problème pour lui que pour Donald

et si je dis que tu ne sais que faire des posts insultants et agressifs, sans présenter aucun argument concret , et sans donner aucune référence avec l'excuse bidon que personne ne les lirait (ce qui est évidemment faux), ça fait avancer la discussion ?

[mh34]

j'ai trouvé deux articles intéressants et récents sur la conscience, et chatGPT m'a fourni le troisième ; résultat, on n'est pas près d'en avoir ( de la conscience) une définition générale admise par tous!
https://www.cell.com/trends/cognitiv...613(25)00320-1
https://www.cell.com/trends/cognitiv...jbs_etoc_email
https://pubmed.ncbi.nlm.nih.gov/41544506/

[Liet Kynes]

Bof, je pense que pour l'IA c'est pas vraiment important, l'important c'est ce que cela "fait" la conscience, cela peut s'envisager comme un un ensemble de propriétés. L'histoire du c'est de la vrai ou c'est de la fausse est pas forcement le sujet.

[pm42]

j'ai trouvé deux articles intéressants et récents sur la conscience, et chatGPT m'a fourni le troisième ; résultat, on n'est pas près d'en avoir ( de la conscience) une définition générale admise par tous!

Oui, c'est ce qu'on dit avec quelques autres depuis le début du fil. Cela n'a pas empêché le primo-posteur de nous expliquer qu'on pouvait parler de quelque chose sans savoir ce que c'était entre autres...

Au passage, la conscience comme l'intelligence est un terme tellement imprécise, polysémique et dont la définition varie régulièrement qu'on peut même se demander si le concept a du sens au niveau scientifique.
J'ai vraiment été marqué par un de mes profs en IAs qui nous avait dit (alors qu'on était très loin du niveau actuel) que l'intelligence, c'est ce que les humains font et pas les machines.
Et que chaque fois que les machines progressent, les humains remontent la barre, changent la définition l'intelligence...
Par exemple, que savoir jouer aux échecs était considéré comme une preuve d'intelligence. Mais que les machines étaient meilleures que les humains depuis déjà des années mais qu'on avait donc changé le critère.

Quand ChatGPT 3.5 est apparu, on a eu beaucoup de discours disant "c'est juste un perroquet" et "cela se contente de prédire le prochain mot donc ce n'est pas intelligent".
4 ans plus tard, ses descendants sont capables de beaucoup de choses et notamment de trouver des démonstrations de maths qui ont échappé aux humains.
Ce qui est intéressant, c'est qu'on a donc arrêté totalement le débat sur "sont elles intelligentes" : on n'en parle carrément plus...

Parce que "l'intelligence" n'a jamais été définie autrement que comme "une qualité que moi j'ai et que je dénie aux machines et à beaucoup d'autres êtres humains ce qui me permet de flatter mon égo".
Le même prof proposait d'ailleurs de dire que l'IA cherchait à reproduire nos fonctions cognitives, que celles ci étaient nombreuses et variées, qu'on y arrivait bien sur certaines, pas du tout sur d'autres mais qu'on progressait.

Pour la conscience, c'est plus compliqué, il y a moins d'égo impliqué mais aussi moins de critères objectifs comme celui de "l'ensemble des fonctions cognitives".
Mais on pourrait aussi faire des expériences de pensée sur les sujets qui ont été déjà pas mal abordés en fiction : que se passe t'il si on reproduit complètement d'une façon ou d'une autre une personnalité humaine soit en simulant son cerveau au niveau neurones/synapses soit à un niveau plus élevé ?
Est ce qu'on a en face de nous quelque chose de conscient ? Parce qu'on n'est pas si loin de ça d'y arriver, quelques dizaines d'années au plus.

Autre exemple : je peux vraiment facilement dès aujourd'hui faire qu'une IA réponde ici à ma place, choisisse les mêmes genre de fil, garde une mémoire des intervenants, reproduise mon ton "acerbe"...
Bref, qu'elle soit indistinguable de moi.

Si aucun participant au forum ne peut faire la différence, comment définir que je suis conscient et pas l'IA en question ?
En fait, cela revient à "comment donner une définition de la conscience avec un test expérimental qui permet de détecter ou d'infirmer sans présence ?".

Sans cela, c'est un peu comme si on parlait d'une maladie sans avoir jamais défini ses symptômes, sans savoir comment la diagnostiquer, etc. Cela existe ceci dit dans les pseudo-médecines, en psychanalyse, etc.
Mais ce n'est pas scientifique.

[Cyrano]

je n'avais pas parlé d'intelligence mais de conscience. Et là dessus

Mais on pourrait aussi faire des expériences de pensée sur les sujets qui ont été déjà pas mal abordés en fiction : que se passe t'il si on reproduit complètement d'une façon ou d'une autre une personnalité humaine soit en simulant son cerveau au niveau neurones/synapses soit à un niveau plus élevé ?
Est ce qu'on a en face de nous quelque chose de conscient ? Parce qu'on n'est pas si loin de ça d'y arriver, quelques dizaines d'années au plus.

j'avais mentionné que c'était souvent imaginé dans la SF. Sauf que ça suppose qu'on décrive le cerveau avec un nombre fini de variable dont l'évolution temporelle est uniquement déterminée par ces variables et rien d'autre , sinon l'évolution ne sera pas fidèle - ce qui voudrait précidément dire, si c'était le cas, que le cerveau fonctionne bien de manière algorithmique.

Mais ça n'a été démontré par personne et tu n'as pas dit quelles étaient exactement ces variables qui permettaient de décrire précisément son évolution.

Note bien que si l'évolution est exacte, on s'attendrait à ce qu'elle décrive aussi le fonctionnement quand ta température monte à 42°C ou quand tu as absorbé une drogue chimique - tu es une idée de comment ton modèle de cerveau incorporerait ces facteurs pour simuler ce qu'il se passe ?

Autre exemple : je peux vraiment facilement dès aujourd'hui faire qu'une IA réponde ici à ma place, choisisse les mêmes genre de fil, garde une mémoire des intervenants, reproduise mon ton "acerbe"...
Bref, qu'elle soit indistinguable de moi.

ce qui est rigolo c'est que dans le même message tu cites la mémoire d'un prof qui t'enseignait l'IA - ce qui n'est possible bien sûr que parce que tu l'as vraiment vécu. Et en même temps tu dis que c'est très facile de programmer une IA pour qu'elle soit "indistinguable" de toi.

Donc tu es en train de nous dire tranquillou que c'est très facile d'implémenter dans une IA actuelle tous les souvenirs de ta vie, de ce que tu faisais enfant, de tes études, des tes relations amoureuses ...

bah fais le alors puisque c'est si facile, je suis vraiment curieux de voir le résultat.

[Cyrano]

Autre exemple : je peux vraiment facilement dès aujourd'hui faire qu'une IA réponde ici à ma place, choisisse les mêmes genre de fil, garde une mémoire des intervenants, reproduise mon ton "acerbe"...
Bref, qu'elle soit indistinguable de moi.

un autre paradoxe rigolo est qu'en disant ça, tu admets implicitement que les IA apprennent par des mécanismes très différents de ceux des humains, puisque, bien évidemment, tu serais totalement incapable de faire ça pour un autre être humain que toi, et le rendre "indistinguable de toi".

C'est quand même paradoxal de soutenir ensuite qu'un système pourrait devenir "indistinguable" d'un autre système - tout en fonctionnant sur des principes complètement différents, et c'est bien évidemment faux.

[titijoy3]

Oui, c'est ce qu'on dit avec quelques autres depuis le début du fil. Cela n'a pas empêché le primo-posteur de nous expliquer qu'on pouvait parler de quelque chose sans savoir ce que c'était entre autres...

Au passage, la conscience comme l'intelligence est un terme tellement imprécise, polysémique et dont la définition varie régulièrement qu'on peut même se demander si le concept a du sens au niveau scientifique.
J'ai vraiment été marqué par un de mes profs en IAs qui nous avait dit (alors qu'on était très loin du niveau actuel) que l'intelligence, c'est ce que les humains font et pas les machines.
Et que chaque fois que les machines progressent, les humains remontent la barre, changent la définition l'intelligence...
Par exemple, que savoir jouer aux échecs était considéré comme une preuve d'intelligence. Mais que les machines étaient meilleures que les humains depuis déjà des années mais qu'on avait donc changé le critère.

Quand ChatGPT 3.5 est apparu, on a eu beaucoup de discours disant "c'est juste un perroquet" et "cela se contente de prédire le prochain mot donc ce n'est pas intelligent".
4 ans plus tard, ses descendants sont capables de beaucoup de choses et notamment de trouver des démonstrations de maths qui ont échappé aux humains.
Ce qui est intéressant, c'est qu'on a donc arrêté totalement le débat sur "sont elles intelligentes" : on n'en parle carrément plus...

Parce que "l'intelligence" n'a jamais été définie autrement que comme "une qualité que moi j'ai et que je dénie aux machines et à beaucoup d'autres êtres humains ce qui me permet de flatter mon égo".
Le même prof proposait d'ailleurs de dire que l'IA cherchait à reproduire nos fonctions cognitives, que celles ci étaient nombreuses et variées, qu'on y arrivait bien sur certaines, pas du tout sur d'autres mais qu'on progressait.

Pour la conscience, c'est plus compliqué, il y a moins d'égo impliqué mais aussi moins de critères objectifs comme celui de "l'ensemble des fonctions cognitives".
Mais on pourrait aussi faire des expériences de pensée sur les sujets qui ont été déjà pas mal abordés en fiction : que se passe t'il si on reproduit complètement d'une façon ou d'une autre une personnalité humaine soit en simulant son cerveau au niveau neurones/synapses soit à un niveau plus élevé ?
Est ce qu'on a en face de nous quelque chose de conscient ? Parce qu'on n'est pas si loin de ça d'y arriver, quelques dizaines d'années au plus.

Autre exemple : je peux vraiment facilement dès aujourd'hui faire qu'une IA réponde ici à ma place, choisisse les mêmes genre de fil, garde une mémoire des intervenants, reproduise mon ton "acerbe"...
Bref, qu'elle soit indistinguable de moi.

Si aucun participant au forum ne peut faire la différence, comment définir que je suis conscient et pas l'IA en question ?
En fait, cela revient à "comment donner une définition de la conscience avec un test expérimental qui permet de détecter ou d'infirmer sans présence ?".

Sans cela, c'est un peu comme si on parlait d'une maladie sans avoir jamais défini ses symptômes, sans savoir comment la diagnostiquer, etc. Cela existe ceci dit dans les pseudo-médecines, en psychanalyse, etc.
Mais ce n'est pas scientifique.

dans ce cas il faut admettre que l'humain possède toutes les caractéristiques d'une machine, biologique certes, et ça remet en question, comme je l'ai prétendu ailleurs, le libre arbitre

[racard]

bah fais le alors puisque c'est si facile, je suis vraiment curieux de voir le résultat.

+1000
moi aussi je veux bien voir le résultat !

[polo974]

un autre paradoxe rigolo est qu'en disant ça, tu admets implicitement que les IA apprennent par des mécanismes très différents de ceux des humains, puisque, bien évidemment, tu serais totalement incapable de faire ça pour un autre être humain que toi, et le rendre "indistinguable de toi".

C'est quand même paradoxal de soutenir ensuite qu'un système pourrait devenir "indistinguable" d'un autre système - tout en fonctionnant sur des principes complètement différents, et c'est bien évidemment faux.

En fait, il est fort probable qu'en prenant tous les fils de discussion où tu es déjà intervenu, on arrive déjà aujourd'hui à créer un CyranoBis qui réponde et écrive comme toi, avec autant de mauvaise foi et de certitudes infondées sans que personne (à part toi, j'espère) ne s'en rende compte. Il suffit juste d'un peu d’entraînement. Et ça doit même fonctionner sur des sujets voisins mais pas encore abordés.

Au fait, au tout début, tu disais en gros "il se passe rien pendant un bout de temps, donc il n'y a pas de conscience (non définie, bien sûr), mais plus tard, tu disais sans vergogne que quand ça bougeait dans l'IA (le temps que les données traversent les portes), il se passe n'importe quoi, donc il n'y a pas de conscience (non définie, bien sûr).
Mais en fait, dans un cerveau vivant, la plupart du temps, les neurones sont au repos, et quand ça ce met à bouger, et bien, il y a aussi des moments où le résultat n'est pas encore totalement établi.


Bref, tu fonctionnes comme les terreplatistes qui ne cherchent pas vraiment à démontrer leurs assertions mais plus à démonter celles des autres pour mieux assoir tes dogmes.

Dernier petit exemple de ta constance dans ton inconstance:

pour mentir, il faut surtout ...

puis plus loin quand pm42 reparle de cas où l'IA a déjà menti:

Quand j'ai parlé du fait que les IAs étaient capables de mentir, se cacher,

tu lui réponds:

on peut très bien avoir cette discussion, c'est juste que ce n'était pas le sujet du fil donc il faudrait ouvrir un autre fil pour en discuter.

Tu a donc aussi abordé le sujet, mais la réalité qui en est sortie ne te conviens pas, alors tu censures...

[Cyrano]

En fait, il est fort probable qu'en prenant tous les fils de discussion où tu es déjà intervenu, on arrive déjà aujourd'hui à créer un CyranoBis qui réponde et écrive comme toi, avec autant de mauvaise foi et de certitudes infondées sans que personne (à part toi, j'espère) ne s'en rende compte. Il suffit juste d'un peu d’entraînement. Et ça doit même fonctionner sur des sujets voisins mais pas encore abordés.

ben vas y alors, commence par toi : crée une IA qui te ressemble et qui réponde comme toi, puisque tu penses que c'est si facile. On verra si tu arrives à nous tromper.

Au fait, au tout début, tu disais en gros "il se passe rien pendant un bout de temps, donc il n'y a pas de conscience (non définie, bien sûr), mais plus tard, tu disais sans vergogne que quand ça bougeait dans l'IA (le temps que les données traversent les portes), il se passe n'importe quoi, donc il n'y a pas de conscience (non définie, bien sûr).

non je n'ai pas dit ça, relis moi. J'ai juste posé la question de ce qui se passerait à votre avis si on ralentissait le processeur à un coup par heure ou même moins. Je n'ai pas donné de réponse, je voulais avoir l'avis de chacun et bien sur tu peux donner le tien comme tout le monde.

Mais en fait, dans un cerveau vivant, la plupart du temps, les neurones sont au repos, et quand ça ce met à bouger, et bien, il y a aussi des moments où le résultat n'est pas encore totalement établi.

ah bon alors pourquoi on définit la mort cérébrale par l'arrêt de l'activité électrique, si il ne se passe rien dans un cerveau vivant ?

Bref, tu fonctionnes comme les terreplatistes qui ne cherchent pas vraiment à démontrer leurs assertions mais plus à démonter celles des autres pour mieux assoir tes dogmes.

je n'ai fait aucune assertion, j'ai juste posé des questions. En revanche c'est un beau mécanisme de projection puisque toi tu viens d'en faire une sans aucune démonstration en commençant ton message :

En fait, il est fort probable qu'en prenant tous les fils de discussion où tu es déjà intervenu, on arrive déjà aujourd'hui à créer un CyranoBis qui réponde et écrive comme toi, avec autant de mauvaise foi et de certitudes infondées sans que personne (à part toi, j'espère) ne s'en rende compte. Il suffit juste d'un peu d’entraînement. Et ça doit même fonctionner sur des sujets voisins mais pas encore abordés.

Dernier petit exemple de ta constance dans ton inconstance:

c'est surtout un autre exemple de ta mauvaise foi, puisque tu as supprimé de ta citation la dernière phrase parlant de la "discussion", à laquelle je répondais justement.

Soit on a une discussion où les gens veulent apprendre ce que peuvent faire les IAs actuelles et ils posent des questions et on peut donner des références précises

[polo974]

ben vas y alors, commence par toi : crée une IA qui te ressemble et qui réponde comme toi, puisque tu penses que c'est si facile. On verra si tu arrives à nous tromper.

Je n'en ai pas les compétences et ai autre chose à faire que ça...

non je n'ai pas dit ça, relis moi. J'ai juste posé la question de ce qui se passerait à votre avis si on ralentissait le processeur à un coup par heure ou même moins. Je n'ai pas donné de réponse, je voulais avoir l'avis de chacun et bien sur tu peux donner le tien comme tout le monde.

Mais ouiiii, bien sûr, tu "poses une question" et tu refuses toute réponse n'allant pas dans ton sens...

ah bon alors pourquoi on définit la mort cérébrale par l'arrêt de l'activité électrique, si il ne se passe rien dans un cerveau vivant ?

Comprends-tu l'expression "la plupart du temps" ? ? ?

...
c'est surtout un autre exemple de ta mauvaise foi, puisque tu as supprimé de ta citation la dernière phrase parlant de la "discussion", à laquelle je répondais justement.

Euh, non, c'est toi qui as dit que pour mentir, il fallait tout un tas de trucs dont n'est pas doté une ia, et qui une fois qu'on t'as prouvé que les ia savaient mentir, c'est toi qui écartes le sujet...
projection, tout ça, là...

[Cyrano]

Je n'en ai pas les compétences et ai autre chose à faire que ça...

alors qu'est ce qui te permet d'affirmer que c'est "très probable" qu'on puisse le faire si tu n'en as pas les compétences ?

Par ailleurs vu le buzz qu'on fait quand un robot court le 100 m plus vite que Husain Bolt, tu imagines qu'on ait pu faire ça (copier parfaitement un être humain) quelque part dans le monde sans que ça fasse un immense buzz planétaire ?

Un peu de sérieux ne ferait pas de mal ...

Mais ouiiii, bien sûr, tu "poses une question" et tu refuses toute réponse n'allant pas dans ton sens...

pardon ? à quelle réponse ai-je refusé de répondre avec des arguments rationnels ?

Comprends-tu l'expression "la plupart du temps" ? ? ?

je pense qu'il serait plus raisonnable que tu arrêtes de ramer dans les sables mouvants ....

Euh, non, c'est toi qui as dit que pour mentir, il fallait tout un tas de trucs dont n'est pas doté une ia, et qui une fois qu'on t'as prouvé que les ia savaient mentir, c'est toi qui écartes le sujet...
projection, tout ça, là...

on n'a rien prouvé du tout, on se contente d'observer un output qui "ressemble" à ce qu'un humain dirait si il mentait, et on dit "l'IA ment".

mais encore une fois mentir implique qu'on connait la vérité, et personne n'a démontré que c'était le cas d'une IA, à commencer par démontrer qu'elle "connait" quoi que ce soit d'ailleurs. C'est des "preuves" autoréférentielles circulaires où on semble prendre comme admis ce qu'on veut prouver.

Et je maintiens que ma réponse sur la "discussion à avoir" portait sur la dernière phrase de la citation de PM42 que tu avais effacée, c'est factuel.

[mh34]

Bof, je pense que pour l'IA c'est pas vraiment important, l'important c'est ce que cela "fait" la conscience, cela peut s'envisager comme un un ensemble de propriétés. L'histoire du c'est de la vrai ou c'est de la fausse est pas forcement le sujet.

Pas d'accord, ou alors il va falloir soit changer notre sémantique sur ce sujet ( pourquoi pas? ) soit trouver un nouveau vocabulaire, parce que l'IA n'a pas à l'heure actuelle de conscience phénoménale ( oui je sais je reviens sur ce point, mais il est très important pour caractériser la conscience humaine).

[pm42]

parce que l'IA n'a pas à l'heure actuelle de conscience phénoménale ( oui je sais je reviens sur ce point, mais il est très important pour caractériser la conscience humaine).

En effet. On peut se poser la question quand on fait des IAs embarquées comme celles qui conduisent des voitures.
Ou suivant comme on définit le concept, de se dire qu'un agent qui accède à Internet, regarde des images, écoute du son a "des sens".

Au passage, je ne défends pas du tout l'idée que l'IA a une conscience de quelque type que ce soit ni le contraire. En fait, je n'ai pas d'avis et encore moins tant qu'on n'a pas une définition qui fasse consensus.

[mh34]

En fait, il est fort probable qu'en prenant tous les fils de discussion où tu es déjà intervenu, on arrive déjà aujourd'hui à créer un CyranoBis qui réponde et écrive comme toi, avec autant de mauvaise foi et de certitudes infondées sans que personne (à part toi, j'espère) ne s'en rende compte. Il suffit juste d'un peu d’entraînement. Et ça doit même fonctionner sur des sujets voisins mais pas encore abordés.

Au fait, au tout début, tu disais en gros "il se passe rien pendant un bout de temps, donc il n'y a pas de conscience (non définie, bien sûr), mais plus tard, tu disais sans vergogne que quand ça bougeait dans l'IA (le temps que les données traversent les portes), il se passe n'importe quoi, donc il n'y a pas de conscience (non définie, bien sûr).
Mais en fait, dans un cerveau vivant, la plupart du temps, les neurones sont au repos, et quand ça ce met à bouger, et bien, il y a aussi des moments où le résultat n'est pas encore totalement établi.

Juste sur ce que j'ai surligné en gras ; vous entendez quoi par "neurones au repos"?

En effet. On peut se poser la question quand on fait des IAs embarquées comme celles qui conduisent des voitures.
Ou suivant comme on définit le concept, de se dire qu'un agent qui accède à Internet, regarde des images, écoute du son a "des sens".

Au passage, je ne défends pas du tout l'idée que l'IA a une conscience de quelque type que ce soit ni le contraire. En fait, je n'ai pas d'avis et encore moins tant qu'on n'a pas une définition qui fasse consensus.

Ben pour l'humain, ils semblent à peu près d'accord sur l'idée que les deux types de conscience ( phénoménale et d'accès) sont présents. Là où ils n'ont pas encore trouvé de consensus, c'est sur le rôle et l'importance de ces deux types, ce qui ressort clairement des articles que j'ai donnés en lien. Ma question principale est ; est-il réaliste d'envisager qu'on puisse doter une IA d'une conscience phénoménale?

[polo974]

alors qu'est ce qui te permet d'affirmer que c'est "très probable" qu'on puisse le faire si tu n'en as pas les compétences ?

Un peu la même chose qui me permet de dire qu'on peut faire voler des trucs de plus de 100 tonnes à plus de 800 km/h à plus de 10000 m d'altitude par exemple...
Je sais très bien que c'est faisable, même si je n'ai pas les compétence pour le faire.

Par ailleurs vu le buzz qu'on fait quand un robot court le 100 m plus vite que Husain Bolt, tu imagines qu'on ait pu faire ça (copier parfaitement un être humain) quelque part dans le monde sans que ça fasse un immense buzz planétaire ?

Un peu de sérieux ne ferait pas de mal ...

Mais ni le sujet initial ni le fait d'imiter les réponses de quelqu'un ne correspond au fait "de copier parfaitement un être humain".
À chaque fois qu'on te montre un truc, tu change le cahier des charges...

pardon ? à quelle réponse ai-je refusé de répondre avec des arguments rationnels ?

Au fait qu'il ne se passe rien la plupart du temps sur un neurone par exemple. Tu transformes la réponse pour la rejeter.
Et ce n'est qu'un exemple...

je pense qu'il serait plus raisonnable que tu arrêtes de ramer dans les sables mouvants ....

Et toi , tu creuses un tunnel dans la falaise ? ? ?

on n'a rien prouvé du tout, on se contente d'observer un output qui "ressemble" à ce qu'un humain dirait si il mentait, et on dit "l'IA ment".

mais encore une fois mentir implique qu'on connait la vérité, et personne n'a démontré que c'était le cas d'une IA, à commencer par démontrer qu'elle "connait" quoi que ce soit d'ailleurs. C'est des "preuves" autoréférentielles circulaires où on semble prendre comme admis ce qu'on veut prouver.

As-tu une preuve de ce que tu avances ? ? ?
Je te renvoies à ta question précédente.

Et je maintiens que ma réponse sur la "discussion à avoir" portait sur la dernière phrase de la citation de PM42 que tu avais effacée, c'est factuel.

Oui, tu ignores la partie importante qui contredit tes mantras et (le fait que l'ia puisse déjà mentir) et tu portes ton focus sur une phrase qui demande juste d'être rigoureux dans la discussion:

Soit on a une discussion où les gens veulent apprendre ce que peuvent faire les IAs actuelles et ils posent des questions et on peut donner des références précises