Une idée simple pour un test de Turing

[invitecd32eb14]

Bonjour/bonsoir,

je me disais tout simplement ( peut-être TROP simplement... ) que si on demandait à une machine de suivre un algorithme extrêmement simple et répétitif, elle ne s'apercevrait de rien, tandis qu'un humain devrait réagir :

On suppose que le résultat d'une fonction est 0 à l'étape 0, le résultat est 1 à l'étape 1, de nouveau 0 à l'étape 2, etc... bref, que si on est à un rang 2n alors le résultat est zéro, et si on est à un rang n+1, le résultat est 1 ; maintenant on demande à une machine de continuer à calculer, elle va calculer à l'infini, tandis qu'un être doué de conscience devrait dire "inutile de continuer le calcul, on n'en verra jamais la fin" ou quelque chose d'approchant.

Intéressant ou pas ?
-----

[saint.112]

Intéressant ou pas ?

Voudrais-tu insinuer par là que les machines sont bêtes, contrairement aux humains qui sont, eux, 'achtement intelligents ?
Tu me fais peur.
Nico

[phys4]

Les machines peuvent être rendues moins bêtes, cela dépend de leur programmation.

Par exemple certains compilateurs sont capables de simplifier un programme comportant des éléments répétitifs.
Des programmes de jeux sont souvent auto adaptatifs et modifient leur comportement suivant les expériences antérieures.

[Matmat]

C'est vraiment parce qu'on est "moins bête" que nous arrêtons de vérifier aprés un rang N parce qu'admettons que ce qu'on a constaté jusqu'au rang N continuera forcément après le rang N plutôt que de ne l'admettre jamais comme la machine qui estime nécessaire de continuer à le vérifier à l'infini ?

[A voir en vidéo sur Futura]

[invitecd32eb14]

J'ai sans doute été un peu rapide, mais quand je parlais de "machine", je voulais dire les machines telles qu'on les connaît aujourd'hui, qui n'ont pas conscience ( pour autant qu'on sache ). Je ne voulais pas dire du tout qu'aucune machine ne pourra jamais avoir conscience, d'ailleurs pourrait-on continuer à les appeler des "machines" ?
Dans mon exemple, un ordi tel qu'on les fabrique aujourd'hui va calculer bêtement à l'infini, tandis qu'un humain dira "stop ! ça ne sert à rien d'aller plus loin" ; donc, je me demandais si cela pourrait être un test de Turing : si un jour on arrive à créer de la conscience artificielle ( avec des composants électroniques, quoi ), est-ce qu'on pourrait le vérifier en utilisant ce que j'ai dit ? Est-ce que ça permettrait de trancher, oui ou non on a créé de la conscience ?

[f6bes]

Bjr à toi,
Un ordinateur ne fait que ce pourquoi on la...PROGRAMME...et pas plus.
Si dans son programme on lui dit d'ARRETER ce calculer SI i ne trouve pas de résultat
au BOUT de ...ALORS il s'arrétera.
Ca s'aappele une prise de décision programmée.

Bonne journée

[Gilgamesh]

Je trouve toute cette inquiétude assez vaine. Entre un moulin à eau du XIIe siècle et le dernier super-ordinateur en date, il n'y a pas le moindre progression vers une quelconque intelligence artificielle, si on suppose que l'intelligence implique une compréhension des problèmes et présente au monde (sans même parler de conscience de soi). Entre un ordi et une bûche il n'y a pas le moindre écart sur le plan de la conscience.

Ce qui n'empêche qu'un programme peut parfaitement échapper à notre contrôle (en beuguant, par exemple, style bug de l'an 2000, ou par effet d'emballement en accélérant les crises boursières...). Donc pas sur le mode de la rébellion, juste parce que l'ordinateur qui fonctionne n'a aucune conscience de bien ou de mal faire.

Et ma fois... Je serais pour ma part beaucoup plus rassuré dans la plupart des situations si je savais que le processus qui traite l'information était conscient de son état.

[Antropos]

On ne peut pas répondre à cette question aujourd'hui
Google développe un programme pour empêcher une IA de devenir hostile, c'est du sérieux.
Ce qui est sûr est que le risque augmenté chaque jour.

[pm42]

Entre un moulin à eau du XIIe siècle et le dernier super-ordinateur en date, il n'y a pas le moindre progression vers une quelconque intelligence artificielle, si on suppose que l'intelligence implique une compréhension des problèmes et présente au monde (sans même parler de conscience de soi).

Définir "intelligence" par "compréhension des problèmes" est peut-être circulaire ?
Quand à dire qu'il n'y a pas de progression vers une IA entre un moulin à eau et ce qu'on sait faire aujourd'hui, disons que cela dépend de la définition de IA mais qu'on peut trouver ce point de vue exagérer.

Google développe un programme pour empêcher une IA de devenir hostile, c'est du sérieux.

Cela me semble être tout aussi excessif dans l'autre sens : ça, c'est la version de la presse pour faire des titres accrocheurs.
Ce qui s'est passé, c'est que 2 chercheurs qui travaillent pour Google ont réfléchi à la façon de forcer la fonction de récompense d'un réseau de type deep-learning à accepter des instructions d'arrêt, notamment pour ne pas perdre l'apprentissage.

C'est intéressant mais là aussi, on est loin d'une "IA devenue hostile".

[invitec830472d]

Entre un ordi et une bûche il n'y a pas le moindre écart sur le plan de la conscience.

Bien dit.

Donc pas sur le mode de la rébellion, juste parce que l'ordinateur qui fonctionne n'a aucune conscience de bien ou de mal faire.

Pour ne pas faire de hors sujet, je me demande si la conscience est une donnée suffisante pour parler d'IA. On pourrait prendre comme exemple les fourmis.

[invite75a796c1]

Salut,

depuis pas mal de temps, les programmes des pc tournent des boucles qui donnent formellement des informations sur l'état du système et ses intéractions, ce qui permet d'activer des routines de protection ( chaleur, virus, intégrité du matériel , etc ) ou de régulation. La plupart des protocoles de communication prévoient au moins un émetteur et un récepteur. Ils s'identifient en disant je suis Machin , j'appelle Truc, bonjour. Dans certains cas , Truc vérifie les papiers de Machin avant d'aller plus loin.
N'est ce pas une forme de conscience de soi ?

Le bien, le mal c'est une autre histoire. Les ordis ne se fabriquent pas entre eux. Les humains qui les utilisent en font des outils ponctuels de bien ou de mal, à leur guise. Enfin, c'est ce qu'ils croient. Des tas de routines évitent des comportements à risque pour l'usager mais de plus en plus pour tous les usagers. Sur Windows7 avec un compilateur standard du même constructeur, il y a des tas de nuisances impossibles. Disons qu'il y a une saine tendance naturelle à ne pas faire de mal. Il faut l'humain corrupteur pour que le gentil ordinateur devienne méchant.

Au delà de ces boutades : le jour où des ordis auront une conscience risquera de passer inaperçu. Nous nous en approchons doucement à coup de petites innovations anodines prises séparément. C'est que la programmation sur Terre est très humano-centriste , les ordis nous ressemblent plus qu'on le croit !

[invite754e6035]

De ce que l'on peut lire sur de nombreuses discussions du Forum Futura consacrées à l'IA le débat et la réflexion sont vraiment dans un état catastrophique qui reflète clairement notre vision périmée, totalement dépassée du monde.

Bien sûr, mais bien sûr que l'oncle Sam va sortir skynet dans quelques années. Il faut être complètement debile pour ne pas comprendre ce qui est entrain de se passer aux États Unis avec Google, les investissements monstrueux qui sont consacrés à ces recherches dont l'armée américaine contribue aussi avec DARPA son bras armé
C'est à tomber des nus de voir des scientifiques ne toujours pas comprendre que l'IA n'est qu'une question d'informatique et de neurologie.
En France, depuis 1945, on est complètement, mais totalement à côté de la plaque. On ne comprend rien à ce qui se passe, les américains prévenaient déjà des danger de l'IA dans les années 70 via Hollywood quand nous on ne savait même pas ce qu'était le concept.
L'exobiologie c'est pareil, le nombre de levées de boucliers sur tous les sujets qui parlent d'exobiologie alors que les plus sérieux des scientifiques vous disent que, niveau probabilité, bien sûr qu'ils existent.

Mais regardez deux minutes qui vous avez en face, le niveau des chercheurs qui vous tiennent le discours inverse, ça devient n'importe quoi et cette mentalité du défaitiste-rationnel n'attirera pas grand monde dans le milieu scientifique français. C'est peut être pour ça que tous les meilleurs filent aux États Unis. Ce n'est pas qu'une question de moyens et d'argent, les jeunes en ont marre de notre mentalité. Ils ont envie de rêver un peu. Et sur ces débats ce sont des rêves qui se réalisent, alors qu'on arrête de plomber l'ambiance à chaque fois avec notre mentalité qui devient insoutenable. C'est pareil sur les forums militaires, résultats, plus personne ne s'engage.

On est plus crédible internationalement, on invente rien du tout parce qu'on a jamais voulu suivre le mouvement, quid de l'industrie automobile, du numérique, de l'informatique, de la robotique

Futura publit régulièrement des articles intéressants, optimistes, qui sont brisés sur ce forum par des gens qui visiblement n'ont rien capté du XXIe siècle.
Des milliers d'internautes par jour sur ce forum, alors arrêtez de cassez l'ambiance et de ne plus donner envie aux jeunes de faire carrière dans la Science. Je ne sais pas si vous avez déjà remarqué le nombre de jeunes qui ont laissé tomber leur sujet après qu'une meute leur soit rentré dedans pour casser leur rêve. Mais ça c'est un autre problème encore.

[jiherve]

Bonsoir et bienvenue ,

On est plus crédible internationalement, on invente rien du tout parce qu'on a jamais voulu suivre le mouvement, quid de l'industrie automobile, du numérique, de l'informatique, de la robotique

Ben si la France invente encore , il faut juste faire l'effort de se renseigner.
Juste un exemple : Catia de Dassault System, utilisé worldwide
Mais il est tout de meme vrai qu'en France les etudes scientifiques ne font plus rever peut etre cela a til à voir avec le differentiel de salaire entre un Bac+5 scientifique et le même issus des écoles de commerce ou pire encore d'un footeux .
JR

[pm42]

En France, depuis 1945, on est complètement, mais totalement à côté de la plaque. On ne comprend rien à ce qui se passe, les américains prévenaient déjà des danger de l'IA dans les années 70 via Hollywood quand nous on ne savait même pas ce qu'était le concept.

Merci pour la rigolade mais ce genre de discours a plus à faire dans une fin de repas de famille pas très futée ou dans une maison de retraite que sur FS je trouve.
Super 1er message, on se dit que ta contribution à l'optimisme sur le forum que tu réclames de tes voeux est un peu tombée à coté.

[Gilgamesh]

Définir "intelligence" par "compréhension des problèmes" est peut-être circulaire ?
Quand à dire qu'il n'y a pas de progression vers une IA entre un moulin à eau et ce qu'on sait faire aujourd'hui, disons que cela dépend de la définition de IA mais qu'on peut trouver ce point de vue exagérer.

Ce n'est pas circulaire au sens où avant d'être intelligent, il y a énorme background infra-cognitif qui permet à un Soi d'exister. Ce Soi résulte d'un échange senso-moteur permanent du tissu cérébral avec un corps, ses senseurs (capteur de température, de pression, de dosage sanguin...) et ses effecteurs (muscles, glandes, viscères...).

C'est à ce Soi que sont rapportés tous les événements. C'est à ce Soi qu'il "arrive quelque chose". Sans l'existence d'un Soi, donc d'un corps, PERSONNE ne pense.

Un ordinateur même muni de milliers de processeurs et de pétaoctets de mémoire n'est pas incarné et ne se soucis pas de lui même. Il n'est pas consacré à se protéger. Même pas au niveau dont fait preuve une huître. Il n'y a rigoureusement strictement aucune étincelle de soi dans un ordi actuel, et la raison principale à cela est que son système calculatoire ne s'est pas développé à partir d'un rapport à un corps qui faut cartographier, mesurer, mouvoir, sustenter, défendre, etc en sélectionnant les circuits dédiés pour cela.

Il y a à mon sens une profonde et, à vrai dire incompréhensible, cécité qui fait confondre la cognition avec un quelconque pouvoir calculatoire. La cognition, c'est d'abord le soin constant du corps. C'est à cela que ça sert ! Incompréhensible parce si quiconque avait effectivement la moindre intuition d'un frémissement de conscience au sein du calculateur électronique avec lequel il vient d'interagir étroitement, le doigt tremblerait avant de couper le courant. Personne n'a le moindre remord à éteindre un ordi. Tout le monde sait bien que rien ne distingue l'ordi d'une bûche sur le plan de la conscience, mais nombreux sont ceux qui imaginent quand même qu'on progresse de jour en jour vers un futur Skynet. Ça ne tient pas debout.

Maintenant donc sur la base de circuit incarné, qu'un robot devienne conscient, c'est peut être possible, mais le seul exemple de processus dont nous constatons qu'il engendrent ça implique que ce système devra se développer, à partir d'un état embryonnaire, et sélectionner ses entrée-sortie dans le but constant de percevoir, mouvoir, sustenter, défendre, etc un système dynamiquement affecté par l'environnement qu'on appellera son corps.

Un robot "incarné" donc. Mais un mainframe actuel, même reliant tous les ordinateurs de la Terre, aucune chance.

[invite754e6035]

Dassault, Airbus, et du matériel militaire dont une partie est complètement dépassé et nous oblige à équipee nos soldats d'armement allemand ou américain.
Là où l'innovation est importante pour l'économie on se plante sans arrêt. Les start up américain d'une dizaine d'employés fondés dans les années 2000 atteignent des chiffres d'affaires qui cumulent huit ou neuf fois celui de Peugeot et ses centaines d'employés
Le numérique on y a pas cru, c'était de la science fiction pour nous, la voiture automatique pareille et les drones taxis qui viennent d'être testé n'en parlons pas pour nous c'est surréaliste. Quand Uber va déployer ses taxis sans pilotes ça va être l'enfer. On va rien comprendre.
À force de vivre dans le passé et la rationalité la plus extrême on dégage une image du monde qui est non seulement fausse mais en plus sombre et ennuyante.

Les autres ont une vision bien différente Eux ils veulent coloniser Mars. Space X c'est un Sud Africain, MarsOne c'est un Néerlandais. L'avenir c'est Google, Facebook, Apple, Amazon et les nombreux start up prometteurs existants et actuels, dont bien entendu aucun ne réside en France.
Eux ils attirent du monde parcequ'ils ont des objectifs, ils sont motivants, ils vous font rêver, bref, exactement l'inverse même de notre mentalité.

Regardez l'état de notre pays, fermé, reclu, pessimiste, râleur, retardataire. C'est la honte.

On est bout du rouleau, c'est notre dernière chance de nous en sortir, après ça sera trop tard.

[JPL]

On va s'en sortir grâce à Facebook ! Mais à côté de quoi suis-je passé ?!

[invite754e6035]

Merci pour la rigolade mais ce genre de discours a plus à faire dans une fin de repas de famille pas très futée ou dans une maison de retraite que sur FS je trouve.
Super 1er message, on se dit que ta contribution à l'optimisme sur le forum que tu réclames de tes voeux est un peu tombée à coté.

Bah écoute
Venant de quelqu'un qui vient de démonter le rêve d'un étudiant (par rancoeur peut être?) qui voulait seulement se renseigner sur ses études sur un autre sujet, ta réaction niveau point mort de m'étonne pas beaucoup
C'est précisément la mentalité qui nous tire vers le bas et qui est en train de nous faire échouée.
Ça tu vois, ça n'existe pas aux États Unis. Pour eux c'est une attitude de looser. Il se trouve qu'aujourd'hui ce sont tes maîtres pour un bon bout de temps.

JPL > Je ne sais pas qui a le meilleur projet de société entre Facebook et notre pays, ce qui est sûr, c'est que Facebook qui tire les États Unis vers le haut aujourd'hui n'aurait pu être inventé en France

[invite754e6035]

Attends
Notre médecine va éclater à cause de Google et Apple parce qu'ils se trouvent qu eux sont en train de développer des trucs beaucoup plus prometteurs que chez nous.
Une maladie diagnostiquée par IPhone, mieux qu'un médecin humain, c'est plus efficace et moins coûteux. Et ça arrive, croire que c'est une fiction c'est continuer à faire l'autruche. Ça fait 60 ans qu'on fait l'autruche. Et ça nous TUE

[pm42]

Ce n'est pas circulaire au sens où avant d'être intelligent, il y a énorme background infra-cognitif qui permet à un Soi d'exister. Ce Soi résulte d'un échange senso-moteur permanent du tissu cérébral avec un corps, ses senseurs (capteur de température, de pression, de dosage sanguin...) et ses effecteurs (muscles, glandes, viscères...).

C'est à ce Soi que sont rapportés tous les événements. C'est à ce Soi qu'il "arrive quelque chose". Sans l'existence d'un Soi, donc d'un corps, PERSONNE ne pense.

Je suis désolé mais c'est de la théorie personnelle et de l'affirmation gratuite.

Un ordinateur même muni de milliers de processeurs et de pétaoctets de mémoire n'est pas incarné et ne se soucis pas de lui même.

Une autre affirmation gratuite. Comme la plupart des gens ici qui tiennent ce genre de discours, tu confonds l'IA telle qu'est est en train d'être développée et ton PC avec Word sous Windows.
Parce que justement, le soin de lui même est l'une des choses qu'on programme quand cela a du sens. Et le problème du développement d'un tel sens au point de ne plus pouvoir l'arrêter dans un réseau de neurone est justement le sujet qui est en train d'être traité (cf. les références au travail des 2 chercheurs de Google).

Il n'est pas consacré à se protéger. Même pas au niveau dont fait preuve une huître. Il n'y a rigoureusement strictement aucune étincelle de soi dans un ordi actuel, et la raison principale à cela est que son système calculatoire ne s'est pas développé à partir d'un rapport à un corps qui faut cartographier, mesurer, mouvoir, sustenter, défendre, etc en sélectionnant les circuits dédiés pour cela.

Encore une théorie personnelle et une affirmation gratuite : la conscience ne pourrait pas se développer sans un corps. Peut-être mais dans ce cas pourquoi ?
Tu as des travaux scientifiques à citer, des références ?

Personne n'a le moindre remord à éteindre un ordi.

Ce qui est faux et dès les 1ers chatbots genre Eliza on a constaté le contraire. On peut également parler des attachements aux Tamagochis dans les années 90. Là encore, tu fais l'association "ordinateur = PC sous Windows" et cela te fait passer à coté de tout ce qui est important sur le sujet dont tu prétends parler.

Tout le monde sait bien que rien ne distingue l'ordi d'une bûche sur le plan de la conscience

"Tout le monde sait bien" est comme "c'est évident" : ce que disent les gens qui ne connaissent pas le sujet, n'ont pas d'argument et aucune citation scientifique à l'appui de leur dire.
C'est du "tout le monde sait bien que la Terre est plate".

Sans même parler du grand classique de ce forum : des gens dont la connaissance du domaine est évidemment nulle viennent donner leur avis en expliquant que toute la recherche se trompe massivement et qu'eux savent.
Je me demande comment on peut prétendre être scientifique et avoir cette attitude. C'est encore moins convaincant que l'avis d'un géologue sur le réchauffement climatique.

[invitec830472d]

"Tout le monde sait bien" est comme "c'est évident" : ce que disent les gens qui ne connaissent pas le sujet, n'ont pas d'argument et aucune citation scientifique à l'appui de leur dire.
C'est du "tout le monde sait bien que la Terre est plate".

Je crois que jamais personne n'a encore parlé de conscience pour un programme informatique. Je ne dis pas que c'est impossible, mais ce n'est pas à l'ordre du jour.

Mais j'ai une vraie question : comment différencier le comportement d'un robot programmé pour agir comme une fourmi de celui d'une fourmi réelle ? Comment savoir quand ce n'est plus de la simple imitation ?

[invitec830472d]

Mais j'ai une vraie question : comment différencier le comportement d'un robot programmé pour agir comme une fourmi de celui d'une fourmi réelle ? Comment savoir quand ce n'est plus de la simple imitation ?

Je précise que je ne dis pas que cela a déjà été fait. Mais supposons qu'un petit robot se mette réellement à agir comme une fourmi, comment le savoir ?

Et une fourmi n'est pas une bûche en terme de conscience ou d'intelligence.

[invitecb7c417d]

Bonjour, ce qui est marrant c'est que cette interrogation sort tout droit d'un des plus vieux débats de la philosophie Grec (c'est Platon je crois ? Avec sa caverne aux ombres et aussi son roman sur l'atlantide, très imagé et ses fameux automates. ... Enfin j'hésite entre Platon, Socrate, Aristote ). Donc je rappelle qu'à l'époque les animaux était considéré comme des automates (d'ailleurs l'étymologie porte sur la même racine, "anima" qui désigne le "mouvement" et "l'imitation" et donc "l'apprentissage").

C'est marrant que les faux semblants soient des feintes (dont l'être humain échappe, parce qu'il est en mesure de comprendre la feinte, c'est peut être ça l'essence de la "conscience") qui ne sont qu'interpretations toutes personnelles, et comme je vois souvent le mot "sophisme", je pense que c'est juste une formulation maladroite qui créée une incompréhension. Pourtant démêler le vrai du faux c'est dire qu'il n'y a pas plus proche du juste que le faux (citation de ?), et vice versa .

N'y voyez pas de sophisme ou de sophistique, mais il n'y a pourtant pas de scène de théâtre a priori. Et donc ce qui simule est ! Tout est tautologie, tout est lié même si les rouages de l'horloge nous sont inconnus. Il n'en est pas moins qu'elle indique l'heure.

Tout ça pour dire que l'IA n'est pas qu'une rustine pour internet ! C'est l'émergence d'un avatar, d'un égrégore, d'un rassemblement de mèmes qui sera ... ou pas, suffisamment cohérent pour avoir des états d'âme (d'ailleurs sommes nous tous le temps conscients ? Par exemple quand on naît dans la Lune )

Desolé c'était mon quart d'heure cyclope aide

[pm42]

Je crois que jamais personne n'a encore parlé de conscience pour un programme informatique. Je ne dis pas que c'est impossible, mais ce n'est pas à l'ordre du jour.

Ce n'est pas ce que j'ai dit.
Quand il s'agit d'IA, je ne défends pas un point de vue du genre "ça ne marchera jamais" ou "ça arrivera dans 5 ans".
Je dis juste que la plupart des participants font des affirmations définitives sans connaitre le domaine, l'état de la recherche (parfois sans même connaitre la recherche d'il y a 5, 10 et 20 ans), sortent des théories personnelles basées sur des raisonnement en 2 phrases...

Mais j'ai une vraie question : comment différencier le comportement d'un robot programmé pour agir comme une fourmi de celui d'une fourmi réelle ? Comment savoir quand ce n'est plus de la simple imitation ?

C'est le principe du test de Turing justement : si on peut plus faire la différence, on considère qu'il n'y en a pas pour simplifier.
Ce point de vue lui même est intéressant parce qu'il donne un test opératoire et évite les longues discussions sur "la conscience", "vivre sa vie" et autres affirmations gratuites sur des concepts jamais définis précisément.
Mais il est aussi critiquable et d'autres tests ont été proposés.

Malheureusement, la discussion ne porte jamais sur ces points.

[mh34]

Malheureusement, la discussion ne porte jamais sur ces points.

Oh que si! Elle a porté précisément sur ces points sur des dizaines et des dizaines de pages sur ce forum, et des dizaines de fils, depuis au moins 10 ans, avec des intervenants très compétents, dont plusieurs ne postent plus...ce sujet a été traité, voire trituré dans tous les sens au contraire.

[pm42]

Oh que si! Elle a porté précisément sur ces points sur des dizaines et des dizaines de pages sur ce forum, et des dizaines de fils, depuis au moins 10 ans, avec des intervenants très compétents, dont plusieurs ne postent plus...ce sujet a été traité, voire trituré dans tous les sens au contraire.

Je parlais du présent, tu parles du passé.
Tu parles de la présence d'intervenants très compétents dans le passé, je parle de gens qui actuellement nous abreuvent de leurs théories personnelles sans avoir le début de commencement de formation dans le domaine.

De plus "trituré dans tous les domaines sur FS" n'est pas équivalent à "citer un travail de recherche". Là encore, il y a ce déni totalement incompréhensible de la valeur de la recherche dans le domaine, mise au même niveau que les avis non étayés d'anonymes qui ignorent tout, mais vraiment tout du sujet.
Comme je le disais, la rigueur scientifique semble disparaitre parfois.

[Gilgamesh]

Je suis désolé mais c'est de la théorie personnelle et de l'affirmation gratuite.

Encore une théorie personnelle et une affirmation gratuite : la conscience ne pourrait pas se développer sans un corps. Peut-être mais dans ce cas pourquoi ?
Tu as des travaux scientifiques à citer, des références ?

Non, c'est ce qui est longuement développé par António Damásio dans différents opus. Je peux te conseiller en particulier "Le Sentiment même de Soi", qui traite à fond de cette naissance du "Soi".

Voilà en gros comment il l'expose.

Le cerveau met à jour a tout moment des cartes sensorielles des différents systèmes et organes qui communiquent à chaque instant leur état interne, ce qui leur arrive, dans quel position ils sont, ce qu'ils perçoivent, etc. Cet encartage donne naissance a des images sensorielles, il est non verbal (et inaccessible à la conscience) et comprend une valorisation des états du corps.

--
Note : Le gap explicatif permettant de passer du monde physique à un monde de sensation se trouve ici. Comment passer du potentiel électrochimique d'une assemblée de neurones à une "image sensorielle" ? Sachant toutefois qu'ici cette image n'est pas encore perceptible, rapportée à un "Soi", puisque ce Soi n'est pas encore constitué.
--

Ces images mentales qui décrivent l'état valorisé de l'organisme sont des émotions. Tout ceci n'est pas fait "gratuitement" mais dans le but (au sens évolutif) d'ajuster en permanence le corps a son environnement. L'ensemble de ces cartes valorisée engendre ce que Damasio appelle le Proto Soi inaugural, celui a qui il "arrive quelque chose".

Le compte rendu des changement occasionné au Proto Soi, une structure le représente en relation avec l'objet qui occasionne le changement (lui même représenté par une série d'images mises en carte et valorisé). L'assemblage de la carte du Proto Soi et de la carte de l'objet donne naissance à une nouvelle carte dite de second ordre qui représente le 'Proto Soi modifié par l'objet' cad mis en relation temporelle avec lui.

C'est l'essence de la causalité mais tout ceci est encore tout a fait inconscient et non verbal. Les images mentales (générées par les cartes de second ordre) qui décrivent la relation sont des sentiments. Le sentiment c'est donc une émotion reliée à sa cause (on peut faire un parallélisme avec ce qu'en disait Spinoza : l'amour est "une joie accompagnée de l'idée d'une cause extérieure" ). L'utilité adaptative de cette mise en relation de l'image du corps avec l'image de l'objet pour en extraire une causalité est là encore tout a fait claire. C'est dans la mesure où le cerveau comprend "ce qui se passe" qu'il est capable de prendre une décision appropriée.

Ce compte rendu permanent de l'organisme causalement affecté par le traitement d'un objet donne naissance a ce qu'il appelle la "conscience-noyau". Elle donne naissance au Soi central.

Tous les animaux supérieurs (les vertébrés disons) ont une conscience noyau. Ce qui suit, la conscience étendue et la conscience autobiographique est spécifique à l'espèce humaine.

La conscience étendue est tout ce qu'est la conscience noyau mais sur une plus grande échelle c'est à dire plaçant le Soi qui nous est livré par la conscience noyau dans un vaste champs qui s'étend dans le temps. Elle connecte le Soi central au souvenirs et aux perspectives d'avenir. La conscience noyau nous permet de savoir qui a mal au dent : c'est Soi. La conscience étendu relie ce mal a sa localisation : les dents, sa cause : une carie ? depuis quand : ça fait 3 j qui l'a soigné la dernière foi : Dr Kojak, dentiste, etc ainsi que le fait que tu vas te cantonner à une soupe et un yaourt ce soir.

Ce miracle de la conscience étendue qui fait tout l'être humain est permis par le simple fait que les souvenir biographique sont représenté comme des objets dans les cartes de second ordre. Les épisodes du passé, avec leur immense complexité entre ainsi en relation avec l'organisme sur le même mode que pour la conscience noyau ; chacun de ces souvenir peut donc susciter une pulsation de conscience noyau, engendrant ce sens aigu que l'on a de se connaitre soi même.

Enfin l'archivage organisé des expériences passé d'un organisme ainsi individualisé est le Soi autobiographique

Il est bien évident que sans ce sentiment de Soi il n'y a tout simplement pas de pensée logique, aucune réflexion rien car PERSONNE ne pense. Or le Soi est construit par les émotions et les sentiments. Voila pourquoi il est complètement illusoire d'imaginer une machine capable de connaitre et d’enchaîner des idées qui aient un sens (et non simplement le produit d'un algorithme) sans sentiment, émotion et Soi constitué.

source : Antonio R. Damasio, Le Sentiment même de soi : corps, émotions, conscience, Odile Jacob, Paris, 1999, 380 p.

Une autre affirmation gratuite. Comme la plupart des gens ici qui tiennent ce genre de discours, tu confonds l'IA telle qu'est est en train d'être développée et ton PC avec Word sous Windows.
Parce que justement, le soin de lui même est l'une des choses qu'on programme quand cela a du sens. Et le problème du développement d'un tel sens au point de ne plus pouvoir l'arrêter dans un réseau de neurone est justement le sujet qui est en train d'être traité (cf. les références au travail des 2 chercheurs de Google).

Je ne parle pas d'une IA qui serait développée dans le but précis de faire naître une IA. Dans ce cas, il faut voir ce qui est mis en oeuvre précisément.

Je parle d'un calculateur genre Deeper Blue par exemple. Même très puissant, même capable de battre un humain dans un sport cognitif de haute volée (les échecs), c'est une bûche.

Ce qui est faux et dès les 1ers chatbots genre Eliza on a constaté le contraire. On peut également parler des attachements aux Tamagochis dans les années 90. Là encore, tu fais l'association "ordinateur = PC sous Windows" et cela te fait passer à coté de tout ce qui est important sur le sujet dont tu prétends parler.

Oui, mais ce n'est pas sérieux. C'est un attachement émotionnel à l'objet du fait qu'il mime une espèce vivante consciente. Mais personne de sain d'esprit ne soutient sérieusement qu'un Tamagochi éprouve réellement, au sein d'un espace intérieur cognitif, ce qui est mimé à l'écran.

[pm42]

Non, c'est ce qui est longuement développé par António Damásio dans différents opus. Je peux te conseiller en particulier "Le Sentiment même de Soi", qui traite à fond de cette naissance du "Soi".

Ah, l'avis d'un médecin dans un bouquin de vulgarisation d'il y a plus de 15 ans...
La prochaine fois en physique, je peux donner l'avis d'un géologue sur la mécanique quantique ?
Ou plus rigolo, je peux dire ce qui s'est passé avant le Big Bang basé sur le bouquin des Bogdanov ? Qui est plus récent et où au moins, on a un doctorat dans le domaine ?

Je parle d'un calculateur genre Deeper Blue par exemple. Même très puissant, même capable de battre un humain dans un sport cognitif de haute volée (les échec), c'est une bûche.

Une autre référence encore plus ancienne (et c'est Deep Blue). Tu ignores apparemment ce qui a été fait depuis.

Donc en gros, tu as lu un bouquin déjà ancien, écrit par un non spécialiste du domaine, tu cites faussement une référence d'il y a 20 ans.
Et cela te permet de tirer des conclusions définitives sur tout un domaine de recherche.

Oui, mais ce n'est pas sérieux.

Bien sur : tu donnes un argument, je donne un contre-exemple, il n'est pas sérieux. C'est un argument du même niveau que "tout le monde sait".

Mais personne de sain d'esprit ne soutient sérieusement qu'un Tamagochi éprouve réellement, au sein d'un espace intérieur cognitif, ce qui est mimé à l'écran.

Si tu sais définir opérationnellement "éprouver réellement", on en reparle. Pour le moment, c'est toujours de la discussion de bistrot en utilisant des concepts imprécis.

[invite754e6035]

Je crois que jamais personne n'a encore parlé de conscience pour un programme informatique. Je ne dis pas que c'est impossible, mais ce n'est pas à l'ordre du jour.

Mais j'ai une vraie question : comment différencier le comportement d'un robot programmé pour agir comme une fourmi de celui d'une fourmi réelle ? Comment savoir quand ce n'est plus de la simple imitation ?

Tu as toi même avoué que tu n'avais pas de connaissance dans ce domaine et que les innovations récentes t'avais surpris.
Évite les affirmations du style "ce n'est pas à l'ordre du jour", parceque ça l'est bel et bien et des milliards de dollars sont investis dans la neuro informatiques pour résoudre ce problème.
Renseigne toi sur les programmes de recherche américains, européens et les activités bénévoles des milliardaires. Et tu comprendras ce qu'est le monde en dehors de la caverne française.

[invite0bbe92c0]

Tu as toi même avoué que tu n'avais pas de connaissance dans ce domaine e.

Quand on vous lit, on se dit qu'il n'est pas le seul.