La conscience d'une machine est-elle possible ?

[oualos]

Cette question revient de façon quasi-obsessionnelle un peu partout: la SF nous laisse croire que ce serait une possibilité envisageable avec les Terminator et autres Skynet...

Vu la vitesse à laquelle l'IA progresse on est en droit de se poser cette question.
Si on connaît Roland Barthes, il dit que la mythologie et plus particulièrement les mythes sont une façon de se prémunir de ce qui pourrait arriver... et la SF est une grande productrice et consommatrice de mythes.
La limite -contrairement à ce que des cognitivistes "durs" comme Stanislas Dehaene voudrait nous faire croire- est que la machine n'a pas et n'aura jamais de conscience: une démonstration simple ? Déjà ce terme fait l'objet de débats compliqués depuis l'Antiquité jusqu'aux phénoménologues tel Husserl et Bergson entre autre. Il n'y a pas de définition évidente ni consensuelle de la conscience, du style de celles qu'on pourrait traduire en langage informatique par un programme...
Le corps -soit le corps organique- participe à la conscience de façon cruciale comme pour tous les animaux dotés d'un système sensoriel, auquel il faut rajouter les affects, les émotions etc. Or un affect n'est pas ou ne sera jamais simulable de façon informatique même si des films comme Her nous laisse imaginer que c'est possible: l'IA générative ou conversationnelle fonctionnent sur une modélisation du neurone en le réduisant à une porte NAND et en pariant au départ qu'avec les réseaux de neurones -soit une architecture ressemblant à celle du cerveau- on simulera l'intelligence: et ça marche!! Et comme les processeurs sont de + en + rapides et la mémoire de plus en plus petite en taille, on arrive à des résultats bluffants en matière de connaissances. Mais c'est tout: une machine ne ressent pas et ne réfléchit pas. Elle ne sait faire que ce qu'on lui a appris, c.-à-d. calculer par des algorithmes et des heuristiques et elle le fait très vite et tellement bien qu'elle dépasse les capacités humaines en ce domaine. Mais pour créer il faut ressentir et avoir une conscience, aussi une imagination comme entendre à sa façon les gouttes de pluie tomber dans un jardin! Et pouvoir les entendre comme seul Debussy pouvait et traduire puis retranscrire cela en musique.
Et aussi bien, de façon impressionniste...
Tant mieux pour nous qu'une machine ne sache pas faire cela car c'est déjà un progrès incroyable dans le domaine de l'informatique et de l'IA que toutes ces capacités. Et on ne demande à l'IA que d'être un outil, pas d'égaler voire surpasser Chopin ou Oscar Peterson.

P.S. Ça éclaire et vérifie du moins partiellement une chose notable que déjà Leibniz avait prédite en disant que la pensée c'était du calcul sur des symboles: l'intelligence humaine -et par extension animale- fonctionne avec un hardware de nature mathématique puisque probabiliste. À l'apprentissage et la reconnaissance, les deux mamelles de la cognition, correspondent une affectation mathématique à chacun des neurones du cerveau.
L'IA ne réfléchit pas comme Raphaël Enthoven l'a dit dans une émission à la télé: il a donné le sujet du bac philo à chatGPT et a mélangé le résultat avec d'autres copies pour les soumettre au correcteur. ChatGPT a obtenu la note de 11 ce qui selon ce philosophe est une note très médiocre. L'IA a compilé tout ce qu'on lui avait fait ingurgité et l'a ressorti mais sans aucune imagination, sans problématique autour du thème du bonheur et de la raison le sujet du bac : la production de problématique est ce qui est ou doit constituer selon lui le propre du philosophe.
Mais ChatGPT avait plein de références! Toutes celles qu'on voulait puisqu'on lui avait fait ingurgiter tout ce que les philosophes ont produit depuis le début et sur tous les continents sur ces questions éminemment complexes...
Ça ne suffit pas selon Enthoven pour produire quelque chose de pensé, de réfléchi ou une nouvelle manière d'aborder un problème de philo.
-----

[roro222]

Bonjour
Vu que les IA ne sont que le résultat compilationnel statistique, quid de l'inventivité et qui plus est, vu quelle se nourri de ses propres résultats elle ne peut se réduire peu à peu qu'a peau de chagrin en éliminent tous ce qui est hors cadre.
Bref, j'ai fort doute que l'IA devienne consciente, mais ce n'ai que mon point de vue pour me faire battre

[ThM55]

Bonjour. Vous répondez à la question. Cependant vous écrivez:

Le corps -soit le corps organique- participe à la conscience de façon cruciale comme pour tous les animaux dotés d'un système sensoriel, auquel il faut rajouter les affects, les émotions etc.

Mais une IA ne sera pas forcément toujours un programme informatique enfoui dans une machine par ailleurs coupée du monde. On pourrait très bien imaginer un robot doté d'organes sensoriels pour la vue, l'ouïe, l'odorat, la sensation de son propre corps (qui est pour nous humains et animaux un sixième sens qu'on oublie toujours de citer et qui comprend la douleur), etc. Et pourquoi une telle machine ne pourrait-elle pas percevoir son environnement et son propre être? Où est la différence avec un animal sensible?

l'IA générative ou conversationnelle fonctionnent sur une modélisation du neurone en le réduisant à une porte NAND et en pariant au départ qu'avec les réseaux de neurones -soit une architecture ressemblant à celle du cerveau- on simulera l'intelligence

C'est un peu plus compliqué que cela. Voir la littérature sur l'IA générative et les transformers.

Les exemples de chatGPT et GPT-4 ne sont pas pertinents pour cette question. Ces programmes sont des générateurs de texte et ne font pas de logique, ni de mathématique, ni même de raisonnements accessibles à un enfant de 7 ans. Raphaël Enthoven, malgré tout le respect que je lui dois, n'a rien compris et a juste perdu son temps en enfonçant des portes ouvertes. Cela ne veut pas dire que cette situation perdurera: on aura certainement dans un avenir prévisible des programmes conversationnels qui seront très efficaces dans ces domaines aussi.

Ma définition de la conscience ne relève pas de la performance, que je ne trouve pas pertinente pour cette question. D'ailleurs des musiciens comme Debussy sont rares mais cela n'empêche pas des musiciens plus médiocres sur le plan des accomplissements de montrer de la sensibilité et la capacité à apprécier Debussy. Ma définition serait quelque chose de beaucoup plus commun: la capacité de percevoir le monde, de se sentir soi-même et de prendre conscience de ses perceptions. C'est une définition circulaire, j'utilise le mot "conscient" dans la définition. Ce n'est pas nécessairement un problème sur le plan logique car chacun d'entre nous pense savoir ce que cela veut dire, par introspection. En mathématique même, on donne en effet parfois des définitions circulaires. Par exemple dans la définition d'un espace topologique, on dit qu'il y a une collection d'ensembles appelés des ouverts tels que toute intersection finie d'ouverts est un ouvert et toute réunion d'ouverts est un ouvert. On définit donc le terme d'ouvert en terme de lui-même, au niveau syntaxique. C'est justifié dans la mesure où on peut exhiber des exemples définis autrement dans lesquels on montre l'existence d'une collection d'ensembles possédant cette propriété, par exemple un espace métrique. De même le jour, encore lointain à mon avis, où on produira une machine qui montrera tous les signes extérieurs d'un être conscient, on sera obligés d'admettre qu'elle est bien consciente. Je veux dire qu'aucune autre argument ne pourra le réfuter, en particulier certainement pas les arguments de type performance ou "affects".

[pm42]

Il n'y a pas de définition évidente ni consensuelle de la conscience

On peut quasiment s'arrêter là parce que vu que le concept clé de la question n'est pas défini, aucune réponse ne peut être donnée.
Le reste est du blabla.

Pour ce qui est de l'IA et même d'une partie de l'informatique, c'est simple : on cherche à reproduire les capacités cognitives humaines. Celles-ci couvrent un vaste spectre et au fil du temps, on a réussi à faire.
- le calcul et tout ce qui est manipulation formelle de symboles, implémentation d'algorithmes, etc : les machines font mieux que nous de plusieurs ordres de magnitude
- beaucoup de jeux de stratégies qui étaient supposés nécessiter de "l'intelligence" comme le go et les échecs : les machines font nettement mieux que nous
- les capacités sensorielles telles que reconnaitre des images, du son, de la voix, du texte écrit : les machines sont de très proches à meilleures que nous. Par contre, le toucher, l'odorat et le goût ne sont pas à notre niveau
- la génération d'un discours ou d'une image : les machines étaient historiquement très loin de nous, elles sont depuis peu nettement plus proches. Moins bonnes qu'un expert humain mais plutôt meilleures que la moyenne

Il reste encore un vaste spectre des capacités humaines qui ne sont pas encore abordables par les machines ou bien où elles ne sont pas convaincantes :
- conduire une voiture ou tout autre forme d'interaction avec la complexité et la variété du monde physique
- construire des raisonnements sophistiqués
- faire preuve d'intuition
- faire preuve de créativité

On pourrait étendre les deux listes longuement.
Le principe de base est que depuis longtemps, chaque fois que les machines font quelque chose de nouveau qui auparavant était notre apanage, le discours est toujours le même : on considère cela comme peu significatif et on se met à parler de ce qu'elles ne font pas encore pour dire "oui mais est ce qu'elles y arriveront ?". Avec certains qui prétendent avoir la réponse à cette question.

Pour le moment, il est difficile et même quasi-impossible de savoir quels sont les progrès à venir et quand ils se produiront. Rien de nouveau.
Mais si on regarde de quoi on est parti depuis l'invention de l'informatique il y a moins d'un siècle et où on en est aujourd'hui, je ne parierai pas sur "elles n'y arriveront jamais".

P.S : pour illustrer ce que je disais, l'exemple d'une IA qui n'a "que" 11 au bac de philo est significatif. C'est considéré comme "médiocre". Mais c'était simplement inimaginable il y a 10 ans.
Cela fait penser à quelqu'un qui verrait les 1ères machines à vapeur et expliquerait que comparé à un cheval, c'est quand même faiblard. Ou l'avion des frères Wright et qui trouverait cela médiocre parce que c'est juste un saut de puce.

[A voir en vidéo sur Futura]

[titijoy3]

réduire le gap entre la machine et l'humain risque de remettre en question pas mal de choses..

si la machine devient plus efficace, comment fera l'humain pour conserver l'ascendant ?

un virus peut il infecter une IA ?

[oualos]

Le corps -soit le corps organique- participe à la conscience de façon cruciale comme pour tous les animaux dotés d'un système sensoriel, auquel il faut rajouter les affects, les émotions etc.

Mais une IA ne sera pas forcément toujours un programme informatique enfoui dans une machine par ailleurs coupée du monde. On pourrait très bien imaginer un robot doté d'organes sensoriels pour la vue, l'ouïe, l'odorat, la sensation de son propre corps (qui est pour nous humains et animaux un sixième sens qu'on oublie toujours de citer et qui comprend la douleur), etc. Et pourquoi une telle machine ne pourrait-elle pas percevoir son environnement et son propre être? Où est la différence avec un animal sensible?

Oui vous parlez de raisonnement circulaire, j'y reviendrai plus loin ...
Un jour on demandait à un biologiste -ou neuro-biologiste style Changeux- sa définition de l'amour : il a répondu avec un sourire que l'amour ce n'était que des réactions physico-chimiques commandées par le cerveau, lui même siège de réactions physico-chimiques avec les synapses.
C'est typiquement ce qu'on appelle en philo du physicalisme: Changeux savait bien ce que c'était de l'humour d'où sa réponse teintée … d’ironie!

...la capacité de percevoir le monde et de se sentir soi-même et de prendre conscience de ses perceptions.

Il y a le mot conscience dont la définition de conscience, ce que vous relativisez très bien en parlant de raisonnement circulaire.
Hegel a sans arrêt utilisé des raisonnements circulaires dans sa définition des concepts: il part d’un point par exemple définir ce qu’est la liberté. Il y a ensuite un raisonnement généralement assez ardu où il introduira par exemple la raison, la société et pourquoi pas la conscience le tout mixé avec une savante dialectique… Et le raisonnement chez Hegel retournera au point de départ après une boucle circulaire plus ou moins longue, c.-à-d. qu’il revient au point de départ après avoir explicité ce qu’est la liberté. Selon lui.
QUOD ERAT DEMONSTRATUM
La science quant à elle est réductionniste et s’intéresse de très près au substrat en considérant que des propriétés absentes au niveau micro émergent comme par exemple la température: la température a une cause c’est le mouvement brownien des particules. Mais parler de température au niveau micro n’a aucun sens. En suivant cette analogie la conscience émerge, c’est mon point de vue… Mais de quoi ? D’un tas de choses.
La question pour des gens comme Dehaene c’est qu’il connaît d’avance la réponse lui grâce au paradigme computationnaliste des sciences cognitives: le substrat de la conscience n’est rien de moins pour lui que des portes NAND actionnées par un courant électrique ce qui fait que pour lui un jour la faculté de comprendre et de ressentir des machines IA leur sera accessible. Elles auront une conscience.
Raphaël Enthoven avait une explication de type philosophe anthropologiste: il disait que dans l’inconscient collectif Dieu a créé les hommes pour qu’ils soient libres et l’homme veut jouer à Dieu, c.-à-d. créer ses propres créatures qui seront libres elles-aussi. Et pour cela il faut impérativement qu’il puisse créer des machines qui ont une conscience. Il y a des milliers d’exemples comme le Golem ou Frankenstein… Ou encore la machine-femme dans Metropolis de Fritz Lang qui poussera les hommes réduits à l’esclavage à la révolte contre leurs tyrans.
Et les guidera vers la liberté…

P.S. On parle d’affect et d’émotion dans le cas d’humains mais on pourrait aussi évoquer la douleur: une machine souffrira-t-elle ? Si elle a une conscience calquée sur la notre c’est forcément oui. Sinon quoi ?

[pm42]

Les exemples de chatGPT et GPT-4 ne sont pas pertinents pour cette question. Ces programmes sont des générateurs de texte et ne font pas de logique, ni de mathématique, ni même de raisonnements accessibles à un enfant de 7 ans.

Par contre, une IA généraliste est capable de perfs plus que correctes : https://www.nature.com/articles/s41586-023-06747-5
Résoudre 24 sur 30 des problèmes de géométrie des Olympiades la met loin devant l'immense majorité des humains.

On peut aussi remarquer qu'un humain ne fait pas une copie de philo sans entrainement. Si on entrainait GPT-4 à faire des copies de philo au bac, ce qui est possible rapidement via le fine-tuning, il est très probable que ses performances seraient largement meilleures.

Raphaël Enthoven, malgré tout le respect que je lui dois, n'a rien compris et a juste perdu son temps en enfonçant des portes ouvertes.

Ce qui est le cas le plus fréquent des discours sur l'IA par des gens qui n'ont pas pris la peine d'avoir même une formation minimale sur le sujet.

[ThM55]

Oualos a écrit:

l’homme veut jouer à Dieu, c.-à-d. créer ses propres créatures qui seront libres elles-aussi. Et pour cela il faut impérativement qu’il puisse créer des machines qui ont une conscience

Non, je ne suis pas du tout d'accord, tout cela c'est du délire. Le but de l'IA c'est de créer de nouveaux outils, exactement comme on le fait depuis l'aube de l'humanité (et même avant, puisqu'on voit des corbeaux confectionner des outils rudimentaires). Le but n'est pas de "jouer à Dieu" ou de faire des créatures libres. Quand j'ai répondu à la question, je n'envisageais que la simple possibilité de principe pour que des machines puissent être "conscientes" en un certain sens, ce que je définis de manière purement opérationnelle, pour éviter toute spéculation philosophique.

P.S. On parle d’affect et d’émotion dans le cas d’humains mais on pourrait aussi évoquer la douleur: une machine souffrira-t-elle ? Si elle a une conscience calquée sur la notre c’est forcément oui. Sinon quoi ?

J'avais mentionné la douleur dans ma première réponse quand j'avais évoqué ce que je considère comme notre sixième sens, celui qui consiste à percevoir notre propre corps. On pourrait l'envisager aussi comme une extension du toucher si on veut, puisque si on touche une flamme, on éprouve de la douleur. Mais il y a aussi les douleurs internes, par exemple celle due à une déchirure musculaire, une fracture, un ulcère...

L'exemple de la douleur nous montre que ce que nous appelons la conscience perceptive est un résultat de l'évolution, c'est quelque chose de très profond dans notre cerveau. En effet, il n'est pas douteux que la perception de la douleur favorise la survie: même chez des animaux moins évolués c'est un signal qui induit la fuite et donc l'intégrité du corps. L'exemple de la flamme est évident. Plus généralement, avoir un certain degré de conscience réflexive de son environnement, avec une intégration de cette perception dans un modèle plus ou moins complexe qui permet d'agir est aussi probablement un avantage évolutif acquis par sélection. Mais pourquoi ce qui a été acquis au fil des millions d'années d'évolution ne pourrait pas être émulé par une machine faite de silicium, d'arséniure de gallium ou de transistors optiques? Ces capacités ne sont évidemment pas dues à la constitution biochimique, il s'agit de fonctions, et le chemin emprunté pour les acquérir n'a a priori pas d'importance.

[Deedee81]

Salut,

Non, je ne suis pas du tout d'accord, tout cela c'est du délire. Le but de l'IA c'est de créer de nouveaux outils, exactement comme on le fait depuis l'aube de l'humanité (et même avant, puisqu'on voit des corbeaux confectionner des outils rudimentaires). Le but n'est pas de "jouer à Dieu" ou de faire des créatures libres. Quand j'ai répondu à la question, je n'envisageais que la simple possibilité de principe pour que des machines puissent être "conscientes" en un certain sens, ce que je définis de manière purement opérationnelle, pour éviter toute spéculation philosophique

Je suis entièrement d'accord avec ça. On est extrêmement loin d'un tel objectif (et en plus il n'est pas dit que cela serait probématique). (que ce soit les approches plus classiques, les approches par neurones formels, les approches par analyse statistique pour les IA génératives de langage, on est très loin d'un fonctionnement mental humain. Delahaye l'a bien montré dans un article sur le sujet dans PLS).

Et l'homme n'a jamais eut besoin de viser des trucs aussi "exotiques" pour faire des conneries avec ses inventios. Hélas (un exemple récent, à cause de la mode des "machins connectés" on trouve pleins d'objets connectés dont l'utilité est très discutable et les protections contre le piratage vraiment nulles, ce qui peut être très dommageable si cela concerne le wifi qu'on utilise. Et la cause de ces travers n'est pas l'invention du wifi mais l'usage à la c... qu'on peut en faire).

Et je ne me prononcerai pas sur le fait de "jouer à dieu" car j'ignore à quoi joue Dieu, mais s'il joue au poker je suis son homme

En outre sur le fond, la notion de conscience est mal définie. Il y a trois théories là dessus et on n'a pas encore pu trancher (information intégrée, espace de travail, et une troisième plus abstraite dot le nom m'échappe. Et ce n'est que les trois principales). En dehors de la conscience neurologique (où beaucoup de progrès a été fait et la Belgique est pionnnière dans ce domaine, cocorico ) inapplicable pour une IA il faut bien le dire :
personne ne sait vraiment ce qu'est la conscience phénoménale
Et donc se demander si une IA pourrait être conscience, si on pourrait y arriver ou si on essaie d'y arriver.... c'est tout simplement non scientifique. Tout bêtement parce que la question est identique à "est-ce que une IA pourra faire du crumbilotac" puisque crumbilotac n'est pas défini. Mais les humains aiment tellement avoir l'impression de comprendre le sens des mots dont il a l'habitude. C'est tellement rassurant. Mais c'est parfois une pure illusion.

Il est clair qu'on pourra a terme avoir des IA dont les comportements seront impossibles à distinguer de ceux d'un humains. Des IA qui nous dirons "je suis conscient" (*) Mais pourra-t-on dire si elles ont une conscience ? Probablement pas. L'argument de la chambre chinoise (woir wikipedia) semble dire que non, en tout cas si on veut une réponse rigoureuse. Je suppose qu'arrivé à ce stade il y en aura pour dire "cette IA est consciente" mais on sera plus dans l'avis personnel voire dans des questions d'éthique ou de droit que dans la science.

(*) une nouvelle SF connue. L'homme a colonnisé toute la galaxie. Il a construit des ordinateurs surpuissants partout, bien plus puissant que maintenant.
Ils finissent pas mettre en réseau les ordinateurs des 200 milliards de planètes colonnisées.
Le démarrage de ce réseau est si exceptionnel que cela se fait devant les caméras du Galaxy World Wide Press, avec le président des planètes unies.
Un technicien soude le dernier fil du réseau avec un fil d"or. Le Président s'avance, il a l'honneur de poser la première question à cet ordinateur galactique.
Il abaisse la manette mettant en route le réseau.
Et il demande "Dieu existe-t-il ?"
L'ordinateur grésille un peu et dit :
"Maintenant oui", et la foudre tombe du ciel, soude la manette en position marche et foudroye le président.

Je crois que c'est de Frédéric Brown, à confirmer.

[bb98]

Salut,


(*) une nouvelle SF connue. L'homme a colonnisé toute la galaxie. Il a construit des ordinateurs surpuissants partout, bien plus puissant que maintenant.
Ils finissent pas mettre en réseau les ordinateurs des 200 milliards de planètes colonnisées.
Le démarrage de ce réseau est si exceptionnel que cela se fait devant les caméras du Galaxy World Wide Press, avec le président des planètes unies.
Un technicien soude le dernier fil du réseau avec un fil d"or. Le Président s'avance, il a l'honneur de poser la première question à cet ordinateur galactique.
Il abaisse la manette mettant en route le réseau.
Et il demande "Dieu existe-t-il ?"
L'ordinateur grésille un peu et dit :
"Maintenant oui", et la foudre tombe du ciel, soude la manette en position marche et foudroye le président.

Je crois que c'est de Frédéric Brown, à confirmer.

Bonjour

La réponse (The answer, 1963, in Histoires de machines) , F. Brown, en effet !

Bon exemple, bravo

[oualos]

J'avais mentionné la douleur dans ma première réponse quand j'avais évoqué ce que je considère comme notre sixième sens, celui qui consiste à percevoir notre propre corps. On pourrait l'envisager aussi comme une extension du toucher si on veut, puisque si on touche une flamme, on éprouve de la douleur. Mais il y a aussi les douleurs internes, par exemple celle due à une déchirure musculaire, une fracture, un ulcère...

L'exemple de la douleur nous montre que ce que nous appelons la conscience perceptive est un résultat de l'évolution, c'est quelque chose de très profond dans notre cerveau. En effet, il n'est pas douteux que la perception de la douleur favorise la survie: même chez des animaux moins évolués c'est un signal qui induit la fuite et donc l'intégrité du corps. L'exemple de la flamme est évident. Plus généralement, avoir un certain degré de conscience réflexive de son environnement, avec une intégration de cette perception dans un modèle plus ou moins complexe qui permet d'agir est aussi probablement un avantage évolutif acquis par sélection.

Totalement d'accord!
On pourrait se référer à Aristote qui a dit que la Nature a toujours un but et en conclure que la douleur sert à l'instinct de survie pour avertir qu'il y a un danger. Le feu et la flamme, c'est un exemple à mon avis très bien choisi. D'autres ont repris à leur compte cette formulation d'Aristote par la suite.

Mais pourquoi ce qui a été acquis au fil des millions d'années d'évolution ne pourrait pas être émulé par une machine faite de silicium, d'arséniure de gallium ou de transistors optiques? Ces capacités ne sont évidemment pas dues à la constitution biochimique, il s'agit de fonctions, et le chemin emprunté pour les acquérir n'a a priori pas d'importance.

Vous donnez l'exemple parfait -excusez-moi - de l'envie de l'homme de "jouer à Dieu".
À mon sens mais on pourra ne pas être d'accord évidemment, ceci fait partie de l'inconscient collectif depuis l'aube de l'humanité avec la découverte du premier outil.

il faut distinguer 2 choses: l'une est le fantasme derrière cette hypothèse -qui est selon moi scientiste- qu'on arrivera à doter la machine d'une conscience alors que comme toute le monde le fait remarquer, définir la conscience est un des problèmes les plus ardus qui soit. La conscience phénoménale implique un système nerveux central pour les phénoménologues de la famille des Kant, Husserl et Bergson.
Et d'ailleurs même entre eux ils étaient souvent en désaccord!
Par contre les recherches sur ce thème -qu'elles visent consciemment ou inconsciemment ce but- sont très prometteuses: elles permettront de mieux cerner le corps en tant que système complexe composé de perceptions, d'influx nerveux, et préciser le rôle de du cerveau comme organe centralisateur qui reçoit des impulsions et donne des ordres au reste du corps via les organes, les nerfs et les muscles par exemple.

Officiellement entre guillemets, le domaine de la conscience est ou a été l'apanage des philosophes depuis des millénaires et avec les développements fulgurants de l'IA, on finit par se poser des questions réductionnistes donc scientifiques à propos de cette fameuse conscience. J'entreprenais de mettre en garde contre ce fameux "paradigme computationnaliste" qui resurgit à toutes les époques comme paradigme de nature scientifique à la base... et surtout au moment de grandes avancées scientifiques: par exemple du temps de Descartes on ne connaissait que les rouages comme pièce de base et l'Univers pour les physiciens de l'époque était constitué par un assemblage de rouages.
Ensuite il y a eu l'électricité, la thermodynamique, l'atome et bien d'autres choses: maintenant que le numérique est présent partout dans nos vies et dans la société, certains cognitivistes appartenant à la fraction "dure" pensent que tout le vivant quasiment est simulable numériquement.
Voilà ce topic c'est juste pour remettre en perspective ou essayer en tout cas...

J'aime beaucoup la citation de cet ouvrage de SF donné par Deedee81.

[JPL]

On pourrait se référer à Aristote qui a dit que la Nature a toujours un but

Aristote a été un bon scientifique pour son époque*, mais là il dit une connerie.

* Tout le monde (enfin put-être pas ) a entendu parler de ses théories philosophiques et de sa logique, mais on sait moins qu’il fut un assez bon naturaliste.

[oualos]

Je reconnais que c'est tout à fait un sujet de discussion: il faudrait voir ce que les naturalistes et biologistes en pensent aujourd'hui.
Ils sont sans doute assez sceptiques... enfin je pense.

[Deedee81]

Salut,

La réponse (The answer, 1963, in Histoires de machines) , F. Brown, en effet !

Merci du rappel de la référence.

Aristote a été un bon scientifique pour son époque*, mais là il dit une connerie.

S'il n'en avait dit qu'une

Mais soyons plus juste : étant donné le contexte de l'époque (connaissances faibles sur "le monde") et l'approche (philosophique) et technique (ils considéraient l'expérience non fiable car trop variable et imparfaite) : cela veut dire qu'il était difficile de trouver les bonnes idées.

Et de fait Aristote s'est souvent trompé. Il s'est trompé sur la gravité, sur le vide, sur la nature continue ou pas de la matière, la vision, etc... Et étant un grand penseur et parmi les plus admirés à l'époque, forcément, cela a été "exposé" au grand jour, à tel point que Galilée et d'autres ont surtout luttés contre les idées d'Aristote et pas d'autres philosophes qui n'ont pas pourtant fait mieux que lui (à part de tomber parfois sur la "bonne" façon de voir) (exception dans les rares disciplines plus "rigoureuses" : astronomie, géométrie où là énormément de progrès furent fait à l'époque).

Ce que j'admire le plus chez lui c'est sans doute plus mathématique : les syllogismes. Une admirable tentative (réussie) de formaliser le raisonnement à une époque où il n'y avait rien de tel.

[ThM55]

Ensuite il y a eu l'électricité, la thermodynamique, l'atome et bien d'autres choses: maintenant que le numérique est présent partout dans nos vies et dans la société, certains cognitivistes appartenant à la fraction "dure" pensent que tout le vivant quasiment est simulable numériquement.

Je reconnais que le paradigme calculatoire posé aussi naïvement est une erreur. Indépendamment de la question du cerveau et de la conscience, on ne peut d'ailleurs pas simuler en vraie grandeur une expérience fine de corrélations quantiques par des moyens classiques, on le sait, c'est prouvé théoriquement et expérimentalement. J'ai indiqué dans ma première réponse qu'il ne fallait pas voir les machines "conscientes" que j'envisageais comme une simulation mais comme une réalisation en actes de phénomènes de perception et d'intégration complexe de l'information dans un système. Il est à mon avis aisé de réfuter ainsi l'argument fallacieux de la "chambre chinoise" de Searle. Il y a certainement un contenu physique dynamique qui doit être associé à ces processus. Je ne dis d'ailleurs pas que cela se fera ou que ce sera un jour techniquement à notre portée, nous rêves finissent souvent par buter sur des limites d'accès à des ressources physiques, mais qu'il n'y a rien dans ce que nous savons qui indique une impossibilité logique.

Il faut aussi réaliser que notre idée de la "conscience" est forcément limitée à notre expérience humaine individuelle et subjective obtenue par l'introspection et qu'il ne s'agit pas forcément de tout ce qui existe dans la nature. Nous n'en avons forcément qu'une connaissance extrêmement limitée. Que savons nous par exemple de la conscience d'un poulpe dont beaucoup de neurones sont répartis dans tous les tentacules et qui modifie instantanément sa pigmentation pour se camoufler, qui fait preuve d'intelligence, de mémoire et d'émotions? Ou, exemple plus extrême, de celle d'une abeille qui mémorise et communique des emplacements intéressants à ses congénères? Il faut un certain culot pour affirmer que ces êtres n'ont aucune expérience consciente, même fugace.

[oualos]

Ce que j'admire le plus chez lui c'est sans doute plus mathématique : les syllogismes. Une admirable tentative (réussie) de formaliser le raisonnement à une époque où il n'y avait rien de tel.

Ce que j'admire particulièrement chez lui c'est la définition du tiers exclu qu'il est quasiment le premier à énoncer, même si c'était forcément dans l'air à l'époque: il y a quelque chose de théâtral, comme si une vérité platonicienne dont on n'apercevait qu'une ombre -pour reprendre le mythe de la caverne- surgissait soudain au grand jour et était exposée comme un monologue devant une foule de spectateurs.
Un de mes profs en fac disait qu'un philosophe n'invente rien: il se contente en fait de formuler de façon adéquate des idées qui sont déjà en l'air.
L'invention en philo n'a rien à voir avec l'invention ou l'intuition en physique: par exemple je pense que Dirac était vraiment probablement un des seuls et surtout le premier à avoir eu l'intuition de l'anti-matière
Mais il faudrait vérifier sur des documents historiques évidemment pour en être sûr.

Il faut aussi réaliser que notre idée de la "conscience" est forcément limitée à notre expérience humaine individuelle et subjective obtenue par l'introspection et qu'il ne s'agit pas forcément de tout ce qui existe dans la nature. Nous n'en avons forcément qu'une connaissance extrêmement limitée. Que savons nous par exemple de la conscience d'un poulpe dont beaucoup de neurones sont répartis dans tous les tentacules et qui modifie instantanément sa pigmentation pour se camoufler, qui fait preuve d'intelligence, de mémoire et d'émotions? Ou, exemple plus extrême, de celle d'une abeille qui mémorise et communique des emplacements intéressants à ses congénères? Il faut un certain culot pour affirmer que ces êtres n'ont aucune expérience consciente, même fugace.

encore une fois d'accord!
On pourrait rajouter de récentes découvertes sur les arbres qui communiqueraient pas seulement par les racines mais via l'air aussi.
Par exemple l'acacia est un des mets favoris de la girafe en Afrique.
Une expérience a été faite que lorsque qu'un acacia voit ses feuilles mangées par une girafe, il va communiquer via l'atmosphère aux acacias voisins qui du coup augmenteront leur taux de tanin ce qui rend les feuilles amères et peu comestibles.
Mais l'exemple du poulpe que vous donnez est très intéressant: effectivement il n'a pas de système nerveux central mais une répartition complexe à laquelle on associe généralement 4 cerveaux répartis sur ses tentacules!
Et c'est effectivement d'après des expériences menées un animal très intelligent qui arrive à trouver des solutions pour des problèmes difficiles a priori.
On dirait que la Nature essaie toutes sortes de possibilités et ensuite l'évolution garde certains exemplaires de famille d'animaux, ceux qui ont réussi à s'adapter et à survivre aux changements climatiques et aux prédateurs.
Ce qui rend la définition de l'intelligence fort complexe de fait aussi...

[oualos]

Je crois qu'un jeu amusant a été fait lors d'une coupe de monde de foot: on mettait les drapeaux de chaque équipe qui devaient jouer le soir dans un bocal et un poulpe toujours le même, une sorte de mascotte devait choisir celle qu'il préférait
Et dont il pensait qu'elle gagnerait le match du soir...
Évidemment c'était pas trop concluant comme résultat mais l'idée de départ était marrante en tout cas car en Angleterre où les lois sur les jeux ne sont pas les mêmes que chez nous, des Anglais se fiaient à ses prédictions pour parier chez les bookmakers!

[Deedee81]

Salut,

Raoul le poulpe. En fait ils sont nombreux à faire ce genre de chose (avec des grenouilles, des oiseaux, des chiens....)
C'est juste que statistiquement sur un nombre limité de matchs, il y en a toujours bien un qui tombe souvent juste. Et le fait est qu'ici cela a été un poulpe, ce qui est assez disons amusant, et ce qui évidemment a fait un peu le buzz.
Mais ça aurait continue ses bons résultats se seraient très certainement effondrés.

C'est comme avec les loteries de la mort : y en a toujours bien qui qui gagne (tout comme il y a toujours bien une "madame soleil" qui peut dire "je l'avais prédit"). Après coup c'est toujours plus facile.

Bon, tout ça un peu HS, je voulais juste apporter ces précisions, disons, "historiques"

EDIT pardon : Paul le poulpe !!!! https://fr.wikipedia.org/wiki/Paul_le_poulpe

[JPL]

Mais l'exemple du poulpe que vous donnez est très intéressant: effectivement il n'a pas de système nerveux central

Faux. Comme tous les mollusques il possède un système nerveux central avec des ganglions "céphaliques" beaucoup plus développés que pour le système nerveux de la moule (par exemple) que j’ai eu la "joie" de disséquer quand j’étais étudiant. Mais il possède aussi des ganglions nerveux assez développés au niveau de chaque bras, ce qui lui permet une très bonne réactivité sensorimotrice de ces membres.

[JPL]

Raoul le poulpe.

Confondrais-tu avec Raoult ?

[Kannagi]

Marrant que ce topic existe , je suis venu exprès pour poser une question "comment écrire un article scientifique" , justement sur la conscience.
J'ai pas tout lu , mais prendre Enthoven comme argument d'autorité , vu les âneries qu'il sort ^^

Je ne suis pas scientifique , mais j'ai étudié le domaine pendant des années , et j'ai une théorie de la conscience d'un point de vue scientifique.
Et pour répondre à ta question "rapidement" , non c'est impossible qu'un ordinateur à une conscience.

[pm42]

Et pour répondre à ta question "rapidement" , non c'est impossible qu'un ordinateur à une conscience.

Coté argument d'autorité, cela me semble être assez fort.
D'autant que citer Enthoven et son "expérience" n'en était pas un. Et le concept de conscience n'a jamais été clairement défini.

[oualos]

Pour finir le HS

L'association People for the Ethical Treatment of Animals (PETA) a lancé une campagne pour la libération du poulpe dans un parc national dans le Sud de la France, où la pêche est interdite. Mais le directeur du Sea Life aquarium affirme que l'animal n'aurait aucune chance de survie dans la nature, Paul étant né en captivité et n'étant pas habitué à trouver seul de la nourriture.
Après la défaite de l'Allemagne face à l'Espagne en demi-finale, de nombreux internautes allemands ont proposé diverses manières de le cuisiner (plancha, grillade, marinade, paëlla…), tandis que sa cote de popularité sombrait. Plusieurs membres du gouvernement espagnol, dont José Luis Zapatero, ont évoqué, sur le ton de la plaisanterie, leur intention de protéger l'animal afin que les Allemands ne le mangent pas. L'auteur uruguayen Eduardo Galeano a jugé le poulpe « passablement corrompu » au moment où il a prédit la défaite de l'Uruguay contre l'Allemagne pour le match de la troisième place, car il cherchait à « maintenir de bonnes relations avec le pays où il vit ». Au-delà des péripéties sportives, la sympathie dont bénéficie Paul le poulpe s'enracine dans un imaginaire ancien qui voit dans le poulpe l'image de la pensée ondoyante et rusée.

Pour revenir au sujet, j'avais donné un exemple au sujet de la végétation: si les acacias arrivent à communiquer entre eux et à informer l'arbre voisin de la présence de girafes prédatrices, alors où se trouve la ou les limites de la conscience ? Qu'est-ce qui va la définir dans ce cas ? On enclenche telle une dissertation de Hegel d'autres concepts comme le langage, la communication etc. pour essayer de revenir à la question de départ: à savoir existe-t-il d'autres consciences que les consciences de type humaine ou animale ?
J'avais du mettre quelque part ici que dans les Manuscrits de 42, Heisenberg estimait qu'un micro-organisme avait une conscience: sa définition lui c'était qu'à partir du moment où il existait une barrière entre le soi et le non-soi, pour lui on pouvait parler de conscience. On peut prolonger le débat (déjà eu lieu ici aussi je crois) ou disons plus modestement rajouter des éléments au débat en disant qu'avec Varela et sa dichotomie entre autopoïèse et allopoïèse on pourrait préciser un peu mieux la formulation de Heisenberg. L'autopoïèse caractérise une substance capable de produire sa propre substance à l'inverse de l'allopoïèse.
En définitive il est impossible de trancher dans le débat: il vaut mieux dans ce genre de débat parler de conscience humaine voire animale car dans ce cas on peut dire et formuler qu'une machine n'aura JAMAIS de conscience humaine. Ou animale...
Il n'existe pas l'équivalent d'un test de Türing pour la conscience mais le protocole serait très difficile à formuler. Sans vouloir rentrer dans des sophismes compliqués, à partir du moment où le test de Türing a été passé on pourrait estimer que la machine possèderait une conscience. Tout dépend de comment ce test de Türing est fait et pratiqué... et par combien de personnes avec au départ un panel suffisamment large de personnes interrogeant chacune la machine. À sa manière bien entendu...
Donc avec au bout des statistiques avec moyenne, variance et écarts-types: pas impossible à faire!
Les statistiques étant une science, cela serait praticable.

Déjà la question du test de Türing et sa formulation est une vraie difficulté en soi.

[Kannagi]

Oui c'est fort , mais je vais te faire une analogie , peut tu produire 2 TW on faisant les calculs de fusion nucléaire ?
(spoil : non ,si tu veux faire ça ,il faut le produire dans la réalité physique).

Considérer qu'un ordinateur peut créer de la conscience ,c'est de la magie.
Admettons qu'on part sur ça , ça veut dire quoi ?
ça veut dire qu'un ordinateur qui ferait des "calculs" peu importe son support (genre une presse hydraulique) produirait de la conscience ?
Mais comment la nature serait -t-elle capable de comprendre les calculs abstraits qu'on fait ?
La réponse est que c'est impossible.
C'est pareil que d'aligner des symboles et incantation , on espérant que ça soigne , ou que ça invoque quelque chose , on peut tenter toute les possibilités de symboles aucune n'a un effet sur le réel.
Et c'est pas un soucis de "bon algo" là , c'est que un calcul , fait des calculs , il produit pas de phénomènes physiques.

Et partir sur cela (le fonctionnalisme donc que les calculs produirait de la conscience), c'est aussi se mettre des bâtons dans les roues comme explication ,je veux dire, ça me semble évident que l'explication est autre , si on arrive a de tels absurdités comme conclusion qui en plus n'explique "rien" , c'est souvent une mauvaise explication.

[pm42]

Et c'est pas un soucis de "bon algo" là , c'est que un calcul , fait des calculs , il produit pas de phénomènes physiques.

Outre le fait que rien n'empêcher un ordinateur d'interagir avec le monde physique de la même façon qu'un humain, que c'est déjà eux qui pilotent les centrales nucléaires justement, les avions, conduisent partiellement les voitures, etc, un calcul est un phénomène physique.
C'est même un sujet très étudié.

J'ai du mal à voir un argument ou même un raisonnement cohérent derrière tout ça.
Parce que si c'est pour nous dire que les ordinateurs n'ont pas la capacité actuellement de faire tout ce que font les humains, c'est très banal. En déduire l'impossibilité de la conscience relève de la pétition de principe.

[Kannagi]

Et moi je comprend mal comment tu ne peux pas voir les incohérences , ou alors il faut changer la conclusion.

Mon smartphone interagie avec le monde physique , il est capable de penser ?
C'est assez simple , soit tu considère que n'importe quel algo peut avoir une conscience , même un simple tri à bulle qui "interagirai" avec le monde physique ,je sais pas pour trier des palettes.
Soit que la conscience n'existe pas tout simplement.

Mais dire que le bon algo créer de la conscience est une absurdité.

[pm42]

Mon smartphone interagie avec le monde physique , il est capable de penser ?

Ton argument est "les locomotives sont incapables de voler donc on ne pourra jamais faire voler une machine".

C'est assez simple , soit tu considère que n'importe quel algo peut avoir une conscience , même un simple tri à bulle qui "interagirai" avec le monde physique ,je sais pas pour trier des palettes.
Soit que la conscience n'existe pas tout simplement.

Ce n'est pas simple, c'est une erreur de raisonnement monumentale de ramener le débat au choix entre 2 propositions simplistes.

Mais dire que le bon algo créer de la conscience est une absurdité.

La moindre des choses serait de savoir que les IAs ne sont pas des algos justement.

[oualos]

De façon très anthropomorphiste hélas (!) mais c'est celle que je connais le mieux, toute conscience est conscience de quelque chose
C'est ce que Husserl appelle l'intentionnalité. Déjà la conscience de soi est coton à définir, même sans renvoyer à la métaphysique qui implicitement ou explicitement suppose de l'être.
La conscience associée au vivant a conscience d'abord d'être, soit d'être un être vivant: être vivant c'est s'alimenter, être capable de se reproduire, avoir une interaction avec le monde extérieur, de produire des raisonnements d'inventer des concepts des néologismes bref une foule de choses. En premier lieu d'être autopoïétique et de reconnaître la frontière entre le soi et le non-soi.
À la limite je suis partisan de ceux qui disent que la conscience a une nature ontologique, et que donc la machine ne saurait pas la reproduire car il lui manque l'ontologie précisément. Sauf si on se place du côté holistique des choses mais là on n'est plus dans le scientifique si on suppose cela...
Imiter oui d'accord, avoir des capacités qui dépassent largement l'humain dans certains domaines comme celles calculatrices et mémorielles c'est jouable en tout cas.
Pour le moment c'est un outil qui connaît des progrès fulgurants et qui s'applique à de + en + de domaines mais je crois pas que la question (là je me réponds à moi-même haha) de savoir si elle aura un jour une conscience n'est pas essentielle.
pas fondamentale

[Kannagi]

Ton argument est "les locomotives sont incapables de voler donc on ne pourra jamais faire voler une machine".

Non tu as mal compris mon argument , ma question est du coup pourquoi mon smartphone n'est pas conscient ?

Ce n'est pas simple, c'est une erreur de raisonnement monumentale de ramener le débat au choix entre 2 propositions simplistes.

Pour exact 3 :
-que ça n'a pas de conscience
-que ça en a
-faut le bon algo

c'est quoi les variantes ?

Et je réduit pas à ces 2 ou 3 , dans le deux que je défent est que c'est non , parce que c'est autre chose ?

La moindre des choses serait de savoir que les IAs ne sont pas des algos justement.

Tout ce que produit un ordinateur , c'est des calculs à preuve du contraire.

[Liet Kynes]

Ma définition de la conscience ne relève pas de la performance, que je ne trouve pas pertinente pour cette question. D'ailleurs des musiciens comme Debussy sont rares mais cela n'empêche pas des musiciens plus médiocres sur le plan des accomplissements de montrer de la sensibilité et la capacité à apprécier Debussy. Ma définition serait quelque chose de beaucoup plus commun: la capacité de percevoir le monde, de se sentir soi-même et de prendre conscience de ses perceptions. C'est une définition circulaire, j'utilise le mot "conscient" dans la définition.

Est conscient ce qui se pense conscient