Science sans conscience ?

[BrainMan]

As-tu déjà essayé de programmer un ordinateur pour qu'il joue au go ? Je l'ai fait, et j'ai aussi joué avec d'autres programmes. Et crois moi : c'est difficile. Même (et surtout (*)) pour une machine.

Oui bien sûr (pas du go mais d'autres types de jeu, c'est pas la question), mais grosse confusion à mon avis, c'est difficile de faire un programme qui tourne sur la machine, pas que la machine est moins adapté à de ce type de problème (le jeu de go).
Et qui fait le programme (d'après son mode de pensée...), sur une machine qu'un Homme a inventé (d'après son mode de pensée...) ? C'est l'Homme, incapable de résoudre ce type de problème simplement.
L'ordinateur ne fait que reproduire en plus rapide et en plus précis, l'handicape mental de l'Homme (pour ce type de problème).

Mais de là à comparer la "pensée" du deep learning et la pensée humaine, on sait très bien qu'il y a quelques points communs et.... beaucoup de différences. Nos neurones ne sont pas formels

Là, j'adhère.
C'est le point de base que les "défenseurs" de la machine (oui je sais, mais ça existe ) oublient généralement.
Il n'y a strictement aucun rapport entre un programme simulant une chose et la chose physique.
C'est virtuel et ici même pire, "formellement virtuel "(double peine pour "la machine", qui en perd conscience et s'en va faire autre chose du coup ).

Et de là à parler de conscience pour les machines.... c'est un pas que je ne franchirai pas.

On peut imaginer faire des neurones physiques, donc pas de programme ici (ça a déjà été fait el labo de recherche pour étudier les réseaux d'après de vieux souvenirs, mais ça reste très limité, histoire de coût pour commencer, après il y a le chauffage etc etc, et ça reste très misérable comparé au vivant.
C'est super bien foutu le vivant mine de rien, de la nanotechnologie de haute qualité...

Il faudrait faire des neurones à l'échelle nano du vivant.
Ou alors utiliser les vrais, ça marche bien aussi.
-----

[Deedee81]

c'est difficile de faire un programme qui tourne sur la machine, pas que la machine est moins adapté à de ce type de problème (le jeu de go).

Excuse-moi, mais je ne comprend pas bien la différence entre les deux.

Il n'y a strictement aucun rapport entre un programme simulant une chose et la chose physique.

La différence est encore pire que ça. Le deep learning ne simule même pas les mécanismes cognitifs humains. Les différences sont très importantes.

Tu parlais de neurones physiques. C'est amusant car ça existe, je veux dire des simulations de véritables neurones. Mais le but n'est pas d'en faire un calculateur mais plutôt d'étudier le fonctionnement des (vrais) neurones (en particulier pour la recherche médicale).

[BrainMan]

Excuse-moi, mais je ne comprend pas bien la différence entre les deux.

Vous donnez pourtant, en quelque-sorte, un exemple plus bas :

La différence est encore pire que ça. Le deep learning ne simule même pas les mécanismes cognitifs humains. Les différences sont très importantes.

Et oh, tient, ça marche vachement mieux....

Ce que j'essaie de dire, c'est que nous sommes plutôt doués pour le raisonnement et la logique.
Bien que peu performants et terme de puissance....
Si on essaie de faire sur une machine un joueur de go sur "cette base" là (la pensée logique et le raisonnement), le résultat, à terme, sera meilleur que celui de l'être humain certes (du fait de la puissance de la machine), mais ça restera un piètre joueur comparé à un algorithme basé sur le Deep learning.

Imaginons maintenant la machine elle-même basée sur une autre technologie que celle du processeur et des programmes "séquentiels" (qui reflètent comme déjà dit la pensée rationnelle humaine, celle qui est reproductible et que l'on peut transmettre).
Pour cette "autre machine", peut-être un réseau de neurones physique, le jeu de go peut paraitre idiot.
Cette machine identifie alors rapidement les motifs logiques (qui en font un jeu simple...) que contient "ce jeu", ce qu'un cerveau rationnel comme le notre ne peut pas.
Nous avons sous les yeux un jeu simple mais nous ne le voyons pas avec l'esprit rationnel.

Vous vous souvenez ce que je disais concrnant la complexité ?
Elle est relative à celui qui tente de l'évaluer.

Pour imager, c'est comme si on prenait une pièce en bois façonnées avec de multiples facettes et qu'on la posait sur un revêtement avec les mêmes facettes en creux. Pour la pièce en bois, le revêtement est simple, mais pour une pièce en bois lisse, le revêtement est compliqué.

[Deedee81]

Vous donnez pourtant, en quelque-sorte, un exemple plus bas :

Oui, là cette fois j'ai tout compris..... mais je ne vois pas l'intérêt de tes explications

Imaginons maintenant .....

Toute cette partie est hautement spéculative. Je vais être clair : tu n'en sais absolument rien.

Vous vous souvenez ce que je disais concrnant la complexité ?

Oui, je me souviens très bien que tu n'avais pas compris la définition de ce terme en science (c'est encore le cas je vois !!!!). Il y a confusion entre compliqué et complexe (s'il y a deux mots différents, c'est pas pour rien).

... creux...

Je vais être un peu méchant mais je trouve que c'est tout ton message qui est creux. Je préfère le dire et que tu en prennes conscience plutôt que de répondre "oui bien sûr" pour te faire plaisir !!!!
Essaie de faire plus court, plus concis, plus précis et éventuellement sourcés par des références. Ca aide.
(ou toi-même consulte/lit de telles références, je peux te donner des ref pour ce que j'ai dit dans le message 60 et pour la complexité, mais bon, j'en avais déjà donné et il est clair que tu ne les lis pas).

[BrainMan]

Je vais donc faire très court.
La simplicité d'un problème dépend des facultés de celui qui tente de le résoudre.
De manière terre à terre, concrètement et en dehors de toute théorie, c'est juste un fait.
Ici, vous persistez à croire qu'il existe un "canon de la simplicité", comme il existerait un "canon de la beauté"
Certes, pour le mathématicien ou le physicien, peut-être (on a défini une norme basée sur quelque-chose).
Mais dans la vraie vie...il n'y a pas que des mathématicien ou des physiciens, et mêmes que des humains.

C'est comme pour l'attirance physique.
La guenon préfère son mâle plutôt que l'explorateur top modèle qui passe par là.
(Après, vous pouvez penser le contraire )

[Deedee81]

La simplicité d'un problème dépend des facultés de celui qui tente de le résoudre.

Là on est d'accord (enfin, en partie, ça dépend aussi du problème).

Ici, vous persistez à croire qu'il existe un "canon de la simplicité", comme il existerait un "canon de la beauté"

Non. Tu me prêttes de fausses croyances.

Simple est l'opposé de compliqué. Tu continues à confondre avec complexe.

[BrainMan]

Pour préciser.
Ici, dans cette discussion, vous fournissez vous-même un exemple à ma démonstration...
Vous me dites qu'il faut éviter de confondre la complexité et la complication.
Qu'en science (tadada... ), il y a des mots précis pour chaque chose.
Certes.
Mais imaginez maintenant que je ne confond que le nom et que j’emploie finalement le concept de manière adéquate.
Votre "mode de pensée", vous handicaperait finalement dans la compréhension d'un message mal-formé mais correct dans le fond car vous ne travaillez pas de manière assez large/floue pour essayer déjà d'y voir plus clair (la précision peut venir plus tard, pas de panique...)
Les IA basées sur les réseaux n'ont généralement pas cet handicap.

Vous vous souvenez également que je vous avait parlé des piliers de la pensée et des no mans land entre ces piliers, ce qui vous avait laissé "pantoi" (icone ).
C'est bien que vous avez du mal à concevoir ce mode de pensée...

[BrainMan]

Simple est l'opposé de compliqué. Tu continues à confondre avec complexe.

Oui, bon...

[jacquolintégrateur]

Mais le deep learning ayant montré son extraordinaire capacité dans la reconnaissance des formes,

Bonjour
J'ai travaillé sur la reconnaissance des formes, dans ma carrière d'ingénieur, il y a pas mal d'années. A l'époque, mon problème était de traiter le signal radar pour distinguer un hélicoptère (hostile), au point fixe, du sommet d'un pilonne à haute tension... pour éviter de tirer un missile sol air contre le sommet du pilonne!!! Bien sûr, on a fait d'énormes progrès, depuis, mais je doute que l'on soit encore parvenu à réaliser une performance commune de l'être humain, même gosse, dont je n'aurais pas seulement osé faire mon graal, à l'époque citée: reconnaître une coccinelle marchant sur une touffe d'oeillets mignardises agités par le vent, à travers une forte pluie!!
Cordialement

[Deedee81]

J'ai travaillé sur la reconnaissance des formes, dans ma carrière d'ingénieur, il y a pas mal d'années. A l'époque, mon problème était de traiter le signal radar pour distinguer un hélicoptère (hostile), au point fixe, du sommet d'un pilonne à haute tension... pour éviter de tirer un missile sol air contre le sommet du pilonne!!! Bien sûr, on a fait d'énormes progrès, depuis, mais je doute que l'on soit encore parvenu à réaliser une performance commune de l'être humain, même gosse, dont je n'aurais pas seulement osé faire mon graal, à l'époque citée: reconnaître une coccinelle marchant sur une touffe d'oeillets mignardises agités par le vent, à travers une forte pluie!!

C'est THE domaine où de très gros progrès ont été fait. Mais ma foi, dans l'analyse de signaux radars je n'y connais rien du tout. J'ignore où on en est, et c'est sans doute un domaine où il va être difficile de trouver des infos (autre cas sans doute assez proche : les "oreilles" pour la reconnaissance par sonar)

[Liet Kynes]

Mais de là à comparer la "pensée" du deep learning et la pensée humaine, on sait très bien qu'il y a quelques points communs et.... beaucoup de différences. Nos neurones ne sont pas formels Et de là à parler de conscience pour les machines.... c'est un pas que je ne franchirai pas. Je crois qu'on est très loin de pouvoir en discuter ou même de spéculer sans trop rêver. De plus on se doute bien que pour la conscience de type attention et cognition, il sera sans doute un jour possible de trancher/étudier cet aspect chez l'IA, mais pour la conscience phénoménale (dite aussi subjective), cela semble fort douteux (même si je n'ai pas été entièrement convaincu par les arguments du philosophe Muchel Bitbol que j'ai lu hier dans la recherche.

Bonjour,

Bien résumé, la conscience phénoménale c'est de la philo encore pour un bon moment : https://fr.wikipedia.org/wiki/Consci...9nom%C3%A9nale

L'aboutissement d'une approche qui la verrait comme un tout possédant des éléments fonctionnels (attention, cognition mais aussi perception, mémorisation, décision...) me semble très incertain mais cela reste peut-être intéressant ne serait-ce que pour enrichir et préciser les définitions usuelles de ces éléments fonctionnels?

[Deedee81]

Salut,

L'aboutissement d'une approche qui la verrait comme un tout possédant des éléments fonctionnels (attention, cognition mais aussi perception, mémorisation, décision...) me semble très incertain mais cela reste peut-être intéressant ne serait-ce que pour enrichir et préciser les définitions usuelles de ces éléments fonctionnels?

Probablement.

Je dois bien avouer que dans ce domaine je n'ai que de vagues intuitions :
1) j'ai l'intuition que la conscience phénoménale, qui n'a rien de simple, se décompose en éléments qui peuvent se raccrocher à la conscience "attentionnelle" en neurologie, et en éléments qui n'ont tout simplement aucune substance ni intérêt.
2) Hier j'ai lu les quatre grandes théories de la conscience (espace global, ordre supérieur, information intégrée, processus récurent). Et j'ai l'intuition qu'une théorie plus approfondie (et validée) sera juste un rapprochement/intégration de ces quatre théories encore embryonnaires. Comme si ces quatre théories étaient (en grande partie) justes mais ne soulevaient qu'un coin du voile.

Mais j'insiste sur le fait que ce n'est qu'une vague intuition.

Inutile d'insister sur le (1) j'en sais trop peu et on est en grande partie dans la philo.

Pour le (2) quelques références :
https://fr.qaz.wiki/wiki/Global_workspace_theory
https://fr.qaz.wiki/wiki/Neural_corr..._consciousness
https://psi-recherche.com/la-theorie...mation-theory/
https://fr.qaz.wiki/wiki/Higher-orde..._consciousness
Pas facile de trouver, je n'ai pas vu de bonne référence à la théorie des processus récurrents.
EDIT Ah et aussi (mais payant évidemment) https://www.larecherche.fr/quatre-th...-la-conscience

Bon, le sujet est vaste et difficile. Mais pour celui qui est intéressé, il y a de quoi faire

[Liet Kynes]

Je vais dépenser les 7 euros et quelques.. cela me semble un bon investissement

[BrainMan]

Inutile d'insister sur le (1) j'en sais trop peu et on est en grande partie dans la philo.

Non, on croit faire de la philo ("On" ne fait pas de la philo en quelques lignes sur un forum...).
Ainsi Alfred Tarski, le mathématicien permet à des philosophes de bons niveaux (capables de comprendre le mathématicien, entre autre) de faire avancer certains débats, concernant par exemple la vérité et le langage.

Sinon, on peut aussi s'adresser à des spécialistes en psychologie comme Antonio Damasio.

Il a déjà montré que les émotions sont indispensables à la validité de nos raisonnements.

Dans son dernier ouvrage, Antonio Damasio estime qu’elles pourraient être à l’origine de la conscience humaine et animale.

La théorie des marqueurs somatiques* a pris de court ses collègues, en démontrant que, contre toute attente, raison et émotion ne s’opposent pas. Sans émotion, nos raisonnements sont biaisés et nos choix les plus simples peuvent déboucher sur des décisions aberrantes.

La dichotomie passions/raison constituait l’erreur de Descartes qui donna son titre au classique premier ouvrage de Damasio, en 1994. Depuis, si l’exigence de ses ouvrages ne l’impose pas comme un vulgarisateur, ses travaux ont consolidé son statut de pionnier en lui faisant aborder des thèmes longtemps douteux aux yeux des neuroscientifiques : comment se forme la conscience, ou encore qu’est-ce que la créativité ou ....

https://www.scienceshumaines.com/ren..._fr_26801.html

[Deedee81]

Non, on croit faire de la philo ("On" ne fait pas de la philo en quelques lignes sur un forum...).

Ce n'est pas ça que je voulais dire. Je voulais juste dire que c'est hors charte.

Et oui, +1 pour ton explication. Ca montre bien que tout ça est fort compliqué.

[Anathorn]

L'aboutissement d'une approche qui la verrait comme un tout possédant des éléments fonctionnels (attention, cognition mais aussi perception, mémorisation, décision...) me semble très incertain mais cela reste peut-être intéressant ne serait-ce que pour enrichir et préciser les définitions usuelles de ces éléments fonctionnels?

Pourtant "Elon Musk a dit" (c'est pas Jacques mais pareil...) qu'il faut mettre un bouton rouge sur les machines avec IA, "au cas où" elle aurait un syndrome skynet...
Le maitre du chaud (neuralink, transhumanisme) et du froid (IA dangereuse), indéniablement un redoutable communicant qui peut dire tout et son contraire en permanence sans être mis en contradiction.
Idem Google qui a une crise de bouton rouge...

Je vais dépenser les 7 euros et quelques.. cela me semble un bon investissement

Quand "la Recherche" produit un article sur un sujet qui t’intéresse, c'est toujours un excellent investissement

[BrainMan]

Le maitre du chaud (neuralink, transhumanisme) et du froid (IA dangereuse), indéniablement un redoutable communicant qui peut dire tout et son contraire en permanence sans être mis en contradiction.

Peut-être que votre étonnement vient du fait que vous vous appuyez sur un faux paradigme.
Vous semblez croire qu'on ne doit pas avoir deux avis contradictoires pour se comporter intelligemment.
Or, n'est-ce pas là (les avis contradictoires) une bonne source d'hésitation ?

La question de fond si vous voulez, c'est de savoir si les avis tranchés et définitifs sont avantageux ou au contraire constituent un handicap dans le monde réel (et donc l'évolution aurait favorisé une intelligence émotionnelle plutôt que rationnelle).
Changer d'avis 3 fois dans la minute est-il avantageux ?
Ça dépend du milieu (les exigences externes), des besoins (les exigences internes) et des moyens (un être avec un savoir immense aura je pense intérêt à être rationnel... mais cet être existe-t-il ?)

En tous cas, si on veut être opportuniste et "chopper le morceau" parmi d'autres opportunistes, il faut éviter l'avis tranché et définitif si on veut manifester un comportement "intelligent" (compris ici comme "servant bien les besoins du corps").

[bob46]

Science sans conscience n’est que ruine de l’âme (Rabelais)
https://la-philosophie.com/science-sans-conscience

[jacquolintégrateur]

Le hasard et la complexité sont aussi des notions proches (à méditer)

Bonjour
Voir: "Information, Complexité et Hasard". Jean Paul Delahaye. Hermes Avril.1994.
Cordialement

[Merlin95]

Changer d'avis 3 fois dans la minute est-il avantageux ?

Tout dépend ce qu'on appelle avantageux. Est-ce toujours équivalent à un avis éclairé par exemple ?

Et il existe encore d'autres solutions dans le genre de situation telle que l'avis peut changer : ne pas se prononcer ou alors aller à la recherche d'informations, par exemple.

[Liet Kynes]

Bonjour
Voir: "Information, Complexité et Hasard". Jean Paul Delahaye. Hermes Avril.1994.
Cordialement

Attention quand même, les théorèmes de Gödel sont souvent utilisés à tort pour définir des notions non mathématiques en pseudo-philo..

[jacquolintégrateur]

Attention quand même, les théorèmes de Gödel sont souvent utilisés à tort pour définir des notions non mathématiques en pseudo-philo..

Bonsoir
Le livre de J. P. Delahaye n'est pas consacré à Gödel. Pour Gödel, voir: Gödel, Escher, Bach. Les Brins d'une Guirlande Eternelle. Douglas Hofstadter. INTEREDITIONS 1985.
Cordialement