Un "ordinateur pensant" serait-il doué de libre arbitre ?

[invité576543]

ou la machine donnait le résultat de son calcul à l'humain qui pouvait alors choisir de changer d'avis et contredire la machine, ce qui etait censé "prouver" son impredictabilité.

Bonsoir,

Qu'est-ce que veut dire "donner le résultat de son calcul" ? Je reste sur l'impression que l'on ne discute pas de la même chose, et que tout est dans la compréhension de cette petite phrase...

Je faisais remarquer que le fait donner le résultat du calcul à l'humain constituait en soi un nouvel élement d'information qui n'avait pas été calculé par la machine auparavant

Je n'y comprend rien! Pourquoi ne l'aurait-elle pas calculé auparavant? D'où vient une telle affirmation???

Précisons clairement les règles du jeu, imaginons la programmation la meilleure répondant aux règles du jeu... Personnellement, je ne vois pas de règle du jeu telle que la programmation correcte demande une récurrence!

Cordialement,
-----

[invite8915d466]

Bonsoir

Pour moi (mais je rappelle que c'est Le Lama qui a proposé le premier l'expérience, il faudrait peut etre qu'il le confirme), cela veut dire que la machine est dotée d'une sortie intelligible par l'etre humain, qui fasse qu'il puisse prendre conscience d'une information sur son comportement futur "calculé" (et en tenir compte pour changer d'avis).

Bien evidemment, dans le prédicteur de Shannon, si la machine communique a l'humain ce qu'elle a calculé avant qu'il ne le dise lui-même, il va changer son comportement. C'est comme le jeu de ciseau-caillou-puits si un joueur triche en attendant une fraction de seconde de voir ce que l'autre a préparé !

Cordialement

Gilles

[inviteb271042d]

bonsoir,

Ces questions sur les conditions d'arrêt ressemble furieusement à d'autres questions apparues sur le fil concernant l'IA.

Et, amha, tout ces raisonnements comportent le même écueil : tenter de réfléchir sur "l'intelligence" d'une machine telle qu'elle est conçu aujourd'hui.

Le titre même de ce fil indique une erreur : A mon avis pour obtenir quelque chose ( et surement pas un ordi ) qui soit pensant, il faut d'abord que cette chose soit dotée d'un libre arbitre :

Pourquoi ? Par exemple :

Ordre from master "Robot : nettoie la maison"
Action from Robot "batterie vide; rechercher electricité"
Décision of Robot "l'ordre nettoyer la maison vient en seconde priorité apres la recharge de la batterie"

Ordre from master "Robot : nettoie d'abord la maison; je suis ton maitre; tu dois m'obeir"

Et là le robot il fait quoi ?

La discussion sur les conditions d'arrêt par d'une supposition algorithmique qui consiste à déterminer des ordres de priorités et des règles pour soumettre et intercepter des exceptions.
L'une des formulations les plus élégantes de ce genre de conception c'est les trois lois d'Asimov.

Seulement c'est totalement insuffisant. Une solution algorithmique, quelquelle soit, sera toujours plus petite que les possibilités offerte à l'intelligence par la vie dans l'univers.

Pour obtenir un libre arbitre il y a beaucoup plus simple : faire en sorte que le robot ait faim d'electricité : Bref avant de chercher une machine pensante faire en sorte que la dite machine soit disons au niveau d'une abeille capable de trouver du nectar pour assurer sa propre survie..

La survie d'abord, machine ou pas, la communication ensuite; peut etre aussi la reproduction et enfin le debut de l'intelligence.

Il me parait totalement illusoire d'imaginer l'intelligence comme une caractéristique indépendante d'une forme d'objet ( machine, etre vivant ou autre chose dans le future ) autonome et capable de se préserver face aux agressions extérieures et d'assurer SEUL son autonomie énergétique.

[invité576543]

Pour moi (mais je rappelle que c'est Le Lama qui a proposé le premier l'expérience, il faudrait peut etre qu'il le confirme), cela veut dire que la machine est dotée d'une sortie intelligible par l'etre humain, qui fasse qu'il puisse prendre conscience d'une information sur son comportement futur "calculé" (et en tenir compte pour changer d'avis).

Bonsoir,

J'avais bien compris cela dès le début. Et ce n'est pas "communiquer le résultat de tous ses calculs à l'humain".

Alors il n'y a pas de récurrence ou de boucle. La machine n'a qu'à analyser différentes réponses possibles et choisir parmi celles-ci en fonction d'une fonction d'évaluation bien définie. La programmer sans qu'elle prenne en compte sa réponse potentielle est absurde, et c'est cela qui crée un paradoxe!

Si elle prédit que l'humain est systématiquement contrariant, la réponse de la machine dépendra de la fonction d'évaluation. Si le critère est de ne pas être pris en défaut, alors elle peut dire "Je ne peux pas prédire".

Transhuman parle de capabilité de "de se préserver face aux agressions extérieures et d'assurer SEUL son autonomie énergétique". Je pense quand à moi que c'est plus général: simplement avoir des buts et des priorités. Une programmation correcte pour le problème d'origine dépend des buts à obtenir...

Cordialement,

[invité576543]

Bien evidemment, dans le prédicteur de Shannon, si la machine communique a l'humain ce qu'elle a calculé avant qu'il ne le dise lui-même, il va changer son comportement.

Là encore, c'est bizarre... Si la machine à comme CHOIX de communiquer ce qu'elle a calculé à l'humain, sans montrer ce qu'elle va réellement jouer, elle peut en profiter pour le manipuler (elle "mentira", parce que son but est de gagner!)... Si on l'oblige à communiquer ce qu'elle va jouer, évidemment elle va perdre... Si le but est de programmer une machine qui perd, il y a beaucoup plus simple

Cordialement,

[invite8915d466]

Bah la , Mmy , on a vraiment un dialogue de sourd. Si la machine ne donne pas sa VRAIE prediction a l'humain, effectivement le probleme du Lama n'a plus aucun interet philosophique . enfin pas plus qu'une partie de poker! D'une certaine manière, Le Lama essayait de définir une situation ou la machine etait sure de perdre pour en déduire justement que l'humain ne pouvait pas etre predictible !

Cordialement

Gilles

[invite6c250b59]

Maintenant, que ferait un humain si on lui demande une telle prédiction? Il abandonnera assez vite, en disant qu'il est (ou qu'il pense être) en face d'un problème de condition d'arrêt

Si on laisse à une machine prédictrice cette voie de sortie, elle la prendra dans les mêmes conditions...

Tout à fait: elle dira qu'elle ne peux pas (ou ne crois pas pouvoir) réaliser la prédiction sauf à mettre une contrainte de temps. Mais justement c'est là tout l'intérêt de cette expérience de pensée àmha: rappeler qu'une machine de Turing (ou un humain conçu comme tel) n'est généralement pas prédictible. Par rapport à la question du libre arbitre, ça me semble un point intéressant.

[invite8915d466]

ceci dit, il n'y a pas de probleme de condition d'arrêt si on simule un humain au niveau de ses réactions biochimiques, de sa constitution "matérielle" : les réactions chimiques ne s'arrêtent jamais, même en cas de mort clinique. La il s'agit de prédire l'etat du système au bout d'un temps T fixé, pas de savoir si il va s'arrêter un jour. C'est parfaitement calculable pour n'importe quelle machine de Turing , par n'importe quelle machine de Turing.

[inviteb271042d]

Bonsoir,

....
Transhuman parle de capabilité de "de se préserver face aux agressions extérieures et d'assurer SEUL son autonomie énergétique". Je pense quand à moi que c'est plus général: simplement avoir des buts et des priorités. Une programmation correcte pour le problème d'origine dépend des buts à obtenir...

Cordialement,

Bonjour,

Pour avoir des buts et des priorités exprimés par "une programmation" correcte il va falloir sacremment faire des innovations pour pouvoir formuler la représentation des "buts à obtenir" ainsi que du "problème d'origine".

Ces buts et cette situation de départ ne sont pas, à mon sens, exprimable sous forme algorithmique.

Je vais prendre un exemple plus simple qu'une recherche d'intelligence :

Pour trouver le plus court chemin entre deux points l'alogrithme le plus utilisé est appelé A*.
Sans rentrer dans les détails cet algo compare par etape successives les distances entre deux points. A* etablit donc un zonage de la région puis un ordonnancement des comparaisons.

La ou l'algorithme n'est d'aucune utilité c'est dans le choix d'une métrique, d'une norme de comparaison de deux points :
- Faut il choisir la distance entre les deux points ?
- Faut il choisir une pondération selon divers critères ?
- Faut il choisir une comparaison basée sur des paramètres intrinsèques aux objets dont le déplacement est organisé ( exemple fatigue d'un soldat, epuisement du carburant d'un véhicule ...)

Le choix d'une norme de comparaison plutot qu'une autre n'est pas décidable par un algorithme. C'est le concepteur qui doit choisir.

C'est la même chose pour les "buts" futurs et la situation de départ. Leur description pourrait probablement etre réalisée de façon algorithmique mais CHOISIR ce qui constitue un "but" ou une "situation" de départ n'est pas dicernable par une machine de Turing.

Faudra trouver autre chose.
Perso il me semble que cette "autre chose" pourrait s'exprimer directement via les besoins energétiques des machines .
cf lefil sur l'IA

[invite9cfc5b89]

Lors de mes etudes, je m'etais deja heurte a ce probleme de determinisme qui contredisait mon intuition. A l'epoque, j'avais la reponse suivante (que je ne trouvais pas totalement satisfaisante mais qui me permettait de vivre sans contradiction ) : Il doit y avoir un "theoreme" qui dit que toute machine qui calcule ce qui se passe dans dix minutes, met plus de 10 minutes a effectuer le calcul, meme en mettant en commun toutes les ressources de l'univers. Ca permet de concilier la vision algorithmique sans paradoxe, meme si c'est un peu tire par les cheveux. Le cote probabiliste de la MQ est en un sens beaucoup plus satisfaisant.

[invite3f03cc89]

Bonjours,
Le libre arbitre , c'est bien la notion de faire des choix , en acceptant les conséquences.

Si on pense c que l'on peut faire ce genre de choix donc une machine pensante aura forcement son libre-arbitre.

Sans compter que pour qu'elle est son libre arbitre alors des notions comme son obeïssance aveugle envers nous ne seront plus possible.

Et les grandes questions dans ce cas sont :

A quoi cela servirais-t-il de faire une machine pensante ?

Si il pense alors sera-t-il considerer comme une autre forme de vie ?

Une machine qui pense , ne penserais-t-elle pas qu'elle est supérieur à l'homme ?

Et dans ce cas que se passera-t-il ?

Donc oui elle l'aurais mais le voulons-nous vraiment ?

Et je dit à tout ceux qui me diront qu'elle nous doit obéissance parceque nous l'avons creer :
On crée aussi des enfants et nous obeïssent-il tout le temps ?

[invite6c250b59]

ceci dit, il n'y a pas de probleme de condition d'arrêt si on simule un humain au niveau de ses réactions biochimiques, de sa constitution "matérielle" : les réactions chimiques ne s'arrêtent jamais, même en cas de mort clinique. La il s'agit de prédire l'etat du système au bout d'un temps T fixé, pas de savoir si il va s'arrêter un jour. C'est parfaitement calculable pour n'importe quelle machine de Turing , par n'importe quelle machine de Turing.

1. Détail, mais tu veux sans doute dire "par n'importe quelle machine universelle de Turing"

2. Prédire l'état d'une machine de Turing est àmha strictement équivalent à un problème de condition d'arrêt: imagine un algo qui simule un autre algo et s'arrête si et seulement si cet algo finit sur un résultat donné....

3. Je suis néanmoins d'accord puisque tu dis "au bout d'un temps t", et qu'une simili machine de Turing limitée en taille de ruban ne pose pas de problème au niveau de la condition d'arrêt.

4. est-ce que tu te rends compte que tu es en train de dire que les réactions chimiques, qui tu en conviendras sont à la base du fonctionnement de notre esprit, sont algorithmiques?

Hé ben ça c'est le boute! Il aura fallut 30 pages, 257 discussions incluant 30226 posts, mais tu es finalement devenu computationnaliste, et ce probablement sans même t'en rendre compte!

NANANANA!
NANANANA!
YÉHÉHÉ!
GOODBYE!!¹

¹ chant traditionnel à Montréal indiquant que le Canadien vient de mettre 3/2 au Mapple Leaf. Également utilisé à Toronto dans une configuration symétrique

[invite8915d466]

oui universelle of course ! .

PAs du tout, je n'aurais pas commis une erreur aussi grossière Les réactions chimiques ne sont pas algorithmiques, parce qu'elles reposent sur la Meca Q qui est non algorithmique (c'est une théorie d'une part continue et d'autre par "flawed" par le problème de la mesure).

Tout ce qu'on peut espérer, c'est simuler l'être humain "avec une certaine précision" et, probablement, au bout d'un certain temps, de façon probabiliste. Je ne m'attends pas à ce qu'une machine de Turing puisse reproduire un algorithme EXACT de l'etre humain. En revanche, si on se donne un temps t donné, on doit en théorie pouvoir prévoir de manière probabiliste l'état de l'etre humain avec une precision epsilon fixée à l'avance, en y mettant suffisamment de moyens de calcul. Evidemment le calcul pratique est hors de portée de toute machine connue mais c'est un détail !

Il y a une différence de principe entre l'hypothèse comp qui postule un algorithme exact, et la possibilité de simuler n'importe quel système analogique, qui existe pour l'atmosphère, les étoiles ou tout autre système physique de ton choix.

Tu m'auras pas sur ce coup là , Jiav !

[invite6c250b59]

si on se donne un temps t donné, on doit en théorie pouvoir prévoir de manière probabiliste l'état de l'etre humain avec une precision epsilon fixée à l'avance, en y mettant suffisamment de moyens de calcul. Evidemment le calcul pratique est hors de portée de toute machine connue mais c'est un détail !

Ceci est l'hypothèse computaliste

Tu t'en défend en disant que l'algo selon comp doit être EXACT, mais c'est faux: la définition de la calculabilité est qu'on doit pouvoir s'approcher du résultat avec une precision arbitrairement grande. Ainsi Pi est calculable même si aucun algo ne peut donner toutes les décimales... de même qu'un humain. Enfin moi j'en sais trop rien, mais à te lire c'est ta position

[invite8915d466]

Ceci est l'hypothèse computaliste

Tu t'en défend en disant que l'algo selon comp doit être EXACT, mais c'est faux: la définition de la calculabilité est qu'on doit pouvoir s'approcher du résultat avec une precision arbitrairement grande. Ainsi Pi est calculable même si aucun algo ne peut donner toutes les décimales... de même qu'un humain. Enfin moi j'en sais trop rien, mais à te lire c'est ta position

oui mais non L'hypothèse computaliste n'est pas que l'humain est calculable avec une précision epsilon -> 0, mais qu'il est algorithmique, c'est à dire discret. Tous les systèmes physiques connus sont a priori calculables, au moins de manière probabilistes, l'hypothèse comp n'aurait donc aucun interet particulier.

Marchal utilise l'hypothèse comp pour utiliser un ordinateur à base d'éléments opto électroniques qui est censé réaliser exactement (pas à peu près à la précision epsilon) l'algorithme du cerveau, et donc engendrer une pensée [b] exactement [/b) équivalente.

La différence entre epsilon>0 et espilon = 0 est absolument essentielle dans l'hypothèse comp, car la thése de Church n'est vraie que pour les algorithmes discrets.

[invite7d81e863]

D'abord avant de répondre à cette question il faut savoir que l'ordinateur traite de façon structurée les informations, le CPU fonctionne selon des principes qui mettent en évidence la logique proprement dite.
En effet, je pense que s'il se soit donné à l'ordinateur de choisir des valeurs selon son désir on risquera de ne plus croire à l'ordinateur puisque celui va nous donner des réponses aléatoires.....

[invite6c250b59]

oui mais non

Non mais si

(...) Argument from Continuity in the Nervous System The nervous system is certainly not a discrete-state machine. A small error in the information about the size of a nervous impulse impinging on a neuron, may make a large difference to the size of the outgoing impulse. It may be argued that, this being so, one cannot expect to be able to mimic the behaviour of the nervous system with a discrete-state system.

It is true that a discrete-state machine must be different from a continuous machine. But if we adhere to the conditions of the imitation game, the interrogator will not be able to take any advantage of this difference. The situation can be made clearer if we consider some other simpler continuous machine. A differential analyser will do very well. (A differential analyser is a certain kind of machine not of the discrete-state type used for some kinds of calculation.) Some of these provide their answers in a typed form, and so are suitable for taking part in the game. It would not be possible for a digital computer to predict exactly hat answers the differential analyser would give to a problem, but it would be quite capable of giving the right sort of answer. For instance, if asked to give the value of pi (actually about 3·1416) it would be reasonable {p.452} to choose at random between the values 3·12, 3·13, 3·14, 3·15, 3·16 with the probabilities of 0·05, 0·15, 0·55, 0·19, 0·06 (say). Under these circumstances it would be very difficult for the interrogator to distinguish the differential analyser from the digital computer.

Extrait de A.M. Turing, Computing Machinery and Intelligence, Mind, 1950, vol. 59, no.236, pp. 433 – 460

En gras et en gros: On pourrait argumenter que, si le système nerveux reposait sur un fontionnement continu plutôt que discrêt, alors il serait impossible de le modéliser par une machine discrête (i.e. une machine de Turing universelle). Toutefois, dans un jeu d'imitation (i.e. le test de Turing) cette différence ne peut être exploitée pour discriminer l'ordinateur de l'humain.

Je trouve l'exemple de Pi plus simple: il est calculable car la définition de la calculabilité n'est pas de donner la réponse exacte, mais une réponse pouvant s'approcher autant de la solution exacte que l'on veut

Computable sequences and numbers. (...)
We shall avoid confusion by speaking more often of computable sequences than of computable numbers.

[invitea20bed5c]

...Marchal utilise l'hypothèse comp pour utiliser un ordinateur à base d'éléments opto électroniques qui est censé réaliser exactement (pas à peu près à la précision epsilon) l'algorithme du cerveau, et donc engendrer une pensée [b] exactement [/b) équivalente...

Pourquoi pas pour les traitements (facon d'utiliser les données mémorisées), même si je ne pense pas qu'une machine ait un niveau d'autoréférence suffisant pour être consciente au sens de l'humain.

En tout cas la facon de mémoriser est différente dans un cerveau et dans une machine : on fait de la "logique floue" avec des machines mais je ne pense pas qu'on ait essayé la "mémorisation floue", où chaque nouvelle mémorisation influence l'information déjà mémorisée, et où l'activation d'une zone mémoire (un souvenir) peut permettre l'accès à des groupes de zones mémoire jusque là inaccessibles (fait remonter d'autres souvenirs jusque là "enfouis"). Inconscient tout ca tout ca...

[invite095d3681]

je crois quon peut creer dnas un futur lointain des robots qui ont le libre arbitre

[invite8915d466]

Non mais si

Jiav, merci de la référence, mais je pense que Turing ne défendait PAS l'hypothèse comp.

Il y a une différence essentielle entre proposer une machine qui "ait l'air " humaine, et une machine qui réalise exactement l'algorithme d'un cerveau humain particulier. Le débat est souvent long et confus parce qu'on mélange les deux notions, qui sont TRES différentes.
L'hypothèse comp sujet de la thèse de Marchal ne porte PAS sur le test de Turing et l'idée qu'on puisse réalliser une machine qui émule le comportement humain : elle repose sur l'hypothèse que une pensée PARTICULIERE est le résultat d'un certain algorithme qui pourrait etre reproduit EXACTEMENT par une machine de Turing. Tu admettras que construire une machine qui donne l'impression d'etre humaine quand tu lui parles, et construire une machine QUI PENSE EXACTEMENT COMME TOI en ce moment, sont deux problemes bien différents !

Une petite question : a supposer qu'on arrive a realiser une machine qui passe le test de Turing, a ton avis, est ce que cette machine
a) aurait une vraie conscience?
b) si oui penserait elle qu'elle est
b1) une machine ?
b2) un etre humain?

[invite6c250b59]

Scusez j'avais pas vu les réponses

on fait de la "logique floue" avec des machines mais je ne pense pas qu'on ait essayé la "mémorisation floue", où chaque nouvelle mémorisation influence l'information déjà mémorisée

Sisi: avec de la modélisation par réseau de neurones (artificiels): l'apprentissage est distribué et toute nouvelle mémorisation influence l'information déjà mémorisé. Ca donne des courbes d'apprentissage et de robustesse aux destructions qui sont "strikingly" similaires à ce qu'on peut trouver chez l'humain (et autres animaux). Les problèmes profonds des IA sont en fait l'émergence du sens, de la subjectivité, et des émotions... on sait tout simplement pas faire à l'heure actuelle.

Il y a une différence essentielle entre proposer une machine qui "ait l'air " humaine, et une machine qui réalise exactement l'algorithme d'un cerveau humain particulier. Le débat est souvent long et confus parce qu'on mélange les deux notions, qui sont TRES différentes.

Je ne crois pas que Turing aurait considéré que les deux étaient différentes. Sa réponse aurait été àmha (je n'ai rien lu de lui sur la possibilité de copier des cerveaux humains individuels): si on peut trouver un algorithme dont on ne pourra pas différencier les réponses d'un cerveau humain en particulier alors les deux (l'humain et l'algorithme) devront être, et seront rapidement par toute personne raisonnable, regardés comme identiques.

Tu admettras que construire une machine qui donne l'impression d'etre humaine quand tu lui parles, et construire une machine QUI PENSE EXACTEMENT COMME TOI en ce moment, sont deux problemes bien différents !

Seulement en pratique -et encore: il est peut-être plus facile de comprendre comment faire un algorithme humain à partir d'un exemplaire cloné qu'en essayant de le construire pas à pas. D'ailleurs ta discussion sur la possibilité que des ET "construisent" un humain suggèrerait que tu es de cet avis.

Une petite question : a supposer qu'on arrive a realiser une machine qui passe le test de Turing, a ton avis, est ce que cette machine
a) aurait une vraie conscience?
b) si oui penserait elle qu'elle est
b1) une machine ?
b2) un etre humain?

Je te vois quasiment pas venir: "si elle a une vrai conscience et qu'elle pense qu'elle est humaine alors elle se trompe, si elle a une vrai conscience et qu'elle pense qu'elle est une machine alors elle n'a pas une vrai conscience"... j'ai déjà démoli ce raisonnement de deux manières différentes, dont chacune suffit (en toute modestie ).
-le raisonnement est circulaire: "une pensée de machine n'est pas humaine donc si elle pense qu'elle est humaine alors elle se trompe puisqu'une pensée de machine n'est pas humaine. Donc une pensée de machine ne peut être humaine." CQFD... à condition d'aimer les ronds!
-le raisonnement suppose que l'exactitude est une caractéristique de la conscience. Or pour moi une machine peut très bien penser qu'elle est humaine et se tromper, et elle peut aussi penser qu'elle est machine... et se tromper! Il se peut même que la question n'ai aucun sens, puiqu'elle dépend de ce qu'on appelle être humain. Anyway l'objectivité n'étant en rien une caractéristique de la conscience humaine, il serait surprenant qu'on impose cette exigence de vérité à un algorithme conscient.

next

[invité576543]

Bonjour,

si on peut trouver un algorithme dont on ne pourra pas différencier les réponses d'un cerveau humain en particulier alors les deux (l'humain et l'algorithme) devront être, et seront rapidement par toute personne raisonnable, regardés comme identiques.

A mon idée, c'est tout simplement impossible. Même si on suppose que l'on peut imiter un cerveau à l'instant t0, l'humain et de l'algorithme ne peuvent pas être identiques à t>t0, simplement parce qu'il ne sera pas possible d'imiter leurs environnements.

La conclusion est le contraire, toute personne raisonnable les regardera comme différents, parce qu'ils deviennent différents! (Point général sur un clonage, quelle que soit la nature du clone.)

La notion même de tester l'identité d'un humain et de quelque chose n'a pas de sens, à mon idée, parce que l'humain change continuellement. En fait, imiter un humain à l'instant t0 n'est pas une affirmation testable, parce que t0 est nécessairement dans le passé de la machine, et aucun test ne peut être passé vérifiant une identité avec quelque chose de passé! Au mieux on peut constater l'identité de deux séries de données indépendantes "mesurant" l'humain à l'instant t0, mais pas avec l'humain lui-même...

Ma conclusion est que chercher à imiter un humain particulier à un instant particulier n'a aucune intérêt pratique. C'est non testable, et l''évolution temporelle fait qu'on se retrouve avec une machine qui à l'air humain et c'est tout.

Cordialement,

[invite89350bd1]

a mon avis je pense que c'est impossible

[inviteb271042d]

J'ai trouvé une nouvelle loi scientifique : "la génération spontanée périodique" :

Tout calendrier où figure les mois de l'année mis en présence d'une solution adéquate de forumeurs distingués générera au moins une fois par trimestre un raz de marée pro IA / anti IA.

Bon ok plus sérieusement pas la peine de se prendre la tête depuis la dernière fois les données du problèmes sont les mêmes :

1 ) L'activité biologique qui produit la conscience n'est pas limitée au cerveau.

2 ) Au sein du cerveau l'activité cérébrale ne dépend pas que des neurones ( Pour 1500 g de cerveau on compte environ 250 g de neurones ).

3 ) L'activité des ensembles de neurones peut être schématisé par des algorithmes ( ex réseau neuronaux informatique ) Mais ces algorithmes n'aboutissent pas à une capacité d'auto référencement, d'auto organisation et d'innovation comparable ( et de très loin ) aux capacités cérébrales meme d'êtres relativement simples.

4 ) L'approche algorithmique de l'activité cérébrale se heurte au fait que l'informatique actuelle est basée sur des matériaux figés dont l'organisation n'est pas reliée aux informations transmise ou stockées.
Ceci amène de délicat problèmes de conditions d'arrêt lorsque l'on envisage une simulation informatique de grande ampleur de l'activité "intellectuelle" ( cf le fil sur l'IA d'il y a quelques mois )

5 ) Pour être précis, je répète qu'à mon sens, la remarque précédente ne veut pas dire qu'une I.A. ou qu'une conscience n'est pas accessible algorithmiquement. Cette remarque signifie juste qu'il me semble totalement impossible d'obtenir ce genre de résultat avec des algorithmes SUR LES SUPPORTS MATERIELS ACTUELS.


6 ) Par contre les algo actuels de reseaux neuronaux soemblent plutot interessant pour la selection d'informations à l'image des processus de renforcement des associations biologiques entre neurones.
Par contre il me semble qu'il n'existe pas d'algo à meme de generer une structuration réellement innovante de l'information ( ce qui est différent de classer ou selectionner des informations ).

Voilà,

[invitea20bed5c]

Sisi: avec de la modélisation par réseau de neurones (artificiels): l'apprentissage est distribué et toute nouvelle mémorisation influence l'information déjà mémorisé. Ca donne des courbes d'apprentissage et de robustesse aux destructions qui sont "strikingly" similaires à ce qu'on peut trouver chez l'humain (et autres animaux). Les problèmes profonds des IA sont en fait l'émergence du sens, de la subjectivité, et des émotions... on sait tout simplement pas faire à l'heure actuelle.

Merci pour l'info, avec ca et la réponse de transhuman me voici plus au goût du jour !
Si j'ai bien compris, non seulement on ne peut pas réduire la conscience à l'activité des neurones, et en plus il y a ce fameux phénomène d'émergence qu'on ne sait pas reproduire. sait-on au moins l'expliquer ?

[invite06fcc10b]

3 ) L'activité des ensembles de neurones peut être schématisé par des algorithmes ( ex réseau neuronaux informatique ) Mais ces algorithmes n'aboutissent pas à une capacité d'auto référencement, d'auto organisation et d'innovation comparable ( et de très loin ) aux capacités cérébrales meme relativement simples.

Ben, si tu rajoutes à la fin de ta phrase "relativement simples", je ne peux plus être d'accord. Il y a bien des algorithmes permettant l'auto-organisation et l'innovation (cartes SOM par exemple), ce qui peut être comparé à l'organisation rétinotopique et la reconnaissance des formes opérée dans l'aire V1 du cortex.

4 ) L'approche algorithmique de l'activité cérébrale se heurte au fait que l'informatique actuelle est basée sur des matériaux figés dont l'organisation n'est pas reliée aux informations transmise ou stockées.

des matériaux figés, quels matériaux ?
On sait très bien supprimer des neurones, en rajouter, modifier les connexions, tout cela dynamiquement et algorithmiquement, où est le problème ?

5 ) Cette remarque signifie juste qu'il me semble totalement impossible d'obtenir ce genre de résultat avec des algorithmes SUR LES SUPPORTS MATERIELS ACTUELS.

Je ne te suis pas. S'il y a bien un principe théorique qui a été bien compris par les informaticiens, c'est que le software est indépendant du hardware. En particulier, tout programme d'une machine parallèle de type SIMD ou MIMD peut être simulé sur une machine monoprocesseur (en dehors de tout problème de durée des calculs ou de place mémoire). Ca ne veut pas dire qu'au niveau de la conception il ne faudrait pas changer de matériel car comme on dit l'outil fait parfois l'ouvrier, mais d'un point de vue potentiel théorique, je ne vois pas le gain qu'on peut attendre d'autres supports matériels.

6 ) ... Par contre il me semble qu'il n'existe pas d'algo à meme de generer une structuration réellement innovante de l'information ( ce qui est différent de classer ou selectionner des informations ).

Encore une fois, on peut modifier les réseaux de neurones à souhait, on peut manipuler des structures dynamiques pointant sur ce qu'on veut, y compris sur d'autres structures dynamiques (exemples : les hypergraphes), on peut également faire de la programmation génétique (différent d'algo génétique), what else ?
Que ce soit des problèmes très difficiles, tu as raison de le souligner. Il y a en effet très peu d'algorithmes qui modifient ou crée dynamiquement des structures de données. Cela participe vraisemblablement aux difficultés rencontrées en I.A., mais ce ne sont pas des limites théoriques nécessitant une remise en cause du matériel.

[inviteb271042d]

Bonjour Argyre

Je sais pas pourquoi mais j'suis pas surpris de te voir intervenir...

Si tu me permet inutile de te mettre la rate au court bouillon sur mon intervention. Je connais tes objections qui sont tout à fait valables.
Seulement comme je te l'ai exposé dans le précédent fil sur l'IA je ne suis pas d'accord car je pense que la distinction hardware/software est particulièrement limitative pour aboutir à une architecture capable d'innovation

Mais je ne désire pas refaire un n-ième sujet sur l'IA car je crois m'être dejà largement exprimé sur ce sujet. J'ai juste voulu résumer mon opinion.

Cordialement,

P.S. : une précision : Meme si je ne suis pas d'accord avec Argyre je trouve que les arguments qu'il expose dans le précédent fil sur l'IA sont particulierement valables.
Seulement ni lui ni moi ne seront encore de ce monde lorsque la technologie sera à même de nous départager.

Pour ceux et celles qui veulent apercevoir comment le hardware pourrait évoluer vers plus de souplesse il faut aller sur le site d'ibm et aussi suivre les sujets relatifs à la régulation des processeurs multi coeurs.

[invitea20bed5c]

...Encore une fois, on peut modifier les réseaux de neurones à souhait, on peut manipuler des structures dynamiques pointant sur ce qu'on veut, y compris sur d'autres structures dynamiques (exemples : les hypergraphes), on peut également faire de la programmation génétique (différent d'algo génétique), what else ?...

Et tout ceci peut-il être décrit par une machine de Turing, avec la ptite flèche qui pointe sur les ptites cases ???

[invite6c250b59]

La conclusion est le contraire, toute personne raisonnable les regardera comme différents, parce qu'ils deviennent différents! (...) chercher à imiter un humain particulier à un instant particulier n'a aucune intérêt pratique. C'est non testable

C'est une objection intéressante. Néanmoins considère le cas où tu as un humain + 1 copie imparfaite, et qu'ils évoluent au bout d'un temps t vers deux êtres différents qu'on appelera algo'1 et algo'2. C'est juste des noms: derrière l'un des noms se cache en fait ce qu'est devenu l'humain au temps t, et derrière l'autre nom se cache ce qu'est devenu la copie au bout du même temps. Si tu es incapable de dire, en te basant sur les réponses d'algo'1 et d'algo'2, si l'humain est l'un plutôt que l'autre, alors la copie était trop proche de l'original pour qu'on doive considérer les deux comme différent: les epsilons différences ne changent pas l'identité profonde entre les deux, pas plus qu'un micro AVC ne va te changer en une personne différente.

Tout calendrier où figure les mois de l'année mis en présence d'une solution adéquate de forumeurs distingués générera au moins une fois par trimestre un raz de marée pro IA / anti IA.

1) ...
2) ...
3) ...
4) ...
5) ...
6) ...

...autant d'affirmations sans preuves. Pas forcément fausses ni inintéressantes, mais en manque de données probantes disons

Si j'ai bien compris, non seulement on ne peut pas réduire la conscience à l'activité des neurones

Il y a une différence entre "on peut pas" et "on ne sait pas". Sur le principe on peut, mais là c'est moi qui manque de données probantes.

il y a ce fameux phénomène d'émergence qu'on ne sait pas reproduire. sait-on au moins l'expliquer ?

On sait reproduire des phénomènes d'émergence, par exemple celui qui permet à des fourmis de trouver un chemin efficace sans nécessairement comprendre à la géographie de leur environnement. Certaines modélisations en réseaux de neurones sont un autre genre d'émergence: comment un réseau apprend alors que les neurones individuels composant le réseau font des trucs purement locaux? Alors beaucoup pensent que le sens ou la conscience ou les émotions sont des propriétés émergentes, mais on a pas encore la recette effectivement.

Et tout ceci peut-il être décrit par une machine de Turing, avec la ptite flèche qui pointe sur les ptites cases ???

Absolument. C'est ça qui est révolutionnaire dans les idées de Turing: un machin aussi laid que sa machine à deux sous a exactement les potentialités de calcul que la machine la plus rafinée que tu puisses concevoir. Même les ordinateurs quantiques dont on parle beaucoup en ce moment ne permettent pas de faire mieux: ils permettraient "juste" de le faire plus rapidement (pour être plus juste: ils permettent aussi de faire du vrai hasard, ce qui est interdit à une machine de Turing).

[inviteb271042d]

...autant d'affirmations sans preuves. Pas forcément fausses ni inintéressantes, mais en manque de données probantes disons
.

J'ai déjà largement exposé les arguments dans le précédant fil sur l'IA sans d'ailleurs beaucoup de reponses techniques à l'exception notable d'Argyre et de Paulb.

Pour tout dire, au vu du contenu de la partie "logiciel" du forum futura je ne pense pas que ce soit le forum idéal pour ce genre de sujet . Trop de gens y ont une approche théorique et fragmentaire de l'informatique .

Ce qui n'empêche pas d'y trouver beaucoup d'autres discussions intéressantes sur d'autres sujets ( peut être plus développés dans les programmes...scolaires ).