Ordinateur du futur

[Jean-GUERIN]

Bonjour jlherve, Bonjour S321, Bonjour à toutes et à tous,

Malheureusement le problème n'est pas que technique, une fonderie moderne cela coute plusieurs milliards de $ et pour suivre il faut en reconstruire une assez souvent(largement moins de 10 ans d'où la disparition d'un grand nombre de fabricants ou la cession de l'activité à des fonds de pensions), ce qui rend le ROI assez problématique.
on peut toujours espérer un nouveau miracle technologique mais il n'est pas pour demain.

Justement ! L'amélioration des procédés de fabrication est un problème technique fondamental en soi. Des foules de chercheurs et d'ingénieurs travaillent dessus, et ces recherches progressent à grande vitesse. Voir par exemple ce qu'on appelle l'"impression 3D", ou demain les "nano-outils"", à l'échelle atomique. Demain ou après-demain, on assistera certainement à une convergence (qui existe déjà) entre les procédés de fabrication et la biologie, pour produire aussi bien des hydrocarbures que du bifteck ou des interfaces "biologiques" entre l'Homme et les multiples machines de son environnement. Je reste volontairement sur un niveau de raisonnement très général, les techniques en elles-mêmes étant totalement imprévisibles.

Ce dont je parlais c'est que la recherche soit laissée complètement aux IA à partir du moment où elles auraient dépassé les capacités des chercheurs humains. Dans l'hypothèse de l'avènement des IA cette situation est tout à fait probable, c'est la possibilité de l'avènement des IA qui est très discutable ^^.

Je te conseil de te renseigner sur le Human Brain Project, l'un des projet soutenu à hauteur d'un milliard d'euro sur dix ans par l'UE. Le fait que d'ici 2025 on ait une simulation du cerveau humain fonctionnelle qui tourne sur supercalculateur c'est assez certains.

C'est là tout le problème du "transhumanisme", à mon sens. Pour moi, l'éventualité d'obtenir un jour des "robots pensants" ou une "conscience informatique" relève de la croyance religieuse, scientifiquement indécidable, et personnellement, je n'y crois pas ... Par contre, le Human Brain Project est tout à fait crédible en tant qu'outil d'exploration du cerveau.

Je crois beaucoup plus en l'accélération de la recherche et de la capacité de l'Humanité à augmenter son potentiel intellectuel global par l'organisation du travail collectif. Je m'explique. Des outils comme Internet, les forums, les wikis, permettent déjà de partager la connaissance dans le monde entier à des niveaux inimaginables il y a seulement 50 ans. Ces outils sont encore "primitifs", mais ils se perfectionnent eux aussi à très grande vitesse. C'est à mon sens l'interconnexion des cerveaux humains qui est en soi une "singularité". Le fait pour chacun , au cours du XXIe siècle, de disposer d'un ordinateur/smartphone intégré à son propre corps (mon hypothèse ci-dessus, du message 2 http://forums.futura-sciences.com/de...ml#post4777733) est l"ultime" étape prévisible à mon sens de cette mise en commun des capacités de raisonnement, avec des applications semblables (en beaucoup mieux) à nos téléconférences actuelles.

Amitiés,

Jean
-----

[ansset]

bonjour Jean, bonjour tous,
j'abonde très volontiers.
le "robot pensant" se heurte à au moins deux pb de fond:
- la conscience a t-elle besoin de l'inconscient pour fonctionner normalement ?
il me semble que oui. Ce qui rend la "simulation globale" quasi impossible.
- pire , UN "robot pensant" ne saurait faire preuve d'intersubjectivité seul.

la voie de l'interconnexion est non seulement beaucoup plus réaliste technologiquement, mais me semble t-il, bien plus en phase avec les process d'évolution actuelle de la production de connaissance de l'humanité.
dit sous l'angle d'une forme de transhumanisme, cela s'apparenterait à une "sorte" de 6 ème sens.

cordialement.

[Jean-GUERIN]

Bonjour ansset, Re-,

la voie de l'interconnexion est non seulement beaucoup plus réaliste technologiquement, mais me semble t-il, bien plus en phase avec les process d'évolution actuelle de la production de connaissance de l'humanité.
dit sous l'angle d'une forme de transhumanisme, cela s'apparenterait à une "sorte" de 6 ème sens.

Exactement ! Un de mes chercheurs favoris agite souvent un paquet de cartes 80 colonnes avant ses exposés sur sa spécialité, la biomécanique, et précise que ce qu'elle (c'est une dame ...) va exposer est à la biomécanique de 2050 ce que les cartes 80 colonnes sont à l'informatique d'aujourd'hui ...

J'y ajouterai que l'informatique d'aujourd'hui, et surtout les communications et les outils coopératifs sont dans la même situation par rapport à ce qu'ils seront demain !

Terminons en disant que je vois mal décidément une IA innover toute seule ... Un autre de mes chercheurs favoris travaille sur le processus d'innovation lui-même, et ce n'est pas de la tarte !

Amitiés,

Jean

[jiherve]

Bonjour,
Je suis de loin les évolutions de ce domaine, et je sais que certains sont arrivés a contrôler de gros coleopteres mais pour le moment cela relève d'un avatar du mors.
Et ce n'est pas par ce qu'il y a un projet abondamment financé qu'il débouchera sur quelque chose à court terme, exemple la fusion nucléaire, les milliards coulent à flot et pour le moment pas grand chose.
Aujourd'hui je pense que l'on n'est même pas capable de simuler le fonctionnement d'une mouche ou d'une aplysie donc a fortiori celui d'un cerveau humain.
un système neurologique est bien plus complexe que la somme de ses parties, donc résultats dans quelques siècles si tant est que notre espèce perdure.
JR

[S321]

le "robot pensant" se heurte à au moins deux pb de fond:
- la conscience a t-elle besoin de l'inconscient pour fonctionner normalement ?

Ce dont on parlais c'était surtout de l'idée d'une IA qui serait une simulation d'un cerveau humain. De toute évidence dans ce cas là elle aurait un inconscient exactement de la même manière qu'un véritable être humain. Cet argument ne va donc pas spécialement dans le sens de l'impossibilité d'une IA.

il me semble que oui. Ce qui rend la "simulation globale" quasi impossible.
- pire , UN "robot pensant" ne saurait faire preuve d'intersubjectivité seul.

Il n'y a aucune raison qu'il soit seul puisque nous sommes déjà là. L'intersubjectivité est la capacité de prendre en considération la pensée d'autres entités, une IA peut très bien être en mesure de prendre en considération la pensée des êtres humains avec lesquels elle communique.

C'est là tout le problème du "transhumanisme", à mon sens. Pour moi, l'éventualité d'obtenir un jour des "robots pensants" ou une "conscience informatique" relève de la croyance religieuse, scientifiquement indécidable, et personnellement, je n'y crois pas ...

Dans ces conditions le concept même d'être humain doit relever de la croyance religieuse. Ce dont vous parler c'est de savoir si des IA pourraient avoir une "âme" ce qui n'est évidemment pas une question scientifique (ni à mon avis une question très intéressante) et de tels IA pourraient sans difficulté te demander ce qui leur prouve que toi tu en as une. Cette question relève de la religion, et dans une certaine mesure de l'anthropocentrisme.
Il est tout à fait possible scientifiquement d'étudier l'intelligence ainsi que les facultés d'apprentissage et d'adaptation. Si on peut soumettre des IA à des batteries de tests qui toutes assurent que leurs capacités à simuler n'importe quelle faculté intellectuelle est égale ou supérieur à celle d'un être humain alors scientifiquement des intelligences simulées seraient indiscernable d'intelligences véritables.
Mais le temps n'est pas venu pour ces débats philosophique et éthiques, dont je disais me délecter à l'avance, nous n'avons pas encore de véritables éléments sur lesquels nous appuyer pour ce faire.

Or en science, lorsqu'il n'y a pas de différence entre deux choses c'est qu'elles sont égales. Il ne s'agit pas du tout d'une question de croyance et quoi qu'on croit ça ne changera rien à ce qu'il va se passer.

Il est tout à fait possible qu'on en n'arrive jamais à un tel point et que les capacités cognitives des machines restent à jamais très limitées. Mais il n'y a aucune raison de croire à l'une ou l'autre des hypothèses à l'heure actuelle, en préférer une sous prétexte que l'alternative est trop effrayante et qu'elle remet en question notre vision du monde ou préférer l'autre sous prétexte qu'elle fait rêver et permet d'envisager de se libérer des limitations humaines n'est dans un cas comme dans l'autre pas une façon scientifique de faire.

Dans tous les cas je n'ai jamais affirmé que ça se produirait, mais nier la possibilité que ça puisse se produire n'est plus aussi justifiable que ça l'était il y a quelques décennies.

[ansset]

Ce dont on parlais c'était surtout de l'idée d'une IA qui serait une simulation d'un cerveau humain. De toute évidence dans ce cas là elle aurait un inconscient exactement de la même manière qu'un véritable être humain. Cet argument ne va donc pas spécialement dans le sens de l'impossibilité d'une IA.
.

formellement, tu as raison.
mais j'ai dit quasi-impossible.
bref, j'essaie de me situer dans le champ des possibles accessibles.
et si la simulation de la conscience est déjà un Everest, je n'ose imaginer ce que peut être la simulation de l'inconscient.

[S321]

J'aurais plutôt tendance à penser que c'est le contraire. C'est très facile de faire en sorte qu'un logiciel ne puisse pas accéder à certaines parties de lui-même. De plus les ordinateurs capables d'apprentissages (qui existent déjà) n'ont pas besoin d'apprendre tout de leur propre fonctionnement pour fonctionner correctement.

Je me rend bien compte que ce que je dis là n'est pas très clair donc prenons un exemple, ça permettra aussi de se rapprocher un peu plus du sujet qui concerne l'ordinateur du futur. Le projet SyNAPSE d'IBM a déjà permis la conception de puces cognitives qui s'avèrent particulièrement efficaces pour certaines tâches coûteuses pour des ordinateurs classiques. Lorsqu'une de ces puces travail à la reconnaissance des formes, elle étudie les données fournies par les capteurs auxquels elle est connecté et apprend à répondre de mieux en mieux.
Sa "conscience" si j'ose dire se limite à ces donnés en entrée et aux comparaisons qu'elle opère, par contre la manière dont elle opère et les mécaniques de son apprentissage n'entrent pas dans son domaine de travail, elle n'en est pas "consciente".

Il n'y a aucune raison de penser qu'un réseau cognitif plus élaboré accueil dans son domaine de travail la totalité de son propre mode de fonctionnement. Je ne crois pas au final qu'il soit possible de simuler une conscience sans qu'elle n'ait d'office une partie inconsciente et en tout cas si on veut se débarrasser de cette partie ce sera une sacrée paire de manche même après l'apparition indubitable d'IA.
La puce dont je parlais à peut-être une "conscience" dans un certains sens (avec une définition très large), mais cette conscience n'est pas du tout réfléchie, elle ignore tout de sa propre existence. Pour qu'on puisse considérer une IA comme véritablement consciente il faut que sa conscience soit réfléchie, mais il n'y a pas besoin que cette réflexion sur elle-même soit totale après tout notre propre conscience ne l'est pas. A moins que ce soit nous qui ne soyons pas suffisamment perfectionnés ^^.

[ansset]

d'accord, mais je n'appelle pas cela "conscience" pour ma part !

[Jean-GUERIN]

Bonjour S321, Re-,

Or en science, lorsqu'il n'y a pas de différence entre deux choses c'est qu'elles sont égales. Il ne s'agit pas du tout d'une question de croyance et quoi qu'on croit ça ne changera rien à ce qu'il va se passer.

Il est tout à fait possible qu'on en n'arrive jamais à un tel point et que les capacités cognitives des machines restent à jamais très limitées. Mais il n'y a aucune raison de croire à l'une ou l'autre des hypothèses à l'heure actuelle, en préférer une sous prétexte que l'alternative est trop effrayante et qu'elle remet en question notre vision du monde ou préférer l'autre sous prétexte qu'elle fait rêver et permet d'envisager de se libérer des limitations humaines n'est dans un cas comme dans l'autre pas une façon scientifique de faire.

C'est tout mon propos ... A mon sens, la possibilité (ou non) de faire émerger une "conscience" au sens où nous l'entendons (tout en notant qu'on a déjà un mal fou à la définir) est un point aujourd'hui scientifiquement indécidable, et donc relève pour moi de la religion.

Il est clair que je n'y crois pas (au sens religieux) ce qui signifie que je l'estime (scientifiquement) indécidable jusqu'à preuve du contraire. Ceci n'empêchera pas à mon sens d'avoir des machines extrêmement performantes et indiscernables de l'humain dans de multiples applications. C'est d'ailleurs déjà largement le cas. Il est impossible de distinguer une soudure par point faite par un robot de celle faite par un humain muni d'une pince à souder ... sauf que la qualité de soudure fournie par le robot est beaucoup plus régulière ! Je pense personnellement que la "limite" perceptible au niveau des entrées /sorties entre l'homme et l'IA est la capacité de production d'oeuvres artistiques. Je n'imagine pas un Michel-Ange, un Racine ou un Praxitèle de silicium !

Maintenant, si un jour on arrive à créer une "conscience" à partir de programmes et/ou de puces informatiques (à savoir une entité "consciente" d'elle-même et capable d'échanges avec d'autres "consciences" aux niveaux émotionnel et artistique), il n'y a à mon sens que deux hypothèses : soit l'Homme "devient Dieu", soit il "rencontre Dieu", ce qui dans mon esprit (de chrétien) revient à peu près au même. Bon, "hors charte stop"

Amitiés,

Jean

[ansset]

Je pense personnellement que la "limite" perceptible au niveau des entrées /sorties entre l'homme et l'IA est la capacité de production d'oeuvres artistiques. Je n'imagine pas un Michel-Ange, un Racine ou un Praxitèle de silicium !

re_
tu es sympa, tu pourrais faire monter le challenge avec un Braque, un Picasso, un Kandinsky, un Shiele ......!

[S321]

tu es sympa, tu pourrais faire monter le challenge avec un Braque, un Picasso, un Kandinsky, un Shiele ......!

En même temps moi-même je suis incapable de produire une oeuvre artistique d'un tel calibre (voir de quelque calibre que ce soit j'en ai bien peur ^^) et pourtant je pense quand même être doué de conscience réfléchie et d'intelligence, le christianisme va jusqu'à m'accorder une âme sans même me demander mon avis c'est dire. Rien ne permet d'affirmer à l'heure actuelle que des machines ne seront jamais capable de créer des œuvres d'art, ni même d'ailleurs qu'il faudrait absolument qu'elles soient vraiment intelligente pour ça.

Je ne pense pas non plus qu'il y ait besoin qu'une machine soit capable d'émotions ou de créativité artistique pour être doué de conscience réfléchie et encore moins pour être à l'origine d'un nouveau miracle technologique basé sur une capacité de prise de décisions comparable à l'intuition humaine.

C'est tout mon propos ... A mon sens, la possibilité (ou non) de faire émerger une "conscience" au sens où nous l'entendons (tout en notant qu'on a déjà un mal fou à la définir) est un point aujourd'hui scientifiquement indécidable, et donc relève pour moi de la religion.

Comme je l'ai dit, ce n'est pas la conscience qui est un problème de religion. La conscience n'est pas quelque chose de transcendantale et elle fait partie de la réalité matérielle. Tu confonds le concept de conscience et le concept d'âme qui, lui, est religieux et je ne doute pas que ça demande du temps à la religion chrétienne d'admettre que des machines puissent avoir une âme, déjà que ça n'a pas été évident pour les amérindiens, mais ce n'est en tout cas pas une question scientifique.

Il est clair que je n'y crois pas (au sens religieux) ce qui signifie que je l'estime (scientifiquement) indécidable jusqu'à preuve du contraire.

Ouhla, ça c'est un argument très mal construit et qui n'a pas vraiment sa place sur un forum scientifique. Le fait de ne pas vouloir croire que quelque chose est possible ne le rend pas impossible aussi peu qu'on en apprécie l'éventualité. De plus je ne pense pas du tout que la religion chrétienne soit absolument contradictoire avec l'idée que des machines puissent être intelligente, voir même posséder une âme, mais je suis aussi certains que ce n'est pas du tout l'endroit pour argumenter cette position ^^.

Ce que je dirais c'est qu'il y a beaucoup de gens dans le monde qui refusent d'accepter la possibilité de la théorie de l'évolution au nom du christianisme mais les faits scientifiques ne leurs demandent pas tellement leur avis et il est tout a fait possible d'être à la fois chrétien et de croire à l'évolution. Au final le christianisme est une bonne excuse pour certains de rejeter des hypothèses scientifiquement valables alors que les raisons de ce rejet ne sont pas chrétiennes mais seulement anthropocentristes.

[ansset]

mais alors, ou est la différence avec une "grosse" calculatrice.
mon premier soft en lisp était sur le jeu au bridge.
avec comme première étape les annonces ( je ne sais si tu connais le bridge ), car les annonces bien faites, c'est la moitié du boulot.
c'est de la "réflexion" si on veut, mais c'est mécanique.
même écrit sous une arborescence type lisp, cela reste une forme de calcul.
dans le jeu ensuite, pour le joueur preneur, vient aussi une part probabiliste ( impasse par exemple ).
tj du calcul.
même si les algos sont sophistiqués.
ce n'est pas parce que c'est très compliqué, que cela devient conscient.

[Jean-GUERIN]

Re-,

Je ne pense pas non plus qu'il y ait besoin qu'une machine soit capable d'émotions ou de créativité artistique pour être doué de conscience réfléchie et encore moins pour être à l'origine d'un nouveau miracle technologique basé sur une capacité de prise de décisions comparable à l'intuition humaine.

Peut-être ... Il me semble pourtant que le processus d'innovation (en particulier en mathématiques) relève très largement d'une démarche "artistique" ...

Comme je l'ai dit, ce n'est pas la conscience qui est un problème de religion. La conscience n'est pas quelque chose de transcendantale et elle fait partie de la réalité matérielle. Tu confonds le concept de conscience et le concept d'âme qui, lui, est religieux et je ne doute pas que ça demande du temps à la religion chrétienne d'admettre que des machines puissent avoir une âme, déjà que ça n'a pas été évident pour les amérindiens, mais ce n'est en tout cas pas une question scientifique.

J'ai juste dit que la POSSIBILITE DE CREER ARTIFICIELLEMENT une "conscience" relevait à mon sens de la croyance. Quant à la matérialité de la "conscience", elle me semble pour le moment indécidable, faute justement de définition scientifique de ladite conscience !

Ouhla, ça c'est un argument très mal construit et qui n'a pas vraiment sa place sur un forum scientifique. Le fait de ne pas vouloir croire que quelque chose est possible ne le rend pas impossible aussi peu qu'on en apprécie l'éventualité. De plus je ne pense pas du tout que la religion chrétienne soit absolument contradictoire avec l'idée que des machines puissent être intelligente, voir même posséder une âme, mais je suis aussi certains que ce n'est pas du tout l'endroit pour argumenter cette position ^^.

Ce que je dirais c'est qu'il y a beaucoup de gens dans le monde qui refusent d'accepter la possibilité de la théorie de l'évolution au nom du christianisme mais les faits scientifiques ne leurs demandent pas tellement leur avis et il est tout a fait possible d'être à la fois chrétien et de croire à l'évolution. Au final le christianisme est une bonne excuse pour certains de rejeter des hypothèses scientifiquement valables alors que les raisons de ce rejet ne sont pas chrétiennes mais seulement anthropocentristes.

J'ai dit que je ne croyais pas possible de "fabriquer" une machine consciente (position religieuse) - ce qui ne signifie ne rien que je ne l'accepte pas ... et que c'était pour moi scientifiquement indécidable (position scientifique) ...

Amitiés,

Jean

[S321]

mais alors, ou est la différence avec une "grosse" calculatrice.

Mais où est la différence entre toi-même et une grosse calculatrice ? D'un point de vu matérialiste la différence n'est pas si colossale que ça et les autres points de vu sont peu productifs scientifiquement parlant. L'architecture d'un réseau de neurones est un peu différente de celle de la plupart des puces en silicium mais la différence est anecdotique, un réseau de neurones biologiques se ramène à une machine de Turing et peut très bien être simulé par un ordinateur classique assez puissant (de l'ordre de l'exaflops selon toute estimation)
De plus des puces informatiques à architecture neuromorphique commencent à voir le jour donc cette différence risque de ne plus tenir très longtemps.

Une autre différence c'est la conscience réfléchie, c'est à dire la conscience de soi et la capacité de dire "je". Même si ton programme de bridge est capable de réfléchir au sens usuel, c'est à dire de raisonner, et peut être même s'il est capable de dire "je joue telle carte" il ne sait pas véritablement à quoi correspond ce "je" et il ne peut pas en toute honnêteté affirmer "cogito ergo sum". D'où son absence de conscience réfléchie.

Différence suivante c'est la capacité d'apprentissage, celle de ta calculatrice est extrêmement limitée mais dans ce domaine encore l'informatique fait des progrès considérables et c'est l'un des but du Human Brain Project. Développer de nouvelles générations d'ordinateurs et de logiciels qui seront plus simple à programmer du fait qu'ils apprendront eux même. Par exemple un logiciel de reconnaissance faciale est horrible à programmer à la main, le nombre de cas différents qu'il faut entrer devient vite ingérable. Si le logiciel est en mesure d'apprendre de lui-même comment différencier les visages ça simplifie le travail du développeur.

Il y a aussi la capacité de s'adapter à des situations inconnues. C'est sans doute l'un des points les plus difficiles et je ne crois pas qu'il y ait eu de progrès notables récemment dans ce domaine. Un logiciel de reconnaissance faciale habitué à des photos d'un certains format prises par un certains type de caméra de puis toujours le même point de vu n'arriverait peut-être pas à identifier une personne à partir d'une photo d'un format complètement différent. Après si on lui fournit régulièrement des photos du nouveau format ses capacités d'apprentissages lui permettraient peut-être de finir par pouvoir gérer la situation, mais la capacité d'appréhender une situation n'ayant eu qu'une seule occurrence ce n'est pas la même chose.
Il s'agit aussi de la capacité d'innover, capacité qu'il faut que les IA développent pour qu'elles soient en mesure de faire de la recherche et que la singularité technologique puisse se produire.

[S321]

J'ai dit que je ne croyais pas possible de "fabriquer" une machine consciente (position religieuse) - ce qui ne signifie ne rien que je ne l'accepte pas ... et que c'était pour moi scientifiquement indécidable (position scientifique) ...

Je reste sur l'idée que vous confondez le concept de conscience réfléchie qui est matériel et celui d'âme qui est transcendantal.

[ansset]

Mais où est la différence entre toi-même et une grosse calculatrice ?

là, je n'ose même pas développer !

[JPL]

Je reste sur l'idée que vous confondez le concept de conscience réfléchie qui est matériel et celui d'âme qui est transcendantal.

Excuse-moi, mais dans le respect des opinions de chacun je rappelle que la notion d'âme n'a pas à être abordée sur ce forum.

[ansset]

là, je n'ose même pas développer !

je veux dire qu'à la base nous sommes de bien piètre calculateurs. ( au sens premier )
c'est même plutôt ce qu'on fait le moins bien.
et donc, que l'on fait appel à nos concepts, nos abstractions, nos "liens" inter cérébraux, notre vécu, nos sens, notre "intuition" ( plus ou moins consciente )nos interactions avec d'autres points de vue,etc... pour l'essentiel.
Or ce que tu décris comme cette sorte d'alter ego en silicium, pointe justement toutes les difficultés à intégrer tout cela.
bref, il partirait à la base de capacités intrinsèques opposés pour simuler les nôtres.

[S321]

Excuse-moi, mais dans le respect des opinions de chacun je rappelle que la notion d'âme n'a pas à être abordée sur ce forum.

C'est précisément ce que je disais. Je n'ai utilisé ce mot là que pour faire la distinction avec ce dont on parlait c'est à dire la conscience dont je maintiens que c'est un concept qui peut être abordé scientifiquement (ce que j'ai argumenté quand même).

là, je n'ose même pas développer !

C'est bien dommage, il faut bien partir de quelque part et c'est sur ce thème que j'ai développé dans mon post dont tu cites la première phrase.

je veux dire qu'à la base nous sommes de bien piètre calculateurs. ( au sens premier )
c'est même plutôt ce qu'on fait le moins bien.
et donc, que l'on fait appel à nos concepts, nos abstractions, nos "liens" inter cérébraux, notre vécu, notre "intuition" ( plus ou moins consciente )nos interactions avec d'autres points de vue,etc... pour l'essentiel.
Or ce que tu décris comme cette sorte d'alter ego en silicium, pointe justement toutes les difficultés à intégrer tout cela.
bref, il partirait à la base de capacités intrinsèques opposés pour simuler les nôtres.

Nous sommes mauvais pour faire des calculs similaires à ceux dont est capable une calculatrice, mais ce genre de calcul ne nous est pas très utile dans la vie de tous le jours et il n'y a aucune raison que notre cerveau soit optimisé pour les faire.

Je ne connais pas extrêmement bien le fonctionnement des neurones biologiques, un expert pourrait ajouter des précisions, mais ils peuvent être excités ou non et transmettre des signaux aux neurones adjacents. On se ramène aux mathématiques, on a donc on objet qui a des entrées, des sorties et différents états possibles (un neurone formel) et ça, ça peut se construire à l'aide de portes logiques et donc in fine à l'aide de transistors.
Un assemblage de neurones formels fera des opérations que peuvent faire une machine de Turing mais ça ne veut pas dire non plus que n'importe quelle réalisation des machines de Turing sera optimisée pour faire tourner un réseau de neurones formels efficacement c'est pour ça qu'il faut adapter l'architecture.

La réciproque est encore pire. Un réseau neuronal formel réalise des calculs à partir de ses entrées pour définir ses états suivants et ses sorties, c'est une propriété mathématiques des réseaux neuronaux, mais ce sont ces calculs là qu'il fait pas spécialement d'autres. Utiliser un réseau de neurones pour simuler une calculatrice c'est horriblement mal optimisé, la quasi-totalité de la puissance de calcul sera utilisé pour autre chose et c'est utiliser un marteau pour écraser des mouches. Et ça c'est si on créé volontairement un réseau de neurones pour simuler une calculatrice, notre propre cerveau n'est pas conçu pour ça.
Dire que nous sommes mauvais pour calculer c'est un peu comme dire que ton programme de bridge est mauvais pour jouer au poker. Ce n'est pas parce qu'un réseau de transistor n'est pas capable de simuler un algorithme de poker que ton programme ne peut pas y jouer, c'est simplement parce qu'il n'est pas conçu dans l'optique de résoudre ce problème.
Lorsqu'on estime la puissance de calcul du cerveau à 1 exaflops on ne dit pas qu'il pourrait faire n'importe quelle opérations à cette vitesse il fait ce qu'il a à faire et il est optimisé pour ça, pas pour n'importe quoi d'autre.

[JPL]

Je ne connais pas extrêmement bien le fonctionnement des neurones biologiques, un expert pourrait ajouter des précisions, mais ils peuvent être excités ou non et transmettre des signaux aux neurones adjacents. On se ramène aux mathématiques, on a donc on objet qui a des entrées, des sorties et différents états possibles (un neurone formel) et ça, ça peut se construire à l'aide de portes logiques et donc in fine à l'aide de transistors.

C'est bien plus compliqué : au niveau des synapses le fonctionnement est analogique. Et il y a aussi les cellules gliales qui jouent un rôle bien plus important qu'on le pensait jadis. En plus le cerveau réagit en fonction des hormones dont les concentrations varient de manière encore plus analogiques. Et un ordinateur n'a pas de sexe. Je souhaite bien du plaisir à ceux qui vont se lancer dans ces projets grandioses de modélisation du cerveau. Pour le moment on sait modéliser de façon à peu près correcte le fonctionnement d'un seul neurone, ce qui demande je crois quelques dizaines de minutes de calcul pour la modélisation d'une réponse du neurone correspondant à quelques centièmes de secondes.

Mais demain on rasera gratis.

[Jean-GUERIN]

Bonsoir JPL, Re-,

Je partage tout à fait le dernier point de JPL concernant le fonctionnement du cerveau. Par ailleurs, il me semble que le HBP est un outil intéressant pour étudier ledit fonctionnement.

Quand je dis que "je ne crois pas" qu'il soit possible de doter une machine d'une "conscience", je parle bien d'une "conscience" au sens "scientifique" du terme. En rappelant que personne ne sait la définir clairement. Comme le souligne JPL, la notion d'"âme" n'a rien à voir là-dedans [mode "hors charte" ON] et le fait que je sois chrétien non plus ... [mode "hors charte" OFF].

Maintenant, pour moi, affirmer ou croire qu'il sera un jour possible de "créer" une machine consciente au sens de la conscience humaine relève d'une attitude religieuse ... Consacrer des fonds à mener des recherches orientées spécifiquement vers cette finalité relève d'une démarche d'"agité du bocal", comme celle qui tenterait de prouver scientifiquement l'existence de Dieu. Pour moi, la proposition suivante : "On arrivera un jour à créer une machine consciente au sens de la conscience humaine" est simplement indécidable. C'est tout.

Et ça signifie qu'il n'est pas impossible à mon sens qu'un jour, dans X années ou décennies, ou siècles, ou millénaires l'humanité en admettant qu'elle existe encore et ait "tout compris" soit effectivement capable de "créer" une machine consciente au sens humain voire de créer une conscience humaine ou de la "télécharger" dans un ordinateur ... même si je "n'y crois pas" ...

Amitiés,

Jean

[ansset]

Nous sommes mauvais pour faire des calculs similaires à ceux dont est capable une calculatrice, mais ce genre de calcul ne nous est pas très utile dans la vie de tous le jours et il n'y a aucune raison que notre cerveau soit optimisé pour les faire.

évidemment!
cela rejoint indirectement ce que je voulais dire, nous ne fonctionnons pas comme une calculatrice, mais pas du tout.

Je ne connais pas extrêmement bien le fonctionnement des neurones biologiques, un expert pourrait ajouter des précisions, mais ils peuvent être excités ou non et transmettre des signaux aux neurones adjacents. On se ramène aux mathématiques, on a donc on objet qui a des entrées, des sorties et différents états possibles (un neurone formel) et ça, ça peut se construire à l'aide de portes logiques et donc in fine à l'aide de transistors.
........

voir le post de JPL, que j'approuve totalement.
non, on ne ramène pas du tout aux mathématiques justement.
une grande partie du stockage s'effectue par stockage et organisation par concepts, bien plus que les données brutes.
j'avais, je crois cité il y a quelque temps une étude de PLS sur ce sujet.
Un concept peut concerner de quelques centaines à quelques milliers de neurones.
Les concepts sont interconnectés par ce qu'ils ont en commun.( pour simplifier )
Il y a donc structurellement un lien direct entre ce qu'on peut nommer mémoire et ce qu'on peut nommer raisonnement.
On est loin du shéma global entrée-traitement-sortie sauf à un instant t sur un sujet y.
( voir aussi le rôle majeur des cellules gliales, re-citées à juste titre par JPL )

Un réseau neuronal formel réalise des calculs à partir de ses entrées pour définir ses états suivants et ses sorties, c'est une propriété mathématiques des réseaux neuronaux, mais ce sont ces calculs là qu'il fait pas spécialement d'autres. Utiliser un réseau de neurones pour simuler une calculatrice c'est horriblement mal optimisé,....

oui, ceci est lié à ma réponse précédente.

Dire que nous sommes mauvais pour calculer c'est un peu comme dire que ton programme de bridge est mauvais pour jouer au poker. Ce n'est pas parce qu'un réseau de transistor n'est pas capable de simuler un algorithme de poker que ton programme ne peut pas y jouer, c'est simplement parce qu'il n'est pas conçu dans l'optique de résoudre ce problème.
........

non, pas tout à fait.
on a pas "un programme de bridge" et "un programme d'échec" et un programme par jeu en général.
tu remarqueras qu'un joueur est facilement à l'aise dans de nombreux jeux différents.
il s'est construit une sorte de méta raisonnement qui lui permet d'apprendre très vite un nouveau jeu.
sans avoir à recréer un programme spécifique.

c'est un peu pour cela qu'il me semble que l'on part de deux principes de process opposés pour arriver aux mêmes capacités.
dit de manière très simpliste, la spécificité du cerveau est sa plasticité, sans cesse sollicitée pour intégrer de nouvelles connaissances et capacités cognitives. A l'inverse d'un processeur ou d'un programme, dont la capacité première est d'être potentiellement très spécialisé dans une tâche.
même si on peut introduire de la logique flou, de pseudo raisonnement type langage lisp ! etc...
le programme ne s'auto adapte pas naturellement.
la différence est fondamentale.

cordialement.

[ansset]

ps : un "reseau de neurones" , au sens informatique n'a rien à voir avec un fonctionnement cérébral.
- numérique versus analogique
- multi tâche du simple neurone humain
pour ne citer que deux différences fondamentales.

Et pour re préciser l'aspect plastique du cerveau, il faut essayer d'imaginer un programme logique qui serait capable de lui même ( se serait même sa principale fonctionnalité ) de s'auto rajouter et supprimer des lignes de "codes", ainsi que des données brutes en permanence , tout en s'améliorant, et sans perdre la boule.
Et donc, en mesure d'effectuer des choix en cas de "nœuds" logiquement contradictoires.

Et je laisse de coté la capacité à imaginer ( et donc à innover ).

[Jean-GUERIN]

Bonjour ansset, Bonjour à toutes et à tous,

non, pas tout à fait.
on a pas "un programme de bridge" et "un programme d'échec" et un programme par jeu en général.
tu remarqueras qu'un joueur est facilement à l'aise dans de nombreux jeux différents.
il s'est construit une sorte de méta raisonnement qui lui permet d'apprendre très vite un nouveau jeu.
sans avoir à recréer un programme spécifique.

c'est un peu pour cela qu'il me semble que l'on part de deux principes de process opposés pour arriver aux mêmes capacités.
dit de manière très simpliste, la spécificité du cerveau est sa plasticité, sans cesse sollicitée pour intégrer de nouvelles connaissances et capacités cognitives. A l'inverse d'un processeur ou d'un programme, dont la capacité première est d'être potentiellement très spécialisé dans une tâche.

Exactement ... Il semble bien que cette capacité du cerveau (appliquer des méta-modèles "instinctivement" sur des sujets sans rapport apparent entre eux, dit très grossièrement) soit l'une des caractéristiques du processus de création et d'innovation par l'Homme.

Les programmes informatiques en sont pour le moment encore très loin - donc très loin de pouvoir faire de la recherche par eux-mêmes. Ce qui est sûr, c'est que nous avons aujourd'hui 10 millions de chercheurs de par le monde et nous en aurons 20 millions d'ici 2020. A qui il faut ajouter tous les innovateurs "appliqués" (ingénieurs, chefs d'entreprise) qui participent également au processus global d'innovation et de progrès technologique.

L'interconnexion entre tous ces innovateurs progresse de façon fulgurante depuis quelques décennies. Donc, leur capacité d'innovation globale, sachant que dans ce contexte, 1 + 1 > 2 ! Le concept de "singularité technologique" (largement lié au "transhumanisme") prétend que les réseaux d'ordinateurs seront capables de prendre le relais et de faire exponentiellement mieux que ces 20 millions de chercheurs eux-mêmes interconnectés. Indépendamment d'ailleurs de la notion de "conscience" au sens humain.

Ajoutons que cette notion de "singularité" a besoin d'une autre condition fondamentale. Il faut que cette supposée "super-intellligence" émergée du silicium se dote de petits bras musclés et de jambes vaillantes pour être capable de s'auto-alimenter pour assurer sa propre survie. Aujourd'hui, quand je retire la prise de mon ordinateur favori, il est bien incapable de "penser" tout seul. Et je "sens" très mal ce point !

Amitiés,

Jean

[S321]

C'est bien plus compliqué : au niveau des synapses le fonctionnement est analogique. Et il y a aussi les cellules gliales qui jouent un rôle bien plus important qu'on le pensait jadis. En plus le cerveau réagit en fonction des hormones dont les concentrations varient de manière encore plus analogiques.

évidemment!
cela rejoint indirectement ce que je voulais dire, nous ne fonctionnons pas comme une calculatrice, mais pas du tout.

ps : un "reseau de neurones" , au sens informatique n'a rien à voir avec un fonctionnement cérébral.
- numérique versus analogique
- multi tâche du simple neurone humain
pour ne citer que deux différences fondamentales.

Ce ne sont là que des différences d'architectures. Elles sont bien sûr très importantes pour qui veut faire une simulation du cerveau mais d'un point de vu mathématique ça reste une architecture qui effectue certains types de calculs. Si on effectue les mêmes calculs même si c'est sur une architecture différente, les résultats resteront les mêmes.
Le caractère analogique ne change pas grand chose, d'ailleurs les neurones formels sont analogiques aussi.

Et pour re préciser l'aspect plastique du cerveau, il faut essayer d'imaginer un programme logique qui serait capable de lui même ( se serait même sa principale fonctionnalité ) de s'auto rajouter et supprimer des lignes de "codes", ainsi que des données brutes en permanence , tout en s'améliorant, et sans perdre la boule.
Et donc, en mesure d'effectuer des choix en cas de "nœuds" logiquement contradictoires.

Ta première objection sur la plasticité du cerveau était mieux ciblée que celle-ci à mon avis car tu parlais de la capacité du cerveau à s'adapter à des situations nouvelles qui est sans doute assez problématique à reproduire. Tu parles d'ajouter des lignes de programmes, ce qui est assez mal dit puisqu'un ordinateur neuromorphique ne se programme pas à l'aide de "lignes de code", l'idée était justement de se débarrasser de cette manière de programmer. Par contre des programme capable d'apprendre (sans perdre la boule) ça existe déjà et les réseaux de neurones formels sont extrêmement efficace pour ça.

Ajoutons que cette notion de "singularité" a besoin d'une autre condition fondamentale. Il faut que cette supposée "super-intellligence" émergée du silicium se dote de petits bras musclés et de jambes vaillantes pour être capable de s'auto-alimenter pour assurer sa propre survie. Aujourd'hui, quand je retire la prise de mon ordinateur favori, il est bien incapable de "penser" tout seul. Et je "sens" très mal ce point !

Eh bien oui, j'imagine que si on les empêche volontairement de se développer et qu'on décide de couper leur alimentation ça empêchera la singularité technologique de se produire, mais le cas échéant je ne vois pas pourquoi on ferait ça. Au contraire des gens investiraient des milliards de dollars pour aider les IA à tourner, à se développer et à développer de nouvelles technologies.
Bien sûr il y aurait forcément des alarmistes pour réclamer l'arrêt de ces expériences avant qu'il ne soit trop tard (et ils auraient peut-être même raison), mais les débats ça prend du temps donc entre temps il y a vide juridique plus des lobby très riches prêts à investir beaucoup d'argent pour atteindre cette singularité technologique. Il faudrait que l'humanité dans son ensemble décide de tout arrêter pour qu'on le fasse effectivement et à moins d'une catastrophe majeure ça ne semble pas du tout crédible au vu du fonctionnement de notre société.

Quand au fait d'avoir des "bras" et des "jambes" ça fait déjà pas mal de temps que la production industrielle peut se passer de la force des bras humains. J'avoue que j'ai du mal à voir à quoi c'est une objection ça.

[obi76]

Bonjour,

pour ma part je pense que si on en reste au silicium, en terme de vitesse ça ne va pas évoluer des masses mais en terme de nombre de processeur, là ça va finir par devenir intéressant (quoiqu'il faut aussi que la mémoire suive, et ça c'est pas gagné...)

[Jean-GUERIN]

Bonjour S321, Re-,

Eh bien oui, j'imagine que si on les empêche volontairement de se développer et qu'on décide de couper leur alimentation ça empêchera la singularité technologique de se produire, mais le cas échéant je ne vois pas pourquoi on ferait ça. Au contraire des gens investiraient des milliards de dollars pour aider les IA à tourner, à se développer et à développer de nouvelles technologies.
Bien sûr il y aurait forcément des alarmistes pour réclamer l'arrêt de ces expériences avant qu'il ne soit trop tard (et ils auraient peut-être même raison), mais les débats ça prend du temps donc entre temps il y a vide juridique plus des lobby très riches prêts à investir beaucoup d'argent pour atteindre cette singularité technologique. Il faudrait que l'humanité dans son ensemble décide de tout arrêter pour qu'on le fasse effectivement et à moins d'une catastrophe majeure ça ne semble pas du tout crédible au vu du fonctionnement de notre société.

Quand au fait d'avoir des "bras" et des "jambes" ça fait déjà pas mal de temps que la production industrielle peut se passer de la force des bras humains. J'avoue que j'ai du mal à voir à quoi c'est une objection ça.

Mais ce n'est pas une objection, c'est juste un constat ! TOUS les robots, industriels, tertiaires, ménagers, ludiques ont un bouton "ON-OFF" et une "prise de courant" : il "vivent" et "meurent" en fonction de la volonté d'un humain de les faire vivre ou mourir. Aucun ne "décide" de "vivre" (démarrer) de lui-même, ni ne "choisit" de "mourir" (s'arrêter). Ou bien ils le "choisissent" partiellement (position de "veille") et UNIQUEMENT en fonction de leurs instructions. AUCUNE de ces machines n'est en fait "autonome" ni n'a le moindre "libre arbitre".

Et je "sens" mal une autre situation, même avec énormément de recherche et de R&D ... Ni par quel "miracle" on pourrait "basculer" sur des machines autonomes et douées de libre arbitre et donc de capacités d'innovation. Alors, on peut les doter de fonctions d'apprentissage, qui simulent un libre arbitre dans des limites très étroites. On peut même les rendre auto-reproductrices. Avec les capacités d'adaptation que leur créateur humain aura décidé de leur donner et uniquement celles-là ... Toutes les théories du genre énaction, autopoïétisme et autres qui tentent d'objectiver l'esprit humain sont encore apparemment bien balbutiantes, et sans obligation de résultats concrets au moins pour le moment.

Amitiés,

Jean

[ansset]

Ce ne sont là que des différences d'architectures. Elles sont bien sûr très importantes pour qui veut faire une simulation du cerveau mais d'un point de vu mathématique ça reste une architecture qui effectue certains types de calculs. Si on effectue les mêmes calculs même si c'est sur une architecture différente, les résultats resteront les mêmes.
.

ta remarque est totalement tautologique :
SI on sait faire la même chose, alors on sait faire la même chose.
ça ne prouve en rien la capacité à le faire.

Ta première objection sur la plasticité du cerveau était mieux ciblée que celle-ci à mon avis car tu parlais de la capacité du cerveau à s'adapter à des situations nouvelles qui est sans doute assez problématique à reproduire. Tu parles d'ajouter des lignes de programmes, ce qui est assez mal dit puisqu'un ordinateur neuromorphique ne se programme pas à l'aide de "lignes de code", l'idée était justement de se débarrasser de cette manière de programmer. Par contre des programme capable d'apprendre (sans perdre la boule) ça existe déjà et les réseaux de neurones formels sont extrêmement efficace pour ça.
.

ma seconde formulation est imagée/vulgarisée mais reprend sur le fond le même argument.
j'ai simplement traduit "s'adapter en permanence" avec se reprogrammer en permanence. ( pour parler informatique )

les programmes capables d'apprendre oui ! ( dans un secteur donné )
de se remettre en question ?
d'imaginer ?

. Au contraire des gens investiraient des milliards de dollars pour aider les IA à tourner, à se développer et à développer de nouvelles technologies.
.

avant d'investir autant, il faudrait prouver :
- qu'ils soient capables d'innover
- et si oui ( mais uniquement dans ce cas ) que le rapport bénéfice/investissement soit supérieur aux années de travail de chercheurs collaborant ensemble que cela représente.

il n'est aucunement question de "peur" de la machine, mais de pragmatisme.

[Paminode]

Bonjour,

Je me demande si l'on peut faire un parallèle entre la question de l'émergence d'une intelligence - une conscience ? - informatique et celle de l'émergence d'une intelligence - une conscience ? - organique extra-terrestre.
Peut-être à travers une question générale : quelles sortes de structures permettraient-elles de telles émergences ?

Je pense personnellement que la "limite" perceptible au niveau des entrées /sorties entre l'homme et l'IA est la capacité de production d’œuvres artistiques. Je n'imagine pas un Michel-Ange, un Racine ou un Praxitèle de silicium !

Reste à prouver que l'art est vraiment la preuve d'une grande intelligence, et non au contraire la tentative de gérer, avec les moyens du bord, des tares dans le fonctionnement mental inconscient.

Rien ne permet d'affirmer à l'heure actuelle que des machines ne seront jamais capable de créer des œuvres d'art, ni même d'ailleurs qu'il faudrait absolument qu'elles soient vraiment intelligentes pour ça.

Peut-être le feraient-elles si elles avaient précisément des défauts de fonctionnement structurels, qui les handicaperaient et qu'elles chercheraient à compenser. Il serait peut-être justement très intéressant d'examiner ce qu'elles seraient susceptibles de produire...

TOUS les robots, industriels, tertiaires, ménagers, ludiques ont un bouton "ON-OFF" et une "prise de courant" : il "vivent" et "meurent" en fonction de la volonté d'un humain de les faire vivre ou mourir. Aucun ne "décide" de "vivre" (démarrer) de lui-même,

Il y a bien eu des parents pour lancer un "on" à un moment...

[Paminode]

Rien ne permet d'affirmer à l'heure actuelle que des machines ne seront jamais capable de créer des œuvres d'art, ni même d'ailleurs qu'il faudrait absolument qu'elles soient vraiment intelligentes pour ça.

Pour mieux préciser ma pensée, est-ce qu'il n'est pas immanquable qu'une structure - quel que soit son substrat, organique ou non, analogique ou numérique - suffisamment complexe pour faire émerger de "l'intelligence" et/ou de la "conscience" doive précisément être d'un tel niveau de complexité qu'elle ne puisse pas être "parfaite" et soit nécessairement porteuse de défauts, ou tares, et produise inévitablement des aberrations de ci de là dans ses productions ?