IA, 2016 & Singularité

[Antropos]

C'est peut être pour ça que je ne lis nulle part cette idée sur ce fil ou j'ai peut être raté un passage ?

Alors que j'en parle dans chaque poste depuis ma première intervention, et que je vous l'ai rappelé dans une réponse en soulignant en gras.

Voici quelques exemples :

Les neurologues sont des gens très compétents, dans leur propre domaine. Ils ne sont pas forcément au courant des bonds de progrès que l'informatique est susceptible de faire en seulement quelques décennies. Tous ne savent pas ce qu'est la Loi de Moore, ce qu'est un trigate transistor. En septembre dernier Luc Ferry faisait remarquer que la majorité des médecin ne savaient même pas ce qu'étaient les technologies NBIC. Donc il ne faut surtout pas s'arrêter à ceux que disent les neurologues les plus pessimistes.

Mais le gros du problème n'est pas du tout là, et il ne sert à rien de se limiter aux neurologues. C'est exactement l'erreur à ne pas faire

[...] qui surpassent de loin le commun des scientifiques - dont la plupart, il faut bien le dire, sont cantonnés dans leur propre domaine sans savoir où en est le progrès dans les disciplines parallèles

[...] Cette logique, dont la loi de Moore est au coeur (Mais d'après vous, la loi ne Moore s'applique surtout pour des horloges), est celle de Stephen Hawking, Bill Gate, Laurent Alexandre, la Sillicon Valley, IBM, et de nombreux scientifiques, mais dont la plupart ne sont évidemment, pas français.

[...] Je vous ai donné l'exemple de Luc Ferry qui a relevé en septembre dernier que la plus grande partie des médecins se fichaient de ce qu'étaient les technologies NBIC. Ils ne savaient même pas où en étaient le progrès. Comprenez-vous pourquoi je dis qu'il ne faut pas se cantonner à l'avis de neurologues dont la recherche ne dépend pas d'eux, mais des physiciens, des ingénieurs et de informaticiens ? Les médecins de x génération seront remplacés par des médecins d'une autre génération qui seront capable de résoudre des problèmes que les anciens médecins ne pouvaient pas résoudre. C'est une question de bon sens. C'est pour ça que la médecine évolue. Les médecins, les neurologues, ne sont pas formés à la connaissance du progrès dans les disciplines parallèles.

Le simple fait qu'ils n'accordent aucun crédit aux technologies NBIC montre bien que se cantonner aux spécialistes d'une discipline pour comprendre euh problème qui relève de l'interdisciplinaire, sachant que leur propre discipline n'est pas au centre du sujet, ne sert à rien.

Quand j'ai dit que la balle était dans le camps des neurosciences, je parlais d'une IA forte avec conscience d'elle-même. Maintenant, il n'est pas impossible qu'une IA très avancée décrypte elle-même les mécanismes du cerveau. Il faut quand même rappeler que depuis quelques mois, nous ne sommes qu'en 2016, il ne sera plus jamais possible pour Homo Sapiens de battre une machine dans un match de jeu de GO.

Le lisez vous à présent ?
-----

[Archi3]

Mais la question n'est pas de savoir si c'est souhaitable ou non. Mais si le concept est réalisable ou pas.

Quel concept selon toi serait "réalisable" ? parce que si l'intelligence est juste de savoir calculer , reconnaitre des images, jouer au go, ça c'est déjà fait. Et pourtant même les pros "prédisent" la possibilité d'une IA forte dans X années, c'est bien qu'ils considèrent eux mêmes qu'elle n'est pas encore là. Donc c'est quoi qui manque encore selon toi ?

[Antropos]

Quel concept selon toi serait "réalisable" ? parce que si l'intelligence est juste de savoir calculer , reconnaitre des images, jouer au go, ça c'est déjà fait. Et pourtant même les pros "prédisent" la possibilité d'une IA forte dans X années, c'est bien qu'ils considèrent eux mêmes qu'elle n'est pas encore là. Donc c'est quoi qui manque encore selon toi ?

Sans chercher à définir le terme d'intelligence, une IA Forte est une machine qui prend conscience de son existence. Une machine "vivante", par excellence, et qui reste parallèlement un super-ordinateur.

[karlp]

Sans chercher à définir le terme d'intelligence, une IA Forte est une machine qui prend conscience de son existence. Une machine "vivante", par excellence, et qui reste parallèlement un super-ordinateur.

C'est une question "naïve" que je pose : Est-ce que ce serait possible sans avoir une expérience de la jouissance ?

[Antropos]

C'est une question "naïve" que je pose : Est-ce que ce serait possible sans avoir une expérience de la jouissance ?

Je trouve la question très intéressante. Pour ma part je n'ai pas la réponse.
Concernant mon avis, je pense que tout est une question d'interactions neuronales, qui du moment qu'elles sont comprises dans leur ensemble, si complexes soient-elles, n'ont plus qu'à être copiées et reproduites.

[inviteef2ff547]

I
Sinon, il y a déjà eu des systèmes experts qui portaient des diagnostics avec un pourcentage très correct (suffisant, bon, je n'ai plus les chiffres) de réussite (je ne me souviens plus mais il ne me semble pas que c'était inférieur aux humains dans les cas considérés, voire mieux).

Oui, il y avait MYCIN https://en.wikipedia.org/wiki/Mycin. Cela fait partie des trucs que j'avais regardés quand je faisais mes études (fin des années 80). Outre les problèmes de responsabilité civile (et les trucs de protocoles médicaux que je viens de découvrir en lisant l'article(*)) le principale problème de MYCIN c'était qu'il posait des questions que seul un médecin pouvait comprendre (et répondre). En pratique le temps de consultation était supérieur à une visite classique.
La nouveauté c'est que les nouveaux appareils médicaux mesurent – à partir d'une goutte de sang – une centaine de constantes biologiques. Vu le prix de ces appareils, les coupler avec un réseau neuronal n'augmente pas significativement le coût de la mesure et peut économiser la consultation médicale qui suit.

(*) Je ne suis pas sûr que le problème se posait en 1990, il me semble que les protocoles médicaux ont été mis en place plus tard dans une optique de rationalisation.

--
D'ailleurs Antropos, en 1990 ont connaissait les limites des systèmes experts et plus personnes ne pronostiquait une IA "Forte" pour dans 30 ans. Par contre en 1980, les promesses des systèmes experts permettaient de l'espérer pour 2010.
Je suis trop jeune pour avoir connu le premier âge d'or de l'informatique (années 60), mais les promesses de l’algorithmique permettait d'espérer cette IA forte pour dans 30 ans (donc en 1990). Il y a encore plus longtemps (1780, oui, oui 1780 !) les premiers systèmes d'engrenages permettait d’espérer créer des esclaves mécaniques intelligents. Cela a été la base de cette escroquerie célèbre (qui a battu Napoléon) https://fr.wikipedia.org/wiki/Turc_m%C3%A9canique .
Alors, ce n'est pas parce que nos espoirs ont été déçus pendant si longtemps qu'ils ne se réaliseront pas.
--

Sans chercher à définir le terme d'intelligence, une IA Forte est une machine qui prend conscience de son existence. Une machine "vivante", par excellence, et qui reste parallèlement un super-ordinateur.

Si nous espérons – ou redoutons – une IA consciente, il faut préciser ce qu'est la conscience et quelle rôle elle joue pour nous, humains. Et là, la réponse est du côté des neuroscience : la conscience n'est pas un mécanisme de prise de décision. Tu as des expériences célèbres sur ce sujet. https://sciencetonnante.wordpress.co...e-existe-t-il/ A partir de là, en quoi serait-elle utile à une IA "Forte" ?
On a fait dans ce fils le parrallèle avec le vol des oiseaux et des avions. Vouloir doter une IA de conscience cela revient – à mon avis – à vouloir créer des appareils mécaniques qui font du vol battu. Je ne suis pas sûr qu'avec nos technologies actuelles cela soit réellement possible (et cela ne l'était pas au début de l'aviation), mais ce qui est sûr c'est que c'est complétement inutile.

[Antropos]

en 1990 ont connaissait les limites des systèmes experts et plus personnes ne pronostiquait une IA "Forte" pour dans 30 ans. Par contre en 1980, les promesses des systèmes experts permettaient de l'espérer pour 2010.

Prevision réussie donc

Je suis trop jeune pour avoir connu le premier âge d'or de l'informatique (années 60), mais les promesses de l’algorithmique permettait d'espérer cette IA forte pour dans 30 ans (donc en 1990). Il y a encore plus longtemps (1780, oui, oui 1780 !) les premiers systèmes d'engrenages permettait d’espérer créer des esclaves mécaniques intelligents. Cela a été la base de cette escroquerie célèbre (qui a battu Napoléon) https://fr.wikipedia.org/wiki/Turc_m%C3%A9canique .
Alors, ce n'est pas parce que nos espoirs ont été déçus pendant si longtemps qu'ils ne se réaliseront pas.

Mais rien qu'avec ce genre d'IA (système expert) des millions d'emplois sont menacés d'ici 2030.

Si nous espérons – ou redoutons – une IA consciente, il faut préciser ce qu'est la conscience et quelle rôle elle joue pour nous, humains. Et là, la réponse est du côté des neuroscience : la conscience n'est pas un mécanisme de prise de décision. Tu as des expériences célèbres sur ce sujet. https://sciencetonnante.wordpress.co...e-existe-t-il/ A partir de là, en quoi serait-elle utile à une IA "Forte" ?
On a fait dans ce fils le parrallèle avec le vol des oiseaux et des avions. Vouloir doter une IA de conscience cela revient – à mon avis – à vouloir créer des appareils mécaniques qui font du vol battu. Je ne suis pas sûr qu'avec nos technologies actuelles cela soit réellement possible (et cela ne l'était pas au début de l'aviation), mais ce qui est sûr c'est que c'est complétement inutile.

Les neurosciences dépendent du progrès de l'informatique qui dépend lui même de la physique des matériaux. La conscience ne se limite bien entendu pas à un simple mécanisme de prise de décision, maintenant à moins de postuler que l'âme est vraiment immatérielle et inexplicable à jamais, donc divine, en quoi est-elle insaisissable puis recopiable ? Selon vous la conscience serait autre chose que des flux d'interaction neuronaux organisés selon un modèle universel pour H sapiens ?

[Gilgamesh]

bonjour,
de Serges Tisseron ( dans un lien PLS donné par pm42 )
les gras sont de moi.

L'intelligence artificielle n'est, au moins dans l'état actuel des recherches, qu'une simulation. Pourtant, une simulation, même élémentaire, peut entraîner l'illusion d'une intelligence ou d'émotions réelles. Un rapport de l'armée américaine l'a montré : les soldats qui utilisent des robots savent très bien que ce sont des outils et, pourtant, ils interagissent parfois avec eux comme ils le feraient avec un être humain ou un animal.

Aussi doit-on distinguer la façon dont un humain peut prêter une intelligence à un objet et la réalité même de l'intelligence de cet objet. Une machine élémentaire peut apparaître douée d'intelligence pour quelqu'un qui en ignore le fonctionnement, parce qu'elle lui paraît imprévisible et qu'il est tenté de lui chercher des intentions.

À l'inverse, une machine extrêmement sophistiquée, réagissant de façon toujours prévisible, peut sembler dénuée d'intelligence. En fin de compte, ce n'est ni la machine en elle-même ni l'humain pris isolément qui caractérise l'intelligence. On doit plutôt la chercher dans les relations entre humains et machines.

Cela me semble très contestable. La conscience est un phénomene on ne peut plus objectif, bien que par nature il soit éprouvé subjectivement.

On peut distinguer deux stades conscients :

1) la présence au monde (awakeness) : il existe un espace intérieur distinguant fondamentalement un Soi et un Monde. Ce qui implique au préalable la constitution d'un Soi. Sinon PERSONNE ne pense ! Ce mode là est observé au minimum pour tous les vertébrés

2) la conscience de soi (consciousness) : l'individu est capable de conceptualiser le "Je", de se representer lui même de facon reflexive. C'est le propre de l'homme, plus quelques autres vertébrés particulierement doués

Bien sûr la conscience de soi est un developpement de la présence au monde et la question se reporte donc a la possibilite d'implementer artificielement cet espace interieur sans lequel on ne peut parler de subjectivite.

C'est le 'problème difficile de la conscience' (Chalmer, 1995). Nous ne savons pas conceptualiser le début du commencement d'un passage du monde physique (des assemblés de neurones pulsants de manière synchrone via la depolarisation de leur membrane plasmique par échange d'ions) au phenomene subjectif.

Neanmoins nous sommes capables de reconnaitre une subjectivité quand elle se présente. Pas toujours à sa pleine mesure mais nous en sommes capables.

Personne de serieux ne soutient que les ordinateurs éprouvent quoique ce soit dans un fors interieur constitué. Même a un niveau minimal. Il n'y a en l'état aucune différence substantielle entre Deeper Blue et une armoire normande de ce point de vue. Si cet espace subjectif n'existe objectivement pas, dire que l'interaction homme machine va humaniser la machine par procuration me semble relever d'un non-sens total.

[invite51d17075]

bonjour Gilgamesh,
j'ai du mal à voir une contradiction avec la citation en question.
à part peut être sur la dernière phrase du locuteur ( que je ne partage pas vraiment, écrite ainsi ).
est ce cela que tu pointes ici :

Il n'y a en l'état aucune différence substantielle entre Deeper Blue et une armoire normande de ce point de vue. Si cet espace subjectif n'existe objectivement pas, dire que l'interaction homme machine va humaniser la machine par procuration me semble relever d'un non-sens total.

si c'est le sens de ta remarque, cela ne correspond pas à ma lecture globale de l'intervention qui pointe surtout sur "l'illusion" de comportement.
En ce sens, on pourrait prendre le terme artificiel au sens d'artifice , donc de simulation.

mais j'ai peut être mal saisi ton propos.

[mh34]

Il n'y a en l'état aucune différence substantielle entre Deeper Blue et une armoire normande de ce point de vue.

Tout à fait.

Si cet espace subjectif n'existe objectivement pas, dire que l'interaction homme machine va humaniser la machine par procuration me semble relever d'un non-sens total.

On ne va pas humaniser la machine, mais l'humain va facilement se projeter ( et donc projeter ses sentiments/émotions) dans une machine qui répond, comme le fait un tchatbot par exemple, ou comme le fait un robot, et à fortiori s'il est humanoïde. Et c'est précisément ce point ( notre faculté à nous d'humaniser, ou plutôt d'"anthropomorphiser" tout ce avec quoi nous entrons en relation) qui est la pierre d'achoppement ce cette histoire. Ce n'est pas de la machine en question que je me méfie, mais de nous vis-à-vis d'elle.

[invite6c250b59]

en 1990 ont connaissait les limites des systèmes experts et plus personnes ne pronostiquait une IA "Forte" pour dans 30 ans.

*cough cough*
The Age of Intelligent Machines, MIT Press, 1990
The Age of Spiritual Machines : when Computers Exceed Human Intelligence, Viking / Penguin Books, 1999

[Archi3]

Sans chercher à définir le terme d'intelligence, une IA Forte est une machine qui prend conscience de son existence. Une machine "vivante", par excellence, et qui reste parallèlement un super-ordinateur.

et comment sauras tu que l'IA aurait conscience de son existence ? (ou comment sais-tu que les IA actuelles ne le sont pas?)

[invite9dc7b526]

Qu'une IA puisse être capable de mémoriser des millions de cas cliniques et tirer un diagnostique à partir des problèmes renseignés par un patient ou une équipe médicale ne fait aucun doute.
Mais elle ne fera jamais que s'appuyer sur les milieux de cerveaux de médeçin qui ont renseigné la base avec leur propre diagnostic.

Ca n'est pas forcément si différent de la façon dont travaillent les médecins de chair et d'os: eux aussi s'appuient sur les cerveaux des médecins qui les ont précédés (et on peut remplacer "médecin" par n'importe quel expert).

[inviteef2ff547]

*cough cough*
The Age of Intelligent Machines, MIT Press, 1990
The Age of Spiritual Machines : when Computers Exceed Human Intelligence, Viking / Penguin Books, 1999

Oups, touché. Je n'avais jamais entendu parler de ce monsieur avant ton poste. Maintenant, le résumé que l'on trouve sur wiki n'évoque pas beaucoup l'IA : https://en.wikipedia.org/wiki/Predic...nes_.281990.29

Autant que je sache, les techniques utilisées actuellement (réseaux neuronaux, analyses statistiques...) n'ont plus grand chose à voir avec celles qui étaient explorées dans les années 80 et auxquelles j'ai consacrées une petite année de ma vie (langage LISP, PROLOG, mécanisme de Backtracking... ).

Ca n'est pas forcément si différent de la façon dont travaillent les médecins de chair et d'os

On disait la même chose lorsqu'on a fait les systèmes experts.

[invite6c250b59]

ce monsieur

...est un peu le pape.

Autant que je sache, les techniques utilisées actuellement (réseaux neuronaux, analyses statistiques...) n'ont plus grand chose à voir avec celles qui étaient explorées dans les années 80 et auxquelles j'ai consacrées une petite année de ma vie (langage LISP, PROLOG, mécanisme de Backtracking... ).

Oui et non. Oui les succès actuels n'ont rien à voir avec les systèmes experts (qui sont probablement abandonnés pour de bon) mais non pour l'essentiel les méthodes actuelles existaient dès les années 80-90 (83 pour la rétropropagation, 93 pour le deep learning). Elles étaient simplement bien moins connues et populaire, peut-être parce que le hardware et les bases de données disponibles étaient trop limitées à l'époque.

[Antropos]

et comment sauras tu que l'IA aurait conscience de son existence ? (ou comment sais-tu que les IA actuelles ne le sont pas?)

Si nous sommes capable de créer une IA Forte c'est que nous avons saisis le mécanisme permettant d'affirmer que x organisme à conscience de lui-même.
Ce qui n'est pas le cas aujourd'hui. Les IA les plus performantes ne sont que des combinaisons d'algorithmes dont la structure n'est même pas forcément basée sur une fonction du système nerveux de sapiens.

[Archi3]

Si nous sommes capable de créer une IA Forte c'est que nous avons saisis le mécanisme permettant d'affirmer que x organisme à conscience de lui-même.
Ce qui n'est pas le cas aujourd'hui. Les IA les plus performantes ne sont que des combinaisons d'algorithmes dont la structure n'est même pas forcément basée sur une fonction du système nerveux de sapiens.

ok, donc tu es d'accord que les performances actuelles (reconnaissance d'images, de son, simulation de dialogues plus ou moins convaincantes, jouer au go, et autres "deep learning" ) n'ont aucun besoin de conscience pour etre effectuées, puisqu'on ne sait pas ce que c'est que la conscience et que tout le monde s'accorde sur le fait que ces machines n'ont en fait pas conscience de qui elles sont et pourquoi elles font ça ? (on n'imagine pas par exemple que Alpha Go annonce qu'il arrête de jouer au go parce que ça ne l'amuse plus, ou qu'il a prouvé tout ce qu'il pouvait faire, et préfère maintenant jouer au poker n'est ce pas ?).
Une fois ça admis, j'aimerais savoir donc en quoi le fait que ces performances (qui n'ont pas besoin de conscience donc) soient effectuées prouve en quoi que ce soit qu'on a avancé sur le problème de la conscience, puisqu'apparemment ça n'a rien à voir ?

[invite6f9dc52a]

Le lisez vous à présent ?

C'est tellement répété qu'il était impossible de ne pas le lire ; il est donc trivial que ce n'est pas ce que je voulais dire.

[Antropos]

ok, donc tu es d'accord que les performances actuelles (reconnaissance d'images, de son, simulation de dialogues plus ou moins convaincantes, jouer au go, et autres "deep learning" ) n'ont aucun besoin de conscience pour etre effectuées, puisqu'on ne sait pas ce que c'est que la conscience et que tout le monde s'accorde sur le fait que ces machines n'ont en fait pas conscience de qui elles sont et pourquoi elles font ça ? (on n'imagine pas par exemple que Alpha Go annonce qu'il arrête de jouer au go parce que ça ne l'amuse plus, ou qu'il a prouvé tout ce qu'il pouvait faire, et préfère maintenant jouer au poker n'est ce pas ?).

Personne ici n'a dit le contraire.

Une fois ça admis, j'aimerais savoir donc en quoi le fait que ces performances (qui n'ont pas besoin de conscience donc) soient effectuées prouve en quoi que ce soit qu'on a avancé sur le problème de la conscience, puisqu'apparemment ça n'a rien à voir ?

Et personne n'a dit ça non plus.

J'ai dit :

Si nous sommes capable de créer une IA Forte c'est que nous avons saisis le mécanisme permettant d'affirmer que x organisme à conscience de lui-même.
Ce qui n'est pas le cas aujourd'hui. Les IA les plus performantes ne sont que des combinaisons d'algorithmes dont la structure n'est même pas forcément basée sur une fonction du système nerveux de sapiens.

Le fonctionnement de certaines IA est bien entendu inspiré du fonctionnement de notre propre système nerveux. D'autres non. La question de la conscience, c'est à dire de faire d'une IA : AL9000 ou Skynet dépend de l'avancée des neurosciences qui dépendent elles-mêmes d'autres disciplines. Les progrès faits jusqu'à présent , comme la capacité à fabriquer AlphaGO, est la preuve de l'avancée fulgurante de la recherche neuroscientifique.

Je n'ai jamais de jamais dit que ça n'avait strictement rien à voir avec les neurosciences.
J'imagine concernant la conscience qu'on ne va pas la découvrir du jour au lendemain, c'est un processus à l'étude. AlphaGo est la preuve que nous comprenons mieux le cerveau humain qu'il y a dix ou vingt ans.

[nayx]

Salut,

Ca va faire combien de pages que le sujet est complètement fermé à cause de considérations générales sans intérêts, pleines de " moi je pense moi je dis, " d'auto-citations, sans références, rien?

Atropos j'ai tout bien lu et outre les remarques extrêmement désobligeantes que tu fais sur une hiérarchisation de l'ouverture d'esprit ou de l'intelligence de scientifiques, je ne vois que des banalités, des phrases toutes faites, j'ai compris des 5 dernières pages que :
- Il y aura peut-être un truc qu'on ne sait même pas vraiment ce que c'est et qui sortira d'ici 2040, mais c'est pas sûr, et ça vous en êtes sûr et vous osez l'affirmer très haut parce que des gens que vous considérez plus intelligents sur des critères que vous vous refusez à définir le disent.

Y'a des sujets intéressants sur l'IA, mais là on est franchement au bistrot, florilège :

A la question de KarlP :

Concernant mon avis, je pense que tout est une question d'interactions neuronales, qui du moment qu'elles sont comprises dans leur ensemble, si complexes soient-elles, n'ont plus qu'à être copiées et reproduites.

Notons qu'à Jeopardy on pourrait gagner en posant la question "pourquoi voit-on les couleurs ?" et obtenir cette réponse creuse ci-dessus. Franchement qu'est-ce qui est dit dans une phrase comme ça ?
ou encore

Je n'ai jamais de jamais dit que ça n'avait strictement rien à voir avec les neurosciences.

Personne ici n'a jamais dit que ça n'avait strictement rien à voir avec la culture des Bonsaïs, ça apporte autant d'info donc il fallait le préciser.

J'ai peut-être raté des choses auquel cas merci de me les faire remarquer.
Mais je trouve que de plus en plus de discussions sur les IA sont polluées par des croyants qui viennent nous assommer avec leurs prédications. Y'a "intelligence" dans IA donc de fait ils pensent parler d'intelligence.
Un peu de références seraient bienvenues histoire de sortir des yaka faukon.
Je n'ai rien contre ce genre de discussion, si elles ont un contenu (scientifique, a minima), là je ne vois rien qu'une bataille comme souvent un peu inutile contre des préjugés qui par définition ont la vie dure.

Y'a du Audiard dans l'air par moment, c'est pas parce qu'on a rien à dire...
Désolé pour cette digression, j'aime bien lire les discussions scientifiques, c'est pour ça que je viens ici. Là je reste sur ma faim.

[invite9dc7b526]

(on n'imagine pas par exemple que Alpha Go annonce qu'il arrête de jouer au go parce que ça ne l'amuse plus, ou qu'il a prouvé tout ce qu'il pouvait faire, et préfère maintenant jouer au poker n'est ce pas ?)

au fait, existe-t-il des programmes bon joueurs de poker?

ça me semble facile pour un ordinateur de ne pas montrer ses émotions, mais moins de deviner celles des joueurs humains. Mais peut-être que la première qualité suffit pour gagner sur le long terme (?)

[Antropos]

Salut,

Ca va faire combien de pages que le sujet est complètement fermé à cause de considérations générales sans intérêts, pleines de " moi je pense moi je dis, " d'auto-citations, sans références, rien?

Tu peux citer les auteurs de ces considérations générales sans intérêts ? Donc il y a moi, qui d'autre ? Après, tu es libre de dire ce que tu veux, et chacun est libre d'exposer ses idées. C'est ce qui est fait ici, personne ne ferme quoi que ce soit.

Atropos j'ai tout bien lu et outre les remarques extrêmement désobligeantes que tu fais sur une hiérarchisation de l'ouverture d'esprit ou de l'intelligence de scientifiques, je ne vois que des banalités, des phrases toutes faites, j'ai compris des 5 dernières pages que :
- Il y aura peut-être un truc qu'on ne sait même pas vraiment ce que c'est et qui sortira d'ici 2040, mais c'est pas sûr, et ça vous en êtes sûr et vous osez l'affirmer très haut parce que des gens que vous considérez plus intelligents sur des critères que vous vous refusez à définir le disent.

Donc vous n'avez rien compris. Je n'ai jamais dit que j'étais sûr qu'une IA Forte dont j'ai défini le concept à plusieurs reprises, soit fabriquée avant 2040-50. J'ai dit :

Je n'ai pas la prétention de démontrer quoique ce soit. Je disais au départ qu'il y avait de grandes chances qu'une IA forte soit conçue avant 2050, en me référant aux analyses des scientifiques que j'ai cité. Je ne dis pas qu'une IA forte verra le jour. Je dis qu'il y a de fortes chances, selon moi.

Est-ce plus clair ?

Y'a des sujets intéressants sur l'IA, mais là on est franchement au bistrot, florilège :

A la question de KarlP :
Notons qu'à Jeopardy on pourrait gagner en posant la question "pourquoi voit-on les couleurs ?" et obtenir cette réponse creuse ci-dessus. Franchement qu'est-ce qui est dit dans une phrase comme ça ?
ou encore
Personne ici n'a jamais dit que ça n'avait strictement rien à voir avec la culture des Bonsaïs, ça apporte autant d'info donc il fallait le préciser.

Oui, là nous sommes effectivement au bistrot. Le sujet ne concerne pas que l'IA cher ami, le sujet concerne la Singularité. C'est dans le titre. Si vous ne voulez parler que d'IA, passez sur une autre discussion, ici on discute également du concept de la Singularité, qui implique de parler de conscience.

J'ai peut-être raté des choses auquel cas merci de me les faire remarquer.
Mais je trouve que de plus en plus de discussions sur les IA sont polluées par des croyants qui viennent nous assommer avec leurs prédications. Y'a "intelligence" dans IA donc de fait ils pensent parler d'intelligence.
Un peu de références seraient bienvenues histoire de sortir des yaka faukon.
Je n'ai rien contre ce genre de discussion, si elles ont un contenu (scientifique, a minima), là je ne vois rien qu'une bataille comme souvent un peu inutile contre des préjugés qui par définition ont la vie dure.

Vous avez loupé pas mal de chose parce qu'il n'y a pas de croyants ici:

Je n'ai pas la prétention de démontrer quoique ce soit. Je disais au départ qu'il y avait de grandes chances qu'une IA forte soit conçue avant 2050, en me référant aux analyses des scientifiques que j'ai cité. Je ne dis pas qu'une IA forte verra le jour. Je dis qu'il y a de fortes chances, selon moi.

Par ailleurs, mes références sont :
-Stephen Hawking
-Bill Gate
-IBM
-Laurent Alexandre
-Jacque Attali
-Ray Kurzweil

Dont je n'ai fait que répéter les propos, qui se rejoignent. Autrement dit, ces gens pensent la même chose, à part R. Kurzweil qui lui est certain qu'une IA Forte avec conscience d'elle-même, Skynet ou AL9000, verra le jour dans 30 ans. Ce qui n'est pas du tout ce que je dis.

Y'a du Audiard dans l'air par moment, c'est pas parce qu'on a rien à dire...
Désolé pour cette digression, j'aime bien lire les discussions scientifiques, c'est pour ça que je viens ici. Là je reste sur ma faim.

Qu'attends-tu pour exposer tes propos "scientifiques" ?

[invite364d6cc6]

L'auteur du fil savait très bien que le terrain était glissant, mais en connaissance de cause avait fait preuve de subtilité, il serait bon de revenir au cadre qu’il avait définit.

J'ai fait ce topic pour 3 raisons :
- Avoir votre avis

Bon là on tombe rapidement dans le hors-charte si on s’adonne à la spéculation à coup d’arguments d’autorités/circulaires qui n’augmentent en rien la crédibilité d’une hypothèse de singularité prochaine à moins qu’Antropos nous explique comment la mesurer scientifiquement.

... 60, 70, 80 % ? Au pif…en prenant en compte tout les paramètres dont dépendent intégralement et éternellement la continuité de toutes ces avancées sans oublier les avis de personnalités que l'on peut trivialement mettre en équation….hmmm allez 99,8% ! Sait-on jamais, un sursaut gamma est si vite arrivé, en tout cas on est sûr (grâce à mon intuition et en se basant sur la "forte intelligence sophis…spéculative" de mes idoles qu’elle ne fait qu’augmenter, je ne peux pas le prouver mais prouver moi le contraire (bref, la crédulité c’est autre chose).

Mis à part ça, donner ni plus ni moins que son avis sur les avancées en cours et leurs potentielles répercussions transdisciplinaires pourquoi pas…d’autant mieux avec les points suivants :

- avoir d'autres exemples d'actus
- revenir dessus en 2020 et observer tout cela avec plus de recul.

Il serait en effet intéressant d’avoir un fil chronologique sur 5 ans sur une éventuelle convergence, sauf si futura-science couvre l’intégralité de toutes les publications sur le sujet..d’un autre coté... il suffit de faire une recherche filtrée sur d’autres sites de références puis recouper les infos en attendant tranquillement 2020 ^^

[nayx]

Citation Envoyé par Antropos Voir le message
Je n'ai pas la prétention de démontrer quoique ce soit. Je disais au départ qu'il y avait de grandes chances qu'une IA forte soit conçue avant 2050, en me référant aux analyses des scientifiques que j'ai cité. Je ne dis pas qu'une IA forte verra le jour. Je dis qu'il y a de fortes chances, selon moi.

Est-ce plus clair ?

Autrement dit : Tu es sûr qu'une IA verra le jour d'ici 2040, mais peut-être pas.
As-tu dis quelque chose, là ?

Oui, là nous sommes effectivement au bistrot. Le sujet ne concerne pas que l'IA cher ami, le sujet concerne la Singularité. C'est dans le titre. Si vous ne voulez parler que d'IA, passez sur une autre discussion

En quoi cela change-t'il quelque chose au fait qu'une fois de plus, tu ne dis rien ! Tu remplis de l'espace ?

Par ailleurs, mes références sont :
-Stephen Hawking
-Bill Gate
-IBM
-Laurent Alexandre
-Jacque Attali
-Ray Kurzweil

Dont je n'ai fait que répéter les propos,

Pas vraiment, je ne sais pas ce que tu as compris de ces lectures, mais je peux te dire que ce que tu en expliques jusqu'ici est assez étonnant par sa faiblesse scientifique au vu des auteurs invoqués, qui eux, ne se contentent pas de commentaires abscons sur la question.

Citation Envoyé par Antropos Voir le message
Je n'ai pas la prétention de démontrer quoique ce soit. Je disais au départ qu'il y avait de grandes chances qu'une IA forte soit conçue avant 2050, en me référant aux analyses des scientifiques que j'ai cité. Je ne dis pas qu'une IA forte verra le jour. Je dis qu'il y a de fortes chances, selon moi.

Qu'attends-tu pour exposer tes propos "scientifiques" ?

Je ne prétend pas avoir de compétences sur le sujet, juste une certaine curiosité, par ailleurs je vois mal comment opposer des arguments scientifiques à ce qui n'est que du vent, et parfois, du mépris.

[Tannhauser]

ok, donc tu es d'accord que les performances actuelles (reconnaissance d'images, de son, simulation de dialogues plus ou moins convaincantes, jouer au go, et autres "deep learning" ) n'ont aucun besoin de conscience pour etre effectuées, puisqu'on ne sait pas ce que c'est que la conscience et que tout le monde s'accorde sur le fait que ces machines n'ont en fait pas conscience de qui elles sont et pourquoi elles font ça ? (on n'imagine pas par exemple que Alpha Go annonce qu'il arrête de jouer au go parce que ça ne l'amuse plus, ou qu'il a prouvé tout ce qu'il pouvait faire, et préfère maintenant jouer au poker n'est ce pas ?).

Personne ici n'a dit le contraire.

Si, HenriParisien1 avait donné une définition de la conscience.

Restons sur la conscience. Notre corps - et derrière lui - l'environnement, nous envoie des millions de signaux à chaque milliseconde. La conscience, c'est le mécanisme qui nous permet de les ignorer et de n'en garder qu'un nombre très réduit.

Ma définition est assez proche de la sienne, il me semble qu'elle en est le complément.
Pour moi la conscience est l'espace de travail de l'intelligence.
C'est ce qui focalise l'attention, met en lumière ce qui est manipulé. D'où cette impression d'illumination puisque c'est justement sa fonction.
Je vois ca comme, pour une réseau neuronal, un équivalent fonctionnel des registres de travail pour les microP avec bien sur une implémentation matérielle qui n'a strictement rien à voir.
Je suis aussi d'accord avec HenriParisien1 sur le fait qu'il est donc assez bizarre de vouloir rendre conscient un système ayant une architecture basée sur des micropocesseurs, il y aurait au moins en partie une redondance fonctionnelle.

J'avais aussi retrouvé cette idée d'espace de travail dans ce cours de Stanislas Dehaene (je crois, ca fait longtemps)
Tout ca pour dire que balancer vos certitudes c'est bien gentil mais ca serait pas mal aussi de lire et d'intégrer les messages des autres.

Il est aussi tout à fait possible de définir l'intelligence.
Il faut juste se mettre d'accord sur ce dont on parle et pas partir du principe que ce n'est pas possible.
Par exemple, pour moi l'intelligence est avec l'instinct une des deux stratégies d'apprentissage et de prise de décision des organismes vivant (il y a aussi les arcs reflexes mais dans ce cas pas d'apprentissage).
C'est une capacité active d'extraction et de manipulation des liens logiques de l'environnement, la curiosité en est la marque.
Elle permet suivant l'étendue du champ de la conscience la manipulation de concepts qui peuvent être complexes ou abstraits.
Seule l'intelligence est capable de R&D.
Ce qui veut dire que pour qu'il y ai éventuellement une singularité, l'humain devrait construire avec ses petites mimines une machine consciente (ou avec des capacités équivalentes, la conscience étant pour moi une capacité spécifique aux réseaux neuronaux).
A mon avis c'est possible mais ça ne va pas être du tout cuit.
Je précise quand même que par ailleurs et pour d'autres raisons, je ne pense pas la singularité possible telle qu'elle est imaginée par les transhumanistes. Mais encore une fois comme HenriParisien1, je ne vais pas chercher à convaincre des croyants. Ceux que ça intéresse n'ont qu'à aller sur la page wiki de la singularité. On y trouve déjà pas mal d'arguments contre.

Donc voila un avis personnel, je ne connais pas le code d'Alphago, mais je le vois plus comme un instinct artificiel ayant une capacité d'apprentissage passive par confrontation avec l'environnement.
Si il a des stratégies d'investigation intelligentes, ce sera un octroi d'intelligence de son concepteur (à priori de la programmation séquentielle), je ne pense pas qu'il ait la main pour modifier ces stratégies.
De ce point de vue une souris est plus intelligente, même si elle est nulle au go.

Et puis cette manie de certains à nous refourguer de l'indéfinissable, de l'indécidable et de l'indémontrable à tout bout de champ ... c'est fou ca

[inviteef2ff547]

au fait, existe-t-il des programmes bon joueurs de poker?

ça me semble facile pour un ordinateur de ne pas montrer ses émotions, mais moins de deviner celles des joueurs humains. Mais peut-être que la première qualité suffit pour gagner sur le long terme (?)

Oui, mais il n'a pas besoin de deviner les mains adverses pour gagner : https://sciencetonnante.wordpress.co...ible-au-poker/

Ma définition est assez proche de la sienne, il me semble qu'elle en est le complément.
Pour moi la conscience est l'espace de travail de l'intelligence.
C'est ce qui focalise l'attention, met en lumière ce qui est manipulé. D'où cette impression d'illumination puisque c'est justement sa fonction.

Je vois ca comme, pour une réseau neuronal, un équivalent fonctionnel des registres de travail pour les microP avec bien sur une implémentation matérielle qui n'a strictement rien à voir.
Je suis aussi d'accord avec HenriParisien1 sur le fait qu'il est donc assez bizarre de vouloir rendre conscient un système ayant une architecture basée sur des micropocesseurs, il y aurait au moins en partie une redondance fonctionnelle.

J'avais aussi retrouvé cette idée d'espace de travail dans ce cours de Stanislas Dehaene (je crois, ca fait longtemps)

Entièrement d'accord. Ce que je voulais rajouter, c'est que l'une des contraintes très fortes des processus biologiques, c'est la consommation d'énergie. Je pense que la conscience, c'est un mécanisme qui permet - en réduisant le champs des possibles - de faire des choses difficiles avec une consommation d'énergie limitée (m'enfin qui dans le cas des hommes représente quand même 40 % de ses dépenses énergétiques).

Cette contrainte, nous ne l'avons pas quand nous fabriquons des machines. On est encore très loin de pouvoir construire des machines capables de s'auto-saisir d'un problème, d'en déterminer elle-même les contours et une fois ce travail fait, dans chercher la solution. De ce point de vue, j'ai même l'impression que nous en sommes toujours au même point qu'au début de mes études. Mais si on y arrive un jour, pourquoi vouloir économiser de l'énergie ?

Donc voila un avis personnel, je ne connais pas le code d'Alphago, mais je le vois plus comme un instinct artificiel ayant une capacité d'apprentissage passive par confrontation avec l'environnement.
Si il a des stratégies d'investigation intelligentes, ce sera un octroi d'intelligence de son concepteur (à priori de la programmation séquentielle), je ne pense pas qu'il ait la main pour modifier ces stratégies.
De ce point de vue une souris est plus intelligente, même si elle est nulle au go.

AlphaGo est construit sur deux réseaux neuronaux :
- le premier pour - à partir d'une position donnée déterminer la liste des coûts joués.
- le deuxième pour évaluer une position
Entre les deux, il y a un algo alpha/beta dit de montecarlo (c'est un alpha/béta mais qui ignore aléatoirement un certain nombre de coup possible pour descendre dans l'arbre plus rapidement).

En gros, si AlphaGo décidait de jouer aux échecs ou à un autre jeu à information totale, il pourrait sans doute avoir de bon résultat (à condition que quelqu'un lui code les règles du jeu). Sur des jeux à information incomplète (comme le poker), il resterait structurellement mauvais.

[Antropos]

Autrement dit : Tu es sûr qu'une IA verra le jour d'ici 2040, mais peut-être pas.
As-tu dis quelque chose, là ?

Ça ne sert à rien d'essayer de me faire dire ce que je n'ai jamais dis. Même en le répétant deux fois. Essayez quand même de ne pas tenter une troisième.
Je n'ai jamais dit que j'étais sûr qu'une IA verrait le jour d'ici 2040. On peut donc s'arrêter là.

En quoi cela change-t'il quelque chose au fait qu'une fois de plus, tu ne dis rien ! Tu remplis de l'espace ?

Je crois qu'un peu trop de monde ne disent rien sur cette discussion selon vous.
La plupart de mes remarques étaient des réponses expliquant pourquoi il ne fallait pas se fier à une certaine catégorie de spécialiste pour comprendre si la résolution d'un problème incluant leur spécialité était possible ou non

Donc si je vous suis bien :

Aucune machine ne disposera des mêmes capacités qu'un humain. Parce que ce n'est pas un humain.

mh34 ne dis rien et se contente de remplir l'espace elle aussi du coup ? Parce que c'est exactement la même forme de discussion. Je peux vous citer les autres s'il faut.

Par ailleurs, tu veux des arguments scientifiques.

Où en somme nous.

100 milliards de neurones dans un cerveau.

Avant que la machine d'IMB n'arrive, un ordi pouvait déjà traiter au maximum 33 millions de milliard d'information par seconde.

Pour comprendre l'ensemble du fonctionnement du cerveau il faudrait une puissance exaflop.
Or, la puissance informatique est multipliée par 1 million tous les 20 ans. À cela il faut ajouter l'arrivée des transistors 3D qui vont relancer la loi de Moore considérablement.

C'est plus de la science ou de la philosophie ?

Pas vraiment, je ne sais pas ce que tu as compris de ces lectures, mais je peux te dire que ce que tu en expliques jusqu'ici est assez étonnant par sa faiblesse scientifique au vu des auteurs invoqués, qui eux, ne se contentent pas de commentaires abscons sur la question.

Alors tu vas pouvoir m'expliquer toi-même ce que disent ces auteurs sur l'IA sinon qu'il y a de fortes chances qu'une IA Forte voit le jour à l'horizon 2040-50 ?
Tu n'as pas compris que mes messages sont des réponses à l'affirmation : "il est impossible qu'une IA Forte soit construite. Et encore moins en 2050." qui est clamée par certains sur ce fil, sans aucune référence scientifique pour le prouver, également.

Je ne prétend pas avoir de compétences sur le sujet, juste une certaine curiosité, par ailleurs je vois mal comment opposer des arguments scientifiques à ce qui n'est que du vent, et parfois, du mépris.

Alors au lieu de faire du vent, cite un par un les arguments que j'ai cité, en citant mes citations, qui te paraissent être du vent et du mépris

[invite6c250b59]

Sur des jeux à information incomplète (comme le poker), [alphago] resterait structurellement mauvais.

https://www.technologyreview.com/s/6...through-poker/
http://arxiv.org/pdf/1603.01121v1.pdf

[noureddine2]

salut , la plus faible conscience c'est de se reconnaître devant un miroir .
on peut chercher si un robot peut se reconnaître devant un miroir .

[noureddine2]

par exemple ce lien : http://www.journaldugeek.com/2013/02...naitre-miroir/
on peut chercher d'autres liens .