IA, 2016 & Singularité

[Archi3]

L'article ne parle pas de la Singularité...

ah ben si deja vous n'êtes pas d'accord sur ce que dit l'article ....

Nature REVIEWS souligne le risque réel de l'émergence de la Singularité et propose une séries de mesures à adopter rapidement http://www.nature.com/news/intellige...rights-1.17167

peut etre pourriez vous demander à une IA de vous dire ce que dit l'article pour vous mettre d'accord ?

et son argumentaire est un peu plus étoffé que l'impression que tu essaies d'en donner en extrayant une phrase hors de son contexte, ce qui n'est pas très étonnant vu le support de publication...

ah oui? quel est l'argument "un peu plus étoffé" que de déclarer juste que le risque existe ?
pour ce qui est de prendre le pouvoir, il faut rappeler que le "pouvoir" sur les sociétés humaines repose uniquement sur l'adhésion des peuples à leur dirigeant : si une majorité ne veut plus obéir, il n'y a plus de pouvoir ! la question n'a donc rien à voir avec la puissance de calcul des ordinateurs mais à l'acceptation des hommes de se soumettre à des décisions d'un ordinateur, ce qui d'ailleurs serait plus ou moins possible dès maintenant, puisque comme j'ai souligné les performances des ordinateurs se font sans besoin de conscience : il est peut etre possible d'alimenter un système experts donnant un avis sur des lois qui ne serait peut etre pas plus mauvais que celui des députés. La question est : qui accepterait de s'y conformer sous prétexte qu'un système expert l'a décidé ? c'est une question bien plus pertinente que d'extrapoler des Gflops !
-----

[pm42]

ah ben si deja vous n'êtes pas d'accord sur ce que dit l'article ....

Oui, j'ai déjà précisé que je suis souvent en désaccord avec Antropos en effet. Cela ne change rien au fait que l'article ne parle pas de Singularité ce qu'apparemment vous avez raté et que vous avez extrait une seule phrase.

peut etre pourriez vous demander à une IA de vous dire ce que dit l'article pour vous mettre d'accord ?

Ce genre de remarque est du même acabit que le reste...
L'affichage de votre mépris ne rend pas plus convaincant que vos considérations simplistes sur le pouvoir.

[mh34]

Ce genre de remarque est du même acabit que le reste...

Ce qui ne change strictement rien au fait qu'il n'y a dans l'article cité aucun argument. Juste ça :

There is a strong possibility that in the not-too-distant future, artificial intelligences (AIs), perhaps in the form of robots, will become capable of sentient thought.

Après ce sont des digressions sur ce qu'on devrait faire au cas où...Il ne démontre absolument pas que ça va arriver. Il extrapole, il conjecture. Il glose. Comme...bah comme tout le monde sur ce sujet. Et l'intelligence d'X, Y ou Z n'y peut rien parce que personne ne sait s'il y aura un jour des robots intelligents. Point.

[noureddine2]

Par contre, au long des 19 pages, je cherche encore autre chose de la part de ses contradicteurs qui tous expliquent que leur "logique" suffit sans connaitre le domaiclairement sans avoir jamais rien lu qui s'y rapporte (à part un peu ansset, page précédente)..

on peut chercher des critiques contre la singularité , par exemple :
http:// http://www.internetactu.net/2008/09/11/prochain-arret-la-singularite-44-un-mythe-venu-du-futur/
on se moque même de la singularité :

Evidemment la singularité n’a pas que des adeptes. Clive Thompson, journaliste au New York Times et à Wired, se moque ainsi des perspectives eschatologiques de Kurzweil et consorts. Remarquant à propos des lames de rasoir qu’“il a fallu quatre-vingts ans à l’industrie pour ajouter une seconde lame, mais qu’il n’en a fallu que quinze pour en ajouter une troisième, et il ne s’est écoulé que deux ou trois ans entre le Schick Quattro à quatre lames et le Gillette Fusion qui en possède cinq. Les amis, ce qui nous attend est clair : la singularité Gillette. Le moment ou l’acte de se raser devient si différent de tous les rasages précédents que l’histoire ne peut plus nous fournir de modèle pour prédire l’avenir.”

[Antropos]

donc, l'hypothétique IA forte aurait, sans nul doute, la même forme d'intelligence que le biologique humain.
tout en étant "siliconée" ( pardon ).
avec ses peurs, ses mensonges, ses désirs, ses rêves, son "inconscient",........., donc tout ce qui participe aussi à son fonctionnement neuronal en copié/collé.
puisque issue de notre compréhension totale du cerveau humain, selon tes dires.
est ce le concept ?

Je n'en ai personnellement aucune idée, je ne dis pas du tout que le principe du développement d'une HLIM serait de calquer entièrement la sentience humaine, mais probablement de se servir d'une partie de ces mécanismes anthropiques pour faire apparaître une conscience de soi à une machine.

si par contre l'idée plus simple est de rappeler qu'une machine "puissante" quelle que soit son domaine mérite un contrôle en regard de ses capacités.
alors cela est vrai quelle que soit la technologie.
( une analogie parmi d'autres , on ne donne pas une kalachnikov à un enfant de 6 ans )

ps : l'article de nature que tu as mis en lien ( si c'est le bon ) parle surtout de réflexion philosophique.

Je suis d'accord, le bug est un risque qui est plus d'actualité que la Singularité.
Pour l'article, j'en ai cité trois ou quatre de Nature, tu parlais duquel ?

XXXXXXXXXXXXXXXXxxx
Pour revenir un peu sur le sujet, pouvez-vous s'il vous-plaît détailler cette fameuse logique capable de réduire la totalité des sources que j'ai cité, comme vous me marteliez de citer des articles, à néant ? Ca devient vraiment fatiguant pour moi, je vous l'avoue.

Oui, avec ses erreurs: une reproduction humaine.

Vous ne faite même pas l'effort de comprendre .. je n'ai jamais rien dit de tel.

Je ne sais pas ce qui vous fait dire que c'est contre-intuitif ou inhabituel (références peut être ?)

Là vous confondez deux choses .. les concepts contre-intuitifs sont ceux d'HLIM ou "IA Forte", puis ceux "d'apocalypse" provoquée par une machine autonome.

l'intelligence n'est pas synonyme de compétences et, sauf télépathie, vous ne connaissez aucunement l'intelligence des intervenants de ce fil ou d'autres gens, auquel cas, il vous faudra nous donner les critères qui le permettraient, avec les références indispensables.

Vous venez de me réclamer des sources supplémentaires, et vous affirmez maintenant cette phrase sans citer aucunes sources ? Intelligence n'est pas synonyme de compétence ? Est-ce écrit noir sur blanc dans une charte officielle ? Je voulais simplement souligner votre méthode pour remarquer les contradictions permanentes de vos principes qui deviennent agaçants. Même si je partage un point de vue semblable.
Hawking et les personnalités que j'ai cité ne sont pas de simples scientifiques "compétents", dont la réflexion se limite à des capacités logico-mathématiques exacerbées. Il suffit de lire quelques ouvrages d'Hawking, Attali, Alexandre pour s'en rendre compte. Attali est un type qui avait prévu la crise de 2008. Qu'il se concentre maintenant aussi sur le problème de l'IA Forte, en même temps que d'autres grands penseurs, comme Ferry, mais aussi des scientifiques comme ceux que j'ai cité, dont Hawking et Alexandre (qui bien que certains ici affirment que ce n'est pas un scientifique parce qu'il n'exerce plus sa profession ...) est significatif. Ces gens pensent clairement que nous nous donnons les moyens de fabriquer une HLIM. Que ce n'est pas un concept impossible à créer, et nous pouvons y parvenir assez tôt.

Si vous refusez de comprendre l'importance de la loi de Moore, je rappel quand même qu'en début de discussion vous disiez que ce concept s'appliquait surtout aux horloges, il est normal que vous ne considériez même pas cette question sérieusement. La loi de Moore, qui va repartir avec les Tri-gates transistors, alliée aux recherches d'IBM, et pas seulement IBM, sur un ordinateur quantique générique depuis 2010, est susceptible d'accélérer considérablement le progrès technologique et de faire un saut quantitatif et qualitatif en neurosciences.

J'ai remarqué en parcourant les pages que le graphique que j'ai tenté de poster à deux reprise n'a pas été validé par un modérateur. Merci de l'accepter, je recommence.
Est-ce que vous comprenez ce graphique ? Est-ce qu'il ne vous fait pas un peu réfléchir ?

Pièce jointe 311931

Pièce jointe 311932

"A full brain - activity map and connectome by 2020 and by 2040 it will be routine to read and write data to billion of neurone" George Church, Geneticist at Harvard Medical School, Cambridge, Massachusetts

Donc si vous voulez, je ne suis pas en train de dire que ces prévisions vont nécessairement aboutirent aux dates annoncées, je dis simplement que l'idée d'une probabilité importante que cette idée aboutisse bien à l'horizon 2040 n'est pas véhiculée par des "gens qui racontent des conneries" et qui ne sont pas crédible. Maintenant que je vous ai cité Hawking, des généticiens d'Harvard, que vous faut-il pour accepter le fait que cette idée n'est pas complètement débile et que vous n'êtes peut-être pas le génie que vous pensez être comparé à ce tas de prophètes limités à des compétences cognitives élevées dans leur domaine, mais cons dans la pensée ?

Tout comme ce n'est pas parce que strictement aucune intelligence artificielle a été créé jusqu'à présent que l'on n'en créera pas, il est tout aussi illogique de dire que ce n'est pas parce qu'on ne connait pas quelque chose aujourd'hui, on ne la découvrira pas demain.

Tiens c'est marrant, ça ressemble étrangement à l'une de mes affirmations précédentes

A priori l'organisme n'est pas encore connecté au Web, même si c'est le projet de Kurzweil pour 2030.

À l'instant t pour t = 2016 ce n'est pas possible. À l'instant t pour t = 2005 le site de la NASA s'est fait craquer par un prisonnier depuis sa cellule. À l'instant t pour t = 2016 tout ordinateur avec connexion à Internet est techniquement capable de pirater les satellites espions américains, ou de prendre contrôle à distance d'un drone Reaper survolant le Pakistan. Techniquement, ce n'est pas impossible. À l'instant t pour t = 2050, il ne me semble pas qu'une stricte impossibilité pour un pirate de faire exactement la même chose puisse apparaître. D'autant que le pirate pourrait passer d'un QI de 170 à 15 000.

Vous ne vous souvenez déjà plus de ce que vous aviez répondu ?

Et il n'est pas non plus techniquement impossible que n'importe qui empêche ça à n'importe quel moment (pour l'instant, ce sont les humains qui piratent les "I"A et les ordinateurs ne piratent toujours rien du tout: ils restent de simples outils sans vie, sans intelligence et surtout, sans la moindre envie de faire quoique ce soit).
A multiplier par 8 milliards. D'une simple possibilité contre huit milliards, la comparaison est vite faite.
Il n'est pas impossible non plus qu'un ET aux supers pouvoirs (il aura forcément ceux qui lui auront permis d'arriver sur terre) puisse contrôler tout ça.
Techniquement, n'importe qui peut raconter n'importe quoi et dire que c'est possible, puisque personne ne peut prouver que ce n'est pas impossible, d'ou la charte de futura pour que les forums ne soient pas envahis de délires obsessionnels.

Est-ce que je dois répondre la même chose à votre dernière phrase du message #283 ?

Le jeu ridicule que vous jouez depuis le début dans cette discussion est ici démasqué. Si vous n'avez vraiment aucuns autres arguments que ceux sortis de votre génie pour continuer à saper mes sources, à évacuer chaque question d'un revers de main en se contenant des standards "vous n'avez pas compris vos sources" "vous modifiez vos sources", essayez au moins de ne plus intervenir.

les sources sont utiles quand il s'agit d'avoir soit des faits avérés, soit des démonstrations. Si c'est juste une source pour dire que machin très brillant en relativité générale a peur des robots, franchement je ne vois pas en quoi ça apporte le moindre argument à la discussion.

Est-ce que tu as lu tous mes liens ? Est-ce que tu as lu l'étude de Friston ? Les recherches sur le cerveau Bayésien ? Est-ce que tu fais le lien avec l'informatique, la loi de Moore, les millions investis dans la recherche d'un D-Wave générique depuis 2010 ? Est-ce que tu te rend compte que tu es dans une idéologie en étant certain de toi sur l'impossibilité stricte des neurosciences de comprendre les mécanismes élémentaires de la sentience à l'horizon 2040 ? Est-ce que tu ne trouve pas que Hawking, les chercheurs de Harvard que j'ai cité, les chercheurs d'Oxford comme N.Bostrom, te font de l'ombre ? Est-ce que tu peux me citer une seule source solide qui démontre l'impossibilité de ce que dit ce chercheur "A full brain - activity map and connectome by 2020 and by 2040 it will be routine to read and write data to billion of neurone" George Church, Geneticist at Harvard Medical School, Cambridge, Massachusetts

les sources sont utiles quand il s'agit d'avoir soit des faits avérés, soit des démonstrations. Si c'est juste une source pour dire que machin très brillant en relativité générale a peur des robots, franchement je ne vois pas en quoi ça apporte le moindre argument à la discussion.

Ce sont bien tes propos ? Alors cite une source, parce que plus bas il me semble bien avoir lu

se baser sur l'extrapolation de puissances de calcul, et des capacités à résoudre des problèmes très spécifiques comme le jeu de go, pour en déduire que d'ici 25 ans on aura tout compris de ce qui fait la conscience, ça me parait juste risible

...

Excuse moi mais je ne lis le Figaro, ni le Point, ni les Echos. Un minimum de culture scientifique de base suffit, il me semble.

Mais qu'attends-tu pour étaler les références ? Est-ce que tu peux au moins en citer une ?

c'est sur et donc ? est ce que tu crois par exemple qu'on connaitra suffisamment le cerveau en 2040 pour savoir comment exactement les "connexions synaptiques spécifiques" différencient mere Teresa, Albert Einstein, Hitler ou le boulanger de ma rue, pourtant tous des êtres humains ?

les sources sont utiles quand il s'agit d'avoir soit des faits avérés, soit des démonstrations. Si c'est juste une source pour dire que machin très brillant en relativité générale a peur des robots, franchement je ne vois pas en quoi ça apporte le moindre argument à la discussion.

Alors je te le demande sincèrement : Est-ce que tu fais exprès ou est-ce que tu ne fais pas exprès ? Parce que non seulement tu réclames des source toujours plus solides, et je suis désolé de n'avoir cité que Nature REVIEWS, j'essayerai de faire mieux à présent, mais en plus tu te lance à l'improviste dans une démonstration de clairvoyance. Tu ne sais apparement pas du tout où en est la recherche en neuroscience, sinon tu aurais peut-être lu, vraiment, l'article que j'ai publié à deux reprises, et qui a été publié une troisième fois par pm42.

Alors j'ai fait l'effort, de te trouver le pdf, comme tout le monde n'est pas abonné à Nature.
http://www.nature.com/nrn/journal/v1...s/nrn2787.html
http://www.fil.ion.ucl.ac.uk/~karl/T...n%20theory.pdf

Although contrived to highlight commonalities, this Review suggests that many global theories of brain function can be united under a Helmholtzian perceptive of the brain as a generative model of the world it inhabits notable examples include the integration of the Bayesian brain and computational motor control theory, the objective functions shared by predictive coding and the infomax principle, hierarchical inference and theories of attention, the embedding of perception in natural selection and the link between optimum control and more exotic phenomena in dynamical systems theory.

se baser sur l'extrapolation de puissances de calcul, et des capacités à résoudre des problèmes très spécifiques comme le jeu de go, pour en déduire que d'ici 25 ans on aura tout compris de ce qui fait la conscience, ça me parait juste risible. Précisément, comme je te disais, parce que ces performances ont été obtenues sans avoir à douer les ordinateurs de conscience : ce qui prouve d'une part qu'on peut arriver à ces performances sans avoir à émules le cerveau humain (tout comme on peut faire un appareil photo sans construire une rétine artificielle), et d'autre part que ça ne nous donne pas la moindre solution de compréhension de ce qui fait la conscience justement (tout comme l'invention du CCD n'aide pas vraiment à comprendre la rétine !).

En termes plus clairs, je me contre-fou de ce que tu penses, je préfère écouter des gens crédibles. Et tu n'es pas quelqu'un de crédible sur ce sujet. Contrairement à moi, tu as une certitude sur la question, et tu te justifie par ta culture scientifique. Hawking est un idiot, et toi tu as déjà tout compris. C'est ça qui est risible.

[pm42]

Comme...bah comme tout le monde sur ce sujet. Et l'intelligence d'X, Y ou Z n'y peut rien parce que personne ne sait s'il y aura un jour des robots intelligents. Point.

Tu boucles sur une affirmation gratuite. En gros (et je me répète), un grand nombre d'experts pensent que la possibilité est forte. Il y a des programmes de recherche, des investissements lourds...
Et mh34 dont on ne sait rien à part que son domaine d'expertise ne semble pas du tout relever de l'IA vient nous affirmer "on n'en sait rien".
On ne peut pas dire que scientifiquement, cela soit solide.

on peut chercher des critiques contre la singularité , par exemple :
http:// http://www.internetactu.net/2008/09/11/prochain-arret-la-singularite-44-un-mythe-venu-du-futur/
on se moque même de la singularité :

Oui. Et il a fallu 21 pages pour faire ça ? Sortir un article de presse pour faire une confusion entre l'existence d'IA et la Singularité (déjà faite implicitement dans le titre du fil mais pas dans le 1er post d'ailleurs).
Comme je le disais, les contributions à un sujet sont sans doute un peu affaiblies quand elles repose sur la seule "logique" des intervenants qui par ailleurs ne connaissent pas les concepts de base.

[Archi3]

Est-ce que tu as lu tous mes liens ? Est-ce que tu as lu l'étude de Friston ? Les recherches sur le cerveau Bayésien ? Est-ce que tu fais le lien avec l'informatique, la loi de Moore, les millions investis dans la recherche d'un D-Wave générique depuis 2010 ? Est-ce que tu te rend compte que tu es dans une idéologie en étant certain de toi sur l'impossibilité stricte des neurosciences de comprendre les mécanismes élémentaires de la sentience à l'horizon 2040 ?

je n'ai dit cela nulle part : j'ai dit que les performances actuelles des ordinateurs ne donnaient pas plus d'information sur la conscience , puisqu'ils étaient précisément obtenus sans avoir à créer de la conscience. Que des avancées sur la conscience viennent de travaux ultérieurs, c'est tout à fait possible et meme quasi certains vu que la recherche avance toujours. Mais ça ne rend pas "très probable" qu'on crée un ordinateur conscient pour autant : le fait meme qu'on ne sache finalement toujours pas ce qui distingue un état conscient d'un état inconscient t'empêche de faire la moindre prédiction crédible à ce sujet.

Quant aux articles théoriques sur le cerveau bayesian, je les ai parcourus mais je ne vois toujours pas en quoi ça prouve quoi que ce soit sur la possibilité d'avoir un ordinateur conscient. De façon générale, n'étant pas spécialiste du domaine, je pense dangereux de lire des articles techniques et de les interpréter comme on veut : je suis plus humble que toi sur ce sujet.

Est-ce que tu ne trouve pas que Hawking, les chercheurs de Harvard que j'ai cité, les chercheurs d'Oxford comme N.Bostrom, te font de l'ombre ? Est-ce que tu peux me citer une seule source solide qui démontre l'impossibilité de ce que dit ce chercheur "A full brain - activity map and connectome by 2020 and by 2040 it will be routine to read and write data to billion of neurone" George Church, Geneticist at Harvard Medical School, Cambridge, Massachusetts

et évidemment, il est bien connu que les scientifiques ne font jamais de déclarations publiques un peu "sexy" , histoire de récupérer quelques crédits. Ils n'ont jamais besoin de s'abaisser à ce genre de pratique, l'argent coule tellement à flot dans la recherche !

ce qui est marrant, c'est ce fantasme qui pense que les problèmes de l'humanité viendront des robots, alors qu'ils ne viendront que d'elle même. En particulier de gens comme toi qui idéalisant une IA , seraient prêts à se déssaisir eux meme de leur liberté de penser et d'agir pour lui obéir : ce qui est comme je te disais la source de tout pouvoir. On s'en f... que les communications entre les ordinateurs soit un trilliard de fois plus rapides que les humains : ça n'accélère pas pour autant le temps que le blé met à pousser ni les enfants a être conçus. En quoi ces ordinateurs très puissants ont réellement amélioré les performances des bourses par exemple ? un petit coup d'oeil rapide sur l'historique des cours du CAC 40 depuis le début de son informatisation de donnera sans doute une matière à réflexion utile ....

[mh34]

.Et mh34 dont on ne sait rien à part que son domaine d'expertise ne semble pas du tout relever de l'IA vient nous affirmer "on n'en sait rien".
On ne peut pas dire que scientifiquement, cela soit solide.

Non ce n'est pas mon domaine d'expertise.
Par contre dans le mien, j'ai tous les jours affaire à des gens auxquels il faut que je tienne un discours très semblable " je pense que... la probabilité est forte...si..." etc etc. Et ils traduisent tous par ; "finalement vous n'en savez rien". ils ont raison. Finalement, on n'en sait rien.

On est ici exactement dans le même cas de figure. E-xac-te-ment.
Donc quand je lis ça :

un grand nombre d'experts pensent que la possibilité est forte

je synthétise ; ils n'en savent rien. Que ça ne vous convienne pas n'y change rien.

[ansset]

Comme je le disais, les contributions à un sujet sont sans doute un peu affaiblies quand elles repose sur la seule "logique" des intervenants qui par ailleurs ne connaissent pas les concepts de base.

ce n'est pas très honnête intellectuellement.
que sais tu des lectures et connaissances de chacun ?

et franchement, ne peut on pas dire sans exagérer que ce sujet fait aussi LE buzz, pour le meilleur de certaines revues.
( nature review est un hebdo, alors, je trouve un peu naturel d'observer une forme de "story telling".)
Pour ma part, je vais me procurer le livre de Cardan qui me semble le seul à avoir une approche scientifique et pluridisciplinaire )

de surcroit, qu'en est il des Attali et Ferry, cités ad nauseam.
sont il des pros de ce(s) domaine(s) ? ( puisque tu dénis les propos des intervenants non spécialistes )
( la crise de 98 ) a été prédite par de nombreux économistes.
même dans le troupeau des traders, ou la règle était : "jusqu'ici tout va bien". ( et on verra demain )
et ils n'allaient pas scier la branche lucrative sur laquelle ils étaient assis, et sans risque personnel.
l'argument en référence est très faible.
Quand à Ferry, bof, c'est un philosophe, qui est loin ( à mon avis ) d'être un grand.

ps : tu ne peux quand même pas aussi évacuer la singularité, qui est objectivement le fil conducteur ici.
sinon, on ne se projetterai pas à 40 ans, ce fil serait consacré aux recherches actuelles, ce qui ne serait pas plus mal.

Cdt

[minushabens]

je synthétise ; ils n'en savent rien. Que ça ne vous convienne pas n'y change rien.

il me semble que tu adoptes ici un point de vue extrêmiste. Qu'on ne sache pas tout ne signifie pas qu'on ne sait rien. Ton domaine est je crois la médecine, si on te demande si telle pratique médicale sera possible dans quelques années, tu ne peux pas être certaine mais tu peux estimer les chances que ça se réalise. S'il s'agit de greffe de cerveau tu vas peut-être prédire "non" et pour ma part je tiendrai compte de ton avis. Si un spécialiste d'IA dit que ça lui semble possible que dans 20 ans on ait une IA ayant telle caractéristique, et surtout s'il donne des arguments, c'est un avis à prendre en considération, enfin plus que celui de Tartempion sur ce forum (y compris le mien, mais j'essaie de ne pas faire de prédictions).

[Archi3]

il me semble que tu adoptes ici un point de vue extrêmiste. Qu'on ne sache pas tout ne signifie pas qu'on ne sait rien. Ton domaine est je crois la médecine, si on te demande si telle pratique médicale sera possible dans quelques années, tu ne peux pas être certaine mais tu peux estimer les chances que ça se réalise. S'il s'agit de greffe de cerveau tu vas peut-être prédire "non" et pour ma part je tiendrai compte de ton avis. Si un spécialiste d'IA dit que ça lui semble possible que dans 20 ans on ait une IA ayant telle caractéristique, et surtout s'il donne des arguments, c'est un avis à prendre en considération, enfin plus que celui de Tartempion sur ce forum (y compris le mien, mais j'essaie de ne pas faire de prédictions).

Il serait néanmoins intéressant de disposer de méta analyses sur ce que prévoyaient les spécialistes de l'IA dans le passé afin d'avoir une idée de la fiabilité de leurs prédictions ...

[ansset]

on pourrait élargir la question à toutes les prévisions à 30 ans, quel que soit le domaine.
surtout celles qui ont prédit une "rupture" qualitative importante.
il n'y en a aucune qui me vient en tête.

[mh34]

il me semble que tu adoptes ici un point de vue extrêmiste.

Pas du tout. Quand la réponse attendue est "oui" ou "non", et qu'on ne peut donner ni l'une ni l'autre, l'honnêteté morale consiste à répondre " je n'en sais rien".
Ca n'empêche pas de continuer à chercher, au contraire.
Dans le sujet du fil ça ne prête pas à conséquence d'un point de vue humain, pourquoi est-ce si difficile à dire? Parce que ça va impacter les budgets de recherche? Si c'est ça qu'on le dise clairement une bonne fois pour toutes!

[ansset]

je veux dire avec une précision suffisante.
de citer une direction ne suffit pas.
les domaines d'application sont souvent assez différents de ce qui était "imaginé".
( internet est un bon exemple )

[myoper]

Ah, tu as relevé une faute de logique dans le raisonnement d'Hawking ? J'ai du rater l'endroit où tu cites en détail sont raisonnement et ton analyse.

Mais donc pas dans ceux que j'ai relevé, par exemple, les erreurs élémentaires de logique de la part d'intervenant particulier qui jonchent ce fil.

Ensuite, je n'ai rien à dire contre les prédictions de gens qui ont les compétences en ce domaine qui sont certainement plus fondées que celles des moins compétents (!) mais qui sont forcément biaisés puisque cet avis ne repose pas sur une démarche scientifiquement valide.
Reste à savoir si leur certitude en un résultat futur pour lequel il son engagés ne supporte pas un biais supplémentaire dont l'importance n'est d'ailleurs pas évaluable ici.

Au demeurant, ce n'était pas mon argument : je parlais du fait qu'il lui est reproché de ne pas être spécialiste du domaine et donc de donner un avis sans valeur par des gens qui eux en s'en privent pas...

Quand mon concierge m'explique comment je dois me faire opérer, je ne me sens pas vraiment en confiance et je ne lui laisserais pas cette décision. Pourtant, il est vraiment intelligent, certainement plus que moi et peut être plus que mon chirurgien et ceci de façon complétement indépendante de sa profession et de son domaine de compétence.

Donc à défaut, je ne tranche pas mais si je le devais absolument, ma confiance irait envers quelqu'un dont les capacités intellectuelles sont reconnues comparé à des gens dont je trouve les raisonnements très peu convaincants.

En passant, ce ne sont pas les capacités intellectuelles qui sont connues mais les compétences exprimées dans leur domaine. C'est très différent.

[karlp]

Bonjour

J'ai (encore) une question naïve.

Les anciens distinguaient deux types de raisonnement (beaucoup plus en réalité, mais j'essaye de simplifier au maximum):

1) Le raisonnement strictement logique qui ne dépend aucunement du contenu des concepts en jeu (la manière de raisonner ne diffère pas que l'on ait affaire au concept de triangle ou au concept de carré).
Bien que je sois incapable de le démontrer, l'idée qu'une machine puisse effectuer ce type de raisonnement, et même bien mieux que l'homme, ne me pose aucune difficulté.

2) Le raisonnement dialectique dont l'orientation va dépendre étroitement de la signification des concepts (au sens étroit) en cause.
Le sens des concepts dialectiques est déterminé par le système de concepts dans lequel ils interviennent eux-mêmes comme éléments du système.
Ces mêmes concepts, déterminés par un système particulier, sont d'abord tirés du langage courant : on peut donc identifier deux "niveaux" dans l'élaboration de leur signification.
Avant d'être un concept (au sens fort du terme), il y a donc un mot, défini par le système de la langue dont il est tiré; puis il devient concept en étant intégré à un système (qui prend racine dans la pensée commune et tente de la dépasser) exprimé dans cette même langue (avec la même grammaire).

Or, la signification des mots dont sont tirés ensuite les concepts (un peu de la même façon qu'un biface est obtenu en taillant une pierre brute) dépend d'un système, qui est celui de la langue employée, langue qui est elle même en continuelle mutation.

Cette mutation continuelle de chaque langue est en partie déterminée par:
- les métaphores et métonymies nouvelles que les sujets parlants inventent.
- Les mutations phonologiques qui engendrent de nouvelles possibilités et en suppriment d'anciennes (en produisant des rapprochements inédits par exemple : comme ce fut le cas des mot "décrépi(e)" et "décrépit(e)" en français; ou des dissociations : au XVIIIème, les mots "roi" et "rouet" se prononçaient de la même façon, ce qui n'est plus du tout le cas).

J'en viens donc à supposer que les raisonnements dialectiques ne sont intelligibles qu'à la condition qu'on soit instruit de ces continuelles mutations du langage courant.

J'ai donc deux questions :

- Quelles fautes/erreurs ai-je commis dans le raisonnement présenté ci dessus ?
- Si ce raisonnement se tient (si nous n'y voyons pas d'erreur qui ne puisse être corrigée sans que le raisonnement reste globalement correct), alors est-ce qu'il serait possible qu'une machine puisse être continuellement instruite des évolutions de la langue dans laquelle se construit le raisonnement dialectique qu'on souhaiterait lui voir tenir (ou au moins "comprendre")

[Ma question n'est ici qu'une reformulation de la question que j'avais auparavant posée dans ce même fil : la conscience spécifique qui nous caractérise n'est elle pas déterminée par notre expérience de la jouissance ?
Je peux encore proposer une troisième formulation peut-être plus simple : l'humour dépend en partie de l'état d'une langue à un moment donné - ce qui fait rire aujourd'hui ne le fera plus demain. Peut-on enseigner à une machine à apprécier l'évolution de l'humour (sans avoir besoin d'être "ré-informée" par le programmeur)?
Je crois que les trois formulations sont équivalentes.]

[myoper]

- Quelles fautes/erreurs ai-je commis dans le raisonnement présenté ci dessus ?

Je n'en vois pas.

- Si ce raisonnement se tient (si nous n'y voyons pas d'erreur qui ne puisse être corrigée sans que le raisonnement reste globalement correct), alors est-ce qu'il serait possible qu'une machine puisse être continuellement instruite des évolutions de la langue dans laquelle se construit le raisonnement dialectique qu'on souhaiterait lui voir tenir (ou au moins "comprendre")

[Ma question n'est ici qu'une reformulation de la question que j'avais auparavant posée dans ce même fil : la conscience spécifique qui nous caractérise n'est elle pas déterminée par notre expérience de la jouissance ?
Je peux encore proposer une troisième formulation peut-être plus simple : l'humour dépend en partie de l'état d'une langue à un moment donné - ce qui fait rire aujourd'hui ne le fera plus demain. Peut-on enseigner à une machine à apprécier l'évolution de l'humour (sans avoir besoin d'être "ré-informée" par le programmeur)?
Je crois que les trois formulations sont équivalentes.]

Bien que je pense qu'une machine puisse être "instruite" de cette façon, tu soulignes certains concepts qui doivent être "vécus" ou ressentis ("émotionnellement"), ce qui nécessitera cette "fonction" pour que la machine soit instruite de ceux-ci.
Me suis bien bordé de parenthèses.

Bien que je sois incapable de le démontrer, l'idée qu'une machine puisse effectuer ce type de raisonnement, et même bien mieux que l'homme, ne me pose aucune difficulté.

J'ai l'impression qu'a se lire les uns, les autres, la plupart des intervenants partagent ce point de vue .

[Antropos]

Toujours pas de sources, toujours les mêmes critiques, les points de vue personnels sur le bien fait ou non de développer une HLIM, je ne te répond plus Archi3.

Je vais me contenter de continuer à fournir des liens sur des études en neurosciences, pour ceux que ça intéresse.

Mais il faut aussi rappeler qu'il y a actuellement trois programme majeurs visant à comprendre en 15 à 20 ans le fonctionnement intégral du cerveau :
-Le programme me européen Human Brain Project financé à plus d'1 milliard d'euros.
http://www.automatesintelligents.com...umanbrain.html
-Le programme américain lancé par Obama "Brain Activity Map" qui sera doté de plus de 3 milliards de dollars
Présentation dans la revue Neuron http://www.cell.com/neuron/fulltext/...273(12)00518-1
-Le Human Connectome du ressort du USC-MGH et des universités Washington University – University of Minnesota Project http://www.humanconnectomeproject.org

À côté, il faut aussi prendre en compte les activités philanthropiques qui sont assez nombreuses. Pour n'en citer qu'une, Bill Gate par exemple a financé la construction de l'Allen Institute Brain Sciences chargé de comprendre le fonctionnement du cerveau.
http://www.alleninstitute.org/what-we-do/brain-science/

Plusieurs problèmes se posent à l'avancé du progrès en neurosciences. Le budget consacré à la recherche n'a jamais été aussi élevé qu'aujourd'hui. En témoignent ces trois projets soutenus par des activités philanthropiques.
La volonté éthique de ne pas utiliser des techniques invasives est un second frein. Notamment l'ouverture de la boite crânienne pour implanter des électrodes dans le cerveau, quelqu'en soit la taille. Elles sont considérées comme inacceptables chez les humains, y compris à l'occasion de trépanations imposées pour des raisons thérapeutiques. Les chinois dont la recherche dans le domaine évolue de façon exponentielle n'ont pas la même conception de l'éthique que les occidentaux et sont prêt pour des raisons militaires et économiques à parvenir à leurs fins par n'importe quels moyens.

La seule méthode généralement admise par les neurosciences, consiste à recueillir les traces électriques de l'activité des neurones par l'intermédiaire de capteurs externes. Mais elle est lente, nécessite de puissants moyens de traitement informatique et ne donne que des images pour le moment très partielles des aires cérébrales observées. Les microscopes très puissants, nécessaires pour observer au dessous d'une couche de quelques millimètres, n'existent pas encore. C'est en grande partie une question de technique.

Entre temps, Paul Alivisatos, directeur du Lawrence Berkeley National Laboratory en Californie, Miyoung Chun, George Church, Karl Deisseroth, John Donoghue, Ralph Greenspan, Paul McEuen, Michael Roukes, Terrence Sejnowski, Paul Weiss et Rafael Yuste sont certains de réussir en progressant neurone par neurone et milliseconde par milliseconde. Pour ceux que ça intéresse, ils ont publié dans Science comment ils sont en train de s'y prendre http://science.sciencemag.org/conten...39.abstract%20

George Church de l'Harvard Medical School explique pourquoi le projet BAM est susceptible d'aboutir dans les délais annoncés
Tiré du site Harvard Medical School http://hms.harvard.edu/news/what-bra...ty-map-2-20-13

J'ai donc deux questions :

- Quelles fautes/erreurs ai-je commis dans le raisonnement présenté ci dessus ?
- Si ce raisonnement se tient (si nous n'y voyons pas d'erreur qui ne puisse être corrigée sans que le raisonnement reste globalement correct), alors est-ce qu'il serait possible qu'une machine puisse être continuellement instruite des évolutions de la langue dans laquelle se construit le raisonnement dialectique qu'on souhaiterait lui voir tenir (ou au moins "comprendre")

[Ma question n'est ici qu'une reformulation de la question que j'avais auparavant posée dans ce même fil : la conscience spécifique qui nous caractérise n'est elle pas déterminée par notre expérience de la jouissance ?
Je peux encore proposer une troisième formulation peut-être plus simple : l'humour dépend en partie de l'état d'une langue à un moment donné - ce qui fait rire aujourd'hui ne le fera plus demain. Peut-on enseigner à une machine à apprécier l'évolution de l'humour (sans avoir besoin d'être "ré-informée" par le programmeur)?
Je crois que les trois formulations sont équivalentes.]

Notre cerveau est bien entendu bien plus qu’un microprocesseur, nous sommes d'accord. Il s’agit plutôt d’un circuit intégré dont le design électronique se modifierait en fonction des tâches effectuées et des expériences accumulées.

La mémorisation d’un souvenir correspond à la création de nouvelles synapses entre les neurones de l’hippocampe, et cette synapse va modifier notre activité cérébrale et notre façon de penser. Le fonctionnement et l’organisation physique du cerveau sont intriqués. Le cerveau pense, mais penser le modifie effectivement en retour à chaque instant. Penser modifie le câblage neuronal, qui en retour oriente notre activité cérébrale future.

Mais je ne comprend pas ce qui empêcherait une machine d'effectuer le même processus du moment que les connexions synaptiques qui permettent les prouesses sémantiques et auto-régulatrice sont saisies.
Si les mécanismes du cerveau n'incluent pas d'aire irrationnelle comme le supposait Descartes, mais se réduisent bien à un ensemble d'algorithmes, qu'est-ce qui nous empêche de les reproduire ?

[karlp]

Mais je ne comprend pas ce qui empêcherait une machine d'effectuer le même processus du moment que les connexions synaptiques qui permettent les prouesses sémantiques et auto-régulatrice sont saisies.
Si les mécanismes du cerveau n'incluent pas d'aire irrationnelle comme le supposait Descartes, mais se réduisent bien à un ensemble d'algorithmes, qu'est-ce qui nous empêche de les reproduire ?

Sans préjuger de la possibilité de reproduire les connexions synaptiques (auxquelles il faudra cependant réduire notre pensée; ce qui n'est pas encore établi), votre référence à Descartes - dont l'idée qu'elle voudrait soutenir me semble pertinente (je crois en effet que la question de l'irrationalité est assez cruciale)- est inopportune : Descartes ne niait pas que la pensée puisse être affectée par les émotions et les "mouvements du corps"(à tel point que nombreux sont ceux qui soupçonnent que Descartes était ironique lorsqu'il prétendait que la raison était la chose la mieux partagée au monde).

Je crois que nous revenons au point initial : nous sommes sans doute presque tous d'accord pour dire que la machine peut reproduire les computations d'un cerveau que rien n'affecte; auquel cas il ne s'agit pas d'un mode de pensée strictement humain.

Ce que nous nommons ici "irrationalité", "émotions", "vécu", etc..., renvoie (ce n'est qu'une hypothèse) au fait que notre pensée se construit dans une relation à l'autre - un autre dont nous nous demandons ce qu'il nous veut, comment le séduire, le convaincre, etc... etc...
Je peux alors proposer une quatrième formulation du problème que je ne sais résoudre : peut-on implémenter dans la machine l'angoisse, le désir, la jouissance, etc..., qui entrent en jeu dans notre relation à l'autre et qui déterminent notre façon de pensée ?

Vous mettez d'ailleurs le doigt sur la question que je pose en supposant que "les mécanismes du cerveau se réduisent bien à un ensemble d'algorithmes" (et je dois reconnaître qu'en ce cas la relation entre un homme et une femme s'en trouverait immensément simplifiée: une machine pourrait elle comprendre le double langage du séducteur qui, en réalité, parle de tout autre chose que du sujet dont il débat ouvertement avec la personne qu'il cherche à séduire ?).

J'ignore si nous avons/aurons la réponse à cette question (ce qui n'enlève rien à l'intérêt immense qu'il y a à essayer de reproduire le mode de pensée humain : les échecs seront aussi intéressants que les succès).

[invite73192618]

est-ce qu'il serait possible qu'une machine puisse être continuellement instruite des évolutions de la langue dans laquelle se construit le raisonnement dialectique qu'on souhaiterait lui voir tenir (ou au moins "comprendre") (...) la conscience spécifique qui nous caractérise n'est elle pas déterminée par notre expérience de la jouissance ? (...) Peut-on enseigner à une machine à apprécier l'évolution de l'humour (sans avoir besoin d'être "ré-informée" par le programmeur)?

Le point commun est de comprendre comment une machine peut automatiquement "apprendre de la sémantique". Les avancées récentes en machine learning suggèrent que c'est précisément ce qui permet des performances intéressantes.

http://colah.github.io/posts/2014-07...presentations/

[Paradigm]

Bonjour Karlp, bonjour à tous,

Je peux alors proposer une quatrième formulation du problème que je ne sais résoudre : peut-on implémenter dans la machine l'angoisse, le désir, la jouissance, etc..., qui entrent en jeu dans notre relation à l'autre et qui déterminent notre façon de pensée ?

Décrire un processus neuronal ce n'est pas le vivre. La description est construite par nous humain relativement à nos perceptions, nos expériences vécus du "monde".

“Lived experience is where we start from and where we all must link back to, like a guiding thread” (Varela 1996, 1999a).

Cordialement,

[mh34]

Si les mécanismes du cerveau n'incluent pas d'aire irrationnelle comme le supposait Descartes, mais se réduisent bien à un ensemble d'algorithmes, qu'est-ce qui nous empêche de les reproduire ?

Ah...et alors à quoi attribuer les conduites irrationnelles humaines?

[ansset]

Les avancées récentes en machine learning suggèrent que c'est précisément ce qui permet des performances intéressantes.

Ce qui éventuellement pourrait permettre d'envisager .
On en est encore loin quantitativement, même si on peut supposer que ce point n'est pas intrinsèquement bloquant.
Mais surtout qualitativement.
A savoir, l'interprétation du sens dans un contexte, ce qui n'est pas abordé.
la notion de contexte est bien plus complexe que la description et la validation grammaticale d'une phrase.
Mais même avant cela:
Il s'agit, dans ce qui est présenté d'une validation ( pour ensuite l'intégration de l'information ).
si je dis :
"le chat de ma voisine est bleu".
la phrase est valide et peut être intégrée, à moins de lui avoir appris aussi les couleurs des chats.
On poussant par analogie cet exemple, on rend les choses exponentiellement plus difficile.

Quand au contexte, non abordé : il est inutile de citer des exemples pour imaginer la lourdeur du pb.
Et sans intégration dans un contexte, la compréhension reste bloquée structurellement.

PS : dans l'article , l'auteur précise bien ( avec honnêteté, que les critiques de l'approche viennent en partie des linguistes )

[invite73192618]

https://fr.wikipedia.org/wiki/Chartr..._Chartreux.jpg

[invite73192618]

Plus explicitement: le point de ce blog est précisément d'expliquer que des informations sémantiques valides émergent même si la tâche à effectuer n'a à priori rien à voir. Donc même en ne mettant aucune information explicitement sur le couleur des chats, un réseau occupé à identifier des phrases devrait par ailleurs pouvoir apprendre tout seul que les chats ne peuvent pas être bleus. Enfin, si c'était vrai.

Pièce jointe 311975

[karlp]

(1) Le point commun est de comprendre comment une machine peut automatiquement "apprendre de la sémantique". (2) Les avancées récentes en machine learning suggèrent que c'est précisément ce qui permet des performances intéressantes.

http://colah.github.io/posts/2014-07...presentations/

(2) J'ai pu le constater (il s'agissait d'une thèse portant sur des simplifications ou des résumés de textes réalisés par un logiciel. Les textes pouvant être des romans) et je ne doute pas qu'on ait quelques heureuses surpises.

(1) Oui, c'est bien là la question centrale. Elle me semble présupposer (dans le cadre de la question de la réalisation d'une intelligence artificielle qui puisse "penser comme un homme") que nous ayons une certaine compréhension de la façon dont nous apprenons la sémantique. Nous avons bien sûr des modélisations, mais dont aucune ne peut prétendre "avoir le dernier mot" sur le sujet.
Ce qui pour moi pose la question de la limite entre les difficultés surmontables et d'éventuelles impossibilités.

[Antropos]

Ah...et alors à quoi attribuer les conduites irrationnelles humaines?

Je vais plutôt utiliser le terme paranormal pour que ce soit plus clair.

De quels comportements irrationnels parlez-vous ? Existe-t-il des comportements strictement irrationnels ? Sur quels concepts s'appuient ces comportement sinon des concepts rationnels ? Un comportement irrationnel peut-il créer des concepts strictement irrationnel qui ne s'appuient sur aucune base rationnelle ? sur aucun concept connu ? Nos capacités à créer des concepts surnaturels, selon Pascal Boyer, découle de la capacité de nos systèmes d'inférence à s'échanger des informations entre eux. L'un pense le lézard, l'autre le vivant, l'autre le concept du feu, et naît le dragon. C'est évidement plus compliqué, je vous laisse le lien pour mieux comprendre. Tiré de la thèse de P.Boyer dont la base du raisonnement repose sur les neurosciences.
http://www.pascalboyer.net/articles/...ligionTiCS.pdf

Par là je voulais dire que la pensée repose avant tout sur une architecture neuronale, synaptique universelle sinon extrêmement semblable jusqu'en deçà de l'échelle nanométrique d'un Sapiens à l'autre.

Admettre que tout ne s'explique pas par une logique algorithmique de fond, 'n'est-ce pas admettre l'existence d'une aire, d'un réseau paranormal, strictement illogique, puisqu'il serait impossible de l'interpréter, scientifiquement.
Soyons bien d'accord, la diversité des pensées à n'importe quel instant t montre qu'aucunes inférence n'est strictement semblable à une autre. Il n'y a pas de déterminisme, mais il faut bien admettre que cette pensée llibre n'est possible que par une certaine architecture neuronale et synaptique.

Je suis simplement en train de vous dit que je ne crois pas en l'existence d'une aire qui échapperait aux lois rationnelles.

[ansset]

.............devrait par ailleurs pouvoir apprendre tout seul...........

c'est le genre d'assertion qui ne mange pas de pain.
(et j'ai pris ici un cas très simpliste )
assertion que malheureusement on retrouve un peu trop et dans tous les cas de figure sur ce sujet en général.
donc je suppose qu'on peut à loisir l'étendre à la notion de concept, par exemple, pour ne parler que de linguistique.

[myoper]

Ah...et alors à quoi attribuer les conduites irrationnelles humaines?

A des aires rationnelles mal foutues...

Mais je sens que le fonctionnement du cerveau va être brutalement réduit à des algorithmes, donc forcément rationnels, donc, pourquoi pas complétement prévisibles mais pas prévisibles. Comme si le fonctionnement ne reposait pas sur des algorithmes, sinon il faut une région dédiée à la malfonction qui va reposer sur des algorithmes.

[ansset]

c'est une joli boucle que voilà