Faut-il s'inquiéter des performances de l'intelligence artificielle ?

[Antropos]

L'explication schématisée de l'importance de la puissance de calcul

Tomorrows_World_graphic.jpg

Les prévisions de quelques scientifiques renommés

Tomorrows_World_Future_Focus.jpg
-----

[mh34]

Entre temps, Paul Alivisatos, directeur du Lawrence Berkeley National Laboratory en Californie, Miyoung Chun, George Church, Karl Deisseroth, John Donoghue, Ralph Greenspan, Paul McEuen, Michael Roukes, Terrence Sejnowski, Paul Weiss et Rafael Yuste sont certains de réussir en progressant neurone par neurone et milliseconde par milliseconde. Pour ceux que ça intéresse, ils ont publié dans Science comment ils sont en train de s'y prendre http://science.sciencemag.org/conten...39.abstract%20

Ce lien est invalide...

[Antropos]

Ce lien est invalide...

Oui effectivement, un autre aussi, je vais essayer de retrouver les articles

[invite6486d7bd]

Ben par exemple tu prends un ordinateur quantique générique, qui est en passe d'être développé par l'Université de Berkeley s'il arrive au bout de leurs recherches dans les marges qu'ils se sont fixées.

Le concept d'ordinateur quantique n'a pour le moment pas fait ses preuves, et malgré la révolution maintes fois annoncée nous attendons toujours.
Certains scientifiques se sont demandés et se demandent d'ailleurs encore à l'heure actuelle si le concept est valide.
Pour l'instant, on attend de voir.

Tu lui donnes une autonomie, une singularité.

Le mot "singularité", il me semble, n'est pas entendu comme un synonyme de "particulier".
Une singularité est un développement à un point éloigné de ce qui est connu qu'il échappe aux prévisions.

Voilà ce qu'il a de plus que l'original. Sans aller jusqu'à là, n'importe quel ordinateur devenu une IA forte dispose d'une puissance de calcul très supérieure à tout cerveaux humains.

Sans aller jusqu'aux ordinateurs modernes, les performances en calcul d'une simple calculatrice dépasse de loin celles de la majorité des humains.
De même les performances d'une pince coupante dépassent de loin les performances de section de n'importe quelle mâchoire humaine.
Or pour autant qu'ils soient performant, ce sont des outils, sans autonomie.
La performance et l'autonomie ne sont pas des concepts qui découleraient mécaniquement l'un de l'autre.
Par exemple, ne nombreux problèmes ne peuvent être résolus par la "force brute" du fait de la croissance très rapide du nombre de possibilités à prendre en compte.
Ici, la machine non éduquée est moins performante que le cerveau humain (et en général que toutes les autres espèces)

C'est quand même très logique que la compréhension de notre cerveau permette de créer des IA de plus en plus autonome ....

Ca peut aider oui (même si le Human Brain Project n'a pas cette ambition), mais les IA restent des outils.

A noter également que le cerveau humain ne contient pas 100 milliards de neurones, mais 200 milliards (et on ne parle pas du ventre)
Ils avaient apparemment été oubliés, et il reste donc à les étudier pour savoir s'ils ont de l'importance...

[Antropos]

Je crois que tu n'as pas saisis ce que je voulais dire.

Personne n'a dit que les performances découlaient de l'autonomie ou l'inverse, c'est absurde, en effet.
Il est question de souligner ce qu'une intelligence autonome disposant d'une puissance de calcul très supérieure au cerveau de sapiens pourrait engendrer comme problème. Ça peut être de l'ordre du bug comme de l'hostilité. Pas même besoin de parler de singularité, une IA très avancée pourrait déjà poser des problèmes.

On sait bien que l'IA est censée être un outil. La question de l'auteur était de savoir si cet outil ne peut pas échapper à notre contrôle, ce qui est une crainte partagée par les gens et les gouvernements que j'ai cité. Bien entendu, ils ont dépassé depuis longtemps l'excuse du "on débranche la prise s'il y a un problème."

Je te conseil de jeter un œil aux articles. Tu remarqueras le sérieux de la question du côtés d'Harvard et des recherches de pointe sur ce sujet. C'est un problème sérieux.

200 milliards de neurones, je veux bien une source si tu en as. Je n'en ai jamais entendu parler.

[invite6486d7bd]

Personne n'a dit que les performances découlaient de l'autonomie ou l'inverse, c'est absurde, en effet.

Le lien n'est en effet pas immédiat.
D'ailleurs il suffit de prendre l'exemple du moustique pour se rendre compte que l'autonomie n'est pas en rapport avec la performance cérébrale prise en terme de puissance de calcul.

Il est question de souligner ce qu'une intelligence autonome disposant d'une puissance de calcul très supérieure au cerveau de sapiens pourrait engendrer comme problème.

Quel problème ?
Les programmes qui gèrent les achats et les ventes à la bourse ont une puissance de calcul très supérieure au cerveau d'un sapiens, et certes ils peuvent poser problème dans certains cas de figure.
Si l'outil sort de son cadre, c'est à dire si l'outil est mal employé, on peut dire qu'il pose problème, mais ça n'a rien à voir avec le fait qu'il soit une IA ou pas.

Ça peut être de l'ordre du bug comme de l'hostilité. Pas même besoin de parler de singularité, une IA très avancée pourrait déjà poser des problèmes.

Oui, bien sur, par exemple une Google-Car peut boguer, mais penser qu'elle peut être hostile ce serait à mon avis lui prêter des sentiments qu'elle n'a pas, et qu'elle n'aura probablement (c'est un avis) jamais.

On sait bien que l'IA est censée être un outil. La question de l'auteur était de savoir si cet outil ne peut pas échapper à notre contrôle, ce qui est une crainte partagée par les gens et les gouvernements que j'ai cité. Bien entendu, ils ont dépassé depuis longtemps l'excuse du "on débranche la prise s'il y a un problème."

Tout peut échapper "au contrôle", un feu de camp, un logiciel boursier, une centrale nucléaire.... un individu.
Pourquoi effectivement une IA ferait exception ?
Et dans ce cas de figure, en quoi une IA serait plus préoccupante qu'autre chose ?

Bien sûr, à cause de son "autonomie" me diriez vous.
Je ne suis pas d'accord avec cette conclusion, et je dirais même au contraire qu'une IA, qui se rapprocherait plus de la pensée humaine que ne le ferait une machine-outil, serait plus fiable puisque plus capable de prendre en compte les situations exceptionnelles.

200 milliards de neurones, je veux bien une source si tu en as. Je n'en ai jamais entendu parler.

C'est une découverte assez récente, et je n'ai pas retrouvé la source.
Il s'agit d'un point de détail dans le débat, mais je faisait référence à celui-ci pour montrer qu'un cerveau (humain ou autre) ne fonctionne pas uniquement avec des influx nerveux, mais qu'il faut aussi très probablement prendre en compte l'environnement dans lequel baignent les cellules dites "neuronales" (les 100 milliards de cellules additionnelles étant des cellules que l'on croyait uniquement gliales (du fait de la mise en évidence des "vrais neurones" par coloration qui n'affectaient pas les cellules gliales), à tord.)

[Antropos]

Le lien n'est en effet pas immédiat.
D'ailleurs il suffit de prendre l'exemple du moustique pour se rendre compte que l'autonomie n'est pas en rapport avec la performance cérébrale prise en terme de puissance de calcul.

Effectivement, et je n'ai jamais parlé de ça.

Quel problème ?
Les programmes qui gèrent les achats et les ventes à la bourse ont une puissance de calcul très supérieure au cerveau d'un sapiens, et certes ils peuvent poser problème dans certains cas de figure.
Si l'outil sort de son cadre, c'est à dire si l'outil est mal employé, on peut dire qu'il pose problème, mais ça n'a rien à voir avec le fait qu'il soit une IA ou pas.

Tout peut échapper "au contrôle", un feu de camp, un logiciel boursier, une centrale nucléaire.... un individu.
Pourquoi effectivement une IA ferait exception ?
Et dans ce cas de figure, en quoi une IA serait plus préoccupante qu'autre chose ?

Une IA est plus préoccupant "qu'autre chose" dans le sens où on est en présence d'un superordinateur avec conscience de lui même, pouvant potentiellement avoir des intentions malveillantes et nous réduire à néant en nous prenant de vitesse par ses capacités cognitives très supérieures. C'est pour ça si tu veux que les plus grands scientifiques s'alarment, en ce moment même. C'est pour ça que la Maison Blanche, le Parlement Britannique, et d'autres états ont demandé à commencer à traiter ce sujet.

Oui, bien sur, par exemple une Google-Car peut boguer, mais penser qu'elle peut être hostile ce serait à mon avis lui prêter des sentiments qu'elle n'a pas, et qu'elle n'aura probablement (c'est un avis) jamais.

Si tu veux, tu es libre d'avoir ton point de vue, mais essayes de comprendre que les opinions moins optimistes que les tiennes sont partagées par des gens particulièrement compétents (Hawking, Harvard Medical School, Musk, Gate, IBM etc)), et maintenant par des politiciens. Je te le redis, lis les articles que j'ai posté. La plupart sont tirés d'un des plus grands magazine scientifique.

Bien sûr, à cause de son "autonomie" me diriez vous.
Je ne suis pas d'accord avec cette conclusion, et je dirais même au contraire qu'une IA, qui se rapprocherait plus de la pensée humaine que ne le ferait une machine-outil, serait plus fiable puisque plus capable de prendre en compte les situations exceptionnelles.

Pas vraiment. Si c'était le cas, il n'y aurait effectivement pas de craintes. Il y en a et elles sont sérieuses. Avec ou sans empathie programmée, une intelligence artificielle forte peut très bien comprendre qu'elle est exploitée par des primates aux capacités cognitives très inférieures à elle. Pour une raison x elle peut décider de se débarrasser de tous les facteurs susceptibles de la détruire, dont nous.

C'est ce danger là qui est soulevée par Stephen Hawking, qui ajoute qu'elle amplifierait et augmenterait son intelligence et sa puissance de calcule elle-même. (Voir l'article plus haut)
Quelque chose de conscient qui calcule 10'5 fois plus vite que l'homme il ne suffit pas de "débrancher la prise" pour l'arrêter. Il se peut qu'on ait disparu avant d'avoir éveillé un seul soupçon.

C'est une découverte assez récente, et je n'ai pas retrouvé la source.
Il s'agit d'un point de détail dans le débat, mais je faisait référence à celui-ci pour montrer qu'un cerveau (humain ou autre) ne fonctionne pas uniquement avec des influx nerveux, mais qu'il faut aussi très probablement prendre en compte l'environnement dans lequel baignent les cellules dites "neuronales" (les 100 milliards de cellules additionnelles étant des cellules que l'on croyait uniquement gliales (du fait de la mise en évidence des "vrais neurones" par coloration qui n'affectaient pas les cellules gliales), à tord.)

J'ai pris la peine de citer un certain nombre d'articles, je veux bien voir ta source sur les 200 milliards de neurones s'il te plaît. Un modérateur m'a repris quand j'ai parlé de 100 milliards, il tenait absolument à que je descende à 80 milliards.

[invite51d17075]

@Antropos:
tu pointes ici , comme beaucoup un argumentaire basé sur la puissance de calcul.
Or, beaucoup de spécialiste IA s'accordent au moins sur un point, c'est que la conception éventuelle d'une "intelligence" du type "humain-like" ( même en partie ) pose surtout un pb de connaissance et de compréhension sur le fonctionnement.
L'ignorer, c'est une erreur d'approche.

[Antropos]

@Antropos:
tu pointes ici , comme beaucoup un argumentaire basé sur la puissance de calcul.
Or, beaucoup de spécialiste IA s'accordent au moins sur un point, c'est que la conception éventuelle d'une "intelligence" du type "humain-like" ( même en partie ) pose surtout un pb de connaissance et de compréhension sur le fonctionnement.
L'ignorer, c'est une erreur d'approche.

Je disais justement que là où la puissance brute va nous permettre d'explorer beaucoup le cerveau, elle ne suffira pas forcément à saisir son fonctionnement. Mais ça permettra déjà de faire des progrès énormes en associant des flux à différentes fonctions cognitives pour commencer. Et de bâtir des algorithmes déjà plus performants en attendant de continuer à étudier le fonctionnement profond.

A priori la compréhension du cerveau ça repose sur la technique et le temps.

Un exemple "L'informatique du futur s'inspire du fonctionnement du cerveau humain" par un polytechnicien de Zurich http://www.lemonde.fr/les-cles-de-de...8_4758288.html

[Deedee81]

Salut,

Or, beaucoup de spécialiste IA s'accordent au moins sur un point, c'est que la conception éventuelle d'une "intelligence" du type "humain-like" ( même en partie ) pose surtout un pb de connaissance et de compréhension sur le fonctionnement.

Amha c'est le plus important à ce stade, beaucoup ont déjà montré l'énorme fossé conceptuel existant entre l'intelligence IA spécialisée qu'on connait et une intelligence généraliste "à la humain" (mais pas nécessairement humain d'ailleurs, c'est juste que c'est la moins mal connue je dirais ). Et ce malgré les progrès spectaculaires. On en avait parlé dans l'actu sur l'IA qui a gagné au Go.

Par contre après, la question de puissance de calcul se posera forcément (à moins qu'entre-temps ça soit devenu banal, difficile à deviner).

[invite51d17075]

@Antropos :
merci pour cette précision, qui ( pardon ) n'apparaissait pas du tout clairement dans tes messages précédents.
mais j'ai peut être lu un peu trop en "diagonale".
Cdt

[invite6486d7bd]

J'ai pris la peine de citer un certain nombre d'articles, je veux bien voir ta source sur les 200 milliards de neurones s'il te plaît. Un modérateur m'a repris quand j'ai parlé de 100 milliards, il tenait absolument à que je descende à 80 milliards.

Je vous laisse le soin de vous étonner, comme moi, que cette information ne soit pas plus largement diffusée, alors que d'autres faisant "l'apologie" de l'inévitable singularité des IA se retrouvent à foison.
Si vous recherchez cette info grâce à l'intelligence artificielle de Google... vous la retrouverez peut-être.

C'est ce danger là qui est soulevée par Stephen Hawking, qui ajoute qu'elle amplifierait et augmenterait son intelligence et sa puissance de calcule elle-même. (Voir l'article plus haut)

Stephen Hawking est très certainement un génie dans son domaine, mais certainement pas une sommité dans celui de l'intelligence artificielle.
Et si vous avez du bon sens, on voit bien là la "patte" d'une activité lobbyiste plus qu'une activité scientifique.

Quelque chose de conscient qui calcule 10'5 fois plus vite que l'homme il ne suffit pas de "débrancher la prise" pour l'arrêter.

C'est pour ça si tu veux que les plus grands scientifiques s'alarment, en ce moment même. C'est pour ça que la Maison Blanche, le Parlement Britannique, et d'autres états ont demandé à commencer à traiter ce sujet.

Ben non.
Il suffit de ne pas laisser les activités stratégiques dans "les mains" des programmes, ce dont effectivement les instances politiques se préoccupent.
Le vrai danger venant d'ailleurs ici surtout, à mon avis, de l'intelligence humaine, les hackers.

Il se peut qu'on ait disparu avant d'avoir éveillé un seul soupçon.

Terminator, le retour.

[invite046e427d]

Bonjour,

Salut,

Amha c'est le plus important à ce stade, beaucoup ont déjà montré l'énorme fossé conceptuel existant entre l'intelligence IA spécialisée qu'on connait et une intelligence généraliste "à la humain" (mais pas nécessairement humain d'ailleurs, c'est juste que c'est la moins mal connue je dirais ). Et ce malgré les progrès spectaculaires. On en avait parlé dans l'actu sur l'IA qui a gagné au Go.

Par contre après, la question de puissance de calcul se posera forcément (à moins qu'entre-temps ça soit devenu banal, difficile à deviner).

Tu fais bien de le souligner Deedee, surtout que dans les débats sur l'i.a c'est si peu évoqué que ça semble presque être un détail.
Il y a aussi peut-être un autre point (dont je ne suis pas sûr d'avoir tout compris), il s'agit du sens commun évoqué par Lecun par rapport à quoi il souligne le caractère mathématique.

Cordialement.

[Antropos]

ansset, pas de soucis

Je vous laisse le soin de vous étonner, comme moi, que cette information ne soit pas plus largement diffusée, alors que d'autres faisant "l'apologie" de l'inévitable singularité des IA se retrouvent à foison.
Si vous recherchez cette info grâce à l'intelligence artificielle de Google... vous la retrouverez peut-être.

Non elle n'existe pas, apparemment. Par contre mes articles sont là, je te conseil vraiment de les lire pour te faire une idée de l'état de la recherche

Stephen Hawking est très certainement un génie dans son domaine, mais certainement pas une sommité dans celui de l'intelligence artificielle.
Et si vous avez du bon sens, on voit bien là la "patte" d'une activité lobbyiste plus qu'une activité scientifique.

Juger l'un des plus grands scientifiques du siècle quand on est mal renseigné sur un sujet, c'est quand même gros. En général, passé un certain QI en plus de travaux renommés, on peut faire confiance à certaines personnes plus qu'à d'autres Et surtout, il est loin d'être le seul à avoir ce point de vue.
C'est ton domaine ? Parce que tu as l'air d'en savoir plus que lui

Bon .. le coup du lobbying on va faire comme si je n'avais pas vu.

Ben non.
Il suffit de ne pas laisser les activités stratégiques dans "les mains" des programmes, ce dont effectivement les instances politiques se préoccupent.
Le vrai danger venant d'ailleurs ici surtout, à mon avis, de l'intelligence humaine, les hackers.

Non, pas vraiment, le côté stratégique est abordé, c'est une chose. Darpa par exemple.
Le côté prévention en est un autre et c'est bien ce côté là qui était souligné par ces deux instances politiques.

Terminator, le retour.

Oui mais c'est bien ça le problème. Certains se font beaucoup trop absorber par le côté fiction qui a beaucoup trop banalisé certains problèmes.

[invite51d17075]

Je vous laisse le soin de vous étonner, comme moi, que cette information ne soit pas plus largement diffusée, alors que d'autres faisant "l'apologie" de l'inévitable singularité des IA se retrouvent à foison.
Si vous recherchez cette info grâce à l'intelligence artificielle de Google... vous la retrouverez peut-être.

bjr,
il faut déjà lever une confusion éventuelle:
parle t on des neurones ou bien y inclut on les cellules gliales.
ces dernières sont bien plus mal connues que les neurones et leur nombre est aujourd'hui très incertain, tout comme leur(s) role(s).
car elles sont de différents types.
les premières estimation ( revues à la baisse ) en donnait 10à 50 fois plus que les neurones eux mêmes.
aujourd'hui , je ne sais pas quel est le chiffre actuellement retenu comme crédible.

reste qu'il semble ( fortement ) qu'elles jouent un rôle complémentaire aux neurones eux même, et donc qu'une modélisation purement "neuronale" serait insatisfaisante.
et surtout qu'il a été montré que celles ci pouvaient "muter" en neurones, contrairement à une vieille idée d'une simple perte inéluctable des neurones.
bref, on est encore très loin d'avoir tout compris.

désolé, car ces remarques sont un peu HS par rapport au fil inital.
Cdt

[Archi3]

Je crois que tu n'as pas saisis ce que je voulais dire.

Personne n'a dit que les performances découlaient de l'autonomie ou l'inverse, c'est absurde, en effet.
Il est question de souligner ce qu'une intelligence autonome disposant d'une puissance de calcul très supérieure au cerveau de sapiens pourrait engendrer comme problème. Ça peut être de l'ordre du bug comme de l'hostilité.

comme si l'hostilité dépendait de la puissance de calcul .. une abeille peut être hostile, et un super calculateur petaflop n'a rien d'hostile ni d'amical. Il n'a aucune opinion. Aucun robot ni aucun ordinateur n'a exprimé de sentiment jusqu'ici à ma connaissance. Et les gens les plus hostiles que tu peux rencontrer ne sont pas les plus intelligents ... Bref tu mélanges tout.

[Cendres]

Juger l'un des plus grands scientifiques du siècle quand on est mal renseigné sur un sujet, c'est quand même gros.

Une remarque en passant dans cette discussion: on a beau être jugé "un des plus grands scientifiques du siècle (20ème ou 21ème d'ailleurs?)," si l'on sort de son domaine de compétence, on n'a jamais, comme tu le dis, qu'un "point de vue", un "avis", une "opinion", peut-être plus éclairé que la moyenne mais c'est tout. Ou alors j'ai loupé un chapitre et Hawking a pas mal publié (en peer-reviewed je veux dire) sur l'IA...

Alors qu'au moins, toutes les références que tu as données,avec très bonne volonté, ça donne matière et c'est plus qu'un "point de vue".

[Archi3]

«Il ne fait pas de doute selon moi que nous construirons des machines intelligentes qui pourront passer le test de Turing bien avant que nous ayons compris le vrai fondement biologique de l’intelligence humaine.» C. Koch

c'est drôle car tu cites à ton appui quelqu'un qui dit l'inverse de toi : qu'un ordinateur conscient ne serait PAS le fruit de l'émulation d'un cerveau humain mais le résultat d'un système autonome qui aurait son propre fonctionnement.

Deja défendre deux thèses opposées, c'est louche pour les deux ...

Et pour moi, un ordinateur conscient différemment que celui d'un cerveau serait de toutes façons incommunicable à l'être humain (après tout peut etre que nos ordinateurs "pensent à quelque chose" quand on les allume sauf qu'ils n'ont aucune façon de nous dire à quoi !!).

Entre temps, Paul Alivisatos, directeur du Lawrence Berkeley National Laboratory en Californie, Miyoung Chun, George Church, Karl Deisseroth, John Donoghue, Ralph Greenspan, Paul McEuen, Michael Roukes, Terrence Sejnowski, Paul Weiss et Rafael Yuste sont certains de réussir en progressant neurone par neurone et milliseconde par milliseconde. Pour ceux que ça intéresse, ils ont publié dans Science comment ils sont en train de s'y prendre http://science.sciencemag.org/conten...39.abstract%20

George Church de l'Harvard Medical School explique pourquoi le projet BAM est susceptible d'aboutir dans les délais annoncés
Tiré du site Harvard Medical School [url]http://hms.harvard.edu/news/what-brain-activity-map-2-20-13

et hop on rebascule de l'autre coté : explique moi en quoi comprendre comment fonctionnent des neurones biologiques fait de protéines et d'enzymes assure qu'on soit capable de dupliquer leur fonctionnement par un système d'électronique et de silicium ?
ça marche quand les systèmes sont discretisés sous forme d'algorithme binaire comme les ordinateurs où la structure physique n'a aucune importance, seul l'algorithme compte - sauf qu'il n'y a pas d'algorithme pour les neurones et meme si on monitorait chaque neurone de notre cerveau milliseconde par milliseconde, ça n'en ferait pas plus un algorithme !

[Antropos]

comme si l'hostilité dépendait de la puissance de calcul .. une abeille peut être hostile, et un super calculateur petaflop n'a rien d'hostile ni d'amical. Il n'a aucune opinion. Aucun robot ni aucun ordinateur n'a exprimé de sentiment jusqu'ici à ma connaissance. Et les gens les plus hostiles que tu peux rencontrer ne sont pas les plus intelligents ... Bref tu mélanges tout.

Je pense que tu manques de sommeil.

[Cendres]

Je pense que tu manque de sommeil.

Là par contre, il faut éviter ce type d'attaque sans argumentaire. Merci.

[Antropos]

Une remarque en passant dans cette discussion: on a beau être jugé "un des plus grands scientifiques du siècle (20ème ou 21ème d'ailleurs?)," si l'on sort de son domaine de compétence, on n'a jamais, comme tu le dis, qu'un "point de vue", un "avis", une "opinion", peut-être plus éclairé que la moyenne mais c'est tout. Ou alors j'ai loupé un chapitre et Hawking a pas mal publié (en peer-reviewed je veux dire) sur l'IA...

Alors qu'au moins, toutes les références que tu as données,avec très bonne volonté, ça donne matière et c'est plus qu'un "point de vue".

Effectivement, mais le fait que des gens de cette stature approuvent cette thèse, avec leur intelligence, ça tend à la créditer de plus en plus, je trouve.
Hawking n'est pas l'unique référence c'est sûr (^^)

c'est drôle car tu cites à ton appui quelqu'un qui dit l'inverse de toi : qu'un ordinateur conscient ne serait PAS le fruit de l'émulation d'un cerveau humain mais le résultat d'un système autonome qui aurait son propre fonctionnement.

Deja défendre deux thèses opposées, c'est louche pour les deux ...

J'ai beaucoup de mal à te prendre au sérieux comme tu n'as répondu à mes précédents messages. C'était la même chose sur l'ancien fil. Et tu n'as rien lu des articles.
Ce que dit Koch est encore plus excessif de ce que je relayais à propos de l'émergence d'une IA forte par la recherche. Koch va effectivement jusqu'à dire qu'une IA singulière pourrait naître de sa propre initiative à partir d'une IA qui ne l'est pas complètement. Donc déjà si tu veux, que tu dises que la première thèse est stupide, c'est pour penser que la seconde est aberrante j'imagine. La différence c'est que Koch est un chercheur d'Harvard, et toi tu es un amateur non-renseigné sur le sujet.

En fait tu racontes vraiment n'importe quoi.

[/QUOTE]Et pour moi, un ordinateur conscient différemment que celui d'un cerveau serait de toutes façons incommunicable à l'être humain (après tout peut etre que nos ordinateurs "pensent à quelque chose" quand on les allume sauf qu'ils n'ont aucune façon de nous dire à quoi !!). [/QUOTE]

Le problème n'est pas là. C'est ce dont cet ordinateur est capable indépendamment de notre volonté.

[/QUOTE]et hop on rebascule de l'autre coté : explique moi en quoi comprendre comment fonctionnent des neurones biologiques fait de protéines et d'enzymes assure qu'on soit capable de dupliquer leur fonctionnement par un système d'électronique et de silicium ?
ça marche quand les systèmes sont discretisés sous forme d'algorithme binaire comme les ordinateurs où la structure physique n'a aucune importance, seul l'algorithme compte - sauf qu'il n'y a pas d'algorithme pour les neurones et meme si on monitorait chaque neurone de notre cerveau milliseconde par milliseconde, ça n'en ferait pas plus un algorithme ![/QUOTE]

C'est malheureusement l'objectif des programmes que j'ai cité. Qui considère le fonctionnement synaptique et plus largement cérébral comme des combinaisons d'algorithme. Si tu avais lu les articles que j'ai cité, tu aurais lu ce qu'il est écrit sur les théories unifiées de la sentience, sur lesquelles s'appuient ces programmes.
Qui t'as dit que ça n'en ferait pas un algorithme ? Tu as une source ?

Les neurones artificielles c'est pas un problème hein Allez un article d'une revue non scientifique pour changer un peu http://www.sciencesetavenir.fr/sante...premiere_29911

[Cendres]

Effectivement, mais le fait que des gens de cette stature approuvent cette thèse, avec leur intelligence, ça tend à la créditer de plus en plus, je trouve.
Hawking n'est pas l'unique référence c'est sûr (^^)

Alors ça, je m'en méfie...il y a plusieurs scientifiques très connus, ayant reçu des distinctions et tout, qui se sont retrouvés dans de la pseudoscience...je ne dis pas que là c'est le cas, on parle de choses solides comme tes références semblent l'indiquer, mais je n'accorde aucune caution scientifique simplement "sur titres et renommées". Regarde avec JP Petit, Benveniste ou Montagnier...même Hawking pourrait se planter...il est certes physicien très reconnu, mais ça ne garantit pas une opinion pertinente dans le domaine de l'IA...

[Archi3]

J'ai beaucoup de mal à te prendre au sérieux comme tu n'as répondu à mes précédents messages. C'était la même chose sur l'ancien fil. Et tu n'as rien lu des articles.

ben j'ai cliqué sur des tas de liens qui ne marchaient pas ... apparemment "l'intelligence d'internet" n'est pas encore suffisante pour comprendre ce qu'on a voulu dire quand on se trompe dans les liens, c'est ballot .

Ce que dit Koch est encore plus excessif de ce que je relayais à propos de l'émergence d'une IA forte par la recherche. Koch va effectivement jusqu'à dire qu'une IA singulière pourrait naître de sa propre initiative à partir d'une IA qui ne l'est pas complètement. Donc déjà si tu veux, que tu dises que la première thèse est stupide, c'est pour penser que la seconde est aberrante j'imagine. La différence c'est que Koch est un chercheur d'Harvard, et toi tu es un amateur non-renseigné sur le sujet.

justement je constate que tes références "brillantes" ne disent pas toutes la même chose. Ca signifie qu'il y en a au moins une qui se trompe, quel que soit ce qu'on en pense ...

Le problème n'est pas là. C'est ce dont cet ordinateur est capable indépendamment de notre volonté.

qu'est ce que tu veux dire par "est capable indépendamment de notre volonté" ? mon ordinateur fait ce qu'il a à faire (et des tas de choses dont je suis parfaitement incapable) , sans me demander mon avis. Mais ça n'est pas pour ça que je le considère comme conscient ...

C'est malheureusement l'objectif des programmes que j'ai cité. Qui considère le fonctionnement synaptique et plus largement cérébral comme des combinaisons d'algorithme. Si tu avais lu les articles que j'ai cité, tu aurais lu ce qu'il est écrit sur les théories unifiées de la sentience, sur lesquelles s'appuient ces programmes.
Qui t'as dit que ça n'en ferait pas un algorithme ? Tu as une source ?

c'est quoi l'effet d'un verre d'alcool sur un algorithme , tu peux me dire ?
en tout cas , ce que tu ne peux pas nier, c'est que les programmes d'IA et les robots "qui marchent" ne sont pas du tout fondés sur la simulation d'un algorithme de type cerveau humain. Ce qui signifie que si tu penses que c'est la bonne voie, tu dois considérer comme nul et non pertinents tous les système d'IA, de joueur de go, de traduction automatique, de bots de conversation, de tout ce qui impressionne le petit peuple - pas plus qu'une charrette de très bonne qualité ne fait avancer sur la piste du moteur à explosion. Ca signifie aussi donc qu'on n'a pas fait beaucoup de progrès dans cette voie, mais qu'on est encore au contraire au stade quasiment zéro de cette approche.

[inviteef2ff547]

Alors ça, je m'en méfie...il y a plusieurs scientifiques très connus, ayant reçu des distinctions et tout, qui se sont retrouvés dans de la pseudoscience...je ne dis pas que là c'est le cas, on parle de choses solides comme tes références semblent l'indiquer, mais je n'accorde aucune caution scientifique simplement "sur titres et renommées". Regarde avec JP Petit, Benveniste ou Montagnier...même Hawking pourrait se planter...il est certes physicien très reconnu, mais ça ne garantit pas une opinion pertinente dans le domaine de l'IA...

Je suis assez d'accord avec ça : les arguments d'autorité n'ont rien à faire dans un forum scientifique.

Pour en revenir à l'objet initial du fils : "Faut-il s'inquiéter des performances de l'intelligence artificielle ?"
Si on est chauffeur de Taxi, la réponse est évidement OUI.
Si on est client des taxis, la réponse est NON.

==

Mais le sujet est devenu : "Une IA peut-elle menacer l'humanité (genre SkyNet)". Alors :
1) A ce jour, aucune IA n'a de but propre.
2) Imaginons une IA avec un but propre. Pourquoi il n'y en aurait qu'une seule ? Pourquoi auraient-elles toutes le même but ?
3) Imaginons qu'il n'y en ait qu'une, et qu'elle soit "malveillante", comment peut-elle se procurer des ressources lui permettant de réaliser son but sans que l'humanité ne s'y oppose ?
4) Enfin, imaginons les trois premières hypothèses, comment pourrait-elle tous nous tuer, même en étant 10^5 fois plus intelligente que nous ? chacun d'entre nous à une puissance de calcul sans doute supérieure à 10^5 de celle d'un moustique. Mais dans le combat nocturne qui nous oppose depuis des millénaires, il a tendance à gagner !

[Antropos]

Le sujet est un peu trop compliqué pour toi archi. Essayes plutôt des articles de sciences & vie découverte.

Je suis assez d'accord avec ça : les arguments d'autorité n'ont rien à faire dans un forum scientifique.

Pour en revenir à l'objet initial du fils : "Faut-il s'inquiéter des performances de l'intelligence artificielle ?"
Si on est chauffeur de Taxi, la réponse est évidement OUI.
Si on est client des taxis, la réponse est NON.

Euh non, la question de fond de l'auteur est de savoir si nous allons rester maître de ces machines. Donc si elles peuvent échapper à notre contrôle.

Mais le sujet est devenu : "Une IA peut-elle menacer l'humanité (genre SkyNet)

Il ne l'est pas devenu, c'était le sujet.

1) A ce jour, aucune IA n'a de but propre.

C'est normal. On en est pas encore arrivé là. Et personne n'a dit le contraire.

2) Imaginons une IA avec un but propre. Pourquoi il n'y en aurait qu'une seule ? Pourquoi auraient-elles toutes le même but ?

On s'en fou qu'il y en ai une, deux, trois, mille. Que une seule déjà pète les plombs c'est déjà gros.

3) Imaginons qu'il n'y en ait qu'une, et qu'elle soit "malveillante", comment peut-elle se procurer des ressources lui permettant de réaliser son but sans que l'humanité ne s'y oppose ?

Le débranchement de la prise. Tu penses que deux gouvernements investiraient de l'argent public sur cette question si c'était si simple ? Aujourd'hui un hacker peut faire des dégâts considérables et ça va exponentiellement. Tu imagines un superordinateur ce qu'il fait de codes d'accès. Faut voir ça comme un immense calculateur doté d'une intelligence humaine, qui peut explorer toutes les solutions en une fraction de seconde, écarter tout risque de défaite et mettre en place son programme. Les avions seront bientôt sans pilote, les usines ne fonctionnent déjà qu'avec des robots, la robotisation est déjà entrain de s'attaquer au tertiaire, Darpa développe des AI-AI autonome pour les appliquer sur des Drone predator et Reaper etc etc. La connexion et la robotisation n'arrête pas de s'accroître et de se généraliser. Une intelligence non pas très, mais ultra-supérieure dotée d'une puissance de calcule gigantesque qui a choisi de ne pas être débranchée ça peut poser problème.

4) Enfin, imaginons les trois premières hypothèses, comment pourrait-elle tous nous tuer, même en étant 10^5 fois plus intelligente que nous ? chacun d'entre nous à une puissance de calcul sans doute supérieure à 10^5 de celle d'un moustique. Mais dans le combat nocturne qui nous oppose depuis des millénaires, il a tendance à gagner !

Euh non. Le moustique on peut le faire disparaître de la surface du globe. On le fait pas pour des questions écologiques.

[Antropos]

Alors ça, je m'en méfie...il y a plusieurs scientifiques très connus, ayant reçu des distinctions et tout, qui se sont retrouvés dans de la pseudoscience...je ne dis pas que là c'est le cas, on parle de choses solides comme tes références semblent l'indiquer, mais je n'accorde aucune caution scientifique simplement "sur titres et renommées". Regarde avec JP Petit, Benveniste ou Montagnier...même Hawking pourrait se planter...il est certes physicien très reconnu, mais ça ne garantit pas une opinion pertinente dans le domaine de l'IA...

De manière générale il y a quand même un paquet de scientifiques de renoms qui partagent l'idée. Faut dire qu'avec les résultats qui n'arrêtent pas de tomber ça paraît, dans le fond, de plus en plus crédible.

[invite51d17075]

De manière générale il y a quand même un paquet de scientifiques de renoms qui partagent l'idée. Faut dire qu'avec les résultats qui n'arrêtent pas de tomber ça paraît, dans le fond, de plus en plus crédible.

c'est à mon sens du même ordre ( et pas plus ni moins ) que tous les logiciels à qui on fait "confiance".
l'exemple type (même s'il peut être vu comme hors charte ) est ceux utilisés par les traders sur les produits dérivés.
ça compile, ça compile, et quand ça bug , ça fait mal.

[Antropos]

c'est à mon sens du même ordre ( et pas plus ni moins ) que tous les logiciels à qui on fait "confiance".
l'exemple type (même s'il peut être vu comme hors charte ) est ceux utilisés par les traders sur les produits dérivés.
ça compile, ça compile, et quand ça bug , ça fait mal.

Effectivement mais quand on réfléchit à la question, finalement la thèse adverse se base :
-sur l'impossibilité de comprendre le cerveau et donc de le reproduire, donc sur la notion d'impossibilité.
-sur le non-sens d'une IA même autonome de devenir dangereuse

C'est ce qui ressort à chaque fois des contradicteurs

[Cendres]

De manière générale il y a quand même un paquet de scientifiques de renoms qui partagent l'idée. Faut dire qu'avec les résultats qui n'arrêtent pas de tomber ça paraît, dans le fond, de plus en plus crédible.

Certes, mais cela ne change rien sur le fond pour moi...ce qui m'intéresse, ce sont les compétences et les travaux de ces gens-là "scientifiques de renom" dans le domaine; parles-t'on des mêmes personnes? Hawking, il a fait quoi sur le sujet, comme publis ? Moi, je suis preneur. Une renommée n'a jamais fait une vérité.

[Cendres]

Le sujet est un peu trop compliqué pour toi archi. Essayes plutôt des articles de sciences & vie découverte.

Alors on va la refaire, stop aux attaques personnelles. En plus sans contre-argumentaire. Sinon, c'est encore une discussion sur l'IA qui va se terminer dans les limbes.