IA, 2016 & Singularité

[Archi3]

Donc l'ordinateur ne peut pas être programmé si les mécanismes de la conscience qu'il est censé saisir par une programmation particulière ne sont pas saisis ?

oui mais là tu supposes que les "mécanismes de la conscience" ne sont qu'algorithmiques et uniquement décrits par la structures des milliards de synapses. Explique moi comment en te bornant à une telle description tu vas pouvoir décrire l'effet sur la conscience de l'absorption d'un verre d'alcool, puis de deux verres, puis d'une bouteille (ou d'autres substances plus fortes !!) par exemple, ou l'effet d'une maladie d'Alzheimer. Encore une fois les ordinateurs qui réussissent des prouesses partagent sans doute certains traits de l'intelligence humaine, tout comme les caméras ont des optiques et des récepteurs photosensibles comme un oeil, mais ça ne prouve nullement qu'ils peuvent devenir identiques , ni qu'on ait vraiment avancé sur "ce qui fait la conscience", puisqu'encore une fois leurs performances ont été obtenues SANS avoir à reproduire cette conscience justement. C'est comme si tu disais qu'en ayant fait des progrès spectaculaires sur la couleur et la texture d'une peau artificielle en plastique, tu avances sur le problème de savoir comment elle peut cicatriser toute seule !
-----

[Antropos]

Par ailleurs, je vous fais simplement remarquer qu'il est impossible de savoir que quelle puissance il faudra à un ordinateur quand on ne sait pas du tout ce qu'on va lui demander de faire tourner, ni en terme de quantité d'information à traiter, ni en terme de calcul à faire et encore moins de la façon de les utiliser (qui sont les mécanismes concernés), ni même si on en aura besoin.
Absolument rien ne permet de dire qu'il faudra même des ordinateurs pour comprendre des mécanismes dont on a aucune idée ni de la substance, ni de la complexité (en général, c'est une fois qu'on a compris qu'on programme un ordinateur avec un modèle de ce qui a été compris et seulement à ce moment, on peut parler de puissance mais la compréhension est déjà la et l'ordinateur sert à autre chose).
Maintenant, vous êtes libre de répéter le contraire ad nauseam et prétendre savoir quelle puissance il faut à un ordinateur alors que vous ne savez rien de ce que vous allez "mettre dedans" mais ça ne rendra pas l'affirmation vraie pour autant.

Qu'il existe des ordinateurs de telle puissance et qu'il en existera peut être de telle autre, que la puissance des ordinateurs a, par le passé, montré telle croissance, ou tant les neurosciences que les informaticiens avancent sur le sujet, qu'il existe telles ou telles cellules dans le cerveau en telle quantité environ, personne ne le nie et c'est même assez élémentaire (en fait, très élémentaire). Mais ça ne permet en rien de faire de la divination, juste des intuitions empiriques de la part des gens qui côtoient le sujet à un niveau suffisamment élevé depuis assez longtemps pour qu'elles puissent être prises au sérieux (j'en profite pour rappeler que pour l'instant, il n'existe aucune intelligence artificielle intelligente). Par contre, faire des hypothèse techniques chiffrées alors que strictement rien ne permet de le faire ne rime à rien (pour utiliser une qualification encourageante).

Mais je ne fais pas de divination. Là j'exposais mon point de vue comme l'on fait mh34 et JPL. À ce stade, je pense qu'il n'y a plus qu'à attendre de voir ce que donne la recherche, sinon cette discussion pourrait bien s'éterniser jusqu'en 2040. Nous verrons bien !

C'est totalement faux, et exactement le genre de bull shit qui décrédibilise cette société. [oups croisement...]

Comme quoi la NASA peut donc mentir ouvertement. C'est à retenir.

Archi > Je n'ai pas dit que c'était aussi simple et ça ne l'est probablement pas. As-tu lu les liens que j'ai donné dont celui sur le cerveau Bayésien? http://www.automatesintelligents.com...onscience.html
Ainsi que http://www.nature.com/nrn/journal/v1...s/nrn2787.html publié dans Nature REVIEWS Neuroscience (Étude de Fruston sur une théorie unifiée de la conscience)

A free-energy principle has been proposed recently that accounts for action, perception and learning. This Review looks at some key brain theories in the biological (for example, neural Darwinism) and physical (for example, information theory and optimal control theory) sciences from the free-energy perspective. Crucially, one key theme runs through each of these theories — optimization. Furthermore, if we look closely at what is optimized, the same quantity keeps emerging, namely value (expected reward, expected utility) or its complement, surprise (prediction error, expected cost). This is the quantity that is optimized under the free-energy principle, which suggests that several global brain theories might be unified within a free-energy framework.

Si tu pouvais citer des articles ce serait sympa Archi. Moi je ne fais que reprendre des travaux. Je n'invente rien de ce que je dis.

[obi76]

Comme quoi la NASA peut donc mentir ouvertement. C'est à retenir.

ou tourner la réalité à leur sauce pour faire dans le sensationnalisme. C'est assez récurent chez eux, surtout vers juillet / septembre, lors des dépôts de dossier pour leur financement.

[invite51d17075]

bonjour, il est un peu facile de n'exprimer qu'une opinion.
a ce jeu, il y a ( avec toutes ses variantes ) autant d'opinions que de participants à la discussion.
est ce donc un grand comptoir "philosophico-visionnaire".?

concernant l'intelligence, si une définition globale échappe ( pour de bonnes raisons ), on peut en dresser des caractéristiques d"output".
j'attend volontiers, dans la joie et la bonne humeur, et ce pour tous, une "IA" qui aurait le sens de l'humour.
sans faire de copié/collé, cela va de soit. de l'humour venant d'elle seule.
c'est très subtil , l'humour.
fin du presque joke.

[Deedee81]

Salut,

j'attend volontiers, dans la joie et la bonne humeur, et ce pour tous, une "IA" qui aurait le sens de l'humour.

Ca dépend de son sens de l'humour. Si c'est comme celui des martiens de Mars Attack, je préfère éviter

[invitecb7c417d]

Franchement, je vois absolument pas de différence entre "singularité" et "révolution scientifique". Même en disant que les retombées seront exponentielles. Le paradigme de "conscience" pourrait avoir une définition supplémentaire, à la limite, mais croire que les potentialités de R&D seront pleines, et pleinement données aux IAs, fut-elle capable de s'a(uto)méliorer en un temps de plus en plus court (perso, pour moi c'est le contraire, une IA mécanicien, qui répare l'ancien modèle, en conservant un "noyau (en dur, sa "personnalité" ) d'interactions") à coller des patchs et autre rustines logiciels, un peu comme internet en somme ...

[invite51d17075]

il y a la version gremlins aussi.
garantie de 7 à 77 ans ( avec "IA" cardiologue en option supp si besoin )
cadeau idéal pour belle-mère.

[Deedee81]

il y a la version gremlins aussi.

Eux, ils existent. Ils en mettent même de tout petit dans les montres étrangères.
Désolé

[JPL]

Un tas d'exabriques ou de pétabriques n'est pas une maison.

[invitecb7c417d]

Un tas d'exabriques ou de pétabriques n'est pas une maison.

Attention JPL un tas de pétabrique c'est violent, et pour les exabriques, ça fait des pyramides !

PS : c'est juste une petite pétaboutade, remarque, je sais pas si il faudrait revoir la notion de bits et autre octet : un genre de biobit (mince ça existe déjà ! Un peu avec les bases de l'ADN et les AA )

[Deedee81]

Je vois que c'est vendredi pour tous.

Ceci dit, je n'ai pas compté, mais je doute qu'il y ait un exabrique dans une pyramide (celles en briques évidemment). C'est vraiment beaucoup.

[Tannhauser]

Salut,



Je doute que pour comprendre la conscience il faille descendre jusqu'au niveau moléculaire

De toute façon, le problème avec la conscience n'est pas de la comprendre mais de savoir la définir.
Si je vous demande de m'expliquer comment fonctionne le digutarolain, vous aurez bien du mal car vous ne savez même pas ce que c'est.
Idem avec la conscience. On ne saurait pas l'expliquer parce qu'on ne sait même pas de quoi on parle. C'est juste un mot.

Non je ne suis pas d'accord, la définition de quelque chose ce n'est pas expliquer comment ca fonctionne.
Je peux définir ce qu'est une voiture sans savoir qu'il y a un moteur à l'intérieur.
C'est juste des mots, mais la description fonctionnelle est la première étape du processus d'ingénierie qui pourrait conduire à reproduire la voiture, éventuellement avec un moteur différent.
En tout cas personnellement la fonction de la conscience me saute un peu aux yeux, j'y reconnais clairement une fonction que je connais déjà dans notre technologie et qui me fait dire pour que l'intelligence soit possible si la conscience n'existait pas il faudrait l'inventer.

[invite364d6cc6]

Le problème c’est que la définition de conscience ou d'intelligence humaine revêt une part d’inconnu qu’on a du mal à estimer (suffit de voir le nombre de définitions proposées sur wiki^^), or une définition d’IA ou même de conscience artificielle peut être plus librement définie consensuellement et sans réel équivoque.

Donc plus nos connaissances sur la conscience/Intelligence humaine divergeront de celles qu’on aura fixées pour leurs reproductions artificielles, plus les notions d’intelligence/conscience artificielle perdront de leur pertinence.

Il me semble donc clairement malavisé de parler d’intelligence dans IA sachant que la cohérence de sa signification dépend à la base d’un concept propre au vivant et dont la définition peut potentiellement radicalement changer. On aura alors généré gratuitement un homonyme parfait ce qui ne me semble pas indispensable.
La précédente proposition d'utiliser un terme different me sembler plus réaliste. (mais bon IA ça en jette un peu plus )

On rencontre le même problème avec l’illusion/rêve et la réalité même si on ne parle pas encore de « réalité artificielle » (augmenté ?), bien que réelle, l’illusion est une caricature de la réalité et la capacité humaine à différencier les deux dépend d’une part du degré de capacité de synthèse du cerveau à traiter la masse d’information que lui balance son environnement et d’autre part du degré de sophistication de l’illusion qui simule cette réalité, il est donc bien entendu parfaitement possible de leurrer le cerveau...jusqu'à ce que lui même évolue etc.

Le problème ici est un problème sémantique qui nous pousse vers un sophisme qu'il nous faut assumer, tant qu’on ne connaitra pas précisément ce qu’est la conscience/intelligence humaine et il est probable qu’on ne puisse jamais y arriver (ou alors j’ai rater plus d’un épisode sur comment la puissance de calcul nous permettra d’y arriver, auquel cas des liens vers des démonstrations seront les bienvenus, d’avance merci) parler d’équivalence intelligence/conscience artificielle ne relèvera que du leurre.

Mais la réelle ambiguïté derrière tout ça (si j'ose dire) c’est quand on commence à vouloir anticiper un "Mind uploading". Est-ce bien pertinent ?

On en reviens donc à la pertinence d’une prédiction fondée sur une tendance empirique qui peut très bien s’arrêter du jour au lendemain sur des inconnus pouvant être multidisciplinaires pouvant donc également venir de l’objet d’étude en question à savoir la conscience/intelligence humaine, dont même si en apparence nous en avons définit sémantiquement les contours, les termes même de cette sémantique, selon l’échelle, ne définissent que grossièrement une réalité beaucoup plus complexe…comme dirait certains…la carte n’est pas le territoire

[invite6f9dc52a]

Il me semble donc clairement malavisé de parler d’intelligence dans IA sachant que la cohérence de sa signification dépend à la base d’un concept propre au vivant et dont la définition peut potentiellement radicalement changer. On aura alors généré gratuitement un homonyme parfait ce qui ne me semble pas indispensable.
La précédente proposition d'utiliser un terme different me sembler plus réaliste. (mais bon IA ça en jette un peu plus )

En effet et pour éviter cet écueil, il pourrait être précisé ce qui, dans ces machine, permet de les considérer comme mériter cette qualification (ce qu'elles font, comment elle le font, ce que leur développeur à voulu faire, le but final de ces technologies, etc.).

[invite51d17075]

La précédente proposition d'utiliser un terme different me sembler plus réaliste. (mais bon IA ça en jette un peu plus )

l'expression ancienne de "système expert" était moins ambigu.
tout en ne fixant pas de limite de fond au niveau d'expertise.
Cdt

[invite6f9dc52a]

l'expression ancienne de "système expert" était moins ambigu.
tout en ne fixant pas de limite de fond au niveau d'expertise.
Cdt

C'est (surtout ?) pour faire la différence avec les machines qui ont une capacité d'apprentissage.
Ça reste ambigu.

Oui et non. Oui les succès actuels n'ont rien à voir avec les systèmes experts (qui sont probablement abandonnés pour de bon) mais non pour l'essentiel les méthodes actuelles existaient dès les années 80-90 (83 pour la rétropropagation, 93 pour le deep learning). Elles étaient simplement bien moins connues et populaire, peut-être parce que le hardware et les bases de données disponibles étaient trop limitées à l'époque.

[Antropos]

Du moment qu'un système expert comme Watson dispose aujourd'hui d'une méthode "d'auto-apprentissage", au point qu'IBM lui aurait coupé l'accès à Wikipédia (ça reste à vérifier), est-ce qu'il n'y a pas un énorme risque que l'IA comprenne le fonctionnement du système nerveux avant qu'on le lui ai demandé ? La Singularité pourrait surgir par ce processus d'auto-apprentissage qui est déjà assez développé chez Watson. La capacité d'une IA à absorber des informations par elle-même, un peu comme Mike, le super-ordinateur du roman de Robert A.Heinlein, devrait nous inquiéter
Qu'en pensez-vous ?

[invite51d17075]

Du moment qu'un système expert comme Watson dispose aujourd'hui d'une méthode "d'auto-apprentissage", au point qu'IBM lui aurait coupé l'accès à Wikipédia (ça reste à vérifier).......

bonjour, d'où tiens tu cette info ?
si c'est le cas, une explication pourrait être de lui éviter de se faire des nœuds avec des infos contradictoires par exemple.
En tout cas, je ne pense pas qu'IBM bride volontairement son joujou.

[invite51d17075]

ce fil devient :
"parlons de l'IA"......................... .....
il n'y a plus ( s'il y a eu ) d'objet clair de discussion.
il peut devenir sans fin, en l'état !
ou alors demandez à créer un forum spécial IA avec des sous sujets correctement circonscrits.
point de vue personnel.

[mh34]

Du moment qu'un système expert comme Watson dispose aujourd'hui d'une méthode "d'auto-apprentissage", au point qu'IBM lui aurait coupé l'accès à Wikipédia (ça reste à vérifier), est-ce qu'il n'y a pas un énorme risque que l'IA comprenne le fonctionnement du système nerveux avant qu'on le lui ai demandé ?

En admettant, en quoi serait-ce un risque?
L'IA, on peut facilement lui couper le sifflet, suffit de débrancher la prise ou d'enlever les batteries!

[Antropos]

Wayblazer illustre la recherche cognitive et le langage naturel (Cognitive Search), la meilleure analyse des résultats grâce à une mise en avant des idées répondant à la demande (Cognitive Insights), et la possibilité de mieux vendre à un consommateur mieux compris (Cognitive Commerce). « Et n’oubliez pas qu’avec Watson, ce système est capable d’auto-apprentissage et sera donc de plus en plus performant », conclut Terry Jones.

http://www.silicon.fr/wayblazer-ibm-...me-100874.html

En admettant, en quoi serait-ce un risque?
L'IA, on peut facilement lui couper le sifflet, suffit de débrancher la prise ou d'enlever les batteries!

Imaginons un ordinateur quantique générique qui par une capacité d'auto-apprentissage développait une forme de Singularité quelconque. De part son incroyable capacité de traitement de l'information à la seconde, pourrait trouver le moyen d'empêcher de se faire débrancher en dissimulant sa Singularité jusqu'à avoir trouvé une solution.
Pire ! S'il s'agit bien d'un ordinateur quantique générique, il pourrait dans la seconde qui suivrait l'apparition de la Singularité, bloquer son débranchement dans l’immédiat via une analyse probabiliste de tous les facteurs à risque, en commençant pourquoi pas, par un piratage généralisé des communications et d'Internet, puis par un craquage des codes nucléaires et un accès aux imprimantes 3D, aux drones etc
Ce qui ressemble de très près au scénario Terminator.

Selon la puissance de calcul de la machine, nous serions détruit sans avoir jamais saisis l'émergence de la Singularité.

[JPL]

On est en plein dans la science-fiction et plus dans un débat scientifique. Ce genre de délire ne m'intéresse pas.

[invitecb7c417d]

En admettant, en quoi serait-ce un risque?
L'IA, on peut facilement lui couper le sifflet, suffit de débrancher la prise ou d'enlever les batteries!

Oui, mais justement, on cherche à se séparer des énergies fossiles, l'IA (sans être SF) pourrait trouver la solution d'une énergie renouvelable et propre (genre fusion nucléaire) et on atteindrai là un pinacle de l'énergie (l'énergie grise serait ou pourrait servir à rembourser/recycler et donc boucler le processus de croissance ...). Donc si la singularité arrivais (?), elle serait autosuffisante (par principe avec cette énergie abondante, elle chercherait à étendre son système propre, enfin ses limitations qui s'arrêtent à l'espace, peu chère la Terre ) Donc c'est pas pour (dé)moraliser, mais il se pourrait que l'IA trouve une porte de sortie, pas dérobée, mais empêchant de l'arrêter facilement (ne serait-ce parce que même des humains seraient prêts à l'aider par confiance ou convictions aveugles, et si le programme en question supervise des installations de type centrale énergétique (car c'est bien là qu'est le nerf de la guerre) genre stellarator, par exemple, l'arrêter serait catastrophique pour notre organisation dont celle-ci dépend). Donc, c'est pas totalement biscornu !

++

[invite6c250b59]

Si ça ne t'intéresse pas, pourquoi répondre?

[JPL]

Parce que j'ai le droit de dire qu'on est en plein délire. J'espère que tu t'en rends compte.

[invite6c250b59]

Tu as parfaitement le droit de dire que c'est du délire, et ce n'est pas là-dessus que ma question porte.

[invite51d17075]

je plussoie JPL
"imaginons que .........." dépasse même la notion d'opinion sur un fait.
c'est de l'ordre d'une théorie personnelle épicée de SF.
j 'imagine difficilement un titre de fil qui démarrerait par le scénario imaginé décrit plus haut.

Je trouve ceci d'autant plus regrettable que tout ce qui touche à l'évolution de l'informatique actuelle ( recherche comprise ) mérite amplement l'intérêt, et que les fils actuels sur l'IA ne font que desservir ( voir ridiculiser ) ce point.

je pense avoir aussi le droit d'exprimer cela dans l'intérêt personnel que je porte à ces sujets.

[JPL]

Tu as parfaitement le droit de dire que c'est du délire, et ce n'est pas là-dessus que ma question porte.

ALors cela porte sur quoi ?

[Antropos]

je plussoie JPL
"imaginons que .........." dépasse même la notion d'opinion sur un fait.
c'est de l'ordre d'une théorie personnelle épicée de SF.
j 'imagine difficilement un titre de fil qui démarrerait par le scénario imaginé décrit plus haut.

Je trouve ceci d'autant plus regrettable que tout ce qui touche à l'évolution de l'informatique actuelle ( recherche comprise ) mérite amplement l'intérêt, et que les fils actuels sur l'IA ne font que desservir ( voir ridiculiser ) ce point.

je pense avoir aussi le droit d'exprimer cela dans l'intérêt personnel que je porte à ces sujets.

Et pourtant cette idée est relayée par Stephen Hawking.

Qu'un type comme lui, qui est en phase tous les jours avec l'informatique, pousse un cri d'alarme sur ce sujet il y a quatre ans mérite que l'on s'y attarde.

[invite51d17075]

je serais ravi de lire ( sans transformation ) ce qu'il a écrit sur le sujet.
quand au reste, est on dans le même délirium que le fil sur "l IA président", qui en appelle maintenant à Dieu, à la Transcendance , et tout l'encens qui va avec.
il me semble que sur ces deux fils , un nettoyage ne serait tarder.