L'intelligence artificielle : pour ou contre

[invite874ef6e2]

Bonjour à tous.

Je viens de me remémorer un documentaire que j'ai vu il y a quelques mois sur ARTE, concernant "l'éthique" futur de l'intelligence artificielle.
Ce que les personnes travaillant dans le milieu en pense fait peur

Il faisait mention d'une "singularité" (si je me souviens bien du terme employé), représentant l'instant ou l'homme aura créé une machine égale au niveau de son intelligence.

Un intervenant scientifique disait que lorsque nous auront atteint ce point, cette singularité, ce sera l'avènement d'une guerre "gigamortel", comme il se plaisait à dire. Cette guerre opposera les "pro-techno" et les "anti-techno", et comptera ses morts en milliards et non-plus en millions.
Il disait même que cette guerre avait déjà commencé :
Si vous avez entendu parlé de UNA-bomber, celui-ci en est le précurseur.

Voila.

Je souhaite donc savoir ce que vous en pensez...

[invite64e915d8]

Bah dans ce cas il s'agit d'un débat politique et non pas scientifique...

Et en plus il me semble que la question "intelligence artificielle" a déjà été abordée : http://forums.futura-sciences.com/sh...e+artificielle

[invite13fddc90]

Pour répondre à ta question je suis pour l'IA mais avec une limite :

Pas de robot évolutif. Faire évoluer des programmes par réseaux de neuronnes et algo génétique oui. Mais une fois le programme réalisé il ne doit plus "bouger".
Le pb serait de se retrouver avec une "Vie artificielle" autonome ET évolutive.

[invite8ef897e4]

Bonjour

Le pb serait de se retrouver avec une "Vie artificielle" autonome ET évolutive.

Frileux ?

Scenario catastrophe N+1... Qu'est-ce qui vous empeche, si votre ordinateur vous casse les pieds a vous dire que manger des bonbons c'est mauvais pour la sante, de le debrancher sans autre forme de proces ? Y a-t-il une hypothese tacite du type "IA + autonomie de mouvement + identite officielle permettant d'ouvrir un compte bancaire + puissant motrice collossale + volonte de domination d'autrui + ... " ?

Si c'est le cas, la discussion me semble revenir a "je trouve que c'est une mauvaise idee d'attacher cette grosse pierre a une vieille ficelle juste au-dessus de notre tete".

Si j'ai un ordinateur intelligent, je peux faire plein de choses intelligentes avec, et je peux faire plein de choses stupides et dangereuses avec, comme toujours c'est le lourd fardaux de la connaissance.

[A voir en vidéo sur Futura]

[invite13fddc90]

J'avoue que je ne te suis pas très bien.

On ne parle pas ici d'outils comme des ordis.

[invite3e4d5e3c]

Si j'ai un ordinateur intelligent, je peux faire plein de choses intelligentes avec, et je peux faire plein de choses stupides et dangereuses avec, comme toujours c'est le lourd fardaux de la connaissance.

Je suis tout à fait d'accord, et on peut dire ça pour tout ce qui concerne directement ou indirectement les Hommes. Exemple : la découverte de nucléaire qui a permi une évolution dans les connaissances en physique et permet aujourd'hui de produire de l'énergie ; pourtant certains pays se servent de cette connaissance scientifique pour créer des bombes nucléaires...

Alors à la question "L'intéligence artificielle : pour ou contre" je répond : optons pour la prudence. Car certe, l'intéligence artificielle peut se réveller très utile, mais mise entre de mauvaise mains elle peut devenir dangereuse (voir ex).

Amicalement

[invite874ef6e2]

Pour répondre à ta question je suis pour l'IA mais avec une limite :

Pas de robot évolutif. Faire évoluer des programmes par réseaux de neurones et algo génétique oui. Mais une fois le programme réalisé il ne doit plus "bouger".
Le pb serait de se retrouver avec une "Vie artificielle" autonome ET évolutive.

La vie n'est-elle pas quelque chose d'évolutive par nature ?
Et faire évoluer le programme est quelque chose d'évolutif non ?

[invite13fddc90]

La vie n'est-elle pas quelque chose d'évolutive par nature ?
Et faire évoluer le programme est quelque chose d'évolutif non ?

Tout à fait. Mais on peut faire un programme qui va évoluer mais dont on bloquera l'évolution lorsque le niveau de celle-ci aura donné satisfaction.
Un algo génétique fait évoluer un "bout de code" quand ce bout de code convient, tu l'extrait, ainsi tu enlève la partie "évolution" du programme.

[invite874ef6e2]

Tout à fait. Mais on peut faire un programme qui va évoluer mais dont on bloquera l'évolution lorsque le niveau de celle-ci aura donné satisfaction.
Un algo génétique fait évoluer un "bout de code" quand ce bout de code convient, tu l'extrait, ainsi tu enlève la partie "évolution" du programme.

Nous en somme ici pour l'instant...
Mais selon ce documentaire, nous sommes sur une pente sablonneuse, sur ce point : la volonté de créer des machines qui possèdent une intelligence artificielle est bien là.
Pour l'instant, nous sommes freiné par des contraintes technologiques et scientifiques, mais avec notre évolution, nous devrions être en mesure de rejoindre la "singularité citée ci-dessus dans un avenir assez proche de l'ordre des 50 ans à venir".
Et la raison de la guerre sera s'il est nécessaire et éthiquement correct de produire ces machines qui seront notre égal.

[invite13fddc90]

Notre égal ou rapidement supérieure à nous.

[invite8ef897e4]

Notre égal ou rapidement supérieure à nous.

Cela me semble relever de la paranoia. Pouvez-vous m'indiquer le probleme avec mon argument "si votre ordinateur devient penible, vous pouvez le debrancher" ?

[invite874ef6e2]

Cela me semble relever de la paranoia. Pouvez-vous m'indiquer le probleme avec mon argument "si votre ordinateur devient penible, vous pouvez le debrancher" ?

Tout comme si un humain devient pénible, vous pouvez le "débrancher" ?

[invite874ef6e2]

A mon avis une machine a notre niveau de conscience et intelligence ne se lesserra pas débrancher facilement, non ?

[invite13fddc90]

Cela me semble relever de la paranoia. Pouvez-vous m'indiquer le probleme avec mon argument "si votre ordinateur devient penible, vous pouvez le debrancher" ?

Ba c'est simple, tu sembles voir cela comme des "machines" que l'on peut débrancher. Mais ce n'est pas si simple que cela.

Il y a des recherches sur le travail en équipe pour les robots... et leur "reproduction"

Imagines que l'on parvienne à mettre sur pied un groupe de robots autonomes (ce qui inclus l'énergie) et évolutifs et qu'ils parviennent à se "reproduire" en fabriquant d'autres robots et en faisant évoluer ceux-ci et ainsi de suite.
Ne crois tu pas qu'alors le pb pourrait s'avérer plus difficile que de débrancher une prise?

Il s'agit bien la de la définission de la vie? Autonomie, évolution, reproduction c'est pour moi la définision.

[invite8ef897e4]

Il s'agit bien la de la définission de la vie? Autonomie, évolution, reproduction c'est pour moi la définision.

Ah ben d'accord, mais pour moi cela revient a dire "c'est une mauvaise idee d'attacher cette grosse pierre avec cette petite ficelle au-dessus de notre tete".

Vous pouvez avoir quelque chose de tres interessant avec des IAs sans support materiel (virtuelles, pures software), qui se reproduisent bien plus rapidement, necessitent beaucoup moins d'energie, et peuvent etre debranchees a tout moment.

Si vous etes inquiets, vous pouvez avoir la "conscience" du robot liee par reseau a son implementation physique via un centre haute securite garde par l'armee, mais la effectivement on sort du domaine scientifique pour discuter ce genre de questions. Je reste persuade que tout cela releve de la paranoia.

On cherche, et a mon avis on trouvera, des intelligences synthetiques en un certain sens de "intelligence". La question de la creativite reste ouverte, mais meme sans cela on peut deja arriver a un certain niveau d'intelligence. Il existe pas mal d'humain qui font preuve de peu de creativite d'ailleurs.

Si demain on publie un programme capable de repondre a des questions generales en faisant une recherche automatique sur internet, voire meme en l'inscrivant sur FS !, la perception generale sera celle d'une AI sans pour autant que l'on ait compris quoi que ce soit sur les mecanismes de la conscience.

[invite2e9e4cfc]

Salutation Guig74,

Méfie toi tout de même des reportages, il est rare que l'objectivité y soit préservés, quels qu'ils soient ...

Il faisait mention d'une "singularité" (si je me souviens bien du terme employé), représentant l'instant ou l'homme aura créé une machine égale au niveau de son intelligence.

C'est exacte, on l'appelle la Singularité Technologique, un point (très hypothétique) ou l'intelligence artificiel dépasserait l'intelligence humaine ...

On l'appelle ainsi car on ignore ce qui pourrait arrivés dés lors, de bien comme de moins biens.

Un intervenant scientifique disait que lorsque nous auront atteint ce point, cette singularité, ce sera l'avènement d'une guerre "gigamortel", comme il se plaisait à dire.

Lol, t'es sur que c'était pas plutôt un "no-life" qu'on a enlevés 10 seconde devant son ordi qui jouer a Counter Strike, a Terminator ou fumé BattleStar Galactica par hasard ?
J'ignore si effectivement, il est scientifique, mais la manière qu'il a de se projeté et de l'expliquai, n'a rien de scientifique, selon moi ...
En étant plus pragmatique, ce qu'il dit n'est pas totalement a exclure, c'est une possibilités comme des millions d'autres ...
Ce qui me dérange enfaite, c'est que systématiquement, lorsqu'on ne connait pas, on produit de la peur, a la limite de la paranoïa, c'est légitime, et peut-être bénéfique, mais sa nous empêche d'apprécier vraiment le contexte a sa juste valeur.
Il en a toujours été, depuis l'avènement de l'électricité, a la bombe nucléaire, et probablement bien avant ...
Aujourd'hui on en est aux téléphones portables, a la robotique, aux OGM et j'en passe et des meilleurs ... et plus récemment au CERN
Qu'une intelligence artificiel puisse nous menacés, c'est possible, rien ne nous prouve que c'est LE "chemin" ultime de l'intelligence artificiel, que de nous dégommer, je lui souhaite bien du plaisir ...

En attendant, appliquons systématiquement le principe de précaution (qui est la conséquence de notre méfiance et notre peur ci-dessus)

Cordialement,

[invite8ef897e4]

Et faire évoluer le programme est quelque chose d'évolutif non ?

J'imagine que l'idee d'_Ulysse_ est de faire quelque chose de semblable a ce que l'on fait avec les reseaux de neurones. Tu fais evoluer ton algorithme genetique jusqu'a ce qu'ils resolve ton probleme, et apres c'est bon, plus besoin d'y toucher, il fait ce que tu lui demandes de faire.

Disons que tu veux mettre un tel programme dans ton frigo pour qu'il te dise ce dont tu as besoin lorsque tu es au supermarche, voire mieux, qu'il fasse les courses lui-meme. Un tel programme va fonctionner a un instant donne. Mais la famille, ses gouts, l'offre evoluant, le contenu de votre frigo evolue aussi.

La ou _Ulysse_ a peut etre raison, c'est que s'il est fabriquant d'un tel programme, il a tout interet a ce que les gens rachetent son produit tous les 3 ou 4 ans.

La ou il a tort, c'est qu'il y aura toujours des gens pour faire de l'open source, et eux n'auront pas de raison d'arreter l'evolution de leur programmes. Question : est-ce pertinent dans ce sujet ? A long terme, il me semble que c'est inevitable, mais peut-etre est-ce une conviction quasi-religieuse.

[invite13fddc90]

Moi je pense que c'est la limite nécessaire pour éviter tout pb dans l'avenir.
Mais je sais bien que c'est utopique de penser que cette limite sera respectée par tous dans l'avenir.

[invitedc979455]

Bonjour à tous.



Il faisait mention d'une "singularité" (si je me souviens bien du terme employé), représentant l'instant ou l'homme aura créé une machine égale au niveau de son intelligence.

.

on parle de singularité technologique

je te conseille de lire/consulter/voir certaines études déjà menées par des bioinformaticiens et cybernéticiens qui affirment encore qu'il n'y a pas de singularité technologique :

la théorie des réseaux montre que la complexité (qui est quelque chose de calculable ) d'un réseau de machines ne peut atteindre celle d'un réseau neuronal
par conséquent, le jour où on aura l'intuition de se rapprocher d'un tel point critique, on se rendra immédiatement compte que le développement neuronal (type cerveau ou type réseau de cerveaux) prendra le pas sur le développement en réseau des technologies (couplage, optimisation de structure)

[invite8613985e]

Bonjour à tous.

Je viens de me remémorer un documentaire que j'ai vu il y a quelques mois sur ARTE, concernant "l'éthique" futur de l'intelligence artificielle.
Ce que les personnes travaillant dans le milieu en pense fait peur

Il faisait mention d'une "singularité" (si je me souviens bien du terme employé), représentant l'instant ou l'homme aura créé une machine égale au niveau de son intelligence.

Un intervenant scientifique disait que lorsque nous auront atteint ce point, cette singularité, ce sera l'avènement d'une guerre "gigamortel", comme il se plaisait à dire. Cette guerre opposera les "pro-techno" et les "anti-techno", et comptera ses morts en milliards et non-plus en millions.
Il disait même que cette guerre avait déjà commencé :
Si vous avez entendu parlé de UNA-bomber, celui-ci en est le précurseur.

Voila.

Je souhaite donc savoir ce que vous en pensez...

Rassurez, ça n'est que la thèse d'un chercheur en IA (dont j'ai oublié le nom d'ailleur). Je crois que ce type est un peu cinglé.
Il a mené des recherches en simulant un réseau de neurones artificiel de quelques millions de neurones. Résultat : il a obtenu un automate très perfectionné mais pas la moindre trace d'intelligence.

Selon moi c'est impossible, la pensée n'est pas un traitement d'information.

[invite8915d466]

Selon moi c'est impossible, la pensée n'est pas un traitement d'information.

tu aurais ajouté "algorithmique", je t'aurais soutenu, mais là tu risques de te faire remonter les bretelles

[invite13fddc90]

En effet, mais même algorithmique ne suffit pas.

Plus on avance dans la compréhension des mécanisme du cerveau et plus on se rend compte qu'il s'agit justement d'algorithmique et autre. Par ex pour la vision c'est beaucoup de traitement du signal avec des filtres. Ca ressemble à ce qu'on fait en imagerie.

Bon toujours est-il que croire que l'intelligence ou l'état de conscience n'est pas "atteignable" par une machine est pour moi assez arrogant. En quoi seul l'homme ou d'autres animaux serait dépositaire de la conscience et de l'intelligence? Nous ne somme que des machines bio-chimiques complexes. Par conséquent tout autre système similaire qu'il soit organique, chimique, mécanique ou électronique/informatique peut être intelligent et "conscient" .

[invite8915d466]

J'ai deja répondu N fois à cette question. Il ne s'agit aucunement de ne pas etre "atteignable" comme si c'etait une échelle linéaire croissante, comme si tu te demandais si on peut "atteindre" 2,50m en saut en hauteur. Il s'agit du caractère qualitatif de ce qu'on appelle l'intelligence. L'intelligence humaine ne s'est développée que pour assurer une supériorité de la survie d'un corps humain dans un environnement terrestre.

Avant de taper sur un ordinateur et de jouer aux échecs, le cerveau assure de façon primaire l'équilibre du corps humain, la gestion de ses appareils sensitifs et moteurs, la surveillance d'un tas d'indicateurs biologiques de faim, de soif, de douleur, la recherche et l'identification correcte de nourriture et de partenaires sexuels, etc... C'est sur cette base biologique que se sont construites des représentations de plus en plus élaborées mais qui trouvent toujours leur source dans notre nature biologique. Toutes les activités élaborées de la société sont des extrapolations et des sublimations de notre besoin biologique de survie, de dominance des autres (qui sert à la survie) et de reproduction. "L'intelligence" humaine n'est qu'un certain état actuel de sophistication du traitement de toutes ces données.


Le probleme n'est pas quantitatif mais qualitatif : une machine, meme aussi "apparemment" ressemblant a nous qu'un robot, n'a rien à faire de tout ça. Ca n'existe pas pour lui. Il n'a pas d'identité biologique humaine à partir de laquelle son système d'information peut lui fournir des représentations analogues aux notres, et encore moins de système affectif qui pourrait lui dire quoi que ce soit sur nos problèmes. Et encore moins le "super réseau" de Mmy ! ce "super réseau" n'aurait simplement aucun but "interne", il n'aurait rien à faire pour lui, il n'est soumis a aucune pression de survie, il n'a aucune raison d'avoir aucune envie, aucune peur, aucun besoin, et serait donc totalement incapabable de prendre des décisions autonomes tout simplement parce qu'il n'a aucun élément pour le faire. Et si on en attend qu'il gere NOS besoins , alors on fait juste ce qu'on fait maintenant : construire des ordinateurs qui n'ont aucune autonomie de pensée mais qui ne servent que pour nous, et qui donc par définition et par construction nous ne considérerons pas comme "intelligents".

[invité576543]

L'intelligence humaine ne s'est développée que pour assurer une supériorité de la survie d'un corps humain dans un environnement terrestre.

Très discutable. Du point de vue survie dans l'environnement, la "supériorité" de la solution "homo sapiens" n'est en rien évidente comparé au reste du vivant.

La théorie de l'évolution de Darwin ne permet pas de parler de "supériorité" absolue, juste d'une très très locale supériorité, en gros relativement aux autres espèces d'hominidés (dont "l'infériorité", qui porte sur leurs ancêtres, est juste une manière de dire que leurs ancêtres ont disparu sans descendance, alors que les ancêtres d' h. sapiens contemporains (de leurs ancêtres) ont une descendance actuelle).

Enfin, il y a pas mal de vraisemblance que l'intelligence n'ait que peu de rapport avec la "survie d'un corps", mais beaucoup avec avoir un peu plus de descendants que son voisin, ce qui n'est pas du tout la même chose.

Et encore moins le "super réseau" de Mmy ! ce "super réseau" n'aurait simplement aucun but "interne", il n'aurait rien à faire pour lui, il n'est soumis a aucune pression de survie, il n'a aucune raison d'avoir aucune envie, aucune peur, aucun besoin,

Faux. Il serait même tout à fait normal d'inclure dans le réseau toute sa maintenance, c'est à dire justement d'y mettre une "pression de survie". Ou le contrôle de son alimentation électrique (besoin).

Toujours le problème de l'extension de vocabulaire. Si on réserve "envie" "peur" "besoin" aux humains, ton affirmation est tautologique et sans intérêt, si on accepte de l'étendre alors il est difficile de trouver des arguments excluant les machines.

Par contre il n'y aurait pas de "sélection sexuelle", ce qui change par mal la donne.

Plus généralement, l'évolution d'un tel être unique ne serait pas du ressort de la théorie de Darwin, mais bien d'une évolution "Lamarckienne" au sens large. Cela a beaucoup de conséquences, certes, mais pas celle de l'absence de prise en compte de sa propre survie et de ses propres besoins physiques dans les prises de décision.

et serait donc totalement incapabable de prendre des décisions autonomes tout simplement parce qu'il n'a aucun élément pour le faire.

Bizarre comme argument. On parle par définition d'une machine prenant des décisions autonomes. Si tu mets en doute la possibilité de faire des machines prenant des décisions autonomes, la discussion change complètement d'aspect.

Et si on en attend qu'il gere NOS besoins , alors on fait juste ce qu'on fait maintenant : construire des ordinateurs qui n'ont aucune autonomie de pensée mais qui ne servent que pour nous

Il y a un glissement sémantique entre "décisions autonomes" et "autonomie de pensée". De quoi parles-tu exactement

, et qui donc par définition et par construction nous ne considérerons pas comme "intelligents".

Par définition, oui! Par construction? Peut-être.

Que les humains cherchent à construire dans ce sens, aucun doute. Qu'ils y arrivent, c'est moins clair.

Ce qu'on attendra des machines, avec une vision étroite limitée à nos buts, nous amènera à leur (lui) donner de plus en plus d'autonomie de décision, par simple souci d'efficacité mesurée à l'aune de nos besoins.

La divergence de point de vue est (manière de présenter) si oui ou non un comportement "que l'on acceptera un jour de considérer, selon les critères de ce jour là, comme intelligent" peut émerger ou non du seul fait de donner de plus en plus d'autonomie de décision, en particulier concernant sa propre maintenance.

Cordialement,

[invite13fddc90]

De mon point de vue, il n'y a aucune raison de penser que des machines ne puissent ni être intelligente ni être consciente ou même avoir des sentiments.

On en est encore loin à cause des limites techniques certes mais aucune raison théorique ne s'oppose à cela.

Pour ce qui est de la reproduction sexuée je ferais remarquer que d'un point de vue utilitariste celle-ci est utilisé par le monde vivant pour brasser les gènes et ainsi assurer son adaptation et son évolution. Rien n'empêche de faire des logiciels qui puissent évoluer d'eux même par un moyen ou un autre. Je ferais remarquer que les algorithmes génétiques s'inspirent du brassage génétique que les "animaux" font par reproduction sexuée. Ceux-ci mélangent les "bout de code" entre les différents individus et introduisent des mutations aléatoires entre chaque génération.

[invité576543]

Pour ce qui est de la reproduction sexuée je ferais remarquer que d'un point de vue utilitariste celle-ci est utilisé par le monde vivant pour brasser les gènes et ainsi assurer son adaptation et son évolution. Rien n'empêche de faire des logiciels qui puissent évoluer d'eux même par un moyen ou un autre. Je ferais remarquer que les algorithmes génétiques s'inspirent du brassage génétique que les "animaux" font par reproduction sexuée. Ceux-ci mélangent les "bout de code" entre les différents individus et introduisent des mutations aléatoires entre chaque génération.

Oui, mais ce n'est pas Darwinien au sens où la sélection Darwinienne porte sur les caractères phénotypiques, pas directement sur les génomes, et ne concerne que la transmission "verticale".

Ce que tu décrit est plus proche de l'évolution du vivant par transgénèse... On pique un bout d'ADN d'une espèce et on le met dans une autre! Transmission horizontale, comme la transmission culturelle, avec des effets très différents de l'évolution basée uniquement sur la transmission verticale.

Et la reproduction sexuée est une version très sophistiquée des mécanismes évolutifs basés sur la transmission verticale, dont je ne vois pas en quoi les avantages sont applicables aux machines, pour lesquelles les échanges d'information (horizontaux) sont bien plus faciles que les échanges d'ADN entre cellules!

Cordialement,

[invite8915d466]

De mon point de vue, il n'y a aucune raison de penser que des machines ne puissent ni être intelligente ni être consciente ou même avoir des sentiments.

le probleme est que tu utilises ces mots comme si c'etait des attributs objectivement définissables et mesurables, hors de toute référence humaine. Or ce n'est ni l'un ni l'autre. Si quelqu'un d'aussi intelligent (!!) que Turing n'a pu finalement proposer comme test de "conscience" qu'un test de similarité avec la conscience humaine , il y a surement une tres bonne raison non ? .

[invite8915d466]

Très discutable. Du point de vue survie dans l'environnement, la "supériorité" de la solution "homo sapiens" n'est en rien évidente comparé au reste du vivant.

La théorie de l'évolution de Darwin ne permet pas de parler de "supériorité" absolue, juste d'une très très locale supériorité, en gros relativement aux autres espèces d'hominidés

c'est comme ça que je l'entendais, supériorité au sens de plus grande efficacité dans le but de survivre, comparé aux congénères. Discuter de la part de la survie individuelle ou du pouvoir de reproduction est intéressant, mais ne change strictement rien à l'argumentation.

Faux. Il serait même tout à fait normal d'inclure dans le réseau toute sa maintenance, c'est à dire justement d'y mettre une "pression de survie". Ou le contrôle de son alimentation électrique (besoin).

ce n'est pas une pression au sens de la sélection naturelle, du "choix" de la meilleure solution en concurrence avec des "solutions" aternatives. Et "y inclure" suppose que le réseau est controlé par les humains, ce qui est encore une fois contradictoire avec l'idée d'une intelligence autonome. D'autre part le probleme devient tres différent de celui d'un cerveau constitué d'un réseau de neurone :

* il n'y a rien dans le cerveau qui "decide" de ce qu'il faut faire pour la conservation du cerveau de l'intérieur. Ce sont les performances du cerveau par rapport a l'environnement extérieur qui les sélectionnent, justement par cette pression sélective.
* inversement, le cerveau comme organe cybernétique se fiche totalement de ce qui se passe pour ses neurones, d'ailleurs il l'ignore, n'a aucun moyen de le controler,et l'élimination de millions de neurones est un processus parfaitement naturel et probablement indispensable à son fonctionnement. C'est tres différent du réseau informatique qui serait dédié à sa propre surveillance et à servir des buts humains qui lui échappent,. Meme du point de vue de l'information à traiter, sans parler de la nature des mécanismes, elles sont tres différentes.

Toujours le problème de l'extension de vocabulaire. Si on réserve "envie" "peur" "besoin" aux humains, ton affirmation est tautologique et sans intérêt, si on accepte de l'étendre alors il est difficile de trouver des arguments excluant les machines.

Toujours ton argument, avec lequel je ne suis toujours pas d'accord.

Pour résumer

Il y a un état A des machines, l'actuel, pour lequel tout le monde semble d'accord pour dire qu'elles ne sont pas intelligentes.

Il y a un état "B" (en fait DES états B) imaginaires qu'on suppose pouvoir exister de façon à pouvoir considérer que ce sont des machines intelligentes.

Tout le probleme est de se mettre d'accord sur les frontières de cet ensemble de B, et de savoir si il peut y avoir des réalisations matérielles appartenant à cet ensemble : il y a donc DEUX problemes : se mettre d'accord sur le minimum indispensable pour qu'on soit d'accord pour appeler ça de l'intelligence, et se demander si c'est possible de le construire.

Est-on d'accord au moins jusqu'à ce point la ? (Etape 1)

si oui, poursuivons. J'ai deja fait remarquer que si la solution etait uniquement dans le fait de déplacer les frontières de B, d'adapter notre conception de l'intelligence, alors la réponse etait trivialement oui : il suffisait de déplacer les frontières jusqu'à y inclure A, c'est à dire de considérer que les machines actuelles font deja assez de choses pour etre intelligentes. Tu m'as alors dit que c'etait une manière réthorique de ridiculiser cette position, alors que pour moi ce n'etait absolument pas ridicule. Ca l'est d'autant moins que le mot "intelligence collective" est deja plus ou moins employé pour le réseau actuel.

Mais si on considère que c'est "ridiculiser" la position que de proposer que les ordinateurs actuels (et les reseaux qu'ils forment deja) sont deja intelligents, ça suppose implicitement que la notion de B (y compris dans le futur)commune a tout le monde, mettons une sorte "d'enveloppe convexe " de toutes les représentations passées et futures de ce qu'on appelerait une machine intelligente, ne contient pas A (ce qui revient à dire que personne, jamais, ne considérera que les machines actuelles sont vraiment intelligentes).


Admettons alors ça, est-on toujours d'accord à ce point ? (etape 2 )

Donc à ce moment, il faut qu'on précise quand meme cette frontiere. Si A n'appartient pas à B, c'est que B contient des choses irréductibles à A, qu'aucun ordinateur actuel ne sait faire. Ma question est : pouvez vous préciser ce que vous voudriez reellement en plus de A pour pouvoir appartenir à B ? par exemple concretement, quand tu dis

La divergence de point de vue est (manière de présenter) si oui ou non un comportement "que l'on acceptera un jour de considérer, selon les critères de ce jour là, comme intelligent" peut émerger ou non du seul fait de donner de plus en plus d'autonomie de décision, en particulier concernant sa propre maintenance.

Cordialement,

que veut dire exactement "autonomie de décision" ? attends tu comme critère que la machine se mette à faire des choses sensées pour sa conservation, à laquelle personne n'avait pensé en la construisant ? par exemple qu'un ordinateur se mette a faire des choses apparemment totalement aberrantes pour un etre humain, que ses concepteurs ne comprennent pas, mais qu'au bout de quelques jours on s'aperçoive que c'etait exactement ce qu'il fallait faire pour éviter un crash a cause de problemes que personne n'avait imaginé? (une comparaison me vient à l'esprit, celle du film "les dieux sont tombés sur la tete" où les héros occidentaux sont pris dans un feu de brousse avec le San, qui se met d'un coup à saisir des brandons enflammés et à mettre le feu à de nouvelles broussailles. La femme crie au fou, jusqu'a ce que son compagnon lui explique qu'il allume un contre feu pour créer une zone d'herbe deja brulée ou ils peuvent se réfugier et avoir la vie sauve). Est-ce ce genre de comportement qui serait nécessaire et suffisant pour appartenir à B ?

ou faudrait-il aussi qu'il ait "conscience" des problemes humains, et prenne des décisions concernant les humains? lui demanderait-on d'emettre un avis sur des problemes du genre : faut-il ou bon autoriser l'avortement? la culture des OGM? l'indépendance du Kosovo? jusqu'ou faut-il baisser les émission de CO2 ? tout genre de probleme que les humains traitent en ce moment ?

devrait-on pouvoir lui expliquer qu'on a trouvé une nouvelle façon de produire de l'énergie ( ou du cuivre à partir d'algues ) , mais pas encore tres au point, et de lui demander conseil sur comment faire un programme de recherches pour rendre le procédé industriel viable et implémenter les usines (choses que les humains savent faire ) ?

bref, jusqu'ou attendez vous que se manifeste cette "intelligence"? il n'y a que si on est d'accord sur ce qu'on met derrière pour qu'on puisse ensuite discuter de savoir si c'est vraiment possible ...

Ca n'a rien de tautologique, c'est une question de définition intersubjective, il n'y a aucune réponse canoniquement valable, il faut juste qu'on aie un minimum commun pour en parler.

Cdt

Gilles

[invité576543]

Il y a un état A des machines, l'actuel, pour lequel tout le monde semble d'accord pour dire qu'elles ne sont pas intelligentes.(...)

Est-on d'accord au moins jusqu'à ce point la ? (Etape 1)

Sans ergoter sur des points de détail, oui.

si oui, poursuivons. J'ai deja fait remarquer que si la solution etait uniquement dans le fait de déplacer les frontières de B, d'adapter notre conception de l'intelligence, alors la réponse etait trivialement oui : il suffisait de déplacer les frontières jusqu'à y inclure A, c'est à dire de considérer que les machines actuelles font deja assez de choses pour etre intelligentes. Tu m'as alors dit que c'etait une manière réthorique de ridiculiser cette position, alors que pour moi ce n'etait absolument pas ridicule.

Je maintiens mon point. Il n'a jamais été question de déplacer ACTIVEMENT la frontière, ce que la tournure de la phrase fait croire, et qui est bien une manière de ridiculiser la position.

Je n'ai (je parle pour moi) parlé que d'un possible glissement sémantique face à une nouvelle réalité. Il ne s'agit par de déplacer activement la frontière pour le plaisir d'avoir raison, mais une prédiction que les humains subiront d'eux-mêmes, passivement, un glissement sémantique dont l'origine sera la confrontation à la réalité.

C'est complètement différent.

Mais si on considère que c'est "ridiculiser" la position que de proposer que les ordinateurs actuels (et les reseaux qu'ils forment deja) sont deja intelligents,

Oui ça l'est, et ce n'a jamais été mon point. Je pense qu'aucune discussion ne peut vraiment faire changer le sens d'un mot comme "intelligent" à un quelconque contemporain. Par contre je pense que la réalité fera changer le sens du mot plus tard.

(ce qui revient à dire que personne, jamais, ne considérera que les machines actuelles sont vraiment intelligentes).

Oui à ce dernier point.

Admettons alors ça, est-on toujours d'accord à ce point ? (etape 2 )

Non à cause de l'emballage, qui présente une vision caricaturale de la position adverse.

que veut dire exactement "autonomie de décision" ?

Je te renvoie la balle, tu as utilisé toi-même cette expression, non?

attends tu comme critère que la machine se mette à faire des choses sensées pour sa conservation, à laquelle personne n'avait pensé en la construisant ?

Un programme d'échec prends des décisions sensées auxquelles personne n'avait pensé auparavant, que ce soit en la construisant ou en la regardant faire.

par exemple qu'un ordinateur se mette a faire des choses apparemment totalement aberrantes pour un etre humain, que ses concepteurs ne comprennent pas, mais qu'au bout de quelques jours on s'aperçoive que c'etait exactement ce qu'il fallait faire pour éviter un crash a cause de problemes que personne n'avait imaginé?

Pourquoi pas.

Est-ce ce genre de comportement qui serait nécessaire et suffisant pour appartenir à B ?

Non. Là encore, il y a une idée implicite de supériorité aux humains. Je pense que le glissement sémantique s'opèrera pour bien moins.

bref, jusqu'ou attendez vous que se manifeste cette "intelligence"? il n'y a que si on est d'accord sur ce qu'on met derrière pour qu'on puisse ensuite discuter de savoir si c'est vraiment possible ...

J'ai déjà écrit des dizaines de fois que discuter du sens d'un mot est un problème de psychologie et de sociologie humaine, qui n'a rien à voir avec le potentiel des machines.

Ma compréhension des humains est telle que j'imagine assez facilement que se produise le glissement sémantique en question. On peut discuter psychologie humaine avec des spécialistes, ce serait très intéressant.

Mais c'est indépendant des capacités des machines.

Si tu veux reprendre tes exemples en tant que comportements envisageables des machines, pourquoi pas. Mais tant que c'est lié au mot "intelligence" je considère que la discussion porte sur la psychologie humaine, sur l'emploi qui est fait des mots, et surtout sur cette propension à garder des mots "pour l'usage propre aux humains", que ce soit "être enceinte", "hominidés" ou "intelligence".

Cordialement,

[invite13fddc90]

Michel :

Avec des algo génétiques on fait souvent évoluer un système qui a des caractéristiques de type "phénotypique". Je te donne un ex concret :

Un programme qui par algo génétique va faire évoluer un "modèle" de catapulte (celle-ci est simulée selon des loi mécaniques). Le critère retenu sera la distance à laquelle elle peut envoyer un projectile donné. Le programme va créer un ensemble d'individus de manière aléatoire qui constituent donc la première génération. Ensuite le programme va générer une seconde génération à partir des meilleurs éléments de la première génération (processus de brassage des caractéristique) tout en introduisant quelques mutations aléatoire. En une poignée de génération on obtient des modèles performants avec quelques secondes de calcul.

Bien sur cet exemple est extraordinairement simple comparé à l'évolution des sujets comme l'homme ou autre mais les principes de fonctionnement et d'évolution sont les mêmes.

Sinon je ne comprend pas ta notion d'échange vertical et horizontal pour moi c'est en fait la même chose.