L'intelligence artificielle : pour ou contre

[calculair]

La protection est possible contre les effets naturels, mais c'est une question de normes de conception et de prix.

Imagines les armes nucleaires non protegés contre les rayonnements electromagnetiques, elles seraient facilement mis hors d'usage...

Ils seraient faciles de paralyser toutes les protections militaires, j'espère que cela est correctement maitrisé.

Au niveau des circuits civils, il y a lieu de prendre les precautions que l'on juge adaptées, et dire que toute defaillance suite a un depassement des normes admises est tout à fait normale..

Reste les attaques de virus virulants, la cela me parait difficile de s'en proteger sur des reseaux ouverts
-----

[Rhedae]

La protection est possible contre les effets naturels, mais c'est une question de normes de conception et de prix.

Non , pas dans le cas d'une tempête solaire : il y a pas de moyen de protection à l'heure actuelle malheureusement , ni même contre une inondation d'ailleurs malgré les moyens déjà très important mis en œuvre pour minimiser l'impact. Nous sommes réellement assujetti à ce genre de problématiques, et pour ce qui est des la guerre informatique (ou économique) , c'est insondable , très difficile de prévoir jusqu'où cela peut nous mener .

Pour ce qui est des armes nucléaires , il s'agit avant tout d'un faire valoir diplomatique, , en résumé , si tu l'as , tu as droit de parole au niveau international, et point barre , mais cette arme semble dérisoire aujourd'hui par rapport a ce que l'avenir nous réserve dans les systèmes informatique , car le nerf de la guerre actuellement est économique, et est accès essentiellement sur l'information, ce qui se monnaye plus cher que le pétrole évidement , c'est sans aucune mesure de comparaison .

[Rhedae]

espère que cela est correctement maitrisé.

Comme on dit l'espoir fait vivre ,mais amha il faut pas se faire trop d'illusion à moins d'une prise de conscience soudaine ? Mais de qui et dans quel but ?

Au niveau des circuits civils, il y a lieu de prendre les precautions que l'on juge adaptées, et dire que toute defaillance suite a un depassement des normes admises est tout à fait normale..

As-tu conscience qu'on parle de taux mortalité, de violences et ces conséquences réelles sur nos sociétés développées ? des mortalités élevées causée par les systèmes informatique intelligents, et peu importe la définition que nous avons de intelligences artificielle, cela reste un axe , un point de vue sur la question posée à la base sur ce topic . Est ce que l'IA peut provoquer un taux de mortalité élever ? PAr exemple c'est une argument respectable pout être contre ce progrès ou cette technologie émergente.

Personnellement je répond certes oui , très dangereux en effet , mais parfaitement logique et nécessaire.

[invité576543]

on ne peut nier que notre communication inter-humain répond parfaitement a nos besoins, la seule raison qui nous a poussé a faire un réseau est pour pallier l'obstacle des distances dans cet communication.

N'est-ce pas un peu contradictoire? Tu dis "parfaitement", puis ensuite tu admets que nous sommes limités en distance sans réseau!

Si, on peut nier que cela répond parfaitement aux besoins. Qui ne s'est jamais plaint de la difficulté de passer certaines idées par le langage? Quid de toute cette littérature imaginant la télépathie, la possibilité de voir ce que voit une autre personne.

Nombreuses sont les techniques développées pour augmenter les moyens de communication entre humains. Les techniques de communication à distance (l'écriture entre autres), mais aussi toutes les techniques audio-visuelles, photo, films, ... Qu'est-ce qu'un film autrement qu'une manière plus efficace de raconter une histoire que ce que faisait le conteur autour d'un feu de bois il y a 20000 ans?

Les médias augmente l'audience (comment communiquer avec 1 millions de personnes à la fois?), augmente le contenu (comment faire passer par le langage l'information contenue dans une simple photographie?), augmente la portée en distance.

Tout cela sont des "besoins" non parfaitement remplis par les seuls moyens de communication qu'avaient à leur disposition nos ancêtres il y a 20000 ans. Et toujours non parfaitement remplis avec les moyens techniques disponibles.

Sa dépend, si on avais plus d'électricités (...) nous n'aurions pas beaucoup le choix.

Si cela arrivait par accident, l'humanité n'aurait évidemment pas d'autre choix que faire avec. Mais la question est celle du choix de l'arrêt délibéré. Quel exemple a-t-on où l'humanité a réellement arrêté quelque chose amenant du confort ou du statut parce qu'une partie de la population réalise que c'est dangereux? On pourrait citer l'amiante, la protection de certaines espèces vivantes, ... Mais si j'ajoute : en l'absence de solution alternative permettant de conserver ledit confort ou statut?

mais sa me semble terriblement loin, terriblement complexe, terriblement compliqués, terriblement ... improbable

Personnellement, ça me semble moins loin, moins complexe, moins compliqué, et bien moins improbable que des androïdes intelligents singeant l'homme et se reproduisant...

Cordialement,

[Rhedae]

@Mmy ,

Je suis pas sur qu'il y est une comparaison possible entre notre mode de communication actuel, et les modes de communication qui datent d'à peine il y à 10 ans ,quand à nos ancêtres chasseurs cueilleurs ?

[calculair]

Je pense que l'on peut proteger nos systemes des orages solaires et des effets electromagnetiques, Il suffit de mieux faradiser nos ordinateurs et installer les noeuds de communication strategique sous terre.

Contre les innondations, cela signifie que les points hauts doivent être les lieux privilegiés pour installer ces noeuds

Enfin pour demondrer que tout est possible, un sous marin ça fonctionne sous l'eau et à grande profondeur et c'est quasi insensible aux orages solaires.


La question est bien de vouloir prendre ce risque en consideration dans nos couts de communications strategiques

[invité576543]

@Mmy ,

Je suis pas sur qu'il y est une comparaison possible entre notre mode de communication actuel, et les modes de communication qui datent d'à peine il y à 10 ans ,quand à nos ancêtres chasseurs cueilleurs ?

J'évoquais nos ancêtres lointains pour parler de nos capacités de communication "naturelles" (mais je n'aime pas cette expression). Ces capacités "naturelles" n'ont pas changé, ce sont les mêmes il y 20000 ans, il y a trente ans et maintenant.

(Pourquoi "à peine 10 ans"? IP a plus de 25 ans, http plus de 10 ans, le GSM plus de 15 ans et le cellulaire plus de 25 ans...)

Sinon, mon seul point était d'exprimer mon désaccord sur l'idée que "le mode de communication naturel entre humains" répond parfaitement à leurs besoins, et même que "les modes de communication actuels, naturels ou assistés par machines, répondent parfaitement à leurs besoins". Dans ce cadre, pourquoi ne pas comparer les moyens de communications passés, présents ou futurs?

Cordialement,

[Lord Predator]

Non , pas dans le cas d'une tempête solaire : il y a pas de moyen de protection à l'heure actuelle malheureusement , ni même contre une inondation d'ailleurs malgré les moyens déjà très important mis en œuvre pour minimiser l'impact. Nous sommes réellement assujetti à ce genre de problématiques, et pour ce qui est des la guerre informatique (ou économique) , c'est insondable , très difficile de prévoir jusqu'où cela peut nous mener .

Excusez moi, j'ai bien conscience que mes connaissances en physique astronomie, et tout sont succinctes, mais les tempêtes solaires il y en a toujours eu, et la magnétosphères de la Terre (ou l'atmosphère je sais plus trop) enfin la Terre, nous a toujours protégés, je ne vois pas pourquoi subitement elle le ferait plus ...

Comme on dit l'espoir fait vivre ,mais amha il faut pas se faire trop d'illusion à moins d'une prise de conscience soudaine ? Mais de qui et dans quel but ?

Malheureusement, l'histoire nous a trop souvent montré que les prises de conscience soudaine n'était dû que par une catastrophe ou une autre, pour ne cité qu'un exemple, le Titanic, jamais la réglementation n'imposai un nombre de canot suffisant pour tous les passagers, ce qui nous sembles tous le minimum, pourtant il a fallu cet catastrophe pour que sa devienne une obligation.
Mais cet exemple est loin, très, très loin d'être le seul, l'inondation a Paris, le Cyclone de Katrina, le Tsunami de 2005, la crise nucléaire de Cuba ...
en sommes on attend toujours de s'en prendre plein la gueule avant de réagir.
C'est se qui me fait redouter le pire, en matière de réchauffement climatique.

N'est-ce pas un peu contradictoire? Tu dis "parfaitement", puis ensuite tu admets que nous sommes limités en distance sans réseau!

Je me suis mal exprimé, je voulais dire que notre communication nous a toujours suffit, en 900 avant JC, nul n'avait besoin d'envoyer un mail a tonton en Chine, et personne n'avais besoin de téléphoner gratuitement a la mère du fils du parrain de ta grand mère ...
Enfin bref, il se trouve que sa fait un siècle que notre communication, qui a toujours été ne se révèle plus suffisante.

Personnellement, ça me semble moins loin, moins complexe, moins compliqué, et bien moins improbable que des androïdes intelligents singeant l'homme et se reproduisant...

lol!

Je te rejoins parfaitement la dessus.

(Pourquoi "à peine 10 ans"? IP a plus de 25 ans, http plus de 10 ans, le GSM plus de 15 ans et le cellulaire plus de 25 ans...)

Parce que sa n'est qu'il y a 10 ans que ces technologies sont devenus grand public ...

Cordialement,

[Rhedae]

Salut,

Excusez moi, j'ai bien conscience que mes connaissances en physique astronomie, et tout sont succinctes, mais les tempêtes solaires il y en a toujours eu, et la magnétosphères de la Terre (ou l'atmosphère je sais plus trop) enfin la Terre, nous a toujours protégés, je ne vois pas pourquoi subitement elle le ferait plus ...

C'est un phénomène tout à fait banal en effet, mais la magnétosphère ne nous protège pas à 100 % . Les scientifiques pensent qu'il y a des probabilités importantes pour qu'une tempête plus forte que les autres puisse endommager sur du long terme le réseaux électrique mondial ..D'après mes souvenirs il faudrait 2 à 3 ans pour le reconstruire .

Sinon, mon seul point était d'exprimer mon désaccord sur l'idée que "le mode de communication naturel entre humains" répond parfaitement à leurs besoins, et même que "les modes de communication actuels, naturels ou assistés par machines, répondent parfaitement à leurs besoins". Dans ce cadre, pourquoi ne pas comparer les moyens de communications passés, présents ou futurs?

Quand je disait il n'y pas de comparaison possible, c'était juste pour exprimer le fait que la différence est immense entre nos modes de communication actuel et ceux du passés. Même si le http commence à dater, des applications comme les blogs, ou les réseaux sociaux sont apparurent bien après, et le php date de 1995 . Donc cela fait environ 13 ans que ce langage existent , mais il y a une latence entre le potentiel de la technologie et l'application concrète pour l'utilisateur final. Il y a dix ans la plupart des sites même institutionnel étaient de banales page html . Sans aucune commune mesure avec le web dynamique au niveau communication, interactivité , etc ..
C'est que je voulais exprimer , qu'il y a une évolution rapide dans ce domaine .

[Rhedae]

Je pense que l'on peut proteger nos systemes des orages solaires et des effets electromagnetiques, Il suffit de mieux faradiser nos ordinateurs et installer les noeuds de communication strategique sous terre.

Il y a peut être en effet des solutions, mais alors reste la question du cout.

[calculair]

Il y a peut être en effet des solutions, mais alors reste la question du cout.

Nous sommes d'accord, maintenant il faut savoir si c'est important, vital, il faut alors s'organiser pour faire face au risque, et ne pas l'ignorer.

Pour ce qui concerne les reseaux de com de la capitale, je sais qu'il existe des plans pour palier aux innondations previsibles.

Sachant que le climat evolue et les risques sont connus, inutile d'instaler les nouveaus reseaux dans les zones à risque et sans precaution.

Exemple: Le Concorde d'air France s'est ecrasé, mais les risques etaient identifiés. L'accident etait donc semble t il previsible... et les solutions pour reduire les risques connues...J'aurais tendance à dire que c'est choquant, mais je ne connais pas assez le dossier.

Poir ce qui concerne la securite des reseaux, vis à vis de perturbation electromagnetique forte, il suffit de ce fixer des normes et les respecter

Pour l'innondation, il faut privilegier les points hauts par rapport aux points bas prés des fleuves....


Tous cela c'est du bon sens, a moins que l'on aime viovre dangeureusement, c'est plus excitant peut être....!!!

[Guig74]

Bonjour,

Votre débat dévie sur la question de l'insurrection. L'insurrection des robots contre leur maitres, les humains. Cette question a fait l'objet d'un topic qui est encore visible en première page des débats scientifiques :
> Les robots pourront-ils s'insurger ?

Mon avis sur la question : pour ou contre l'IA ?
Pour. L'IA, l'Intelligence Artificielle, admet d'elle même ses limites. Une IA capable d'égaler l'humain si on la confrontait dans de multiples domaines ne s'appellerait plus une IA. L'IA, jusqu'à preuve du contraire, n'existe que pour notre bon plaisir. C'est un outil au même titre que le TGV.

POUR ou CONTRE le TGV ?
Le TGV ne relève pas plus de problèmes que l'IA. Ils sont là pour nous alléger du poids de notre vie, en nous permettant de gagner du temps.

Le robot qui refuse de se faire débrancher n'est pas très réaliste. Il irait à contre-courant de sa raison d'être en faisant une chose pareille (sauf si ses ordres premiers étaient de se répliquer et d'asservir l'humain).

Bonjour.

Non.
Pas du tout !
Ici, la guerre serra le fait des hommes : ceux qui voudront continuer la production de ces machines à notre égale, avec les conséquences que cela peut engendrer, et ceux qui ne voudront pas utiliser cette béquille d'intelligence.
Et on peut voir ou cela peut mener : guerre avec des humains contre des humain avec des machines. Et il est très facile de doter une machine d'un "sur-blindage" qu'il n'est pas envisageable de doter un homme.

Moi, je vois plutôt ce genre de scénario, plus qu'une révolte cybernétique.
Il est à mon avis surement très possible de réduire les risques de révolte de nos chères machines intelligentes.
L'intelligence dont on peut les doter est à mon avis sélectionable : la doter d'un certaine animosité, de méfiance, etc. est potentiellement dangereux pour les créateurs de tel machine...

Sinon, voici un lien sur le reportage :
http://www.arte.tv/fr/recherche/1056026.html

[Guig74]

Le débat est-il déjà clot ?

[invite8613985e]

Bonjour à tous.

Je viens de me remémorer un documentaire que j'ai vu il y a quelques mois sur ARTE, concernant "l'éthique" futur de l'intelligence artificielle.
Ce que les personnes travaillant dans le milieu en pense fait peur

Il faisait mention d'une "singularité" (si je me souviens bien du terme employé), représentant l'instant ou l'homme aura créé une machine égale au niveau de son intelligence.

Un intervenant scientifique disait que lorsque nous auront atteint ce point, cette singularité, ce sera l'avènement d'une guerre "gigamortel", comme il se plaisait à dire. Cette guerre opposera les "pro-techno" et les "anti-techno", et comptera ses morts en milliards et non-plus en millions.
Il disait même que cette guerre avait déjà commencé :
Si vous avez entendu parlé de UNA-bomber, celui-ci en est le précurseur.

Voila.

Je souhaite donc savoir ce que vous en pensez...

Rassurez, ça n'est que la thèse d'un chercheur en IA (dont j'ai oublié le nom d'ailleur). Je crois que ce type est un peu cinglé.
Il a mené des recherches en simulant un réseau de neurones artificiel de quelques millions de neurones. Résultat : il a obtenu un automate très perfectionné mais pas la moindre trace d'intelligence.

Selon moi c'est impossible, la pensée n'est pas un traitement d'information.

[GillesH38a]

Je ne vois pas pourquoi. Si le réseau atteint une haute intelligence, il sera nécessairement intégré à la société, quelle que soit la forme de cette intelligence, simplement par cette intégration est la condition indispensable à son apparition.

Mmy, je suis surpris de cette assertion venant de ta part, vu les echanges qu'on a eu deja sur le caractère subjectif de ce qu'on appelle "intelligence". Tu peux préciser le sens que tu lui donnes dans cette phrase?

parce qu'un réseau meme "pas intelligent" est de toute façon intégré à la société "d'une certaine manière", puisque c'est elle qui l'a produit non?

je suis souvent gêné par le fait qu'on semble à peu près tous d'accord sur le caractère fortement arbitraire de certaines notions, mais qu'elles soient ensuite employées dans le discours comme si leur sens etait absolu et évident pour tout le monde !

[GillesH38a]

Selon moi c'est impossible, la pensée n'est pas un traitement d'information.

tu aurais ajouté "algorithmique", je t'aurais soutenu, mais là tu risques de te faire remonter les bretelles

[_Ulysse_]

En effet, mais même algorithmique ne suffit pas.

Plus on avance dans la compréhension des mécanisme du cerveau et plus on se rend compte qu'il s'agit justement d'algorithmique et autre. Par ex pour la vision c'est beaucoup de traitement du signal avec des filtres. Ca ressemble à ce qu'on fait en imagerie.

Bon toujours est-il que croire que l'intelligence ou l'état de conscience n'est pas "atteignable" par une machine est pour moi assez arrogant. En quoi seul l'homme ou d'autres animaux serait dépositaire de la conscience et de l'intelligence? Nous ne somme que des machines bio-chimiques complexes. Par conséquent tout autre système similaire qu'il soit organique, chimique, mécanique ou électronique/informatique peut être intelligent et "conscient" .

[invité576543]

parce qu'un réseau meme "pas intelligent" est de toute façon intégré à la société "d'une certaine manière", puisque c'est elle qui l'a produit non?

Je ne voulais pas vraiment dire plus que cela. Il manque peut-être un "même": "Même si...", et j'aurais pu mettre (ce que j'ai mis dans pas mal d'autres messages, mais c'est lourd), la précaution oratoire d'usage: ça donne

"Même si le réseau atteint une haute intelligence (quoiqu'on veuille dire par là), il sera nécessairement intégré..."

Cordialement,

[GillesH38a]

J'ai deja répondu N fois à cette question. Il ne s'agit aucunement de ne pas etre "atteignable" comme si c'etait une échelle linéaire croissante, comme si tu te demandais si on peut "atteindre" 2,50m en saut en hauteur. Il s'agit du caractère qualitatif de ce qu'on appelle l'intelligence. L'intelligence humaine ne s'est développée que pour assurer une supériorité de la survie d'un corps humain dans un environnement terrestre.

Avant de taper sur un ordinateur et de jouer aux échecs, le cerveau assure de façon primaire l'équilibre du corps humain, la gestion de ses appareils sensitifs et moteurs, la surveillance d'un tas d'indicateurs biologiques de faim, de soif, de douleur, la recherche et l'identification correcte de nourriture et de partenaires sexuels, etc... C'est sur cette base biologique que se sont construites des représentations de plus en plus élaborées mais qui trouvent toujours leur source dans notre nature biologique. Toutes les activités élaborées de la société sont des extrapolations et des sublimations de notre besoin biologique de survie, de dominance des autres (qui sert à la survie) et de reproduction. "L'intelligence" humaine n'est qu'un certain état actuel de sophistication du traitement de toutes ces données.


Le probleme n'est pas quantitatif mais qualitatif : une machine, meme aussi "apparemment" ressemblant a nous qu'un robot, n'a rien à faire de tout ça. Ca n'existe pas pour lui. Il n'a pas d'identité biologique humaine à partir de laquelle son système d'information peut lui fournir des représentations analogues aux notres, et encore moins de système affectif qui pourrait lui dire quoi que ce soit sur nos problèmes. Et encore moins le "super réseau" de Mmy ! ce "super réseau" n'aurait simplement aucun but "interne", il n'aurait rien à faire pour lui, il n'est soumis a aucune pression de survie, il n'a aucune raison d'avoir aucune envie, aucune peur, aucun besoin, et serait donc totalement incapabable de prendre des décisions autonomes tout simplement parce qu'il n'a aucun élément pour le faire. Et si on en attend qu'il gere NOS besoins , alors on fait juste ce qu'on fait maintenant : construire des ordinateurs qui n'ont aucune autonomie de pensée mais qui ne servent que pour nous, et qui donc par définition et par construction nous ne considérerons pas comme "intelligents".

[invité576543]

L'intelligence humaine ne s'est développée que pour assurer une supériorité de la survie d'un corps humain dans un environnement terrestre.

Très discutable. Du point de vue survie dans l'environnement, la "supériorité" de la solution "homo sapiens" n'est en rien évidente comparé au reste du vivant.

La théorie de l'évolution de Darwin ne permet pas de parler de "supériorité" absolue, juste d'une très très locale supériorité, en gros relativement aux autres espèces d'hominidés (dont "l'infériorité", qui porte sur leurs ancêtres, est juste une manière de dire que leurs ancêtres ont disparu sans descendance, alors que les ancêtres d' h. sapiens contemporains (de leurs ancêtres) ont une descendance actuelle).

Enfin, il y a pas mal de vraisemblance que l'intelligence n'ait que peu de rapport avec la "survie d'un corps", mais beaucoup avec avoir un peu plus de descendants que son voisin, ce qui n'est pas du tout la même chose.

Et encore moins le "super réseau" de Mmy ! ce "super réseau" n'aurait simplement aucun but "interne", il n'aurait rien à faire pour lui, il n'est soumis a aucune pression de survie, il n'a aucune raison d'avoir aucune envie, aucune peur, aucun besoin,

Faux. Il serait même tout à fait normal d'inclure dans le réseau toute sa maintenance, c'est à dire justement d'y mettre une "pression de survie". Ou le contrôle de son alimentation électrique (besoin).

Toujours le problème de l'extension de vocabulaire. Si on réserve "envie" "peur" "besoin" aux humains, ton affirmation est tautologique et sans intérêt, si on accepte de l'étendre alors il est difficile de trouver des arguments excluant les machines.

Par contre il n'y aurait pas de "sélection sexuelle", ce qui change par mal la donne.

Plus généralement, l'évolution d'un tel être unique ne serait pas du ressort de la théorie de Darwin, mais bien d'une évolution "Lamarckienne" au sens large. Cela a beaucoup de conséquences, certes, mais pas celle de l'absence de prise en compte de sa propre survie et de ses propres besoins physiques dans les prises de décision.

et serait donc totalement incapabable de prendre des décisions autonomes tout simplement parce qu'il n'a aucun élément pour le faire.

Bizarre comme argument. On parle par définition d'une machine prenant des décisions autonomes. Si tu mets en doute la possibilité de faire des machines prenant des décisions autonomes, la discussion change complètement d'aspect.

Et si on en attend qu'il gere NOS besoins , alors on fait juste ce qu'on fait maintenant : construire des ordinateurs qui n'ont aucune autonomie de pensée mais qui ne servent que pour nous

Il y a un glissement sémantique entre "décisions autonomes" et "autonomie de pensée". De quoi parles-tu exactement

, et qui donc par définition et par construction nous ne considérerons pas comme "intelligents".

Par définition, oui! Par construction? Peut-être.

Que les humains cherchent à construire dans ce sens, aucun doute. Qu'ils y arrivent, c'est moins clair.

Ce qu'on attendra des machines, avec une vision étroite limitée à nos buts, nous amènera à leur (lui) donner de plus en plus d'autonomie de décision, par simple souci d'efficacité mesurée à l'aune de nos besoins.

La divergence de point de vue est (manière de présenter) si oui ou non un comportement "que l'on acceptera un jour de considérer, selon les critères de ce jour là, comme intelligent" peut émerger ou non du seul fait de donner de plus en plus d'autonomie de décision, en particulier concernant sa propre maintenance.

Cordialement,

[_Ulysse_]

De mon point de vue, il n'y a aucune raison de penser que des machines ne puissent ni être intelligente ni être consciente ou même avoir des sentiments.

On en est encore loin à cause des limites techniques certes mais aucune raison théorique ne s'oppose à cela.

Pour ce qui est de la reproduction sexuée je ferais remarquer que d'un point de vue utilitariste celle-ci est utilisé par le monde vivant pour brasser les gènes et ainsi assurer son adaptation et son évolution. Rien n'empêche de faire des logiciels qui puissent évoluer d'eux même par un moyen ou un autre. Je ferais remarquer que les algorithmes génétiques s'inspirent du brassage génétique que les "animaux" font par reproduction sexuée. Ceux-ci mélangent les "bout de code" entre les différents individus et introduisent des mutations aléatoires entre chaque génération.

[invité576543]

Pour ce qui est de la reproduction sexuée je ferais remarquer que d'un point de vue utilitariste celle-ci est utilisé par le monde vivant pour brasser les gènes et ainsi assurer son adaptation et son évolution. Rien n'empêche de faire des logiciels qui puissent évoluer d'eux même par un moyen ou un autre. Je ferais remarquer que les algorithmes génétiques s'inspirent du brassage génétique que les "animaux" font par reproduction sexuée. Ceux-ci mélangent les "bout de code" entre les différents individus et introduisent des mutations aléatoires entre chaque génération.

Oui, mais ce n'est pas Darwinien au sens où la sélection Darwinienne porte sur les caractères phénotypiques, pas directement sur les génomes, et ne concerne que la transmission "verticale".

Ce que tu décrit est plus proche de l'évolution du vivant par transgénèse... On pique un bout d'ADN d'une espèce et on le met dans une autre! Transmission horizontale, comme la transmission culturelle, avec des effets très différents de l'évolution basée uniquement sur la transmission verticale.

Et la reproduction sexuée est une version très sophistiquée des mécanismes évolutifs basés sur la transmission verticale, dont je ne vois pas en quoi les avantages sont applicables aux machines, pour lesquelles les échanges d'information (horizontaux) sont bien plus faciles que les échanges d'ADN entre cellules!

Cordialement,

[invite8613985e]

tu aurais ajouté "algorithmique", je t'aurais soutenu, mais là tu risques de te faire remonter les bretelles

Je persiste à dire qu'une idée n'est pas une information, du moins au sens de la théorie de l'information. Pour moi c'est la même chose que de dire qu'une pensée ne peut pas être réduite à un algorithme, étant donné qu'un algo manipule uniquement des informations. Certains problèmes comme la résolution d'une équa diff n'est pas réductible à un algo, pourtant on sait résoudre ce genre de problème.

[GillesH38a]

Très discutable. Du point de vue survie dans l'environnement, la "supériorité" de la solution "homo sapiens" n'est en rien évidente comparé au reste du vivant.

La théorie de l'évolution de Darwin ne permet pas de parler de "supériorité" absolue, juste d'une très très locale supériorité, en gros relativement aux autres espèces d'hominidés

c'est comme ça que je l'entendais, supériorité au sens de plus grande efficacité dans le but de survivre, comparé aux congénères. Discuter de la part de la survie individuelle ou du pouvoir de reproduction est intéressant, mais ne change strictement rien à l'argumentation.

Faux. Il serait même tout à fait normal d'inclure dans le réseau toute sa maintenance, c'est à dire justement d'y mettre une "pression de survie". Ou le contrôle de son alimentation électrique (besoin).

ce n'est pas une pression au sens de la sélection naturelle, du "choix" de la meilleure solution en concurrence avec des "solutions" aternatives. Et "y inclure" suppose que le réseau est controlé par les humains, ce qui est encore une fois contradictoire avec l'idée d'une intelligence autonome. D'autre part le probleme devient tres différent de celui d'un cerveau constitué d'un réseau de neurone :

* il n'y a rien dans le cerveau qui "decide" de ce qu'il faut faire pour la conservation du cerveau de l'intérieur. Ce sont les performances du cerveau par rapport a l'environnement extérieur qui les sélectionnent, justement par cette pression sélective.
* inversement, le cerveau comme organe cybernétique se fiche totalement de ce qui se passe pour ses neurones, d'ailleurs il l'ignore, n'a aucun moyen de le controler,et l'élimination de millions de neurones est un processus parfaitement naturel et probablement indispensable à son fonctionnement. C'est tres différent du réseau informatique qui serait dédié à sa propre surveillance et à servir des buts humains qui lui échappent,. Meme du point de vue de l'information à traiter, sans parler de la nature des mécanismes, elles sont tres différentes.

Toujours le problème de l'extension de vocabulaire. Si on réserve "envie" "peur" "besoin" aux humains, ton affirmation est tautologique et sans intérêt, si on accepte de l'étendre alors il est difficile de trouver des arguments excluant les machines.

Toujours ton argument, avec lequel je ne suis toujours pas d'accord.

Pour résumer

Il y a un état A des machines, l'actuel, pour lequel tout le monde semble d'accord pour dire qu'elles ne sont pas intelligentes.

Il y a un état "B" (en fait DES états B) imaginaires qu'on suppose pouvoir exister de façon à pouvoir considérer que ce sont des machines intelligentes.

Tout le probleme est de se mettre d'accord sur les frontières de cet ensemble de B, et de savoir si il peut y avoir des réalisations matérielles appartenant à cet ensemble : il y a donc DEUX problemes : se mettre d'accord sur le minimum indispensable pour qu'on soit d'accord pour appeler ça de l'intelligence, et se demander si c'est possible de le construire.

Est-on d'accord au moins jusqu'à ce point la ? (Etape 1)

si oui, poursuivons. J'ai deja fait remarquer que si la solution etait uniquement dans le fait de déplacer les frontières de B, d'adapter notre conception de l'intelligence, alors la réponse etait trivialement oui : il suffisait de déplacer les frontières jusqu'à y inclure A, c'est à dire de considérer que les machines actuelles font deja assez de choses pour etre intelligentes. Tu m'as alors dit que c'etait une manière réthorique de ridiculiser cette position, alors que pour moi ce n'etait absolument pas ridicule. Ca l'est d'autant moins que le mot "intelligence collective" est deja plus ou moins employé pour le réseau actuel.

Mais si on considère que c'est "ridiculiser" la position que de proposer que les ordinateurs actuels (et les reseaux qu'ils forment deja) sont deja intelligents, ça suppose implicitement que la notion de B (y compris dans le futur)commune a tout le monde, mettons une sorte "d'enveloppe convexe " de toutes les représentations passées et futures de ce qu'on appelerait une machine intelligente, ne contient pas A (ce qui revient à dire que personne, jamais, ne considérera que les machines actuelles sont vraiment intelligentes).


Admettons alors ça, est-on toujours d'accord à ce point ? (etape 2 )

Donc à ce moment, il faut qu'on précise quand meme cette frontiere. Si A n'appartient pas à B, c'est que B contient des choses irréductibles à A, qu'aucun ordinateur actuel ne sait faire. Ma question est : pouvez vous préciser ce que vous voudriez reellement en plus de A pour pouvoir appartenir à B ? par exemple concretement, quand tu dis

La divergence de point de vue est (manière de présenter) si oui ou non un comportement "que l'on acceptera un jour de considérer, selon les critères de ce jour là, comme intelligent" peut émerger ou non du seul fait de donner de plus en plus d'autonomie de décision, en particulier concernant sa propre maintenance.

Cordialement,

que veut dire exactement "autonomie de décision" ? attends tu comme critère que la machine se mette à faire des choses sensées pour sa conservation, à laquelle personne n'avait pensé en la construisant ? par exemple qu'un ordinateur se mette a faire des choses apparemment totalement aberrantes pour un etre humain, que ses concepteurs ne comprennent pas, mais qu'au bout de quelques jours on s'aperçoive que c'etait exactement ce qu'il fallait faire pour éviter un crash a cause de problemes que personne n'avait imaginé? (une comparaison me vient à l'esprit, celle du film "les dieux sont tombés sur la tete" où les héros occidentaux sont pris dans un feu de brousse avec le San, qui se met d'un coup à saisir des brandons enflammés et à mettre le feu à de nouvelles broussailles. La femme crie au fou, jusqu'a ce que son compagnon lui explique qu'il allume un contre feu pour créer une zone d'herbe deja brulée ou ils peuvent se réfugier et avoir la vie sauve). Est-ce ce genre de comportement qui serait nécessaire et suffisant pour appartenir à B ?

ou faudrait-il aussi qu'il ait "conscience" des problemes humains, et prenne des décisions concernant les humains? lui demanderait-on d'emettre un avis sur des problemes du genre : faut-il ou bon autoriser l'avortement? la culture des OGM? l'indépendance du Kosovo? jusqu'ou faut-il baisser les émission de CO2 ? tout genre de probleme que les humains traitent en ce moment ?

devrait-on pouvoir lui expliquer qu'on a trouvé une nouvelle façon de produire de l'énergie ( ou du cuivre à partir d'algues ) , mais pas encore tres au point, et de lui demander conseil sur comment faire un programme de recherches pour rendre le procédé industriel viable et implémenter les usines (choses que les humains savent faire ) ?

bref, jusqu'ou attendez vous que se manifeste cette "intelligence"? il n'y a que si on est d'accord sur ce qu'on met derrière pour qu'on puisse ensuite discuter de savoir si c'est vraiment possible ...

Ca n'a rien de tautologique, c'est une question de définition intersubjective, il n'y a aucune réponse canoniquement valable, il faut juste qu'on aie un minimum commun pour en parler.

Cdt

Gilles

[GillesH38a]

Je persiste à dire qu'une idée n'est pas une information, du moins au sens de la théorie de l'information. Pour moi c'est la même chose que de dire qu'une pensée ne peut pas être réduite à un algorithme, étant donné qu'un algo manipule uniquement des informations. Certains problèmes comme la résolution d'une équa diff n'est pas réductible à un algo, pourtant on sait résoudre ce genre de problème.

si tu ajoutes "au sens de la théorie de l'information" (qui ne traite en fait QUE de l'information au sens traitable par un algorithme et donc ça revient plus au moins au meme que ma remarque) , alors je suis d'accord avec toi. Le probleme est que le mot "information" est au moins aussi ambigu que "intelligence" . C'est pour ça que je prefere dire que la pensée traite des informations de nature non algorithmique (i.e. qu'un etre humain ne serait meme pas lui meme capable de mettre sous forme d'un traitement algorithmique, pour couper court à toute remarque me faisant dire que les etres humains seraient "supérieurs" aux machines. Il s'agit de la nature de l'information traitée (par exemple les "questions humaines" proposées ci-dessus), pas d'une "supériorité" de l'homme).

[GillesH38a]

De mon point de vue, il n'y a aucune raison de penser que des machines ne puissent ni être intelligente ni être consciente ou même avoir des sentiments.

le probleme est que tu utilises ces mots comme si c'etait des attributs objectivement définissables et mesurables, hors de toute référence humaine. Or ce n'est ni l'un ni l'autre. Si quelqu'un d'aussi intelligent (!!) que Turing n'a pu finalement proposer comme test de "conscience" qu'un test de similarité avec la conscience humaine , il y a surement une tres bonne raison non ? .

[invité576543]

Il y a un état A des machines, l'actuel, pour lequel tout le monde semble d'accord pour dire qu'elles ne sont pas intelligentes.(...)

Est-on d'accord au moins jusqu'à ce point la ? (Etape 1)

Sans ergoter sur des points de détail, oui.

si oui, poursuivons. J'ai deja fait remarquer que si la solution etait uniquement dans le fait de déplacer les frontières de B, d'adapter notre conception de l'intelligence, alors la réponse etait trivialement oui : il suffisait de déplacer les frontières jusqu'à y inclure A, c'est à dire de considérer que les machines actuelles font deja assez de choses pour etre intelligentes. Tu m'as alors dit que c'etait une manière réthorique de ridiculiser cette position, alors que pour moi ce n'etait absolument pas ridicule.

Je maintiens mon point. Il n'a jamais été question de déplacer ACTIVEMENT la frontière, ce que la tournure de la phrase fait croire, et qui est bien une manière de ridiculiser la position.

Je n'ai (je parle pour moi) parlé que d'un possible glissement sémantique face à une nouvelle réalité. Il ne s'agit par de déplacer activement la frontière pour le plaisir d'avoir raison, mais une prédiction que les humains subiront d'eux-mêmes, passivement, un glissement sémantique dont l'origine sera la confrontation à la réalité.

C'est complètement différent.

Mais si on considère que c'est "ridiculiser" la position que de proposer que les ordinateurs actuels (et les reseaux qu'ils forment deja) sont deja intelligents,

Oui ça l'est, et ce n'a jamais été mon point. Je pense qu'aucune discussion ne peut vraiment faire changer le sens d'un mot comme "intelligent" à un quelconque contemporain. Par contre je pense que la réalité fera changer le sens du mot plus tard.

(ce qui revient à dire que personne, jamais, ne considérera que les machines actuelles sont vraiment intelligentes).

Oui à ce dernier point.

Admettons alors ça, est-on toujours d'accord à ce point ? (etape 2 )

Non à cause de l'emballage, qui présente une vision caricaturale de la position adverse.

que veut dire exactement "autonomie de décision" ?

Je te renvoie la balle, tu as utilisé toi-même cette expression, non?

attends tu comme critère que la machine se mette à faire des choses sensées pour sa conservation, à laquelle personne n'avait pensé en la construisant ?

Un programme d'échec prends des décisions sensées auxquelles personne n'avait pensé auparavant, que ce soit en la construisant ou en la regardant faire.

par exemple qu'un ordinateur se mette a faire des choses apparemment totalement aberrantes pour un etre humain, que ses concepteurs ne comprennent pas, mais qu'au bout de quelques jours on s'aperçoive que c'etait exactement ce qu'il fallait faire pour éviter un crash a cause de problemes que personne n'avait imaginé?

Pourquoi pas.

Est-ce ce genre de comportement qui serait nécessaire et suffisant pour appartenir à B ?

Non. Là encore, il y a une idée implicite de supériorité aux humains. Je pense que le glissement sémantique s'opèrera pour bien moins.

bref, jusqu'ou attendez vous que se manifeste cette "intelligence"? il n'y a que si on est d'accord sur ce qu'on met derrière pour qu'on puisse ensuite discuter de savoir si c'est vraiment possible ...

J'ai déjà écrit des dizaines de fois que discuter du sens d'un mot est un problème de psychologie et de sociologie humaine, qui n'a rien à voir avec le potentiel des machines.

Ma compréhension des humains est telle que j'imagine assez facilement que se produise le glissement sémantique en question. On peut discuter psychologie humaine avec des spécialistes, ce serait très intéressant.

Mais c'est indépendant des capacités des machines.

Si tu veux reprendre tes exemples en tant que comportements envisageables des machines, pourquoi pas. Mais tant que c'est lié au mot "intelligence" je considère que la discussion porte sur la psychologie humaine, sur l'emploi qui est fait des mots, et surtout sur cette propension à garder des mots "pour l'usage propre aux humains", que ce soit "être enceinte", "hominidés" ou "intelligence".

Cordialement,

[_Ulysse_]

Michel :

Avec des algo génétiques on fait souvent évoluer un système qui a des caractéristiques de type "phénotypique". Je te donne un ex concret :

Un programme qui par algo génétique va faire évoluer un "modèle" de catapulte (celle-ci est simulée selon des loi mécaniques). Le critère retenu sera la distance à laquelle elle peut envoyer un projectile donné. Le programme va créer un ensemble d'individus de manière aléatoire qui constituent donc la première génération. Ensuite le programme va générer une seconde génération à partir des meilleurs éléments de la première génération (processus de brassage des caractéristique) tout en introduisant quelques mutations aléatoire. En une poignée de génération on obtient des modèles performants avec quelques secondes de calcul.

Bien sur cet exemple est extraordinairement simple comparé à l'évolution des sujets comme l'homme ou autre mais les principes de fonctionnement et d'évolution sont les mêmes.

Sinon je ne comprend pas ta notion d'échange vertical et horizontal pour moi c'est en fait la même chose.

[invité576543]

Sinon je ne comprend pas ta notion d'échange vertical et horizontal pour moi c'est en fait la même chose.

Je pense que c'est là le problème, parce que les algos génétiques et tout ça, c'est pas nouveau pour moi.

La transmission verticale en biologie évolutive, c'est de parent à enfant. La transmission horizontale, c'est entre des individus quelconques, pas nécessairement apparentées.

L'évolution du vivant, la sélection naturelle et tout ça, sont des théories sur la transmission verticale, qui mettent au centre la notion de nombre de descendants. C'est très restreint.

Quand on applique cela à autre chose, genre les algorithmes génétiques (ou les mèmes de Dawkins), on procède à une généralisation. Cette généralisation doit rendre très critique à ce qu'on importe de la théorie généralisée.

Je ne vois pas de raison à ce que les restrictions très particulières qui existent dans le vivant quand à la transmission de l'information génétique s'appliquent aux machines. Je n'ai rien contre la généralisation de l'idée de l'évolution par essais et erreurs, mais beaucoup contre une généralisation de phénomènes dus aux restrictions particulières du vivant.

Cordialement,

[GillesH38a]

J'ai déjà écrit des dizaines de fois que discuter du sens d'un mot est un problème de psychologie et de sociologie humaine, qui n'a rien à voir avec le potentiel des machines.

je suis tout à fait d'accord avec toi là dessus !

Ma compréhension des humains est telle que j'imagine assez facilement que se produise le glissement sémantique en question. On peut discuter psychologie humaine avec des spécialistes, ce serait très intéressant.

Mais c'est indépendant des capacités des machines.

mais là encore, tout à fait ! cependant , le glissement sémantique n'est pas si trivial, puisqu'il n'a pas été effectué pour l'ensemble A des machines actuelles !!

Il y a donc bien une question de psychologie humaine non triviale qui est : à partir de quand est ce qu'il est envisageable, quels contours de l'ensemble B sont plausibles, et de quoi discute-t-on au juste quand on parle de l'IA?

Si tu veux reprendre tes exemples en tant que comportements envisageables des machines, pourquoi pas. Mais tant que c'est lié au mot "intelligence" je considère que la discussion porte sur la psychologie humaine, sur l'emploi qui est fait des mots, et surtout sur cette propension à garder des mots "pour l'usage propre aux humains", que ce soit "être enceinte", "hominidés" ou "intelligence".

Cordialement,

mais est-tu d'accord pour dire qu'on ne peut pas employer le mot intelligence sans s'etre mis d'accord sur l'extension éventuelle qu'on veut bien lui donner? il ne s'agit pas de réserver par principe ce mot aux humains, il s'agit de savoir dans quel sens (éventuellement étendu) on l'emploie.

Prendre des décisions non triviales pour assurer sa survie, par exemple, c'est assez bien fait par un serpent ou un crocodile. C'est totalement différent de pouvoir controler une société humaine ou de tenir une conversation sensée , dont ils sont totalement incapables ! alors un crocodile est-il intelligent ou non?

on ne peut donc avoir AUCUNE discussion sur les machines avant d'avoir préalablement établi de quoi on parle exactement. Je suis totalement incapable de répondre à la question "l'IA est-elle possible?" et encore moins à elle "etes vous pour ou contre?" si on ne me précise pas un peu ce qu'on veut dire par là !!!