L'intelligence artificielle, peut-elle se révéler néfaste ?

[invite5989fd79]

salut tout le monde
Je ne connais pas grand chose à tout ce qui concerne la programmation les algoritmes ou toutes ces choses dont vous parlez ici, mais je suis tout de même très interressé par la discussion.
la question de base est :
-L'intelligence artificielle, peut-elle se révéler néfaste ?
si on refléchit un peu on se rend compte que la quasi totalité des invention (et parfois même des decouvertes) de l'homme a eu des bons et des mauvais cotés (la voiture, le train, l'avion, le nuclaire, l'aerospatiale en sont quelques exemples) de ce fait pourquoi une nouvelle invention (si elle a lui un jour) ferait-elle exeption la règle?
personnellement la question que je me pose est:
-une intelligence artificielle pourrait-elle un jour décider d'etre nefaste et avoir conscience de l'etre? de la même façon que une intelligence naturelle. mais partant de là il ne faudrait plus chercher a creer une intelligence artificielle mais une conscience artificielle, avec tout ce que ça implique (choix,reflection,decision,sen timent ...ainsi que toutes ces choses qui ne me viennent à l'esprit )
merci d'avoir lu jusqu'au bout et dsl pour les fautes je suis pas très bon en orthographe. @+

[invitebf9d0c59]

salut,
je voudrais juste dire qu'une machine n'aura jamais de conscience et sera toujours plus prédisposée à commettre des erreurs de perception des commandes (des bugs quoi) ,que l'Homme. Je pense qu'à ce titre il serait dangereux d'étendre le pouvoir des machines, elles ne voudront jamais consciement faire du mal à l'homme (genre terminator) mais je pense qu'il y a déjà assez de criminels sur cette planète pour rajouter encore des machines qui vont bugger à la moindre incomprehension dans des domaines de la vie sociale ,de plus en plus proches de l'homme.

[invite765732342432]

je voudrais juste dire qu'une machine n'aura jamais de conscience et sera toujours plus prédisposée à commettre des erreurs de perception des commandes (des bugs quoi) ,que l'Homme.

J'ai peur que tu aies une vision un peu trop caricaturale de l'homme: Il est bourré de "bugs": maladies mentales ou dérèglements hormonaux pour ne citer que deux choses qui me passent par la tête...

De plus, affirmer "une machine n'aura jamais de conscience", c'est un peu simple: on ne sait même pas comment "nait" une conscience alors comment peut-on affirmer qu'une machine ne peut en avoir ?

[invitebf9d0c59]

J'ai peur que tu aies une vision un peu trop caricaturale de l'homme: Il est bourré de "bugs": maladies mentales ou dérèglements hormonaux pour ne citer que deux choses qui me passent par la tête...

De plus, affirmer "une machine n'aura jamais de conscience", c'est un peu simple: on ne sait même pas comment "nait" une conscience alors comment peut-on affirmer qu'une machine ne peut en avoir ?

certes l'homme peut etre considéré comme une machine qui fait aussi des erreurs de jugements et qui peut derailler (tomber malade etc...) mais l'homme c'est la machine la plus intelligente qui soit, de ce fait toute autre machine reste moins performante que l'homme. En plus une machine ça s'abime aussi avec le temps tout comme l'homme peut tomber malade. Donc en plus d'avoir la plupart des defauts de l'homme, il lui manque la conscience ,le libre arbitre, les sentiments etc... qui pourraient par exemple lui faire savoir qu'il y a une erreur quelque part et qu'il faut proceder d'une manière qui n'etait pas defini dans sa programmation.

quant à la conscience des machines, je crois qu'on risque d'entrer dans un debat plus métaphysique. Mais je pense quand meme qu'une machine n'aura jamais conscience d'elle meme, à moins qu'on cree un programme qui le lui permette, dans ce cas ça restera toujours de l'artificiel, et de ce fait ce sera toujour plus limité que la conscience humaine. Bref si la machine la plus intelligente est déjà capable de faire autant d'erreurs, je pense qu'il voudrait mieux eviter de confier des tâches plus "humaines" à des machines à intelligence moindre.

[A voir en vidéo sur Futura]

[invitefecd1185]

L'IA est un rêve et rien d'autre; Pouvez-vous imaginer que l'homme puisse fabriquer une chose qui dépasse sa "propre" intélligence. Je pense que le problème est ailleurs. Avant de songer à fabriquer une telle machine il faut d'abord que l'homme comprenne sa propre intélligence, l'univers du cerveau est si complexe que nous sommes encore très très loin d'en définir l'exacte fonctionnement; nous n'avons que des "théories".
De plus, il ya un élément que les scientifiques ne veulent pas reconnaître: "l'âme"; D'ou la question "comment donner une âme à une machine ?"; c'est l'âme qui régie les notions de bien et de mal évidemment couplé avec notre cerveau qui s'occupe du "raisonnement". physique quantique ou pas l'homme ne pourra je pense jamais "imiter" la "Création" il ne peut qu'"Inventer" des choses.

[Dansteph]

L'inttelligence artificielle au sens commun on en est très très loins
actuellement, on a que des algo qui simulent des réactions inttéligente de très loins. Mais dans un lointain futur je suis
sur qu'on y arrivera question de complexité.

Pour l'âme désolé mais qu'est ce que cette vieillerie échapée du
XVII ème siècle vient faire dans ce débat ? L'âme les machine en
auront quand elle seront aussi complexe qu'un cerveau et encore ca
dépendra de leurs "éducation" Chez certaines peuplade le "bien"
c'est de bouffer leurs voisin alors la notion du bien et du mal
ce n'est bien qu'une affaire de "programation" et de loi simple
préetablie. (souvent liée à la meilleurs survie)

Sinon, IA bonne ou mauvaise ? elle seront ce que on y aura mis à
mon avis. PLus vraisemblablement multiples et variées comme nous
mais c'est Impossible à prédire actuellement vu que nous somme
incapable de concevoir des systèmes aussi complexe qu'un cerveau.

(mais ca va vite... le premier microprocesseur est agé d'à peine
35 ans -1971 i4004)

Dan

[invitefecd1185]

L'inttelligence artificielle au sens commun on en est très très loins
actuellement, on a que des algo qui simulent des réactions inttéligente de très loins. Mais dans un lointain futur je suis
sur qu'on y arrivera question de complexité.

Pour l'âme désolé mais qu'est ce que cette vieillerie échapée du
XVII ème siècle vient faire dans ce débat ? L'âme les machine en
auront quand elle seront aussi complexe qu'un cerveau et encore ca
dépendra de leurs "éducation" Chez certaines peuplade le "bien"
c'est de bouffer leurs voisin alors la notion du bien et du mal
ce n'est bien qu'une affaire de "programation" et de loi simple
préetablie. (souvent liée à la meilleurs survie)

Sinon, IA bonne ou mauvaise ? elle seront ce que on y aura mis à
mon avis. PLus vraisemblablement multiples et variées comme nous
mais c'est Impossible à prédire actuellement vu que nous somme
incapable de concevoir des systèmes aussi complexe qu'un cerveau.

(mais ca va vite... le premier microprocesseur est agé d'à peine
35 ans -1971 i4004)

Dan

La notion d'âme est pour toi une notion du XVII ème siècle.
L'âme n'est pas le sujet du débat effectivement.
Mais je voudrai simplement te rappeller que le monde n'est pas limité à l'horizon des tes frontières .
Et que la notion d'âme existe depuis bien plus longtemps que tu sembles le dire.
l'âme n'as rien à voir avec le cerveau....tu penses qu'il suffit de conceptualiser le cerveau humain pour obtenir qlq chose qui à le même potentiel que l'homme ???
Perso je ne le pense pas; mais évidemment il est dur pour le commun des mortels d'imaginer ce qu'il ne peut voir...et pourtant l'univers tout entier est tenu par des forces "invisibles" et pour moi l'âme est la force invisible qui régit toute vie "intélligente....".

[invite36366388]

Bonjour

Perso je ne le pense pas; mais évidemment il est dur pour le commun des mortels d'imaginer ce qu'il ne peut voir...et pourtant l'univers tout entier est tenu par des forces "invisibles" et pour moi l'âme est la force invisible qui régit toute vie "intélligente....".

"pour moi", "perso", "je pense"... je rappelle que la connaissance scientifique n'est pas affaire de considérations personnelles mais d'expériences reproductibles et de modéles théoriques.

[invitefecd1185]

Bonjour




"pour moi", "perso", "je pense"... je rappelle que la connaissance scientifique n'est pas affaire de considérations personnelles mais d'expériences reproductibles et de modéles théoriques.

je dit "perso" "pour moi" "je pense" car j'exprime mon opinion...maintenant si on est là pour exprimer l'opinion des autres il faut le dire pour que cela soit clair.
je rappel le sujet du débat "
L'intelligence artificielle, peut-elle se révéler néfaste ?"...n'est ce pas là une invitation à un débat "ouvert"...est-ce que le terme néfaste désigne une théorie, un modéle ????
non cela exprime une idée de bien et de mal...pouvons nous quantifier ces notions...somme toute nous pouvons dire que c'est "relatif à un temps, à une culture, à une éducation,etc..."

Si le sujet avait été "Que pensez-vous du modèle X ?" à ce moment là je serai d'accord avec ta remarque....

Merci de votre compréhension à tous.

[invite3dc2c2f6]

Bonjour
Vu l'état de nos connaissances et théorisations formelles de l'intelligence (théorisations qui permettent de concevoir les algorithmes de programmation), je crois qu'il serait plus exact de formuler la question comme: "L'intelligence artificielle peut-elle révéler la nature néfaste de l'intelligence de l'espèce humaine?" ....
avec bienveillance,
manu.

[invitefecd1185]

Bonjour
Vu l'état de nos connaissances et théorisations formelles de l'intelligence (théorisations qui permettent de concevoir les algorithmes de programmation), je crois qu'il serait plus exact de formuler la question comme: "L'intelligence artificielle peut-elle révéler la nature néfaste de l'intelligence de l'espèce humaine?" ....
avec bienveillance,
manu.

Toute à fait d'accord avec toi.
Si nous n'incluant pas les aspects de bien et de mal dans la reflexion nous risquons de produire qlq chose de l'ordre de la bombe atomique en terme de conséquences désastreuse pour la vie "humaine".

[invite40d1dd91]

Bien que l'on dérive du sujet qui est "L'intelligence artificielle, peut-elle se révéler néfaste ?" et non, "L'IA peut-elle devenir intelligente ?"

Le débat devient un conflit entre ceux qui mettent l'intelligence et le cerveau humain sur un pied d'estale
et les autres, qui considère le cerveau comme une machine ultra complexe mais compréhensible par son hôte, nous.

C'est pourquoi la question devrait être "L'homme peut-il créer aussi complexe que lui ?" ou "un système d'un niveau de complexité donné peut-il se comprendre? "

Notre intelligence est le fruit de la nature, succession de multiples hasards et de lois de la séléction. Alors pourquoi ne pourrions nous pas créer de l'intelligence ? La nature n'a même pas concience d'elle même au contraire de l'homme!


Il ressort du débat une tendance créationiste qui pense l'homme investi d'une âme au dessu de la matière, sans veritable arguments scientifiques!

Mais là où je suis d'accord, c'est que l'intelligence artificiel n'est pas pour demain !
L'abstraction de nos langages informatique, de nos conceptes ne sont pas assez elevé pour créer une intelligence. Le support physique, qu'est l'éléctronique, est-il compatible avec l'intelligence ?

Le paradoxe est que si nous créons l'intelligence, celle ci sera née de la création et non de la séléction.

Enfin, comme le dit Houellebecq, "tout se que la science permet sera réalisé", je pense que tout scientifique est d'accord avec ceci (même moi qui n'en n'est pas un).


Ciao

[invite85dfba75]

L'IA est un rêve et rien d'autre; Pouvez-vous imaginer que l'homme puisse fabriquer une chose qui dépasse sa "propre" intélligence.

"Le test de Turing est une proposition de test d'intelligence artificielle ayant la faculté d'imiter la conversation humaine. Décrit par Alan Turing en 1950 dans sa publication « Computing machinery and intelligence », ce test consiste à mettre en confrontation verbale un humain avec un ordinateur et un autre humain à l'aveugle. Si l'homme qui engage les conversations n'est pas capable de dire qui est l'ordinateur et qui est l'autre homme, on peut considérer que le logiciel de l'ordinateur a passé avec succès le test. Cela sous-entend que l'ordinateur et l'homme essayeront d'avoir une apparence sémantique humaine. Pour conserver la simplicité et l'universalité du test, la conversation est limitée à un échange textuel entre les protagonistes."

Source http://fr.wikipedia.org/wiki/Test_de_Turing

.On le voit avec les "bots" IRC ( robots qui reagissent a des conversations d'internautes), + les nouveaux jouets intelligent japonais, c'est qu'un mince debut mais deja on peut imaginer un futur avec des machines de plus en plus "emotionisé" et intelligentes qui passerons le test de Turing avec succés , eduquerons les enfants , l'intelligence etant une notion un peut vague il difficile de la definir dans un objet , elle n'a pas de limite , pas de marches plus hautes .

Personnelement je pense les ordinateurs nous depassent de loin en capacité de memoire et de calcul , est que le debut de l'aire sylicone . .

[invite8915d466]

Enfin moi j'ai une liste de questions toutes prêtes auxquelles un ordinateur ne pourra jamais répondre, alors que tout le monde ici pourra le faire très facilement !! . Evidemment faut pas les dire avant parce qu'un programmateur un peu malin les aura prévues . Mais vous y répondrez sans avoir été "programmés d'avance".

Allez je vous en donne une :
"Est ce que vous pouvez lecher votre coude avec votre langue?"

[invitedb5bdc8a]

Allez je vous en donne une :
"Est ce que vous pouvez lecher votre coude avec votre langue?"

Merci d'avoir donné un exemple. Maintenant poses cette question en français à un chinois qui ne parle pas français. Il ne peut pas répondre. Qu'en conclus-tu ?
Si mon ordinateur intelligent ne sait pas ce qu'est un coude, cela le rend-il non intelligent ?

[invite8915d466]

Merci d'avoir donné un exemple. Maintenant poses cette question en français à un chinois qui ne parle pas français. Il ne peut pas répondre. Qu'en conclus-tu ?
Si mon ordinateur intelligent ne sait pas ce qu'est un coude, cela le rend-il non intelligent ?

C'est très différent! je suppose que la machine a un langage, et je l'utilise pour poser la question. Si la machine ne sait pas ce que c'est qu'un coude, j'en conclus qu'elle n'est pas un être humain et le test de Turing échoue.
Tu vois bien que malgré tout le respect que l'on doit a Turing , son test ne peut jamais marcher : soit la machine repond comme une machine et elle avoue ne pas etre un etre humain, soit elle repond comme un etre humain et tu peux la coincer sur des questions liées au corps biologique, qu'elle ne peut pas connaître....

[invite85dfba75]

Aujourd'hui des processeurs permettent à des robots de faire leur apprentissage , c'est a dire de programmer eux même une fonction optimale . Un robot à 6 pattes grâce à ce genre de système obtient comme résultat de marcher comme une araignée sans programme préalable ou spécifique à cette fonction . un algorithme de base lui inculque le necessaire a son apprentissage et il calcule lui même la meilleure façon d'arriver a marcher. C'est une début très prometteur car il laisse entrevoir une échelle de l'intelligence non anthropocentriste mais de logique pure . Pour avancer d'un point "a" à un point "b" le plus rapidement possible le robot a tester une infinité de solution possible pour optimiser et finalement obtenir un résultat proche de celui que produit la nature . C'est un début et tout en sachant que l'informatique est proche d'un résultat ex-croissant dans le domaine de la capacité de calcul et de mémorisation. Le traitement de l'information est un secteur d'activité tout a fait prometteur,car ce genre de processeur laisse entrevoir une forme d'intelligence vraiment nouvelle et etonante.

[invitedb5bdc8a]

C'est très différent! je suppose que la machine a un langage, et je l'utilise pour poser la question. Si la machine ne sait pas ce que c'est qu'un coude, j'en conclus qu'elle n'est pas un être humain et le test de Turing échoue.
Tu vois bien que malgré tout le respect que l'on doit a Turing , son test ne peut jamais marcher : soit la machine repond comme une machine et elle avoue ne pas etre un etre humain, soit elle repond comme un etre humain et tu peux la coincer sur des questions liées au corps biologique, qu'elle ne peut pas connaître....

Non, ce n'est pas différent. Il y a des prérequis de connaissances (connaissance n'est pas intelligence) que tu utilises dans les 2 cas pour juger. Mais si ces prérequis n'existent pas (savoir ce qu'est un coude), tu va conclure de manière erronée que l'interlocuteur n'est pas intelligent, alors qu'en fait il lui manque juste cette connaissance pour faire une réponse intelligente. Une machine intelligente qui ne saurait pas qu'elle est une machine ne serait pas intelligente. Inversons le test de Turing: si moi j'essaie sur les forums internet de me faire passer pour une machine, combien de temps mettras-tu à me démasquer ? je pense qu'en dépit de mon intelligence je finirai par me trahir. En ce sens le test de Turing ne donnera jamais un 20/20, le but est de savoir combien de temps le doute subsiste, et ça c'est une bonne mesure. On peut voir avec Repliée 2 à Aïchi que les visiteurs se laissent tromper déjà quelques secondes, elle a l'air si humaine ...
Mais pour faire un bon test de Turing, il est évident que la machine devra acquérir une certaine culture, et entre autres connaitra certaines notions de bio humaine. Se faire passer pour ce qu'on est pas est très difficile (exemple de l'espion...)

[invitefecd1185]

"Le test de Turing est une proposition de test d'intelligence artificielle ayant la faculté d'imiter la conversation humaine. Décrit par Alan Turing en 1950 dans sa publication « Computing machinery and intelligence », ce test consiste à mettre en confrontation verbale un humain avec un ordinateur et un autre humain à l'aveugle. Si l'homme qui engage les conversations n'est pas capable de dire qui est l'ordinateur et qui est l'autre homme, on peut considérer que le logiciel de l'ordinateur a passé avec succès le test. Cela sous-entend que l'ordinateur et l'homme essayeront d'avoir une apparence sémantique humaine. Pour conserver la simplicité et l'universalité du test, la conversation est limitée à un échange textuel entre les protagonistes."

Source http://fr.wikipedia.org/wiki/Test_de_Turing

.On le voit avec les "bots" IRC ( robots qui reagissent a des conversations d'internautes), + les nouveaux jouets intelligent japonais, c'est qu'un mince debut mais deja on peut imaginer un futur avec des machines de plus en plus "emotionisé" et intelligentes qui passerons le test de Turing avec succés , eduquerons les enfants , l'intelligence etant une notion un peut vague il difficile de la definir dans un objet , elle n'a pas de limite , pas de marches plus hautes .

Personnelement je pense les ordinateurs nous depassent de loin en capacité de memoire et de calcul , est que le debut de l'aire sylicone . .

Effectivement les machines peuvent dans une certaine mesure "imiter" l'intélligence humaine ou l'intélligence tout court....
L'IA n'est que le "nouveau" terme (à la mode) de ce que l'on appelle dans le jargon informatique les "systèmes experts"....
Les systèmes experts sont des systèmes capablent de "raisonner" à partir d'une base de règles...certains vont même jusqu'à "dériver" de nouvelles règles à partir de règles connu et d'une base de connaissance.
Mais ces systèmes sont "limités" par essence.
Les "robots" ne sont que de "vulgaire" machine à états très très limitées....
biensûr on peux imaginer des robots bcp plus "intélligent" au sens de la connaissance et du "raisonnement"...mais la seul structure capable au jour d'aujourd'hui de "raisonner" et de "conclure" à partir d'une base de connaissance c'est le cerveau => les neurones => structure neuronal....lorsque l'homme sera capable (ce dont je doute très fort) de créer une structure imitant celle des neurones du cerveau et capable de créer un "dialogue" entres ces neurones à ce moment là peut être que nous pourrons re-parler de l'AI.....

[invitedb5bdc8a]

L'IA est un rêve et rien d'autre; Pouvez-vous imaginer que l'homme puisse fabriquer une chose qui dépasse sa "propre" intélligence..

re paradoxe de l'outil: pensez vous que l'on puisse forger des outils micrométriques avec des cailloux ?

Je pense que le problème est ailleurs. Avant de songer à fabriquer une telle machine il faut d'abord que l'homme comprenne sa propre intélligence,
..

Si on avait attendu de comprendre avant de fabriquer .... L'histoire des sciences et techniques est en gros le processus inverse, on fait, puis on réfléchis. A part au cours du vingtième siècle peut être...

l'univers du cerveau est si complexe que nous sommes encore très très loin d'en définir l'exacte fonctionnement; nous n'avons que des "théories"...

exact, et alors ?

De plus, il ya un élément que les scientifiques ne veulent pas reconnaître: "l'âme""...

disons plutôt que ce n'est pas une hypothèse nécessaire.

; D'ou la question "comment donner une âme à une machine ?";

Pourquoi faire ? La conscience arrivera automatiquement avec l'intelligence dès que l'iA se prendra elle même pour objet de son étude. Et comme elle sera curieuse (parce que si on n'est pas curieux, on n'est pas intelligent), cela finira nécessairement par arriver.

c'est l'âme qui régie les notions de bien et de mal évidemment couplé avec notre cerveau qui s'occupe du "raisonnement".

Preuve ? Avec une ablation de l'âme, on perd la notion de bien et de mal ?

[invited494020f]

La conscience arrivera automatiquement avec l'intelligence dès que l'iA se prendra elle même pour objet de son étude. Et comme elle sera curieuse (parce que si on n'est pas curieux, on n'est pas intelligent), cela finira nécessairement par arriver.

Bonjour, le tout est de concevoir une machine dont la curiosité serait "humaine", qui déciderait (sans qu'on l'y incite) de se prendre comme sujet d'étude et qui aurait les moyens de le faire. Ce n'est pas demain la veille!

[spi100]

Bonjour, le tout est de concevoir une machine dont la curiosité serait "humaine", qui déciderait (sans qu'on l'y incite) de se prendre comme sujet d'étude et qui aurait les moyens de le faire. Ce n'est pas demain la veille!

C'était probablement comme ça qu'était présentée l'IA il y a 20 ans : fabriquer des machines conscientes équivalente à l'être humain. Actuellement il s'agit plus de fabriquer des machines et des programmes capables d'explorer et d'analyser un environnement afin de construire des stratégies ou des méthodes de résolution de problèmes adaptées.

[invite62588872]

Comme dit plus haut, il suffit de voir des films comme Terminator (ou I-robot?) pour voir que l'intelligence artificielle à grande échelle peut être extrêmement néfaste. Evidemment ces films ne sont que pure fiction, mais ils peuvent nous aider à prendre des mesures préventives, à faire attention.

[spi100]

Je ne sais pas si on peut vraiment argumenter sur la valeur de l'IA en se basant sur le test de Turing. Ce test n'a pas vraiment de base théorique, et repose sur l'idée que seule la forme compte : on dégage les notions affectives de l'intelligence pour ne garder que l'aptitude à manipuler une ontologie avec des règles logiques.

Les compétitions comme le prix Loebner ont lieu chaque année. Certains juges se font duper par la machine, mais comme le faisait remarquer PI-R2, certains jugent prennent des interlocuteurs humains pour des machines.
Car en définitif même un être humain sollicité pour s'exprimer en expert sur un sujet dont il ignore tout, va tout simplement raconter n'importe quoi. Pour peu que la personne soit de mauvaise foi, on peut rapidement avoir l'impression de discuter avec un programme bugger. Je pense que nous l'avons tous vérifié lors de soirées un peu arrosées.

Pour revenir sur la notion d'algorithme, pi-r2 a raison de dire que les remarques précédentes se base sur des algorithmes avec une entrée et une sortie. Il existe tout un pan de l'informatique qui traitent des méthodes de résolution non-algorithmiques. C'est "non-algorithmique" dans la mesure où le développeur de l'algorithme ne code pas explicitement la solution au problème dans le programme. La solution arrive comme une sorte d'effet de bord. Ce domaine inclut les réseaux neuronaux, les systèmes multi-agents, les algorithmes génétiques, ... La difficulté d'emploi de ces programmes est qu'il est très difficile de prévoir ce qu'ils vont faire car pour le moment on ne dispose pas de théories mathématiques efficaces pour appréhender l'émergence. Ca demande donc beaucoup d'expérience, de piquer dans des domaines connexes tels que l'ethologie, l'écononomie ou la biologie. Avec ce type de programmes on se rapproche de l'idée de programmes réalisant des actions non prévues par le développeur ( comme en SF ).

[invite06fcc10b]

Il existe tout un pan de l'informatique qui traitent des méthodes de résolution non-algorithmiques. C'est "non-algorithmique" dans la mesure où le développeur de l'algorithme ne code pas explicitement la solution au problème dans le programme.

Le terme non-algorithmique est impropre, car tout reste bien algorithmique. En IA, on parle de solution explicite ou implicite.
De nombreuses techniques d'apprentissage permettent effectivement de se passer d'une solution explicite et de trouver néanmoins les informations ou connaissances implicites qui aident à résoudre le problème.

[invite0e4ceef6]

pour répondre a la question de base, je dirais que l'intélligence humaine en soi, n'est pas un facteur absolue de moralité, ou etant sans danger... l'intélligence, semble plutôt etre une adéquation d'une somme de solution a un problème donnée... or dans l'ensemble des solutions proposé, il y en as d'ethique et d'autre de non-ethique, sans préjugé toutefois de leur efficacité.. relire sunt-tzu, ou machiavel pour voir que l'intélligence en-soi n'est pas un vecteur automatique de bonne moralité... d'ailleur, chez l'homme et même chez l'animal, le coté intélligence morale, n'est pas celui qui est recherché en premier, mais bien celui-ci de la solution la plus efficace généré dans le temps le plus court...

faire une IA, un generateur de solution en quelque sorte, ne pose pas la question de l'ethique, car l'ethique est forcement un limitateur de solution, qui elimineras du choix final, un bon nombre d'entre-elle car le correspondant pas a un type de solution dite ethiquement acceptable...

en-soi l'intélligence se comporte comme un outils, c'est une technique permettant la génération de solution, via diverse voie d'annalyse d'un problème... le choix final se fait par réduction en fonction de divers critère annexe souvant environmentaux, local au probleme lui-même...

l'IA n'est ni mauvaise ni bonne en-soi, si elle se trouve etre mauvaise, c'est que nous jugeons que les solutions qu'elle apporte sont immorale, ou innaproprié voir dangereuse... nous some tout les jours nous aussi confronté au travail de notre intélligence et en face des diverse solutions que celle-ci nous propose, et nous jugeons les solution possible aussi en fonction d'une ethique, ou d'un ensemble de loi morale qui validerons ou non une solution...

[invitedb5bdc8a]

qu'est ce que la pression du milieu dans un environnement simulé ?
C'est tout simplement ce que decide le programmeur...
...

Non. Comme tout ce qui est plongé dans notre univers, l'IA est soumise à des contraintes. Tellement visibles et évidentes qu'on ne les voit pas. Dans un ordinateur, la capacité de mémoire, la capacité de stockage (quoique avec internet...) et la disponibilité de temps processeur sont les contraintes environnentales auxquelles tous les programmes que nous avons développés sont soumis. L'intelligence est un emanière de raccourcir les calculs pour les rendre faisable en un temps plus court, en usant moins de capacité processeur. C'est la 'vision stratégique' de l'homme jouant aux échecs par rapport à la version purement calculatoire (ou presque) de deep blue. Je suis d'accord avec quetzal pour dire que nous avons une vision trop haute de notre intelligence qui n'est finalement qu'une forme de calcul s'autorisant des raccourcis et des erreurs. A la question, écrire le nombre 1/3 sous forme décimale, nous ne partons pas dans une boucle infinie. Pour les machines nous avons spontanément décidé de limiter le nombre de chiffres. Sinon le vrai algorithme simple pour ce calcul est déjà bloqué. L'explosion de possibilités rencontrée lors du parcours d'un arbre des possibles comme aux échec n'est pas différente.
Il est très clair que l'intelligence humaine est limitée par son support et que c'est pour cela que nous cherchons un support plus adapté pour atteindre des ordres de grandeurs très supérieurs. Cette intelligence nous aidera à survivre bien plus efficacement.

[invite8241b23e]

Je pense aussi à une notion importante : l'être humain, en cas de blessure, se répare tout seul. Imagine que tu as un ordinateur (robot) qui t'as posé dans une pièce, qui t'empêche d'accéder à la sortie en se mettant devant toi (il est très costaud). Ceci dit, il a de la nourriture à porté de main et te permet de ne pas non plus mourir.

Il arrivera un moment où lui aura une panne sans raison apparente qu'il ne sait pas réparer, alors que toi, en cas de blessure, ton organisme "se répare". Donc, tu finiras par battre l'ordinateur...

[invited494020f]

Bonjour,
Le Grand Larousse dit, sous "Intelligence Artificielle":
"Ensemble de théories et de techniques mises en œuvre en vue de réaliser des machines capables de simuler l'intelligence humaine."
Il s'agit bien de simuler et non de remplacer. En fait l'intelligence humaine peut être simulée dans certaines de ses fonctions, mais pas dans sa totalité. Les déductions logiques sont un jeu d'enfant à simuler, les inductions peuvent être remplacées par un tâtonnement aléatoire, mais certaines fonctions comme l'imagination ou les rêveries (donnant quelquefois lieu à des innovations importantes) sont le propre du fonctionnement cérébral et ne peuvent pas être simulées, même pas par des systèmes neuronaux.
En fait, aucune machine ne peut faire que ce qu'on lui dit de faire (y compris l'apprentissage, qui n'est qu'une constitution de base de données), au moyen d'instructions impératives, mais il est vrai qu'elle le fait beaucoup plus vite que nous, surtout quand il s'agit de procédures itératives, qu'elles exécutent à des vitesses incroyables (ce qui permet de résoudre des équations échappant aux solutions rationnelles).
Pour égaler l'intelligence humaine, on devrait "équiper" les machines de conscience et d'inconscience, que nous possédons, mais que nous ne pouvons pas "programmer".
Ceci dit, si une machine IA commet un acte condamnable ou néfaste, ce n'est pas elle qui en est responsable, mais l'homme qui l'a programmé.
Tout le reste n'est que vaine élucubration à base de films de science-fiction et de balivernes pseudo-philosophiques.
Amicalement paulb.

[invitedb5bdc8a]

ripostons en toute tranquilité.
1/ la définition du dictionnaire:
elle est bien incapable de définir les mots quels qu'ils soient de manière précise.
Qui plus est quand il s'agit d'un concept qui n'a pas de définition, comme l'intelligence.

Regardons à titre d'exemple la définition du mot téléphone dans les années 70 pour voir si on y parle d'un appareil individuel qui se transporte avec son propriétaire et permet de le joindre, de lui parler, de le voir , de jouer avec lui , à peu près partour où qu'il se trouve dans le monde.
C'est la même chose pour l'IA. la définition qu'on pouvait en donner il y a 50 ans ne m'apprends guère.

2/ Une machine ne peut faire que ce qu'on lui dit de faire: c'est vrai et faux. Il y a en effet des calculs (comme le calcul des décimales de Pi) dont on ne connait pas le résultat avant de l'avoir. la machine qui les calcule trouve donc quelquechose de nouveau et non de préprogrammé.
Certains résultats de programmes sont imprévisibles sans éxécuter le programme lui même (théorème de Godel appliqué au problème de Turing)

3/La comparaison avec l'intelligence humaine: ce qui est programmé dans un ovule fécondé humain, quelque soit son format (ADN, protéines...) constitue un programme qui se déroule de manière bien contrôlée et qui conduit inéluctablement au développement de l'intelligence. L'intelligence est donc le résultat du déroulement d'un programme, relativement peu aléatoire d'ailleurs. Il n'y a pas de raison qu'on ne puisse pas programmer l'intelligence, la conscience. L'argument de dire que ça n'a pas encore été fait (qui est vrai) ne suffit pas pour affirmer que ce n'est pas possible.
Nous sommes bien plus simples que nous le croyons.

4/ à propos de la science fiction: je ne sais pas si c'est moi, mais il me semble que l'horizon temporel entre ce que l'on peut imaginer pour un futur très très lointain et la réalisation de ces inventions diminue de plus en plus vite ces derniers temps.