L'intelligence artificielle, peut-elle se révéler néfaste ?

[raph93]

Après multiples changements, l'intelligne artificielle se rapproche de plus en plus de la nôtre... Pourra-t-elle prendre une facette néfaste ; destruction et vandale.. Un seul problème de programmation et «boom»..!

[kkZ]

Personnelement, je pense que OUI...


En effet, j'ai vu un reportage sur Deep Space One (sur la 5) il y a peu de temps, et les programmeurs de la "navette" avaient ainsi tout établi pour que la navette s'auto-gère.

Mais seul problème, en voulant tester un éventuel problème, ils ont découvert véritablement leur programmation, beaucoup plus importante que prévu, et la navette disjonctait complétement et les programmeurs était vraiment très surpris et ne se rappellé même plus de leur telles programmations avec seulement de simples problèmes "testés"...


A partir de là, je crois que l'AI peut être néfaste dans toute création... Jusqu'à quel point, là c'est plus difficile à dire... Tout dépends surement de l'évolution et des objectifs humains!

[pi-r2]

Il y a deux expressions contradictoires dans ta question : Intelligence et problème de programmation.
Une vraie intelligence est capable de réparer les problèmes de programmation.
Distinguer intelligence artificielle et naturelle et un peu difficile. Pour moi l'intelligence est un phénomène indépendant de son support. On pourra donc attendre les mêmes errances d'une intelligence artificielle que d'une intelligence humaine. Maintenant l'intelligence permet de comprendre son environnement et d'agir le mieux possible en conséquence. Si on pense que nos valeurs de bien et de mal sont les bonnes, elle triompheront et seront adoptées par une IA au même titre qu'en toute liberté la plupart d'entre de nous adopte ces règles de conduite qui nous permettent de vivre en société.

[vanos]

Bonsoir,
Je pense que oui, la série des films "Terminator" sont basés sur le thème de la révolution des machines et de l'élimination de l'humanité.
Salut.

[Jarod]

Envoyé par pi-r2

Une vraie intelligence est capable de réparer les problèmes de programmation.

=>L'intelligence humaine n'est pas terrible terrible, nan ?

[benjy_star]

Je pense que pour l'intelligence artificielle, le mot "artificielle" est synonyme de peu évoluée. Je m'explique:

On peut considerer l'intelligence humaine comme la conscience de ce qu'il faut faire et ne pas faire, où il faut aller etc, seulement, une conscience, ça se travaille et ça s'apprend. En fait, on est "programmé" par la société (parents, école lois) de la même façon qu'un ordinateur est programmé, à un niveau simplement bien plus avancé que le machines. Et on complète nous même le programme, chose que les machines font peu, ou mal.

Je crois que pour conclure je dirais qu'il n'existe pas de machine intelligentes, mais uniquement des machine BIEN PROGRAMMEES, par l'homme...

[kkZ]

Exact, mais imaginons une machine programmée pour évoluer et apprendre seule... un peu comme l'homme évolue lui aussi dans "son coin"... Serait-ce possible? Et au quel cas celà pourrait être extrêmement dangreux et néfaste?

Pourrait-elle même dépasser l'intelligence humaine?

[benjy_star]

Je crois que même si ce dont tu parles arrivait, il ne faut pas oublier que ce serait l'intelligence de l'homme qui ferait du mal à l'homme. On peut à ce compte là, faire le parallèle avec la pollution.

Sinon, j'ai vu des machine qui arrivaient à se reprogrammer, pour marcher sur 6 pattes. En fait, leur programme était (je vais pas faire semblant de tout comprendre) à partir de rien, que le machine sur 6 pattes arrive à se déplacer, et là, on arrive à un mouvement correct.

Cet exemple (reportage télé), reste quand même, à l'échelle de l'intelligence, une faible avancée.

[JPL]

Envoyé par vanos

Je pense que oui, la série des films "Terminator" sont basés sur le thème de la révolution des machines et de l'élimination de l'humanité.

Depuis quand un film de fiction est-il une référence scientifique ? On peut aussi voler sur un balai, je l'ai vu dans Harry Potter.

[Zen08]

L'intelligence Artificielle est le fruit de l'intelligence humaine.
Donc si l'intelligence humaine est capable de nuire à l'humanité, alors sa
copie pourra ou fera de même...
A méditer sérieusement!

[Psykokarl]

La révolte des machines façon "Terminator" est ni pour demain, ni pour apres demain. L'IA telle qu'on la connait aujourd'hui n'a aucune chance de donner des machines capable de copier l'intelligence de homme ou plutot celle d'un hamster ou d'un cafard...
Pour l'heure il n'existe pas d'heuristique qui favorisent l'emergence d'un logiciel intelligent.
D'ailleurs qui peut me dire ici ce qu'est l'intelligence ?
Si il sagit de faire des tests de QI nous sommes deja tous depassé mais cela rend il une machine intelligente pour autant ?

[Rincevent]

Envoyé par JPL

Depuis quand un film de fiction est-il une référence scientifique ?

on peut quand même citer les lois de la robotique d'Asimov comme étant pas complètement irrationnelles, non ?

m'enfin, je suis d'accord que ce n'est pas du même niveau que Terminator... et cela revient à ce que disait benji_star

Envoyé par b_s

Je crois que pour conclure je dirais qu'il n'existe pas de machine intelligentes, mais uniquement des machine BIEN PROGRAMMEES, par l'homme...

cf. les "éventuels problèmes possibles" inventés par Asimov et autres auteurs...

[pi-r2]

Envoyé par Psykokarl

L'IA telle qu'on la connait aujourd'hui n'a aucune chance de donner des machines capable de copier l'intelligence de homme ou plutot celle d'un hamster ou d'un cafard...
Pour l'heure il n'existe pas d'heuristique qui favorisent l'emergence d'un logiciel intelligent.
?

certes, mais si on prend l'évolution naturelle comme exemple, le plus dur a été de faire un hamster. L'homme et l'intelligence ont suivi très rapidement...

La 'nature' du phénomène qui permet l'intelligence animale et l'intelligence humaine est la même. L'intelligence humaine est juste plus abstraite, capable de traiter des idées et de se prendre elle même pour objet. ce n'est qu'un bouclage de plus.


mode page de pub ON:
Si l'IA vous branche, venez discuter sur
http://in.silico.free.fr/nouveaux_forums/index.php
Mode page de pub OFF.

[Zen08]

Envoyé par benjy_star

Je crois que pour conclure je dirais qu'il n'existe pas de machine intelligentes, mais uniquement des machine BIEN PROGRAMMEES, par l'homme...

Nous ne pouvons pas nier un fait : "L'homme a toujours voulu régner aussi bien sur l'animal que sur son semblable!"
Ce n'est pas que dans les films que beaucoup veulent être le maitre du monde. A cela il existe des hommes d'élites dans l'ombre au dessus même des politiciens", sans parler des hommes de stratégies militaires.

La seule chose qui peut nous consoler, c'est que l'informatique n'en est qu'au stade préhistorique...(paroles de programmeur PC que je suis)

A méditer sérieusement!

[quetzal]

si l'on définie l'intelligence comme un mode de résolution des problèmes... alors, celle-ci se definie dans la réalisation d'un shemas de liaison entre un point a et b... elle est donc un phénomène finalisé, reste a savoir si pour toute intélligence, tout les chemins lui seront autorisé... ainsi l'intélligence, doit faire le choix dans ses chemins autorisés.
kant a bien définie ce phénomène intentionel chez l'homme, la solution du problème ne peux passer par certains chemin et surtout doit mettre comme finalité absolue l'homme... l'homme ne saurait-etre un chemin par lequel l'intéligence viserais a un autre but... alors qu'elle en est naturellement capable puisque en soi amorale, et aethique... l'intélligence ne connait que l'economie de son trait entre deux point(ce qui veux a la fois tout et ne rien dire, puisque le meilleur chemin est toujours celui le plus court en fonction du domaine de représentation)

et là est le problème d'une intélligence artificielle pure, de tout les chemins possibles quel seras capable de determiner, certains auront une très grande efficacité, mais ne seront peut-etre pas les meilleurs, pour ceux qui ou celle qui ne seront que des pions sur son echiquier... le machiavelisme en ce sens, ou l'art de la guerre de sun-tzu, ou l'art de se jouer de s'appuyer sur certainne donnée immorale, afin d'optimiser le chemin de réalisation, en vue d'une fin...

le problème que poserais cette intélligence pure, est sa capacité de controle des grilles de resolution possible du jeu... tant que c'est kasparov qui fait un gambit gagnant a 32 coup contre deep-blue ça vas encore, qu'une intélligence pure soit capable de prevoir a 160, 3600, 3600000 x coup a l'avance, le joueur adverse n'a pas trop de chance de l'emporter, mais si il s'agit d'economie, les cause produiront les mêmes effets...

un danger?? oui, si elle a tout pouvoir, le jugement et la force d'action dans ses mains... le film Wargames est très significatif sur les dangers de l'IA, et de l'automatisation du couple jugement/force

[Psykokarl]

Envoyé par pi-r2

certes, mais si on prend l'évolution naturelle comme exemple, le plus dur a été de faire un hamster. L'homme et l'intelligence ont suivi très rapidement...

Hummm... Oui, je suis plutot d'accord pour dire que le plus dur est de faire un hamster.

Le probleme c'est que l'evolution naturelle n'a pas de but. On ne peut pas parler de difficultés pour arriver à l'intelligence d'un hamster. Il faut plutot le penser comme: de toute "les intelligences" possible celle du hamster a été sélectionné.

Nombre de ceux qui travaillent dans l'IA pensent à la selection "naturelle" pour selectionner une intelligence mais cela pause un probleme.

qu'est ce que la pression du milieu dans un environnement simulé ?
C'est tout simplement ce que decide le programmeur...
Quel agent ou animate doit etre selectionné ?
La encore c'est le programmeur qui decide.

La seule chose que l'on peut avoir en fin de compte c'est le programme choisi par le programmeur qui se trouve etre une "intelligence" adapté pour les problemes defini par le programmeur.

Peut de chance de se retrouver avec un skynet psychopathe sans le vouloir. A moins de vouloir se lancer dans l'e-terrorisme...

Attention je ne dis pas qu'une IA autonome qui puisse concurencer l'homme est impossible. Mais pour l'heure on ne possede pas assez d'outils theoriques pour pousser un programme sur cette voie. Mais la c'est un tout autre debat.

ps: Perso je pense que la trilogie de "The Matrix" est beaucoup plus realiste pour ce qui est de l'avenir de l'IA que "E-Robot" ...

[Zen08]

Il est vrai que l'IA n'est pas suffisament développé au point de battre Kasparov. J'ai entendu une version qui disait que Kasparov s'était fait acheté par IBM, mais bon! cela dit le programme se base en fait sur les habitudes du joueur, éliminant par ce fait un grand nombre de combinaison à calculer.
Que l'on ne se trompe pas, l'ordinateur n'est pas pourvu encore d'intelligence, il y a encore du travail...

A méditer sérieusement!

[vanos]

Envoyé par Zen08

Que l'on ne se trompe pas, l'ordinateur n'est pas pourvu encore d'intelligence, il y a encore du travail...

Bonjour,
Oui, comme tu le dis si bien "pas encore", mais dans l'avenir....
Les Hommes sont assez fous (ou imprudents) pour y parvenir et plus vite qu'on pense. La puissance des futurs ordinateurs quantiques dépasse l'imagination.
Amicalement.