L'intelligence artificielle, peut-elle se révéler néfaste ?

[invite13dfe127]

2/ Une machine ne peut faire que ce qu'on lui dit de faire: c'est vrai et faux. Il y a en effet des calculs (comme le calcul des décimales de Pi) dont on ne connait pas le résultat avant de l'avoir. la machine qui les calcule trouve donc quelquechose de nouveau et non de préprogrammé.

Tu confonds l'algorithme que l'on connait et le resultat que l'on ne connait pas.

Certains résultats de programmes sont imprévisibles sans éxécuter le programme lui même (théorème de Godel appliqué au problème de Turing)

Développe ce point j'ai peur de pas tout saisir...

[...]L'intelligence est donc le résultat du déroulement d'un programme, relativement peu aléatoire d'ailleurs.

Comment expliquer l'existence d'autant de point de vue ?

[invite40d1dd91]

Imaginons l'expérience pas très éthique suivant:

On ponctue un échantillon d'individus humains âgés de quelques mois (exemple: 1000) et on les laisse vivre dans une forêt pendant plusieurs années.
Ceux si n'ayant pas de mères l'expérience est légèrement faussée.
Nous devrons intervenir pour que ces bébés survivent dans les premiers temps de leur vie mais sans leur apprendre quoi que ce soit !

Ces bébés vont grandir sans culture et n'auront que leurs instincts pour survivre. On pourra considérer l'instinct comme "une intelligence génétique" présente dès la naissance.

Une fois enfant, s'auront-ils marcher ? Non.
S'auront-il faire du feu ? Non plus.
Apprendront-ils l’empathie ou la compassion ?
Comprendront-ils le calcul formel ? Même moi j’ai du mal
....
Ils ne seront même pas des sortes de "singes" ou de tarzan, les singes ayant une culture propre.

Par contre, ces individus auront un potentielle d'intelligence plus grand que des singes.
Tout ça pour dire que l'intelligence dont nous nous vantons n'est pas intrinsèque et n'est que le fruit de notre culture et de la transmission du savoir.

Notre support d'intelligence, le cerveau a un potentielle d'intelligence très grand. Mais, le potentielle d'un ordinateur est très limité. Prenons le meilleur réseau neuronale du moment et donnons-lui toute la puissance et tout les Tera de mémoire dont il a besoin!
Je doute que celui si puisse un jour penser consciemment, rêver ou même créer.

Prenons l’exemple du robot qui apprend à marcher sur 6 pattes. D’accord, c’est une avancé génial mais le programme de base qui permet au robot d’apprendre à marcher sur 6 pattes reste un programme d’apprentissage à marcher ! C’est donc un programme dédié à l’apprentissage à marcher et il ne sera jamais plus !
Alors que l’homme est une machine à apprendre, ça laisse beaucoup plus de possibilité.

Malgré tout, je ne dis pas qu’il n’est pas possible, qu’un jour, à partir d’un réseau neuronale très complexe, l’intelligence, voir même la conscience ne puisse pas émerger.

Pour la question, "néfaste" n'est qu'une histoire de point de vue ;p

@++

[invitedb5bdc8a]

effectivement nous nous écartons du débat sur néfaste ou non et nous partons sur l'IA est elle possible qui a déjà été traité.
Pour psykokarl, non je te rassure, je ne confonds rien et je maintien point par point ce que j'ai dit.
Les données et les algorithmes sont de la même nature pour la machine, une suite de données binaires. C'est le programmeur qui fait une distinction (entre règles et faits dans les systèmes experts par exemple) et c'est cette distinction qui bloque l'intelligence et qui nous fait apparaitre des machines qui ont déjà un potentiel d'intelligence important par leur hardware nous paraitre stupides parce qu'elles sont programmées sans imagination (ou avec trop de volonté de controle du résultat). On peut donc traiter des algorithmes comme des données.
Pour l'algorithme génétique, il est probable que la nature ait rencontré les mêmes problèmes.

Penser que l'optimisaiton des calculs n'est qu'une partie de l'IA montre bien la vision trop compliquée que l'on a de l'intelligence. La compression des données est la caractéristique essentielle de l'intelligence. L'intelligence c'est l'efficacité du calcul qui permet à un humain de calculer plus vite que la machine. Par exemple je suis sur que tu calcules plsu vite que ton ordinateur le nombre 99934436756658690 ! * (2+1-3)
par ce que tu sais comment commencer le calcul. Ce n'est qu'un calcul et on voit déjà la différence entre l'intelligence et la force brute pour sa résolution. Si on est capable d'écrire un algorithme calculant intelligement , alors on dispose d'une vraie IA capable de tout faire.

je suis entièrement d'accord avec le travail en équipe. La différence de nos support fera que pendant longtemps intelligence humaine et artificielle seront complémentaires. Et comme ce sont des intelligences elles comprendront leur intérêt commun et coopéreront plutot que de s'affronter. Ce sont les esprits obtus qui sont toujours à l'origine des conflits.

Sur le calcul de Pi, je ne confonds pas l'algorithme et le résultat. Je donne un exemple de quelquechose de parfaitement déterminé et clairement programmé dont l'effet (ici le résultat, mais ce pourrait être une décision) est imprévisible. C'est inhérent aux mathématiques, pas qu'aux machines.

Sur Turing et Gödel: le problème de Turing consiste à écrire un programme qui peut tester si un programme quelconque s'arrête en un temps fini. Le théorème de godel permet de répondre à cette question qu'un tel programme n'existe pas. Il existe donc des programmes dont le résultat ne peut pas être calculé par un autre programme.

Pour l'existence de points de vue et de gens tous différents à partir d'un même programme, c'est justement le résultat de l'évolution. Un programme intelligent ne peut rester identique à son jumeau. Il s'adapte forcément un peu à son environnement et son expérience. Si il ne s'adapte pas , il n'est pas intelligent. Si il s'adapte il change et ne ressemble plus à ce qu'il était au départ. Il n'y a aucun paradoxe, au contraire, c'est la clé pour comprendre l'intelligence.

Pour azman:
d'accord avec ton exemple. Mais pour moi l'intelligence est le potentiel, pas ce que l'on a appris. Les enfants sauront marcher (ça c'est génétique) , mais ils n'inventeront pas forcément les mêmes choses que nous, c'est clair. Ils n'auront pas la même culture. Mais il ne seront pas plus ou moins intelligents.

Par contre rien ne te permets d'affirmer que les ordinateurs actuels ont plus ou moins de potentiel qu'un humain, puisque pour l'instant le programme autonome n'existe pas. La capacité du cerveau humain et son potentiel me paraissent assez limité. La preuve, nous ne sommes même pas capable d'écrire un petit programme développant de l'intelligence (c'était un trait d'humour).

[invite40d1dd91]

d'accord avec ton exemple. Mais pour moi l'intelligence est le potentiel, pas ce que l'on a appris. Les enfants sauront marcher (ça c'est génétique) , mais ils n'inventeront pas forcément les mêmes choses que nous, c'est clair. Ils n'auront pas la même culture. Mais il ne seront pas plus ou moins intelligents.

Par contre rien ne te permets d'affirmer que les ordinateurs actuels ont plus ou moins de potentiel qu'un humain, puisque pour l'instant le programme autonome n'existe pas. La capacité du cerveau humain et son potentiel me paraissent assez limité. La preuve, nous ne sommes même pas capable d'écrire un petit programme développant de l'intelligence (c'était un trait d'humour).

Pour la marche (debout), je pensais que les enfants l'apprenaient par mimétisme et non par instinct...

Mais je pense toujours que ces individus n'inventeront rien et n'auront pas une capacité d'abstraction évolué avant plusieurs 100ene de génération, ce malgré que le cerveau leur permet de conceptualisé. Ils ne sauront même pas compter avant plus génération.

lol, pourrais-tu me faire pour hier un ptit programme capable de rire aux blagues ?

[A voir en vidéo sur Futura]

[invited494020f]

Bonjour,
Je ne prends que trois exemples, mais tout le texte est à l'avenant:

Par exemple je suis sur que tu calcules plsu vite que ton ordinateur le nombre 99934436756658690 ! * (2+1-3) par ce que tu sais comment commencer le calcul.

Faux! Le plus imbécile des programmeurs sait qu'il faut vérifier la non-nullité de chaque facteur et surtout de chaque dénominateur avant d'effectuer un calcul. Il existe des sous-programmes enfantins pou cela, comme pour beaucoup d'autres causes de bogue fatal! Donc, l'on évite le factoriel, dont le calcul précis demande en effet un programme mahousse (mais pas particulièrement intelligent), vu que le nombre de chiffres et de décimales de toute machine, intelligente ou pas, est limité.

Ce n'est qu'un calcul et on voit déjà la différence entre l'intelligence et la force brute pour sa résolution.

Faux! Ce n'est pas une question d'intelligence, mais d'une simple règle de programmation (de très bas niveau). Et comment définit-on la force brute en informatique?

Si on est capable d'écrire un algorithme calculant intelligement , alors on dispose d'une vraie IA capable de tout faire.

Faux! Les programmes d'IA utilisent bien des algorithmes et des calculs, mais ce ne sont pas eux qui rendent le programme "pseudo-intelligent" et n'en constituent que la partie "utilitaire". Et j'aimerais bien voir un programme IA capable de tout faire, après avoir usé pas mal d'efforts pour concevoir des programmes simulant des tout petites parties de l'intelligence humaine, comme par exemple la conduite intelligente d'une fermentation, qu'un paysan fait les doigts dans le nez, sauf quand il part en week-end.
Les histoires de Gödel et de "Tous les Siciliens mentent" n'a rien à voir avec l'IA où l'on évite de son mieux ce genre de plaisanterie si l'on veut sortir des programmes utilisables, qui ne queutent pas à tout bout de champ!
Amicalement paulb.

[invitedb5bdc8a]

Bonjour,
Faux! Le plus imbécile des programmeurs sait qu'il faut vérifier la non-nullité de chaque facteur et surtout de chaque dénominateur avant d'effectuer un calcul. Il existe des sous-programmes enfantins pou cela, comme pour beaucoup d'autres causes de bogue fatal! Donc, l'on évite le factoriel, dont le calcul précis demande en effet un programme mahousse (mais pas particulièrement intelligent), vu que le nombre de chiffres et de décimales de toute machine, intelligente ou pas, est limité..

Là tu pinailles sur les détails. j'ai effectivement pris un exemple pour lequel on peut compliquer l'algorithme de calcul pour s'en sortir. Mais il est facile de générer des calculs pour lesquels il faut inventer un nouvel algorithme à chaque fois. Ceci dit on touche déjà un point intéressant: l'algorithme que tu proposes pour se sortir de ce problème (tester avant la nullité de chaque facteur) est plus lent et donc moins performant que le calcul immédiat sans tester les facteurs, pour un calcul simple genre (2+3)*(4+5). (et s'il te plait ne me réponds pas que vu la vitesse des machines ça n'a pas d'importance). seulement cet algo évidemment peut devenir ridicule comme tu le soulignes pour le calcul que je proposais.
Maintenant comment testes-tu la nullité d'un calcul sans le réaliser, au moins partiellement ?
comment gères-tu (987!-(986+1)!)*(maousse )? tu rajoutes un nouveau test disant que quelle que soit la fonction et x f (x)-f(x)=0 ... Il y a bien un moment ou même le plus intelligent des programmeur va se planter aussi.

la force brute en informatique c'est utiliser la puissance de calcul pour tester toutes les possibilités sans chercher un algorithme simple, élégant, efficace...La règle de "très bas niveau " est le premier pas nécessaire vers l'intelligence.

C'est justement parce que l'on veut faire des programmes d'IA à objectif limité en croyant simplifier le problème que l'on se plante. Une intelligence est nécessairement universelle et capable de s'attaquer (après un apprentissage adéquat) à tout type de problème. Donc résoudre le problème de la programmation en langage courant c'est la même chose que résoudre le problème de la traduction entre langues, c'est pareil que jouer aux échecs.

maintenant mon objectif n'est pas de faire des programmes utilisables mais de décomposer la construction de l'intelligence en étapes précises.

NB: Au lieu de dire 'tout est à l'avenant' , j'aimerais une réfutation construite point par point, qui permettrait d'étayer la discussion

[invited494020f]

Les problèmes du programmeur d'IA et la probabilité d'un programme "néfaste".
Les problèmes classiques du programmeur qui se limite aux algorithmes et aux calculs sont connus par tous ceux qui écrivent (avec succès) des programmes simples, même si ces programmes comportent des dizaines de milliers de lignes.
Écrire un programme d'IA ou de système expert offre beaucoup plus d'occasions de se planter, pour la simple raison qu'on est obligé à certains moments de "laisser la bride" au programme qui peut éventuellement avoir envie de créer une base de données excédant les possibilités de la machine, ou d'effectuer des itérations sans fin, ne débouchant pas sur une valeur fixe, mais oscillant dans une zone d'incertitude. Il peut aussi s'inspirer de la théorie du chaos et conduire à des conclusions folles. Pour cette raison on est obligé d'installer des "garde-fous" un peu partout pendant l'écriture et le "rodage" du programme.
Ce sont les problèmes principaux que j'ai rencontré. Depuis les méthodes ont évolué et d'autres problèmes ont pu émerger, surtout dans les systèmes comme le pilotage (d'avion) informatique où tout erreur est prohibée, au point qu'on utilise trois ou plusieurs calculateurs avec décision majoritaire et signalisation bruyante en cas de panne de l'un d'eux.
Dans tous les cas c'est le programmeur et ceux qui valident son programme qui sont responsables de son bon fonctionnement. Dans l'état actuel des choses il est hautement improbable qu'un "docteur Folamour" écrive un programme d'IA "néfaste" et que ce programme franchisse toutes les barrières qui sont opposées aux bogues et aux folies informatiques.
Les programmes d'IA ne sont pas comme les programmes "grand public" vite faites qui, même chez les grandes firmes, restent bourrés de bogues même après une longue diffusion, au point qu'on est obligé de faire des mises à jour périodiques.
Amicalement paulb.

[invite13dfe127]

Non. Comme tout ce qui est plongé dans notre univers, l'IA est soumise à des contraintes [...] Dans un ordinateur, la capacité de mémoire, la capacité de stockage (quoique avec internet...) et la disponibilité de temps processeur sont les contraintes environnentales auxquelles tous les programmes que nous avons développés sont soumis.

Attention tu confonds les données theoriques qui permettent la mise au point d'algorithmes metaheuristiques avec les contraintes liés aux limites technologiques qui handicapent particulierement les algorithmes plus naifs...
Dans le cas des algorithmes génétiques les contraintes viennent surtout du choix des regles qui regissent la selection, les mutations et les recombinaisons et voir "shuffle" dans le cas de systemes multiagent. Avec malchance on peut tomber sur des optimums locaux voir meme des resultats "divergeant". Dans ce cas l'augmentation de la puissance de calcul ou de la memoire permet seulement de voir plus vite quand ca ne marche pas.

L'intelligence est une manière de raccourcir les calculs pour les rendre faisable en un temps plus court, en usant moins de capacité processeur.

C'est une petite partie de l'IA. C'est plus un probleme d'optimisation d'algorithime.

Il est très clair que l'intelligence humaine est limitée par son support et que c'est pour cela que nous cherchons un support plus adapté pour atteindre des ordres de grandeurs très supérieurs. Cette intelligence nous aidera à survivre bien plus efficacement.

On peut aussi travailler en equipe, deux cerveaux valent mieux qu'un. Ca nous a pas trop mal reussit jusqu'a present et il y a encore matiere à progresser dans ce domaine ...

[invite376ff830]

Je pense que pour l'intelligence artificielle, le mot "artificielle" est synonyme de peu évoluée. Je m'explique:

On peut considerer l'intelligence humaine comme la conscience de ce qu'il faut faire et ne pas faire, où il faut aller etc, seulement, une conscience, ça se travaille et ça s'apprend. En fait, on est "programmé" par la société (parents, école lois) de la même façon qu'un ordinateur est programmé, à un niveau simplement bien plus avancé que le machines. Et on complète nous même le programme, chose que les machines font peu, ou mal.

Je crois que pour conclure je dirais qu'il n'existe pas de machine intelligentes, mais uniquement des machine BIEN PROGRAMMEES, par l'homme...

Oui on ne peut pas isoler l'homme de son environnement car il évolue avec tout ce qui l'entoure ...