Intelligence artificielle - Idée de diagnostic

[_Goel_]

Bonjour,

Suite au décès de Marvin Minsky, je me suis demandé comment l'IA pouvait être détectée. Alors j'ai "pondu" ces règles :
- Règle 1 : La prévisibilité de la réponse d'un système ne doit pas être de 100% (sans programmation explicite en ce sens).
- Règle 2 : Le système doit être auto-adaptatif (c'est à dire pouvoir changer sa configuration interne dans le temps, sans intervention extérieure) en fonction des stimulus qu'il reçoit
- Règle 3 : Le système doit pouvoir fournir des réponses cohérentes sans stimulus.

Pour moi, ces 3 critères sont déjà satisfaits, notamment avec les réseaux neuronaux. il reste les deux dernières règles :
- Règle 4 : Le système doit être auto-auto-adaptatif en temps réel, c'est à dire pouvoir changer sa configuration interne dans le temps, sans intervention extérieure, en fonction de l’interaction des réponses créées dans l'étape 3 (qui deviennent donc techniquement des stimulus potentiels). "En temps réel" signifie que cette auto-auto-adaptation se fait avec une échelle de temps similaire à celle des stimulus.
- Règle 5 : Sur une période de temps assez longue, il existe un nombre non nul de tâches pour lesquelles le système devient plus performant sans y avoir été programmé.

Et donc pour moi, il y a des systèmes informatiques qui sont déjà à la limite de l'intelligence. Il se peut que certains soient même intelligent (en laboratoire) sans que nous ne nous en soyons aperçu. Peut-être faudra-t-il avoir créé une souris pour se rentre compte que les bactéries que l'on a créées depuis des années sont aussi intelligentes !)

Bref, J'ai 2 questions :
- Que pensez-vous de ces règles ?
- Est-ce qu'un Azimov/Clarke ou quiconque d'autre aurait formulé (un peu mieux) de telles règles !

Merci d'avance !!!

PS : Evitez les débats sur la définition de l'IA, prenez votre propre définition ou prenez du recul, sinon, on s'en sortira pas !
-----

[obi76]

Bonjour,

déjà la règle 1 me parait assez bancale. Qu'entends-tu par "prévisible" ? Si je prend un cerveau à l'instant t et que je fais une simulation extrêmement fine de tout ce qui s'y passe (même si ça doit prendre des siècles) et que je peux prédire ce qu'il fait à l'instant t+1 de manière certaine, c'est une prévision ? Les réflexes pourraient ne pas etre prévisibles ? Si je prédis que dans 5 minutes tu auras au moins respiré une fois, c'est une prédiction, pourras-tu aller contre ?

Regle 3 "cohérent", pourquoi, et comment définir "cohérent" ?

[_Goel_]

Prévisible : un même set de stimulus en entrée entraînera une réponse identique. (ex : pour moi un réflexe est dénué d'intelligence)
Cohérent = adapté ou logique.

[obi76]

Prévisible : un même set de stimulus en entrée entraînera une réponse identique.

Hmm et qui te dit qu''à un état bien défini, un cerveau ne se comportera pas de cette manière ?

Cohérent = adapté ou logique.

Hmmm je ne suis pas sur que face à n'importe quel situation, tout le monde adopte un comportement adapté...

[A voir en vidéo sur Futura]

[_Goel_]

Hmm et qui te dit qu''à un état bien défini, un cerveau ne se comportera pas de cette manière ?

Les connexions synaptiques évoluent en continu. Donc de facto un même stimulus "pourra*" entraîner une réponse différente

* Un physicien dirait "si t est le temps d'attente, il existe un stimulus S pour lequel il existe un temps minimal T tel que si t>T, la réponse au stimulus "f(t)" sera différente : f(t)≠f(t+T)

Hmmm je ne suis pas sur que face à n'importe quel situation, tout le monde adopte un comportement adapté...

=> on peut très bien avoir un comportement "non intelligent" (ex : réflexe), ou un traitement cognitif donc la réponse est illogique/absurde (ex: connerie - dslé, j'ai pas trouvé d'autre mot !)

[obi76]

Les connexions synaptiques évoluent en continu. Donc de facto un même stimulus "pourra*" entraîner une réponse différente

Certes, mais dans ce cas comment faire la différence entre un programme qui évolue (ou meme le contenu de la mémoire qu'il utilise) d'un cerveau où les connexions évoluent aussi ? Si je prends deux fois le meme cerveau (memes connexions, meme état, etc), et que je lui fait un stimuli, qu'est ce qui te dit que sa réponse ne sera pas toujours la meme ?

* Un physicien dirait "si t est le temps d'attente, il existe un stimulus S pour lequel il existe un temps minimal T tel que si t>T, la réponse au stimulus "f(t)" sera différente : f(t)≠f(t+T)

Oui, mais là si on creuse jusqu'au bout on va à la problématique du déterminisme.

=> on peut très bien avoir un comportement "non intelligent" (ex : réflexe), ou un traitement cognitif donc la réponse est illogique/absurde (ex: connerie - dslé, j'ai pas trouvé d'autre mot !)

Hmmm, moui, là aussi il y a un truc qui me chiffonne. Dans ce cas tes tests ne seraient valables qu'à partir d'un certain niveau d' intelligence ? Si on prend un con et qu'il ne les passe pas, alors on pourrait en déduire qu'il n'a pas un soupçon de lueur d'intelligence ? (Pour certains, ça ne fait aucun doute, mais quand meme... ).

[IgorBosko]

Bonjour,

je ne suis pas convaincu qu'un système qui est capable de réécrire son code source (auto-auto-adaptation) aboutisse nécessairement à une forme d'intelligence qui comporte une conscience (mot dont je serais incapable de donner une bonne définition par ailleurs). Un tel système revient en gros à un système adaptatif qui peut s'auto-répliquer avec des variations et dont la population des répliques soient soumise à un mécanisme de sélection naturelle par exemple.

Est-ce qu'un tel schéma abouti obligatoirement à l'intelligence?
Quelle forme d'intelligence: avec ou sans conscience?
Est-ce qu'un langage émergera nécessairement entre les individus de cette population?
Quel est alors le rôle du milieu extérieur dans tout ça?
L'intelligence pourrait-elle émerger sans pression externe ou avec un individu unique auto-auto-adaptatif traitant des données sans interaction avec "un monde" (virtuel ou pas)?

[_Goel_]

Certes, mais dans ce cas comment faire la différence entre un programme qui évolue (ou meme le contenu de la mémoire qu'il utilise) d'un cerveau où les connexions évoluent aussi ?

Pourquoi faire la différence ?

Si je prends deux fois le meme cerveau (memes connexions, meme état, etc), et que je lui fait un stimuli, qu'est ce qui te dit que sa réponse ne sera pas toujours la meme ?

La règle 1 ne parle pas de ce cas (mêmes connexions/même état), puisque la réponse au stimuli est supposée induire un changement interne (connexions état etc...) provoquant potentiellement une réponse différente.

Oui, mais là si on creuse jusqu'au bout on va à la problématique du déterminisme.

En théorie, oui , mais dans les faits, ce genre de situation ne me semble pas problématique à vérifier

Hmmm, moui, là aussi il y a un truc qui me chiffonne. Dans ce cas tes tests ne seraient valables qu'à partir d'un certain niveau d' intelligence ?

Ce test permet de détecter l'intelligence, pas de détecter l'absence d'intelligence (faux négatif). C'est pas parce que je le rate que je suis pas intelligent, mais si je le réussis, je suis intelligent.

Si on prend un con et qu'il ne les passe pas, alors on pourrait en déduire qu'il n'a pas un soupçon de lueur d'intelligence ? (Pour certains, ça ne fait aucun doute, mais quand meme... ).

Bonjour,

je ne suis pas convaincu qu'un système qui est capable de réécrire son code source (auto-auto-adaptation) aboutisse nécessairement à une forme d'intelligence qui comporte une conscience (mot dont je serais incapable de donner une bonne définition par ailleurs). Un tel système revient en gros à un système adaptatif qui peut s'auto-répliquer avec des variations et dont la population des répliques soient soumise à un mécanisme de sélection naturelle par exemple.

C'est pour ça qu'il n'y a pas que cette règle !

Quelle forme d'intelligence: avec ou sans conscience?

Attention : Intelligence + conscience dans un même topic = point Godwin !
Sinon, pour moi, la conscience est une sorte de conséquence de la règle 3 (que j'aurais peut-être dû faire passer dans le paragraphe suivant...) qui émerge lorsque le système devient capable de faire des abstractions (peuvent venir ensuite la conscience du milieu extérieur, la conscience de soi etc...)

Est-ce qu'un langage émergera nécessairement entre les individus de cette population?

Cela déborde du cadre de cette discussion, mais àmha oui, mais il faut voir plus le langage comme un outil d'interaction avec son environnement. La réponse du système est une forme de langage en elle même. Dans un groupe, si les réponses sont efficaces elles seront reprises sans êtres comprises, pour former des éléments de réponses communs, pouvant in fine servir de briques à un langage (échange d'information structuré) entre les individus.

Quel est alors le rôle du milieu extérieur dans tout ça?
L'intelligence pourrait-elle émerger sans pression externe ou avec un individu unique auto-auto-adaptatif traitant des données sans interaction avec "un monde" (virtuel ou pas)?

Bonne remarque. Pour moi, le milieu extérieur n'a aucun rôle à jouer une fois que l'intelligence est établie. Par contre, si on prend un groupe d'individus évoluant mais dépourvus d’intelligence, le milieu extérieur peut devenir catalyseur ou simplement agir au titre de la sélection naturelle ; auquel cas, si l'intelligence émerge, son développement pourrait être facilité.

[IgorBosko]

- Règle 1 : La prévisibilité de la réponse d'un système ne doit pas être de 100% (sans programmation explicite en ce sens).
- Règle 2 : Le système doit être auto-adaptatif (c'est à dire pouvoir changer sa configuration interne dans le temps, sans intervention extérieure) en fonction des stimulus qu'il reçoit
- Règle 3 : Le système doit pouvoir fournir des réponses cohérentes sans stimulus.

Pour moi, ces 3 critères sont déjà satisfaits, notamment avec les réseaux neuronaux. il reste les deux dernières règles :
- Règle 4 : Le système doit être auto-auto-adaptatif en temps réel, c'est à dire pouvoir changer sa configuration interne dans le temps, sans intervention extérieure, en fonction de l’interaction des réponses créées dans l'étape 3 (qui deviennent donc techniquement des stimulus potentiels). "En temps réel" signifie que cette auto-auto-adaptation se fait avec une échelle de temps similaire à celle des stimulus.
- Règle 5 : Sur une période de temps assez longue, il existe un nombre non nul de tâches pour lesquelles le système devient plus performant sans y avoir été programmé.

OK, pour moi les règles 2, 4 et 5 reviennent à la règle : "un système adaptatif qui peut s'auto-répliquer avec des variations et dont la population des répliques soient soumise à un mécanisme de sélection naturelle par exemple" et c'est probablement nécessaire. Après on peut formaliser en des répliques différentes ou une restructuration au temps suivant (ou autre d'ailleurs). En tout cas ça paraît un élément essentiel pour qu'une intelligence émerge.

La règle 1 ne découlerait pas de facto de cette règle dont on vient de discuter (ou de la 2/4/5)?

J'ai du mal avec la 3. Un système bien fait ne fait rien sans stimulus, pas la peine de gaspiller de l'énergie, enfin, par ne fait rien j'entend ne communique pas de réponse. D'ailleurs une question est un stimulus. Ou alors la machine peut interagir selon certains mécanismes avec son en dehors de lui et le fait spontanément. C'est probablement une divergence dans le mot stimulus j'ai l'impression. A discuter donc.

De même avec "réponse cohérente". Cohérente en vertu de quoi? Les connaissances scientifiques à l'époque présente? Parceque logique ne signifie pas adapté, bien des fous sont d'une logique implacable, mais n'acceptent pas que leurs prémisses soient fausses, d'où la divergence avec la majeure partie de la communauté. "Adapté" par ailleurs suggère une notion de relativité, d'où le fait que je mentionne les connaissances scientifiques actuelles comme outil de référence communément admis. Autant les règles 1/2/4/5 sont essentielles et très bien, autant la règle 3 me paraît nécessiter plus de détails et d'attention, il y réside probablement le coeur du problème.

Donneriez vous comme définition que mesurer l'intelligence revient à la mesure de l'efficacité avec laquelle un système traite et restitue de l'information? Ou plus que ça?

[IgorBosko]

Sinon, pour moi, la conscience est une sorte de conséquence de la règle 3 (que j'aurais peut-être dû faire passer dans le paragraphe suivant...) qui émerge lorsque le système devient capable de faire des abstractions (peuvent venir ensuite la conscience du milieu extérieur, la conscience de soi etc...)

Justement, c'est sur ce point que je ne suis pas convaincu que se soit suffisant. Réduire la conscience à donner une réponse cohérente ou adaptée me semble très optimiste.

Cela déborde du cadre de cette discussion, mais àmha oui, mais il faut voir plus le langage comme un outil d'interaction avec son environnement. La réponse du système est une forme de langage en elle même. Dans un groupe, si les réponses sont efficaces elles seront reprises sans êtres comprises, pour former des éléments de réponses communs, pouvant in fine servir de briques à un langage (échange d'information structuré) entre les individus.

La aussi c'est très réducteur il me semble. Le langage nécessite une abstraction plus grande que simplement recevoir un message et restituer une réponse selon une forme pré-établie (même si celà évolue au cours du temps de vie du système), ça c'est communiquer. L'interprétation est fondamentale à la définition des mots et à la délimitation des concepts nécessaires pour abstraire des notions d'objets, tout celà au coeur du langage. D'où le fait que je pose la question sur le fait qu'il faille ou non inclure la capacité de communiquer par un langage dans les règles. Oui, traiter efficacement l'information, restructurer ses algorithmes pour isoler et reconnaître des "patterns" et créer des modèles analysant les données d'entrées sont primordiales, mais est-ce suffisant pour parler d'intelligence?

Bonne remarque. Pour moi, le milieu extérieur n'a aucun rôle à jouer une fois que l'intelligence est établie. Par contre, si on prend un groupe d'individus évoluant mais dépourvus d’intelligence, le milieu extérieur peut devenir catalyseur ou simplement agir au titre de la sélection naturelle ; auquel cas, si l'intelligence émerge, son développement pourrait être facilité.

La aussi je ne suis pas sure de bien saisir les choses. Dans le cas minimal, le monde extérieur serait les données d'entrées et les réponses envoyées en sortie. J'imagine qu'il faille ajouter un quelconque retour sur le système quand aux pertinences des réponses, sinon pourquoi évoluerai-t-il? Du coup, son évolution est particulièrement sensible au monde extérieur, à la métrique qu'on lui impose, ou que le système s'impose (avec son évolution etc). La structure de cette information que l'on fourni au système pour lui indiquer son bon fonctionnement me paraît primordial pour définir l'intelligence. Le monde extérieur fourni l'élément de pression orientant le sens d'évolution et donc la capacité du système à devenir intelligent.

Je rajoute quelque chose : imaginons que l'on abstrait la réponse humaine sur "tu es un bon toutou" ou pas du problème en plongeant ce système dont on veut déterminer s'il est intelligent dans un monde virtuel, coupé de toute interaction humaine. Bon, le monde virtuel obéit forcément à des lois que les concepteurs ont créées, mais le système ne les connais pas et n'est pas programmé pour les recoonaître. S'il le fait, c'est tout seul par son bon vouloir. La question est les trouvera-t-il? Existe-t-il une architecture algorithmique (voir matériel qui va avec) permettant de tomber sur le cas ou le système découvre ces lois? Est-ce que le système le ferait si aucune pression provenant du monde virtuel le force à le faire? Ou si nous ne programmons pas "en dure" une sorte de curiosité extrême? Est-ce qu'une population de ces individus ne serait pas plus adaptée à y arriver? Doit-on alors exclure le langage et l'environnement extérieur au système dans la formulation des règles de l'intelligence?

[noureddine2]

Oui, mais là si on creuse jusqu'au bout on va à la problématique du déterminisme.

Salut ; le déterminisme est prédictible ,
l'intelligence a besoin de l'imagination pour simuler le futur et avoir une infinité de cas possible , et après , choisir un cas parmi cette infinité .
plus on donne au déterminisme une infinité de cas possibles , et plus il devient difficilement prédictible .