IA forte: quelques conditions nécéssaires (mais pas suffisantes....)

[Bounoume]

A la question:
"manque-t-on d'outils pour progresser" aucune réponse précise n'est venue ......
Comme d'habitude les définitions et énoncés initiaux étaient imprécis......
La 'conscience' ? "comme l'humain"? le but est nécessairement imprécis, les attributs de la 'chose' aussi [la 'conscience'], pour les processus de traitement de l'information, on ne parle pas simplement d'émulation de processus cognitifs .....
A question imprécise, souvent réponses imprécises....et on reste sur sa faim.....

Heureusement, en fin du fil, l'état global des avis sur la question nous est précisé par Jiav:

Grosso modo les chercheurs se partagent entre d'un côté ceux qui pensent que c'est plus ou moins une évidence depuis Turing (la grande majorité parmi la petite minorité qui se pose la question), et de l'autre ceux qui pensent que c'est possible mais seulement avec un hardware spécifique (Searle, Penrose, Tononi). Je ne connais pas d'auteur qui pense que la fabrication d'une IA forte soit impossible, mais c'est vrai que c'est une question qui revient régulièrement sur le forum. La réponse la plus accessible est que 1) nous sommes capables d'avoir des enfants 2) les scientifiques ne croient pas que ce soit par magie. 1+2 => cela doit être possible de faire une IA forte sans magie. Searle pense que c'est possible sans magie mais que la machine biologique est indispensable. Penrose pense que c'est possible sans magie mais que cela demande de l'hypercalcul (pour faire simple). Tononi pense que c'est possible mais pas sans X (X changeant de version en version).

Puis STOP, ..... on ferme.

Je voudrais seulement traiter de 2 points précis (sans faire appel à la magie):

très vite, le 1: la 'conscience', uniquement en traitement de l'information. Pas en aspects subjectifs, philo ou autres.
'conscience' nécessite une récursivité.IL semble exister un ensemble de fonctions qui analysent, à l'instant (t+1), les effets mémorisés des dites fonctions à l'instant (t+0)..

C'est mieux que le debugging informatique: en debugging, un programme D examine le déroulement du programme A dès exécution d'un bloc d'instructions, (et il peut +- en modifier l'exécution. Tout ça quand même très souvent, s'exécute sur le(s) même(s) processeurs.
UNE caractéristique de la 'conscience' est cette analyse 'a posteriori' -ou vécue comme telle!-; L'interaction entre 2 processus distincts, avec étapes d'écriture de résultats, puis de lecture de ceux-ci.... par un autre processus..... qui peut alors agir éventuellement sur la suite du précédent....

On sait faire..... si on a la maîtrise du processus de traitement (en langages informatiques conventionnels et éventuellement interprétés).
Ce qui n'est pas du tout le cas en l'espèce,pour la "pensée" ne sachant pas émuler l'objet, impossible de la faire réflexivement!

Le deuxième point: l'apprentissage de la 'connaissance' de la chose 'pensante': mise en forme, puis intégration aux 'connaissances' actives existantes.

Sans se lancer dans la description de sa 'connaissance' (description irréaliste ou fantasiste en l'état) admettons que ce sont des ensemble d'informations., et que ces informations activent des mécanismes de modification mutuelles.

a)Le 'jeu de la vie': l'état d'une 'mémoire' dépend de l'état de 'mémoires' voisines.....
et l'ensemble du canevas (de la grille à n dimensions) évolue tout seul, avec ou non convergence vers un état stable, ou oscillations autour d'états...
Le mathématiciens ont étudié et maîtrisent cela, je crois.....
b)Quand nous "apprenons" une notion nouvelle , notre vue du domaine concerné se modifie (+- par étapes, d'ailleurs): un nouvel état de connaissances est créé, incluant la modification de connaissances réputées acquises...., l'indécision peut-être....

Analogie fortuite?
Qu'en dites-vous?
cordialement
-----

[invite73192618]

Pour le 1, tu ne parles pas de conscience mais de metacognition (avoir conscience d'avoir conscience). Pour le 2, le jeu de Conway est connu pour être équivalent à une machine de Turing universelle, ce qui veut dire que c'est effectivement la même chose que tout autre modèle (raisonnable) de traitement de l'information.

[Bounoume]

Pour le 1, ça me perturbe beaucoup......
Pour une IA, tout ce qui est 'conscience morale', 'conscience d'existence', et même 'conscience de soi', je pensais que c'était du superflu, juste bon en SF comme attributs vendeurs d'un super-humanoïde de série TV..... [ou les 3 lois de la robotique, d'Isaac Asimov....]

J'éliminais aussi l' "état de conscience" opposé à l' "état d'inconscience", non-perception de l'environnement -et de soi-même en tant que corps -, état que je provoquais professionnellement: je fus médecin anesthésiste, donc j' "endormais" des clients!

Je ne gardais que l' "acte conscient", ma conception de "conscience" représentant le traitement que fait le cerveau, de la représentation (schéma préalable, perceptions issues de l'acte, et représentation reconstituée à posteriori).
Pour moi, cette "conscience" est bien un traitement réflexique sur une (des) opération(s) cérébrale(s) antérieures.

Hors sa composante exprimable, médiée par le langage...... je la retrouve tous les jours dans le comportement de mes animaux préférés, mes chevaux, ainsi que de mes chats et autres bébètes dont je peux observer (et ressentir), le comportement dans des situations changeantes......
Etait-ce abus de langage, je n'étais pas loin d'affirmer que les robots sauteurs, coureurs, ouvreurs de portes de Boston Dynamics avaient une SORTE de conscience de leur "corps(!)" et de l'environnement, pour pouvoir adapter les commandes des actionneurs aux schémas moteurs et aux réactions physiques de l'environnement.....
Pour moi, cette 'conscience'-là, elle était déjà implémentée de fait dans ces automates, donc pas du tout utile à la définition de l'IA forte


Dans le cas d'une IA "forte" non intégrée à un corps physique pesant [ou virtuel!] la "conscience" me semblait au contraire concernée par l'essence des traitements d'information effectués en interne (le retraitement des résultats 'cognitifs/logiques/abstraits/....' sur ses 'connaissances' *

Bon ,alors, c'est de la 'meta-cognition' .....








*Implicitement d'ailleurs, je ne porte intérêt qu'à une IA "pur esprit" destinée à aider les malheureux humains dans le domaine des idées et des sciences, laissant à d'autres l'envie de recréer des êtres en chair et en os... genre golem ou Frankenstein ou Terminator ou Robocop.... Ce bêtes là, je crains....

[invite73192618]

"cette conscience la est déjà implémentée" me rappelle une des positions philosophiques possibles concernant la conscience (parfois ma préférée, parfois pas du tout).
Selon cette position, il n'y aurait pas de sens à vouloir ajouter la conscience à un robot. En d'autres mots: si il fait quelque chose qui peut être décrit comme conscient (tu en donnes des exemples), alors il n'est pas inacceptable de le décrire comme tel puisque ce n'est qu'un mode de description de ses actions ou des (pensées)/(flux d'information) qui influencent ses actions.
Pour prendre une analogie, il n'y aurait pas de sens, pour quelqu'un qui cherche à construire une cellule artificielle (à la Graig Vender) à se demander comment "ajouter la vie pour que sa cellule soit vivante": si le métabolisme fonctionne on dira que la cellule est vivante, tout simplement parce que c'est très exactement ce que cela veut dire.

En poussant l'idée jusqu'au bout, on pourrait dire que les IA actuelles démontrent certains aspects conscients et échouent à en montrer certains autres. Ainsi, si une IA peut classer les mots en féminin/masculin sans savoir distinguer une photo d'homme vs femmre, alors on pourrait dire qu'elle a conscience du genre des mots sans avoir conscience de l'impact du genre sur l'apparence. Si cette même IA acquiert un module séparé détectant le genre sur une photo, alors elle aura conscience des deux mais sans conscience que c'est le même concept. Si elle est raffinée de manière à ce que les deux comporte un "espace cognitif commun, alors elle aura une conscience du genre qui se rapprochera encore plus de notre conception humaine. Ajoute le corporel, l'impact sur les relations sociales, la vision dans les arts, le lien avec d'autres concept, l'expérience personnelle, et le résultat sera possiblement une IA forte, sans qu'à aucun moment on ait ajouté un ingrédient mystère : juste une collection de traitement d'information.

[A voir en vidéo sur Futura]

[Bounoume]

En poursuivant dans ce sens,
je dirais que l'acquisition d'UNE conscience (de quelque chose) n'est que l'acquisition d'une fonction de classification d'ensembles-'exemples' de données présentés à l'entité IA, et que l'entité peut acquérir , dans une couche supérieure, un système de liens entre ces classifications.
Mais ce n'est pas encore une IA qui "pense".....

En approximation grossière, chaque réseau de liens entre résultats de classifications aboutirait à définir/décrire un "concept" validé en sémantique ordinaire.
Pour moi, il manque encore une hiérarchie (ou plutôt un réseau des parentés/descendances entre concepts)......

Même avec ce complément, l'IA n'est capable que de faire de la classification/recherche documentaire. Même l'obtention de statistiques devrait faire ajouter (par le programmeur, pas par l'IA).... un module récupérant les résultats , les comptant et calculant le tableau de synthèse.....

ça aussi, on sait (ou peut) faire actuellement.... suffit d'ajouter des modules puis de lier les sorties.


ps ce n'est pas ce que j'appelle 'conscience réflexive" ni que tu nommes 'meta-cognition'!