Quand vous fabriquez un robot

[titijoy3]

ça nous amène à la question 'doit on se nommer individuellement pour avoir conscience de soi?'
-----

[Deedee81]

Salut,

La grande question est de savoir si une conscience a besoin d'un langage ou pas pour nommer "soi".

Déjà rien que ça c'est une grande question en soi, et le fait est qu'on ne sait pas (et en plus nécessite de définir "langage" ce qui n'est pas si évident car ce n'est pas purement abstrait mais aussi relié au sens, on parlait de l'odorat du chien plus haut par exemple. J'avais déjà lu un article là-dessus mais qui était plus axé langage verbal humain et le rapport probable avec l'amnésie infantile).

Il y aurait pratiquement de quoi écrire un bouquin sur la conscience, un bouquin ne traitant que.... de ce qu'on ne sait pas.

Un jour j'ai lu sous la plume d'un neurologue (je ne sais plus son nom et je paraphrase) : malgré tous les progrès, personne ne sait comment marche le cerveau.

[Liet Kynes]

Il y a de grandes avancées, mais probablement que si comprendre le fonctionnement du cerveau et définir ce qu'est la conscience serait comme vouloir traverser l'atlantique en bateau, nous en sommes au stade du voyage ou l'on commence à ne plus appecevoir les côtes d'ou l'on est parti

Dans ces débats les questions de la mémoire et de la forme d'information qui y est stockée avec la durée du stockage reviennent souvent. Le langage humain est-il apparru dans une évolution de la forme de l'information mémorisée? Une des facettes dans les recherches qui m'interesse est le protolangage avec ce genre de reflexions :"Gregory Katz formule l’hypothèse d’un protolangage génétique antérieur à toute conscience humaine, dont l’évolution progressive aurait permis l’émergence des langues verbales et leur polymorphisme" dans https://fr.wikipedia.org/wiki/Protolangage

[Deedee81]

Il y a de grandes avancées, mais probablement que si comprendre le fonctionnement du cerveau et définir ce qu'est la conscience serait comme vouloir traverser l'atlantique en bateau, nous en sommes au stade du voyage ou l'on commence à ne plus appecevoir les côtes d'ou l'on est parti

Grosso modo ça doit être à peu près ça

Le langage humain est-il apparru dans une évolution de la forme de l'information mémorisée?

J'aurais plutôt dit qu'il y a synergie (tout comme beaucoup d'autres aspects y compris anatomique) et très progressif (pas que l'humain moderne). Mais je n'ai pas de certitude sur le sujet. Notons d'ailleurs que sur les langues et leur origine il y a des théories/opinions très contradictoires chez les scientifiques. Rien n'est vraiment tranché. C'est extrêmement complexe (même si on se limite, par exemple, au langage des oiseaux chanteurs, c'est vraiment complexe, ça fait intervenir apprentissage, génétique, évolution, neurologie, écologie etc....)

A noter que sur la mémoire aussi, on sait beaucoup de chose mais il reste encore énormément à comprendre. Même si c'est mieux connu que la cognition (ou pire encore la conscience). Rien que les cellules de lieu par exemple ce n'est pas si ancien : 1971.

Alors, pour en revenir au sujet, de là à mettre tout ça dans un robot..... on en est loin. TRES loin. Et je ne parle même pas de dire si le robot est conscient mais simplement d'avoir une IA avec une intelligence et des comportements proches d'un humain ou même d'un animal . Quant on pense que le Caenorhabditis elegans n'a que 302 neurones (7500 synapses) et même là c'est extrêmement difficile d'analyser le fonctionnement !!!!!

[Liet Kynes]

Alors, pour en revenir au sujet, de là à mettre tout ça dans un robot..... on en est loin. TRES loin. Et je ne parle même pas de dire si le robot est conscient mais simplement d'avoir une IA avec une intelligence et des comportements proches d'un humain ou même d'un animal . Quant on pense que le Caenorhabditis elegans n'a que 302 neurones (7500 synapses) et même là c'est extrêmement difficile d'analyser le fonctionnement !!!!!

Les robots d'aujourd'hui ou ordi ne sont guères différents du Turc mécanique du point de vue de l'inteligence et de la conscience, si pour l'automate se cachait un être humain pour donner l'illusion pour nos productions d'aujourd'hui des programeurs et développeurs fabriquent une illusion (bot de tchat) et comme au 18ème cela alimente pas mal de discussions dans les salons mal informés

Pas mal interessant ce Caenorhabditis elegans, je ne connaissais pas.

[Deedee81]

Les robots d'aujourd'hui ou ordi ne sont guères différents du Turc mécanique du point de vue de l'inteligence et de la conscience, si pour l'automate se cachait un être humain pour donner l'illusion pour nos productions d'aujourd'hui des programeurs et développeurs fabriquent une illusion (bot de tchat) et comme au 18ème cela alimente pas mal de discussions dans les salons mal informés

Je confirme. A de rares exceptions près, si on veut parler d'intelligence ou de conscience il vaut mieux parler d'IA. Les IA "purement informatiques" sont souvent bien plus élaborées que les cerveaux des robots pour qui les problématiques sont très différentes (par exemple, j'avais lu qu'au début on essayait de programmer la marche en utilisant les lois de la mécanique mais étant donné la complexité c'était ardu et lent. Depuis on programme plutôt ces systèmes dans le même style que la marche humaine qui fonctionne par "déséquilibre / correction". Et depuis on sait donc même faire des robots bipèdes qui courent. Mais ça ne nécessite pas d'IA très sophistiquées).

[antek]

Ben justement, ches les insectes non sociaux, je n'en sais fichtre rien.

Je parlais des insects "sociaux", qui ne sont pas forcéments capables de se reconnaitre individuellement.
Reconnaitre un individu c'est le différencier au milieu de ses congénères.

[Deedee81]

Reconnaitre un individu c'est le différencier au milieu de ses congénères.

Aaaaah oui, bien vu. J'ai mélangé "reconnaitre les siens" de "reconnaitre un individu particulier". Sur ce dernier point je suis encore moins capable d'en juger.

Merci d'avoir pointer ça

[Lil00]

Que dire du comportement jaloux ? Il s'observe bien souvent chez les animaux : si le maître s'occupe d'un autre chien, son propre chien va faire savoir qu'il n'est pas content.
N'est-ce pas la preuve d'une forme de conscience de soi en relativité avec d'autres ? Mon maître ME doit une certaine attentin qu'il ne doit pas aux autres.

[jacquolintégrateur]

Le grand René s’était bien planté en assimilant les animaux à des machines

Bonjour
Le Grand René ? Vraiment? Peut-être plutôt:"...Gros René" , un personnage de:"Touchez pas au grisbi*,un film français de*Jacques Becker, sorti sur les écrans à*Paris*en mars*1954.
Il s'agit d'une adaptation de*Touchez pas au grisbi*!*(1953), roman du même nom d'Albert Simonin" (Wikipedia.)
Me parait mieux adapté au fil!! Alors que: Descartes... Devil soap my Si# !!
Cordialement

[Deedee81]

Que dire du comportement jaloux ? Il s'observe bien souvent chez les animaux : si le maître s'occupe d'un autre chien, son propre chien va faire savoir qu'il n'est pas content.
N'est-ce pas la preuve d'une forme de conscience de soi en relativité avec d'autres ? Mon maître ME doit une certaine attentin qu'il ne doit pas aux autres.

Il faut faire attention à ne pas faire d'anthropomorphisme. Bien souvent il s'agit de comportements de "protection de son bien" : territoire, nourriture, la femelle qui va porter ses gènes....
Ceci dit chez l'humain il y a aussi ce genre de chose mais les aspects socio-éducatifs et psychologiques y sont beaucoup plus complexes. Très difficile de faire la part de l'inné de l'acquit.

Le comportement de jalousie ou assimilé n'est pas une preuve de conscience ni d'intelligence.

[Appex]

J'ai l'impression que la conscience est en rapport avec la capacité de conserver le doute à tout moment.
Le doute permet de se poser/reposer des questions et de tenir compte d'éventuels faits nouveaux alors même que l'on avait un échafaudage théorique parfait.
La conscience rend donc imparfait.
Le mixeur pouvant être parfait car ne pouvant douter il ne peut pas acquérir une conscience très développée.
Ou pas.

[JPL]

Blabla pseudo-philosophique. Si cela continue ainsi la fermeture de la discussion sera la meilleure solution.

[Deedee81]

Salut,

J'ai l'impression que la conscience est en rapport avec la capacité de conserver le doute à tout moment.

Le doute nécessite en effet l'introspection, un schéma mental représentatif d'une situation, des prédictions.... C'est sans doute un aspect fort lié à la conscience (bien que je ne saurais dire à quel point ni si le doute est nécessaire).

Il est par contre difficile à distinguer de la méfiance qui peut être de type réflexe et non lié à la conscience. Le béhaviorisme a ses limites et une analyse des centres cérébraux impliqués n'aiderait pas pour le robot. C'est un peu l'histoire de la chambre chinoise ça (comment savoir si le type dedans parle chinois ou pas, comment savoir par simple observation si le robot a des doutes ou s'il a une méfiance pré-programmée)

Le mixeur pouvant être parfait car ne pouvant douter il ne peut pas acquérir une conscience très développée.

J'ai voulu moudre un caillou, il m'a dit "j'ai un doute" (je rigole évidemment)

[Liet Kynes]

Il est par contre difficile à distinguer de la méfiance qui peut être de type réflexe et non lié à la conscience. Le béhaviorisme a ses limites et une analyse des centres cérébraux impliqués n'aiderait pas pour le robot. C'est un peu l'histoire de la chambre chinoise ça (comment savoir si le type dedans parle chinois ou pas, comment savoir par simple observation si le robot a des doutes ou s'il a une méfiance pré-programmée)

Interessant ce que tu dis. On peut intuitivement associé la méfiance à la peur ( une émotion) en la caractérisant surement comme un raisonnement biaisé.. on revient au cogito ergo sum quand même qui reste dans la chambre chinoise de la philo car pour qu'il y est raisonnement il faut un langage, pour peu que ma perception de ce que peut être un raisonnement ne soit elle même pas biaisée.

Je ne comprends pas trop ta remarque sur le béhaviorisme et cela m'interesse car c'est un concept sur lequel je réflechi depuis un moment (du point de vue des biais cognitifs).

[titijoy3]

la définition du Larousse :

conscience
nom féminin

(latin conscientia, de scire, savoir)

1. Connaissance, intuitive ou réflexive immédiate, que chacun a de son existence et de celle du monde extérieur.
Synonymes :

sens - sentiment

2. Représentation mentale claire de l'existence, de la réalité de telle ou telle chose : L'expérience lui a donné une conscience aiguë du danger.
Synonymes :

idée - représentation

Psychologie

3. Fonction de synthèse qui permet à un sujet d'analyser son expérience actuelle en fonction de la structure de sa personnalité et de se projeter dans l'avenir.

[titijoy3]

une autre approche:

https://www.animal-ethics.org/la-sen...cience-de-soi/

[titijoy3]

J'ai voulu moudre un caillou, il m'a dit "j'ai un doute" (je rigole évidemment)

merci deedee, elle est bien bonne, tu m'a fait rire

[Deedee81]

Salut,

Je ne comprends pas trop ta remarque sur le béhaviorisme et cela m'interesse car c'est un concept sur lequel je réflechi depuis un moment (du point de vue des biais cognitifs).

Ouiblie-le, en allant vérifier je me rend compte que je me suis trompé sur le sens de ce mot.
Je voulais dire "déduire ce qui se passe dans la tête sur base des seuls comportement visibles de l'extérieur" (à ses limites, et...)

[Observateur Pragmatique]

Ce serait quand même plus intéressant d'avoir un robot avec un minimum d'intelligence.
On ne discute que rarement de la façon d'arriver à une intelligence artificielle. Tout se passe souvent comme si cela était déjà acquis pour établir des règles de comportement.
Un des points clés est de savoir si on peut y arriver. La meilleure preuve c'est le monde vivant. On pourrait essayer de le copier mais sans rien de vivant. Cela pourrait prendre de 10 à 50 ans avec un certain savoir faire. Pourquoi la conduite autonome des voitures ne fonctionne pas bien ? Parce qu'il n'y a pas ce minimum d'intelligence. C'est impossible de recenser et de prévoir tous les cas pouvant se produire sur un parcours routier. Cela fonctionne avec des rails mais alors c'est un train. Et si cet intelligence minimale existait dans la conduite automobile, elle pourrait être copiée et utilisée pour des tas d'autre usages. C'est peut-être pour cela qu'on ne la verra pas de sitôt.

[Deedee81]

Salut,

Bienvenue sur Futura.

N'oublie pas de dire bonjour

Ce serait quand même plus intéressant d'avoir un robot avec un minimum d'intelligence.
On ne discute que rarement de la façon d'arriver à une intelligence artificielle.

Si, si, on en parle. Il y a déjà eut de longues discussions sur ce sujet dans ce forum "discussions scientifiques". Et bien entendu ce n'est pas le sujet ici. Quelques mots quand même.

Tout se passe souvent comme si cela était déjà acquis pour établir des règles de comportement.

On sait déjà réaliser des intelligences artificielles. Certaines sont même extrêmement performantes (Alpha Go, Alpha Chess, les analyseurs d'images, etc...). C'est juste des intelligences généralistes qui sont plus difficiles à concevoir.
(et quelques autres difficultés hors sujet : défaillance face à des situations extrêmement rares mais difficiles à prévoir, difficulté de justifier les résultats ce qui est indispensable en médecine ou dans des applications juridiques, etc...)

Un des points clés est de savoir si on peut y arriver.

Y a pas d'raison que ce soit impossible.

La meilleure preuve c'est le monde vivant. On pourrait essayer de le copier mais sans rien de vivant.

C'est loin d'être aussi simple. Un cerveau animal ce n'est pas (du tout) un cerveau électronique, c'est même le jour et la nuit. Les meilleurs IA actuelles utilisent le deep learning qui emploie des neurones formels. Mais le rapport entre les neurones formels et réels est lointain, guère plus proche que le chou de la carotte. On fabrique d'ailleurs aussi des neurones artificiels, très différents, dont le but est de simuler les vrais neurones (pour divers usages à tendance médicale (**)) mais pas pour faire des IA (ils sont trop complexes pour ça, pas assez efficaces).

EDIT (**) pas pour greffer, trop gros, trop complexe. Mais pour étudier le comportement du neurone dans diverses circonstances. Mais à ma connaissance la recherche s'oriente plutôt vers le "in silico" (simulation informatique d'un neurone réel), plus "simple" (ça reste complexe quand même, un neurone réel est extrêmement complexe)

Cela pourrait prendre de 10 à 50 ans avec un certain savoir faire.

Le chiffre est plausible mais reste quand même une pure hypothèse.

Pourquoi la conduite autonome des voitures ne fonctionne pas bien ?
[....]

Là tu te trompes ! Les statistiques (effectuées sur les petits véhicules autonomes et sur les Tesla, principalement) montre que le taux d'accident est comparable aux humains. On en a beaucoup discuté lors de la fameuse actu avec la Tesla qui avait écrasé un piéton imprudent. C'est juste qu'elles sont différentes des humains (et les causes d'accidents s'en ressentent : elles sont fort différentes aussi).

Le souci est socio-psychologique. On accepte mal qu'une machine ne fasse pas beaucoup mieux qu'un humain. Et il faudra donc encore du progrès. Il suffit d'ailleurs de voir le taux de risque incroyablement faible obtenu avec les avions. Il est moins dangereux de prendre l'avion que de traverser pour aller chercher un sandwich. Et cela s'est fait surtout sur la pression de l'opinion publique face au caractère spectaculaire des accidents (beaucoup de morts d'un seul coup, ce qui frappe les esprit, on a parle d'ailleurs de CHAQUE accident d'avion à la télé mais pas de chaque accident de voiture !!!!) (*)

Il a aussi des soucis purement juridiques (et donc hors charte, difficile d'approfondir) : en cas d'accident, qui est responsable : le conducteur, le propriétaire, la voiture, le constructeur, personne (comme pour une défaillance technique accidentelle et imprévisible sur les voitures normales, dans ce cas il y a responsabilité civile mais pas pénale, enfin, chez moi en tout cas) .... ???

(*) notons que le moyen de transport le plus sûr reste l'ascenseur mais on sait qu'il ne faut pas leur donner trop d'intelligence comme l'a montré De Lift (non je rigole là, évidemment )

[pm42]

Parce qu'il n'y a pas ce minimum d'intelligence. C'est impossible de recenser et de prévoir tous les cas pouvant se produire sur un parcours routier.

Outre ce qu'a dit Deedee81 qui est parfaitement pertinent, on peut ajouter que pendant longtemps, on considérait les échecs et le go comme des activités où il fallait être "intelligent".
Et là aussi, on ne peut pas prévoir tous les cas.

Tout cela n'a pas empêché les machines de devenir très bonnes déjà avec des algorithmes classiques puis incroyablement meilleures que les humains avec de l'IA.

[Deedee81]

Outre ce qu'a dit Deedee81 qui est parfaitement pertinent, on peut ajouter que pendant longtemps, on considérait les échecs et le go comme des activités où il fallait être "intelligent".
Et là aussi, on ne peut pas prévoir tous les cas.
Tout cela n'a pas empêché les machines de devenir très bonnes déjà avec des algorithmes classiques puis incroyablement meilleures que les humains avec de l'IA.

C'est un exemple particulièrement pertinent car les machines de jeu ont souvent utilisés les techniques d'analyse arborescente des jeux avec algorithmes comme le mini-max, l'apha-bêta, le coup meurtrier, l'élagage à priori, les heuristiques de deuxième type (exemple : https://fr.wikipedia.org/wiki/%C3%89...lpha-b%C3%AAta )

Et ça marche extrêmement bien sur de nombreux jeux où il n'y a pas trop de coups possibles. Moins bien aux échecs (où le nombre de coups est typiquement d'une trentaine soit 500 millions de milliards au bout de 10 demi-coups, quelques milliards avec des bons algorithmes) et ce n'est devenu efficace qu'avec des "monstres" calculatoires comme Deep Blue pouvant analyser plus d'un milliard de coups par seconde (de plus les échecs se prennent bien aux bibliothèque d'ouverture et de finales, ce qui est utile). Mais le go c'est environ 300 coups possibles !!!! Et les meilleurs programmes que j'ai vu utilisaient des algorithmes très pointus d'analyse (basé sur les "proverbes" du go). Et même comme ça ils étaient médiocre !!!!! (enfin, pas face à moi car si je me débrouille bien aux échecs je suis nul à ch... au go )

Le deep learning a tout changé et on est beaucoup ici à avoir suivi en direct le match contre Lee Sedol, le champion, écrasé par Alpha Go.

Depuis évidemment on a pris conscience (enfin, on le savait déjà mais ce n'était pas capital) que ce type d'intelligence est extrêmement ciblé et ne représente qu'une facette de l'intelligence généraliste. Il y a donc beaucoup de progrès à faire. Mais ça viendra (sans doute plus vite qu'on ne croît, certains programmes en IA discutant par téléphone sont déjà assez incroyable, ça aussi on avait eut de longues discussions ici sur le sujet).

[roro222]

Il y en avait un (je vais être gentil et ne pas citer le nom) une fois qui avait parlé de niveau de conscience.... des cailloux (son idée était qu'il y a un continuum de conscience et que tout pouvait avoir conscience éventuellement à un niveau particulièrement faible. .....

Salut
Ca me fait penser furieusement à ce pdf avec une vue panphychiste de la chose
https://f0aca96e-a03c-4591-837d-597e...7829b4b35a.pdf

[Appex]

La conscience de soi fondamentale : être conscient de son existence indépendamment du reste du monde. Autrement dit, faire l’expérience de soi-même.

https://www.animal-ethics.org/la-sen...cience-de-soi/

Je pense que cette variante -la conscience de soi fondamentale- est celle qui est communément entendu lorsqu'il est question de "conscience".
D'autre part on voit ici que ce type de conscience ne nécessite pas beaucoup d'intelligence pour se manifester intérieurement à l'individu mais qu'elle ne peut être affirmée (et donc mise en lumière) que par l'individu lui-même (donc ici pour l'affirmer il faut beaucoup d'intelligence pour ce faire).

[Appex]

L'autre point intéressant indépendamment de la question de savoir pourquoi métaphysiquement la conscience existe (la réponse ici en tant que scientifique ne nous intéressera pas) consiste à se demander "à quoi sert la conscience" dans le règne du vivant puisque si cette capacité semble assez répandu c'est peut-être qu'elle présente des avantages.

Quels sont les avantages pour un ensemble de matière de se distinguer de son environnement ?
Sa conservation ?

[roro222]

Quels sont les avantages pour un ensemble de matière de se distinguer de son environnement ?
Sa conservation ?

On pourrait dire: a lutter contre l'entropie locale

[Appex]

On pourrait dire: a lutter contre l'entropie locale

Cette phrase est ambiguë.
Lutter contre l'entropie c'est faire preuve d'égo ?
ou alors c'est de supprimer l'organisation locale et individuelle au profit d'une dilution de l'information physique dans l'environnement ?

[Appex]

Peut-être plus compréhensible.
L'entropie ne peut qu'augmenter globalement ou au mieux se conserver (si le hasard le permettait).
C'est la loi thermodynamique inéluctable.
Par contre effectivement l'entropie peut diminuer localement donc on peut "lutter localement contre l'entropie" comprenons diminuer localement l'entropie.
On ne lutte pas contre l'entropie, on lutte contre son augmentation.

[GBo]

Vous dérivez vers le nawak les gars, la conscience animale sert à prendre des décisions d'action unifiée et rationnelle en fonction des stimulis extérieurs (aggressions...) ou interne (faim...), de tous les sens, de l'expérience acquise en même situation etc... Je veux qu'elle a un intérêt évolutif, et comment !