Pour ou Contre l'intelligence artificielle FORTE ?

[invite765732342432]

Je pense comprendre : il n'y a pas moyen de différentier un humain d'un humain ?

Non, tu fais semblant de ne pas comprendre.
Tu es expérimentateur, tu communiques par écrit avec Monsieur Faith d'un coté et Monsieur Gillesh38 de l'autre.
L'un des deux a été désigné par JPL comme humain témoin sans que JPL ne le lui dise, trouve lequel (sans parler à JPL évidemment !)

Et si ce n'est pas ce qui est entendu ici, je ne comprend toujours pas d’où sortent ces 50 % (calcul ?, études ? ... ).

Si au test ci-dessus tu es capable de trouver le témoin avec une probabilité différente de 50%, merci de nous expliquer comment.
-----

[invite6f9dc52a]

Non, tu fais semblant de ne pas comprendre.
Tu es expérimentateur, tu communiques par écrit avec Monsieur Faith d'un coté et Monsieur Gillesh38 de l'autre.
L'un des deux a été désigné par JPL comme humain témoin sans que JPL ne le lui dise, trouve lequel (sans parler à JPL évidemment !)

Témoin de quoi, en fonction de quoi ?
Si je connais les critères de choix de JPL, je vais choisir suivant les mêmes critères.
Quel est l’intérêt que l’expérimentateur devine le choix d'un quatrième intervenant ?
Si je suis incapable de déterminer, entre Gilles et Faith qui est l'humain, je les désigne tous les deux comme humain (ou non humain si je le pense) et sauf si l'un de vous ne l'est pas, le résultat est correct, point final.
Le test n'est pas sensé différencier deux humains entre eux dont l'un serait "témoin" (de quoi ? que l'autre n'est pas humain ?) mais lequel ne le serait pas (ce qui n'a strictement rien a voir avec ton exposé ci-dessus).

... mais le test est:
- 1 expérimentateur humain quelconque
- 1 humain quelconque témoin
- 1 entité testée qui s'avère être un humain quelconque.
L'expérimentateur doit trouver qui est l'humain témoin parmi le témoin humain et et l'entité testée (qui est ici un humain).

Soit 3 "intervenants" et non 4.
Trouver un témoin sur une population de une personne, je crois qu'il est inutile de passer un test pour ça mais (avant que je sois accuser de déformer les messages) l’expérimentateur doit donc trouver qui n'est pas l'humain (ou qui l'est, "témoin" ou pas, c'est un adjectif inutile ici) : le mot "témoin" ne sert ici qu'a embrouiller (puisqu'il n'y a qu'une seule entité et qu'un seul humain a différentier, il n'y a pas besoin de "témoin" ou alors deux humains qui n'ont justement pas a être différencié par l’expérimentateur avec un inutile "témoin") et essayer de faire croire maintenant que l'expérimentateur doit deviner le choix d'un 4eme intervenant ou de différencier deux humains

Si au test ci-dessus tu es capable de trouver le témoin avec une probabilité différente de 50%, merci de nous expliquer comment.

Ça s'appelle inverser la charge de la preuve mais c'est très simple : il n'y a dans ce cas qu'un tirage au hasard qui puisse donner 50 % et a partir du moment ou il y a choix, ce n'est plus du hasard et il y a une très faible probabilité parmi l'infinité de possibilités que ce choix se finisse par une répartition 50/50.
Alors sauf si ce test est basé sur le hasard (à quel moment ?), il faut démontrer que ce test donne une répartition comme celle que donnerait le hasard et pas le contraire.


Mais c'est quelque chose que tu ne veux ou peux pas comprendre car je l'ai bien répété plusieurs fois.
Que le test ne soit pas utile car ce qui est testé dans les conditions actuelles bénéficie de techniques et concepts (...) plus élaborées, je veux bien le croire de la part de quelqu'un qui maitriserait bien le sujet mais qu'un choix non fait au hasard puisse donner miraculeusement exactement le même résultat que le hasard sans le démontrer simplement parce que c'est une croyance de ta part, c'est non pour moi.

Il y a forcément provoc ou totale incompréhension du test.

Oui tout à fait et on pourra se reporter avec profit à ce sujet a l'excellente démonstration du message 205 (28/05/2011, 10h32 ).
En conséquence et me désabonne dans la foulée, ce message n’appelle donc pas de réponse.

[invite765732342432]

En conséquence et me désabonne dans la foulée, ce message n’appelle donc pas de réponse.

Disons que le minimum avant d'y intervenir aurait été de comprendre le principe du test de Turing:

mais qu'un choix non fait au hasard puisse donner miraculeusement exactement le même résultat que le hasard

"Un humain quelconque" c'est pas un tirage au hasard ? Chez moi si.

[invite765732342432]

Ça s'appelle inverser la charge de la preuve mais c'est très simple : il n'y a dans ce cas qu'un tirage au hasard qui puisse donner 50 % et a partir du moment ou il y a choix, ce n'est plus du hasard et il y a une très faible probabilité parmi l'infinité de possibilités que ce choix se finisse par une répartition 50/50.

Sauf qu'encore une fois tu ne prends qu'une partie du problème.
Le déséquilibre causé par le choix est rétablit par l'impossibilité de connaître le fonctionnement de ce choix.

C'est le principe du tirage pile/face avec une pièce aux deux cotés identiques: à combien estimes-tu ta probabilité de gagner ?
Ben 50%, comme par miracle !

Alors je veux bien que tu ne connaisses ni le fonctionnement du test de Turing, ni la règle ci dessus, mais ça fait beaucoup pour mener une discussion tambour battant, lançant affirmation après affirmations alors qu'au final, c'est juste un manque de compréhension de ta part.
Cela dit, ça m'arrive aussi de faire ce genre d'erreur, mais j'essaye en général de m'excuser quand je m'en aperçois.

[invite765732342432]

Oui tout à fait et on pourra se reporter avec profit à ce sujet a l'excellente démonstration du message 205 (28/05/2011, 10h32 ).

Yep, et n'oublie pas de signaler que j'ai reconnu mon erreur un peu plus tard.

[oualos]

Le terme IA forte est limite idiosyncratique.
Pour moi une IA forte serait celle qui prend des décisions engageant des humains. Et là Skynet pointe le bout de son nez non ?
quant à définir de quoi l'intelligence humaine est capable, avouons-le : on a des idées mais on ne saurait pas le programmer.
Toute invention peut être bénéfique pour l'humanité ou à la fois maléfique et totalement nocive: pas la peine de donner des exemples il y en a suffisamment.
Je pense qu'ici on voit de quoi je veux parler.
Un monde où l'on se servirait de l'intelligence pour le bénéfice de l'humanité donc pour le meilleur ET UNIQUEMENT pour le bien de l'humanité me semble totalement utopique mais c'est mon avis personnel et qui n'engage que moi. Il n'y a qu'à voir avec quelle vitesse les hackers et les pirates ont tiré tout de suite parti de chatGPT.
Un des drames de l'humanité est qu'elle n'apprend rien dans le fond. Je parle de son histoire bien sûr...

[pm42]

Trouver le fil 12 ans plus tard, pas mal. Ceci dit avoir une opinion qui utilise comme référence scientifique Terminator en valait la peine

[fred3000gt]

Le terme IA forte est limite idiosyncratique.
Pour moi une IA forte serait celle qui prend des décisions engageant des humains.

Il existe déjà une définition d’IA forte, et ce n’est pas celle-là:

https://en.m.wikipedia.org/wiki/Arti...l_intelligence

Trouver le fil 12 ans plus tard, pas mal. Ceci dit avoir une opinion qui utilise comme référence scientifique Terminator en valait la peine

Ce qui est intéressant c’est que le posteur disait alors que l’on avait le temps de voir venir et aujourd’hui on parle d’un moratoire car ca va trop vite…

[pm42]

Ce qui est intéressant c’est que le posteur disait alors que l’on avait le temps de voir venir et aujourd’hui on parle d’un moratoire car ca va trop vite…

Oui prédire le futur est difficile et c'est connu sauf pour ceux qui nous annoncent une catastrophe.
Blague à part, on reste loin d'une IA forte mais je ne t'apprends rien.

On attends toujours une description scientifique des risques ceci dit. Par exemple, je connais les études et scénarios sur la guerre nucléaire. Je connais ceux sur les épidémies avec une arme biologique.
A chaque fois, ils couvrent un vaste spectre, sont chiffrés, etc.

Là, je vois juste des affirmations gratuites du genre "c'est un énorme risque pour l'humanité". On pourrait aussi décrire l'inverse, une utopie complète où la richesse serait créée par des machines, ou des IAs quasi divines et bienveillantes se chargeraient de trouver les meilleures solutions sur des bases rationnelles, où chacun aurait la possibilité d'apprendre ce qu'il veut avec des IA pédagogues infiniment compétentes et patientes, etc.

Ce n'est pas un scénario crédible mais de ne voir que celui inverse est amusant. La peur est visiblement plus répandue et vendeuse que l'optimisme.

[oualos]

L'intelligence générale artificielle ( AGI ) est la capacité d'un agent intelligent à comprendre ou à apprendre n'importe quelle tâche intellectuelle que les êtres humains ou d'autres animaux peuvent. [1] [2] C'est un objectif principal de certaines recherches sur l'intelligence artificielle et un sujet commun dans la science-fiction et les études futures . L'IAG est aussi appelée IA forte , [3] [4] [5] IA complète , [6] ou action intelligente générale , [7]bien que certaines sources académiques réservent le terme "IA forte" aux programmes informatiques qui font l'expérience de la sensibilité ou de la conscience .

Dans ce lien donné par wikipedia, il y a controverse visiblement sur la définition même de l'IA forte.
L'expérience de la sensibilité et la conscience pour une machine IA hmhm??? C'est ce que défend Stanislas Dehaene dans un livre dont le titre est évocateur à lui tout seul et que j'ai eu comme prof à Jussieu: le livre s'appelle le code de la conscience.
Selon lui la conscience animale ou humaine peut s'écrire comme un programme informatique. C'est juste du code...
A part dans un film qui s'appelle Her -et qui se définit lui-même comme SF- où le personnage principal tombe amoureux d'une machine dont la voix est celle de Scarlett Johansson film que vous connaissez sûrement, on voit mal comment et par quel miracle une machine aurait de la sensibilité et de la conscience soudainement: c'est un des fantasmes préféré de la SF alors qu' une machine ne fait que ce pour quoi on l'a programmé .
Il est étonnant que le fameux paradigme computationnel bien connu dans les sciences cognitives soit devenu par quel miracle "tout est information" y compris et en incluant des caractéristiques proprement humaines et animales comme la conscience et la sensibilité.
A moins d'avoir une approche holistique ce qui est serait pour le moins curieux car l'approche en méthodologie scientifique est l'approche réductionniste par excellence.
Et Stanislas Dehaene se définit comme scientifique...
Pour moi il y a une maladie infantile de la culture occidentale -je sens que je vais encore me faire rentrer dedans mais tant pis!- qui commence avec Pythagore affirmant que tout est nombre.
A chaque découverte majeure validée par la communauté scientifique on clame que tout est ceci ou cela. Tout est matière ou tout est énergie, tout est quanta bref ce que vous voudrez...

N.B.: entre parenthèse, je ne vois pas pourquoi on ne pourrait pas citer de la SF.
Déjà mais c'est très subjectif, avec chatGPT on est pour moi un peu rentré dans la SF.

[Deedee81]

Salut,

Pour moi il y a une maladie infantile de la culture occidentale

Une seule ?

Sinon d'accord avec tout (même la dernière ligne, c'est pas pour rien qu'on en parle autant ).

Mais n'allons pas trop vite avec l'IA forte, après tout, on n'est même pas sûr que l'intelligence non artificielle existe

[oualos]

Pardon pour l'ajout
Il y a selon moi une maladie infantile de la culture occidentale à savoir proclamer que tout est ceci ou cela dans les sciences surtout: ça a commencé avec Pythagore qui a clamé que tout était nombre.
A chaque découverte majeure -validée par la communauté scientifique bien sûr-, il se forme un banc d'ultras qui clament que tout est matière ou énergie, tout est quanta bref ce que vous voudrez.
Là avec le paradigme computationnel, on clame que tout est information, même la conscience et la sensibilité: ça me heurte un peu je dois dire.

[Deedee81]

Ci-dessus j'avais adopté un ton humoristique, mais je suis d'accord avec ça

Bon, si ce n'est que ça ne me heurte pas. L'humanité est comme ça ou du moins notre civilisation, et on fait avec

[pm42]

Et Stanislas Dehaene se définit comme scientifique...

C'est vrai que quelqu'un qui est Normalien, avec une maitrise en maths, un doctorat en psychologie, dirige l'unité de neuro-imagerie cognitive INSERM-CEA, est membre de l'Académie des sciences et du Collège de France n'est pas un vrai scientifique.

Sinon, il ferait comme ici : il utiliserait 2 ou 3 films de SF comme références à l'appui de son nawak

Bref on est dans Dunning-Kruger mais au carré.

[Deedee81]

Ah, j'ai dit que j'étais d'accord mais à vrai dire pour Dehaene je n'avais pas vérifié Désolé

[ThM55]

C'est vrai que quelqu'un qui est Normalien, avec une maitrise en maths, un doctorat en psychologie, dirige l'unité de neuro-imagerie cognitive INSERM-CEA, est membre de l'Académie des sciences et du Collège de France n'est pas un vrai scientifique.

Sinon, il ferait comme ici : il utiliserait 2 ou 3 films de SF comme références à l'appui de son nawak

Bref on est dans Dunning-Kruger mais au carré.

Argument d'autorité...

[ThM55]

L'expérience de la sensibilité et la conscience pour une machine IA hmhm??? C'est ce que défend Stanislas Dehaene dans un livre dont le titre est évocateur à lui tout seul et que j'ai eu comme prof à Jussieu: le livre s'appelle le code de la conscience.
Selon lui la conscience animale ou humaine peut s'écrire comme un programme informatique. C'est juste du code...

On ne peut pas exclure qu'il a raison en principe d'un point de vue rationnel mais le problème est qu'attribuer une propriété à un système suppose qu'on puisse définir cet attribut formellement, sans quoi il n'existe aucune procédure ou algorithme permettant de vérifier qu'un système possède cet attribut. Or il me semble que ce qu'on a appelé "la conscience subjective" (telle que décrite par exemple par des gens comme John Searle ou Dennett) ne possède pas de telle définition formalisée. On reconnaît de quoi il parle parce qu'il fait référence à des expériences qui semblent partagées. J'ai lu par exemple deux fois "La conscience expliquée" de Dennett, j'ai fouillé ce bouquin de fond en comble et je n'ai trouvé nulle part de définition formelle de ce qu'on entend par la conscience subjective. Seulement un ensemble d'hypothèses sur l'esprit qui n'éclairent pas vraiment la chose.

Cela dit, cela ne me gène nullement qu'il puisse exister des attributs qu'on ne puisse vérifier formellement. On sait en effet depuis Turing que tout n'est pas calculable ni algorithmique. Dans le cas de la conscience d'une machine, soit c'est vérifiable, soit ça ne l'est pas. Si c'est vérifiable, à mon avis il reste du travail pour définir comment car à ma connaissance, une définition formelle n'a jamais été donnée par qui que ce soit. Si ça ne l'est pas il est possible que cela soit dû à une impossibilité de formaliser la notion. Je me rapproche personnellement de ceci. Pour John Searle, c'est une raison de nature ontologique et non épistémologique qui fait obstacle: on ne peut pas définir l'expérience subjective, mais au fond c'est la même cause qui l'empêche: la nature des choses empêche de formaliser cette propriété.

Je pense que ce raisonnement n'a rien de nouveau. Si Turing a proposé un test purement phénoménologique, de nature béhavioriste c'est justement parce qu'il ne voyait pas de moyen de définir ces notions de manière formelle et vérifiable par la logique. C'est aussi pour cette raison que les neurologues qui se sont intéressé à cette question ont parlé des "corrélats neuronaux de la conscience" et pas directement de la conscience elle-même.

[pm42]

Argument d'autorité...

Absolument pas. Je n'ai pas dit qu'il avait raison sur la base de ses titres, j'ai dit qu'il était scientifique.

Et dire le contraire parce qu'on "n'est pas d'accord" avec ce qu'il dit sans formation scientifique sérieuse, expertise dans le domaine, arguments scientifiques avec études, références, chiffres, etc , c'est quoi ?

[Deedee81]

Bonjour,

On est d'accord que "se définit comme scientifique" était franchement une expression malheureuse. Cela a été précisé.

Et comme je sens l'irritation monter inutilement : calmons-nous. Et arrêtons le sujet de "Dehaene est-il compétent". Et revenons au sujet (bon s'il y a encore quelque chose à dire, c'est quand même un sacré déterrage).

Merci,

[fred3000gt]

Dans ce lien donné par wikipedia, il y a controverse visiblement sur la définition même de l'IA forte.
L'expérience de la sensibilité et la conscience pour une machine IA hmhm??? C'est ce que défend Stanislas Dehaene dans un livre dont le titre est évocateur à lui tout seul et que j'ai eu comme prof à Jussieu: le livre s'appelle le code de la conscience.
Selon lui la conscience animale ou humaine peut s'écrire comme un programme informatique. C'est juste du code...
A part dans un film qui s'appelle Her -et qui se définit lui-même comme SF- où le personnage principal tombe amoureux d'une machine dont la voix est celle de Scarlett Johansson film que vous connaissez sûrement, on voit mal comment et par quel miracle une machine aurait de la sensibilité et de la conscience soudainement: c'est un des fantasmes préféré de la SF alors qu' une machine ne fait que ce pour quoi on l'a programmé .
Il est étonnant que le fameux paradigme computationnel bien connu dans les sciences cognitives soit devenu par quel miracle "tout est information" y compris et en incluant des caractéristiques proprement humaines et animales comme la conscience et la sensibilité.
A moins d'avoir une approche holistique ce qui est serait pour le moins curieux car l'approche en méthodologie scientifique est l'approche réductionniste par excellence.
Et Stanislas Dehaene se définit comme scientifique...
Pour moi il y a une maladie infantile de la culture occidentale -je sens que je vais encore me faire rentrer dedans mais tant pis!- qui commence avec Pythagore affirmant que tout est nombre.
A chaque découverte majeure validée par la communauté scientifique on clame que tout est ceci ou cela. Tout est matière ou tout est énergie, tout est quanta bref ce que vous voudrez...

N.B.: entre parenthèse, je ne vois pas pourquoi on ne pourrait pas citer de la SF.
Déjà mais c'est très subjectif, avec chatGPT on est pour moi un peu rentré dans la SF.

Merci pour ces éclairages que je trouve très intéressant (même sur des éléments hors-sujet comme le rédictionisme ou la maladie occidentale!).


Personellement, j’ai toujours pensé qu’être contre une IA forte procède de la même logique que le racisme: repousser des agents étrangers. Vue de manière plus “cosmique”, que l’intelligence biologique ait put apparaitre sur la terre est formidable, qu’une intelligence de nature différente apparaisse (comme une AGI), voire lui succède, a un certain sens en fait.

Que dira-t’on si un jour le wetware computing finit aussi par s’approcher de réussir Turing? (Biocomputing)

“Ok pour une IA forte si elle est biologique?” Ou “bah non, ca peut vraiment penser car il lui manque de mains?”

En fait de la même manière que la vie est diverse, à terme on réalisera peut-être l’intelligence dite “forte” n’est pas l’appannage de l’homme.

Etre contre les IA fortes c’est bien vouloir garder ses privilèges, et un peu de son statut “divin”.

[Archi3]

personnellement je ne pense pas du tout que le cerveau de l'humain soit "divin", il est juste adapté à sa condition biologique. C'est pour ça que ramener son cerveau à un simple algorithme transposable sur n'importe quel support n'a pas de sens (faudrait que je lise ce qu'écrit Sébastien Dehaene sur le sujet pour vérifier ce qu'il dit, ce que j'ai lu de lui sur les estimations bayesiennes faites par le cerveau me parait très pertinent, en revanche je ne pense pas être d'accord avec l'idée de "code") : "l'algorithme" qui n'en est pas un est en fait spécifique de son support biologique, une très grande partie du cerveau est consacrée à gérer les différentes informations sensorielles et chimiques en provenance de notre corps et une petite partie est consacrée au traitement d'informations "supérieur", mais en constante interaction avec les couches basses ; par exemple dans une discussion scientifique entre vrais humains, il n'y aura pas que des arguments rationnels échangés, mais aussi des rapports de force dépendant de l'âge, du genre, de la position académique etc ..... Chose qui ne peut avoir d'équivalent pour un ordinateur.

Donc je ne suis ni pour ni contre l'IA forte, pas plus que je ne suis ni pour ni contre une peinture à antigravité ou une liqueur d'immortalité : ce sont juste des mythes.

[mh34]

“Ok pour une IA forte si elle est biologique?” Ou “bah non, ca peut vraiment penser car il lui manque de mains?”

Ca veut dire quoi "IA biologique"? j'aimerais une traduction parce que là je ne vois vraiment pas...

[oualos]

Comme aurait pu dire Levi-Strauss, le fantasme de la machine avec un esprit, une conscience voire une sensibilité est un mythème.
bon le structuralisme est un peu passé de mode, c'est vrai...
Cela a été dit ou raconté sous différentes formes à plusieurs reprises mais on en trouve trace dans toutes les cultures depuis quasiment l'aube de la civilisation.
Le rabbin de Prague qui écrit le mot chaïm soit vie en hébreu חַיִים sur le front du Golem qui est une créature d'argile, Frankenstein, Metropolis de Fritz Lang, 2001 l'Odyssée de l'espace, le film Her etc.
L'intelligence IA forte n'est qu'une reviviscence de ce mythe avec des couleurs indéniablement scientifiques donc justifié par des tas d'arguments plus ou moins rationnels mais pesés, le Phoenix qui renait de ses cendres selon moi... La créature qui connaît son Créateur et se retourne contre elle...

De toute façon selon WiKi la définition même d'IA forte fait controverse et est loin de faire l'unanimité : alors pourquoi continuer à parler de quelque chose dont la définition ne fait pas du tout consensus ?
Et qui pour le coup, n'en déplaise à pm42, renvoie à quelque chose qui est à la frontière avec la SF...

[fred3000gt]

Ca veut dire quoi "IA biologique"? j'aimerais une traduction parce que là je ne vois vraiment pas...

En gros c’est chatGPT++ qui tournerait avec des réseaux de neurones vivants au lieu de réseaux de neurones artificiels. Je fais partie des très rares groupes qui travaillent sur ce sujet, il y a un statut de nos activités ici:
https://forums.futura-sciences.com/d...-neurones.html

Pr. Hartung a publié récemment un excellent overview sur le sujet:
https://www.frontiersin.org/journals...i.2023.1017235

Comme aurait pu dire Levi-Strauss, le fantasme de la machine avec un esprit, une conscience voire une sensibilité est un mythème.
bon le structuralisme est un peu passé de mode, c'est vrai...
Cela a été dit ou raconté sous différentes formes à plusieurs reprises mais on en trouve trace dans toutes les cultures depuis quasiment l'aube de la civilisation.
Le rabbin de Prague qui écrit le mot chaïm soit vie en hébreu חַיִים sur le front du Golem qui est une créature d'argile, Frankenstein, Metropolis de Fritz Lang, 2001 l'Odyssée de l'espace, le film Her etc.
L'intelligence IA forte n'est qu'une reviviscence de ce mythe avec des couleurs indéniablement scientifiques donc justifié par des tas d'arguments plus ou moins rationnels mais pesés, le Phoenix qui renait de ses cendres selon moi... La créature qui connaît son Créateur et se retourne contre elle...

De toute façon selon WiKi la définition même d'IA forte fait controverse et est loin de faire l'unanimité : alors pourquoi continuer à parler de quelque chose dont la définition ne fait pas du tout consensus ?
Et qui pour le coup, n'en déplaise à pm42, renvoie à quelque chose qui est à la frontière avec la SF...

Si on enlève la “conscience” de la définition, et que l’on admet une définition informelle comme Turing, alors la définition tient peut-être suffisamment la route pour se positionner pour ou contre.

[ArchoZaure]

Bonjour.

De toute façon selon WiKi la définition même d'IA forte fait controverse et est loin de faire l'unanimité : alors pourquoi continuer à parler de quelque chose dont la définition ne fait pas du tout consensus

On a le même problème avec la définition de ce qu'est la vie ou même la conscience, mais on en parle quand même.
Le moyen consiste à poser justement des définitions... pour ce qu'elles valent.
Et même si ce sont des définitions circulaires, elles sont valables tant que des scientifiques acceptent ces définitions (même si certains scientifiques peuvent préférer une définition plutôt qu'une autre, mais c'est autorisé en sciences).

Si on enlève la “conscience” de la définition, et que l’on admet une définition informelle comme Turing, alors la définition tient peut-être suffisamment la route pour se positionner pour ou contre.

Tout à fait.
Je ne suis pas sûr qu'il soit nécessaire d'avoir une conscience forte pour avoir une conscience (il y a énormément d'états de la conscience possible, ce n'est pas du ON/OFF) et je ne suis même pas sûr qu'il soit nécessaire d'avoir une conscience tout court pour avoir (et non pas être) une intelligence forte.

La seule chose qui me semble importante pour pouvoir dire qu'on a une IA forte (sans faire appel à la conscience) c'est effectivement le code.
Ce code n'est pas associé à des structures prédéfinies; les machines ne se ressemblent pas et que le code tourne sur telle ou telle machine avec telle ou telle infrastructure importe peu.
Il est donc si on puis dire "Virtuel" mais son expression peut potentiellement être rendu réel (pas forcément, on peut laisser la machine sans possibilité d'interagir avec un environnement réel et ça n'enlèverait rien à la possibilité que ce soit une IA forte).
Je conçoit que ce positionnement puisse paraitre troublant et sujet à critiques mais ce n'est qu'une des possibles définitions (enfin énoncé plutôt que définition ici) de l'IA forte après tout.

[oualos]

Ça n'a rien à voir je sais mais quand je discute avec chatGPT je n'ai pas la sensation de parler à une IA faible sinon faiblarde.
Si on l'interroge sur n'importe quel sujet elle aura toujours une réponse modulo des erreurs... "hallucinatoires" si on conserve ce terme.
Vous pouvez nous en dire plus sur votre travail sur des neurones vivants ? Ça doit être passionnant
La neurobiologie c'est un peu trop calé pour moi donc si vous pouvez parler de remarques ébouriffantes ou simplement étonnantes que vous avez faites avec ces cellules souches...
Et à notre portée bien sûr!
Ma position est que la conscience est une propriété émergente de la matière organique: tout comme la température dans la bouche des scientifiques est une propriété émergente du mouvement brownien de particules de gaz ou liquide.
C'est pour cela qu'il y a une distinction d'après ce que j'ai compris (?) entre thermo et thermo statistique avec pas du tout les mêmes propriétés et équations.

[fred3000gt]

Bonjour.
On a le même problème avec la définition de ce qu'est la vie ou même la conscience, mais on en parle quand même.
Le moyen consiste à poser justement des définitions... pour ce qu'elles valent.
Et même si ce sont des définitions circulaires, elles sont valables tant que des scientifiques acceptent ces définitions (même si certains scientifiques peuvent préférer une définition plutôt qu'une autre, mais c'est autorisé en sciences).



Tout à fait.
Je ne suis pas sûr qu'il soit nécessaire d'avoir une conscience forte pour avoir une conscience (il y a énormément d'états de la conscience possible, ce n'est pas du ON/OFF) et je ne suis même pas sûr qu'il soit nécessaire d'avoir une conscience tout court pour avoir (et non pas être) une intelligence forte.

La seule chose qui me semble importante pour pouvoir dire qu'on a une IA forte (sans faire appel à la conscience) c'est effectivement le code.
Ce code n'est pas associé à des structures prédéfinies; les machines ne se ressemblent pas et que le code tourne sur telle ou telle machine avec telle ou telle infrastructure importe peu.
Il est donc si on puis dire "Virtuel" mais son expression peut potentiellement être rendu réel (pas forcément, on peut laisser la machine sans possibilité d'interagir avec un environnement réel et ça n'enlèverait rien à la possibilité que ce soit une IA forte).
Je conçoit que ce positionnement puisse paraitre troublant et sujet à critiques mais ce n'est qu'une des possibles définitions (enfin énoncé plutôt que définition ici) de l'IA forte après tout.

Je trouve réducteur de se limiter à une IA programmée avec du code, il y a d’autres approches pour faire du calcul sans code comme les implémentations physiques de liquid state machine, les ordinateurs analogiques pour résoudre les equa diffs, les ordinateurs vivants, etc… même si j’en conviens que pour toutes ces approches de l’IA même faible c’est déjà de la SF…

Vous pouvez nous en dire plus sur votre travail sur des neurones vivants ? Ça doit être passionnant
La neurobiologie c'est un peu trop calé pour moi donc si vous pouvez parler de remarques ébouriffantes ou simplement étonnantes que vous avez faites avec ces cellules souches...
Et à notre portée bien sûr!

Avec plaisir, j’ai un fil pour cela qui conviendra bien:
https://forums.futura-sciences.com/d...-neurones.html

Ma position est que la conscience est une propriété émergente de la matière organique: tout comme la température dans la bouche des scientifiques est une propriété émergente du mouvement brownien de particules de gaz ou liquide.
C'est pour cela qu'il y a une distinction d'après ce que j'ai compris (?) entre thermo et thermo statistique avec pas du tout les mêmes propriétés et équations.

Et 100% d’accord sur l’aspect émergent de la conscience, cela semble être d’ailleurs une idée bien acceptée scientifiquement.

[ArchoZaure]

Je trouve réducteur de se limiter à une IA programmée avec du code, il y a d’autres approches pour faire du calcul sans code comme les implémentations physiques de liquid state machine, les ordinateurs analogiques pour résoudre les equa diffs, les ordinateurs vivants, etc… même si j’en conviens que pour toutes ces approches de l’IA même faible c’est déjà de la SF…

Vous avez raison de le faire remarquer et je ne me limitais pas aux ordinateurs classiques.
Par code il faut entendre ici (dans mon message) un code selon la conception de la machine de Turing.

En informatique théorique, une machine de Turing est un modèle abstrait du fonctionnement des appareils mécaniques de calcul, tel un ordinateur.
Ce modèle a été imaginé par Alan Turing en 1936, en vue de donner une définition précise au concept d’algorithme ou de « procédure mécanique ». Il est toujours largement utilisé en informatique théorique, en particulier dans les domaines de la complexité algorithmique et de la calculabilité.

Quoique son nom de « machine » puisse conduire à croire le contraire, une machine de Turing est un concept abstrait, c'est-à-dire un objet mathématique. Une machine de Turing comporte les éléments suivants :

https://fr.wikipedia.org/wiki/Machine_de_Turing

[ArchoZaure]

Et 100% d’accord sur l’aspect émergent de la conscience, cela semble être d’ailleurs une idée bien acceptée scientifiquement.

Je ne suis pas sûr qu'il y ait vraiment un consensus là dessus.
Bien que l'idée soit intéressante, elle va tout de même il me semble à l'encontre de certaines théories assez plausibles et au moins pour ces dernières la conscience ne sort pas "de nul part" (absence de causalité) comme c'est le cas avec la conscience émergente (et on aurait aussi de l'intelligence émergente, etc, c'est un peu un aveu d'impuissance à modéliser plus précisément à mon avis).

[Archi3]

Je trouve réducteur de se limiter à une IA programmée avec du code, il y a d’autres approches pour faire du calcul sans code comme les implémentations physiques de liquid state machine, les ordinateurs analogiques pour résoudre les equa diffs, les ordinateurs vivants, etc… même si j’en conviens que pour toutes ces approches de l’IA même faible c’est déjà de la SF…

ben pour ça il y a au moins un moyen connu, réunir un spermatozoïde et un ovule humains par un moyen naturel ou artificiel, l'implanter dans un organe propre à son développement, attendre qu'il soit suffisamment mature pour qu'il s'en détache , et l'alimenter en nourriture et en informations diverses