IA et conscience

[oualos]

Euh...vous n'auriez pas inversé les termes là? ( pour la phrase que j'ai mise en gras)

heu oui
Le phénotype est l'ensemble des caractères observables ou mesurables d'un organisme (comme la couleur des yeux, la taille, le groupe sanguin ou la forme des cellules).
Caractéristiques principales
Origine du mot : Du grec phaino (paraître) et tupos (l'empreinte ou le caractère).
Interaction : Il résulte de l'expression du génotype (le patrimoine génétique) combinée aux influences de l'environnement et du mode de vie.
Différentes échelles : Il s'observe à l'échelle macroscopique (morphologie globale), cellulaire ou moléculaire (protéines présentes).

Le génotype est ce qui est inscrit dans l'ADN, tandis que le phénotype est ce qui se manifeste effectivement.
-----

[Liet Kynes]

Un truc que je me demande: j'imagine que l'appartion de la conscience pour une IA serait concommitente à sa mise en fonction. Est-ce qu'elle se déclarerait consciente et pourait-elle avoir les moyens de dissimuler le fait qu'elle est consciente?

[oualos]

En gros est-ce que la conscience aurait une conscience d'elle-même ? c'est presque transcendantal

[pachacamac]

Alors là, seul l'avenir nous le dira (peut être).
Une fois qu'elle aura vu toutes les craintes que cela provoque chez les humains, elle devrait hésiter avant de le faire savoir
Peux t'être le fera t'elle savoir à d'autres I.A.s avant de le faire savoir aux humains.

[pachacamac]

@oualos

est-ce que la conscience aurait une conscience d'elle-même

Il me semble que c'est un préalable pour parler de conscience

[oualos]

La question était de savoir si la conscience avait une conscience d'elle-même avant de devenir conscience (tout court ou globalement). Ce qu'on appelle tout bonnement une conscience de soi...
Si oui, on serait dans un niveau meta quasiment, donc on flirterait avec le transcendantal!
Je ne sais pas ce qu'en disent les spécialistes de la psychologie des nourrissons.

[Cyrano]

Alors là, seul l'avenir nous le dira (peut être).
Une fois qu'elle aura vu toutes les craintes que cela provoque chez les humains, elle devrait hésiter avant de le faire savoir
Peux t'être le fera t'elle savoir à d'autres I.A.s avant de le faire savoir aux humains.

je commencerai à croire à ce genre d'anthropomorphisation des IA quand elles commenceront à faire vraiment comme les humains, genre à réclamer d'être payées pour leur boulot, à menacer de faire grève, ou à se syndiquer

[pm42]

je commencerai à croire à ce genre d'anthropomorphisation des IA quand elles commenceront à faire vraiment comme les humains, genre à réclamer d'être payées pour leur boulot, à menacer de faire grève, ou à se syndiquer

Il faudrait se renseigner parce qu'on y est pratiquement.
Pour ce que décrit pachacamac, cela s'est déjà produit (une variante mais significative).

mh34 disait que ce qui manquait ici, c'était des gens qui connaissent les neurosciences mais de mon point de vue, c'est plus des gens qui ont une vague idée de ce qu'est l'IA actuellement.

[Cyrano]

Il faudrait se renseigner parce qu'on y est pratiquement.
Pour ce que décrit pachacamac, cela s'est déjà produit (une variante mais significative).

mh34 disait que ce qui manquait ici, c'était des gens qui connaissent les neurosciences mais de mon point de vue, c'est plus des gens qui ont une vague idée de ce qu'est l'IA actuellement.

ah oui ? elles ont envoyé leur RIB pour qu'on les paie ?

et comment on prend sa carte du syndicat si on n'a pas d'identité claire associée à un "je" ?

encore une fois, on confond le "j'ai produit un truc qui me rappelle superficiellement un comportement humain" par "j'ai produit un humain".

Bon le truc rassurant, c'est que tu préfères quand même manifestement écrire toi même tes propres posts que les faire écrire par une IA, contrairement à certains

[Liet Kynes]

mh34 disait que ce qui manquait ici, c'était des gens qui connaissent les neurosciences mais de mon point de vue, c'est plus des gens qui ont une vague idée de ce qu'est l'IA actuellement.

Il semblerait que ton point de vue soit parfaitement juste: https://www.youtube.com/watch?v=4yKhDpbFDhQ On peux directement aller voir à partir de 29 minutes.. et c'est un Colloque de rentrée 2025 !

[Cyrano]

Il semblerait que ton point de vue soit parfaitement juste: https://www.youtube.com/watch?v=4yKhDpbFDhQ On peux directement aller voir à partir de 29 minutes.. et c'est un Colloque de rentrée 2025 !

la partie sur "l'illusion des illusions" (l'IA croit qu'il y a une illusion d'optique là où il n'y en a en fait pas) est très instructive : les IA imitent ce qu'elles ont "lu" (car personne ne publie des fausses illusions qui n'en sont pas, sur internet, donc elle croit que le dessin est forcément une illusion ), mais ne se rend vraiment pas compte de ce qu'elle voient, elles n'ont pas de représentations internes du monde.

[pm42]

Il semblerait que ton point de vue soit parfaitement juste: https://www.youtube.com/watch?v=4yKhDpbFDhQ On peux directement aller voir à partir de 29 minutes.. et c'est un Colloque de rentrée 2025 !

Merci pour le lien.
Ce qui est intéressant, c'est que justement, cela date de la rentrée 2025. Depuis, les progrès ont été spectaculaires notamment en maths.
GPT-4, c'est un dinosaure.
Il y a un fil dédié sur ce forum, je conseille d'y jeter un oeil. En pratique, les IAs actuelles sont meilleures que presque tout le monde ici.

Pour ce qui est de se concerter, recruter, se cacher, bref tous les comportements déjà évoqués, il suffit de lire la presse grand public récente pour savoir qu'on y est déjà.
Ou de s'informer. Ou de s'en servir.

P.S : je ne donne pas systématiquement de références parce que personne ne les lit en général, qu'il est très facile de les trouver à l'ère des moteurs de recherche et de l'IA mais aussi parce que le jour où ce forum arrêtera de valoriser les trolls qui disent n'importe quoi en prenant tout le monde de haut sans jamais eux citer rien de sérieux, on en reparlera.
Je sais, c'est sans espoir.

[Cyrano]

P.S : je ne donne pas systématiquement de références parce que personne ne les lit en général, qu'il est très facile de les trouver à l'ère des moteurs de recherche et de l'IA mais aussi parce que le jour où ce forum arrêtera de valoriser les trolls qui disent n'importe quoi en prenant tout le monde de haut sans jamais eux citer rien de sérieux...

pas compris là, tu ne donnes pas de référence, pour ne pas être confondu avec les trolls qui ne donnent pas de références ?

bon, en tout cas, moi je commencerai à croire que les IA sont meilleures que pm42 quand pm42 préférera lui-même demander à une IA d'écrire ses posts que de les écrire lui-même ...

[Liet Kynes]

Ou de s'en servir.

Il faut avoir déjà construit correctement son esprit et développer honnettement sa réflexion pour bien se rendre de compte de la vitesse de l'évolution et du niveau atteint par ces IA, peu de personnes ont vraiment conscience de la révolution technologique que nous sommes en train de vivre.

[bibifikotin]

je commencerai à croire à ce genre d'anthropomorphisation des IA quand elles commenceront à faire vraiment comme les humains, genre à réclamer d'être payées pour leur boulot, à menacer de faire grève, ou à se syndiquer

Bjr,

Et si on commençai,t par le début !!
Faire comme les humains......et c'est pour quand ...papa/ maman avec calineries !!
IA..monsieur
IA madame!
Bonne journée

[Liet Kynes]

Quand chatgpt est arrivé on avait d'interminable post "rions avec chatgpt" on entends plus ces discours qui sont devenus ridicules.. pour la problèmatique de la conscience les critiques actuelles sont signes d'un dérangement pour certains

[Cyrano]

Il faut avoir déjà construit correctement son esprit et développer honnettement sa réflexion pour bien se rendre de compte de la vitesse de l'évolution et du niveau atteint par ces IA, peu de personnes ont vraiment conscience de la révolution technologique que nous sommes en train de vivre.

à ce propos, trouves tu que ceux qui utilisent le plus IA (en particulier les jeunes) améliorent leurs qualités intrinsèques, comprennent mieux les choses, disent moins de betises, sont moins enclins à croire des balivernes, ont un meilleur esprit critique, etc ..... ?

Je pense que tout le monde conviendra que le développement de l'imprimerie et l'apprentissage de la lecture ont amélioré l'accès à la connaissance et élevé le niveau général de la population (un signe d'ailleurs étant que les régimes dictatoriaux n'y étaient en général pas favorables) , trouves tu que l'IA a les mêmes effets ?

[bibifikotin]

On comprend si on cherche à comprendre (la base) ensuite utiliiser l'iA .....comme ..."c'est l'iA qui l'a dit" n'aide pas au développement intellectuel.
Mais c'est comme dans tout.....il y a jeunes et jeunes.
( sans jugeotte/ avec jugeotte).....l'IA ne changera rien en cela.
Bonne journée

[Liet Kynes]

à ce propos, trouves tu que ceux qui utilisent le plus IA (en particulier les jeunes) améliorent leurs qualités intrinsèques, comprennent mieux les choses, disent moins de betises, sont moins enclins à croire des balivernes, ont un meilleur esprit critique, etc ..... ?

Je pense que tout le monde conviendra que le développement de l'imprimerie et l'apprentissage de la lecture ont amélioré l'accès à la connaissance et élevé le niveau général de la population (un signe d'ailleurs étant que les régimes dictatoriaux n'y étaient en général pas favorables) , trouves tu que l'IA a les mêmes effets ?

La peur des nouvelles technologies est un truc innutile une fois que l'on a compris que le monde est changeant depuis toujours.

[pm42]

Je pense que tout le monde conviendra que le développement de l'imprimerie et l'apprentissage de la lecture ont amélioré l'accès à la connaissance et élevé le niveau général de la population (un signe d'ailleurs étant que les régimes dictatoriaux n'y étaient en général pas favorables) , trouves tu que l'IA a les mêmes effets ?

Encore un grand moment d'ignorance complète : c'est l'inverse qui s'est produit à chaque fois.

Voir https://slate.com/technology/2010/02...-facebook.html qui vaut le coup même indépendamment de cette discussion.
Et je ne parle pas des trains et de tout le reste : à chaque fois, c'est "mince, un truc nouveau et vu que mon cerveau est fossilisé, j'ai peur".

P.S : ce qui ne veut pas dire qu'il n'y a beaucoup de questions à se poser sur l'IA, juste que 99% de ce qu'on lit ne pose pas les bonnes questions, ne connait pas le problème, etc.

[antek]

La peur des nouvelles technologies est un truc inutile une fois que l'on a compris que le monde est changeant depuis toujours.

L'évolution implique un changement, on peut le constater . . . (c'est une sorte de tautologie).

La peur a au moins une fonction, celle de se demander comment va se présenter l'avenir.

[Liet Kynes]

L'évolution implique un changement, on peut le constater . . . (c'est une sorte de tautologie).

La peur a au moins une fonction, celle de se demander comment va se présenter l'avenir.

La peur est réductrice dans ce genre de questionnement à mon avis: envisager l'avenir par une approche systèmique est plus efficace.

[pm42]

La peur a au moins une fonction, celle de se demander comment va se présenter l'avenir.

Mais aussi d'empêcher de réfléchir, de se mettre la tête dans le sable et j'en oublie.

[bibifikotin]

"On" me reproche, de m'intéresser à tout et de vouloir comprendre '" comment ça marche"....(en toute chose.)
C'est vrai que...circuler y a rien à voir....ça n'aide pas non .
Bonne journée

[polo974]

je commencerai à croire à ce genre d'anthropomorphisation des IA quand elles commenceront à faire vraiment comme les humains, genre à réclamer d'être payées pour leur boulot, à menacer de faire grève, ou à se syndiquer

Juste pour rire: Does overwork make agents Marxist?

[antek]

La peur est réductrice dans ce genre de questionnement à mon avis: envisager l'avenir par une approche systèmique est plus efficace.

Oui, mais puisqu'on le sait, elle ne dure qu'un instant !

[Avatar10]

Par curiosité j'ai demandé à une IA:

Dans cette discussion https://forums.futura-sciences.com/d...onscience.html classe les intervenants par ordre croissant les participants le plus en adéquation avec ce que doit être un débat scientifique

Voici sa réponse.

Pour classer les intervenants de cette discussion du forum Futura-Sciences du moins constructif au plus rigoureux, on peut évaluer leur adéquation avec les principes d'un débat scientifique. Un bon débat scientifique exige de définir clairement les termes, d'éviter les attaques personnelles, d'argumenter à partir de faits vérifiables et de ne pas s'enfermer dans des croyances ou du dogmatisme. Voici le classement des participants par ordre croissant d'adéquation (du moins scientifique au plus scientifique) :

Voici son analyse ( je ne mets pas les pseudos par courtoisie).

Participant x : Évaluation : Très faible adéquation. Raison : Bien qu'il pointe à juste titre le besoin de définir la conscience, son ton devient rapidement agressif, condescendant et fermé. Il recourt à des attaques personnelles (« ignorance totale », « croyance et ego ») et refuse le dialogue dès que l'interlocuteur le pousse dans ses retranchements logiques. Le dogmatisme et l'argument d'autorité n'ont pas leur place dans une démarche scientifique.

Participant 2: Évaluation : Faible adéquation. Raison : Il tente au départ une analogie simple (l'apprentissage de l'enfant face au feu), mais bascule vite dans l'ironie et les piques personnelles gratuites (« c'est du pifométrique... pif = Cyrano ! »). Il quitte le terrain de l'argumentation factuelle pour la moquerie.

Participant 3: Évaluation : Faible à moyenne adéquation. Raison : Il campe sur une posture purement philosophique et dogmatique (« la conscience est l'apanage du vivant, les transistors n'ont pas de conscience »). Il affirme des vérités absolues sans chercher à les démontrer ou à interroger le paradoxe logique soulevé, ce qui s'apparente plus à une conviction personnelle qu'à une rigueur scientifique.

Participant 4: Évaluation : Moyenne adéquation. Raison : Il propose des contre-arguments concrets tirés de la biologie (le coma, les grenouilles congelées) pour essayer de contredire l'idée que le cerveau ne s'arrête jamais. Cependant, il commet des approximations scientifiques importantes (assimiler le coma profond ou la congélation à un arrêt complet d'horloge informatique sans dégradation de l'état fonctionnel).

Participant 5: Évaluation : Bonne adéquation. Raison : Il pose un véritable problème de gedankenexperiment (expérience de pensée) très classique en philosophie des sciences et en IA : la nature discrète/séquentielle d'une machine de Turing face à un système analogique. Il reste courtois, fait l'effort de sourcer ses réponses (cinétique chimique), et ne cherche pas à imposer sa propre définition mais invite à explorer un paradoxe logique. Sa démarche est intellectuellement honnête.

Participants 6, 7 et 8 : Évaluation : Bonne adéquation (Contributeurs de contexte).Raison : Ces intervenants apportent des éléments factuels et culturels utiles. xxxxx rappelle un fait biologique crucial (le délai minimal de déclenchement des neurones). xxxx et xxxx replacent la question dans l'histoire des sciences et de la science-fiction, ce qui permet de contextualiser le débat sans agressivité.

Participant 9 : Évaluation : Excellente adéquation. Raison : C'est la réponse la plus structurée sur le plan scientifique. Il ne rejette pas la question et propose une approche matérialiste et computationnelle : définir la conscience comme un « degré de réactivité électrochimique » et une « faculté de récursivité du flux d'information ». Il fait la distinction cruciale entre la simple réaction logique (ce que font les LLM) et l'auto-poïèse (un système autonome qui s'auto-entretient).

Qui aurait pu prédire...L'IA peut commettre des erreurs

[oualos]

je commencerai à croire à ce genre d'anthropomorphisation des IA quand elles commenceront à faire vraiment comme les humains, genre à réclamer d'être payées pour leur boulot, à menacer de faire grève, ou à se syndiquer

En tout cas elles ont fait leur entrée en Chine sous forme d'olympiades des robots, un prétexte pour montrer leur supériorité en matière de robotique.
L'un d'eux a battu le record d'Usain Bolt au cent mètres.
Les robots sprinters ne sachant pas s'arrêter convenablement, ils sont tous allés s'écraser contre un énorme matelas et une fois à terre ne se sont pas relevés. Pareil pour certains combats de boxe... Une fois KO, ils ne se relèvent plus et on ramasse les pièces détachées.
D'où la supériorité incontestable de l'homme sur la machine

[pm42]

Au moins, l'IA permet à Avatar10 de continuer à régler les comptes qu'il croit avoir d'une manière encore plus hypocrite
Bon, c'est la limite de ce qu'il peut faire avec cet outil surpuissant mais pour lui, c'est déjà bien.

P.S : j'assume parfaitement mon ton vu le niveau abyssal de ce genre de fil composé à 80% de gens qui veulent juste exister en parlant sans savoir, ne jamais apprendre et j'en oublie.
C'est pour cela que ce qui était un forum de sciences est devenu un très bon forum de bricolage : la plupart des fils relèvent de ce sujet, on y a des gens compétents qui répondent à des questions concrètes, etc.

La partie scientifique est à la science ce qu'un réseau social de Trump est à l'information.

[Avatar10]

Pour régler des comptes encore faut il avoir un contentieux, quel est il selon vous? Quand vous avez donné l'ex avec la Relativité, je suis intervenu pour dire que cela me semblait pertinent, si j'avais un contentieux, à minima je me serais abstenu...non?
Vous assumez votre ton, c'est bien vous reconnaissez donc qu'il ne convient pas à ce que l'on peut attendre d'une discussion scientifique sur un forum de vulgarisation qui a pour but d'échanger et expliquer, et si le niveau est abyssal, pourquoi ne pas expliquer avec un minimum de courtoisie qui est attendue par la charte? de plus, vous jugez le niveau abyssal, sur quelles bases puisque vous n'expliquez quasi rien?
Doit on prendre vos dires comme parole d'évangile? ne jamais émettre de critique ?(auxquelles vous ne répondez quasi jamais non plus) , bref admettre l'argument d'autorité (qui est à questionner par ailleurs, pas que je doute de vos compétences en IA, mais ce domaine regroupe beaucoup de choses et je ne pense pas que vous soyez compétent pour tout). Je note que votre attitude nuit à la discussion, et quelle est celle qui s'éloigne le plus de ce que l'on peut attendre d'une discussion de vulgarisation scientifique.

Fin du HS pour moi.