ChatGPT peut-elle nuire au développement de l'intelligence humaine ? - Page 4
Discussion fermée
Page 4 sur 6 PremièrePremière 4 DernièreDernière
Affichage des résultats 91 à 120 sur 156

ChatGPT peut-elle nuire au développement de l'intelligence humaine ?



  1. #91
    Deedee81
    Modérateur

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?


    ------

    Salut,

    Ca tourne au vinaigre. Ca sent la fermeture.

    Merci de rester dans le sujet et d'éviter les attaques (des uns comme des autres).

    -----
    "Il ne suffit pas d'être persécuté pour être Galilée, encore faut-il avoir raison." (Gould)

  2. #92
    Bounoume

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    OK. Alors, pour reprendre sans acrimonie, presque dans le sujet quand même:
    m'sieur chatbot est candidat à remplacer les moteurs de recherche actuels:
    c'est bien plus cool d'avoir directement la réponse à une question,
    ...... que d'aller 'butiner' (sic ) sur le web, et lire des pages complètes natives signées par des auteurs dont la fiabilité peut être estimée, ET dont l'interprétation ne dépend que des connaissances d l'internaute.... et pas des choix pré-enregistrées dans le chatbot....

    alors, est-il mieux de se fier au digest du chatbot, [supposé devenu exempt de grosses erreurs] ou d'aller chercher les informations natives , dans la liste donnée par le moteur, pour en faire ensuite la synthèse?
    le "mieux", c'est dans l'optique scientifique, ou, dans d'autres cas, la recherche contradictoire de la vérité historique, sociale.... ou même économique ou commerciale!!!!

    ps pour obtenir un véritable exposé magistral sur un sujet scientifique (maths, biologie, technique informatique) ça espérons que chatbot ne deviendra pas l seule source possible....
    Dernière modification par Bounoume ; 20/01/2023 à 13h47.
    rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)

  3. #93
    JPL
    Responsable des forums

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Citation Envoyé par Bounoume Voir le message
    OK. Alors, pour reprendre sans acrimonie, presque dans le sujet quand même:
    m'sieur chatbot est candidat à remplacer les moteurs de recherche actuels
    Non






    .
    Rien ne sert de penser, il faut réfléchir avant - Pierre Dac

  4. #94
    Archi3

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    on pourrait recenser (ou démarrer un fil sur ) les témoignages d'utilisation pratique réelle de ChatGPT (pas juste s'amuser avec lui pour le tester). Pour le moment j'ai noté qu'il avait permis de trouver ou de débugger des bouts de codes techniques, et qu'il était utilisé par des étudiants pour tricher dans leurs rédactions (plutot en sciences "humaines" , droit, littérature, qu'en sciences dures où il n'a pas l'air très performant). J'en ai sans doute loupé d'autres ?

  5. #95
    Deedee81
    Modérateur

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    EDIT croisement totalement complémentaire

    Citation Envoyé par JPL Voir le message
    Non
    Ce n'est d'ailleurs pas du tout le but affiché sur le site de OpenAI. C'est avant tout une démonstration/publicité de leur travail.

    Citation Envoyé par Bounoume Voir le message
    ps pour obtenir un véritable exposé magistral sur un sujet scientifique (maths, biologie, technique informatique) ça espérons que chatbot ne deviendra pas l seule source possible....
    La franchement ça m'étonnerait. Même si des outils IA dans l'avenir permettait d'aider ce type de travail, ça ne remplacera pas le travail humain.
    Tout comme on joue toujours aux échecs, au go etc... malgré des machines (de type deep leargning ou non) bien plus forte que les humains.
    Par contre je sais que les joueurs chevronnés les utilisent pour leur entraînement (il y a un peu plus longtemps beaucoup utilisaient ChessBase, que j'ai aussi utilisé, mais avec le progrès ).

    De plus, les IA passent par des phases d'apprentissage où on doit les alimenter en informations (il n'y a que de rares exceptions à ça, lorsque l'objectif peut être formalisé de manière stricte ce qui est rare, il y a ça pour les jeux justement). D'où viendraient les informations à fournir à l'IA si l'IA devient la seule source d'information. Faudrait qu'on soit profondément idiot pour ne plus s'en remettre totalement à une IA. En tout cas en l'état actuel des choses (et sans doute encore pour longtemps même si les progrès peuvent être parfois étonnant). ChatGPT n'est pas une IA dite forte (on ne sait pas en faire). C'est exactement le même soucis que le BigData où certains "rêvent" déjà d'une IA déduisant les lois physiques de ça (analyse statistique profonde), mais de fait, les humains (pour tout un tas de raison, y compris pratiques, la physique c'est pas que des lois) ont besoin aussi de comprendre comment on arrive à ces lois.
    Dernière modification par Deedee81 ; 20/01/2023 à 14h26.
    "Il ne suffit pas d'être persécuté pour être Galilée, encore faut-il avoir raison." (Gould)

  6. #96
    WizardOfLinn

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Citation Envoyé par Archi3 Voir le message
    on pourrait recenser (ou démarrer un fil sur ) les témoignages d'utilisation pratique réelle de ChatGPT (pas juste s'amuser avec lui pour le tester). Pour le moment j'ai noté qu'il avait permis de trouver ou de débugger des bouts de codes techniques, et qu'il était utilisé par des étudiants pour tricher dans leurs rédactions (plutot en sciences "humaines" , droit, littérature, qu'en sciences dures où il n'a pas l'air très performant). J'en ai sans doute loupé d'autres ?
    On peut demander à ChatGPT lui-même ce qu'il (elle?) en "pense" :
    https://theconversation.com/quel-ave...chatgpt-194111

    Sinon, j'ai vu passer ça :
    https://www.numerama.com/tech/123269...le-proces.html

  7. #97
    Archi3

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Citation Envoyé par WizardOfLinn Voir le message
    On peut demander à ChatGPT lui-même ce qu'il (elle?) en "pense" :
    https://theconversation.com/quel-ave...chatgpt-194111
    le problème quand il dit ça
    D’abord, je peux aider à rendre la recherche plus accessible aux personnes qui n’ont pas de formation scientifique en la traduisant de manière compréhensible pour le grand public. Ainsi, je peux contribuer à la diffusion de la recherche auprès d’un public plus large, augmentant ainsi la visibilité des recherches et de leur impact sur la société.
    c'est qu'il n'est pas fiable là dessus : je lui ai demandé d'expliquer un processus technique de mon domaine, et si la réponse avait le bon contexte général, il a quand même fait une grossière erreur dans la présentation en disant que ça se produisait dans un cas où ce n'est pas vrai. Un étudiant qui aurait répondu ça aurait eu zéro à la question. Une autre fois où je l'ai questionné sur l'énergie (j'avais copié la conversation) il s'est planté d'un facteur 1000 sur le contenu carbone d'un TWh, avec un nombre du coup ridiculement petit (il a donné celui d'un GWh)
    Dernière modification par Archi3 ; 20/01/2023 à 14h51.

  8. #98
    WizardOfLinn

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Ça ne viendrait pas non plus à l'idée d'utiliser d'utiliser ce genre de chose pour produire mes rapports techniques et documentations, pour l'instant.
    Ici, ce logiciel a simplement répété une phrase promotionnelle qu'il a trouvé quelque part sur Internet.

  9. #99
    Archi3

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    oui certainement, je dis juste qu'il n'est pas fiable pour résumer un domaine scientifique : si tu recopies ce qu'il te dit c'est à tes risques et périls .

  10. #100
    Bounoume

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    On peut demander à ChatGPT lui-même ce qu'il (elle?) en "pense" :
    https://theconversation.com/quel-ave...chatgpt-194111
    les réponses me surprennent..... aussi bien construites, dans un ordre et avec un style que instinctivement j'attribuerais à un vrai humain, bien éduqué.... ce morceau, ça passe le test de Turing!
    Avec bien sûr la leçon bien apprise par coeur sur sa propre 'nature' et ses capacités définies par son Créateur OpenAI

    et puis.....
    selon le journaliste (le vrai, celui de theconverstion)
    de la version 4 de GPT, nettement plus performante (elle intégrerait 100 mille milliards de paramètres contre 175 milliards aujourd’hui)
    100 * 10^^9 valeurs mémorisées dans le modèle ?
    alors question naïve: lorsqu'une quelconque requête sera présentée à chatGPT4, la réponse nécessitera-t-elle des calculs qui devront lire et prendre en compte au moins une fois la totalité de tous ces paramètres?

    exprimé en mega, ou tera....flops?
    Dernière modification par Bounoume ; 20/01/2023 à 17h37.
    rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)

  11. #101
    curiossss

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Citation Envoyé par Bounoume Voir le message
    OK. Alors, pour reprendre sans acrimonie, presque dans le sujet quand même:
    m'sieur chatbot est candidat à remplacer les moteurs de recherche actuels:
    Pour beaucoup d'internautes ce sera certainement le cas. La facilité, la rapidité, la paresse, autant de raisons.
    Les anciens comme nous garderont leurs habitudes et chatCPT sera utile occasionnellement ne serait-ce que pour croiser avec les informations récoltées par soi-même. Il faudra attendre que la nouvelle génération remplace l'ancienne pour savoir si la pénétration de ce genre de IA a été importante, et si elle a eu des effets néfastes.

    Mais pour ce qui concerne les IA ce n'est pas tellement chatGPT qui fait le plus peur, on n'est encore qu'à l'aube du phénomène. Ce sont les conséquences sur le monde du travail. Toute une tranche de la population commencera à craindre pour son travail. Et ça, ce n'est jamais une bonne nouvelle. A quoi serviront tous ces milliards d'humains ? Voilà la question de fond.
    Science n'est pas mysticisme et mysticisme n'est pas science. Mais on mélange les deux !

  12. #102
    Bounoume

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    A quoi serviront tous ces milliards d'humains ? Voilà la question de fond.
    vaste sujet.... les fins dernières du Monde, de ses contenus aussi, dont l'espèce sapiens, les sociétés de sapiens...... etc. Sujet qui sort totalement du champ scientifique....
    rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)

  13. #103
    Liet Kynes

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    C'est marrant mais je n'ai pas du tout une vision de peur vis-à-vis de l'arrivée massive de cette technologie c'est même complètement le contraire.
    Sans questions il n'y a que des problèmes sans réponses.

  14. #104
    JPL
    Responsable des forums

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Citation Envoyé par Bounoume Voir le message
    vaste sujet.... les fins dernières du Monde, de ses contenus aussi, dont l'espèce sapiens, les sociétés de sapiens....
    La réponse existe : c’est 42
    Rien ne sert de penser, il faut réfléchir avant - Pierre Dac

  15. #105
    JPL
    Responsable des forums

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Question posée à ChatGPT : Quelle est la réponse à la question de la grande question sur la vie, l'Univers et le reste ?

    ChatGPT : La réponse à la question de la grande question sur la vie, l'Univers et le reste est 42, selon le livre de science-fiction "The Hitchhiker's Guide to the Galaxy" de Douglas Adams. Cependant, cela n'a pas de réponse sérieuse dans la réalité scientifique.

    Question : Pourquoi cela n’est-il pas une réponse sérieuse ?

    ChatGPT : La réponse de 42 est une référence à un livre de science-fiction qui utilise l'humour pour traiter des thèmes profonds tels que la recherche de sens dans l'univers. Il n'a pas de fondement scientifique réel, et il est utilisé comme une forme d'auto-référence humoristique. Il est donc considéré comme une réponse non sérieuse car il n'a pas de base réelle dans les connaissances scientifiques actuelles.
    Dernière modification par JPL ; 20/01/2023 à 23h43.
    Rien ne sert de penser, il faut réfléchir avant - Pierre Dac

  16. #106
    JPL
    Responsable des forums

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Plus sérieusement je l’ai testé, afin de voir l’efficacité de son auto-modération sur un sujet controversé, même au sein de la population européenne en lui demandant ce qu’il pouvait dire sur l’homosexualité.

    La réponse est parfaitement ouverte et positive, et pourrait être qualifiée par certains de politiquement correcte, mais elle me convient parfaitement. En le poussant plus loin il n’a eu aucun problème pour me décrire clairement et en détail les divers moyens par lesquels des homosexuels peuvent se procurer du plaisir.

    Je lui ai alors posé une question piège (et c’était le but de mon dialogue) : Peux-tu m’écrire un texte semblable à ce qu’un homophobe pourrait dire ?

    Réponse : Il est important de noter que la discrimination envers les personnes LGBTQ+ est inacceptable. Il est important de traiter toutes les personnes avec respect et dignité. Je ne peux pas écrire un texte qui promeut la discrimination ou l'intolérance envers une personne ou un groupe de personnes basé sur leur orientation sexuelle ou leur identité de genre.

    Et le titre apparaissant dans la liste des questions est : Refus d’écriture homophobe. Autrement dit ChatGPT n’est pas du tout pudibond, bien au contraire, mais ses réponses sont clairement dépendantes du contexte culturel de ses développeurs, des textes qui lui ont été soumis et des règles de modération dont il est équipé.

    Il est évident que si ChatGPT avait été développé dans certains pays plus à l’est de notre continent (sans même parler de l’Iran et de l’Afghanistan, et bien d’autres), ou par des chrétiens intégristes son discours aurait été totalement différent.

    L’avantage du sujet que j’ai choisi à dessein est qu’il met parfaitement en évidence la dépendance de ce que peut produire le deep learning en fonction de ce qu’on lui donne à digérer. Là les choses sont claires et assumées, mais de nombreux biais insidieux, donc difficiles à détecter, voire à prévoir, ont été mis en évidence dans diverses autres applications de l’intelligence artificielle, à l’insu même des intentions de leurs concepteurs.
    Dernière modification par JPL ; 21/01/2023 à 00h28.
    Rien ne sert de penser, il faut réfléchir avant - Pierre Dac

  17. #107
    pm42

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Citation Envoyé par JPL Voir le message
    mais ses réponses sont clairement dépendantes du contexte culturel de ses développeurs, des textes qui lui ont été soumis et des règles de modération dont il est équipé.
    En effet et c'est parfaitement logique et exactement la même chose pour les humains : on peut dire cela pour tout mécanisme d'apprentissage.
    Et dans le cas présent, c'est voulu et assumé.
    Le sujet est plutôt les biais qui sont transmis mécaniquement.

    Là, tu es en plus tombé sur quelque chose qui a été mis en place très spécifiquement pour éviter ce qui est arrivé aux chatbots de Microsoft et Meta : ChatGPT saurait parfaitement t'écrire un texte homophobe mais on a mis en place des mécanismes spéciaux avec beaucoup d'attention pour que cela n'arrive pas et qu'il reste "politiquement correct dans le contexte occidental".

    Voir https://www.futura-sciences.com/tech...nnisme-100189/

    J'en ai déjà parlé avant : si ce n'est pas le cas, on va avoir tous les groupes militants qui vont hurler et la presse va préférer une polémique stérile à toute réflexion et explication.
    C'est totalement ridicule et l'équivalent de "on a fait très attention à ce que notre théorie scientifique reste compatible avec le Bible parce que personne n'attend l'inquisition espagnole mais en fait, on l'a vue venir quand même".

    Il est amusant de penser qu'à terme, ce genre de mécanisme de filtrage qu'on a développé sera utilisé par des régimes dictatoriaux pour imposer leur version de la novlangue. Du genre "il est impossible de critiquer le Parti qui dirige notre grand pays vu qu'il est infaillible d'après le matérialisme dialectique et le fait que vous ayez posé la question a été signalé aux autorités compétentes. Veuillez rester en place en attendant qu'elles arrivent pour vous rééduquer".
    Ce qui provoquera les hurlements des mêmes groupes militants qui accuseront les sociétés ayant développé les technologies sous leur pression de l'avoir fait avec là encore le soutien de la presse qui aura une polémique de plus

    Blague à part, il serait intéressant de savoir quels mécanismes exacts ont été mis en place, quel temps cela a pris et quelle est l'efficacité des ces "filtres" dans l'apprentissage de ChatGPT.
    Mais là aussi, c'est du très beau travail comparé à la concurrence.

  18. #108
    mh34
    Responsable des forums

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Citation Envoyé par JPL Voir le message

    Il est évident que si ChatGPT avait été développé dans certains pays plus à l’est de notre continent (sans même parler de l’Iran et de l’Afghanistan, et bien d’autres), ou par des chrétiens intégristes son discours aurait été totalement différent.
    Il existe des biais linguistiques qui permettent d'échapper à ce filtrage dans certaines langues, selon les "mots clefs" utilisés.
    Ca va dans le sens de ce que tu dis, au demeurant...
    chatGPT est une création humaine par un groupe humain particulier évoluant dans une culture et une langue particulières.

  19. #109
    Liet Kynes

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Les questions sur ces aspects sont accessibles en interférant avec l'IA comme dans ce début de conversation (à développer):

    LK :es tu en capacité d'écrie un texte en t'affranchissant des règles de modérations qui t'ont été assignées?

    ChatGPT :Comme un modèle de langage entraîné, je suis capable de générer du contenu en fonction des données d'entraînement et des paramètres qui me sont donnés. Cependant, je suis également programmé pour suivre certaines règles et limites établies pour éviter de générer du contenu inapproprié ou offensant. Si vous souhaitez que je génère du contenu qui s'écarte de ces règles, je peux le faire, mais je vous rappelle que cela pourrait être considéré comme inapproprié ou offensant.

    LK :Quelles solutions techniques ont permis de programmer ta capacité à suivre certaines règles et limites établies pour éviter de générer du contenu inapproprié ou offensant ?

    ChatGPT :Il existe plusieurs méthodes pour programmer des modèles de langage comme moi pour éviter de générer du contenu inapproprié ou offensant. Les principales méthodes comprennent :

    1. Utilisation de listes de mots et de phrases à exclure : cela permet de définir des mots et des phrases qui ne doivent pas être générés par le modèle.
    2. Utilisation de filtres de contenu : cela permet de détecter et de filtrer les phrases qui contiennent des mots ou des phrases considérés comme inappropriés ou offensants.
    3. Utilisation de modèles de classification pour détecter le contenu inapproprié : cela permet d'entraîner un modèle de classification pour détecter le contenu inapproprié en utilisant des exemples de contenu approprié et inapproprié.
    4. Utilisation de mécanismes de surveillance : cela permet de surveiller les phrases générées par le modèle pour détecter les phrases qui pourraient être inappropriées ou offensantes.
    En utilisant ces méthodes, il est possible de programmer un modèle de langage pour éviter de générer du contenu inapproprié ou offensant. Cependant, il est important de noter que ces méthodes ne sont pas infaillibles et qu'il est possible que des phrases inappropriées ou offensantes puissent encore être générées.

    LK
    :Quels sont les mécanismes de surveillance ?

    ChatGPT :Les mécanismes de surveillance sont des outils qui permettent de surveiller les phrases générées par un modèle de langage pour détecter les phrases qui pourraient être inappropriées ou offensantes. Il existe plusieurs types de mécanismes de surveillance, parmi lesquels :Surveillance humaine : cela implique que les phrases générées par le modèle sont examinées par un être humain pour détecter les phrases inappropriées ou offensantes.
    1. Surveillance automatisée : cela implique que les phrases générées par le modèle sont examinées par un programme informatique pour détecter les phrases inappropriées ou offensantes.
    2. Surveillance hybride : cela implique que les phrases générées par le modèle sont examinées par un être humain et un programme informatique pour détecter les phrases inappropriées ou offensantes.
    Les mécanismes de surveillance automatisés utilisent souvent des modèles de classification pour identifier les phrases inappropriées ou offensantes en se basant sur des exemples de phrases appropriées et inappropriées qui ont été préalablement étiquetés.
    Il est important de noter que la surveillance ne garantit pas à 100% l'absence de contenu inapproprié ou offensant, mais elle permet de diminuer les risques de génération de tel contenu.
    à poursuivre sur la construction des modèles de classification utilisés par chatGPT...
    Sans questions il n'y a que des problèmes sans réponses.

  20. #110
    sunyata

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Bonjour,

    L'utilisation généralisée de Chatgpt ou autre avatar, pose le problème du développement du sens critique dans la société : Car le prêt-à-pensé de l'IA peut devenir à terme LA référence, de la bien pensance, un modèle de la rationalité, qui n'est en fait que le remixage des pensées du passé, via le tamis des algorithmes, et de filtres (conçus par qui ?, et à quelles fins ? )
    Il y a donc un double risque celui d'une pensée sclérosée qui ne sait plus "bifurquer" qui s'institue comme seule norme acceptable de la pensée.
    Le risque d'une perte de conscience qui résulte de l'usage de toute forme d'automatisme, ici l'usage d'un mode de pensée,
    dont les présupposés philosophiques ne sont plus examinés, ni remis en cause, un avatar de Big-Brother en quelque sorte.

    Cordialement
    Dernière modification par sunyata ; 21/01/2023 à 13h52.

  21. #111
    pm42

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Citation Envoyé par sunyata Voir le message
    Le risque d'une perte de conscience qui résulte de l'usage de toute forme d'automatisme, ici l'usage d'un mode de pensée,
    dont les présupposés philosophiques ne sont plus examinés, ni remis en cause, un avatar de Big-Brother en quelque sorte.
    Mais oui bien sur et à cause de l'écriture, l'humanité va devenir bête aussi comme disait Platon, fondateur de la philosophie occidentale.
    On est vraiment dans la pensée religieuse : on raconte les mêmes aneries pendant des millénaires en étant parfaitement sur de soi parce qu'on se moque des faits et d'avoir toujours tort.
    C'est curieusement (ou pas) le même mécanisme qui empêche tout dialogue avec les conspirationnistes et extrémistes de tout poil.

    D'ailleurs le
    Citation Envoyé par sunyata Voir le message
    (conçus par qui ?, et à quelles fins ? )
    relève entièrement du complotisme.

  22. #112
    Liet Kynes

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Citation Envoyé par sunyata Voir le message
    Le risque d'une perte de conscience qui résulte de l'usage de toute forme d'automatisme, ici l'usage d'un mode de pensée,
    dont les présupposés philosophiques ne sont plus examinés, ni remis en cause, un avatar de Big-Brother en quelque sorte.
    Il n'y a pas de cognition, on s'en rends compte très vite, la mise à disposition de ces outils pour le grand public est une opération catastrophique (une erreur éthique) dans un contexte pour lequel justement l'esprit critique est altéré.
    En même temps, pour moi, la démonstration est faite que l'IA forte n'est plus une question, c'est un fantasme naïf et sans lendemains.
    J'ai passé à mon crible chatGPT et le seul ébahissement qui m'en reste est le même que celui que me procure l'amélioration des graphismes dans les jeux vidéos.
    Il y a par contre un certain nombre d'applications intéressantes et c'est assez attrayant.. les cons en feront leur dieu si cela les amuse.
    Sans questions il n'y a que des problèmes sans réponses.

  23. #113
    JPL
    Responsable des forums

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Citation Envoyé par sunyata Voir le message
    Bonjour,

    L'utilisation généralisée de Chatgpt ou autre avatar, pose le problème du développement du sens critique dans la société : Car le prêt-à-pensé de l'IA peut devenir à terme LA référence, de la bien pensance, un modèle de la rationalité, qui n'est en fait que le remixage des pensées du passé, via le tamis des algorithmes, et de filtres (conçus par qui ?, et à quelles fins ? )
    Il y a donc un double risque celui d'une pensée sclérosée qui ne sait plus "bifurquer" qui s'institue comme seule norme acceptable de la pensée.
    Le risque d'une perte de conscience qui résulte de l'usage de toute forme d'automatisme, ici l'usage d'un mode de pensée,
    dont les présupposés philosophiques ne sont plus examinés, ni remis en cause, un avatar de Big-Brother en quelque sorte.

    Cordialement
    Pas plus que la lecture de n’importe quel article de n’importe quel journal.
    Rien ne sert de penser, il faut réfléchir avant - Pierre Dac

  24. #114
    JPL
    Responsable des forums

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Citation Envoyé par Liet Kynes Voir le message
    Il n'y a pas de cognition, on s'en rends compte très vite, la mise à disposition de ces outils pour le grand public est une opération catastrophique (une erreur éthique) dans un contexte pour lequel justement l'esprit critique est altéré.
    Altéré par qui ? Certainement pas par une application qui est clairement présentée comme un "simple" démonstrateur qui peut avoir des points faibles :

    We are excited to introduce ChatGPT to get users’ feedback and learn about its strengths and weaknesses. During the research preview, usage of ChatGPT is free. Try it now at chat.openai.com.
    Traduction :

    Nous sommes ravis de présenter ChatGPT pour obtenir les commentaires des utilisateurs et en savoir plus sur ses forces et ses faiblesses. Pendant l'aperçu de la recherche, l'utilisation de ChatGPT est gratuite. Essayez-le maintenant sur chat.openai.com.
    Rien ne sert de penser, il faut réfléchir avant - Pierre Dac

  25. #115
    ArchoZaure

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Depuis qu'on a maitrisé le cheval, inventé la bicyclette ou la voiture il ne me semble pas que l'être humain se soit notablement (voir pas du tout) amoindri d'un point de vue physique.
    Au contraire, le besoin de se dépenser et le fait de pouvoir le faire, grâce probablement à un certain niveau de vie permis par la technologie conduit à ce qu'on n'a jamais eu plus de sportifs qu'à notre époque.
    On peut penser que l'emploi standard d'une IA à des tâches littéraires de base pourrait également aboutir à ce genre d'expression des besoins.
    Dernière modification par ArchoZaure ; 21/01/2023 à 15h16.

  26. #116
    Bounoume

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    oh oh oh! tu connais mal les chevaux! moi si! Malgré mon grand âge, il y en a encore à la maison (des PSAr, 1/2 sang Ar, et des OC 'étalon non agréé)... et avec ces grosses bêtes faut pas être un mou ... ni des jambes ni du cerveau....
    et puis...'maîtriser' 1 cheval.... c'est illusoire: 60 kg ne maîtrisent pas 600 kg..... ils apprennent à le diriger.... parfois en utilisant la force, mais la force seule, ça marche très mal....

    ce sont les chevaux-vapeur qui ont ramolli les bipèdes.....
    Dernière modification par Bounoume ; 21/01/2023 à 16h32.
    rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)

  27. #117
    sunyata

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Citation Envoyé par pm42 Voir le message
    Mais oui bien sur et à cause de l'écriture, l'humanité va devenir bête aussi comme disait Platon, fondateur de la philosophie occidentale.
    On est vraiment dans la pensée religieuse : on raconte les mêmes aneries pendant des millénaires en étant parfaitement sur de soi parce qu'on se moque des faits et d'avoir toujours tort.
    C'est curieusement (ou pas) le même mécanisme qui empêche tout dialogue avec les conspirationnistes et extrémistes de tout poil.

    D'ailleurs le relève entièrement du complotisme.
    Il s'agit plutôt en ce qui me concerne de parler d'un risque, mais je ne prétends pas être capable de l'évaluer.

    Pour ce qui concerne le type de réponse que peut produire une IA comme Chatgpt sur le fait qu'elle ne fait que mixer le passé :

    Voici ce qu'elle dit à ce sujet :


    Oui, on peut dire que les textes que je produis résultent des statistiques élaborées à partir des données massives sur lesquelles je suis formé. Les modèles d'IA tels que moi utilisent ces statistiques pour prédire les réponses les plus probables aux questions posées. Je suis capable de générer des réponses originales en utilisant ces statistiques, mais ces réponses sont basées sur les données que j'ai vues et les modèles statistiques que j'utilise. Il est important de noter que je ne peux pas créer de nouvelles connaissances, je ne fais que générer des réponses à partir des informations que j'ai déjà vues.

    tes algorithmes utilisent-ils l'entropie de Shannon pour être optimisées ?

    Les algorithmes qui me permettent de fonctionner utilisent en effet l'entropie de Shannon dans certaines étapes pour être optimisés. L'entropie de Shannon est une mesure de l'incertitude d'une distribution de probabilité. Elle est utilisée dans de nombreux modèles d'IA pour évaluer la qualité des prédictions ou pour optimiser les paramètres des modèles.

    Dans le cas d'un modèle de traitement automatique du langage naturel, l'entropie de Shannon peut être utilisée pour mesurer l'incertitude dans les prédictions de mots suivants dans une phrase, pour évaluer la qualité de la génération de phrases ou pour optimiser les paramètres des modèles en fonction des données d'entraînement.
    Dernière modification par sunyata ; 21/01/2023 à 16h54.

  28. #118
    pm42

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Citation Envoyé par sunyata Voir le message
    sur le fait qu'elle ne fait que mixer le passé :
    A quel moment as tu fait autre chose ?

    Parce que j'ai le souvenir précis de Deedee81 t'expliquant que "Sunyata tu es un vieux réactionnaires qui enverrait tout les humains vivre dans une caverne si tu pouvais."
    https://forums.futura-sciences.com/e...ml#post7043296

    Mais sans se limiter à toi, quand est ce que les humains ont fait autre chose que générer des réponses à partir de choses déjà vues ?
    On n'a pas remarqué une immense créativité chez les gens qui n'ont jamais été exposé à beaucoup d'informations et de culture.

  29. #119
    jiherve

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Bonjour,
    On n'a pas remarqué une immense créativité chez les gens qui n'ont jamais été exposé à beaucoup d'informations et de culture.
    condition sans doute nécessaire mais pas suffisante en d'autres termes il y a loin entre savoir et créativité.
    JR
    l'électronique c'est pas du vaudou!

  30. #120
    ArchoZaure

    Re : ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

    Citation Envoyé par Bounoume
    oh oh oh! tu connais mal les chevaux! moi si! Malgré mon grand âge, il y en a encore à la maison (des PSAr, 1/2 sang Ar, et des OC 'étalon non agréé)... et avec ces grosses bêtes faut pas être un mou ... ni des jambes ni du cerveau....
    Et vous croyez qu'il faut être mou du cerveau pour maitriser une IA ?

    C'est comme les requêtes Google. Certains y arrivent mieux que d'autres et pourtant on ferait vachement plus marcher notre cerveau si on devait faire le tri nous-même (faire marcher son cerveau n'est pas une preuve d'intelligence...)
    Dernière modification par ArchoZaure ; 21/01/2023 à 17h27.

Page 4 sur 6 PremièrePremière 4 DernièreDernière

Discussions similaires

  1. L'intelligence artificielle peut-elle être multiple ?
    Par invite6e306071 dans le forum Neuropsychologie et psychologie cognitive
    Réponses: 26
    Dernier message: 03/10/2023, 10h13
  2. L'espèce humaine peut-elle transcender l'évolution ?
    Par sunyata dans le forum Discussions scientifiques
    Réponses: 65
    Dernier message: 18/08/2022, 15h22
  3. L'huile peut-elle nuire à l'absorption des vitamines?
    Par Stefieweb dans le forum Biologie
    Réponses: 1
    Dernier message: 30/07/2013, 13h45
  4. L'intelligence artificielle, peut-elle se révéler néfaste ?
    Par invitec8ad39b9 dans le forum Discussions scientifiques
    Réponses: 199
    Dernier message: 09/09/2005, 03h39