L'intelligence artificielle avancée, un danger ? - Page 4
Répondre à la discussion
Page 4 sur 5 PremièrePremière 4 DernièreDernière
Affichage des résultats 91 à 120 sur 143

L'intelligence artificielle avancée, un danger ?



  1. #91
    invité576543
    Invité

    Re : L'intelligence artificielle avancée, un danger ?


    ------

    Citation Envoyé par gillesh38 Voir le message
    allez je fais une proposition : tu as rappelé que certains théorèmes ont été démontrés par des calculateurs. Penses-tu qu'on puisse programmer un ordinateur pour qu'il emette une conjecture a laquelle le programmateur n'aurait jamais pensé (et qu'il est peut etre meme incapable de comprendre) ? as tu une idée meme vague de ce qu'il faudrait arriver à faire pour cela?
    Non (je ne sais même ce qu'il faudrait qu'un humain comme moi arrive à faire pour cela, i.e., pour que j'émette une conjecture intéressante à laquelle je n'aurais jamais pensé ).

    Mais tu parles, ainsi qu'à d'autres endroits, d'une condition suffisante. Elle n'est certainement pas nécessaire. Je pense simplement qu'il y a beaucoup de conditions suffisantes pour qu'une forme d'intelligence avancée, au "sens commun", soit reconnue aux machines; mais je ne sais pas anticiper la condition suffisante qui sera effective.

    Mais tout cela est une sente, souvent empruntée sur FS, mais divergeant du sujet du fil. Je reste plutôt intéressé à comprendre la notion de danger...

    Cordialement,

    -----

  2. #92
    GillesH38a

    Re : L'intelligence artificielle avancée, un danger ?

    mais il ne s'agit pas necessairement de conjectures mathématiques élaborées . Tu as toi-même souligné sur un autre fil que des comportements assez courants comme appuyer sur un interrupteur etaient une amorce de démarche scientifique : il me semble aussi qu'on fait des tas de conjectures dans la vie courante en reliant des phénomènes a priori disparates par des liens de causalité par exemple. Peut-il en etre de même pour les ordinateurs ? (c'est tres souvent imaginé en SF ou on demande au superordinateur tres puissant de porter un diagnostic sur la cause d'évenements étranges mal compris - en general bien sur d'un alien) A ma connaissance, un ordinateur n'a jamais imaginé quelque chose qui n'avait pas été entré comme possibilité au départ - et je n'imagine pas tres bien comment on pourrait faire : c'est probablement un element essentiel "d'intelligence" au sens commun...

    cdt

    Gilles

  3. #93
    Médiat

    Re : L'intelligence artificielle avancée, un danger ?

    Citation Envoyé par gillesh38 Voir le message
    Penses-tu qu'on puisse programmer un ordinateur pour qu'il emette une conjecture a laquelle le programmateur n'aurait jamais pensé (et qu'il est peut etre meme incapable de comprendre) ?
    Si le langage est récursivement énumérable, pourquoi pas ? [Je donne cette précision par goût d'icelle, mais c'est complètement hors sujet ]
    Je suis Charlie.
    J'affirme péremptoirement que toute affirmation péremptoire est fausse

  4. #94
    invite765732342432
    Invité

    Re : L'intelligence artificielle avancée, un danger ?

    Citation Envoyé par gillesh38 Voir le message
    il me semble aussi qu'on fait des tas de conjectures dans la vie courante en reliant des phénomènes a priori disparates par des liens de causalité par exemple. Peut-il en etre de même pour les ordinateurs ?
    La réponse t'as déjà été donnée (par moi, mais pas seulement). Oui, les ordinateurs sont capables de relier des phénomènes a priori indépendants entre eux.
    De le même manière, ils sont capables d'extrapoler de leurs connaissances une conduite à tenir face à un événement inconnu.

    Bien sur les performances des ordinateurs dans ces domaines sont très éloignés de ce qu'un homme peut faire, mais ils en sont capables.

  5. #95
    invité576543
    Invité

    Re : L'intelligence artificielle avancée, un danger ?

    Citation Envoyé par gillesh38 Voir le message
    A ma connaissance, un ordinateur n'a jamais imaginé quelque chose qui n'avait pas été entré comme possibilité au départ - et je n'imagine pas très bien comment on pourrait faire
    Certes. Mais en quoi est-ce une limitation? Le terme "possibilité" est tellement vague qu'il peut recouvrir n'importe quoi. Qu'une machine soit limitée, et que ces limitations ait été "entrées au départ", i.e., soit inhérentes à la manière dont la machine a été conçue, ne pose strictement aucun problème: je ne m'attend pas à ce ma machine à laver la vaisselle fasse du café. Mais n'indique en rien qu'il y ait des limitations à ces limitations...

    Mais ça va encore aller vers une argumentation qu'une machine de traitement de l'information est limitée parce que c'est une machine de Turing, alors que le cerveau n'étant pas une machine de Turing, il n'a pas ces limitations, et, oh miracle! la faculté d'imagination tombe dans la différence... Comme on n'a, pour le moment, pas vraiment d'idée de ce qu'est l'imagination (ou la conscience, ou la pensée, ou l'âme, ou ...) et comment le cerveau la secrête-t-il, c'est un candidat sans risque pour tomber dans cette différence putative de limitation, non?

    Cordialement,

  6. #96
    GillesH38a

    Re : L'intelligence artificielle avancée, un danger ?

    pour en revenir au danger, j'imagine mal comment une machine pourrait etre "dangereuse" si elle n'est pas capable de créer de nouveaux concepts par rapport à ceux qu'on aurait prévu au départ ; le fait même qu'un ordinateur soit capable de faire une démonstration sans faire de conjecture me semble également prouver que cette capacité de "démonstration" n'a pas grande chose à voir avec ce que nous appelons nous_meme un demonstration , et en tout cas qu'on ne peut pas imaginer la capacité de conjecturer comme une "extrapolation" (en multipliant les capacités calculatoires) des capacités actuelles : autrement dit, les peformances actuelles des ordinateurs ne me semblent pas une base pertinente, extrapolable, vers des comportements "intelligents", et ne constituent donc pas un élement soutenant la vraisemblance de cette evenualité

    cordialement

    Gilles

  7. #97
    invité576543
    Invité

    Re : L'intelligence artificielle avancée, un danger ?

    Citation Envoyé par gillesh38 Voir le message
    pour en revenir au danger, j'imagine mal comment une machine pourrait etre "dangereuse" si elle n'est pas capable de créer de nouveaux concepts par rapport à ceux qu'on aurait prévu au départ
    Tu es juste en train de dire que l'intelligence artificielle avancée ne présente pas de danger parce que selon toi cela n'existera jamais.

    Maintenant, oublions que cela n'existera jamais, supposons que ça existe. Quel danger cela pourrait-il présenter?

    Cdlt,

  8. #98
    invite0753a43a

    Re : L'intelligence artificielle avancée, un danger ?

    D'apres Mmy si grace au machine on peut découvrir des nouveaux théoréme alors le danger viendrait du fait que si il y a des machines intelligente, se qui est loin d'etre le cas d'apres vos discussion, se pourrait t'elle qu'elle découvre des choses qui a échapper au cerveau humain? Certe c'est pas vraiment un danger, mais ça pourrait etre un danger si elle découvre des choses importante!

    C'est qu'une supposition de fan de science fiction et surtout ça dépend de votre réponse a ma question..

    J'ai pas vraiment un bon niveau dans tout ça, vous me dépasser largement dans le domaine, mais ça m'interesse beaucoup et je suis franchement désolé si je pause des questions un peux trop science fiction!

  9. #99
    Rhedae

    Re : L'intelligence artificielle avancée, un danger ?

    Citation Envoyé par gillesh38
    A ma connaissance, un ordinateur n'a jamais imaginé quelque chose qui n'avait pas été entré comme possibilité au départ - et je n'imagine pas tres bien comment on pourrait faire : c'est probablement un element essentiel "d'intelligence" au sens commun...
    Salut,

    Cela c'est deja produit, etant donné qu'un ordinateur à déja decouvert un théorème mathématique jusque là ignoré des hommes en 2006 je crois. Aprés verification ce théorème c'est avéré juste , mais son utilisation n'a pas réelement d'interet à l'heure actuelle. Cela dit je pense que ce la donne une piste de reflexion par rapport à des perspectives d'avenir dans ce domaine et eventuelement un hypotétique danger de construire des machines ayant des capacités de raisonement qui vont au-delà de ce que peuvent faire des humains .

    Dans des domaines tres specifiques de recherche scientifique, les chercheurs seraient souvent demunis sans la capacité de calcul des ordinateurs, mais aussi certainement l'avenenir sera fait de calculateurs sur-puissants qui pourraient avoir un meilleur potenciel que nous pour découvrir par exemple des lois physiques . Je serai pas etonné qu'un prix Nobel soit un jour decerné a une machine (a ses programeurs) qui aura decouvert une donné d'importance pour faire avancer nos connaissances . Quand je parle d'intelligence , je voudrait pas refaire un debat sur sa definition même , mais il me semble qu'un ordinateur qui decouvrivrait des lois de la nature en analysant un grand volume de données, pourrait etre consideré comme une entité intelligente, beien que cela soit dans un domaine tres specifique, et que ce genre de machine ne passeraient pas le test de Turing, il me semble quand même qu'il s'agirirait d'une forme tres evoluée de l'intelligence .
    "Le monde contient bien assez pour les besoins de chacun, mais pas assez pour la cupidité de tous."

  10. #100
    Rhedae

    Re : L'intelligence artificielle avancée, un danger ?

    Salut,

    Pour revenir au sujet initial, peut être le danger pourrait venir d'une trop grande confiance dans les machines , et que dire de notre dependance par rapport a elles , qui existe deja d'ailleur .
    "Le monde contient bien assez pour les besoins de chacun, mais pas assez pour la cupidité de tous."

  11. #101
    invité576543
    Invité

    Re : L'intelligence artificielle avancée, un danger ?

    Citation Envoyé par Alain28 Voir le message
    D'apres Mmy si grace au machine on peut découvrir des nouveaux théoréme
    Je n'ai jamais dit cela. J'ai juste écrit, ce qui est un fait, que dans les années qui précèdent certains théorèmes n'auraient pas pû être démontrés sans l'assistance de machines.

    Cdlt,

  12. #102
    invite0753a43a

    Re : L'intelligence artificielle avancée, un danger ?

    Je vois pas trop se qui change entre se que j'ai dit et se que tu a dit! Sans les machines on aurait pas pu démontré ses théorémes, bon certe j'ai dit découvert, mais ça change pas trop se que je voulait dire..

    En plus d'apres se que a dit Rhedae, un ordinateur a bien découvert un théoréme!

  13. #103
    invité576543
    Invité

    Re : L'intelligence artificielle avancée, un danger ?

    Citation Envoyé par Rhedae Voir le message
    Pour revenir au sujet initial, peut être le danger pourrait venir d'une trop grande confiance dans les machines , et que dire de notre dépendance par rapport a elles , qui existe déjà d'ailleurs .
    Nous ne dépendons pas vraiment des machines. Nous dépendons des conditions nécessaires pour permettre de maintenir un système dans lequel les machines ont un rôle critique.

    Un agriculteur ne dépend pas de ses machines: il dépend de la disponibilité de combustible, de mécaniciens et de pièces de rechange.

    Cordialement,

  14. #104
    Gunman

    Re : L'intelligence artificielle avancée, un danger ?

    En soi, si on s'en tient à ce qu'est un théorème, une machine même non dotée de véritable réflexion pourrait nous en sortir des tonnes, puisque leur nombre est infini. Il suffit juste d'extrapoler à partir des axiomes de base et l'odinateur pourrait nous sortir des dizaines de milliers de lignes d'égalités parfaitement vraies.
    Le problème est de découvrir un théorème significatif, soit une égalité, une implication, etc. qui mette au jour des propriétés spéciales qui peuvent servir dans d'autres domaines des mathématiques, mais surtout dans les domaines qui utilisent les maths (physique, chimie, sciences sociales, etc.). De plus, sans la réalité, difficile parfois de dégager certaines propriétés et d'utiliser de nouveaux outils (anecdote de Descartes ayant eu l'idée du repère orthonormé en voyant une mouche se déplacer sur une vitre quadrillée).

    Donc pour moi, un ordinateur ne pourra jamais rien découvrir d'intéressant tout seul (à part par hasard), à moins que celui-ci ne réussisse à comprendre la "signification" d'un théorème (celle que nous pouvons ressentir intuitivement), ce qui, sans culture, est difficile.

    Mais évidemment, mmy parlait uniquement de démonstrations de théorèmes qui avaient été conjecturés auparavant, ce qui n'a rien absolument à voir !

  15. #105
    invité576543
    Invité

    Re : L'intelligence artificielle avancée, un danger ?

    Citation Envoyé par Alain28 Voir le message
    En plus d'apres se que a dit Rhedae, un ordinateur a bien découvert un théoréme!
    C'est à la portée de n'importe qui et n'importe quel machine de "découvrir" un théorème. Par exemple "23135498465468764135416876231 65466468732154832143218 est un nombre pair" est un théorème, et il est très probable que je sois le premier à l'avoir proposé.

    Gilles a été un peu plus précautionneux, et a parlé de conjecture. La difficulté avec les théorèmes comme dans les conjectures, mais c'est nettement plus clair avec les conjectures, est leur intérêt. Faire un programme automatique "évaluant" l'intérêt d'un théorème est bien plus compliqué (et intéressant) que de pondre des assertions démontrables.

    Cordialement,

    Edit: Tir simultané sur la même cible...

  16. #106
    invite0753a43a

    Re : L'intelligence artificielle avancée, un danger ?

    Je vois un peux plus clair merci

    Mais les machines on quand meme aider pour ses théoréme meme si ils sont pas tres important, ils on quand meme une utiliter pour découvrir des choses que on aurais pas pu faire a la main! Imaginont que les machines soit plus dévelloper dans un futur lointain ou proche, pourront il découvrir des choses plus importante? Je pense que ma réponse restera sans réponse..

  17. #107
    Gunman

    Re : L'intelligence artificielle avancée, un danger ?

    Un théorème, c'est juste une assertion qui peut être démontrée mathématiquement. Il n'y a aucune différence entre le théorème futile que mmy a donné en exemple et le théorème de pythagore... Sauf pour un être humain, qui a un contact avec la réalité, et qui donc peut comprendre la portée d'un théorème. C'est ça qui est important !
    Et un ordinateur ne peut pas calculer la portée d'un théorème en un claquement de doigts, ça demanderait à ce qu'il "apprenne" d'abord à penser comme un être humain, à avoir une culture générale de scientifique, etc.

  18. #108
    invité576543
    Invité

    Re : L'intelligence artificielle avancée, un danger ?

    Citation Envoyé par Alain28 Voir le message
    Mais les machines on quand meme aider pour ses théoréme meme si ils sont pas tres important, ils on quand meme une utiliter pour découvrir des choses que on aurais pas pu faire a la main! Imaginont que les machines soit plus dévelloper dans un futur lointain ou proche, pourront il découvrir des choses plus importante?
    Ce que nous voyons actuellement, c'est l'émergence de "fonctions intellectuelles assistées par des machines". La plupart des usages des ordinateurs sont de ce type: la fonction complète, comme "démontrer un théorème", ou "choisir la forme aérodynamique d'un A380", ou "choisir la trajectoire de la sonde Cassini", etc. est obtenue par une combinaison entre des humains et des machines.

    Il n'y a aucune raison de penser que cette tendance ne va pas continuer et qu'on développe de plus en plus de "fonctions intellectuelles assistées par des machines". Si on garde ce schéma, ce ne sera pas "une machine peut découvrir des choses plus importantes", mais "des humains assistés de machines très développées peuvent découvrir des choses plus importantes".

    En particulier, ce schéma ne permet pas l'émergence d'un cas où la notion de but ne soit pas fournie par l'élément humain du système, y compris toutes ce qui va avec comme la notion d'intérêt, de bien et de mal, etc.

    On pourrait imaginer des cas où les ingénieurs décident de sortir de ce schéma. Personnellement, les seuls cas que je vois correspondent à des machines mises dans une situation où les humains sont totalement absents, y compris pour toute commande à distance. En restant dans la science-fiction, on pourrait imaginer un futur où des machines sont envoyées pour explorer des systèmes stellaires lointain en totale autonomie, avec comme seule liaison avec les humains (restés sur Terre!) l'envoi de données, de rapports d'exploration. On s'éloigne du schéma de "fonction assistée", dans la mesure où le segment humain du système devient passif, simple récepteur d'information.

    A contrario, tant que les humains sont disponibles pour intervenir, guider, choisir plus ou moins largement les buts, préempter les choix de la machine quand les humains le décident, le degré d'intelligence des machines ne change rien de fondamental. On reste dans un schéma de "fonction assistée par", qui n'est pas, fondamentalement et en termes de dangers potentiels, différent de ce qui existe déjà. Quand Yoghourt cite l'ABS, il parle de "conduite assistée par ordinateur"; quand les voitures conduiront toutes seules, le schéma ne sera pas changé: dans la répartition des tâches, c'est toujours l'humain qui décidera s'il préfère aller à la mer ou à la montagne; la machine s'occupera des détails de mise en oeuvre, c'est tout.

    Cordialement,

  19. #109
    invite0753a43a

    Re : L'intelligence artificielle avancée, un danger ?

    Je commence a comprendre

    Mais au bout d'un moment, nos descendant préférons que ça soit les machines qui fassent se que l'homme fait avec la combinaison Homme/Machine de nos jours, enfin c'est qu'une hypotése..

  20. #110
    invité576543
    Invité

    Re : L'intelligence artificielle avancée, un danger ?

    Citation Envoyé par Alain28 Voir le message
    Mais au bout d'un moment, nos descendant préférons que ça soit les machines qui fassent se que l'homme fait avec la combinaison Homme/Machine de nos jours, enfin c'est qu'une hypothése..
    C'est discutable. Je pense que l'homme concevra les machines de manière telle que l'homme (au sens vague incluant aussi bien l'individu que l'humanité et toutes sortes de choses entre) gardera la possibilité de décider par lui-même d'actions qui le concerne.

    L'évolution des machines va aller dans le sens d'une assistance de plus en plus grande à la décision, dans un nombre de domaines croissant. Le nombre de cas où le ou les humains se limiteront à entériner la décision proposée par la machine va croître. Quand un type de décision sera fiable, on passera de la confirmation active de la décision à la confirmation passive (i.e., le veto reste possible mais à défaut d'action la décision de la machine est effective). Mais cette condition de fiabilité demande que la machine "copie" correctement le processus de décision que les humains auraient fait (ou l'améliore sur des plans autre que le choix lui-même, comme la rapidité d'action ou la précision). L'homme est toujours là pour détecter une divergence entre ce que la machine décide et ce qu'il aurait décidé, et cela amène une reprise de contrôle, une correction, qui fait converger le processus de "copie" (ce qui est une forme de "sélection naturelle" qui pourrait répondre à l'exigence que pose Gilles...).

    Donc, oui, il est vraisemblable que nos descendants délèguent de plus en plus de décisions aux machines, mais cela n'implique pas que l'association humain/machine disparaisse: simplement que la fonction de l'homme dans le système se résume au minimum, non nul, qui est cette possibilité de décider par lui-même d'actions qui le concerne.

    Un domaine qui me semble intéressant à suivre est le pilotage des avions commerciaux ou militaires. La délégation de décision aux machines est visiblement croissante (avec les dispositifs dont le nom commence par FA, Full Authority... comme FADEC). Des accidents aériens amènent plus souvent la décision de donner la priorité aux machines sur les humains que le contraire quand la sécurité est en jeu, la décision des machines se révélant souvent plus fiable que celles des humains. Il n'est pas impossible que l'on assiste un jour au remplacement progressif de certaines applications des avions par des drones télécommandés, puis télé-contrôlés, puis télé-surveillés.

    Dans le domaine de l'aviation civile, je n'y vois pas un danger, mais bien plutôt la diminution de dangers d'autres sortes...

    Cordialement,

  21. #111
    GillesH38a

    Re : L'intelligence artificielle avancée, un danger ?

    Citation Envoyé par mmy Voir le message
    Tu es juste en train de dire que l'intelligence artificielle avancée ne présente pas de danger parce que selon toi cela n'existera jamais.

    Maintenant, oublions que cela n'existera jamais, supposons que ça existe. Quel danger cela pourrait-il présenter?

    Cdlt,
    OK si on joue ce jeu là : la question pourrait etre alors : qu'est ce qu'il faudrait pour qu'elles soient plus dangereuses que les humains eux-mêmes pour eux mêmes, ce qui place deja la barre assez haut...

    il ne me semble pas que ce soit les capacités de calculs qui rendent les humains en eux memes dangereux, mais plutot les pulsions de mort, de pouvoir, et de violence. La question posée suggere-t-elle qu'une machine intelligente aurait aussi nécessairement, ou tres probablement, ce genre de pulsion , bref qu'elle ne pourrait pas etre intelligente sans ces pulsions? peut-etre mais ca mérite d'etre argumenté !


    cdt
    Gilles

  22. #112
    Gunman

    Re : L'intelligence artificielle avancée, un danger ?

    Une machine n'a pas besoin de pulsion violente pour être dangereuse. Imagine par exemple que l'on pose un certain problème à résoudre à une intelligence artificielle. Il se peut que, en toute bonne volonté, celle-ci trouve une solution géniale, mais qui conduiraient à la mort de millions de gens. Si on n'a pas fait attention à ce détail lorsque l'on a conçu cette IA, ça peut avoir des conséquences désastreuses, alors que l'IA n'a jamais été violente ou aggressive.

  23. #113
    invité576543
    Invité

    Re : L'intelligence artificielle avancée, un danger ?

    Citation Envoyé par Gunman Voir le message
    Une machine n'a pas besoin de pulsion violente pour être dangereuse. Imagine par exemple que l'on pose un certain problème à résoudre à une intelligence artificielle. Il se peut que, en toute bonne volonté, celle-ci trouve une solution géniale, mais qui conduiraient à la mort de millions de gens. Si on n'a pas fait attention à ce détail lorsque l'on a conçu cette IA, ça peut avoir des conséquences désastreuses, alors que l'IA n'a jamais été violente ou aggressive.
    Je ne comprend pas. Quand tu parles de problème posé ç une machine, j'entend "traitement de l'information", des idées. Tu parles ensuite de "solution", ce qui renforce cette interprétation.

    Mais aucune idée n'a jamais tué qui que ce soit. Entre une idée et un tel résultat, il faut une action, il faut un acteur.

    Qui est l'acteur dans ton scénario?

    Cordialement,

  24. #114
    Gunman

    Re : L'intelligence artificielle avancée, un danger ?

    Désolé je n'ai pas été clair. En effet, si l'on se contente de faire "réfléchir" une IA pour qu'elle trouve une solution à un problème, ce n'est pas grave puisque celle ci ne peut influer sur le monde extérieur.
    Maintenant, mettons, une IA est programmée pour assurer la sécurité d'une centrale nucléaire, une base militaire, ou autre. Elle reçoit de l'information via ses capteurs, la traite, prend des décisions et les rend effectives via des acteurs dont elle possède le contrôle (rien d'exceptionnel jusque là). Si on lui a mal "appris" à prendre des décisions, elle peut très bien décider, si elle en a le pouvoir, de faire des choses qui conduiraient à la mort de centaines de personnes, mais qui lui semblerait comme la meilleure option disponible à l'instant.
    On est d'accord que ce cas relève d'une erreur de conception, et que le risque est faible pour des installations critiques, mais c'était juste pour illustrer qu'une machine peut être dangereuse, même sans avoir des pulsions de violence, ou de pouvoir, et sans être spécialement intelligente.

  25. #115
    invite7863222222222
    Invité

    Re : L'intelligence artificielle avancée, un danger ?

    Citation Envoyé par Gunman Voir le message
    Désolé je n'ai pas été clair. En effet, si l'on se contente de faire "réfléchir" une IA pour qu'elle trouve une solution à un problème, ce n'est pas grave puisque celle ci ne peut influer sur le monde extérieur.
    Maintenant, mettons, une IA est programmée pour assurer la sécurité d'une centrale nucléaire, une base militaire, ou autre. Elle reçoit de l'information via ses capteurs, la traite, prend des décisions et les rend effectives via des acteurs dont elle possède le contrôle (rien d'exceptionnel jusque là). Si on lui a mal "appris" à prendre des décisions, elle peut très bien décider, si elle en a le pouvoir, de faire des choses qui conduiraient à la mort de centaines de personnes, mais qui lui semblerait comme la meilleure option disponible à l'instant.
    On est d'accord que ce cas relève d'une erreur de conception, et que le risque est faible pour des installations critiques, mais c'était juste pour illustrer qu'une machine peut être dangereuse, même sans avoir des pulsions de violence, ou de pouvoir, et sans être spécialement intelligente.
    Donc ce qui est dangereux ce n'est pas l'intelligence artificielle (telle que présentée) en elle-même : si un jour il y a un problème, on se retournera pas vers la machine mais vers ceux qui l'ont conçue ou mal utilisée.

  26. #116
    Gunman

    Re : L'intelligence artificielle avancée, un danger ?

    De toute façon, si l'IA en question est un programme informatique, c'est bête et méchant : elle ne fera que ce pour quoi elle a été programmée. Même si elle apprend elle-même d'autres choses, ces autres choses n'auront été rendues possibles que grâce aux fonctions implémentées au départ.

  27. #117
    Yoghourt
    Animateur Habitat

    Re : L'intelligence artificielle avancée, un danger ?

    D'où la magie conceptuelle des machines de Von Neumann et de la compilation (espace données = espace programme), vis à vis des machines de Harvard (espace données != espace programme).
    éco-rénovation: l'aïkido du BTP

  28. #118
    Lord Predator

    Re : L'intelligence artificielle avancée, un danger ?

    Citation Envoyé par Leuenberg Voir le message
    Pour ma part je pense que si une telle singularité se produit, ces robots seront simplement une évolution de l'homme qui disparaitra tout en coexistant un peu comme Cro-Magnon a supplanté Néanderthal sans pour autant que cela se soit fait de façon conflictuelle.
    Je voit mal comment un robot peut être l'évolution biologique de l'homme, de plus comment l'homme peut disparaitre tout en coexistant ?

    Cro-Magnon n'a pas supplanté Néanderthal... Cro-Magnon a engendrer Néandhertale, tout comme Néandhertale a disparus aux profits de Sapiens.

    a partir de la je voit 2 alternatives :

    - soit ce sont l'évolution conjointe de l'homme et de la machine pour ne former qu'un (comme la biotechnologie)

    - soit nous faisons des robots a notre image pour garantir la continuités de notre civilisation et de notre patrimoine (sa rejoins l'idée suivante)

    Enfin une dernière remarque: à très long terme l'homme tel qu'il est est voué a disparaître car il n'est pas adapté à la vie dans l'espace, donc si notre civilisation perdure, ce serait certainement au travers d'êtres artificiels
    Jusqu'à présent les êtres artificiels ne sont pas des Hommes, cela veut-il dire que l'Homme a trés long termes n'est plus hommes ?
    Depuis plus de 10 000 ans, l'être humain a façonner son environnement afin qu'il lui soit moins hostiles (de façon exponentiels ??? ) et qu'il en tire plus de bénéfices, il n'y a aucune raison pour croire que sa ne continuera pas a " trés long terme" même dans l'espace soit par terraformation pour les planètes soit des stations spatiale pour l'espace a proprement parler (effectivement c'est pas demain, mais puisque c'est a trés long termes, ont a le temps de voir venir ^^)

    Citation Envoyé par mmy Voir le message
    Sans exprimer mon opinion (d'accord ou pas d'accord) avec cette vue, est-ce qu'on ne peut pas voir là un sujet de crainte rationnelle pour beaucoup d'humains ?
    Mais j'aimerais beaucoup la connaitre moi

    Pour beaucoup de gens le mythe de la perfection humaine, d'un "sommet" de l'évolution (ou autres versions, plus religieuses, de la même chose), semble assez important. Suggérer l'inadaptation de l'homme, ou que l'humanité puisse être continuée par autre chose que des hommes ou par les descendants biologiques de l'homme, va sembler profondément hérétique...
    Et BAMM, qu'est qu'on peut dire dés lors ?? Faut-il se résigner ? Concevoir que pour notre survie il est préférable de se transformer en quelque chose d'autres ? En est-on seulement capable tant technologiquement que psychologiquement parlant sans parler de religions ou autres?
    Sa serait faire abstraction de ce qu'on est, des repéres qu'on s'est construit pendant des millions d'année et sa serait le début de la fin.

    Par contre les descendants biologique de l'homme, ne l'es appelle-t-on pas des hommes ?

    Nous sommes Sapiens, nous fûment Néandhertal, bien avant Erectus, mais fut-il plus hommes que nous ? le fut-il moins ? Nan, on fait tous partis du genre humain, et nos descendants tant qu'il existera, seront humains...

    P.S : Les robots, et la technologie en générale ne sont que des outils aux services de l'homme, nous n'en devenons pas dépendant, nous en éprouvons le besoin, et nous le comblons.
    Pour toute l'humanité ! L.P

  29. #119
    invité576543
    Invité

    Re : L'intelligence artificielle avancée, un danger ?

    Citation Envoyé par Lord Predator Voir le message
    Cro-Magnon n'a pas supplanté Néanderthal... Cro-Magnon a engendrer Néandhertale, tout comme Néandhertale a disparus aux profits de Sapiens.
    Hmmm... Tu devrais vérifier sur quelques références sur le sujet, ça ne semble pas être la description usuelle. En particulier, l'expression "Cro-Magnon" n'est que la manière de parler des fossiles homo sapiens du paléolithique européen, en particulier post-Néanderthal.

    Cordialement,

  30. #120
    invité576543
    Invité

    Re : L'intelligence artificielle avancée, un danger ?

    Citation Envoyé par Lord Predator Voir le message
    JMais j'aimerais beaucoup la connaitre moi
    Désolé (Mais mon opinion n'est certainement pas que les humains seront remplacés par des robots humanoïdes!)

    Et BAMM, qu'est qu'on peut dire dés lors ?? Faut-il se résigner ? Concevoir que pour notre survie il est préférable de se transformer en quelque chose d'autres ? En est-on seulement capable tant technologiquement que psychologiquement parlant sans parler de religions ou autres?
    Sa serait faire abstraction de ce qu'on est, des repères qu'on s'est construit pendant des millions d'année et sa serait le début de la fin.
    Il me semble que tu argumentes très bien dans un sens qui explicite ce que j'appelle le côté hérétique qu'il y a à penser un avenir sans humain mais avec autre chose n'aurait pas existé sans les humains.

    Quand tu écris "notre survie", pourrais-tu expliciter, approfondir, ce que recouvre ce "nous"? Ca ne peut pas être "nous" les humains vivant actuellement, n'est-ce-pas?

    Cordialement,

Page 4 sur 5 PremièrePremière 4 DernièreDernière

Discussions similaires

  1. À quoi servirait de développer de l'intelligence artificielle ?
    Par pi-r2 dans le forum Discussions scientifiques
    Réponses: 99
    Dernier message: 02/08/2006, 15h04
  2. L'intelligence artificielle et la vie
    Par inviteb271042d dans le forum Discussions scientifiques
    Réponses: 44
    Dernier message: 05/11/2005, 16h12
  3. L'intelligence artificielle est diabolique !
    Par invite48c8c396 dans le forum Science ludique : la science en s'amusant
    Réponses: 23
    Dernier message: 01/08/2005, 20h54