pourquoi bill Gates, Elon Musk... ont peur de l'intelligence artificielle

[cosmoff]

Bonjour à tous,

j'ai vu récemment que bill Gates,Elon Musk ... qui ne sont pas mauvais dans le domaine des sciences et de l'informatique ont peur de l'intelligence artificielle. Pourtant meme dans le domaine du deep learning, l'ordinateur suit betement un algorithme et en aucun cas il se dit "l'équation dans mon algo est nul donc je la change". Donc un ordinateur fait uniquement ce qu'on lui dit, et n'apprend que ce qu'on lui a autorisé à apprendre. Alors pourquoi toutes ces craintes ?

Merci d'avance pour vos avis
-----

[Jack]

Tu as déjà vu terminator ?

Ou 2001, l'odyssée de l'espace, etc.

[cosmoff]

Dans le film terminator, ce sont les robots qui "se rebellent", or pour moi c'est impossible car un programme exécute betement des instructions et en n'aucun cas il en crée

[Jack]

C'est un problème de "conscience de soi". Rappelle-toi ce qu'en vient à vient CARL 'alias HAL) dans 2001.

[A voir en vidéo sur Futura]

[Jack]

Dans le film terminator, ce sont les robots qui "se rebellent"

Dans mes souvenirs, ce sont les machines qui voulaient exterminer les humains

[invitef29758b5]

Salut

et n'apprend que ce qu'on lui a autorisé à apprendre.

Le danger vient de ce que monsieur "on" lui apprend .

[invite51d17075]

Bonjour à tous,

j'ai vu récemment que bill Gates,Elon Musk ... qui ne sont pas mauvais dans le domaine des sciences et de l'informatique ont peur de l'intelligence artificielle. Pourtant meme dans le domaine du deep learning, l'ordinateur suit betement un algorithme et en aucun cas il se dit "l'équation dans mon algo est nul donc je la change". Donc un ordinateur fait uniquement ce qu'on lui dit, et n'apprend que ce qu'on lui a autorisé à apprendre. Alors pourquoi toutes ces craintes ?

Merci d'avance pour vos avis

il me semble que la question est légitime.
certes, on voit aujourd'hui surtout des progrès croissants avec des buts "opérationnels".
mais par ailleurs, il n'est pas absurde de penser que la "conscience" ne soit que le fruit de la "complexité". (à développer.... bien sur.)
( et pas un truc "magique" )
dans cette idée, et en faisant un parallèle ( sans en juger la pertinence ) certains peuvent supposer qu'une complexité suffisamment grande pourrait entraîner une forme de "conscience".
c'est un peu ainsi que j'interprète leurs analyses.

[pm42]

Dans le film terminator, ce sont les robots qui "se rebellent", or pour moi c'est impossible car un programme exécute betement des instructions et en n'aucun cas il en crée

Ce serait bien de se renseigner un peu sur ce que fait l'intelligence artificielle de nos jours parce que là, on est au delà de la caricature et tu n'as pas vraiment idée de ce que fait un programme.
Au demeurant, des programmes capables de dépasser cette description, on en a depuis des dizaines d'années.

[trebor]

Bonsoir à tous,

Un petit bug informatique pourrait peut être provoquer une catastrophe lorsque des circuits d'intelligence artificielle sont utilisés dans des domaines très sensibles ?
Exemples : pilotage automatique, dans aviation, la voiture autonome, l'armement militaire, le domaine bancaire,.....

Bonne soirée à tous

[pm42]

Un petit bug informatique pourrait peut être provoquer une catastrophe lorsque des circuits d'intelligence artificielle sont utilisés dans des domaines très sensibles ?
Exemples : pilotage automatique, dans aviation, la voiture autonome, l'armement militaire, le domaine bancaire,.....

Là aussi, cela revient à ignorer tout ce qui a déjà été fait pour éviter ce genre de choses en informatique classique.
Et la qualité qu'on a déjà atteint en voiture autonome ou en pilotage d'avion et de drones par des IA.

[trebor]

Re,
La perfection n'existe pas donc le risque ZERO non plus ♪♫)

[pm42]

La perfection n'existe pas donc le risque ZERO non plus ♪♫)

Affirmation générale dont la pertinence dans une discussion sur un forum scientifique m'échappe.
Personne n'a parlé de risque zéro à part toi.

Comme d'habitude, les discussions sur l'IA virent au café du commerce avec des gens qui ne connaissent pas grand chose voire rien à l'informatique en général mais qui ont un avis.

A la prochaine.

[antek]

Comme d'habitude, les discussions sur l'IA virent au café du commerce avec des gens qui ne connaissent pas grand chose voire rien à l'informatique en général mais qui ont un avis.

Mais c'est pas une raison pour laisser l'informatique aux informaticiens.

[polo974]

Bonsoir à tous,

Un petit bug informatique pourrait peut être provoquer une catastrophe lorsque des circuits d'intelligence artificielle sont utilisés dans des domaines très sensibles ?
Exemples : pilotage automatique, dans aviation, la voiture autonome, l'armement militaire, le domaine bancaire,.....

Bonne soirée à tous

Bonjour,

Que dire de la paresse ou de la bêtise humaine (sans même parler de la connerie et de la méchanceté) qui ont déjà entraîné nombre de catastrophes...

Le bug informatique est avant tout un bug humain. L'ia devrait donc justement réduire les risques de bug.

[trebor]

Bonjour,

Que dire de la paresse ou de la bêtise humaine (sans même parler de la connerie et de la méchanceté) qui ont déjà entraîné nombre de catastrophes...

Le bug informatique est avant tout un bug humain. L'ia devrait donc justement réduire les risques de bug.

Bonjour à tous,

Tu-as raison polo l'I.A mis entre de mauvaises mains ça finira par poser des problèmes par manque d'entretien et de maintenance, d'accord l'I.A doit empêcher les utilisateurs de faire des bêtises.

Certain composant devrons obligatoirement être remplacé à des intervalles de temps réguliers, le seront-ils ?

Nous sommes à une époque ou il faut faire des économies dans tous les domaines, économie et maintenance ne font pas bon ménage, j'ai travaillé dans un service de maintenance ou les moyens étaient chaque année de plus en plus réduits.
Hier, j'ai entendu que plusieurs Canadair étaient cloués au sol par manque de pièces, ceux qui sont en l'air sont-ils au top ?
Attendons de voir le jour ou la machine avec I.A aura remplacé l'homme dans tous les domaines.

Il y a encore des pilotes dans les avions et dans le TGV et autres,..... l'I.A doit aider l'homme mais ne doit pas le remplacer complètement.

Imaginez ce monde ou l'homme n'est plus utilisé dans aucune tâche, actuellement on doit être pas trop loin de 30% des personnes mises hors jeu, si ce n'est pas aujourd'hui, demain c'est bientôt au rythme ou va le progrès.
Nous sommes à une époque de transition, de plus en plus de riche et de pauvre, est-ce cela le progrès ?

Le progrès = un monde meilleur pour tous ?

[invite51d17075]

Attendons de voir le jour ou la machine avec I.A aura remplacé l'homme dans tous les domaines.

Une extrapolation un peu rapide à mon goût.
- vison à court terme :
objectivement, une "robotisation" ( au sens large ou très large ) qui à la fois entraîne aussi les tâches humaines s'élèvent (*).... ( je pourrais préciser )
c'est le sens le l'évolution de la "techno" même très pointue.
-vision à long terme :
possibilité qu'une émergence de type "conscience" apparaisse. et là je suis "sec" , à la fois sur l'éventualité et l'éventuel danger de cela.

(*) On est tous plus intelligents que de visser des boulons, pour dire simple.

[trebor]

Re,
Un peu de lecture sur ce sujet d'avenir quasi inévitable, mais qui n'est pas sans risque pour notre devenir à tous.
http://www.clubic.com/pro/actualite-...48-openai.html
Bonne lecture

[antek]

objectivement, une "robotisation" ( au sens large ou très large ) qui à la fois entraîne aussi les tâches humaines s'élèvent (*).... ( je pourrais préciser )
c'est le sens le l'évolution de la "techno" même très pointue.

(*) On est tous plus intelligents que de visser des boulons, pour dire simple.

Mais au lieu de visser des boulons on va s'agiter autour de la machine pour resserrer des connecteurs et vérifier les alim des capteurs, etc
Autrement dit de venir esclaves d'une nouvelle machine.
Les concepteurs et financeurs n'ont bien sûr jamais ce questionnement.

[jiherve]

Bonjour
Sans aller jusqu’à parler d'IA méfions nous de ces merveilleux logiciels, ASICs chargés de gérer les bourses, ils n'ont aucune conscience (pas plus que leurs concepteurs d'ailleurs) et sont pourtant capables d'entrainer une catastrophe économique, c'est le marché porteur des FPGA autrefois Altera maintenant IBM.
nota : HAL = IBM-0x010101.
JR

[invite51d17075]

Les concepteurs et financeurs n'ont bien sûr jamais ce questionnement.

ben, s'ils ne l'ont pas encore. ils vont finir par l'apprendre.
voir le dernier post de jihervé.

[polo974]

Bonjour
...
nota : HAL = IBM-0x010101.
JR

la belle blague...
ibm c'est international business machine, fondée en 1911.
à l'époque, c'était des caisses enregistreuses.

il faut un peu arrêter la numérogogologie hexadécimale...

la base hexa ne s'est imposée qu'à l'époque des premiers microprocesseurs, avant, c'était (et c'est toujours par endroit) l'octal.

en passant, pour revenir au sujet, Elon Musk, c'est pas le mec qui vend des voitures avec un embryon de pilote automatique bardé d'intelligence artificielle ? ? ?

on peut jouer à coucou fais-moi peur avec n'importe quelle techno mais est-ce constructif ? ? ?
(on en a même vu craindre les imprimantes 3d qui pourraient servir à fabriquer des armes, mais avec quelques bouteilles plastique un fer à souder et une lime, on fait aussi "bien", et il y a nettement mieux dans le premier bricotruc du coin).

[invite51d17075]

@polo:
tu fais un peu de dérision, mais le sujet reste important.
j'y vois pour ma part deux facettes.
- un axe de l'ordre de l'industriel/opérationnel, où des taches de tous ordres seront confiées ou assistées par de l'informatique de "haut niveau".
avec des bugs , bien sur, mais un peu à l'instar de toute techno.
- un sujet plus éloigné dans le temps ou certains se posent la question d'une émergence de forme de conscience liée à la complexité.
Il ne faut pas confondre les deux, et sur le second point, il est difficile d'être affirmatif dans un sens ou un autre.

[invite0bbe92c0]

Sans aller jusqu’à parler d'IA méfions nous de ces merveilleux logiciels, ASICs chargés de gérer les bourses, ils n'ont aucune conscience (pas plus que leurs concepteurs d'ailleurs) et sont pourtant capables d'entrainer une catastrophe économique

En 1929 le HF trading n'existait pas.

[inviteaba8a2e8]

Bonjour à tous,

Pour revenir au sujet de départ et comme l'a dit pm42, l'IA existe depuis bien longtemps. Une des première application grand public fut le jeux d'échec capable d'auto formation pour égaler puis battre les grands maîtres.
L'IA n'est pas un simple programme d'exécution. C'est en quelque sorte un programme qui s'auto-alimente pour faire évoluer ses propres algorithmes.
L'utilisation est multiple dont une première qui nous concerne tous, la création d'un nouveau processeur. Les évolutions sont trop rapides quant à la complexité des technologies pour penser que c'est l'homme qui est le seul penseur et la machine le calculateur.
Je pense que le danger de l'IA est le croisement de toutes les données scientifiques qui permettraient des évolutions technologiques fulgurantes mais également des créations d'armes de puissance insoupçonnée. D'autre part, la machine calculant plus vite que l'homme, il deviendrait pratiquement impossible à l'homme d'intervenir dans le programme en cas de dysfonctionnement dans un temps convenable car la complexité de la programmation serait devenu trop élaborée.
Un exemple de tous les jours qui existe depuis la sortie du Macintosh : les ingénieurs disaient que pour comprendre le système il fallait avoir lu toute la documentation de toutes les procédures en sachant que chaque procédure décrit le fonctionnement des autres procédures.

[pm42]

En 1929 le HF trading n'existait pas.

Et ce n'est pas lui qui a créé des catastrophes économiques récemment non plus...
Mais c'est comme pour le reste : on est dans un discours idéologique simpliste et il ne faut pas demander à leurs auteurs de se préoccuper de la réalité ou de vouloir apprendre quelque chose, les imprécations leur suffisent.

[trebor]

Bonjour à tous,
Autre danger, les traders à intelligence artificiel, les opérations de change et autre sont tellement rapide (millier par seconde) qu'il ne savent plus en temps réel ou en est vraiment le marché.
Si ça peut éviter un nouveau crack boursier, je veux bien, mais bon à suivre, l'avenir nous le dira ( fin du hors sujet )
https://www.google.be/search?client=...w=1023&bih=571

[pm42]

Bonjour à tous,
Autre danger, les traders à intelligence artificiel, les opérations de change et autre sont tellement rapide (millier par seconde) qu'il ne savent plus en temps réel ou en est vraiment le marché.
Si ça peut éviter un nouveau crack boursier, je veux bien, mais bon à suivre, l'avenir nous le dira ( fin du hors sujet )
https://www.google.be/search?client=...w=1023&bih=571

Nawak complet comme d'hab... Et aucun rapport avec un crack boursier qui lui même n'a pas grand rapport avec les opérations de change...
Encore une fois, je trouve ce degré d'ignorance abyssale assez hallucinant.

[invite0bbe92c0]

Et ce n'est pas lui qui a créé des catastrophes économiques récemment non plus...
Mais c'est comme pour le reste : on est dans un discours idéologique simpliste et il ne faut pas demander à leurs auteurs de se préoccuper de la réalité ou de vouloir apprendre quelque chose, les imprécations leur suffisent.

A vrai dire, quand des programmes de trading automatiques ont créé des mini-crises , c'était à une époque où ils n'utilisaient pas d'IA. Si ma mémoire est bonne, il y a eu quelques problèmes avec des applications assez basiques à la fin des années 80 (qui fonctionnaient,en gros, sur le mode "ça baisse, je vends") qui ont provoqué des mini-crack rentrés rapidement dans l'ordre.

[pm42]

A vrai dire, quand des programmes de trading automatiques ont créé des mini-crises , c'était à une époque où ils n'utilisaient pas d'IA. Si ma mémoire est bonne, il y a eu quelques problèmes avec des applications assez basiques à la fin des années 80 (qui fonctionnaient,en gros, sur le mode "ça baisse, je vends") qui ont provoqué des mini-crack rentrés rapidement dans l'ordre.

Oui, on a mis des coupes-circuit mais ce n'était pas sur le marché des changes ni du HFT... Et cela a été de la sur-correction, pas du vrai crack avec impact économique et cela existait bien avant l'informatique.

[invite51d17075]

ouaips !
y'a des mélanges dans cette discussion, comme la confusion entre des cyber-attaques ciblées et "L'IA" qu'on met à toute les sauces.(*)

(*) je préfère celles du sud ouest !