faut-il avoir peur des robots

[invite51d17075]

bonjour,

il me semble qu'il y a un élément que vous n'avez fait qu'évoquer.
un SE se "programme" en fonction du mécanisme de décision de nombreux experts.
c'est en ce sens qu'il peut être un soutien d'expertise dans des domaines multi-compétence , comme la médecine.
un cardiologue n'est pas infectiologue ,etc...
donc la comparaison SE versus "un" médecin a ses limites.
( ps : la force du dct House c'est qu'il est justement horme car totalement multi-disciplines )

sinon, je ne pense pas que le SE ait besoin de toutes les données au départ.
en fonction des directions de départ, la vérification de certains paramètres permet d'appuyer ou pas une hypothèse, ou de proposer d'autres pistes.
bref, un processus itératif, forcement.
et au final, c'est quand même le médecin qui doit prendre ses responsabilités.
-----

[invite765732342432]

Tu comprend ce que je veux dire..

Oui, et c'est pourquoi je maintiens mes propos:
En effet, l'homme est à même d'identifier certaines choses mieux qu'une machine, mais l'inverse est vrai également.

Homme et machine sont complémentaires en médecine depuis des décennies, et le resteront encore longtemps, j'espère.

Et je crois que l'homme a plus de faculté que la machine pour deviner ce qui n'est pas évident..

C'est tout à fait vrai... et c'est la source de beaucoup d'erreurs: ce fier à ce qu'on devine plus qu'à ce qu'on sait.
Il faut donc savoir ce qui est le mieux:
- en situation d'urgence, il sera nettement préférable d'avoir un homme qui "devine" quasi instantanément, quitte à se planter
- en situation plus tranquille, on pourra sans doute privilégier l'avis de la machine

A noter que, justement, savoir si on est dans une situation d'urgence ou pas est un domaine où l'homme est actuellement bien meilleur que la machine

[invite095ec3c6]

Bonjour,

Personnellement j'adore les robots , c'est vrai ça facilite grandement la vie au quotidien, cela permet aussi à des chirurgiens de pouvoir corriger les défauts du corps humains pendant une opération, plus précis pas de tremblement ect .

Mais les robots me terrifie aussi ! Je m'explique :

Croire qu'un robot vas pouvoir un jour penser de lui meme dans le genre des série et film de science fiction est complètement impossible à notre niveau de technologie actuel et ce sera encore le cas pendant un bon moment.

Mais ce qui as de terrifiant c'est que maintenant on peu , on as la technologie pour créer des robots de combat commandé à distance, la guerre devient un jeu vidéo.

Regarder ceci :
http://www.youtube.com/watch?v=GTabSf1Dxx8

Bon cela reste des grosse voiture téléguidée avec des flingues commandé par servo-moteur, mais dite vous et c'est un fait certein que aucune sécurité informatique n'est impénétrable. Donc garder le contrôles de ces engins n'est pas possible à 100%. Dite vous aussi que nous avons la technologie pour créer des robots blindé ayant un potentiel de combat hallucinant, l'humain n'as clairement aucune chance fasse a un truc pareil.

A mon sens nous n'avons pas la sagesse pour posséder de telles armes.

Cela me terrifie quand je me pose la question suivante:

Si moi , je peut, avec bien entendu de très grande ressource, créer une arme télécommandée à distance contre laquelle un peloton de 40 soldat n'aurait aucune chance , d'autre l'on t'ils déjà créer ? Je pense que oui, et cela oui c'est terrifiants.

[invite765732342432]

Cela me terrifie quand je me pose la question suivante:
Si moi , je peut, avec bien entendu de très grande ressource, créer une arme télécommandée à distance contre laquelle un peloton de 40 soldat n'aurait aucune chance , d'autre l'on t'ils déjà créer ? Je pense que oui, et cela oui c'est terrifiants.

Oui, ça existe et c'est couramment employé. Ca s'appelle: un missile (ou une bombe). Et là tu as l'embarras du choix: nucléaire, bactériologique, chimique, à fragmentation, ...

[invite095ec3c6]

Oui, ça existe et c'est couramment employé. Ca s'appelle: un missile (ou une bombe). Et là tu as l'embarras du choix: nucléaire, bactériologique, chimique, à fragmentation, ...

Bonjour,

Pas exactement les technologies dont tu parles sont en effet un type de robots, mais sont à usage unique , ce dont je parle ne l'est pas.

[invite765732342432]

Pas exactement les technologies dont tu parles sont en effet un type de robots, mais sont à usage unique , ce dont je parle ne l'est pas.

En quoi cela fait-il la moindre différence qu'il soit réutilisable ? les arsenaux mondiaux sont remplis de bombes diverses... on ne risque pas d'en être un jour à cours.

Durant la WWII on tuait les gens par dizaines/centaines de milliers (de civils également) avec ce genre de joujoux (et je ne parle pas uniquement du nucléaire: les bombardement conventionnels de Tokyo ont fait autant de morts que les 2 bombes nucléaires).

Y'a-t-il, objectivement, plus à craindre d'un robot armé d'un fusil ou d'un missile ? Après, je ne nie pas que, irrationnellement, imaginer un combattant non-vivant peut être angoissant, mais les dangers sont tellement plus restreints.

[invite853321bf]

Tuer 40 soldats sans prendre de risques ? je suis d'accord avec Faith, vive les missiles ou bombes. Ca coute peu cher, du moins beaucoup moins cher que n'importe quel robot. Ou la bonne vieille artillerie.
Un robot n'a de sens du point de vue économique que s'il fait quelque chose qu'un humain ne peut pas faire ou qui présenterait un fort risque. Mais dans ce cas, un missile télécommandé fait parfaitement l'affaire.
je sais que l'armée US a commencé à armer ses prédators, donc ils peuvent maintenant mener des frappes en télécommandé. Pour l'instant envoyer des robots au sol pour combattre... difficile. Même d'un point de vue politique. Il y a une seule bavure, ils vont se faire clouer au pilori par la presse et tous les politiques pour avoir déployer une arme peu précise.

[invite51d17075]

Mais ce qui as de terrifiant c'est que maintenant on peu , on as la technologie pour créer des robots de combat commandé à distance, la guerre devient un jeu vidéo.

quelle différence fais tu avec un char de combat sophistiqué ?
tu remplaces juste l'équipage par un ordinateur commandé à distance ?
ou bien , parceque tu l'appelle "robot" il embarquerait des armes qu'un char n'aurait pas ??? et pourquoi ?

je crois très peu à l'efficassité d'un super robot-cop ou d'un Iron-man.
parcequ'il est seul et physiquement accessible.
avec un peu de puissance défensive, on dezingue n'importe quel "engin".

je serais plus inquiet face à une nuée de mini-drones programmés en reseaux neuronaux et beaucoup plus difficile à neutraliser.

[evrardo]

Je n'ai pas peur des robots, mais de la montée en puissance des ordinateurs et des logiciels.
Est ce que certains vont arriver à fabriquer des ordinateurs et des logiciels hyper puissants pour nous aider à prendre des décisions, donc nous diriger?

[invite765732342432]

pour nous aider à prendre des décisions, donc nous diriger?

Où es-tu allé chercher ce lien de conséquence ?

[evrardo]

Où es-tu allé chercher ce lien de conséquence ?

Certaines entreprises pourraient arriver à fabriquer des logiciels d'aide à la décision personnalisée: on entrerait son age, ses études, les différents emplois qu'on a fait, nos goûts, nos capacités sportives etc... Bref tout ce qui nous concerne.
Ce logiciel pourrait êttre relié au net pour avoir les informations diverses concernant le pays et la région où l'on vit pourrait aider certains à prendre des décisions.

A partir de là, les entreprises peuvent orienter le choix des personnes selon les programmes employés. Puis avec des mises à jour régulières etc...

[invite82b867bc]

Ce genre de logiciel est déjà utilisé par les DRH dans les grandes entreprises. Le fond du problème réside, certe dans l'utilisation de ce genre d'outils, mais surtout dans le fait que la nécessité de sont utilisation s'impose. La complexité grandissante de notre société liée à la surpopulation fait qu'il devient de plus en plus difficile à des humains normaux de gérer l'immensité des interactions des relations humaines.

[evrardo]

Ce genre de logiciel est déjà utilisé par les DRH dans les grandes entreprises. Le fond du problème réside, certe dans l'utilisation de ce genre d'outils, mais surtout dans le fait que la nécessité de sont utilisation s'impose. La complexité grandissante de notre société liée à la surpopulation fait qu'il devient de plus en plus difficile à des humains normaux de gérer l'immensité des interactions des relations humaines.

Vrai, mais relis mon post: je ne parlais pas de diriger toute l'humanité. Mais Microsoft, ou qui tu veux pourrait vendre ces logiciels d'aide à la décision, pour des particuliers.
Mais c'est un programme informatique qui finalise le choix et le programme est écrit par des gens et donc une entreprise. De ce fait l'entreprise pourrait orienter les choix des individus utilisant ces logiciels, dans le sens qui arrange l'entreprise.

Enfin, personnellement je n'aurais jamais besoin de ce genre de produits. Je suis assez grand pour prendre mes décisions tout seul.

[invite853321bf]

Tu prends tes décisions par rapport à ton éducation aussi bien parental que scolaire, mais aussi tout ton passé. Donc elles sont déjà biaisées par toutes ces valeurs là. Quelqu'un qui aura une enfance heureuse et tranquille ne prendra pas les mêmes décisions que quelqu'un au passé plus tourmenté face aux mêmes situations.

Tes décisions sur l'actualité ? Elles sont basées sur ceux que tu en sais, donc sur le point de vue que défend le média que tu lis (ben oui c'est qu'un humain donc il est subjectif). Il n'y a qu'à voir le nombre de théories abracadabrantes qui circulent sur le net et que certains prennent pour argent comptant "parce que je l'ai lu".
Rien que pour le nombre de choses à prendre en compte pour que l'ordi ne se plante pas, l'algorithme serait tellement compliqué que je n'y crois pas trop.
Ah et juste pour info, il existe des systèmes experts qui prennent les décisions à la place des gens pour la Bourse. Ces ordis très puissants analysent le marché et essayent de trouver des tendances. Ils le font bien plus vite que les hommes. Le problème de ces systèmes, c'est qu'ils se basent sur le passé pour prédire le futur. Donc si une (enfin plusieurs dans ce cas) n'agissent pas comme dans le passé, les systèmes se seront trompés

[evrardo]

Rien que pour le nombre de choses à prendre en compte pour que l'ordi ne se plante pas, l'algorithme serait tellement compliqué que je n'y crois pas trop.

Pas sûr: l'ordinateur (Deep Blue) a battu le champion du monde d'échecs car il peut analyser beaucoup plus de possibilités et beaucoup plus rapidement que l'homme.

Ces ordis très puissants analysent le marché et essayent de trouver des tendances. Ils le font bien plus vite que les hommes. Le problème de ces systèmes, c'est qu'ils se basent sur le passé pour prédire le futur. Donc si une (enfin plusieurs dans ce cas) n'agissent pas comme dans le passé, les systèmes se seront trompés

Je suis entièrement d'accord avec toi.

[mh34]

Est ce que certains vont arriver à fabriquer des ordinateurs et des logiciels hyper puissants pour nous aider à prendre des décisions,

Euh...mais je croyais que les logiciels d'aide à la décision, ça existait déjà dans certains domaines?

[invite82b867bc]

Bien sûr que les logiciels d'aide à la décision existent, rien que dans le domaine médical, il existe des arbres décisionels qui défrichent le terrain afin de permettre au médecin de s'orienter plus facilement vers un diagnostic plus précis.
Mais comme leur nom l'indique, ce sont des aides, pas des logiciels décisionnels. Le risque réside surtout dans le fait que par facilité ou pa nécessité on en vienne à exclure l'humain de la boucle de décision et que l'on laisse ces logiciels décider pour nous. Et là c'est la direction que l'on est en train de prendre dans de très nombreux domaines, comme cité précedemment pour les logiciels boursiers en particulier.
Ce sont eux d'ailleurs qui ont déclenché la précédente crise dite de subprimes en vendant massivement lorsqu'ils ont détectés ce problème, ce qui in fine l'a transformé en catastrophe boursière ; catastrophe qui aurait pu être " lissée " si des humains responsables étaient intervenus dans la boucle.
Ces logiciels sont aussi utilisés pour la régulation des réseaux électriques sur l'ensemble d'un pays un peu partout en Europe et dans les pays industrialisés, avec comme résultat de temps en temps, la création de gigantesques pannes qu'ils sont censés éviter.
Et c'est bien là le risque majeur de tous ces systèmes qui fonctionnent remarqueblement bien en situation normale, et de façon totalement aberrante lors de situation inhabituelles. Situations dans lesquelles un humain compétent et expérimenté peut parfois être plus efficace, car conscient de l'aspect inhabituel d'une situation, et capable d'adapter son comportement.

[invite765732342432]

Et c'est bien là le risque majeur de tous ces systèmes qui fonctionnent remarqueblement bien en situation normale, et de façon totalement aberrante lors de situation inhabituelles. Situations dans lesquelles un humain compétent et expérimenté peut parfois être plus efficace, car conscient de l'aspect inhabituel d'une situation, et capable d'adapter son comportement.

Trop de clichés dans ces phrases.

[mh34]

Bien sûr que les logiciels d'aide à la décision existent, rien que dans le domaine médical,

C'est justement à eux que je pensais.
Mais j'ignore s'ils sont couramment utilisés, en tout cas pas dans mon domaine de compétence! ( faut dire que les imageurs utilisent suffisamment la technique dans l'obtention des données pour vouloir garder la main, en quelque sorte, sur la marche à suivre...)
Et c'est vrai que de façon générale, les médecins ont une assez grande méfiance envers tout ce qui peut shunter les interventions humaines dans les prises de décision, ce qui me semble personnellement salutaire.
D'après ce que vous dites sur les logiciels boursiers, il est regrettable qu'il n'en soit pas de même dans toutes les branches!
Les arbres décisionnels, par contre, sont bien utiles. Mais peut-on les comparer à des logiciels?

[invitecc1b7100]

Le risque réside surtout dans le fait que par facilité ou pa nécessité on en vienne à exclure l'humain de la boucle de décision et que l'on laisse ces logiciels décider pour nous.

Pourquoi appeller cela un risque?

Et là c'est la direction que l'on est en train de prendre dans de très nombreux domaines, comme cité précedemment pour les logiciels boursiers en particulier.
Ce sont eux d'ailleurs qui ont déclenché la précédente crise dite de subprimes en vendant massivement lorsqu'ils ont détectés ce problème, ce qui in fine l'a transformé en catastrophe boursière ; catastrophe qui aurait pu être " lissée " si des humains responsables étaient intervenus dans la boucle.

Ce serait plutôt le contraire. Sur ce coup là les machines ont été plus responssables que les humains..

L'erreur vient au dépard de l'intervention gouvernementale qui a forcé les banques américaines à faire crédit à des gens non solvables au nom de principes politiques.. Les deux organismes principaux de financements de crédit américain, Fanny Mae et Freddi Mac (orthographe à vérifier) ont été placé sous tutelle du ministère du logement, dont la politique à conduit à accorder à des crédits à des gens trops pauvres pour les remboursser. Ces crédits étant dangeureux les banques ont été oligées de les masquer en les noyants dans des produits financiers complexes, qui ont tous été abandonnés dès que la rumeur humaine, c'est mise à courrir. Parrallèlement à cela, les règlementations de plus en plus contraignante en matièrre d'urbanisme ont fait grimper le prix des terrains constructibles, rendant le relogement des perssonnes en difficultées plus difficile encore. La dessus se rajoutte la politique de la banque centrale américaine qui modifie ses taux d'intêrets en fonction de ses propres intêrets à elle et non de ceux des emprunteurs.. Plus les scandales de corruption, avec les membres du gouvernements qui détournent des milions de dollars de ces organismes de crédits qui se retrouvent au bord de la faillite et voilà la crise des subprimes.. Une crise entierrement due à la faiblesse des hommes et non de la machine qui n'y est strictement pour rien.. enffin c'est moin point de vue, car chacun analyse cette "crise" à sa manière..

[invite51d17075]

L'erreur vient au dépard de l'intervention gouvernementale qui a forcé les banques américaines à faire crédit à des gens non solvables au nom de principes politiques.. Les deux organismes principaux de financements de crédit américain, Fanny Mae et Freddi Mac (orthographe à vérifier) ont été placé sous tutelle du ministère du logement, dont la politique à conduit à accorder à des crédits à des gens trops pauvres pour les remboursser.

c'est totalement faux.
c'est même le contraire qui s'est produit.
les banques ont joué/parié sur l'augmentation régulière du prix de l'immobilier pour minimiser leur risques relatifs.
ce n'est certainement pas ce ministère ( à la soviétique tel que tu le decris ) qui a fait plonger les banques dans leurs calculs cyniques, de gains garantis en cas d'hypothèque.

[invitecc1b7100]

Je ne suis pas d'accord avec ce qu tu dit.. Ca n'explique pas la crise, elle n'a pas surgie toute seule, c'est le gouvernement américain qui en est responssable en premier, les banques n'ont fait que suivre le mouvement.. C'est le gouvernement qui gouverne, c'est le gouvernement qui est responssable, c'est le gouvernement qui doit assûmer!! Si il ne veux pas assûmer, alors il ne peut pas prétendre vouloir gouverner.. Tu ne peut pas en m^me temps gouverner, faire la loi et dire que tu n'est pas responssable..

[invite6f9dc52a]

hors sujet !

[invite6f9dc52a]

... il existe des arbres décisionels qui défrichent le terrain afin de permettre au médecin de s'orienter plus facilement vers un diagnostic plus précis.

En fait, ce sont des systèmes qui adaptent un certain nombre de paramètres en fonctions de données obtenues par différents capteurs dans des situations particulières (c'est long et fastidieu a faire a"a la main").
Les arbres décisionnels pour les diagnostics sont utilisés humainement en temps réel et "nourrir l'ordinateur" avec les données prend plus (trop) de temps (pour l'instant).

[invite51d17075]

il existe aussi des exmples ou le logiciel est devenu tellement complexe qu'il peut en devenir indirectement décisionnel.

je prend deux ex.
les placements boursiers indirects (produits dérivés ) et les logiciels de routage météo en voile.
il sont devenus très sophistiqués, et je ne pense pas qu'à terme un Michel Desjoyaux reprendra la main sur son logiciel qui ne fera que se complexifier.
Même si le marin garde la décision d'un changment de cap, il ne peut qu'être très influencé par un mega calcul qui lui a fait une sorte d'"intégration de géodésique" en fonction des vents prevus.
chose impossible à optimiser à la main.

[evrardo]

En fait, ce sont des systèmes qui adaptent un certain nombre de paramètres en fonctions de données obtenues par différents capteurs dans des situations particulières (c'est long et fastidieu a faire a"a la main").
Les arbres décisionnels pour les diagnostics sont utilisés humainement en temps réel et "nourrir l'ordinateur" avec les données prend plus (trop) de temps (pour l'instant).

C'est ce qui "m'inquiète", car pourquoi pas envisager un mini ordi de la taille d'un Iphone, qui capterait une quantité d'informations nous concernant: teneur en sucre ou CO2 dans le sang, température interne, externe, poul, mais aussi relié en direct à son compte en banque etc... avec en plus toutes les infos qu'on aurait inséré avant dans un logiciel adapté.
Le mini ordi serait alors capable de dire ce qu'on doit manger, si on doit marcher moins vite, si on doit se coucher etc...

Ce genre d'appareil ne m'étonnerait pas du tout, quand on voit qu'il y a des exosquelettes de tout style, prothèses dynamiques.
Pourquoi pas des prothèses dynamiques mentales?

[invite6f9dc52a]

C'est ce qui "m'inquiète", car pourquoi pas envisager un mini ordi de la taille d'un Iphone, qui capterait une quantité d'informations nous concernant: teneur en sucre ou CO2 dans le sang, température interne, externe, poul, mais aussi relié en direct à son compte en banque etc... avec en plus toutes les infos qu'on aurait inséré avant dans un logiciel adapté.
Le mini ordi serait alors capable de dire ce qu'on doit manger, si on doit marcher moins vite, si on doit se coucher etc...

Pourquoi pas.
Je trouve même l'idée excellente (commercialement). il faut d'abord dégager les buts et les moyens.
Relié a un cardio-training (optionnel), avec un certain nombre de paramètres morphologiques et "psychologiques" pour établir notre emploi du temps, régime (en fonction des possibilités financières et bien sur de nos gouts) pour avoir un entrainement physique optimal pour réduire également le niveau de stress (ne pas oublier le profil de carrière ...).
Après avoir validé quelques échelles d'évaluation, il ne restera plus qu'a entrer quelques préférences de temps ou d'objectifs.
On peut même imaginer des modules complémentaires (yoga, cheval ...).

[evrardo]

Après avoir validé quelques échelles d'évaluation, il ne restera plus qu'a entrer quelques préférences de temps ou d'objectifs.
On peut même imaginer des modules complémentaires (yoga, cheval ...).

Voilà! Passons en MP, on va monter une affaire!
Non sérieux, je suis sûr que certains y pensent.

[invite6f9dc52a]

Mais je viens de penser que l'obstacle principal est que ce genre de système est trop directif et envahissant, il contrecarre le penchant spontané de l'humain a faire des conneries et céder aux plaisirs (faciles ou divers et variés).
Une machine serait a peine mieux acceptée qu'un coach ou qu'un sergent instructeur et certainement moins suivi.
On a donc encore le temps avant que ça sorte du domaine ludique.

[evrardo]

Une machine serait a peine mieux acceptée qu'un coach ou qu'un sergent instructeur et certainement moins suivi.

La différence est que les humains n'aiment pas recevoir d'ordre d'un autre humain. Mais venant d'une machine il n'y aurait aucun problème, puisqu'il n'y aurait plus ce rapport dominant/dominé.