L'IA, une menace ?

[ansset]

(...)On peut arguer que pas mal d'humains se contentent de feindre des émotions et quand ils savent bien le faire, cela fonctionne parfaitement. C'est le cas de pas mal de professions de contact.

Oui, d'ailleurs, globalement, je ne pense pas qu'appuyer sur ces notions de sentiments et/ou d'émotions soit un axe constructif ( utile ) pour évoquer les dangers éventuels de cette "technologie"..
d'autant que ces caractéristiques n'induisent pas forcement un comportement plus sain ou moins dangereux.
que de dégâts entre les humains entre eux à la suite de réactions émotionnelles inappropriées.......
-----

[pm42]

Toute nouvelle technologie est jugée dangereuse : l'écriture, l'imprimerie, le train, la règle à calcul, le stylo plume puis bille, la radio, Internet bien sur...

Curieusement, les humains ne semblent pas remarquer que le truc le plus dangereux en soi, ce sont les armes.

[ansset]

même le préservatif ?

( provisoirement )

[pm42]

même le préservatif ?

Tu noteras qu'il est toujours considéré comme nuisible par une partie non négligeable de la société qui est persuadée que le sexe est le mal absolu alors que la violence est justifiable

[antek]

Macose étant un mot inventé, comment peux-tu dire que le macose part d'une intention ???? Je te demande si pour ce mot nouveau, avec définition nouvelle, ça te pose problème.... et tu reviens aux anciens termes ?????

J'ai choisi ce néologisme justement pour éviter toute interprétation/définition du mot "sentiment" ou du mot "émotion". On rejette tout ça puisque tu refuses de l'appliquer à l'IA. On invente un autre concept, qui ne traduit que des comportements extérieurs et basta. En quoi ça te pose problème ????

Mais le mot a beau être inventé il s'applique à un comportement existant, donc pas à un nouveau concept.

Pour moi ça devient difficile à suivre, à moins que je ne comprenne pas quelque chose quelque part.
Si je ne répond plus ne prenez pas ça pour de l'impolitesse.

[bastidien]

Toute nouvelle technologie est jugée dangereuse : l'écriture, l'imprimerie, le train, la règle à calcul, le stylo plume puis bille, la radio, Internet bien sur...

Curieusement, les humains ne semblent pas remarquer que le truc le plus dangereux en soi, ce sont les armes.

Bonjour,
Si aujourd'hui nous sommes en capacité d’échanger vous et moi via les inventions que vous avez cité, c'est aussi en partie grâce au armes, c'est grâce à elles que nous sommes passé du statut de proie à prédateur ...
Et peut importe l'invention, c'est l'utilisation que nous en faisons collectivement qui compte, ce qui n'est pas du ressort de l'inventeur
Et une réponse au primo poster :
Le jour ou une IA sera plus intelligente qu'une simple fourmi : faites moi signe ...et la je pourrai commencé à me poser des questions
Cordialement

[Deedee81]

Mais le mot a beau être inventé il s'applique à un comportement existant, donc pas à un nouveau concept.

Ben justement, c'est le comportement qu'on veut comparer, pas sa cause ou la nature de la "chose" ayant ce comportement. Comme tu veux appliquer sentiment/émotion uniquement à des humains (ou des être vivants) à cause de sa nature ou de l'intention, discutons uniquement des comportements. Je crois qu'on appelle cela le béhaviorisme si je ne me trompe. On sait qu'on doit dépasser le béhaviorisme.... mais dans les aspects éthiques sur les IA c'est justement ça qui importe : les comportements des IA (face aux usagers, et il faut y ajouter la conception des IA et les usages fait des IA).

On peut parfaitement étudier les comportements des IA, et comparer/mettre en garde/etc... avec les comportements humains, sans devoir utiliser un terme qui te hérisse.

Mon but n'est pas à tout prix qualifier de "sentiment/émotion" certains aspects de l'IA mais juste d'étudier comment se comportent les IA, comment le perçoivent les usagers, des risques que cela comporte et de quelle manière les usagers doivent être informés.

[Deedee81]

Le jour ou une IA sera plus intelligente qu'une simple fourmi : faites moi signe

Ca existe.

On a même dépassé le cafard (il y a eut une jolie étude sur le comportement des cafards où un de leur congénère était un cafard robot).
Et concernant les fourmis on a déjà expérimenté des IA simples manifestant des comportements collectifs comme les fourmis.
Par contre, comme je l'avais dit, on n'a pas encore dépassé le rat

[ansset]

rhoooo !!!
remède anti-IA : le RAID ( le produit, pas l'organisation )

[Deedee81]

remède anti-IA : le RAID ( le produit, pas l'organisation )

Je n'ai pas compris pourquoi.
(et la remarque est-elle sérieuse ou est-ce une boutade ?)

[ansset]

Je n'ai pas compris pourquoi.
(et la remarque est-elle sérieuse ou est-ce une boutade ?)

une boutade, puisqu'il était question d'une comparaison avec les insectes, d'où la référence au produit connu.

[ansset]

Toute nouvelle technologie est jugée dangereuse : l'écriture, l'imprimerie, le train, la règle à calcul, le stylo plume puis bille, la radio, Internet bien sur...

Curieusement, les humains ne semblent pas remarquer que le truc le plus dangereux en soi, ce sont les armes.

j'aurai tendance à prendre cela au second degré, car tout dépend des degrés d'autonomies de chacun et donc de puissances de nuisance potentielles
et concernant certains avenirs envisagés des IA : l'économie, ( système bancaire ou autre ), la sécurité, les influences électorales.....certains évoquent même la justice ( soit disant pour éviter les erreurs humaines ), il est difficile de comparer cela avec un stylo bille.

j'ajoute que , puisque tu évoques les "armes" , parmi les domaines évoqués, certains peuvent s'apparenter à des armes actuelles ( pas celles de cow-boys)

[cancerman]

Deedee salut

dans les années 2000 lorsque j'étais étudiant, pour tuer le temps j'avais programmer un botnet basé sur le code source de Alice bot, je l'avais ensuite connectée sur un IRC de chat avec un pseudo type "belle-blonde" avec une base de donnée type pour les réponses à la drague.

et bien tu serais étonné du nombre de personnes qui ont été dupés par ce botnet croyant parler à une véritable humaine.

Je l'ai laissé brancher une petite semaine et après l'expérimentation je l'ai déconnecté

[Deedee81]

Salut,

une boutade, puisqu'il était question d'une comparaison avec les insectes, d'où la référence au produit connu.

D'accord, merci. Je n'avais pas compris car je pensais à un autre produit (les disques durs)

et bien tu serais étonné du nombre de personnes qui ont été dupés par ce botnet croyant parler à une véritable humaine.

Je ne sais pas si c'est le signe d'un excellent botnet ou symptomatique de l'état de notre société (j'ai été UNE fois sur un tchat de ce type et je suis vite parti quand j'ai compris qu'il fallait avoir seulement deux neurones pour discuter : un dans la tête et un entre les cuisses). C'est parfois épouvantables. Un jour je râlais sur les disputes qu'on avait sur un forum (de physique) non modéré et un autre m'a dit, "tu trouves qu'il y a beaucoup de disputes ? Tu veux comparer ? Va voir sur fr.rec.football ?", j'en suis tombé sur le c... on aurait dit des discussions entre australopithèques dopés à la testostérone.

Quand on voit tout ça on se dit "une IA dépassera-t-elle l'intelligence humaine ?", sans doute. Quand ? Ben ça dépend de l'humain en question, là je crois qu'on y est presque

J'avais fait l'inverse il y a longtemps (à l'époque du TRS80, les réseaux étaient encore dans les labos ou dans les mains des militaires ). J'avais créé un réseau rudimentaire entre deux TRS80 et un programme de tchat. Et avec un copain on faisait croire à des pigeons qu'ils discutaient avec une IA. J'étais enfermé dans une autre chambre universitaire avec des piles de syllabus et d'encyclopédies pour répondre aux questions. La moitié d'entre eux ont tout gobé (et pourtant le copain avait dû trouver des explications alambiquées pour expliquer mes fautes d'orthographe )

EDIT pour le coup, là c'est moi qui tchat un peu. Désolé. Enfin, bon, ça détend. Ca fait du bien de temps en temps.

[jiherve]

Bonjour,
L'article de Delahaye est tres bien fait et le dupage des systeme de reconnaissance m'a vraiment surprit.
par contre :

(l'exemple des atterrissages d'avions en pilotage automatique est un bon exemple, malgré leur très bonne fiabilité les règlements exigent qu'un humain reste au commande sauf cas de force majeur)

cà c'est pas exact les avions atterrissent tous seuls si l'aéroport et l'aéronef sont équipés CATIIIa/b, les pilotes sont juste assis dans leur siège et ne font rien du tout ,surtout pas de tenter de poser l'avion eux même la visibilité étant trop faible!
Mais ce n'est pas une tache très complexe en tous cas loin de l'IA telle que définie actuellement car on savait déjà le faire il y a 40ans + avec une bonne centrale inertielle, VOR,DME,ILS, RADIO ALTI et une bonne soupe à la Kalman!
JR
JR

[Deedee81]

Bonjour,
L'article de Delahaye est tres bien fait et le dupage des systeme de reconnaissance m'a vraiment surprit.
par contre :
cà c'est pas exact les avions atterrissent tous seuls si l'aéroport et l'aéronef sont équipés CATIIIa/b, les pilotes sont juste assis dans leur siège et ne font rien du tout ,surtout pas de tenter de poser l'avion eux même la visibilité étant trop faible!

Ah ! Ca a changé, je suis trop vieux moi
(je parle de l'époque où les manches à balais n'étaient pas encore des Joysticks )

Merci,

Après vérif, je suis plus jeune que toi, tu es donc juste mieux informé

Mais ce n'est pas une tache très complexe en tous cas loin de l'IA telle que définie actuellement car on savait déjà le faire il y a 40ans + avec une bonne centrale inertielle, VOR,DME,ILS, RADIO ALTI et une bonne soupe à la Kalman!
JR
JR

Oui, ça je sais (aaah Kalman, souvenir de mes cours d'automatique, j'avais trouvé ça génial )
Et c'était justement pour montrer qu'"on se méfie" même quand un système automatique est/serait plus fiable. Et donc qu'on a intérêt à avoir vraiment de très bons systèmes.

[shub22]

Toute nouvelle technologie est jugée dangereuse : l'écriture, l'imprimerie, le train, la règle à calcul, le stylo plume puis bille, la radio, Internet bien sur...

Curieusement, les humains ne semblent pas remarquer que le truc le plus dangereux en soi, ce sont les armes.

Si tout le monde le sait, en particulier aux USA où le problème est crucial (il suffit de regarder les infos de temps en temps) mais le problème est ailleurs.
Et tout le monde le connaît et sait de quoi il retourne là-bas, la fameuse puissance des lobbys qui influence la sphère politique directement et sans détour par tous les moyens!
Effectivement quand au XIXème siècle le train (à vapeur) est apparu, c'est assez drôle de voir ce que des gens disaient sur ses dangers
En particulier que les vaches allaient quasiment suffoquer et ne produiraient plus de lait
ou alors un lait totalement pollué!

[shub22]

Ca existe.

On a même dépassé le cafard (il y a eut une jolie étude sur le comportement des cafards où un de leur congénère était un cafard robot).
Et concernant les fourmis on a déjà expérimenté des IA simples manifestant des comportements collectifs comme les fourmis.
Par contre, comme je l'avais dit, on n'a pas encore dépassé le rat

Il existe des simulations où ce n'est plus un seul cafard robotisé qui est introduit parmi un groupe de cafards, mais toute une batterie de cafards robotisés qu'on met ensemble
et on étudie leur comportement en groupe, assez erratique pour voir ce qui en sort.
Ça fait partie d'un des thèmes de recherche dans l'IA et dans la robotisation, assez intéressant d'ailleurs pour ce qui est du holisme ou de l'émergence d'un comportement global -donc social ou voisin de ce qu'on pourrait appeler ou qualifier de "social"- et qui serait issu d'une variété d'individus semblables techniquement -voire carrément- identiques.
Et dans lesquels on s'amuse à introduire expérimentalement des petites variations sur quelques individus au hasard (une personnalité?) pour voir ce que ça donne ou provoquerait sur le comportement global, donc "social"

Un des exemples qu'on avait étudié en IA -et bien connu- est le "jeu de la vie"

[Fustigator]

Si tout le monde le sait, en particulier aux USA où le problème est crucial

En quoi le problème est il "crucial" ? On vire au café du commerce ici ?

[shub22]

En quoi le problème est il "crucial" ? On vire au café du commerce ici ?

Vous êtes en retard d'un métro.
On parle déjà plus de ça: mais si vous voulez allez-y. C'est un forum donc tout le monde a le droit de s'exprimer
Développez... Si vous pouvez bien sûr

[Fustigator]

Vous êtes en retard d'un métro.
On parle déjà plus de ça: mais si vous voulez allez-y. C'est un forum donc tout le monde a le droit de s'exprimer
Développez... Si vous pouvez bien sûr

Développer sur une remarque de bistrot ? Drôle d'idée.

[shub22]

Ah vous êtes un pro-arme alors ? Très bien, on vous écoute

[Deedee81]

Bonjour,

En quoi le problème est il "crucial" ? On vire au café du commerce ici ?

C'est un forum donc tout le monde a le droit de s'exprimer

Mais pas n'importe comment sur n'importe quel sujet.

Et gardons notre calme. Fustigator, si tu estimes qu'en effet la discussion tourne en rond ou patauge dans la discussion de comptoir, ne fait pas justice toi même : clique sur le petit triangle.
Je n'ai pas assez suivi la discussion pour en juger et je manque de temps mais je ne suis pas le seul modo ici.

Merci à vous deux de faire un effort.
Les querelles ne règlent rien.
EDIT croisement avec le dernier message, mais mes remarques restent d'application.

[LeMulet]

Effectivement quand au XIXème siècle le train (à vapeur) est apparu, c'est assez drôle de voir ce que des gens disaient sur ses dangers
En particulier que les vaches allaient quasiment suffoquer et ne produiraient plus de lait
ou alors un lait totalement pollué!

En allant vérifier, l'histoire de "la peur des trains" m'étant également "connue" (enfin, je croyais la connaitre), il semblerait (à vérifier bien sûr...) qu'il s'agit d'un mythe qui est entré dans la culture commune.
Voir ici pour info :

Il s’agit en fait d’un mythe.

En 1863, Louis Figuier, le grand vulgarisateur des sciences du XIX^e siècle, fait le compte rendu d’un mémoire de l’hygiéniste Pietra Santa sur les conséquences sanitaires des chemins de fer².
Il profite de l’occasion pour composer un petit bêtisier médical.

Il mentionne, sans donner de référence, des accusations proférées par de doctes médecins : les chemins de fer fatigueraient la vue, causeraient des avortements et des troubles nerveux.

Il est vrai que les médecins des années 1850 s’interrogeaient sur les chemins de fer.
On trouve dans les manuels d’obstétrique de brefs passages sur les dangers des longs voyages (en voiture ou en train) et des trépidations pour les femmes proches du terme de leur grossesse³.
L’influence du chemin de fer sur la vue est plus mystérieuse.
Pietra Santa conseille en effet aux lecteurs de reposer régulièrement leur vue, mais cela n’a rien de spécifique aux chemins de fer.

Quelles que soient les sources de Figuier, on ne trouve en tout cas nulle trace du rapport de l’académie de médecine de Lyon mentionné par Dominique Lecourt, institution qui, d’ailleurs, n’existe pas.

......

En France, embellie par l’imagination de Treitschke, l’histoire prospère. En 1906, dans la préface de sa Bibliographie des chemins de fer, de Villedeuil ajoute, parmi les conséquences médicales présumées du voyage en train, la danse de Saint-Guy produite par les trépidations. Il évoque aussi la cécité en utilisant un terme médical vieilli : les chemins de fer « enflammeraient la rétine » à cause de la succession fugace des images, toujours sans donner de référence, malgré les 826 pages que compte ce recueil bibliographique⁵ ! En 1957, un article de L’Express, à l’occasion des 120 ans de l’inauguration de la ligne Paris-Saint-Germain, explique que, dans les années 1840, des « pythies sinistres » annonçaient que les chemins de fer « provoqueraient des maladies nerveuses, voire l’épilepsie et la danse de Saint-Guy », qu’ils « enflammeraient la rétine et feraient avorter les femmes enceintes ». L’auteur ajoute : « Ce ne sont pas là les marmonnements de rebouteux, mais des prophéties communiquées publiquement à l’académie de médecine⁶. »

L’histoire est par la suite reprise dans des livres de vulgarisation et des manuels d’histoire du supérieur. Elle entre dans la culture commune⁷.

https://sniadecki.wordpress.com/2013...fressoz-train/

[Deedee81]

SAlut,

En allant vérifier, l'histoire de "la peur des trains" m'étant également "connue" (enfin, je croyais la connaitre), il semblerait (à vérifier bien sûr...) qu'il s'agit d'un mythe qui est entré dans la culture commune.

Ah, ça c'est sympa comme info, merci.

Ceci dit, il y a d'autres exemples (comme la destruction des machines à tisser en Angleterre).

Mais il faut éviter :
- Tant de ressortir les attitudes exagérées du passé pour dénoncer celles aujourd'hui, les situations sont complexes et peuvent être fort différentes. Ca mérite des études sérieuses et directes (pas par comparaison au passé)
- Que de faire dans l'angélisme et croire qu'il faut tout accepter (concernant les IA, plusieurs groupes travaillent sur les problèmes pouvant être engendrés : biais et éthiques, problèmes socio-économiques, pour les deux principaux. Pour les armes, je ne sais pas, mais là de toute façon, les militaires n'ont jamais eut besoin d'IA pour nous envoyer des merdes sur la g..., l'IA n'est pas le problème).
- de croire que personne ne réfléchit sauf sur Futura

EDDIT mode humour grinçant et noir :
J'ai remarqué une évolution rassurante de nos sociétés.
- Avant on ne réfléchissait pas vraiment aux conséquences de nos actes et on a fait énormément de co...ies qu'on paie parfois chers.
- Maintenant on réfléchit aux conséquences de nos actes et c'est seulement après qu'on s'empresse de faire énormément de co....ies.
C'est un progrès non ?

[Fustigator]

Bonjour

Sur cette histoire de train, la seule chose dont je me souvienne c'est en rapport avec la vitesse. "Au delà de 70 km/h la distorsion du corps humain serait telle qu'elle entrainerait une mort quasi certaine". Je cite de mémoire, je vais essayer de retrouver la source.

[Deedee81]

Bonjour

Sur cette histoire de train, la seule chose dont je me souvienne c'est en rapport avec la vitesse. "Au delà de 70 km/h la distorsion du corps humain serait telle qu'elle entrainerait une mort quasi certaine". Je cite de mémoire, je vais essayer de retrouver la source.

De mémoire aussi, des remarques analogues avaient été faites pour la voiture

[shub22]

Bref glossaire des peurs liées aux nouvelles inventions:

« En 1835, les membres de l’académie de médecine de Lyon demandèrent solennellement : ne risquerons-nous pas des atteintes à la rétine et des troubles de la respiration à grande vitesse, les femmes enceintes ballottées ne vont-elles pas faire des fausses couches ? »

1545

Un siècle après l’invention de l’imprimerie, le naturaliste et bibliographe suisse bien connu Conrad Gessner estime que trop de livres ont déjà été publiés.
Cela cause « de la confusion et est dangereux pour le cerveau », prévient-il. (NDLR: quelque part il n'avait pas tort aha!)

1830

Le scientifique et conférencier Dionysius Lardner prédit que la locomotive à vapeur, une invention récente, va provoquer l’asphyxie des passagers lorsqu’un train empruntera un tunnel à une vitesse de plus de 30 km/h

1881

George M. Beard, neurologue américain diplômé de Yale, accuse les journaux et le télégraphe de créer des « désordres nerveux » chez des membres du public en « les exposant à la douleur des gens partout dans le monde ».

[sunyata]

1) sur l'emploi (mais le problème ne concerne pas que l'IA, n'est pas nouveau et hors charte sur Futura).

Les domaines de colonisation de nouveaux domaines de performance des IA font réfléchir.

- Pilotage (Bus, voiture, navires, drones, robots ) : En cours à Paris.
- Traduction ( Un roman a été entièrement traduit par une IA et sera mis en vente)
- Diagnostique médicale, chirurgie à distance .
- Spéculation boursière à grande vitesse à coups d'algorithmes
- et ce n'est que le début.

On peut imaginer une société minière A extrayant des métaux à l'aide de robots d'une société B, robots fabriqués avec les métaux achetés la société A.
sans qu'il n'y ait besoin d'aucun humain dans la boucle pour faire fonctionner tout cela.

La question que je pose ici, n'est pas d'ordre économique :

Je me demande dans quel domaine l'humain va garder un semblant d'utilité, et un avantage comparatif intéressant par rapport à l'IA.

Quel genre d'étude dois-je conseiller à mes enfants qui ne sera pas menacé demain ou après demain par les progrès des IA ?

Cordialement

[ansset]

Bjr,
Avant de faire dans l’extrême, on peut chercher à lister les métiers qui risquent de "disparaitre" en lien direct avec l'IA.
Sachant que la simple robotique ou l'informatique seule a déjà beaucoup restructurer le monde professionnel.
( je parle même pas d'autres évolutions structurelles comme dans le textile, l'agiculture ou les aciéries bien avant... )

donc, j'évoque bien ici les métiers evt en voie de disparition, pas ceux qui seront amenés seulement à évoluer.

la liste n'est pas évidente, présenté ainsi.