"intelligences" artificielles contre intelligence individuelle: bataille perdue d'avance?

[ansset]

Oui enfin il y a quand même un sérieux problème éthique avec ce sujet dans la mesure où pour entrainer correctement une "IA" il faut lui fournir un paquet de données...
et on en arrive là ; https://www.lemonde.fr/economie/arti...8878_3234.html
je ne voudrais vraiment pas de la même chose en France.

Sur ce point, il n'est malheureusement pas impossible que la CNIL puisse être "by-passée".
Mais c'est un sujet un peu différent que celui abordé précédemment.
-----

[jiherve]

Bonjour

Mais bien sur, cette fois ci, on va y arriver et on va prédire le futur pour la 1ère fois dans l'histoire de l'humanité alors que justement, tout change plus vite et qu'on traverse une période de bouleversements géopolitiques, environnementaux et technologiques

C'est ce qui est rassurant ou pas en quelque sorte , tous les futurologues se sont toujours trompés!
JR

[ansset]

C'est ce qui est rassurant ou pas en quelque sorte , tous les futurologues se sont toujours trompés!
JR

certains ont retenu la leçon.
cet "influent" Harari présente justement les choses avec de grands contrastes.
https://www.lexpress.fr/culture/yuva...r_2037694.html
de fait, on peut discuter de certains points spécifiques, mais au final il pourra tj dire : "ben ça, je l'avais envisagé aussi". ( au cas où )

ps: même s'il ne cache pas son penchant pessimiste.

[Bounoume]

pour ça, c'est pas des futurologues, c'est du PRESENT d'aujourd'hui
https://www.lemonde.fr/economie/arti...5486_3234.html

ici, les accords, semble-t-il sur les essais cliniques imposés par la législation, sont déjà effectifs.
Toutefois si ça ne concerne que les procédures invoquées dans l'article (que je n'ai pas pu lire en entier, n'étant pas abonné)..... en l'espèce, il n'y a rien qui me semble fautif ni immoral......


Cependant il y a l'article précédent
https://www.lemonde.fr/economie/arti...8878_3234.html

Là c'est l'avenir qui est pervers.....

Même en admettant que Google ne permettra aucun accès aux identités des patients (faut voir.... entre indiscrétions d'employés qui ont accès direct aux identifiants, et les contrats avec des petits indiscrets)..... il y a pire:

le choix de réduire les "améliorations" au simple jeu de processus seulement conçus pour donner 'un résultat qui plaît' au commanditaire (ou à l'équipe de Google, ou qui est négociable contre quelques dollars) va engendrer des conclusions sans aucun rapport aux souhait des vrais 'clients'.
Le vrais clients qui sont les humains vivant en société, avec certaines valeurs, certains souhaits et certains refus -surtout si ils sont ou craignent d'être malades).

En outre (je pense que c'est pire encore) les choix n'auront aucune base scientifique structurée: à terme ce sera contraire à un cheminement normalement déduit d'un raisonnement basé sur des connaissances fondamentales sur la biologie et le Monde.
Une corrélation n'est jamais en soi une explication, et, non replacée dans le contexte des connaissances (consensuellement admises au joutr J) n'aboutit jamais à améliorer notre maîtrise sur le Monde.
Il faut un retraitement supplémentaire (qui use du raisonnement explicite sur les concepts admis).

Si Môssieur Google croit disposer de l'IA forte, alors peut-être il pourrait être directement utile à la science médicale.... mais c'est pas encore maintenant!
Et si il en disposait..... ou en dispose un jour alors

[pm42]

Ça fait beaucoup d’affirmations gratuites sans aucune source ni expertise même minimale dans le domaine.

Et cela revient un peu à prendre les médecins et les autorités de contrôle pour des cons qui adopteraient des outils non efficaces et non scientifiques.

[Bounoume]

dans le cas google, cad aux USA, où sont les autorités de contrôle?
rem. pour ce qui est des informations de santé et de la médecine, ta remarque me fait rigoler..... désolé, j'ai peut-être plus d'antécédents sérieux que toi.... même si je ne suis pas Professeur ......

[pm42]

dans le cas google, cad aux USA, où sont les autorités de contrôle?

Plus haut, tu parlais de l'utilisation des IAs une fois l'apprentissage fait donc d'un produit utilisé médicalement. Il y a un truc qui s'appelle la FDA.
Ta réponse porte sur le stockage et l'utilisation de données anonymisées pour à des fins de rercherche/entrainement en IA ce qui là ne nécessite pas l'approbation de la FDA.

Bref, tu mélanges tout.

rem. pour ce qui est des informations de santé et de la médecine, ta remarque me fait rigoler..... désolé, j'ai peut-être plus d'antécédents sérieux que toi.... même si je ne suis pas Professeur ......

Tiens, un argument d'autorité basé là encore sur des affirmations floues...
Pour le reste et je ne voulais pas le dire mais tes posts depuis le début du fil sont du nawak complet à la limite du compréhensible.

[mh34]

Et cela revient un peu à prendre les médecins et les autorités de contrôle pour des cons qui adopteraient des outils non efficaces et non scientifiques.

ce serait pas la première fois que ça arrive... et qu'on ne s'en rend compte qu'après coup
Les conférences de consensus servent justement, entre autres, à y remédier

[pm42]

ce serait pas la première fois que ça arrive... et qu'on ne s'en rend compte qu'après coup
Les conférences de consensus servent justement, entre autres, à y remédier

Je n'ai pas dit que les erreurs ne se produisent, c'est même le principe de toute activité scientifique.
Mais comme tu le dis, il y a des mécanismes pour détecter et corriger.

[jacknicklaus]

Alors ne serait-il pas + facile d'émettre des hypothèses sur un processus déjà bien commencé?

Les prévisions sont difficiles, surtout en ce qui concerne le futur.
[Niels Bohr]

[Bounoume]

https://forums.futura-sciences.com/c...ericaines.html

[ansset]

certes,
mais la maitrise ( ou plutôt la mise en danger ) de la confidentialité des données personnelles n'est pas le même sujet que la prise de décision.

[invite84127968]

Les progrès actuels servent un modèle de société qui existe depuis la création du troc. Prévisions/Engagement/réalisation/bilan et dans les étapes intermédiaires toute la panoplie de tricherie possible donc comment parler de ces progrès sans le contre champs de la nature humaine?
Cette nature n'est pas bonne ou mauvaise, elle est simplement issue de la nature: croissance et reproduction par tout les moyens.
Comment parvenir à créer une conscience artificielle sans cette identité naturelle ? Quelles valeurs aurait-elle?

[ABC2019]

1)-Actuellement, sont en pleine expansion les développements de l'IA ordinaire (procédures en programmation impérative, SGBD avec conservation et prise en compte d'une multitude d'informations personnelles, deep-learning et ses applications , transfert sur le Net d'activités jusque là spécifiquement médiées par des relations entre humains en chair et en os..... ex facebook ).

pouvons-nous discuter de:
Ces développements sont-ils déjà capables de bloquer l'expression de la pensée 'intelligente' ?
Ces développements sont-ils déjà capables de perturber gravement les mécanismes de la pensée de nous, humains?
Ces développements sont-ils en train de formatter l'esprit humain, hors de tout héritage culturel?
Ces développements sont-ils en passe de contrôler des pans entiers du psychisme humain, et de structurer la pensée en éliminant l'ancienne structuration par héritage culturel?
Une fois définitivement altérés les mécanismes et les données de base de la pensée des humains, que deviendra l'individu (isolé, ou organisé en société) ?

Est ce que le vrai danger ne viendrait pas de là ?

https://insolentiae.com/la-fabrique-...harles-sannat/

[pm42]

Est ce que le vrai danger ne viendrait pas de là ?
https://insolentiae.com/la-fabrique-...harles-sannat/

Il y a déjà eu un fil complet sur ce sujet, je te rassure. Il a permis à tous les gens qui croient que le changement c'est mal, que la nouveauté est forcément destructrice, que le niveau baisse depuis plus de 2000 ans d'exprimer tout cela.

Je reste effaré de voir tant de gens avec une formation solide sauter avec avidité sur chaque prophète annonçant la fin du monde en ignorant complètement le consensus scientifique mais en citant 1 bouquin ou 1 citation comme une preuve.

[ABC2019]

Il y a déjà eu un fil complet sur ce sujet, je te rassure. Il a permis à tous les gens qui croient que le changement c'est mal, que la nouveauté est forcément destructrice, que le niveau baisse depuis plus de 2000 ans d'exprimer tout cela.

Je reste effaré de voir tant de gens avec une formation solide sauter avec avidité sur chaque prophète annonçant la fin du monde en ignorant complètement le consensus scientifique mais en citant 1 bouquin ou 1 citation comme une preuve.

je n'ai pas parlé de fin du monde, j'ai juste posé la question de savoir si le principal danger pour la pensée ne venait pas de l'appauvrissement intellectuel causé par une utilisation trop importante des écrans par les jeunes enfants, comme c'est la thèse de ce bouquin, que je n'ai pas lu mais dont j'ai entendu des interview de l'auteur. Il me semble au contraire qu'il cite des centaines si ce n'est des milliers d'études montrant que ça a une influence réelle sur les capacités mentales, et que le consensus scientifique n'est pas là où tu sembles le croire.

D'autre part, il n'y a qu'a voir la facilité avec laquelle on manipule des électeurs par les réseaux sociaux pour voir que même chez les adultes, le problème existe déjà.

[pm42]

que je n'ai pas lu mais dont j'ai entendu des interview de l'auteur.

Et ca te suffit pour te faire une opinion, citer son bouquin et défendre sa thèse ?

Il me semble au contraire qu'il cite des centaines si ce n'est des milliers d'études montrant que ça a une influence réelle sur les capacités mentales

Parce qu'il mélange les études sur la télévision dont les effets néfastes sont connus et qu'ensuite, il extrapole à tous les écrans.
Il est très facile pour 1 personne de montrer ce qu'on veut en prenant les études qui vont bien, en sélectionnant les résultats qui vous arrange.

C'est pour cela qu'on parle de consensus scientifique, pas du point de vue d'une personne qui publie un bouquin grand public et non pas un article dans une rev

et que le consensus scientifique n'est pas là où tu sembles le croire.

Tu sais cela après avoir entendu une interview ?

D'autre part, il n'y a qu'a voir la facilité avec laquelle on manipule des électeurs par les réseaux sociaux pour voir que même chez les adultes, le problème existe déjà.

On manipule les élections depuis qu'elles existent et c'est connu depuis Athènes au moins.

Et oui, pour manipuler les élections, on utilise les moyens de communication d'une société. Donc cela va d'acheter des représentants locaux qui vont entrainer leurs affidés à la presse écrite, puis la radio, puis la télévision et maintenant les réseaux sociaux.

Cela ne prouve rien sur la "bétise" des électeurs, cela dit simplement qu'ils votent avec leurs émotions et que celles ci sont manipulables.
Là encore, c'est connu depuis longtemps et largement confirmé par la recherche moderne en psychologie, économie comportementale, sciences politiques et autres.

En tout cas, bravo : avec juste 1 interview, tu as réussi à te persuader sans t'informer, inventer des faits inexistants, faire plusieurs erreurs des raisonnement.

Comme déjà dit, le problème, ce ne sont pas les écrans et tu viens de l'illustrer.

[ABC2019]

Et ca te suffit pour te faire une opinion, citer son bouquin et défendre sa thèse ?

tu remarqueras que j'ai posé une question, pas "défendu une thèse". Je n'ai pas d'opinion arrêtée, mais l'influence des écrans me parait plus avérée qu'une hypothétique mainmise d'une IA sur l'humanité, qui serait plutot d'ailleurs pour moi une utilisation de l'IA à des fins de contrôle de la population par une autre partie de la population, ce qui n'a pour le coup rien de nouveau.

Parce qu'il mélange les études sur la télévision dont les effets néfastes sont connus et qu'ensuite, il extrapole à tous les écrans.
Il est très facile pour 1 personne de montrer ce qu'on veut en prenant les études qui vont bien, en sélectionnant les résultats qui vous arrange.

déjà si tu admets que la télévision a un effet néfaste connu, ce serait surprenant que donner des smartphones à des enfants de 3 ans n'en ait aucun. Après encore une fois je ne me positionne pas sur une certitude, je pense juste que la question mérite d'être posée.
Et ce n'est pas non plus en lisant la contribution d'un forumeur au ton agressif que je vais fixer mon opinion.

C'est pour cela qu'on parle de consensus scientifique, pas du point de vue d'une personne qui publie un bouquin grand public et non pas un article dans une rev

Le bouquin cite l'existence de nombreux travaux et donc je suppose d'articles sur la question : toi tu prétends qu'il n'y en a aucun ? ça c'est assez facile à vérifier ...

En tout cas, bravo : avec juste 1 interview, tu as réussi à te persuader sans t'informer, inventer des faits inexistants, faire plusieurs erreurs des raisonnement.

Comme déjà dit, le problème, ce ne sont pas les écrans et tu viens de l'illustrer.

déjà comme tu ne représentes pas correctement mon opinion en décrétant que "je me suis persuadé", alors que je n'ai fait que poser une question, çà ne me donne aucune confiance dans ta capacité à bien comprendre ce que tu lis, et donc ça ne m'encourage pas à te croire sur parole. Je vais donc me renseigner un peu plus sur l'existence des études scientifiques sur la question, et je reviendrai vers toi quand j'en saurai un peu plus.

[ansset]

@ABC2019:
Tu pointes un sujet d'intérêt mais ce n'est pas celui du fil.
De plus, je trouve l'article mis en lien très dichotomique.
De quoi parle t -il ? de l'abus d'écrans ( tous confondus ) et de son effet sur l'éducation des enfants principalement.
Ceci ne concerne t-il pas principalement les sté les plus technologiques ?
Et n'est ce pas d'avantage un pb global du mode d'éducation que des outils eux mêmes ?

J'observe aussi que la différence constatée entre les "digital native" et les "anciens" est plutôt faible comparée à l'explosion du numérique entre les deux périodes.

Enfin, on ne peux nier l'impact très positif de la téléphonie mobile dans les pays en développement:
https://www.lemonde.fr/planete/artic...5197_3244.html

Juste qcq remarques, car je pense que c'est quand même un autre sujet.

[Bounoume]

Le titre 'crétin digital' est très plaisant, le thème relate ce qui me semble évident..... mais ce n'est que la partie 'populaire'* du processus
Tu peux voir -en raccourci- nos biais cognitifs dans
"Robert Houdé: le raisonnement"

Je reproche à la civilisation de la "poussette" d'atrophier notre faculté de raisonner de façon structurée sur les concepts, les idées, dont nous héritons par l'éducation..... et qui constituent ce qu'on nomme encore une 'civilisation'.

Du système extrêmement complexe -et capable d'adaptation et d' 'insight'- constitué par une multitude d'individus pensants en termes d'abstractions communicables,
je crains qu'on arrive à un troupeau d'individus réagissant avec les mêmes capacités (fort sympathiques au demeurant) que des babouins ou des bonobos. Pas de modélisations du monde, pas de remises en cause débouchant sur un projet cohérent etc.*

Je fais ce reproche, tout en connaissant nos limitations et nos biais et incapacités intellectuels.... Simplement le futur me semble encore pire......


*tu remarques que j'utilise un terme très usité sur les réseaux sociaux !
* avec peut-être une caste supérieure encore entraînée à la "réflexion" ... et au commandement..... cf 'brave new world' de Huxley ,ou Orwell....

[ansset]

Je reproche à la civilisation de la "poussette" d'atrophier notre faculté de raisonner de façon structurée sur les concepts, les idées, dont nous héritons par l'éducation..... et qui constituent ce qu'on nomme encore une 'civilisation'.

Tu le dis toi-même.......
Et parfois, ce discours assez nihiliste sur "le progrès" ( comme s'il fallait trouver un bouc émissaire un peu virtuel ) nous cache aussi toutes les initiatives positives ( dont la plupart sont justement favorisée par le numérique grâce aux échanges qu'il permet).
Je cite ceci au hasard :
https://shows.pippa.io/impactpositif/
( lire l'esprit général ainsi que tous les exemples d'initiatives )

je sais, je m'écarte moi-aussi du fil, mais par moment, le discours à la "c'était mieux avant" des papys du site ( que je respecte ), patiné de "peur" me semble stérile ( quand il ne m'agace pas s'il est trop manichéen ).

ps : dans le lien mentionné plus haut, l'auteur semble s'offusquer que les utilisateurs du numérique ne savent pas comment ça fonctionne.
la belle affaire : qui savait( ou sait) comme "marche" l'électricité, une simple TV en noir et blanc , ou même le tel fixe, ........

[ABC2019]

@ABC2019:
Tu pointes un sujet d'intérêt mais ce n'est pas celui du fil.

je suis d'accord ce n'est pas le sujet principal du fil, d'autant plus que j'ai vu effectivement qu'il y avait une actualité et une discussion à ce propos. Je signalais juste le problème parce qu'il me semblait qu'on se focalise parfois un peu trop sur les dangers imaginaires en oubliant les dangers réels. C'est comme le danger des ondes électromagnétiques avec les téléphones portables, le danger principal du portable est sans doute son utilisation au volant ... Après signaler un danger ne veut pas dire que tout est négatif. Il y a certainement des aspects positifs aux ordinateurs et aux portables, c'est pas pour ça néanmoins que ça rend indispensable de laisser des enfants de 3 ans passer des heures sur des écrans (ou de téléphoner au volant !).

[pm42]

De quoi parle t -il ? de l'abus d'écrans ( tous confondus ) et de son effet sur l'éducation des enfants principalement.
Ceci ne concerne t-il pas principalement les sté les plus technologiques ?
Et n'est ce pas d'avantage un pb global du mode d'éducation que des outils eux mêmes ?

Les études PISA montrent que les pays d'Asie où les écrans sont omniprésents ont les meilleures performances.

L'auteur fait un grand classique : il part de son à priori et ensuite cherche toutes les corrélations qui lui donne raison, transforme ces corrélations en causes et ignore tout ce qui ne va pas dans son sens.

On ajoute un peu de catastrophisme/déclinisme à l'attention du grand public, on attend que la presse saute dessus parce qu'elle vend de l'anxiété et ça marche assez pour se faire un peu d'argent.