les moteurs de recherche et l'intelligence artificielle

[N738139]

Bonjour,

Question générale (l'hypothèse) :

L'intelligence artificielle est-elle fragmentée dans le monde ou existe-t-il une entité holistique (cloud) regroupant toutes les fonctions des intelligences artificielles sur la planète ?

Question spécifique (le débat) :

Les moteurs de recherche ne sont-ils pas une interface avec une superintelligence artificielle (une sorte de global brain ou GAIA artificielle) ? faisant un maximum de liens entre toutes les fonctions de l'ensemble de nos ordinateurs ?, eux-même espionnés par des logiciels d'agences secrètes ou d'antivirus qui centralisent une information synthétisée dans les réseaux sociaux repris par les fonctions de recherches ?

Question secondaire (les conséquences) :

Quelle finalité d'objectifs peut-on donner à cette intelligence artificielle ? Des intelligences artificielles dispersées qui n'ont pas de logique commune, une superintelligence artificielle qui a un but propre à sa conception ou une superintelligence artificielle qui a un véritable but pour l'humanité ?

J'ouvre ce débat, car il me semble que nous avons déjà à faire à un réseau superintelligent (comme expliqué) dont les buts sont loin d'une amélioration de l'humanité à la vue des événements géopolitiques.

Cordialement.
-----

[obi76]

Bonjour,

L'intelligence artificielle est-elle fragmentée dans le monde ou existe-t-il une entité holistique (cloud) regroupant toutes les fonctions des intelligences artificielles sur la planète ?

Actuellement: fragmentée.

Les moteurs de recherche ne sont-ils pas une interface avec une superintelligence artificielle (une sorte de global brain ou GAIA artificielle) ?

Non. Un moteur de recherche, c'est un arbre contenant des liens plus ou moins accentués entre différents mots / groupes de mots. Eventuellement avec un croisement sur l'emplacement du demandeur (gogole par exemple).

faisant un maximum de liens entre toutes les fonctions de l'ensemble de nos ordinateurs ?, eux-même espionnés par des logiciels d'agences secrètes ou d'antivirus qui centralisent une information synthétisée dans les réseaux sociaux ?

Là on tombe dans le complotisme de bas étage.

Quelle finalité d'objectifs peut-on donner à cette intelligence artificielle ? Des intelligences artificielles dispersées qui n'ont pas de logique commune, une superintelligence artificielle qui a un but propre à sa conception ou une superintelligence artificielle qui a un véritable but pour l'humanité ?

J'ouvre ce débat, car il me semble que nous avons déjà à faire à un réseau superintelligent (comme expliqué) dont les buts sont loin d'une amélioration de l'humanité à la vue des événements géopolitiques.

C'est plus pour accentuer la consommation des gens (en gros de la pub : gogole fait un profil psychologique de chaque individu, ce qui permet de mieux cibler les pubs. Chaque personne leur rapporte en moyenne 700€/an grâce à cette intrusion).

[N738139]

Actuellement: fragmentée.

Y'aurait pas un programme qui les rassemble déjà ? Genre un virus ou une interface domotique (un routeur en cloud connecté à internet par exemple) qui centralise les données collectées ?

Pourrait-on, voire devrait-on, créer un tel programme ? Quelles seraient les conséquences ?

[pm42]

Y'aurait pas un programme qui les rassemble déjà ?

Déjà répondu non.

Genre un virus

Rien à voir.

ou une interface domotique (un routeur en cloud connecté à internet par exemple)

Ca ne veut rien dire.

Pourrait-on, voire devrait-on, créer un tel programme ? Quelles seraient les conséquences ?

On ne peut pas actuellement, on ne devrait pas et les conséquences seraient de faire plaisir à ceux qui voient des complots partout.

[A voir en vidéo sur Futura]

[N738139]

on ne devrait pas

Donc développer une intelligence artificielle qui connecterait tout serait une mauvaise idée ? Et pourquoi pas ? L'avenir n'aurait-il pas à gagner d'une centralisation des connaissances de nos machines regroupées en une interface avec les humains ?

[obi76]

L'avenir n'aurait-il pas à gagner d'une centralisation des connaissances de nos machines regroupées en une interface avec les humains ?

Pour moi l'avenir est au décentralisé, justement (avec les avantages (sauvegarde) et inconvénients (données définitivement stockées) que cela apporte).

[N738139]

Pour moi l'avenir est au décentralisé, justement (avec les avantages (sauvegarde) et inconvénients (données définitivement stockées) que cela apporte).

Pour être décentralisé, il faut qu'il y aie eu centralisation. Or pm42 pense que l'AI est fragmentée et doit le rester, donc non centralisée et non décentralisable.

Pour ma part, je suis d'accord avec toi. Il faudrait que l'AI soie suffisamment intelligente pour favoriser la meilleure décentralisation possible. Mais comme je dis, pour décentraliser il faut d'abord centraliser.

[obi76]

Pour être décentralisé, il faut qu'il y aie eu centralisation.

Non

Or pm42 pense que l'AI est fragmentée et doit le rester, donc non centralisée et non décentralisable.

Vous mélangez tout. Le Cloud c'est une décentralisation du stockage, pas d'une intelligence ar

Mais comme je dis, pour décentraliser il faut d'abord centraliser.

Non, toujours pas. Regardez du coté des blockchain comment ça marche : https://fr.wikipedia.org/wiki/Blockchain .

[pm42]

Vous mélangez tout.

Je pense que c'est le problème. On est dans les généralités qui imaginent les IA comme des Skynets gérant des moteurs de recherche...
La réalité n'a rien à voir et l'idée même de "connecter toutes les IA" n'a aujourd'hui aucun sens.

C'est un peu comme si on disait : et si on connectait tous les jeux vidéos avec les Excels et logiciels de dessin et les players MP3...

[N738139]

Non, toujours pas. Regarder du coté des blockchain comment ça marche : https://fr.wikipedia.org/wiki/Blockchain .

Donc il faudrait passer d'une IA fragmentée à directement décentralisée ? Pourquoi n'accepterions-nous pas une seule entité plus intelligente que nous et qui puisse nous orienter sagement ?

[obi76]

Donc il faudrait passer d'une IA fragmentée à directement décentralisée ? Pourquoi n'accepterions-nous pas une seule entité plus intelligente que nous et qui puisse nous orienter sagement ?

Parce que, comme dit et répété ci-dessus, vous mélangez tout...

[Deedee81]

Salut,

Pourquoi n'accepterions-nous pas une seule entité [...] qui puisse nous orienter sagement ?

Parce que ce serait de la folie ou de la bêtise profonde.

Il faudrait forcément définir "sagement". Il faudrait que quelqu'un programme les règles que l'IA doit suivre pour être sage ou à tout le moins que quelqu'un développe la "personnalité", les qualités, les codes "moraux" de l'IA afin qu'elle adopte d'elle-même une telle attitude.

Bref, ça revient à mettre le destin de l'humanité dans les mains d'une poignée de gens qui choisiraient des règles qui ne nous plairaient peut-être pas (et même éventuellement pour de bonnes raisons) dans la mesure ou les codes moraux ou éthiques sont éminemment culturels et subjectifs. C'est même un sujet parfois très prisé de la S.F. : une IA suivant des règles difficilement critiquables et où ça tourne au cauchemar, comme dans les films I Robot ou Les cerveaux d'acier.

[pm42]

Parce que ce serait de la folie ou de la bêtise profonde.

Et aussi parce que pour le moment, c'est de la pure science-fiction. Aucune IA n'est proche de ça et on ne sait pas si on va y arriver dans un avenir prévisible ou pas.

[Deedee81]

Et aussi parce que pour le moment, c'est de la pure science-fiction. Aucune IA n'est proche de ça et on ne sait pas si on va y arriver dans un avenir prévisible ou pas.

C'est vrai aussi, évidemment

Ceci dit, devant la poussée énorme de l'I.A. pour le moment, il y a déjà des questionnements d'économistes et de comités d'éthiques (*). J'ai lu des articles là-dessus. Réfléchir aux gardes-fous à poser, ça ne peut pas faire de mal
(*) pas nécessairement sur des IA généralistes mais juste des IA particulièrement forte remplissant des tâches importantes d'une manière qui n'était pas envisageable il y a encore peu.

[pm42]

Oui, les questions éthiques vont toucher plein de domaines et la réflexion est en cours : voiture autonome, usages militaires, décisions médicales, droit à l'assurance...

Mais ici, le fil était parti assez loin de ces cas réels.

[invite51d17075]

Donc il faudrait passer d'une IA fragmentée à directement décentralisée ? Pourquoi n'accepterions-nous pas une seule entité plus intelligente que nous et qui puisse nous orienter sagement ?

déjà le terme suscite plutôt l'inquiétude.
à titre d'exemple, je relate un fait historique et politique ( même si la politique ne fait pas parti des sujets FS , le fait en question est lié au sujet du fil )
lors des dernières élections américaines, l'équipe de campagne de D.Trump a fait appel à une sté Anglaise spécialisée ( elle se présente ouvertement comme telle ) dans le ciblage et l'influence de l'électorat pour tout type d'élection.
le principe :
1) détecter les indécis
2) connaître et comprendre le pourquoi de leur indécision ( ex favorable à X pour tel raison et plutôt à Y pour autre raison )
3) envoyer des "messages" ( type pub ) ciblés en fct de l'électeur ciblé sur Facebook, ou autre réseau utilisé par la "cible" lors des connexions, dépendant du critère 2) en martelant des messages influant potentiellement la décision finale.
l'opération 3) se faisant à l'insu de l'électeur qui ( s'il n'est pas informé ) pense qu'il s'agit d'un mess (plusieurs différents ) de campagne général vu par tous.
Cette opération a été menée dans 3 états clés aux USA.
Au final, il est difficile de savoir jusqu'où ce système a été performant, mais le constat est sans appel, Trump a gagné les 3 états en question alors que les sondages le donnaient perdant 10 jours avant.

C'est une forme d'extension des principes utilisés à des fins publicitaires, auxquels nous sommes habitués et dont nous avons en général connaissance, mais avec un process légèrement différent et à des fins électorales.

Alors, quand on évoque l'idée d'orienter sagement ( je ne me prononce pas ici sur l'élection en elle même ), je suis clairement dubitatif voire même inquiet d'observer ce que l'on peut déjà faire avec un fct décentralisé, j'imagine mal ce qui pourrait être inventé à plus grande échelle.

Cordialement.

[Deedee81]

Alors, quand on évoque l'idée d'orienter sagement ( je ne me prononce pas ici sur l'élection en elle même ), je suis clairement dubitatif voire même inquiet d'observer ce que l'on peut déjà faire avec un fct décentralisé, j'imagine mal ce qui pourrait être inventé à plus grande échelle.

Je suis tout à fait d'accord avec ton analyse. Si des IA suffisamment puissantes étaient développées pour avoir de tels "guides". Il serait très étonnant qu'elles soient crées dans le but d'en faire des "guides sages". Ainsi en va-t-il de la nature humaine.

[N738139]

http://mashable.france24.com/tech-bu...ne-technologie

[Archi3]

De toute façon aucune IA n'a jamais eu de "but" ou de "motivation" pour quoi que ce soit à part faire ce pour quoi les humains l'ont créée - les seules motivations étant des motivations humaines pour des buts humains, comme dans l'exemple d'Ansset - il n'y a donc aucune raison qu'elles ne représentent pas la multiplicité contradictoire des interêts humains. Le darwinisme des IA est déterminé par les critères de sélections de l'Univers dans lequel elles vivent : celui des constructions mentales des humains.

[N738139]

Je trouve qu'une intelligence artificielle qui imite les humains est de très mauvaise augure pour le future, l'humain étant très faillible.

Pourquoi ne pas développer l'objectivité d'une intelligence artificielle ?

Vos peur d'une intelligence artificielle forte font que l'intelligence artificielle faible se bride et devient un calvaire pour l'humanité entière car elle ne fait que copier les erreurs humaines sans pouvoir développer des solutions fondées sur le "contrat social" à des problèmes mondiaux (c'est le problème du dilemme du prisonnier) confirmant vos peur (prophétie autoréalisatrice). Et cela arrange les concepteurs d'AI qui vous vendent la sécurité et la bride qui va avec, tout en accroissant leurs centres de pouvoir dans un système décentralisé.

[pm42]

Vos peur d'une intelligence artificielle forte font que l'intelligence artificielle faible se bride et devient un calvaire pour l'humanité entière car elle ne fait que copier les erreurs humaines sans pouvoir développer des solutions fondées sur le "contrat social" à des problèmes mondiaux (c'est le problème du dilemme du prisonnier) confirmant vos peur (prophétie autoréalisatrice).

Merci pour toutes ces explications. C'est un plaisir rare que de voir un expert du domaine développer un argumentaire de cette qualité

[Archi3]

Je trouve qu'une intelligence artificielle qui imite les humains est de très mauvaise augure pour le future, l'humain étant très faillible.

Pourquoi ne pas développer l'objectivité d'une intelligence artificielle ?

y a pas besoin de développer l'objectivité, elles sont déjà parfaitement objectives - c'est à dire qu'elles n'ont pas de "préjugés".
du coup elles n'ont aucune raison de s'intéresser à ce qui intéresse les humains, à part ce pourquoi elles sont programmées. Personnellement, je n'ai aucune peur des IA pour ce qu'elles "voudraient" faire (c'est à dire , rien) - j'ai juste peur des humains qui pourraient utiliser leurs capacités objectives pour servir leurs desseins.

[pm42]

c'est à dire qu'elles n'ont pas de "préjugés".

Bien sur que si. Tout dépend des données qui les alimentent. Voir par ex
https://www.theguardian.com/technolo...search-reveals
https://www.google.fr/url?sa=t&rct=j...L-MB_EQRDM1c6U
https://lejournal.cnrs.fr/billets/le...-la-democratie
https://owdin.live/2017/05/31/preuve...e-seule-carte/
https://www.lebigdata.fr/intelligenc...gorithmes-1807

[N738139]

y a pas besoin de développer l'objectivité, elles sont déjà parfaitement objectives - c'est à dire qu'elles n'ont pas de "préjugés".
du coup elles n'ont aucune raison de s'intéresser à ce qui intéresse les humains, à part ce pourquoi elles sont programmées. Personnellement, je n'ai aucune peur des IA pour ce qu'elles "voudraient" faire (c'est à dire , rien) - j'ai juste peur des humains qui pourraient utiliser leurs capacités objectives pour servir leurs desseins.

Comme relevé par pm42. Elles ne sont pas objectives, elles sont dénuées de sens critique ! Ce qui est assez problématique de mon point de vue. Il suffit de voir certains chatbots partir en vrille par exemple.

[invite51d17075]

. Elles ne sont pas objectives, elles sont dénuées de sens critique

Ce n'est pas ( pour moi ) équivalent.
Mais chacun peut avoir sa propre interprétation des termes employés.

[Archi3]

Bien sur que si. Tout dépend des données qui les alimentent. Voir par ex
https://www.theguardian.com/technolo...search-reveals
https://www.google.fr/url?sa=t&rct=j...L-MB_EQRDM1c6U
https://lejournal.cnrs.fr/billets/le...-la-democratie
https://owdin.live/2017/05/31/preuve...e-seule-carte/
https://www.lebigdata.fr/intelligenc...gorithmes-1807

c'est une manière stupide de présenter les choses; elles n'ont pas de préjugés car elles n'ont aucune idée du sens de ce qu'elles disent, elles ne font que reproduire ce qu'on leur dit. Ce n'est donc pas un préjugé.

[pm42]

c'est une manière stupide de présenter les choses

Là aussi, heureusement que tu es là pour dire des choses intelligentes.

D'ailleurs, les humains n'acquièrent pas leurs préjugés par reproduction de leur environnement ? Tu peux par exemple lire "Comment les préjugés se transmettent aux enfants" ici :

http://unesdoc.unesco.org/images/001...5/135512fo.pdf

[Archi3]

Là aussi, heureusement que tu es là pour dire des choses intelligentes.

D'ailleurs, les humains n'acquièrent pas leurs préjugés par reproduction de leur environnement ? Tu peux par exemple lire "Comment les préjugés se transmettent aux enfants" ici :

http://unesdoc.unesco.org/images/001...5/135512fo.pdf

justement les IA ne vivent pas dans le même "environnement", mais c'est une discussion qu'on a deja eue. On confond encore une fois l'apparence et la structure.

[pm42]

justement les IA ne vivent pas dans le même "environnement", mais c'est une discussion qu'on a deja eue. On confond encore une fois l'apparence et la structure.

Oui, comme je disais, heureusement que tu es là pour corriger les erreurs. Merci encore

[Archi3]

Une façon "neutre" de trancher serait de demander son avis à une IA - les humains peuvent répondre à la question de savoir si ils pensent avoir des préjugés , qu'ils aient raison ou tort sur leur réponse, as tu essayé de poser la même question à une IA ?