même si j'ai eu l'air de te contredire sur un autre point, je suis "sensible" à cette approche :
la question reste : comment fait-il ? et/ou comment l'IA en question peut elle assimiler les concepts de ces domaines ?Envoyé par LeMulet
et ... je n'en sais rien.
Pour les application industrielles, pas besoin que la machine assimile des concepts.
Le job en question c’est “AI trainer” un titre reconnu aux US (qui sont sérieusement en avance sur l’Europe...). N’importe qui faisant du machine learning est rapidement confronté à des problèmes pour fournir des données pertinentes pour que la machine généralise bien.
En fait, c’est vraiment de la pédagogie pour machine, d’ailleurs qui présente des points communs avec celle pour les humains
...mais ca reste aussi pour beaucoup un job de réglage de paramètres à l’aveugle et au feeling, et au passage qui révèle un autre exemple de manque d’outils pour progresser
Dernière modification par FinalSpark ; 30/04/2019 à 19h23.
FinalSpark, Building a thinking machine.
Je pense que le fil ne se restreint pas à ça justement.
Pour sûr, une IA destinée à accomplir des tâches industrielles définies ne me semble pas appartenir à la classe "IA forte".
Cependant, nous discutons de cette fameuse "IA forte" sans en avoir bien défini les caractéristiques......
Exige-t-on une 'pensée' analogue à la pensée humaine...... vis à vis de quels attributs, d' ailleurs?
introspection? .... avec expression possible (verbale) de la démarche?
manipulation des concepts ET de leurs relations de l'ordre de la logique?
construction de démarches logiques (je préfèrerais dire ... d'inférences entre concepts, pas forcément très logiques d'ailleurs...)
construction de démarches 'intuitives', ensuite mises en forme (puis validées ou non) sous forme communicable
maîtrise du langage courant et de ses ambiguïtés et références implicites?
émotions, empathie, motivations (et notion de récompense/punition) ??????
conscience du 'moi' et des 'autres' ?
Autonomie fondamentale (malgré des contraintes nécessaires, bien sûr)?
connexion avec un 'corps' virtuel...... ou réel: c'est alors un vrai humanoïde de SF!
Vaste univers: faut-il TOUT demander? Est-ce raisonnable?
Ou alors, en étant bassement utilitaristes: Que demander à cette IA forte? Que lui FAIRE EXECUTER?
Apprendre/comprendre des connaissances humaines déjà constituées (différent du deep learning où la machine construit son modèle depuis données et si besoin, supervision)
Evaluer ces connaissances entre elles (et, éventuellement, à partir d'axiomes injectés par le superviseur)
Conduire des 'raisonnements' sur ces connaissances ( ........id ......)
Savoir prendre les dispositions pour atteindre un 'but' défini, raisonner, proposer et dialoguer afin d'obtenir le résultat.....
Esclave très intelligent?
Partenaire à part entière?
instances discrètes , diverses (et limitées) en fonction de leur apprentissage ?
système universel réparti en réseau? [éventualité fort inquiétante pour notre avenir, mais c'est une autre histoire....]
rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)
effectivement.
et c'est d'ailleurs le point commun à quasi(*) toutes les fils sur ce sujet.
qui, du coup, sont potentiellement sans fin.
(*) j'aurai bien dit toutes, mais celles qui restent circonscrites aux avancées technos en cours ou crédibles actuellement restent intéressantes.
Pour ma part, il ne me semble pas impératif de définir les détails d’une IA forte, (même si c’est un sujet passionnant) on peut se contenter de “ca doit avoir l’air de penser”, je pense que c’est largement suffisant à ce stade, vu l’éloignement de l’objectif.
Par contre, cela fait 30 ans que l’on essaie de synthétiser des capacités cognitives soit en essayant de comprendre le cerveau, soit en en le copiant sans comprendre, et cela ne donne pas grand chose vers une IA qui “ait l’air de penser”.
J’ai l’impression qu’il nous manque un outil formel comme les mathématiques (on a ca pour les systemes experts), pour prévoir le comportement de grands ensembles de neurones à dynamique temporelle et connectés de manière récurrente (on a ca avec les diagrammes de Bode en automatisme par exemple).
FinalSpark, Building a thinking machine.
Que viennent faire les diagrammes de Bode dans cette galère?
Ca c'est pour l'étude des domaines fréquentiels.
Le problème avec "ça doit avoir l'air de penser", c'est que ça ne pense strictement rien.
Les mathématiques ne sont pas la réponse à tout, c'est un des outils nécessaires mais le principal obstacle reste de créer de la cohérence dans le service que peut, ou pourrait, apporter une IA dans notre société dite moderne.
On ne réussi déjà pas à assurer des transports en commun qui fonctionnent normalement, je ne vois pas comment des véhicules autonomes et individuels régleraient la situation... et à quel prix économique, écologique et humain? Il va bien falloir alimenter tout ça un jour, dépanner, produire, former, adapter les infrastructures, modifier la législation et créer des règles éthiques comme dans le médical.
Et aussi financer tous ces chantiers au détriment d'autres priorités.
Ca ne se fera pas en une décennie ni même deux, nous avons à affronter des problèmes actuels bien plus préoccupants que d'aller d'un point A à un point B en commandant un truc sur son smartphone pour engraisser on ne sait qui encore.
Autant je crois dans l'assistance de l'IA pour des problématiques concrètes comme dans le médical, l'aide au diagnostics notamment, la manipulation des big data dans les domaines scientifiques (pas économiques), de manière générale pour chercher une aiguille dans une botte de foin, autant confier notre salut et devenir dans une IA est une chimère.
L'homme a si peu confiance en lui et devient tellement assisté par les technologies qu'il risque de tout perdre dans cette quête du superficiel et de l'artificiel.
De la même manière que les astrophysiciens se sont rapprochés des compétences des géologues et autres domaines scientifiques pour comprendre ou progresser sur certaines théories, les gens de l'IA devront se rapprocher davantage des experts en sciences humaines.
Il y a encore peu, parler de philosophie ou de sociologie ou même de psychologie étaient des gros mots pour les fanatiques de l'IA, pensant que tout allait se résoudre à coups d'algorithmes et autres learning machine, deep learning et je ne sais quoi encore. Quelle prétention et ignorance des enseignements passés, comme si le vivant et le spirituel pouvaient trouver ses réponses dans des codes et un monde binaire.
Bref un retour aux sources de l'époque ou les grands penseurs savaient que rien n'est dissociable en ce bas monde et que l'intérêt de l'homme pour l'homme doit rester central tout en ayant conscience de ce qui nous entoure, nous loge et nous nourrit (physiquement comme spirituellement).
On assiste plutôt à l'inverse, piller les ressources, mettre des moyens colossaux quand ils manquent cruellement ailleurs, augmenter la facture énergie, créer des sociétés qui ne sauront plus communiquer humainement.
Perso j'aime bien parler avec mon chauffeur de taxi plutôt qu'à une machine, et j'espère que ça durera encore suffisamment longtemps pour que je ne vois pas ce désastre que quelques uns aimeraient imposer au plus grand nombre.
Perso aussi, je préfère la compagnie de mes chevaux à celle d'une machine...... même supposée intelligente......
Je n'ai pas une vue plus optimiste que toi sur les problèmes actuels........
Seulement je suis persuadé qu' "une" IA répartie, extrêmement contraignante, est en train de coloniser l'aire occupée par les civilisations humaines.....
Je suis persuadé que ce système va présenter, de plus en plus, les caractéristiques d'autonomie, auto-apprentissage, auto-adaptation et auto-définition des objectifs qui sont des apanages de cette IA "forte".....
Il est vraisemblable que le vieillissement de mes cellules me dispensera de voir l'aboutissement du processus.......
Sauf disparition complète de toute civilisation rationnelle, cela me semble inéluctable, sans ou avec l'aide éventuelle de cataclysmes intercurrents *
Alors, toujours perso, je me demande si il ne serait pas moins pire d'adopter la solution du désespoir, en pactisant avec le Diable: promouvoir "quelque chose" qui puisse hériter de 'nous' et de notre passé [le système qui tend à nous asservir ignore totalement notre histoire et nos civilisations].
Et que ce 'quelque chose' soit apte à communiquer.....
Par contre, quand tu fais référence aux 'sciences humaines', je ne crois pas qu'elles soient utiles à la construction de l'IA [psychologie cognitiviste excepté]. C'est bien la simulation des processus 'intellectuels' sur un support mathématique et informatique, avec des idées provenant de nos connaissances du mammifère bipède et bavard (et menteur...) qui le permettra.
*pas la chute d'un astéroïde, mais des ruptures par excès de contraintes.....
rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)
c'est effectivement ce qui peut interroger et donc inquiéter.
d'ailleurs l'autonomie ainsi que la définition des objectifs suffit d'être indirecte pour "prendre le pouvoir".
j'ai vu récemment ( je prend cet exemple parce qu'il n'a l'air de rien ) que le PSG offrait une somme très importante pour le développement d'un "logiciel" ( une IA en fait ) pour "assister" l'entraineur !
ce qui en substance implique des "suggestions" sur "qui va jouer" , "organisation de jeu",....
Si celui ci prend des décisions autres, on lui reprochera s'il perd, et on ne lui donnera pas crédit d'avoir pris une autre initiative.
Le "conseil" deviendra de facto un ordre indirect.
Et cet exemple peut être significatif dans bien d'autres domaines.
Il y a déjà des choses comme ça. Je connais une startup qui analyse les films des entrainements et matchs et qui donne des infos pertinentes sur chaque joueur.
En gros, elle fait une partie du travail qu'un entraineur qui regarde un joueur mais elle peut les suivre tous simultanément.
On fait cela depuis longtemps sauf que c'est aussi à coup de stats. Pense au baseball et regarde Moneyball si tu ne l'as pas vu.
On est très loin d'avoir une IA qui arrive à ce niveau. Mais pour ce que tu décris, pas besoin d'une IA ou même de technologie : cela s'applique à toutes les couples décisions/conseil/augures/choix standard depuis toujours.
Vous avez raison de le préciser, je pensais notamment à la psychologie dans une IA qui se voudrait à mimer nos comportements, quand on voit les difficultés dans ce domaine on mesure l'ampleur de la tâche qui consisterait à "modéliser" quelque chose qui nous échappe encore tellement, ne serait-ce que dans le comportement ou l'interaction, mais s'en passer serait faire abstraction de tout un pan de ce qui nous construit de manière si imparfaite. (comme le PSG)
Là est sans doute un point clé inconciliable, comment concilier le champs des imperfections qui produit tant de créativité et de complexité chez l'humain avec quelque chose qui repose à la base sur des processus logiques et très (trop) rationnels, qui imposent par principe d'aboutir à un résultat en tout et qui nous serait imposé par je ne sais quel autorité de pensée.
A défaut il serait nécessaire d'aligner sur une valeur moyenne ce qui ne peut conduire qu'à un nivellement progressif et froid, en tout cas bien loin de l'objectif d'extraire une notion supérieure.
Introduire de l'irrationalité synthétique, en bonne proportion pour être "productive", serait en comprendre les ressorts et nous en sommes encore très très loin, pour ne pas dire nulle part.
Quand je vois par exemple les "hôtesses" d'accueil au Japon, sensées recevoir le public en lieu et place de vrais gens, il y a vraiment de quoi sourire ... ou pleurer selon.
Très juste.
j'ai d'ailleurs été consultant un moment.
mais cela restait "entre humains".
on change de paradigme avec une "techno".
la dimension subjective ( voire intuitive ) disparait.
on peut y voir du positif ( ou pas ) selon les domaines.
bref, je m'interroge.
Effectivement, j'hésite...du "faux humain"?
N'a de convictions que celui qui n'a rien approfondi (Cioran)
imperfection? irrationalité apparente?
Si on considère le système des 'prédicats' que va affirmer un être humain, il constitue un système logique bourré de contradictions ("dissonances cognitives"). Selon l'ordre dans lequel certains de ces prédicats sont évalués, la conclusion prend des valeurs différentes et parfaitement incompatibles.
Je pense qu'à partir de 'vérités' (?) officielles et reconnues dans notre monde imparfait, tout processeur logique peut tirer des conclusions variables selon la façon de mettre en oeuvre les règles.
L'humain est évidemment concerné..... d'autant plus qu'il n'a pas son pareil pour contourner ou falsifier les règles.....
L'irrationalité dont tu parles, ça me semble être l'apanage de l'étape préalable à l'application des règles: l'étape de construction du chemin de raisonnement.
Cela se fait en amont de toute pensée logique, par des essais successifs, dont les directions proviennent de processus autres (associatifs ? analogiques? probabilistes? compétitifs? etc...) . Ces processus d'exploration quasi aveugles (ou magiques...) pourraient être remplacés par des fonctions mathématiques.
Je pense en particulier aux représentations vectorielles, avec calcul de distances, et choix de la plus petite (ou la plus grande!!!), tout en étant bien incapable de mettre ça en œuvre.....
Ainsi on réintègre l'irrationel/imprévisible dans la démarche.
C'est ensuite l'épreuve de l'application au réel qui sélectionne l'itération d'IA (ou l'humain) qui a produit le meilleur résultat..... un peu la sélection naturelle/génétique (????) !
rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)
C'est juste un exemple de formalisme qui fonctionne bien pour prévoir les comportements de systèmes avec rétroaction. Cela pourrait être utilisé pour modéliser l'état de 2 neurones très simples (c'est à dire avec une fonction d'activation linéaire, donc en particulier qui ne spike pas) et connectés l'un à l'autre, c'est pareil.
Mais ce type de formalisme ne marche pas (à ma connaissance...) pour n neurones non linéaires et récurrents comme dans notre cerveau.
Un outil pour prévoir le comportement d'un tel système serait très utile, au lieu de faire des simulations au hasard comme on le fait aujourd'hui pour ce type de réseaux.
FinalSpark, Building a thinking machine.
Je pose une question naïve, mais avant de se demander s'il ne nous manque pas une nouvelle physique pour fabriquer une IA forte, ne serait-il pas nécessaire de se demander s'il est possible de fabriquer une IA forte ? Pour l'instant on ne sait toujours pas répondre à la question "pour qui le monde existe-t-il ?", on est incapable de définir la conscience. Tant que l'on n'aura pas un modèle décrivant comment on passe de l'objectif au subjectif, comment "l'eau du cerveau se transforme en vin de la conscience" comme l'a dit je ne sais plus qui ; tant que l'on n'aura pas une réponse à la question du hard problem en fait, je conçois mal que l'on puisse fabriquer une IA forte. J'ai l'impression qu'on met la charrue avant les bœufs...
là j'avoue que le fil prend une hauteur qui me dépasse.
mais c'est souvent le cas avec ce sujet de l'IA "forte".
celle là est quand même pas mal dans le genre "philosophico-schakspearien"...
bjr,
En effet les humanoïdes qui sont faits actuellement pour "intelligents" qu'ils puissent être ou paraître, ont de la mémoire certes, mais hélas il leur manque ce petit je-ne-sais-pas-trop-quoi qui s'appelle la conscience. Sans lequel effectivement ils ne peuvent pas, par eux-mêmes, anticiper ou prévoir ! La conscience de ces bestioles, en réalité est celle de leurs futés concepteurs. Donc la question se pose maintenant de savoir si la conscience est une propriété en soi du vivant en soi, ou si elle émerge du câblage harmonieux des réseaux neuronaux dont les cerveaux sont eux-mêmes tissés, cousus. A priori des amnésiques notoires ou des malades d'alzeimher peuvent être conscients donc, a priori la conscience est distincte de la mémoire mais bon, faut voir
Désolé de poser une question... Cela dit, il n'est pas démontré que la fabrication d'une IA forte soit possible, ou alors j'ai loupé un épisode.là j'avoue que le fil prend une hauteur qui me dépasse.
si la question préliminaire doit être :
j'avoue ne pas saisir le lien avec le sujet."pour qui le monde existe-t-il ?"
quand au reste, l'impossibilité non plus( selon la définition que l'on lui donne ).
mais c'est récurrent avec ce sujet, donc je ne suis surpris que par ta question préliminaire.
C'est normal, et vous nous l'avez déjà expliqué ici :
Suffit de comprendre ce que signifie IA Forte (c'est le sujet du fil...).là j'avoue que le fil prend une hauteur qui me dépasse.
mais c'est souvent le cas avec ce sujet de l'IA "forte".
celle là est quand même pas mal dans le genre "philosophico-schakspearien"...
https://fr.wikipedia.org/wiki/Intelligence_artificielle
confusion ?
ce qui me dépasse c'est la question "ésotérique".......
me faire dire ce que je n'ai pas dit est malhonnête !
quand au reste, on peut citer wiki, mais parmi d'autres "formulations".
quand à celle ci, on ne peut pas dire qu'elle soit totalement explicite.
j'ajoute que le sujet parle de progrès dans cette "direction" et non pas de la possibilité ou pas d'arriver à qcq chose qui ressemble à .....?Le concept d’intelligence artificielle forte fait référence à une machine capable non seulement de produire un comportement intelligent, mais d’éprouver une impression d'une réelle conscience de soi, de « vrais sentiments » (quoi qu’on puisse mettre derrière ces mots), et « une compréhension de ses propres raisonnements »56
Moi ce qui me dépasse, c'est que la moindre référence à la conscience soit considérée comme ésotérique, alors que c'est la définition de l'IA forte.
Ou l'art de couper les cheveux en 4...
Bonjour,
Ansset ne faisait pas référence à la conscience mais à la remarque sur l'existence du monde (moi aussi ça ma fait bondir). Il confirmera ou pas....
"Il ne suffit pas d'être persécuté pour être Galilée, encore faut-il avoir raison." (Gould)
Bonjour,
J'aimerais qu'on se calme là. Là je m'adresse à tous. Car à force de piques et d'interprétations à coté de la plaque des propos des autres ça ne peut que tourner au vinaigre.
Je me demande même si ce fil a encore un intérêt car ça fait un moment que ce n'est plus qu'un débat d'opinion.
"Il ne suffit pas d'être persécuté pour être Galilée, encore faut-il avoir raison." (Gould)
Bonjour,
Je ne vois pas vraiment le problème, demander "pour qui le monde existe-t-il ?" ou "qu'est-ce que la conscience" sont 2 formulations de la même question... non ?
pas du tout en ce qui me concerne.
sinon, il me semble "convenable" de respecter la nature d'un fil.
et celui ci ne s'intitule pas " De l'IA Forte" telle une dissertation d'opinions mais bien :
d'ailleurs, le premier post concerne directement la nature de ces "outils mathématico-informatique".Intelligence artificielle forte, manque-t'on d'outils pour progresser ?
et j'en viens aussi à la conclusion que la discussion actuelle n'a plus grand chose à voir.
même s'il était naturel que les apartés sur la conscience ( ou les formes de conscience ) soient évoquées.
Grosso modo les chercheurs se partagent entre d'un côté ceux qui pensent que c'est plus ou moins une évidence depuis Turing (la grande majorité parmi la petite minorité qui se pose la question), et de l'autre ceux qui pensent que c'est possible mais seulement avec un hardware spécifique (Searle, Penrose, Tononi). Je ne connais pas d'auteur qui pense que la fabrication d'une IA forte soit impossible, mais c'est vrai que c'est une question qui revient régulièrement sur le forum. La réponse la plus accessible est que 1) nous sommes capables d'avoir des enfants 2) les scientifiques ne croient pas que ce soit par magie. 1+2 => cela doit être possible de faire une IA forte sans magie. Searle pense que c'est possible sans magie mais que la machine biologique est indispensable. Penrose pense que c'est possible sans magie mais que cela demande de l'hypercalcul (pour faire simple). Tononi pense que c'est possible mais pas sans X (X changeant de version en version).
(croisement: franchement je n'ai pas d'objection à ce qu'on ferme cette fosse d'aisance. Néanmoins, peut-être faut-il laisser une chance à de nouveaux intervenants de faire mieux que les anciens?)
Si l'IA forte est définie comme l'émergence d'une conscience de soi/du monde chez la machine (la fameuse transition de l'objectif au subjectif), alors d'une part il n'est pas étonnant que la notion de conscience soit évoquée dans ce fil, et d'autre part il semble peu probable que des progrès significatifs puissent être effectués sans un modèle décrivant la conscience et ses modalités d'émergence.
Aucune chance. Tous les fils sur l'IA finissent comme cela. L'IA sur FS, c'est le foot ou le gouvernement au café du coin : tous ceux qui n'y connaissent rien expliquent comment il faudrait faire.
