IA forte uniquement verbale: envisageable? comment?

[Bounoume]

Peut-on faire?
Comment faire?..........

......... Une Intelligence contenant et traitant uniquement des textes (des mots, un langage, avec même les éléments implicites exprimés dans ce langage...)
......... Avec tous les éléments identifiés nommés et affichables en mode 'texte', donc des structures lisibles par nous....**
Mais, revers de la médaille, sans intégrer sons, images, perceptions, schémas, ni représentations spatiales, si ce n'est par la manipulation des concepts correspondants, connus uniquement à travers les Textes précédemment assimilés.....

Pour moi, l'intérêt de cette option limitée serait de nécessiter beaucoup moins de ressources qu'une IA 'incarnée' ou une IA forte émergeant d'une émulation partielle de notre fonctionnement neuronal.....

Peut-on concevoir un système qui,
à partir d'un noyau inné (donc programmé puis rempli de données pertinentes pour nous, humains)
...... intégrerait des textes choisis par nous, en reconstruisant l'implicite, et en mémorisant l'explicite et ses relations avec le déjà acquis.....
...... puis dans un deuxième temps sélectionnerait (sur le Net, solution de facilité!) les documents et les 'étudierait' à la manière d'un étudiant humain.....
...... et enfin serait capable d'en 'discuter' avec les humains,
avec une capacité de traitement logique, de critique, d'autocritique, et de construction/vérification de théories.....




Deux axes possibles:
1)comment représenter ce 'monde de connaissances' : (quel réseau(x)?, quelles structures d'information, quelles procédures d'interaction entre objets? , etc....)
2)comment, une fois l'embryon de monde construit, va-t-il croître [se complexifier, se réorganiser] par l'acquisition de nouveaux textes?

Puis ensuite comment pourra-t-il 'agir' en assimilant les demandes de l'humain, en traitant ses connaissances, et en construisant des réponses ..... dont l'interrogation des bases de connaissance , et la délivrance des avis pertinents demandés par l'humain.

Bon, avec, cerise sur le gâteau, une 'conscience' communicable et totalement exprimable......

Y a-t-il déjà des tentatives?
Quel est l'état de l'art?


** analogie d'apparence avec réseaux sémantiques
-----

[ansset]

Pour moi, l'intérêt de cette option limitée serait de nécessiter beaucoup moins de ressources qu'une IA 'incarnée' ou une IA forte émergeant d'une émulation partielle de notre fonctionnement neuronal.....
..............
......
avec une capacité de traitement logique, de critique, d'autocritique, et de construction/vérification de théories.....
......
Bon, avec, cerise sur le gâteau, une 'conscience' communicable et totalement exprimable......

contradictions ?

[Dansteph]

Quel est l'état de l'art?

Sur le fond on est toujours coincé sur des systèmes aussi "intelligents" que les automates du 19e siècle.
Ce qu'on nomme "IA" est une simple réponse "mécanique" à des schémas préprogrammés, mais beaucoup plus rapides et complexes qu'a l'époque des roues dentées.
On peut arriver ainsi à une apparence, une imitation de réponse intelligente, d'autant plus pertinente que le domaine est circonscrit.

Ce que tu veux faire n'est pas très clair, mais oublie déjà la "conscience", la "critique" "l'autocritique" "l'étude à la manière des humains", ce sont des mécaniques.

Article sur futurstalents.com: L’intelligence artificielle, brillante et stupide

[Archi3]

C'est un peu le problème des zombies sur la nature de la conscience. Peut on imaginer des créatures manipulant le langage comme les humains sans avoir aucune "perception consciente" associée ?
Prenons par exemple un daltonien : il aura du mal à qualifier les nuances et les contrastes entre les verts et les rouges, puisqu'il ne les voit pas. Comment peut il décrire "de la même façon" qu'un voyant normal une image comme celle là ? (http://daltonien.free.fr/daltonien/a...3?id_article=6)

Evidemment un daltonien n'a qu'un petit problème sensoriel et ses problèmes seront localisés : en revanche il partage l'essentiel des autres sensations avec les autres humains et est encore capable d'une communication quasi normale. Maintenant allons plus loin , en extrapolant à un aveugle, puis à quelqu'un qui serait privé de tous ses sens (y compris les sensations internes de son corps qui n'existerait pas...) : comment imaginer qu'il continue à employer le langage de la même façon qu'un humain (lequel langage est rempli de métaphores et de métonymies sensorielles, par exemple quand on parle d'un raisonnement "brillant" ou de quelqu'un de "lourd" ...) ? Evidemment les IA actuelles ne cherchent pas du tout à compenser l'absence de sensations mais juste à remplacer l'utilisation humaine du langage fondée sur les sensations conscientes par des algorithmes qui autant que possible donnent l'illusion d'une conscience : fondamentalement ça n'a rien de très différent des automates de Vaucanson qui cherchent à donner l'illusion d'un mouvement mécanique apparemment semblable, mais sur des bases très différentes de la motricité animale. Comme un daltonien pourrait essayer de tricher en semblant faire la différence entre les rouges et les verts (par exemple il saurait que le vin peut etre rouge et jamais vert et il parlerait d'un rouge profond en voyant un verre de vin sombre), mais il se fait toujours "avoir" à un moment où à un autre.

[A voir en vidéo sur Futura]

[pm42]

Ah, un super fil d'IA où on va avoir des arguments pertinents par des gens qui connaissent bien le domaine et des liens vers des sites sérieux et spécialisés

Pour le moment, on a eu un site typé Ressources Humaines et un autre sur les daltoniens.

Blague à part :

Pour moi, l'intérêt de cette option limitée serait de nécessiter beaucoup moins de ressources qu'une IA 'incarnée' ou une IA forte émergeant d'une émulation partielle de notre fonctionnement neuronal.....

Pourquoi est ce que cela nécessiterait moins de ressources ? Les humains construisent leur représentation du monde sur la base d'interactions variées et sont capables de devenir des IA fortes sans même apprendre à lire.
Se limiter aux textes peut parfaitement rendre l'apprentissage plus compliqué.
C'est d'ailleurs ce qu'on constate avec les humains : retirer un canal d'interaction voire se limiter au texte ne facilite pas l'apprentissage.

Il y a un exemple donné un IA : si je dis "la bille de plomb est tombé sur la table en verre, elle s'est cassée", les humains savent que c'est la table qui s'est cassée. Si j'inverse plomb et verre, la phrase change peu mais les humains savent que c'est la bille qui s'est cassée cette fois ci.
Justement parce qu'ils ont une représentation physique du monde.

On a le même problème avec les voitures autonomes : un humain qui apprend à conduire et qui glisse 1 fois ou 2 sur le verglas va s'adapter rapidement et savoir que dans ces conditions (risque de verglas), il doit rouler moins vite, surveiller plus la route, etc.
Les voitures autonomes aujourd'hui sont performantes mais ne peuvent pas faire ce genre d'apprentissage "rapide".

C'est d'ailleurs vrai pour en général : on a besoin d'entrainer les réseaux de neurones sur des bases énormes et quand on ne les a pas, on les génère parfois artificiellement.

Mais bon, on parle plutôt dans le vide : on n'a aujourd'hui aucune idée de ce qui est nécessaire pour faire une IA forte et ce n'est d'ailleurs pas le plus gros de la recherche et de loin.

[Archi3]

Ah, un super fil d'IA où on va avoir des arguments pertinents par des gens qui connaissent bien le domaine et des liens vers des sites sérieux et spécialisés

il y a des sites sérieux et spécialisés sur l'IA actuelle, c'est à dire réaliser le programme que j'esquissais : donner l'illusion d'un comportement conscient sans avoir de conscience. Mais je n'en connais pas qui s'attaque sérieusement au problème posé par Bounoume

Puis ensuite comment pourra-t-il 'agir' en assimilant les demandes de l'humain, en traitant ses connaissances, et en construisant des réponses ..... dont l'interrogation des bases de connaissance , et la délivrance des avis pertinents demandés par l'humain.

Bon, avec, cerise sur le gâteau, une 'conscience' communicable et totalement exprimable......

donc sauf à nous indiquer des sites "sérieux' sur cette question, ce qui m'étonnerait puisque tu dis toi meme

Mais bon, on parle plutôt dans le vide : on n'a aujourd'hui aucune idée de ce qui est nécessaire pour faire une IA forte et ce n'est d'ailleurs pas le plus gros de la recherche et de loin."

, je ne vois pas comment faire autre chose que des discussions de principe ou chacun donne son avis. Tu peux donc te dispenser de tes remarques dédaigneuses.

[Bounoume]

Pourquoi est ce que cela nécessiterait moins de ressources ? Les humains construisent leur représentation du monde sur la base d'interactions variées et sont capables de devenir des IA fortes sans même apprendre à lire.
Se limiter aux textes peut parfaitement rendre l'apprentissage plus compliqué.
C'est d'ailleurs ce qu'on constate avec les humains : retirer un canal d'interaction voire se limiter au texte ne facilite pas l'apprentissage.

Il y a un exemple donné un IA : si je dis "la bille de plomb est tombée sur la table en verre, elle s'est cassée", les humains savent que c'est la table qui s'est cassée. Si j'inverse plomb et verre, la phrase change peu mais les humains savent que c'est la bille qui s'est cassée cette fois ci.
Justement parce qu'ils ont une représentation physique du monde.

On a le même problème avec les voitures autonomes : un humain qui apprend à conduire et qui glisse 1 fois ou 2 sur le verglas va s'adapter rapidement et savoir que dans ces conditions (risque de verglas), il doit rouler moins vite, surveiller plus la route, etc.
Les voitures autonomes aujourd'hui sont performantes mais ne peuvent pas faire ce genre d'apprentissage "rapide".

Du point de vue simplement cognitif, dans ces 2 cas il suffirait que le 'système' possède quelques règles supplémentaires dans sa 'base de connaissances':
dont quelque chose comme ceci '''choc de corps dur contre corps mou: c'est le dur qui casse pas le mou ! ""
ou '''quand la température est #0 °C, ça peut glisser! """
la difficulté étant effectivement d'avoir pu acquérir ces connaissances dans des sources textuelles....... et de savoir les rappeler et évaluer au bon moment.....

Chez nous, humains, les deux inférences que tu cites ne sont pas innées; pour acquérir la première (l'objet qui se brise) il a fallu mobiliser un max de ressources (visuelles, perceptives autres, motrices, logiques), et bénéficier d' expériences pratiques.
Tomber 'par hasard' sur un ou des textes -évalués comme fiables et dignes d'intérêt- par le système me semble demander moins de ressources machine.....

Pour le 2 ème exemple, je serai cynique: si la voiture dérape et est bousillée, (conducteur avec) ça n'apprendra pas grand'chose au logiciel! ni au conducteur si il est mort!
En fait, si le concepteur a oublié de programmer un contrôle renforcé genre ABS en cas de risque de verglas, ce n'es pas un problème d'IA mais une lacune humaine , comme si le moniteur d'auto-école a omis de signaler le risque au conducteur novice.....

En se limitant aux textes (dans un premier temps...... bien sûr.....) on limite les capacités de description et de traitement, c'est tout à fait vrai.
Comme au siècle dernier et avant, où le multimédia n'existait pas, l'image était rare, l'instrumentation primitive etc....

Toutefois, dès que les processus d'apprentissage, d'évaluation et de raisonnement autonomes sont obtenus, sur un jeu de textes d'essai **
rien n'interdit de programmer et intégrer des accès à des modules de traitement d'images, de structures et images spatiales, etc, avec les interfaces (en texte) avec la partie déjà autonome.
si je peux faire l'analogie, c'est comme quand j'utilise une figure géométrique: il y a d'abord l'énoncé et les contraintes (texte) puis l'exécution du dessin (sur les prescriptions de l'énoncé), l'analyse du dessin (aller et retour analogique/règles écrites) , puis le raisonnement (texte.... mais qui, officieusement, doit respecter les 'évidences' constatées sur le dessin!)

PS. n'envisageons pas tout de suite ces développements...... on verra plus tard, car déjà remplir notre cahier des charges n'est pas aisé!


**pourquoi pas des textes des livres d'école , primaire, puis secondaire, etc comme on instruit -ou prétend instruire- les petits citoyens français et autres, et p't'être plus précisément les vieux livres du temps du temps des écoles communales de Jules Ferry!!!!!!

[ansset]

**pourquoi pas des textes des livres d'école , primaire, puis secondaire, etc comme on instruit -ou prétend instruire- les petits citoyens français et autres, et p't'être plus précisément les vieux livres du temps du temps des écoles communales de Jules Ferry!!!!!!

ceux ci ne saurait se passer "d'images" de "représentations" ....
cela reviendrait ( en poussant l'idée ) à faire découvrir le monde à un enfant/bébé né aveugle , sourd et insensible au toucher.

[pm42]

il suffirait que

Yakofokon.

le 'système' possède quelques règles supplémentaires dans sa 'base de connaissances':

Vu que les systèmes dont on parle n'ont pas de règles ni de bases de connaissances au sens propre, ça complique encore plus que "il suffirait".

Tout le reste est du raisonnement par analogie et sans avoir pris la peine de comprendre comment fonctionne vraiments les IA actuelles...
C'est aussi concluant que le daltonisme ou les ressources humaines.

J'arrête là.

[Bounoume]

Tu fais référence aux systèmes 'actuels', alors OK...... mais je faisais référence au système (différent) que je voudrais promouvoir.
Qui contiendrait (sous une forme à définir) quelque chose comme des règles exprimables (ou ressemblant à des réseaux sémantiques).... cad avec des informations plutôt 'discrètes' que 'réparties'.....

C'est justement la mise en oeuvre de cette organisation qui m'intéresse.
NB. Organisation qui peut faire penser un peu aux 'neurones miroir' récemment décrits en neurophysiologie......

[Topix]

C'est un peu le problème des zombies sur la nature de la conscience.

Le problème, c'est que cette question semble être impossible à résoudre. Comment différencier une illusion parfaite d'un phénomène réel ? Et puis si l'on pousse le raisonnement jusqu'au bout, quelle preuve formelle avez-vous que les autres humains ont réellement une conscience ?

Ensuite, pris sous l'angle du déterminisme, nous sommes de simples automates biologiques. Cela pose quelques difficultés pour réellement nous différencier de l'IA.

Je me demande si il est possible de créer le zombie humain dont vous parlez. J'ai l'impression que la conscience est une donnée qui se mesure de façon empirique. En d'autres termes, la conscience s'évalue à la complexité des comportements observés et il ne peut pas y avoir de comportements élaborés sans conscience, de la même façon qu'il ne peut pas y avoir de mouvement sans énergie.

Autrement, il faudrait en quelque sorte admettre que ce soit uniquement un phénomène propre au vivant : parce que j'observe un comportement complexe et qu'il s'agit d'un être biologique, j'estime qu'un organisme donné possède une conscience.

Maintenant, si j'estime qu'une fourmi n'a pas de conscience, comment la différencier d'une IA de fourmi ? C'est cela qui me pose problème, c'est que plus on descend dans les petites échelles, plus la frontière devient floue. Or, je pense que personne ne contestera qu'une fourmi a toujours plus conscience de quelque chose qu'un simple morceau de cuivre.

Pour opérer une séparation nette, il faut également commencer par admettre comme préalable que tout organisme biologique possède un degré minimal de conscience, sinon le raisonnement devient problématique.

[Archi3]

le problème posé par Bounoume me parait différent de la question de savoir si on pourrait réaliser une IA : il demande si on pourrait réaliser une IA sans faire appel aux perceptions , ce qui (si j'ai bien compris) lui paraitrait plus facile, alors que je pense au contraire que ce serait encore bien plus difficile -voire impossible ! c'est plutot proche du problème de traduction automatique, qui doit traduire un texte sans rien y "comprendre". Même les "bonnes" imitations fonctionnent très différemment d'un traducteur humain , puisque par exemple elles sont incapables de répondre à une question très simple sur le sens du texte qu'elles ont traduites. Meme pas qu'elles se trompent, mais que simplement elles ne savent pas répondre à une question ! c'est bien sur très différent d'un traducteur humain. A vrai dire, le but de l'IA qui est "faire exactement tout ce que fait l'humain sans fonctionner du tout pareil", est en lui même assez étrange ...

[Bounoume]

le problème posé par Bounoume me parait différent de la question de savoir si on pourrait réaliser une IA : il demande si on pourrait réaliser une IA sans faire appel aux perceptions , ce qui (si j'ai bien compris) lui paraîtrait plus facile,........ A vrai dire, le but de l'IA qui est "faire exactement tout ce que fait l'humain sans fonctionner du tout pareil", est en lui même assez étrange ...

Le but recherché n'est pas de faire un "humanoïde" comme nous. C'est d'avoir une 'agent' nettement plus intelligent que Google ou le chat-bot à la mode.....

Question collatérale: la traduction automatique:
SI on réussissait dans mon sens, l'agent traducteur ne serait pas simplement un exécuteur d'algorithmes manipulant une base de connaissances statistiques (ni un réseau neuronal classique) ; il intégrerait (et agirait en fonction) de connaissances structurées , dont suffisamment de connaissances du domaine concerné par le texte à traduire. Ainsi, il pourrait préciser les ambiguïtés du texte initial, en écarter d'emblée les interprétations absurdes, puis vérifier que la traduction ne comporte pas de contresens.....
Pour faire cela en tout cas, je ne vois pas la nécessité d'avoir la perception de grandeurs physiques, sons, images, toucher etc....

[Bounoume]

Pour opérer une séparation nette, il faut également commencer par admettre comme préalable que tout organisme biologique possède un degré minimal de conscience, sinon le raisonnement devient problématique.

Euh, comment tu conçois l'intelligence d'une bactérie?
Réactivité spécifique à des stimuli donnés?

[Topix]

Euh, comment tu conçois l'intelligence d'une bactérie?

Je définirais son intelligence comme sa capacité à interagir avec son environnement, se maintenir en vie et se perpétuer dans le temps.

[Dansteph]

Ah, un super fil d'IA où on va avoir des arguments pertinents par des gens qui connaissent bien le domaine et des liens vers des sites sérieux et spécialisés

C'est pas faux...

Mais pas que.
J'ai programmé une "IA" en C++ qui gère ma maison sur un KODLIX AP42 "Fanless" avec un MC1000 par pièce pour les entrées vocale et des extensions domotique en Z-Wave.
J'ai utilisé diverses SDK et API d'IA pour avoir une (charmante mais stupide) interlocutrice artificielle.

Bref, L'article du site futurstalents.com que j'ai posté plus haut donne une image assez intéressante de l'état de l'art, il ne faut pas s’arrêter à la lecture d'un nom de domaine avant de juger.

Le but recherché [...] C'est d'avoir une 'agent' nettement plus intelligent que Google ou le chat-bot à la mode.....

Ah...

je faisais référence au système (différent) que je voudrais promouvoir
[...]
SI on réussissait dans mon sens

Qu'est ce qui te fait penser que, sans aucune connaissance dans le domaine, tu puisse avoir une approche plus novatrice que celle des dizaines de milliers d'experts et scientifiques qui planchent dessus depuis des décennies ?
https://fr.wikipedia.org/wiki/Intell...e_artificielle

l'agent traducteur ne serait pas simplement un exécuteur d'algorithmes manipulant une base de connaissances statistiques (ni un réseau neuronal classique) ; il intégrerait (et agirait en fonction) de connaissances structurées , dont suffisamment de connaissances du domaine concerné par le texte à traduire.

Les meilleurs systèmes expert intègrent déjà (forcément) des "connaissances structurées du domaine concerné" ce n'est absolument pas novateur.
C'est comme si tu disais aux ingénieurs aéronautique "avez vous pensé à mettre des ailes"...

[Bounoume]

Qu'est ce qui te fait penser que, sans aucune connaissance dans le domaine, tu puisse avoir une approche plus novatrice que celle des dizaines de milliers d'experts et scientifiques qui planchent dessus depuis des décennies ?
https://fr.wikipedia.org/wiki/Intell...e_artificielle

Les meilleurs systèmes expert intègrent déjà (forcément) des "connaissances structurées du domaine concerné" ce n'est absolument pas novateur.
C'est comme si tu disais aux ingénieurs aéronautique "avez vous pensé à mettre des ailes"...

Ah bon?
1)
Tu as connu Algol, Fortran IV (sur un IBM 7044, en 1970), assembleur 6809 Motorola, C, Pascal, C++, ben moi aussi je connais, Delphi aussi,
(vouais, suis encore plus un ancêtre que toi....).
2)
Tu connais quelque chose en neurologie, en neurophysiologie, en psychiatrie/psychologie, en biologie/génétique, en économie de la santé, par exemple?
Et alors? C'est pas ton métier. Donc interdiction de t'en mêler! Interdiction de mettre à jour des connaissances. Interdiction de faire des synthèses entre ces disciplines et TES connaissances exclusives: les IA diverses et variées.....

A propos, tu connais SQL?
Trêve de carabistouilles......

Merci quand même pour l'article de Wikipedia. D'autant que ça conforte mes vues:
ça:
Le 27 janvier 2010, l'US Air Force demande l'aide de l'industrie pour développer une intelligence avancée de collecte d'information et avec la capacité de décision rapide pour aider les forces américaines pour attaquer ses ennemis rapidement à leurs points les plus vulnérables. L'US Air Force utilisera une intelligence artificielle, le raisonnement ontologique, et les procédures informatique basées sur la connaissance, ainsi que d'autres traitement de données avancées afin de frapper l'ennemi au meilleur point21.

c'est pas du deep learning à la mode.....

En janvier 2018, des modèles d'intelligence artificielle développés par Microsoft et Alibaba réussissent chacun de leur côté à battre les humains dans un test de lecture et de compréhension de l'Université de Stanford. Le traitement du langage naturel imite la compréhension humaine des mots et des phrases et permet maintenant aux modèles d'apprentissage automatique de traiter de grandes quantités d'informations avant de fournir des réponses précises aux questions qui leur sont posées32.
Il s'agit d'informations uniquement textuelles......

Salut et fraternité! Vive la République!

[pm42]

Des annonces comme ça, il y en a plein. Aucune n’a de rapport avec une IA forte. De plus, il est préférable de chercher à savoir en détail ce qu’il y a derrière pour éviter de se laisser griser par le discours marketing.
Celui des chercheurs en IA est beaucoup plus nuancé.

[Bounoume]

Alors, quel est ton point de vue sur cette fameuse 'IA forte' ?

[pm42]

Alors, quel est ton point de vue sur cette fameuse 'IA forte' ?

Mon point de vue n’est pas intéressant : on est sur FS. Ce qui compte c’est l’état de la recherche. Et sur l’IA forte on n’est nulle part.

[Dansteph]

Donc interdiction de t'en mêler! Interdiction de mettre à jour des connaissances.

Ne jamais cesser d'apprendre même hors de son domaine de compétence est une chose éminemment louable.
Mais "se mêler" de quelque chose sans se documenter un minimum n'est pas une bonne approche d'autant plus que ça se voit tout de suite.

Merci quand même pour l'article de Wikipedia.

De rien.

D'autant que ça conforte mes vues:

Ah ?

[ansset]

bonjour Bounoume,
inutile de vous énerver pour tout ça.
quand à cette citation :

En janvier 2018, des modèles d'intelligence artificielle développés par Microsoft et Alibaba réussissent chacun de leur côté à battre les humains dans un test de lecture et de compréhension de l'Université de Stanford. Le traitement du langage naturel imite la compréhension humaine des mots et des phrases et permet maintenant aux modèles d'apprentissage automatique de traiter de grandes quantités d'informations avant de fournir des réponses précises aux questions qui leur sont posées32.
Il s'agit d'informations uniquement textuelles......

Il faut reconnaître que les chercheurs dans ce domaine ont naturellement tendance à grossir souvent le trait de leurs résultats.
d'ailleurs, quels sont ils précisément ? le texte est bien flou.
"battre les humains" : sur quels plans ? combien ? etc....
Il y a surement un article plus complet, qu'il serait utile de parcourir.
cordialement.

[Bounoume]

Bien sûr qu'il y a beaucoup d"effets de manche et de baratin marketing......
Cela veut seulement dire que certains prétendent avoir quelques idées originales......

Si j'ai ouvert ce fil, c'est que je désire avoir des avis pertinents sur les questions.
Mais peut-être justement que, quelle qu'elle soit sa conception technique, une IA forte ne semble pas rentable: donc pas de recherche!
Cependant des experts doivent bien avoir des idées sur sa faisabilité: c'est leurs lumières dont j'aimerais bénéficier!!!!

Question intéressante, quoique hors sujet: les décideurs auraient-ils PEUR d'un outil qui risque de devenir incontrôlable par eux? Peur de dériver vers un mauvais roman de Science Fiction?

[ansset]

je suis loin d'être sur que le "blocage" soit de l'ordre de la rentabilité.

[Dansteph]

Question intéressante, quoique hors sujet: les décideurs auraient-ils PEUR d'un outil qui risque de devenir incontrôlable par eux? Peur de dériver vers un mauvais roman de Science Fiction?

Ceux qui travaillent activement dessus ne craignent certainement pas une réelle intelligence artificielle parce qu'ils savent que ce n'est pas près d'arriver, on en est encore à plusieurs ordres de grandeur malgré certaines annonces triomphantes.
Sinon les problèmes sont ceux posés par l'informatique "conventionnelle". Perte de libertés, contrôle social et économique, résilience et fiabilité des traitements centralisés, perte de communication directe, isolement, etc., etc.

[Bounoume]

Sinon les problèmes sont ceux posés par l'informatique "conventionnelle". Perte de libertés, contrôle social et économique, résilience et fiabilité des traitements centralisés, perte de communication directe, isolement, etc., etc.

J'irais même plus loin:
Les activités humaines -et aussi la pensée humaine- se trouvent de + en + encadrées et structurées par des systèmes informatiques: finalement notre 'intelligence' est outrepassée voire ponctuellement dépassée par ces systèmes.
C' est tout à fait exact et désolant. Tu vois, j'irais jusqu'à dire que nous devenons les otages d'une "Intelligence Artificielle Répartie" omniprésente et insaisissable (et surtout évolutive sans qu'on puisse aucunement la contrôler)
C'est bien pire que d'avoir affaire à une 'machine' très intelligente discrète bien individualisée.......

Ceux qui travaillent activement dessus ne craignent certainement pas une réelle intelligence artificielle parce qu'ils savent que ce n'est pas près d'arriver, on en est encore à plusieurs ordres de grandeur malgré certaines annonces triomphantes.

Qui travaille dessus?
Quelle approche ont-ils?

[ansset]

Les activités humaines -et aussi la pensée humaine- se trouvent de + en + encadrées et structurées par des systèmes informatiques: finalement notre 'intelligence' est outrepassée voire ponctuellement dépassée par ces systèmes.

parfois by-passée certes, ce n'est pas faux

Tu vois, j'irais jusqu'à dire que nous devenons les otages d'une "Intelligence Artificielle Répartie" omniprésente et insaisissable (et surtout évolutive sans qu'on puisse aucunement la contrôler)
C'est bien pire que d'avoir affaire à une 'machine' très intelligente discrète bien individualisée.......

je n'irai pas jusque là, mais dans l'idée , je trouve cela assez juste.
pour autant, même si cela rentre ( dans le langage commun ) sous le terme IA, cela n'a rien de très "intelligent" au sens humain du terme.
ensuite, il faut essayer d'en prendre conscience pour éviter les "manipulations" indirectes.

[Dansteph]

De nombreux travaux ont démontré le rôle essentiel des émotions et des besoins primitif, biologique dans l'intelligence et les prises de décisions.
Les dauphins par exemple ont des cerveaux aussi performants que les nôtres, mais leur "intelligence" est inutilisable, ils ne "pensent" pas comme nous même s'ils ont des émotions et comportements très similaires.

On peut en déduire, que créer une intelligence capable de comprendre intimement les hommes et de dialoguer avec eux reviendrait à créer un cerveau... quasi humain.
Plus puissant, avec une meilleure mémoire, mais fondamentalement humain, avec les mêmes émotions, processus de pensées. Mais aussi distorsions et imperfections.

Et là, je ne vous rejoins pas du tout sur les "bienfaits" d'une telle IA.

Ça ressemble trop au mythe de l'homme "mauvais" et de l'entité unique fondamentalement parfaite et bonne ce qui est une absurdité.
Le "bien commun" est une notion qui n'existe pas, personne n'a les mêmes choix de quel critère maximiser pour lui et son entourage et ces choix sont inconnaissable et changeant par nature.
La force de l'homme c'est sont extrême adaptabilité et sa diversité, l'homme parfait n'existe pas et un monde ou des solutions parfaites non plus.

Quels critères donnerait-on à maximiser à une telle intelligence ? Qui les choisirait les appliquerait ?

Je crois infiniment plus probable, "facile" et avantageux de câbler les hommes. Chacun serait augmenté de systèmes experts, mémoires, base de données, réalité augmentée et réflexes façon "ABS" accrus.
L'IA forte n'est pas prête d'arriver et pas si désirable que ça sur le papier, par contre les interfaçages entre hommes et systèmes progressent à grands pas.

Wikipédia: Interface neuronale directe

[ansset]

Et là, je ne vous rejoins pas du tout sur les "bienfaits" d'une telle IA.

curieux diagnostic, car je ne pense pas avoir vu beaucoup d'interventions allant dans ce sens.
et si même ceci est envisagé avec sérieux à moyen terme.
Cdt

[Dansteph]

curieux diagnostic, car je ne pense pas avoir vu beaucoup d'interventions allant dans ce sens.
et si même ceci est envisagé avec sérieux à moyen terme.
Cdt

Une intelligence qui nous comprendrait assez pour nous être utile aura forcément tous les attributs et limitations donnés par ces attributs.
Sans similarité quasi parfaite avec notre mode de pensée elle ne sera pas "humaine" et ne sera pas franchement plus utile, voire même plus "intelligente" qu'un système expert bien moins complexe et coûteux.

Comment voyez-vous la chose de votre côté, que pourrait-on lui demander et à quoi sa réponse servirait ? (qu'un système expert ne pourrait pas faire j'entends)

Quels critères moraux et idéologiques voulez-vous donner à cette IA ?
Il en existe des centaines, dont une bonne partie parfaitement antinomique, et probablement quelques milliards d'opinions et d'approches différentes les concernant.