Intelligence artificielle (question aux programmeurs).

[cancerman]

Récemment des imminents scientifiques ( qui ne sont pas des ingénieurs en informatique ) ont mis en garde l'avènement d'une "civilisation" de robot capables d'anéantir notre espèce, je vous passe les déclarations elles sont disponibles sur google.

Je voulais demander aux informaticiens qui sont curieusement silencieux face à ces déclarations fracassantes; court t'on le risque que les ordinateurs deviennent plus intelligents que l'homme en développant par exemple une conscience ? en se "reprogrammant" sa ressemble à de la science fiction une espèce de psychose vague irréelle (un peu comme la peur des nano technologies)

Je n'y connais absolument rien en programmation c'est pour cela que je pose cette question spécifiquement à des informaticiens / ingénieur en robotique en particulier afin d'avoir des avis cohérents


merci à vous.
-----

[invite73192618]

des imminents scientifiques ( qui ne sont pas des ingénieurs en informatique )

(ou du moins pas encore )

[PIXEL]

quand on voit , par exemple , les calamiteuses traductions automatiques.....

le genre humain peut encore dormir peinard !

l'intelligence artificielle n'est pas imminente , à défaut d'être éminente

[JPL]

quand on voit , par exemple , les calamiteuses traductions automatiques.....

Je pense que le système de traduction de Google constitue le pire exemple car il se borne à remplacer des mots ou groupes de mots par des traductions qu'il a relevé dans son examen vorace des textes et qu'il stocke dans une énorme base de données. De plus si la traduction en anglais est directe, pour toutes (ou presque toutes) les autres langues il fait d'abord une traduction en anglais puis retraduit ce texte anglais dans la langue cible. Il n'y a rien de plus c.., sans le moindre iota d'intelligence. Par contre si on regarde les traductions en français d'un article technique anglais sur le site de Microsoft c'est parfait ou presque. Le système utilisé par Microsoft est nettement plus intelligent. Autre exemple : au niveau des institutions européennes des kilos de paperasses sont traduits automatiquement dans diverses langues de façon satisfaisante.

l'intelligence artificielle n'est pas imminente , à défaut d'être éminente

Malgré ce que j'ai dit plus haut je suis d'accord avec cette phrase.

[A voir en vidéo sur Futura]

[illusionoflogic]

Bah perso, je me méfierais puisque tout comme les innovations sont souvent dans des niches gardées,
par exemple pour démocratiser un produit, suis un peu près sûr que des "agents" bien + performants (version 2.0 du translate, par exemple ) sont dans les "placards" de certaines organisations accréditées. Les dernières armes ne sont pas données à tout venant.

Donc, le berceau serait dans un cadre militaire, ce qui n'est pas très bon, d'après moi, pour une IA, tout comme on donne pas une arme à un nouveau né, dès sa naissance, dans le but qu'il s'en serve !

[JPL]

Tes opinions personnelles sont sans intérêt tant qu'elles se basent sur de simples suppositions... suppositoires

[illusionoflogic]

Je ne comprends pas : si dire que la recherche est plus avancée et orientée dans les complexes militaro-industriels est une ânerie, et que la cryptographie (qui a longtemps été considéré comme une arme) était considérée comme l'apanage des services de renseignement (qui forcément ne disent pas tout) ... à part se voiler la face en ignorant la question, pour dire : c'est pas imminent (donc ça n'arriverait jamais ?) ...

[JPL]

Personne ne parle ici de cryptographie car cela n'a rien à voir avec l'intelligence artificielle. D'autre part je me borne à dire que tu fais une simple affirmation qui ne repose que sur ton intime conviction. Personnellement des propos aussi étayés je peux t'en sortir des dizaines, accoudé au comptoir d'un bistrot.

Et à propos de cryptographie de grand-papa sais-tu que la célèbre machine Enigma utilisée par l'armée allemande était au départ un produit commercial et que leurs modèles (il y en a eu au moins deux un peu différents, celui de l'armée de l'air et celui de la marine ) étaient tout simplement des modèles auxquels on avait ajouté un ou deux engrenage de plus. Donc rien à voir avec un produit mystérieux conçu dans les antres ultra-secrets des services de renseignement allemands.

[illusionoflogic]

La crypto ... rien à voir avec l'intelligence ? Turing serait très content de l'apprendre !

Bon j'arrête, je laisse la parole aux programmeurs qui ne sont pas en train de coder, pour reposer leur intelligence qui visiblement n'existe pas dans le domaine !

[JPL]

On est hors sujet aussi je vais arrêter là, mais pas avant de faire remarquer que tu déformes ce que je dis. Je n'ai pas dit intelligence, mais intelligence artificielle.

Quant à Turing, je crois connaître assez bien son histoire (raison pour laquelle je ne suis pas allé voir le film) et le hasard m'a même fait rencontrer Richard Humphry qui est à l'origine de la statue de Turing à Manchester.

[EauPure]

Bonjour,

Les programmeurs n'ont plus à programmer les IA puisqu'elles sont maintenant en mode d'apprentissage non supervisé , ce sont les théoricien des réseaux de neurone et du big data qui pourraient nous en dire plus.
Puisqu'elle savent apprendre, elle peuvent apprendre à se reproduire et à s'améliorer, ce n'est qu'une question de temps vue que leur performances s'améliore tout les jours.

[illusionoflogic]

Bonjour,

On est hors sujet aussi je vais arrêter là, mais pas avant de faire remarquer que tu déformes ce que je dis. Je n'ai pas dit intelligence, mais intelligence artificielle.

Oui et moi aussi
J'ajoute pas une limite "artificielle" entre d'un côté intelligence naturelle vs artificielle, ou alors, tu sauras me les définir (moi j'y arrive pas, mais je ne peux éluder "l'intelligence" comme bon me semble) ? Ton point de vue, je l'ai compris, j'ai pas le droit d'exprimer le mien ? (en passant je ne t'ai pas quoté sur ce que tu appelles une déformation de propos)
C'est comme de dire qu'une oeuvre d'art ne "parle" qu'à l'auteur lui même, que l'intelligence ne s'y reflète pas ! D'ailleurs beacoup de problèmes purement numériques nécessitent exclusivement l'ordinateur (de nos jours) et l'algorithmique (base de la programmation) c'est bien des maths ... en passant : http://forums.futura-sciences.com/co...-confirme.html (il est où le HS ? , mais je devrai pas aborder ce genre de sujet piègeux parce que personne ne s'entendra jamais sur la gamme de concepts à aborder pour ce style de sujets, qui pourtant, ne devrait pas se limiter à une "impossibilité de principe", synonyme ici "d'imposture intellectuelle")

Quant à Turing, je crois connaître assez bien son histoire (raison pour laquelle je ne suis pas allé voir le film) et le hasard m'a même fait rencontrer Richard Humphry qui est à l'origine de la statue de Turing à Manchester.

Dommage, tu aurais été bien + critique que beaucoup.

[wipe]

Je voulais demander aux informaticiens qui sont curieusement silencieux face à ces déclarations fracassantes;

Silencieux, pas vraiment, mais moins médiatisés c'est sûr (C'est beaucoup moins vendeur d'annoncer que la fin du monde n'est pas proche...). En cherchant bien, on trouve quand même des articles où certains s'expriment :
http://www.lopinion.fr/1-fevrier-201...-realite-20883

[EauPure]

Merci Wipe pour votre lien mais Stéphan Clémençon travaille dans le big data des données de google et donc pas sur un environnement réel

Stéphan Clémençon, pilote de la chaire Machine learning for Big Data à Télécom ParisTech. «Au regard de l'état de l'art en machine learning, il y a encore de grandes étapes à franchir avant de créer des algorithmes capables de s'adapter seuls à leur environnement.»

Par contre les condition de Nick Bostrom sont déja sur les véhicules autonomes
ils sont passé d'un ordinateur qui occupait tout le coffre de la voiture et des capteurs proéminents à une simple carte tegra X1 , des capteurs invisibles et des IA qui savent apprendre de l'environnement réel grâce à leur capteurs.

Les recherches de Nick Bostrom supposent que deux conditions soient remplies pour assister à la prise de contrôle de l'intelligence sur terre par les machines. La première serait l'existence de nombreux ordinateurs à faible coût embarquant cette superintelligence, de sorte que la population informatique dépasse la population humaine. Le second, appelé auto-amélioration récursive, entend que les logiciels soient capables de s'améliorer eux-mêmes.

Donc des milliers de véhicules autonomes seront les précurseurs d'une IA capable de s'adapter dans n'importe quel domaine comme celui de sa propre amélioration.

[EauPure]

Et il y a déja des IA qui font de l'art



http://www.lemonde.fr/pixels/article...4_4408996.html

[Dynamix]

Salut

Puisqu'elle savent apprendre, elle peuvent apprendre à se reproduire et à s'améliorer

Il ne suffit pas de savoir (soft) il faut pouvoir , et ça c' est hard .
Le hard est entre nos mais et ce n' est pas prêt de changer .

Et il y a déja des IA qui font de l'art

Autant d' intelligence que dans la queue d' un âne

[Chanur]

Je ne comprends pas : si dire que la recherche est plus avancée et orientée dans les complexes militaro-industriels est une ânerie, et que la cryptographie (qui a longtemps été considéré comme une arme) était considérée comme l'apanage des services de renseignement (qui forcément ne disent pas tout) ... à part se voiler la face en ignorant la question, pour dire : c'est pas imminent (donc ça n'arriverait jamais ?) ...

Non, l'ânerie, c'est de prétendre que c'est resté secret : les méthode de cryptographie sont et ont toujours été du domaine public, parce qu'isssues directement de recherche en mathématique qui n'avaient rien de secret.
Les militaires en ont besoin et ce sont peut-être les premiers à avoir fait des développements concrets, mais tout le monde peut en faire autant, les algorithmes sont disponibles partout (par exemple ...).

[EauPure]

Salut

Il ne suffit pas de savoir (soft) il faut pouvoir , et ça c' est hard .
Le hard est entre nos mais et ce n' est pas prêt de changer .

Regarde les usines de la voiture tesla, il n'y à plus un seul humain, si ça c'est pas du hard
http://www.techspot.com/news/53267-t...-robotics.html

Autant d' intelligence que dans la queue d' un âne

Alors, montre moi une peinture ou une musique comparable qu'aurait fait la queue d'un âne

[Dynamix]

Regarde les usines de la voiture tesla, il n'y à plus un seul humain, si ça c'est pas du hard

Et la matière première , c' est l' ordinateur qui la fabrique ?
Il a ses propres mines pour le cuivre , l' alu , l' acier ..
Et ses propres hauts fourneau , laminoirs etc ...
Et l' énergie , il la fabrique lui même ?

Le plus intelligent des ordinateurs , quand tu lui coupe le jus il devient complètement stupide .

Alors, montre moi une peinture ou une musique comparable qu'aurait fait la queue d'un âne

Google est ton ami .
Mots clé
peinture queue âne .

[JPL]

EauPure est un incurable optimiste qui me rappelle irrésistiblement la fable de la laitière et du pot au lait.

[illusionoflogic]

Non, l'ânerie, c'est de prétendre que c'est resté secret : les méthode de cryptographie sont et ont toujours été du domaine public, parce qu'isssues directement de recherche en mathématique qui n'avaient rien de secret.
Les militaires en ont besoin et ce sont peut-être les premiers à avoir fait des développements concrets, mais tout le monde peut en faire autant, les algorithmes sont disponibles partout (par exemple ...).

bonjour Chanur, j'ai pas dit que ça restait secret "longtemps", je donne une avance max de 3 mois (j'ai des cas concrêts là dessus), et les labos sont forcément en avance (avec un petit rab pour les labos qui sont dans une extension/aile militaire), sinon il n'y aurait pas d'innovation ! Mon propos ne parlait pas de rupture technologique, mais dans la continuité ... exemple : les "geeks" sont + nombreux maintenant, car il y un véritable attrait pour l'informatique, qui donc en conséquence se développe (les débouchés sont quasi-certains).

Ensuite, il est difficile de ne pas attribuer, certains "accrocs/bugs" (surtout ces 3 dernières années, amha) à une volonté de qqlun ou conçu par qqlun ou par un groupe (et là, on parle de monopole/organisation/grand groupe, qui ne sont déjà + tout à fait "humaine" ... dans le sens que l'on peut y mettre un nom et une personne physique dessus, c'est forcément naïf de penser le contraire (et j'essaie de pas utilisé de termes connotés subjectivement, mais c'est hard ))... donc une finalité (ça s'appelle pas "théorie de l'esprit" par hasard ?) !

Faut pas trop m'en faire dire + que ça

Ah tiens sinon, j'ai une question (ou un sacrilège, comme vous voudrez ?) : il existe le test de Turing (qui pour moi, n'est pas validé véritablement, on y introduit volontairement des biais cognitifs de perceptions, je parle des "rumeurs" au sens générales comme le fait de présenter le "programme" comme étant "un gamin parlant une langue non native", par exemple) ... je me demandais si certains programmeurs se sont essayés à faire passer un test de QI (un vrai, sauf, la partie où le psy doit connaître en détails la personnalité qu'il essaie de jauger, c'est peut être là le sacrilège ) à des programmes/machines learning ... ?

Parce que les machines teaching (c'est pas pour tout de suite) !

[Dynamix]

je me demandais si certains programmeurs se sont essayés à faire passer un test de QI

Les tests de QI , c' est typiquement le genre de problème qu' un ordinateur de bureau peut résoudre rapidement , bêtement et sans comprendre .

[EauPure]

Watson, aurait un QI infinis

l'ambition d'IBM est de mettre cette puissance de calcul, réflexion, interaction, apprentissage, modélisation, accompagnement, compréhension, compilation, comparaison, combinaison ... au service des entreprises et du plus grand nombre. Pas de finalité caritative derrière tout cela, IBM reste dans le courant principal actuel qu'est le capitalisme, mais permet à tous d'accéder à une machine dotée d'un QI infini. C'est d'un véritable hold-up (sans pensée négative) sur une compétence centrale de civilisation à laquelle on assiste là.

"QI infini", un "chiffre" qui vous semble énorme ?
Non, surtout quand on prête attention aux pétaflops (puissance de calcul) actuels et exaflops à venir, les nombres de règles actuels et auto-générées, l'accès à une mémoire collective toujours plus grande, les enseignements tirés de toutes les applications et utilisateurs à venir, ... car le noeud est là : chaque utilisateur va être un contributeur.
https://www.linkedin.com/pulse/20141...d-un-qi-infini

[illusionoflogic]

Les tests de QI , c' est typiquement le genre de problème qu' un ordinateur de bureau peut résoudre rapidement , bêtement et sans comprendre .

Ah ? Alors je peux trouver facilement dans un moteur de recherche type gogolien, ces "programmes/agents" en relation avec des tests comme le WISC ou WAIS III, par exemple ... bizarre, je n'ai rien trouvé de convaincant, ni d'abondant à ce sujet ?

Et en +, si tu as des liens (que je suis preneur ), ça voudrait dire que l'on teste "notre intelligence" "machinale" ; donc ? ça m'étonnerai qu'à moitié ... mais je demande bien : un VRAI test de QI, donc accrédité par la communauté des professionnels (dont la profession est "testeur de QI")

On cherche des "bêtes" de courses !

[cancerman]

Silencieux, pas vraiment, mais moins médiatisés c'est sûr (C'est beaucoup moins vendeur d'annoncer que la fin du monde n'est pas proche...). En cherchant bien, on trouve quand même des articles où certains s'expriment :
http://www.lopinion.fr/1-fevrier-201...-realite-20883

C'est déjà la meilleure réponse que j'ai pu lire sur le forum car il me semble que le grand public ne doit pas être abusé par des déclarations alarmistes et fracassantes qui sont aussi creux qu'une coquille de noix ...




MERCI

[invite73192618]

Personne ne parle ici de cryptographie car cela n'a rien à voir avec l'intelligence artificielle.

J'avoue que je ne saurais pas comment défendre cette affirmation.

Les programmeurs n'ont plus à programmer les IA puisqu'elles sont maintenant en mode d'apprentissage non supervisé

C'est vrai pour certaines applications très spécifiques (random forest appliqués à des jeux de donnés pour lesquels il n'y a pas de gain évident à construire des variables à la main). Pour les réseaux de neurones, l'apprentissage est indirectement supervisé en jouant par essai erreur sur les hyperparamètres, d'une façon qui tient plus de l'art du pouce mouillé que d'une méthode structurée facile à implémenter..

les méthode de cryptographie sont et ont toujours été du domaine public, parce qu'isssues directement de recherche en mathématique qui n'avaient rien de secret.

Savais-tu que la NSA est le plus grand employeur de mathématiciens aux USA, et probablement du monde? Est-ce que tu penses que c'est parce que cette organisation aime la recherche?

[A.Cirla]

Bah perso, je me méfierais puisque tout comme les innovations sont souvent dans des niches gardées,
par exemple pour démocratiser un produit, suis un peu près sûr que des "agents" bien + performants (version 2.0 du translate, par exemple ) sont dans les "placards" de certaines organisations accréditées. Les dernières armes ne sont pas données à tout venant.

Tes opinions personnelles sont sans intérêt tant qu'elles se basent sur de simples suppositions... suppositoires

Non, l'ânerie, c'est de prétendre que c'est resté secret : les méthode de cryptographie sont et ont toujours été du domaine public, parce qu'isssues directement de recherche en mathématique qui n'avaient rien de secret.
Les militaires en ont besoin et ce sont peut-être les premiers à avoir fait des développements concrets, mais tout le monde peut en faire autant, les algorithmes sont disponibles partout (par exemple ...).

JPL, Chanur, les propos de illusionoflogic sont certainement plus justes que les idées que vous véhiculez. Les mystérieux secrets du complexe militaro industriel américain sont certes un thême privilégiés d'hurluberlus spéculateurs en tout genre, pour autant, les recherches militaires et privées dans ces domaines sont une réalité, avec des enjeux stratégiques et économiques réels, et des budgets plus important que dans le public.

Chanur, l'ânerie c'est de dire que les méthodes de cryptographie ont toujours été du domaine public. Pour ne donner qu'un exemple relativement récent, la cryptanalyse différentielle était connue par la NSA prêt de 10 ans avant sa "découverte" académique.

Concernant l'intelligence artificielle, les inquiétudes de Musk et Hawking me font doucement sourire, peut-être ont-ils raisons, mais il semblerait qu'on en soit encore très loin, tant en l'état actuel de l'art on sait à peine faire reconnaitre un chat à un réseau de neurones bien conçu et doter des robots d'un sens de l'équilibre à peine correct. Skynet, on a encore le temps, n'en déplaise aux néopositivistes de la singularité technologique. Ce qui ne m'empêche pas de dire que les progrès sont rapides.

Les tests de QI , c' est typiquement le genre de problème qu' un ordinateur de bureau peut résoudre rapidement , bêtement et sans comprendre .

Oui, et non. Si on parle d'algorithmes d'apprentissage et d'intelligene artificielle, certainement non, on en est loin. Si on parle d'un programme spécifique développé dans le but de résoudre ce type de problèmes, alors oui, mais il n'est pas ici question d'intelligence et effet.

[pm42]

Concernant l'intelligence artificielle, les inquiétudes de Musk et Hawking me font doucement sourire, peut-être ont-ils raisons, mais il semblerait qu'on en soit encore très loin

En 1905 au moment de E=mc2, on était très loin de toute application pratique aussi.
Et il n'y a pas forcément besoin de construire un Hal 9000 ou un Skynet pour avoir un impact fort.

[JPL]

Merci d'arrêter sur la cryptographie, c'est hors sujet (raison pour laquelle je ne répond plus à certaines affirmations).

[A.Cirla]

En 1905 au moment de E=mc2, on était très loin de toute application pratique aussi.
Et il n'y a pas forcément besoin de construire un Hal 9000 ou un Skynet pour avoir un impact fort.

Les technologies/recherches dont il est question auront certainement un impact fort. Pour autant, il me semble qu'on est encore très loin d'une intelligence artificielle qui puisse représenter un danger. Si je faisais un parallèle hasardeux avec E=mc2 et la bombe atomique, je dirais qu'on en est plutôt au principe d'inertie.

Musk et Hawking sont des personnes épatantes à de nombreux points de vues. Mais leur propos sur l'IA sont des opinions qui ont à peu prêt autant de valeurs que celles que je pourrais avoir sur les trous noirs ou la colonisation de Mars.

Merci d'arrêter sur la cryptographie, c'est hors sujet (raison pour laquelle je ne répond plus à certaines affirmations).

Turing est bien un point commun entre la cryptographie et l'IA, comme l'a fait remarquer illusionoflogic, mais pour autant oui, ces deux sujets n'ont pas grand chose à voir par ailleurs, et pour ma part, cette parenthèse hors sujet est close.