C'est exactement ce que je disais : on te fait une objection détaillée, sur de nombreux points et ta réponse est de répéter ce que tu as dis sans évaluation rigoureuse.Envoyé par GBo
Et tu parles des "règles de logique", du "bon sens physique", de l'AGI alors que le sujet est le langage. Donc rien à voir.
Conclusion : les IAs actuelles maitrisent mieux la langue et le raisonnement que toi.
Le sujet est dans le premier post de ce fil, "Qu'est-ce que ces outils promettent ?". Ils promettent l'AGI bien sûr, mais ils ne tiennent pas leurs promesses pour l'instant, crois bien que je le regrette car je suis aussi fan de nouvelles technologies que toi, mais sans doute plus objectif sur l'état de l'art.
Parler de raisonnement ne me semble pas pertinent, au mieux on pourrait parler d'interprétation je pense.
De quoi tu parles ?
On a quelqu'un qui :
- prend 1 seul exemple non documenté et extrapole à tout un domaine
- quand on lui montre que son "expérience" n'est pas reproductible du tout, il l'ignore
- il se met à parler d'autre chose
Ce n'est pas de l'interprétation.
Si tu parles de la capacité des LLMs à tenir certains raisonnements, je te conseille de lire les articles scientifiques sur le sujet.
En maths notamment, elles sont nettement plus performantes que ce qu'on pense. Je te conseille de lire https://aiindex.stanford.edu/wp-cont...eport-2024.pdf qui te donnera une idée de l'état de l'art, des progrès réalisés en 2 ans seulement.
Ou ça : https://deepmind.google/discover/blo...-for-geometry/
P.S : ce qui me gène n'est pas qu'on dise que les IAs sont limitées. Il est évident qu'elles le sont et je le sais d'autant plus que c'est mon métier, que j'en utilise au quotidien.
Non, le problème est que tout le monde donne son avis sans même connaitre l'état de l'art, avoir lu des articles autres que le délire de la presse grand public, connaitre les axes de recherche, etc.
Le pire étant bien sur "j'ai tapé un truc dans Bing, ça n'a pas donné le résultat que je voulais donc c'est bien la preuve des limites des IAs".
Dernière modification par pm42 ; 15/07/2024 à 11h39.
Certains chercheurs du domaine osent pourtant le mot pour les LLM, comme propriété émergeante (non prévue au départ):
https://www.promptingguide.ai/research/llm-reasoning
De mon utilisation intensive de ChatGPT, je confirme qu'on a parfois l'impression que l'IA est capable de raisonnements, hélas dès qu'elle part de travers (et ça arrive bien avant 5 minutes de Q/A sur le même sujet), on s'aperçoit en la questionnant sur son erreur que sa capacité de raisonnement n'est qu'une illusion, elle ne comprend rien à ce qu'elle raconte en fait. Quant à parler de "capacités cognitives" comme si on parlait de corvidés, c'est évidemment un peu prématuré...ou méconnaitre le cerveau biologique.
Les LLMs arrivant à traduire assez bien d'une langue à une autre par contre (à quelques contresens près hélas, de temps en temps), on peut en conclure qu'il n'est pas besoin de comprendre de façon très profonde un texte pour pouvoir le traduire. Et ça c'est assez fascinant (pour moi en tout cas, étant fils de linguiste distingué).
Dernière modification par GBo ; 15/07/2024 à 11h50.
C'était notre chapitre : GBo nous explique pourquoi les chercheurs ont tort. En fait, c'est parce que :
- il n'utilise pas les bonnes IAs
- il ne sait pas comment s'en servir
C'est exactement ce que je disais plus haut : du raisonnement à l'envers.
Historiquement, on considère qu'il est nécessaire de comprendre un texte pour bien le traduire.
Dès qu'un IA le fait, quelle est la conclusion ? Qu'en fait il n'est pas nécessaire de "comprendre".
Et bien sur comme toujours, le concept de "comprendre" n'est jamais défini clairement, on n'a pas de benchmark.
Le "raisonnement" se limite à "humain intelligent, IA bête. Et si IA fait mieux que moi, c'est parce que ce n'est pas de l'intelligence, de la compréhension d'abord".
bien sur, certains peuvent se sentir dévalorisés qu'une f....ue machine parvienne de mieux en mieux à reproduire le fonctionnement de notre si génialissime cerveau d'être unique !
Maaaagnifiiiiique ! tout ça n'a aucune importance..
paradoxalement, dans l'article https://www.promptingguide.ai/research/llm-reasoning, il est décrit des apprentissages commeTo summarize, nothing that I have read, verified, or done gives me any compelling reason to believe that LLMs do reasoning/planning, as normally understood. What they do instead, armed with web-scale training, is a form of universal approximate retrieval, which, as I have argued, can sometimes be mistaken for reasoning capabilities...... des apprentissages qui concourent à guider le déroulement d'un raisonnement explicite (et productif d'une conclusion valide...)Reasoning strategies include prompt engineering, process optimization, and external engines..../.... such as chain-of-thought, problem decomposition, and in-context learning.
est-ce que ça va bien plus loin que le 'transformer' comme évoqué ici http://jalammar.github.io/illustrated-transformer/ ?
Et si possible de l'expliquer un peu, comment ça marche?
D'autant qu'en bout de processus, il est renvoyé un texte qui peut respecter de façon bluffante la forme d'un raisonnement classique.....
Dernière modification par Bounoume ; 15/07/2024 à 23h45.
rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)
Il y a plein de gens sur ce fil qui ont expliqué ce que ne peuvent pas faire les IAs basé sur leur immense expertise. Elle vont pouvoir t'expliquer sans difficulté je pense...... des apprentissages qui concourent à guider le déroulement d'un raisonnement explicite (et productif d'une conclusion valide...)
est-ce que ça va bien plus loin que le 'transformer' comme évoqué ici http://jalammar.github.io/illustrated-transformer/ ?
Et si possible de l'expliquer un peu, comment ça marche?
D'autant qu'en bout de processus, il est renvoyé un texte qui peut respecter de façon bluffante la forme d'un raisonnement classique.....
Bonsoir,
Avec toutes ces innovations, qui certes simplifient la recherche de solutions à des problèmes physiques, type résistance des matériaux, je me demande pourquoi les humains doivent travailler plus.
Certes, je sens parfois sur le forum une demande de calcul de résistance pour fixer un tableau de 10 cm X 10 cm dans un mur en béton armé, a-t-on perdu une once de réflexion et de logique pour poser la question à un ordinateur ?
Vu que les experts du forum ne te répondent pas, je vais essayer...... des apprentissages qui concourent à guider le déroulement d'un raisonnement explicite (et productif d'une conclusion valide...)
est-ce que ça va bien plus loin que le 'transformer' comme évoqué ici http://jalammar.github.io/illustrated-transformer/ ?
Et si possible de l'expliquer un peu, comment ça marche?
D'autant qu'en bout de processus, il est renvoyé un texte qui peut respecter de façon bluffante la forme d'un raisonnement classique.....
La réponse est : cela n'a rien à voir.
Un LLM, c'est plusieurs couches : la 1ère est celle de neurones elle-même, comment ils sont connectés, son architecture bas niveau. Puis celles de ses couches.
Le fait d'être un transformer, c'est comment on structure ces 2 couches là et c'est ce qui permet d'apprendre des textes vite et efficacement en prenant en compte le contexte.
Après, on construit ce qu'on appelle un "foundation model", c'est à dire qu'on entraine le dit réseau sur un gros corpus de données (https://fr.wikipedia.org/wiki/Modèle_de_fondation).
Cela donne une IA très généraliste, parfois au point de ne pas être utilisable telle quelle.
On peut alors la spécialiser soit par un réapprentissage soit en lui donnant un "prompt système", des instructions de base. Celles de GPT-4 sont ici par exemple : https://pastebin.com/qsHEt1QX
On peut aussi le coupler avec d'autres IAs pour filtrer en amont les requêtes interdites (GPT-3.5 fait comme ça). Ou faire plusieurs modèles et les faire causer entre (GPT-4 apparemment).
Les références que tu as données sont encore après ça : ce sont des techniques de prompt pour aider les LLMs à faire des raisonnements.
Et c'est logique : quand tu poses une question à un humain, à moins que ce soit un spécialiste du sujet et que ta question soit très bien posée, il peut te donner une réponse non pertinente voire fausse.
C'est d'ailleurs le problème de tous les gens qui confondent IA et oracle et nous disent "j'ai demandé ça et je n'ai pas eu la réponse que je voulais donc ça ne marche pas". Cela aurait pu marcher s'ils avaient fait l'effort d'expliquer mieux ce qu'ils voulaient.
Donc les techniques en question consiste à demander explicitement à l'IA de construire une solution étape par étape, ou de lui donner des exemples.
On a constaté qu'en utilisant ces techniques qui sont relativement simples, la capacité de raisonnement des LLMs est massivement améliorée. On peut par exemple leur faire résoudre des sudoku ou des mots croisés de petite taille.
ça fait que girlfriend? pas de boyfriend?
il suffit de changer la voix (ou pas)mais je pense que comme souvent, c'est la gente masculine qui est majoritaire ciblée en premier lieu, car sans doute les 1ers à y adhérer plus facilement.
Et oui, même dans les IA (pas dans toutes), il y a du "sexisme", voire du "racisme" à cause des biais des données d'entrainement, qui vont avoir tendance à favoriser, accentuer les stéréotypes de la société
https://information.tv5monde.com/ter...-mieux-2686558 (qui est surtout sur le côté sexiste)
https://news.un.org/fr/story/2024/03/1143812
Mais heureusement, ça tend à bouger (lentement cependant)
J'ai failli arrêté à "Comment l'IA aurait-elle pu échapper au patriarcat ?".
Mais en fait, j'aurais raté cette grande rigolade : "La solution pour que l'IA soit moins "sexiste", ce serait qu'il y ait plus de femmes derrière ses algorithmes ?
On s'en sortirait mieux s'il y avait plus de femmes ! Mais n'importe quelle forme de diversité, en général, améliore la qualité de la solution"
Parce que c'est de la pure affirmation gratuite et surtout, ça n'a pas d'impact. Les biais viennent des données d'entrainement qui elles mêmes reflètent ce que produit la société. Pas des personnes qui bossent dans les boites qui entrainent les IAs.
Il faut vraiment ne rien y connaitre pour sortir ce genre d'énormités.
Sans même parler que naturellement, c'est utilisé pour parler de l'IA. Alors qu'en fait, il suffit d'aller dans n'importe quel kiosque de presse et de regarder la presse féminine pour voir le "sexisme" : ça parle de fringues, maquillage, etc
Une autre question légitime est de savoir si c'est à une technologie de régler des problèmes sociaux et surtout si elle doit se conformer à des normes qui sont occidentales et pire, minoritaires dans les pays occidentaux.
D'autant que quand on essaie de faire ça, on arrive à des résultats délirants :
https://www.latribune.fr/technos-med...ia-991190.html
A mon avis, les biais des données d'entrainement sont en partie dû aux stéréotypes que les développeurs ont (sans forcément que ce soit intentionnel de leur part) et c'est en introduisant des femmes ou d'autres ethnies dans le milieu qu'ils vont ajouter "naturellement" leurs propres stéréotypes aux données d'entrainement.
La technologie ne va pas régler les problèmes sociaux, elle les reproduit, et les remet aussi en lumière; en corrigeant d'un côté, ça aura tendance à corriger l'autre côté. Le problème étant comme ton article le montre, de bien doser les choses (après, à mon sens, un générateur d'images n'est obligatoirement tenu de respecter la réalité historique non plus, tout comme les films ou les jeux; ça reste des "créations")
Le problème, c'est que dès que tu dis ça, on comprend que tu n'as aucune idée de comment ça fonctionne.
Déjà, il n'y a pas de développeurs au sens classique.
Ensuite, les données, c'est "on prend tout Wikipedia". Je veux bien que tu m'expliques en quoi le fait que ce soit un homme ou une femme qui fait cela a un impact.
Affirmation gratuite qui ignore la reproduction des biais dans les populations humaines.
Bref il faut éviter les biais mais faire des nazis noirs n'est pas un problème... J'ai comme un doute.
Oui j'ignore dans le détail comme ça fonctionne mais j'avais en tête un exemple sur la reconnaissance faciale https://www.lemonde.fr/pixels/articl...3_4408996.html
un autre article intéressant https://www.ellisphere.com/les-biais-caches-de-lia/
Ici, je voulais dire qu'en corrigeant dans la populations humaines, ça devrait corriger dans le côté technologie (mais ça se fait par des va-et-vient entre les 2 univers (et avec d'autres univers également)Affirmation gratuite qui ignore la reproduction des biais dans les populations humaines.
Quand l'IA est dans une utilisation si je peux dire "administrative", "sociétale", ... , autres que artistiques; les biais vont affecter des décisions qui touchent à l'humain (assurance, emploi, médecine, ....) donc dans ces utilisations, il faut supprimer les biais oui.Bref il faut éviter les biais mais faire des nazis noirs n'est pas un problème... J'ai comme un doute.
Quand l'IA est de type artistique, rien n'empêcherait, selon moi, de pouvoir générer des nazis noirs (pour reprendre l'exemple) pour alimenter un monde alternatif par exemple (ne pas autoriser que cela soit possible peut aussi vu comme un biais: pourquoi un nazi devrait forcément blanc); mais ça n'empêche également de veiller à ce que l'utilisation ne soit pas détourner à d'autres fins. On pourrait interdire, empêcher (limiter) que l'IA puisse le faire, mais un humain pourra malgré tout le faire lui même.
Bref, les IA sont des outils qui devraient être le plus neutre possible (selon l'objectif de l'IA), et l'humain doit avoir le dernier mot quand ça a un impact fort sur la vie d'autrui (pour paraphrase l'analogier avec le marteau de Luc Julia)
En général, je ne recommande pas les articles des journaux grand public même Le Monde.
Mais là, ils disent bien justement que le problème vient des bases de données.
Et contrairement à ce qu'ils pensent, le problème ne vient pas des personnels dans les entreprises d'IA mais de ce qui est disponible.
Il est difficile d'avoir des bases de données massives et dans beaucoup de domaines, on fait avec ce qu'on trouve.
Pour la reconnaissance faciale, on va effectivement trouver une surreprésentations des hommes blancs aux USA pour différentes raisons.
Tu aurais une boite d'IA composée uniquement de femmes noires, elles auraient le même problème : comment trouver de la donnée.
Même là, c'est très compliqué. Par exemple, tu entraines une IA en radio. Il te faut donc plein d'exemples radio+analyse. Mais avec les règles occidentales sur la protection des données médicales, c'est difficile même anonymisées.
Donc tu vas chercher des données en Inde où c'est plus facile. Sauf que la morphologie moyenne et les pathologies ou au moins leur fréquence sont différentes. Ce qui fait que ton IA d'assistance au radiologue n'est pas aussi performante quand on l'utilise ici.
Ce que je veux dire, c'est qu'il y a des biais partout par définition. Mais que les médias sont actuellement obsédés par les biais raciaux et de genre au point d'en trouver partout et d'en faire un scandale même quand comme ici on ne sait pas quels sont les impacts.
Un autre exemple : il y a longtemps, j'avais vu un test qui montrait qu'on avait du mal à reconnaitre les hommes noirs (si on est blanc).
Et qui expliquait qu'on est en fait inconsciemment raciste.
Sauf qu'en réalité, ça marche pour tous les groupes : les asiatiques ont du mal avec nous, les africains noirs avec les blancs, etc.
Ce n'est pas du racisme ou un biais : simplement notre réseau de neurone qui s'est optimisé pour l'environnement dans lequel il a grandi.
Pour le fun (ou pas), je suis tombé ce week-end sur cette vidéo https://www.youtube.com/watch?v=Lf6QMsdSn_4
Le minimum serait d'en faire un mini résumé.
Jeter un lien youtube à sec en pâture, ca devrait être interdit.
Jusqu'ici tout va bien...
c'est vrai désolé, j'ai trop l'habitude que la vignette s'affiche en fait
Donc pour résumé, c'est un speed dating de 10 youtubeurs avec le gynoïde (robot d'apparence féminine) Sophia (https://fr.wikipedia.org/wiki/Sophia_(robot)) connue pour avoir été faite citoyenne de l'Arabie Saoudite en 2017, et utilisant l'IA d'après son constructeur.
PS: la vidéo est en anglais/américain, et en activant les sous-titres anglais ça peut aider la compréhension si nécessaire
Salut,
Qu'appelez vous intelligence artificielle ? vous ne confondriez pas avec instruction ?
Je vous donne un exemple: les drones sont capable de beaucoup de choses, ils ont énormément d'instructions mais pas d'intelligence !
S'ils étaient intelligents ils diraient " tu m'envoies au casse pipe! vas y toi même !!! jurons "
Le savoir des uns peut faire le bonheur des autres
je comprends la fascination pour les IA-girlfriends, mais je pense qu'il est crucial de se rappeler que rien ne remplace les vraies relations humaines. Une vraie petite amie offre une connexion émotionnelle authentique, des moments partagés et une compréhension mutuelle que les IA ne peuvent pas offrir. Les échanges humains sont empreints de spontanéité, de nuances et de profondeur, des éléments que l'IA, même la plus avancée, ne pourra jamais réellement reproduire. Les relations humaines sont fondées sur la complexité des émotions et des interactions qui vont bien au-delà de ce que les outils technologiques peuvent atteindre.
Le futur des relations humaines restera ancré dans cette richesse de l'expérience partagée, même si la technologie continue d'évoluer.
je n'en serais pas si sur, l'être humain est le roi des faussaires
Maaaagnifiiiiique ! tout ça n'a aucune importance..
Salut,
Voilà une chose que Instruction Artificielle ne fera pas !! elle se trompera !l'être humain est le roi des faussaires
Le savoir des uns peut faire le bonheur des autres
Outre le fait que ce genre de discours comme celui auquel il répond est très peu clair, c'est faux pour pratiquement toutes les interprétations qu'on peut en donner.
Les déclarations à l'emporte-pièce sans aucune référence et sans aucune connaissance du domaine ne prouvent qu'une chose : les IAs actuelles pour limitées qu'elles soient sont largement devant certains humains et pourraient tenir un discours autrement plus précis, argumenté et étayé par des liens vers des articles sérieux.
ou imiter la voix d'une personnalité et bientôt (si ce n'est déjà fait) produire des images et vidéos tellement vrai qu'il sera difficile de les réfuter..
Maaaagnifiiiiique ! tout ça n'a aucune importance..
Re,
ça ce n'est pas de l'intelligence, c'est de la programmation de logiciel: on prend des bribes on les met à la queue leu leu selon un ordre bien défini et cela épate !!! c'est instruire mais de source intelligenteou imiter la voix d'une personnalité et bientôt (si ce n'est déjà fait) produire des images et vidéos tellement vrai qu'il sera difficile de les réfuter..
Le savoir des uns peut faire le bonheur des autres
Déjà il faudrait définir "intelligence". On est dans le classique de l'emploi de ce concept de façon quasi mystique pour se rassurer.
Mais clairement ce n'est pas de raconter n'importe quoi parce que justement l'IA n'est pas du tout de la programmation de logiciel.
Le reste est à l'avenant : une ignorance complète de comment l'IA est implémentée, de ce qu'elle fait et de ses performances en se contentant de répéter son ignorance sans avoir jamais lu un article sérieux sur le sujet.
Re,
C'est vrai que je n'ai jamais lu de tels articles, ce que je voudrais que tu comprennes qu'entre une intelligence humaine capable d'inventer, de créer et une IA il y a une différence que l'IA ne saura jamais, exemple qu'elle sorte un vaccin contre le cancer, elle pourra le faire lorsqu'on lui aura donné toutes les indications, elle sera capable d'additionner toutes les données apprises et ça en un temps record !!sans avoir jamais lu un article sérieux sur le sujet.
Le savoir des uns peut faire le bonheur des autres
