Elon Musk.... IA forte, robots....

[pm42]

L'investissement d'Elon Musk n'est donc pas totalement hasardeux vu qu'il pourrait à tout moment se lancer dans une activité lucrative.
Un jour on fait du LLM et hop surprise le jour d'après on fait de la cryptomonnaie.
Il pourrait même devenir leader du marché ?
Après, c'est juste un reflexion comme ça, je ne suis pas dans sa tête.

Ce n'est pas de la réflexion, juste de la théorie du complot de quelqu'un qui comme à chaque fois ne connait rien au sujet mais explique qu'il sait ce qui va marcher ou pas et qui quiconque pense le contraire est un illuminé parce que ses seuls arguments sont de crier en bleu comme plus haut ou de l'insulte.

A titre indicatif, le marché de l'IA pesait déjà dans les 200 milliards l'an dernier, sera sans doute proche de 300 cette année et les évaluations sont entre 1000 et 2000 milliards en 2030.
Une ferme de GPU de 10 milliards n'est pas spécialement un investissement hors norme dans le domaine : Meta en possède déjà pour cette valeur là et ce n'est pas pour miner des cryptos.
-----

[Liet Kynes]

Colossus ne peut-il pas servir à entrainer d'autres types d'IA que les LLM ? Perso si j'avais ces moyens je ne focaliserai pas que sur la génération de texte.

[pm42]

Colossus ne peut-il pas servir à entrainer d'autres types d'IA que les LLM ? Perso si j'avais ces moyens je ne focaliserai pas que sur la génération de texte.

Oui, on peut bien sur entrainer n'importe qu'elle IA en gros sur ce genre de machine mais très peu nécessitent cette puissance hors LLM.
Sinon, la génération de texte et tout ce qui va avec est probablement ce qui a le plus gros potentiel économique parce qu'en fait, on essaie de passer au cran d'après : augmenter les capacités de raisonnement (voir O1 et Qwen/QwQ et https://venturebeat.com/ai/alibaba-r...ts-o1-preview/) donc de faire des LRM (Large Reasoning Model) puis des assistants tout en continuant à aller vers l'IA forte.

Mais les assistants quand il seront plus efficace qu'actuellement (30% de taux de réussite et très lents en gros) ont un potentiel énorme : donner à chacun un "secrétaire particulier" intelligent, infatiguable, toujours disponible, parlant toutes les langues...

Et au delà de l'usage personnel, on envisage de faire tourner une part importante des activités d'une entreprise comme ça. OpenAI a un pari sur l'apparition d'une licorne, i.e. une startup valorisée à plus de 1 milliard avec un seul humain : https://fortune.com/2024/02/04/sam-a...-founder-myth/

Les gens qui travaillent dans le domaine de l'IA et prennent ce genre de décision peuvent se tromper mais globalement, pas mal d'entre eux sont intelligents, très bien formés, expérimentés et avec accès à beaucoup d'informations.
Il se passe simplement la même chose que ce qui s'est passé avec les ordinateurs personnels, Internet et les smartphones (et sans doute souvent ailleurs y compris hors informatique ou même technologie) : leur vision du futur de leur domaine est nettement plus riche et informée que ce que la presse grand public raconte.
Et à des années lumières de ce qu'en restituent ici parfois ceux qui se contentent de lire la dite presse sans la comprendre ni aller à la source.

[Cromagnon]

leur vision du futur de leur domaine est nettement plus riche et informée que ce que la presse grand public raconte.
Et à des années lumières de ce qu'en restituent ici parfois ceux qui se contentent de lire la dite presse sans la comprendre ni aller à la source.

... nous explique celui qui se contente de nous fournir un lien vers un site grand public.

Voici un lien un peu plus sérieux.
LLMs Still Can't Plan; Can LRMs? A Preliminary Evaluation of OpenAI's o1 on PlanBench


https://arxiv.org/abs/2409.13373

[pm42]

... nous explique celui qui se contente de nous fournir un lien vers un site grand public.

Vu qu'à ma connaissance personne ici n'est spécialiste du domaine, les articles scientifiques ne servent pas à grand chose en citation.
Mais au fait, la remarque s'appliquait à toi qui passe son temps à nous raconter n'importe quoi sur le sujet et à ne pas comprendre ce que tu cites.

https://arxiv.org/abs/2409.13373

Et ce lien est un exemple parce que tu as fait le truc du troll : une recherche vite fait pour sortir un truc sans l'avoir lu.
Sinon, tu te serais rendu compte que cela dit exactement l'inverse de ce que tu as crié en bleu dans le fil plus haut et illustre mon propos. Et encore plus si on sait qu'O1 n'est pas considéré vraiment comme un modèle capable de raisonner par son créateur OpenAI mais une étape intermédiaire vers cet objectif.

Bref, tu viens encore une fois de te ridiculiser. Normalement, tu devrais nous sortir une pirouette avec un smiley pour faire semblant que tu ne t'en rends pas compte.

[Cromagnon]

Vu qu'à ma connaissance personne ici n'est spécialiste du domaine, les articles scientifiques ne servent pas à grand chose en citation.

Mais bien sûr, tout s'explique.
Vous ne nous fournirez pas de documentation scientifique puisque vous seul seriez en mesure de les comprendre.

Sinon, tu te serais rendu compte que cela dit exactement l'inverse de ce que tu as crié en bleu dans le fil plus haut et illustre mon propos.

Ah ouais en fait on parlait des LLM, précisé X fois dans le fil, un gars insiste pour nous expliquer que les LLM raisonnent et lorsqu'on lui présente des études sérieuses sur les Benchmark qui valident l'avis général de tous les spécialistes du domaine ... il fait une pirouette pour s'en sortir en passant au LRM.
Un truc expérimental dont il prétend avoir connaissance dans les milieux autorisés dont il ferait partie, donc sans être capable de présenter aucun document sérieux pouvant étayer ses dires.

On lui fournit une étude, qui met en balance la question... tout n'est pas noir et blanc... et il ne comprend que ce qui l'intéresse en somme.

Encouraged by this, we have also evaluated o1’s performance on longer problems and unsolvable instances, and found that these accuracy gains are not general or robust.

https://arxiv.org/pdf/2409.13373

[pm42]

Non, je donne les liens à la demande parce que cela évite ce genre de non compréhension par les gens dans ton genre qui ne savent qu'afficher leur mépris pour ce qui leur échappe et parlent de "pirouette" quand un chercheur du domaine les contredit.

[GBo]

... nous explique celui qui se contente de nous fournir un lien vers un site grand public.
Voici un lien un peu plus sérieux.
LLMs Still Can't Plan; Can LRMs? A Preliminary Evaluation of OpenAI's o1 on PlanBench
https://arxiv.org/abs/2409.13373

Merci pour le lien, tu vois quand tu veux...
Même si la plèbe ne comprend pas tout, on comprend quand même que quelque chose d'important a été révélé vu que le papier co-signé par Subbarao Kambhampati* a été remarqué par "notre" Yann Le Cun lui-même : la crème des modèles actuels mordent la poussière sur le benchmark "Mystery BlocksWorld". Reste à savoir ce que c'est et pourquoi...




(*) https://search.asu.edu/profile/95646

Subbarao Kambhampati is a professor of computer science at Arizona State University. Kambhampati studies fundamental problems in planning and decision making, motivated in particular by the challenges of human-aware AI systems. He is a fellow of Association for the Advancement of Artificial Intelligence, American Association for the Advancement of Science, and Association for Computing machinery, and was an NSF Young Investigator. He was the president of the Association for the Advancement of Artificial Intelligence, trustee of International Joint Conference on Artificial Intelligence, and a founding board member of Partnership on AI.

[pm42]

la crème des modèles actuels mordent la poussière sur le benchmark "Mystery BlocksWorld". Reste à savoir ce que c'est et pourquoi...

Non tu as raté le plus gros de l'article : les modèles dans ce tableau ne sont pas la crème justement, c'est la version d'avant, des LLMs.
Et oui, ils mordent la poussière sur Mistery Block world avec une performance en dessous de 5%.

Ce qui est intéressant, c'est qu'ils ont testé les 2 LRMs disponibles à ce moment là (il y en a d'autres maintenant) et que la performance est multipliée en gros par 10.
Et ça en environ 1 an et sans changement massif de techno parce qu'on pense que O1 est basé sur Gpt4o avec des techniques de prompts pour l'aider à traiter ce genre de cas.

On peut aussi ajouter que ce sont des benchmarks particulièrement difficiles pour des LLMs puisqu'il s'agit de déplacer des blocs dans l'espace pour régler un problème et qu'ils n'ont pas comme le dit tout le temps LeCun de "modèle du monde".
Et dans le cas du "Mistery", avec des informations manquantes.

Donc les perfs des 1ers LRMs sont très encourageantes d'autant que les humains sont en moyenne entre 70 et 80%.

P.S : il n'y a vraiment qu'un IA où quand on fait x10 en performances en un an, des gens viennent vous expliquer que c'est la preuve que c'est nul et que cela ne marche pas. Surtout quand on connait l'histoire récente où on a eu ce genre de remarques pour tout. Et chaque fois que l'IA passe de "faiblarde" à "meilleure que les humains", les mêmes oublient ce qu'ils ont dit et passe au prochain truc qu'elle ne sait pas encore bien faire sans rien apprendre.
Je sais que je le dis souvent mais de la part de gens qui se prétendent plus intelligents que les machines, cette incapacité à voir un pattern faux et à apprendre de leurs erreurs est impressionnante.
D'autant plus qu'ils ne parlent jamais des vraies limitations des IAs actuelles bien sur parce qu'il faudrait se renseigner un peu.

[GBo]

Erreur de ma part, Yann leCun parle d'un autre papier (même auteurs) que celui que Cromagnon a dégotté:
https://x.com/ylecun/status/1832860107925024789?lang=kn

"PlanBench: An Extensible Benchmark for Evaluating Large Language Models on Planning and Reasoning about Change"
https://arxiv.org/abs/2206.10498

Donc o1 d'OpenAI, markété comme un LLM capable de raisonnement, n'était pas encore sorti.

[GBo]

Et encore plus si on sait qu'O1 n'est pas considéré vraiment comme un modèle capable de raisonner par son créateur OpenAI mais une étape intermédiaire vers cet objectif.

S'ils ne disent pas, c'est plus qu'en filigrane:

"Learning to Reason with LLMs"
We are introducing OpenAI o1, a new large language model trained with reinforcement learning to perform complex reasoning. o1 thinks before it answers—it can produce a long internal chain of thought before responding to the user.

Source: https://openai.com/index/learning-to-reason-with-llms/

Du coup les scientifiques suscités l'ont classé en LRM, faut pas jouer sur les mots comme ça...

[pm42]

Donc o1 d'OpenAI, markété comme un LLM capable de raisonnement, n'était pas encore sorti.

Pour être plus précis, comme une amélioration dans ce sens avec plein de précautions pour dire qu'ils sont loin d'avoir réglé tous les problèmes.

Mais je l'utilise régulièrement et c'est très impressionnant sur beaucoup de choses mais plus lent puisqu'il "réfléchit" justement ou plutôt passe par une phase de "découpons le problème en sous-problèmes plus simples, traitons les individuellement puis réassemblons pour avoir le résultat".

[Cromagnon]

Pour préciser tout de même sinon il peut y avoir confusion.

Yann LeCun ne pense pas qu'il n'est pas possible de faire raisonner une IA, il pense simplement que le modèle LLM ne présente pas les caractéristiques qui permettrait de le faire.
Il faut changer l'architecture en profondeur donc changer de modèle et/ou augmenter de manière très très importante la puissance de calcul (et ce de manière théoriques et très hypothétique, rien n'est moins certain).

Un premier argument, qu'on ne doit pas comprendre de manière naïve mais simplement comme la synthèse intellectuelle de sa pensée, donc il faut quand même avoir un certain niveau pour en comprendre les fondements, c'est que factuellement on sait qu'il existe des raisonnements plus ou moins complexes, or les LLM font comme si tout raisonnement demandait la même puissance de calcul.
Ce qui amène à nouveau à s’interroger sur l'adéquation des LLM à produire du raisonnement.

Reasoning in AI

(01:11:31) The type of reasoning that takes place in LLM is very, very primitive, and the reason you can tell is primitive is because the amount of computation that is spent per token produced is constant.
So if you ask a question and that question has an answer in a given number of token, the amount of computation devoted to computing that answer can be exactly estimated.
It’s the size of the prediction network with its 36 layers or 92 layers or whatever it is multiply by number of tokens, that’s it.
And so essentially, it doesn’t matter if the question being asked is simple to answer, complicated to answer, impossible to answer because it’s a decidable or something, the amount of computation the system will be able to devote to the answer is constant or is proportional to number of token produced in the answer.
This is not the way we work, the way we reason is that when we’re faced with a complex problem or a complex question, we spend more time trying to solve it and answer it because it’s more difficult.

Lex Fridman (01:13:00) … There’s more part to that question, now you’re just behaving like an LLM, immediately answering.
No, that it’s just the low level world model on top of which we can then build some of these kinds of mechanisms, like you said, persistent long-term memory or reasoning, so on.
But we need that world model that comes from language.
Maybe it is not so difficult to build this kind of reasoning system on top of a well constructed world model.



Yann LeCun (01:13:37) Whether it’s difficult or not, the near future will say because a lot of people are working on reasoning and planning abilities for dialogue systems.
Even if we restrict ourselves to language, just having the ability to plan your answer before you answer in terms that are not necessarily linked with the language you’re going to use to produce the answer, so this idea of this mental model that allows you to plan what you’re going to say before you say it, that is very important.
I think there’s going to be a lot of systems over the next few years that are going to have this capability, but the blueprint of those systems will be extremely different from auto aggressive LLMs.

https://lexfridman.com/yann-lecun-3-...easoning_in_ai

[GBo]

Pour préciser tout de même sinon il peut y avoir confusion.
https://lexfridman.com/yann-lecun-3-...easoning_in_ai

Mais ça date d'il y a 9 mois, c'est beaucoup pour l'IA quand on investit autant qu'en ce moment. Quand je dis "on", c'est majoritairement le privé, donc opacité des procédés, même si les fins observateurs de la recherche publique devisent sans doute avec justesse (et le turn-over / débauche des cerveaux entre boites fait le reste, c'est un petit milieu).

[Cromagnon]

Chez Alibaba c'est open source.

Qwen QwQ-32B-Preview est un modèle d'IA expérimental open source développé par l'équipe Qwen d'Alibaba, conçu pour améliorer les capacités d'inférence en IA. Ce modèle possède 3,25 milliards de paramètres et est capable de gérer des tâches d'inférence complexes telles que la résolution de problèmes mathématiques, la programmation et la compréhension fine du langage. Son architecture utilise des techniques avancées de Transformer combinées à des technologies telles que RoPE, SwiGLU, RMSNorm et les biais d'attention QKV, démontrant des capacités d'inférence et d'analyse puissantes. Qwen QwQ-32B-Preview excelle dans le raisonnement réflexif et rivalise avec des modèles renommés tels que GPT-4, étant publié en open source et facilement accessible par divers moyens.

https://lobehub.com/fr/blog/qwen-qwq...easoning-model

[pm42]

Chez Alibaba c'est open source.

Ce qui a déjà été dit plus haut... C'est vrai qu'il faudrait lire.

[oualos]

Est ce qu'on aura un IA forte dans 5 ans, 10 ans ou au contraire pas du tout dans les décennies qui viennent ?
La réponse est ailleurs comme disait Mulder.

Voici ce qui est dit ici par IBM: https://www.ibm.com/fr-fr/topics/strong-ai

Si les chercheurs parviennent à mettre au point une IA forte, la machine devra avoir une intelligence égale à celle de l'homme ; elle sera dotée d'une conscience autonome capable de résoudre des problèmes, d'apprendre et de planifier l'avenir.

Le problème est que l'intelligence, la conscience, la vérité etc. et toute une série de concepts sont travaillés depuis l'aube de la philosophie sans arriver à une définition totalement satisfaisante et qui engloberait chacune toutes les autres.

Comme vous l'avez dit

Je pense que beaucoup de concepts qu'on utilise dans le contexte "100% humain" sont très mal définis : intelligence, conscience, vérité, libre arbitre et j'en oublie

On pourrait dire que l'IA aura un jour une forme machinique de conscience sans avoir les qualités et défauts qui font de nous des êtres humains et qui nous caractérisent comme "être conscients".
De toute façon la conscience est indissociable de la perception, des sentiments, des affects donc lié au fait que nous avons un corps qui interagit avec le monde extérieur en formant des représentations qui évoluent avec le temps: toutes choses que la machine ne possède pas évidemment.
Comment simule-t-on des affects , des perceptions ? Personne n'a une réponse satisfaisante même si les machines sont capables de prouesses de plus en plus étonnantes et savent faire des choses que nous sommes incapables de faire

[Cromagnon]

Ce qui a déjà été dit plus haut... C'est vrai qu'il faudrait lire.

Tiens au fait, puisque vous semblez tout savoir et toujours prompt à critiquer.

Histoire d'apporter un peu à la discussion, vous, ce serait quoi votre hypothèse sur le fait qu'Elon Musk vas dépenser 10 milliards en GPU ?
C'est quand même pas banal, 10 milliards.
Tout le monde semble avoir son avis, plus ou moins fantaisiste on est d'accord, mais vous, qui vous prétendez expert, vous devez bien avoir une idée un peu plus argumentée sur la question, ou vous avez peur de vous avancer ?
Un peu de courage, on pourra même vérifier les pronostiques d'ici 1 an.

Alors, à votre avis ?

[pm42]

Le problème est que l'intelligence, la conscience, la vérité etc. et toute une série de concepts sont travaillés depuis l'aube de la philosophie sans arriver à une définition totalement satisfaisante et qui engloberait chacune toutes les autres.

Oui, c'est pour cela que je préfère qu'on parle de fonctions cognitives : la définition donnée par IBM est compréhensible par le grand public mais effectivement peu précise.

Il y a encore beaucoup de travail : la capacité à apprendre en permanence par exemple, à apprendre à partir de peu d'exemples, la représentation du monde qui évite de générer des images avec des erreurs physiques et ergonomiques, à planifier à long terme, à réfléchir plus que quelques secondes à un sujet, à avoir de l'intuition et de la créativité...

[polo974]

Il me semble qu'il existe des machines équipées de capteurs, et dactionneurs, donc tout à fait capable dinter-agir avec le monde dans lequel nous vivons...

D'ailleurs, il paraitrait même qu'il y en a avec de l'IA dedans...

[pm42]

Il me semble qu'il existe des machines équipées de capteurs, et dactionneurs, donc tout à fait capable dinter-agir avec le monde dans lequel nous vivons...
D'ailleurs, il paraitrait même qu'il y en a avec de l'IA dedans...

Oui mais on ne les entraine pas encore sur la base de leurs perceptions. Fabriquer un robot capable de déplacer des blocs, de se construire une représentation de leur position dans l'espace, leur couleur puis de comprendre des instructions comme celles de Mystery Blockworld et de planifier les opérations nécessaires n'est pas encore à notre portée.
C'est un gros axe de recherche mais pour le moment, on sait surtout faire du spécialisé, pas du généraliste comme les LLMs/LRMs.

[GBo]

Tiens au fait, puisque vous semblez tout savoir et toujours prompt à critiquer.
Histoire d'apporter un peu à la discussion, vous, ce serait quoi votre hypothèse sur le fait qu'Elon Musk vas dépenser 10 milliards en GPU ?
Alors, à votre avis ?

D'abord c'est moi le spécialiste d'Elon Musk ici

La presse spécialisée est unanime, c'est pour de l'entrainement/inférence d'IA chez Tesla et pour sa startup xAI.
Plus de détails dans cet article par exemple:

"Elon Musk reportedly will blow $10 billion on AI this year"
https://www.digitaltrends.com/comput...on-ai-in-2024/

[Cromagnon]

La presse spécialisée est unanime, c'est pour de l'entrainement/inférence d'IA chez Tesla et pour sa startup xAI.

Donc il veut faire rouler des voitures sans pilote, et dévoiler la vraie nature de l'univers....
En tous cas pour ceux qui vont rouler avec ça, après l'accident ils seront fixés.
Ça se tient.

Elon Musk announces the launch of a new AI company, xAI, which aims to “understand the true nature of the universe”.
Elon Musk, the owner of Twitter and CEO of Tesla and SpaceX, has launched a new artificial intelligence (AI) company, called xAI.
The company is led by the billionaire and also includes several top AI researchers and engineers who have been involved with multiple major companies including OpenAI, Google, and Microsoft.

In April this year, Musk announced his plans to launch his own AI company during an interview with former Fox News host Tucker Carlson.

https://www.euronews.com/next/2023/0...f-the-universe

On est sûr qu'il n'était pas en train de nous faire un poisson d'Avril ?

In an interview with Tucker Carlson in April, Musk said that he wanted to build what he referred to as “TruthGPT,” a “maximum-truth-seeking AI.” Likely, xAI’s efforts will start there, perhaps taking the form of a text-generating AI that Musk perceives as more “truthful” than existing ones; Musk has previously suggested that Twitter would use its own data to train ChatGPT-like tech.

Rumors about Musk starting up an AI company have been floating around for some time, with a report earlier this year from Business Insider revealing that Musk had purchased thousands of GPUs to power an upcoming generative AI product. The Financial Times similarly reported that Musk planned to create an AI firm to compete with the Microsoft-backed OpenAI, even reportedly seeking funding from SpaceX and Tesla investors to get the company started.

https://techcrunch.com/2023/07/12/el...-the-universe/

[Bounoume]

post #79....la capacité à apprendre en permanence par exemple, à apprendre à partir de peu d'exemples, la représentation du monde qui évite de générer des images avec des erreurs physiques et ergonomiques,.

j'extrapole cette possibilité:
ne serait-ce pas la capacité à intégrer directement des règles, des faits définis de façon discrète, et de les appliquer dès que ils doivent être appliqués aux objets manipulés par le LLM .........
ce qui impliquerait aussi (???) que le LLM fasse le lien entre les suites de tokens traités.. et les concepts sémantiquement sous-jacents.....
dans cette optique (pas trop farfelue?) pourrait-on, par exemple, 'forcer' le LLM à admettre des 'lois' de la physique classique, (ou le lois de la robotique, selon Asimov ....) une fois pour toutes, comme à l'école, et de façon exacte, sans qu'il soit nécessaire qu'elles soient fournies en étant contenues (implicitement) dans des exemples supervisés?
Ce qui n'empêche pas qu' ensuite, une fois les lois enregistrées, il puisse toujours y avoir des exemples qui vont modifier (améliorer?) les premiers résultats de l'application directe des lois?
Même si c'est dans un simple prompt contenant les accréditations nécessaires pour que ça "obéisse" au chef propriétaire de l'AI,... bien sûr....
Cette idée est-elle utopique?

[GBo]

Ok, donc Cromagnon (caché dans sa grotte) ignorait que Musk s'était lancé dans cette aventure couteuse de startup concurrente d'OpenAI (dont les produits sont insupportablement "woke" selon lui), ça se tient.

[pm42]

pourrait-on, par exemple, 'forcer' le LLM à admettre des 'lois' de la physique classique, (ou le lois de la robotique, selon Asimov ....) une fois pour toutes, comme à l'école, et de façon exacte, sans qu'il soit nécessaire qu'elles soient fournies en étant contenues (implicitement) dans des exemples supervisés?

Non, on ne sait pas faire cela actuellement ou en tout cas pas avec une efficacité parfaite et loin de là.

[Cromagnon]

Ok, donc Cromagnon (caché dans sa grotte) ignorait que Musk s'était lancé dans cette aventure couteuse de startup concurrente d'OpenAI (dont les produits sont insupportablement "woke" selon lui), ça se tient.

Ok, donc vous, vous y croyez et votre hypothèse c'est qu'il mets ses 10 milliards pour réaliser (et que ça marche) ce qui est annoncé ?
Moi perso je n'arrive pas à y croire.
C'est trop gros, et même son annonce genre TruthGPT c'est juste incroyable.

Découvrir "la véritable nature de l'univers..."
Qu'est-ce qu'il entend par là ? Il veut faire un truc spécialisé dans la physique ?

D'autant que la véritable nature de l'univers on la connait déjà : Impitoyable.
C'est surement la leçon que devront en tirer les investisseurs.

[Liet Kynes]

D'abord c'est moi le spécialiste d'Elon Musk ici

La presse spécialisée est unanime, c'est pour de l'entrainement/inférence d'IA chez Tesla et pour sa startup xAI.
Plus de détails dans cet article par exemple:

"Elon Musk reportedly will blow $10 billion on AI this year"
https://www.digitaltrends.com/comput...on-ai-in-2024/

Faudrait voir.. annoncer que c'est pour tel ou tel objectif ne veux rien dire la bonne question "c'est à quoi cela peut servir sinon ?" =, c'est pour cela que je me dis que prédire la décohérence ( pas besoin de savoir comment avec l'IA, en étant très grossier dans le raisonnement) est une option pour la prévenir et gagner la course à l'ordi quantique : https://www.inp.cnrs.fr/fr/cnrsinfo/...ce-aux-photons

[GBo]

Ok, donc vous, vous y croyez et votre hypothèse c'est qu'il mets ses 10 milliards pour réaliser (et que ça marche) ce qui est annoncé ?
Moi perso je n'arrive pas à y croire.
C'est trop gros, et même son annonce genre TruthGPT c'est juste incroyable.

Les GPU pour faire des LLMs de type ChatGPT, c'est en milliards que ça ce compte en effet, ca fait 2 ans qu'on le sait, voir les sommes que Microsoft a investi dans OpenAI.

Découvrir "la véritable nature de l'univers..."
Qu'est-ce qu'il entend par là ? Il veut faire un truc spécialisé dans la physique ? [...]

Non c'est du hype marketing, de la SF comme la colonisation de Mars, et ses fans (dont je ne suis pas) adorent !
Au final je parie qu'on aura un ChatGPT de plus qui répondra à certaines questions de façon moins politiquement correcte et plus orientée réac que progressiste.
C'est juste une bataille d'ego vis à vis de Sam Altman d'OpenAI, pas de la recherche fondamentale.
Mais les GPU c'est du vrai.

[GBo]

Faudrait voir.. annoncer que c'est pour tel ou tel objectif ne veux rien dire la bonne question "c'est à quoi cela peut servir sinon ?" =, c'est pour cela que je me dis que prédire la décohérence ( pas besoin de savoir comment avec l'IA, en étant très grossier dans le raisonnement) est une option pour la prévenir et gagner la course à l'ordi quantique : https://www.inp.cnrs.fr/fr/cnrsinfo/...ce-aux-photons

Non plus, l'article de Digital Trends (et d'autres) cite la nature des dépenses, ce sont des H100 de NVIDIA et on ne fait pas d'ordi quantique avec des GPU que je sache...