GPT-3.... le couteau Suisse?

[Bounoume]

Cet énorme système semble répondre à tout:
https://machinelearningknowledge.ai/...real-or-is-it/
Pourtant:

Behind the curtains, GPT-3 functions by trying to predict text based on the input provided by the users. The idea is to provide the model with some initial text that will be used by the model to predict further text. This process is repeated by the model for generating new text each time it runs.

During the training process, OpenAI GPT-3 was fed with almost all the content existing over the internet. So whenever it provides us with output, it is actually making a kind of guess based on some statistical calculations and the human-generated online text that it has been trained with.

moi qui ne suis aucunement spécialiste en AI, je me pose des questions:

d' abord, est-ce réellement un système connexionniste construit à partir de réseaux de neurones formels (ANN, RNN, LSTM ....)
ou bien autre chose....ou un mix de X et deY.... parce que l' article parle de MACHINE LEARNING et non de DEEP learning.....

et ensuite....

étant surpris que GPT-3 aborde des problèmes comme:
* la conversion d' un texte en un code ou une expression régulière syntaxiquement correcte (c' est ce que suppose la présentation) ...
* une conversion de textes didactiques écrits ('il' faisait ceci, 'il' avait réalisé ça...) en texte écrit à la première personne (' faisais ceci.... 'moi', j' avais fait ça...)
* l' exécution de permutations logiques...

je me demande si il n' y aurait pas un noyau (le 'devineur') ... capable, entre autres, de reconnaître des balises, puis qui appellerait bien classiquement des modules spécialisés traitant ensuite d' autres blocs de textes sélectionnés [les modules ad hoc ayant été préalablement programmés par des bêtes dotés de 2 pattes et d' un encéphale de 1500 grammes environ...]
-----

[pm42]

Cet énorme système semble répondre à tout:

Non mais il fait pas mal de choses en effet en attendant GPT-4 et les autres système comme ça.

parce que l' article parle de MACHINE LEARNING et non de DEEP learning.....

Machine Learning est un sur-ensemble de Deep-Learning.
Et GPT-3 est bien un réseau de neurones, très gros et basé sur cette techno : https://fr.wikipedia.org/wiki/Transformeur

et ensuite....

je me demande si il n' y aurait pas un noyau (le 'devineur') ... capable, entre autres, de reconnaître des balises, puis qui appellerait bien classiquement des modules spécialisés traitant ensuite d' autres blocs de textes sélectionnés [les modules ad hoc ayant été préalablement programmés par des bêtes dotés de 2 pattes et d' un encéphale de 1500 grammes environ...]

Absolument pas.

[Bounoume]

merci pour ta réponse, pm42.
Sur l' article 'Transformeur' de wiki.... hélas, je suis plutôt largué!
Alors je vais me contenter d' une question 'élémentaire':
une fois GPT-3 entraîné (par l' ingestion d' une multitude de textes bien choisis.... (?))
quelle est la procédure pour lui faire répondre à une requête:
a)définir le type de requête ( sauf si c' est implicitement fait à partir du jeu d' apprentissage ?)....
b)puis introduite le texte à traduire,ou commenter, ou répondre à 1 interwiew, ou écrire à la manière de... Einstein ou le Marquis de Sade......