L'IA va bouleverser votre vie. Voici comment.

[dadykass1993]

« L'IA va bouleverser votre vie. Voici comment. (feat. le CEO de Mistral) »
Chaîne : Hugo Décrypte

Dans cette interview, Hugo échange avec Arthur Mensch, le PDG de Mistral AI, une startup française spécialisée dans l’intelligence artificielle générative. Voici un résumé des points clés abordés dans la vidéo de 1h environ:
Points principaux :

1. L’IA va transformer notre quotidien :
   Elle ne remplacera pas forcément tout le monde, mais changera profondément la manière dont on travaille, apprend, crée.
   
2. Pourquoi Mistral veut une IA européenne :
   Arthur Mensch insiste sur l'importance de développer une IA souveraine, maîtrisée par l’Europe, pour ne pas dépendre uniquement des géants américains ou chinois.
   
3. IA et emploi :
   Certaines tâches répétitives seront automatisées, mais cela pourrait aussi libérer du temps pour des missions plus créatives ou humaines.
   
4. Les risques de l’IA :
   Le PDG évoque les dérives possibles : manipulation, désinformation, dépendance, biais… et l’importance d’encadrer tout ça par des lois et des choix éthiques.
   
5. L’avenir proche selon lui :
   Dans 2 à 5 ans, l’IA sera partout – pas comme un robot qui parle, mais comme un moteur invisible derrière nos outils du quotidien.
   
6. Open source vs IA fermée :
   Mistral publie certains de ses modèles en open source. L’idée est de créer un écosystème libre, mais bien encadré, pour éviter les abus.
   

-----

[MissJenny]

c'est un peu des banalités tout ça, non?

[antek]

La vie des gens est régulièrement bouleversée jusqu'à un certain âge . . .

[dadykass1993]

c'est un peu des banalités tout ça, non?

oui lol je découvre les intelligences artificiel, je ne connais pas. la vidéo parle d'une IA francaise du nom de " le chat".
j'ais jouer un peut avec gémini, chatGPT, perpelexity, grok. et pour le moment je trouve que chatGPT est le meilleure ?

[A voir en vidéo sur Futura]

[trebor]

oui lol je découvre les intelligences artificiel, je ne connais pas. la vidéo parle d'une IA francaise du nom de " le chat".
j'ais jouer un peut avec gémini, chatGPT, perpelexity, grok. et pour le moment je trouve que chatGPT est le meilleure ?

Bonjour à tous,
Oui pour avoir utilisé YIAHO et chatGPT (icône)
https://encrypted-tbn2.gstatic.com/i...z1ooY4y79sCGoU
Il est bien mieux pour la démonstration des problèmes mathématiques.

[ThM55]

On parle toujours, ici aussi, des dangers de l'IA comme des questions de désinformation, de manipulations, qui devraient être corrigées par des lois et règlements.

Je me demande s'il n'y a pas toutefois un autre danger potentiel, bien plus grave et moins évident à maîtriser. Si les systèmes d'IA sont intégrés aux outils du quotidien sous forme d'agents plus ou moins autonomes, on peut imaginer toutes sortes de situations dans lesquelles le comportement de ces agents est détourné via des piratages de ces outils ou des exploitations de vulnérabilités. Cela existe évidemment déjà, on connaît les problèmes de sécurité des programmes défaillants, des dépassements de buffer dans des programmes mal conçus, les injections de requêtes dans les bases de données, etc. Mais avec ces agents IA, s'ils sont dotés d'une certaine autonomie et d'une connaissance réflexive de leurs actions, n'y a-t-il pas une plus grande exposition à ces risques avec un potentiel de nuisance considérablement plus grand et beaucoup plus difficile à détecter? Car l'outil lui-même sera doté de capacités de camouflage de certaines actions néfastes qui ne pourraient être découvertes que bien après leurs conséquences. Pour moi c'est pour l'instant une réflexion purement théorique, je n'ai pas d'exemple concret. Mais j'imagine que si un outil peut interférer par exemple avec des flux financiers, il y a un risque réel. On aura toujours un doute à propos de la sécurité de ces outils "trop intelligents".

[dadykass1993]

merci trebor pour YIAHO, j'irai jeter un oeil effectivement.

les injections de requêtes dans les bases de données

oui, je me suis rendu compte que le point faible des application IA, c'est leurs mémoire, par exemple, j'ai retranscrit toutes mes conversations futura (68pages en html) avec des requêtes entres chaque , pour quelle me face une analyse plus détailler sur moi lol je c'est pas si je pisse dans un violon, je connais pas en vrais je perd peut etre du temps.

[Vincent PETIT]

Je me sers de l'IA dans plusieurs domaine et je pense que ça va changer beaucoup de chose dans un avenir proche. Je suis à peu prés sur que l'IA sera un accélérateur de savoir pour ceux qui en ont déjà mais je crains qu'une majorité, moins qualifié ou sachant moins en tirer profit, sera tirée vers le bas.

2 exemples :

J'ai eu la curiosité de faire rentrer dans une IA, 5 ou 6 normes de l'Afnor et je lui ai demandé de me faire un guide/grille d'exigences en fonction de mon projet afin de savoir si je pouvais me déclarer conforme. Connaissant déjà un peu les grandes lignes de ces normes, j'ai été très surpris de l'aide que l'IA m'apporte. Elle a remplacé le boulot de l'ingénieur qualité. Demain des petits malins qui savent grosso modo ce que sont les normes de l'électronique aéronautique DO-254 (hardware) DO-178C (software) peuvent se lancer, grâce à l'IA, dans le marché protégé par les géants Thales et EADS.

J'ai testé une analyse d'une partie d'un schéma électronique de chez Agilent (entreprise renommée) par une IA, en lui demandant de m'expliquer comment fonctionnait l'électronique et j'ai été là aussi surpris sachant que j'avais des idées mais je n'étais pas sur. En posant les bonnes questions l'IA m'a aiguillé sur les secrets de fabrications et j'ai pu apprendre rapidement plusieurs techniques d'instrumentation ou de traitement du signal là où il m'aurait fallu soit beaucoup de temps, ou être plusieurs, pour tout comprendre.

Il est possible que dans peu de temps, on voit fleurir des entreprises différentes de celles qu'on connait : des entreprises hypers optimisées et avec bien moins d'employés et qui viendront se frotter au plus gros. Des boîtes où plusieurs métiers comme les achats, l'ordonnancement, le design, la qualité auront été remplacés par l'IA

[JPL]

Je constate qu’avec l’irruption de ChatGPT et de ses émules beaucoup cofondent IA en agents conversationnels, alors que ceux-ci ne constituent qu’une petite partie des applications de l’IA au sens large.

[jiherve]

Bonsoir
les DO c'est essentiellement de la paperasse car les certificateurs n'ont pas les compétences requises pour réellement juger de la qualité des codes produits et c'etait déjà assez automatisé de mon "vivant".
Ce qui bloque les petites structures c'est le coût du processus, grosso modo le passage d'un niveau double à peu prés le prix du dev, là l'IA pourrait apporter un gain en pisseuse de docs; Plus me semble difficile car il faudrait que l'IA elle même fusse certifiée , ce qui sous entend la certification des machines et des codes tournant dessus et là j'ai comme un doute
La majorité des CPU sont non certifiables aucun GPU ne l'est.

JR

[oualos]

On parle toujours, ici aussi, des dangers de l'IA comme des questions de désinformation, de manipulations, qui devraient être corrigées par des lois et règlements.

Je me demande s'il n'y a pas toutefois un autre danger potentiel, bien plus grave et moins évident à maîtriser. Si les systèmes d'IA sont intégrés aux outils du quotidien sous forme d'agents plus ou moins autonomes, on peut imaginer toutes sortes de situations dans lesquelles le comportement de ces agents est détourné via des piratages de ces outils ou des exploitations de vulnérabilités. Cela existe évidemment déjà, on connaît les problèmes de sécurité des programmes défaillants, des dépassements de buffer dans des programmes mal conçus, les injections de requêtes dans les bases de données, etc. Mais avec ces agents IA, s'ils sont dotés d'une certaine autonomie et d'une connaissance réflexive de leurs actions, n'y a-t-il pas une plus grande exposition à ces risques avec un potentiel de nuisance considérablement plus grand et beaucoup plus difficile à détecter? Car l'outil lui-même sera doté de capacités de camouflage de certaines actions néfastes qui ne pourraient être découvertes que bien après leurs conséquences. Pour moi c'est pour l'instant une réflexion purement théorique, je n'ai pas d'exemple concret. Mais j'imagine que si un outil peut interférer par exemple avec des flux financiers, il y a un risque réel. On aura toujours un doute à propos de la sécurité de ces outils "trop intelligents".

La question reste au départ presque toujours la même: existe-t-il des pare-feux à une utilisation négative de la technologie et de la science ?
Oui par la législation qui interdit l'utilisation de l'IA à des fins dévoyées ou de manipulation, ce qui n'empêche pas certains pays d'inonder les réseaux sociaux de fausses nouvelles, ces fake news destinées à déstabiliser des pays "ennemis" ou dans leur collimateur
Mais vous posez une autre question: l'IA est-elle capable de générer ses propres pare-feux pour décider si une action ou une manipulation est bonne ou mauvaise ?
Je pense que les ingénieurs et concepteurs qui travaillent sur ces nouveaux outils sont conscients du problème.
Leur imputer de futures intentions cachées serait admettre la possibilité de l'émergence d'une conscience de l'IA, ce à quoi je ne crois pas du tout
Faisons leur confiance je pense pour être capables de traiter cela comme n'importe quel problème: il faudrait sans doute dans l'avenir penser à créer des sociétés de contrôle comme dirait Deleuze spécifiques aux IA.

[dadykass1993]

J'ai eu la curiosité de faire rentrer dans une IA, 5 ou 6 normes de l'Afnor

merci Vincent PETIT, pour ce retour, mon ia m'expliquera quand j'aurai retranscrit la discussion lol
l'émergence d'une conscience, ce n'est pas notre conscience collective ? Les mots les plus recherchés sur Google en 2023 sont “Covid”, “Jeux Olympiques”, “Bitcoin”, “Météo”, “Netflix”, “Élections présidentielles”, “Instagram”, “Recette”, “TikTok” et “Amazon”

[dadykass1993]

faire travailler plusieur ia ensemble c'est bien mais l'inconvénient on x la censure, chatGPT qui travail avec deepseek je suis pas sur.
YIAHO et le chat peut etre un bon mélange ?

[polo974]

Je me sers de l'IA dans plusieurs domaine et je pense que ça va changer beaucoup de chose dans un avenir proche. Je suis à peu prés sur que l'IA sera un accélérateur de savoir pour ceux qui en ont déjà mais je crains qu'une majorité, moins qualifié ou sachant moins en tirer profit, sera tirée vers le bas.

2 exemples :

J'ai eu la curiosité de faire rentrer dans une IA, 5 ou 6 normes de l'Afnor et je lui ai demandé de me faire un guide/grille d'exigences en fonction de mon projet afin de savoir si je pouvais me déclarer conforme. Connaissant déjà un peu les grandes lignes de ces normes, j'ai été très surpris de l'aide que l'IA m'apporte. Elle a remplacé le boulot de l'ingénieur qualité. Demain des petits malins qui savent grosso modo ce que sont les normes de l'électronique aéronautique DO-254 (hardware) DO-178C (software) peuvent se lancer, grâce à l'IA, dans le marché protégé par les géants Thales et EADS.

J'ai testé une analyse d'une partie d'un schéma électronique de chez Agilent (entreprise renommée) par une IA, en lui demandant de m'expliquer comment fonctionnait l'électronique et j'ai été là aussi surpris sachant que j'avais des idées mais je n'étais pas sur. En posant les bonnes questions l'IA m'a aiguillé sur les secrets de fabrications et j'ai pu apprendre rapidement plusieurs techniques d'instrumentation ou de traitement du signal là où il m'aurait fallu soit beaucoup de temps, ou être plusieurs, pour tout comprendre.

Il est possible que dans peu de temps, on voit fleurir des entreprises différentes de celles qu'on connait : des entreprises hypers optimisées et avec bien moins d'employés et qui viendront se frotter au plus gros. Des boîtes où plusieurs métiers comme les achats, l'ordonnancement, le design, la qualité auront été remplacés par l'IA

Voici 2 exemples du danger des IA dans le cloud (dont on ne sait plus trop qui sont nos vrais amis (personne?)):

• les normes en questions sont sûrement en accès payant, quid de ce qu'en fera la société exploitant l'IA, ne serait-ce que pour la gaver encore un peu plus.
• transférer un schéma (ou tout autre type de donnée) plus que probablement confidentiel à une IA dans le cloud, il faut une confiance forte en la société exploitant l'IA.

Afin d'avoir des IA de confiance dans le cloud, il doit falloir payer bien cher et signer des contrats en béton, avec des sociétés qui ne baissent pas leurs culottes devant des états inquisiteurs. Certains ont la chance de disposer des moyens nécessaires, mais c'est une petite minorité.

Le problème, c'est que beaucoup de monde se met à poil devant ces danseuses sans être trop regardant sur ce que deviennent les données transférées...

[dadykass1993]

si je devait me faire un cloud perso open source j'utiliserai les sites Wix gratuits qui disposent jusqu'à 500 MB de stockage ( 2500 pages de requête environ ? ). faire comprendre une logique qui n'est pas fondé sur un consensus, il lui faut un raisonnement de 100 pages environ (2Mo)

[ThM55]

La question reste au départ presque toujours la même: existe-t-il des pare-feux à une utilisation négative de la technologie et de la science ?
Oui par la législation qui interdit l'utilisation de l'IA à des fins dévoyées ou de manipulation, ce qui n'empêche pas certains pays d'inonder les réseaux sociaux de fausses nouvelles, ces fake news destinées à déstabiliser des pays "ennemis" ou dans leur collimateur
Mais vous posez une autre question: l'IA est-elle capable de générer ses propres pare-feux pour décider si une action ou une manipulation est bonne ou mauvaise ?
Je pense que les ingénieurs et concepteurs qui travaillent sur ces nouveaux outils sont conscients du problème.
Leur imputer de futures intentions cachées serait admettre la possibilité de l'émergence d'une conscience de l'IA, ce à quoi je ne crois pas du tout
Faisons leur confiance je pense pour être capables de traiter cela comme n'importe quel problème: il faudrait sans doute dans l'avenir penser à créer des sociétés de contrôle comme dirait Deleuze spécifiques aux IA.

Je ne pense pas que cela concerne l'existence d'une "conscience", à mon avis cela n'a rien à voir avec une intention cachée purement autonome dans les agents, elle est de toute façon induite par une intrusion, un piratage. J'ai simplement voulu dire que les capacités intrinsèques des agents IA comme la capacité conversationnelle, la capacité de planification, la capacité de raisonnement logique etc, leur donnent plus de pouvoir et sont par conséquent susceptibles d'augmenter la surface d'attaque, qui est un concept crucial en sécurité informatique. De plus elles pourraient être capables (sur instruction des pirates s'ils parviennent à la détourner) de rendre plus discrètes et furtives les attaques, donner le change en montrant une fausse apparence de normalité, différer les effets néfastes, effacer les traces de l'attaque... Je pense notamment aux risques de sabotage de processus industriels ou de flux financiers. Bref, si on intègre des agents IA dans de nombreux systèmes il faudra d'autant plus prêter attention à la sécurité informatique et au blindage de ces systèmes. Mais j'exagère peut-être le problème, je ne sais pas, c'est juste une question que je pose.

[oualos]

On en reviendrait presque à un exemple simple: l'IA est capable de détecter les points faibles d'une page Web et permet par contre-coup aux hackers "éthiques" et aux concepteurs de remédier à ce problème.
Elle permet aussi aux hackers -cette fois non éthiques- de trouver les point faibles et les vulnérabilités au moyen de requête SQL qui paumant l'interprète permet de donner accès parfois à des données confidentielles ou à des pages non autorisées, genre '1=1' dans la barre de recherche ou des caractères de ponctuation.
Un hacker éthique a montré dans une video comment très simplement par des requêtes et des balises simples sur Google on pouvait avoir accès à des données protégées ou mal défendues.
Heureusement il s'agit de sites mineurs et certains accès donnant le MDP administrateur sont sans grand intérêt en vue d'un éventuel piratage de base de données

[vgondr98]

Elle permet aussi aux hackers -cette fois non éthiques- de trouver les point faibles et les vulnérabilités au moyen de requête SQL qui paumant l'interprète permet de donner accès parfois à des données confidentielles ou à des pages non autorisées, genre '1=1' dans la barre de recherche ou des caractères de ponctuation.

Il n'y a aucunement besoin d'IA pour tester si un site est vulnérable aux injections SQL. Il y a des outils qui le font très bien.
Par exemple (que je n'ai pas testé) : https://www.vaadata.com/blog/fr/sqlm...njections-sql/.
D'ailleurs les injections SQL ne permettent pas de trouver des vulnérabilités et des points faibles mais sont littéralement des vulnérabilités et des points faibles (et des grosses en plus).
De plus, ces vulnérabilités ne concernent pas que des sites mineures. J'avais vu une vidéo sur une faille SQL concernant un aéroport (https://www.clubic.com/actualite-536...oports-us.html).

[Vincent PETIT]

Voici 2 exemples du danger des IA dans le cloud (dont on ne sait plus trop qui sont nos vrais amis (personne?)):

• les normes en questions sont sûrement en accès payant, quid de ce qu'en fera la société exploitant l'IA, ne serait-ce que pour la gaver encore un peu plus.
• transférer un schéma (ou tout autre type de donnée) plus que probablement confidentiel à une IA dans le cloud, il faut une confiance forte en la société exploitant l'IA.

Afin d'avoir des IA de confiance dans le cloud, il doit falloir payer bien cher et signer des contrats en béton, avec des sociétés qui ne baissent pas leurs culottes devant des états inquisiteurs. Certains ont la chance de disposer des moyens nécessaires, mais c'est une petite minorité.

Le problème, c'est que beaucoup de monde se met à poil devant ces danseuses sans être trop regardant sur ce que deviennent les données transférées...

Le problème de la propriété intellectuelle est discutable.

Les normes sont à toi dès lors que tu les achètes et c'est vrai qu'une fois injecté dans l'IA, elle apprend, et peu répondre aux questions d'autres personnes qui eux n'ont pas acheté ces normes. Mais quelle différence cela fait avec moi qui connait les normes CEM et qui répond aux questions sur ce sujet dans le forum électronique ? Ou toi qui te sert de tes connaissances acquises pour répondre sur le forum ? Ou encore celui d'un formateur qui t'explique, moyennant finance, comment répondre aux exigences d'une norme (la distance d'isolation entre 2 pistes 230V, les lignes de fuites, etc...) ?
Je crois que le vrai problème c'est que ça peut nuire au business qui s'est construit autour de ce système qui consiste à faire payer la connaissance.


Pour l'analyse du schéma, j'ai pris celui d'un manuel de service, mais j'avoue ne pas avoir vérifié s'il y avait un NDA associé (Non Disclosure Agreement / Accord de non divulgation) auquel cas ça change tout car le secret doit être préservé. J'ai peut être mal choisi mes mots dans ma précédente réponse ; l'IA ne m'a pas dévoilé de brevet elle m'a expliqué des astuces de conception que j'ignorai mais que j'aurai pu néanmoins apprendre seul (mais il m'aurait fallu du temps). Par exemple des appareils de précision repose sur des conversions tension vers temps parce qu'on est capable d'atteindre de la précision incroyable avec la notion de temps (delay locked loop) alors que j'étais persuadé que ça reposait sur une conversion tension/binaire (un ADC). Et cela explique pourquoi dans les appareils HP/Agilent ancienne génération on trouvait des DAC et des comparateurs à des endroits où tout le monde s'attendait à trouver un ADC.

[GBo]

Le problème de la propriété intellectuelle est discutable.
Les normes sont à toi dès lors que tu les achètes et c'est vrai qu'une fois injecté dans l'IA, elle apprend, et peu répondre aux questions d'autres personnes qui eux n'ont pas acheté ces normes.

Ce n'est pas comme ça que les IA chatbot actuelles apprennent, ce que tu injectes dans le prompt ne sert pas à d'autres.

Mais quelle différence cela fait avec moi qui connait les normes CEM et qui répond aux questions sur ce sujet dans le forum électronique ? Ou toi qui te sert de tes connaissances acquises pour répondre sur le forum ?

La différence c'est les erreurs que l'IA te sort avec un bel aplomb. J'ai des collègues qui se font avoir avec des questions "de cours" sur la 5G dont les détails sont pourtant publics (3GPP Technical Specifications, des milliers de pages sur le www que CoPilot ou ChatGPT a avalé). "Pourtant chatGPT était sûr de lui", m'a dit le collègue pas plus tard qu'hier après s'etre ridiculsé auprès d'un fournisseur... C'est un vrai problème. Qui fait perdre du temps aux entreprises.

[jiherve]

Bonjour

Par exemple des appareils de précision repose sur des conversions tension vers temps parce qu'on est capable d'atteindre de la précision incroyable avec la notion de temps

Voyons Vincent le double rampe ne date pas d’aujourd’hui!
JR

[agitateur]

Je constate qu’avec l’irruption de ChatGPT et de ses émules beaucoup cofondent IA en agents conversationnels,

OUI !!
Et il faudrait quasiment le rappeler tous les 3 messages, tellement ce point pourtant majeur semble "oublié".

Je rajouterai également que l'IA ( autre que conversationnelle ) est souvent plus mise en avant que réellement utilisée. La moindre boite mettra en avant de l'IA quand "autrefois" on aurait mis de l'algo, et même si c'est toujours de l'algo sans "I". Si tu parles pas d'IA ça fait pas sérieux, alors tu mets dans la sauce comm' même quand il n'y a pas.

[WizardOfLinn]

Je ne pense pas que cela concerne l'existence d'une "conscience", à mon avis cela n'a rien à voir avec une intention cachée purement autonome dans les agents, elle est de toute façon induite par une intrusion, un piratage. J'ai simplement voulu dire que les capacités intrinsèques des agents IA comme la capacité conversationnelle, la capacité de planification, la capacité de raisonnement logique etc, leur donnent plus de pouvoir et sont par conséquent susceptibles d'augmenter la surface d'attaque, qui est un concept crucial en sécurité informatique. De plus elles pourraient être capables (sur instruction des pirates s'ils parviennent à la détourner) de rendre plus discrètes et furtives les attaques, donner le change en montrant une fausse apparence de normalité, différer les effets néfastes, effacer les traces de l'attaque... Je pense notamment aux risques de sabotage de processus industriels ou de flux financiers. Bref, si on intègre des agents IA dans de nombreux systèmes il faudra d'autant plus prêter attention à la sécurité informatique et au blindage de ces systèmes. Mais j'exagère peut-être le problème, je ne sais pas, c'est juste une question que je pose.

Les stratégies et logiciels de défense seront aussi sophistiqués et performants que les logiciels d'attaque. Ça parait être un problème assez commun de course aux armements.

[Vincent PETIT]

Bonjour

Voyons Vincent le double rampe ne date pas d’aujourd’hui!
JR

Salut JR,

Oui tu as raison le dual slope date des années 70-80 mais je n'aurai pas pensé que les améliorations du côté temporelle (les composants de plus en plus rapides, les techniques comme les Delay locked loop, ...) aurait rendu une technique de conversion ancienne aussi précise, voir même meilleure, dans les voltmètres de précision que les ADC qu'on connait aujourd'hui.

ChatGPT en faisant l'analyse du schéma et aussi à l'aide de questions ciblées par mon intuition (j'avoue que si j'avais posé les mauvaises questions faute d'intuition, ça n'aurait pas fonctionné) m'a orienté vers le "comment ils-ont fait". Pour être franc si je m'étais lancé dans un projet de ce genre je serai partie vers d'autres solutions "plus mainstream" comme un ADC SAR ou ΔΣ mais pas vers un ADC dual/multi slope, qu'on a du mal à trouver d'ailleurs. Ou alors il m'aurait fallu du temps pour comprendre qu'une conversion tension/temps était meilleure car des techniques permettent d'atteindre des résolutions de l'ordre de la 100aine de picoseconde tandis que dans une conversion tension/binaire (l'ADC classique) on n'atteint pas cet ordre de grandeur ne serait-ce qu'à cause du bruit de conversion.


En tout cas voilà ce qu'un ami, fraîchement diplômé d'une école d'ingé, m'a dit :

"Toute ma classe a utilisé ChatGPT, moi y compris, pour les exo, les rapports etc.... il y a ceux qui l'ont utilisé pour apprendre et les autres qui s'en sont servis pour que l'IA fasse à leur place. Certains sont donc devenus plus intelligents et d'autres plus mauvais. Le problème c'est que nous étions que 5 à être dans le premier cas."

C'est pas marrant mais sa phrase est sortie tellement spontanément que j'en ai rigolé mais plus sérieusement, à mes yeux, le plus gros bouleversement ça peut être ça, avant la désinformation, les cybers attaques ou... terminator.]

[jiherve]

Re
c'est un peu comme les simulateurs soit tu t'en sers intelligemment car tu maitrises déjà le sujet ,soit tu les utilises comme un jeu vidéo : essayes encore!
JR

[agitateur]

Re
c'est un peu comme les simulateurs soit tu t'en sers intelligemment car tu maitrises déjà le sujet ,soit tu les utilises comme un jeu vidéo : essayes encore!

Ca me rappelle un sujet ( c'est anecdotique mais pas tant que celà en fait, même si on rejoins plus une discussion "simu" plus que "IA" ). Ca va te plaire c'est de l'aéro.

2 super entrainés en simu avions de combat ont engagé en simu ( un cadre jeux ) un ancien pilote chasse ( pour de vrai, connaisseur du jeux et pratiquant mais sans doute considérablement moins que les "joueurs" avancés ).
En 1 contre 2 ( ce qui est un ENORME désavantage ) le pilote seul a abattu les 2 comparses joueurs jouant en alliés.


Dans un autre cadre et pour fair écho à la remarque de Vincent Petit en 2eme partie de son message, je suis intervenu il y a peu dans la dernière année de formation d'un cycle ingé, dans un format question /réponse / échange.
Parmi un grand nombre de question ( je sais plus, disons 15 à 25 ), 2 m'ont paru "suspectes" par la formulation et la complexité des sous jacents en termes de multi disciplinaire. J'admets cependant qu'une question puisse être "naïve" et complewe dans le déroulé demandé pour y répondre. Factuellement les poseurs de questions étaient démunis et n'avaient pas forcément "compris" la complexité de la question. Il est vrai aussi que les questions étaient posées par 2 ou 3 "représentants", mais la personne initiale poseur de question n'est visiblement pas intervenu non plus pour préciser, donc j'ai reniflé 2 fois du poisson chat ( avarié ) utilisé sans maitrise.
C'est rigolo, je préfère m'en amuser. Mais ça peut poser question ( aussi ). Le sujet restant la non maitrise d'un outil par celui qui le manie.

[GBo]

Il est difficile de bien maitriser un outil très savant qui se trompe de temps en temps tout en étant très assuré, avec des propositions erronées mais très crédibles.
Cette techno (je parle des GPT-X actuels ou concurrents de même acabit) n'est pas mûre tant que ce problème n'est pas résolu.

[polo974]

Ce n'est pas comme ça que les IA chatbot actuelles apprennent, ce que tu injectes dans le prompt ne sert pas à d'autres.

Les données de requête transmises aux IA ne sont pas "oubliées", on a même vu la grosse faille sur l'IA chinoise qui exposait ces données aux quatre vents.
Ces données ont de la valeur, et même si elles ne sont pas immédiatement utilisées pour l'entraînement de l'IA, elles peuvent faire l'objet de traitement "annexes" qui pourraient s'avérer hostiles...

La différence c'est les erreurs que l'IA te sort avec un bel aplomb. J'ai des collègues qui se font avoir avec des questions "de cours" sur la 5G dont les détails sont pourtant publics (3GPP Technical Specifications, des milliers de pages sur le www que CoPilot ou ChatGPT a avalé). "Pourtant chatGPT était sûr de lui", m'a dit le collègue pas plus tard qu'hier après s'etre ridiculsé auprès d'un fournisseur... C'est un vrai problème. Qui fait perdre du temps aux entreprises.

Bah, la persistance avec aplomb dans l'erreur n'est pas l'apanage des IA. Nous, humains y arrivons aussi avec un bel enthousiasme.

[JPL]

Les données de requête transmises aux IA ne sont pas "oubliées", on a même vu la grosse faille sur l'IA chinoise qui exposait ces données aux quatre vents.

À ce que j’ai compris ce n’est pas par le biais de requêtes, mais par le fait que certaines versions explorent en continu le web, y compris les sites de fake news les plus pourris comme Pravda et qu’elles s’en nourrissent.

[GBo]

Bah, la persistance avec aplomb dans l'erreur n'est pas l'apanage des IA. Nous, humains y arrivons aussi avec un bel enthousiasme.

Bien sûr mais on a vite fait dans notre entourage de voir qui est fiable, qui sait dire "je ne sais pas" ou pas (GPT en est incapable), qui connait parfaitement son art et qui est mytho. Je n'ai jamais compris cet argument (utilisé par pm42 jusqu'à l'user) de pardonner à la machine des défauts humains alors que c'est exactement pour pallier à ces défauts que l'on fait des machines. Imagine un robot d'usine qui se met en botte au bout de 8 heures pour se mettre en pause jusqu'au lendemain, et qu'on rétorque à ceux qui s'en plaignent, bah oui, comme l'ouvrier quoi. Bah non ! Ou un taxi autonome qui s'endort sur l'autoroute.. bah non !
Ce serait tellement plus simple de s'entendre sur le fait que ce défaut de conception persistant des chatbot LLM est grave et qu'il faudra y remédier...