Deepseek

[Cromagnon]

Je suis entièrement d'accord avec tout cela, mais avez-vous étudié le code source pour vous assurer qu'il n'envoie pas vos données en Chine à votre insu? Sans cela, à moins de travailler exclusivement en air gap (de préférence dans une cage de Faraday de niveau militaire), c'est impossible. Mais moi avec mon pauvre PC muni d'un carte graphique Intel de base, je me contente de sujets anodins et non personnels, juste pour tester le machin.

Non, inutile de vérifier le code source pour vérifier s'il est prévu pour envoyer les données à la maison mère de l'éditeur, il y a suffisamment de geek pour le faire.
Par contre, ce que je voulais faire remarquer c'est qu'à partir du moment où vous installez votre Deepseek en local, l'éditeur n'a plus accès à vos données.
D'autant plus si votre installation n'est pas en réseau.

D'autre part il est massivement faux de croire qu'on a besoin de ressources hardware mirobolantes pour faire tourner le modèle.
Il ne faut pas confondre la génération des données (qui nécessitent des ressources énormes) et l'utilisation des données, beaucoup plus light.
Déjà parce que vous pouvez choisir des versions qui ne nécessitent pas autant de ressources (genre 2GB de données contre plus de 400Gb pour la version complète) et que ces versions allégées peuvent s'avérer tout à fait suffisantes pour les besoins d'une entreprise.
C'est comme si vous auriez besoin d'aller d'un point A à un point B et que quelqu'un vous disait: "Tu peux pas te déplacer en Twingo puisque la Ferrari est hors de prix et nécessite des compétences supplémentaires".
Ce serait complètement idiot, n'est-ce pas ? Là c'est pareil.

Il est également totalement erroné de croire que vous ayez besoin de posséder une machine super puissantes pour bénéficier d'une expérience analogue à celle proposée par Deepseek en ligne.
Il vous suffit de louer un serveur avec des capacités suffisantes, genre 30€/mois, et l'installation de Deepseek est même spécialement prévue chez certains hébergeurs.
Là aussi vous êtes "en local" et vos données vous appartiennent.

A savoir également que l'installation est ridiculement simple.
Perso il m'a fallu 10 minutes, en trainant un peu sur un bug en plus, pour installer en local la version 1.8Gb de Deepseek sur un portable tout pourri.
Ça tourne, c'est un peu lent, mais c'est privé.

Si vous voulez en savoir plus, vu qu’apparemment vous recevez plusieurs sons de cloche et que vous aimeriez probablement avoir le fin mot de l'histoire, allez juste jeter un œil à ce tuto (super bien fait) :
Deepseek | L’Alternative Ultime à ChatGPT ? (100% gratuite) 13mn
https://www.youtube.com/watch?v=mJo_lzkijZI
-----

[pm42]

D'accord, merci pour ces précisions. Cependant, j'ai réuni du matériel et des données pour écrire, au mieux un livre, sinon un gros article, sur un sujet que je connais bien et qui me tient à coeur mais j'évite de partager ces données et les idées avec des outils en cloud, quels qu'ils soient, même si MFA activée, etc.

C'est ton choix et il est légitime. C'est bien sur une préoccupation de pas mal d'utilisateurs notamment en entreprise et certains fournisseurs de Cloud et/ou d'IA proposent des solutions auxquelles on peut plus ou moins faire confiance.

[ThM55]

C'est ton choix et il est légitime. C'est bien sur une préoccupation de pas mal d'utilisateurs notamment en entreprise et certains fournisseurs de Cloud et/ou d'IA proposent des solutions auxquelles on peut plus ou moins faire confiance.

Mouais. J'ai travaillé quelques années pour des projets "secrets défense" (devoir de réserve, je ne peux pas dire où) mais il y régnait une paranoïa poussée à l'extrême et en soi très couteuse. Pas question que quoi que ce soit sorte. J'ai séparément souscrit une assurance juridique pour m'aider à me défendre en cas d'erreur.

[pm42]

Mouais. J'ai travaillé quelques années pour des projets "secrets défense" (devoir de réserve, je ne peux pas dire où) mais il y régnait une paranoïa poussée à l'extrême et en soi très couteuse. Pas question que quoi que ce soit sorte.

Pareil à un point de ma carrière durant laquelle j'ai également eu à gérer différents niveaux de secrets moins forts que le secret défense mais importants quand même : médical et bancaire dans des pays qui ne rigolent pas avec et où c'est du pénal brutal.
De plus, depuis GDPR, le niveau de sécurité des données exigé dans beaucoup de domaines en Europe est très élevé et pas toujours simple à respecter concrètement.

Mais en revenir à l'IA, on peut bien sur faire du 100% serveur dédié si on des modèles et il ne faut pas oublier que la plupart ne sont pas des LLMs. Par exemple, les IAs militaires qui pilotent des drones ne sont pas construites sur cette techno. Idem pour celles qui cherchent à trouver des tumeurs sur des radios ou à détecter des fraudes bancaires.

Mais pour les LLMs, il faut vraiment avoir de bonnes raisons pour travailler comme ça pour plusieurs raisons :
- le temps qu'on mette en place ce genre de projet dans la plupart des entreprises ou environnements, les LLMs choisis seront dépassé ainsi que le hardware
- construire un environnement 100% sécurisé en interne si on ne l'a pas déjà n'est pas si simple et atteindre le même niveau que certains prestataires du cloud spécialisés sera difficile
- on va vite tomber sur le problème de la scalabilité : on doit construire une infrastructure pour absorber la charge en pointe. Elle ne sert donc à rien le reste du temps et coûte très cher. Et si demain on doit doubler sa puissance même temporairement, il faut acheter le double ?

Et j'en oublie. Je ne suis pas spécialement fan du Cloud et notamment de certaines technologies dedans ou de la complexité artificielle qui rappelle le mainframe mais les avantages sont réels pour beaucoup d'utilisateurs et justifient qu'il soit largement répandu.
D'autant que le spectre de solutions disponibles est plus vaste que ce qu'on a pu lire ici.

[ThM55]

La mère d'un élève trouve dans l'historique chatGPT du PC familial: "Rédige un devoir sur les loisirs d'un ado: football, jeux vidéos, mangas, dans le style d'un collégien de 13 ou 14 ans, AVEC DES FAUTES!".

[ThM55]

Pardon, je me suis trompé de sujet, je voulais placer cela dans le fil sur l'humour https://forums.futura-sciences.com/d...lia-reste.html . Désolé.

[pm42]

Pardon, je me suis trompé de sujet, je voulais placer cela dans le fil sur l'humour https://forums.futura-sciences.com/d...lia-reste.html . Désolé.

Oui et ce n'est pas spécifique à DeepSeek mais c'est un vrai sujet : l'obsolescence d'une grande partie du système éducatif avec l'IA. Cela me préoccupait déjà quand je faisais mes études et que notre éducation ignorait tous les outils qu'on allait utiliser réellement pour nous faire faire des tâches mécaniques que je ne trouvais pas spécialement formatrices.
J'ai été encore plus surpris de constater qu'à l'époque, mes petits camarades qui faisaient des études de maths méprisaient joyeusement les ordinateurs jusqu'au jour où ils ont du chercher des stages dans des labos et ont constaté avec surprise que l'analyse numérique était un énorme sujet et que même dans pas mal de domaines de maths plus abstraites, on utilisait à fond les ordinateurs.

Là, je me demande si on ne fait pas la même chose avec l'IA.

[stefjm]

Du genre
- interdiction du stylo plume parce que la plume et l'encrier, c'est mieux.
- interdiction du stylo Bic parce que le stylo plume, c'est mieux.
- interdiction des calculettes parce que le calcul mental, c'est mieux.
- interdiction des ordinateurs, parce que la calculette (à notation polonaise inversée, évidement) , c'est mieux.
- interdiction du réseau, parce que le travail individuel, c'est mieux.
- interdiction des chatbots, parce que...c'est mieux.

Etc...

Très très vielle histoire...

[pm42]

Oui, tout ça et de super souvenirs du genre "vous n'aurez pas toujours une calculatrice avec vous" pour justifier leur interdiction. En effet, j'ai actuellement l'équivalent d'un super-calculateur qui fait encyclopédie et tout le reste.
Ou bien sur le fait qu'on enseignait les maths sans jamais dire aux élèves qu'il existait des logiciels de calcul formel qui tournaient sur un bête ordi perso...
Et ma favorite : le dessin industriel à l'encre de chine avec pour corriger le fait de découper dans l'épaisseur du papier au rasoir et épreuve de ça à l'entrée de Polytechnique.
Alors qu'une fois entré à l'X, les élèves avaient la salle remplie de Mac avec imprimante laser : autant dire que l'encre de chine n'allait plus trop servir et la maitrise de la découpe du papier dans l'épaisseur sans faire de trous non plus.

Mais bon, souvenirs d'anciens combattants mis à part, on est passé d'un monde où la connaissance était dans les livres et où la retrouver et la maitriser nécessitait d'avoir pas mal de choses en mémoire à un où tout est accessible en ligne.
Cela change déjà beaucoup pas mal de façons de travailler.

Et là, on est en train de faire un saut encore plus important : les IAs peuvent faire énormément de tâches à notre place, vite et bien.
Comme déjà dit, j'ai récemment fait des tâches qui auraient été considérées comme relevant d'un programmeur très expérimenté ou plutôt d'un architecte logiciel uniquement en pilotant une IA.

Et je remarque que pas mal d'entretien d'embauche sont basés sur des prémisses obsolètes, demandant au candidat de résoudre des problèmes abstraits qui ne correspondent pas à ce qu'il aura à faire mais surtout qui seraient facile dans le monde réel parce qu'avec le Net et les IAs, il trouvera la réponse optimale en un rien de temps.

Pour l'éducation, c'est encore pire : on va évaluer les gens sur des choses qui sont triviales pour les ordis, l'équivalent de leur faire faire de la recopie de texte à la plume d'oie pour mesurer leur maitrise de l'écriture. Ou apprendre par coeur les départements, leur préfecture et code postal comme on l'avait fait à mes parents.

Cela pose pas mal de questions et cela ne va pas s'arranger au fur et à mesure des progrès de la techno.

[racard]

Oui, tout ça et de super souvenirs du genre "vous n'aurez pas toujours une calculatrice avec vous" pour justifier leur interdiction. En effet, j'ai actuellement l'équivalent d'un super-calculateur qui fait encyclopédie et tout le reste.
Ou bien sur le fait qu'on enseignait les maths sans jamais dire aux élèves qu'il existait des logiciels de calcul formel qui tournaient sur un bête ordi perso...
Et ma favorite : le dessin industriel à l'encre de chine avec pour corriger le fait de découper dans l'épaisseur du papier au rasoir et épreuve de ça à l'entrée de Polytechnique.
Alors qu'une fois entré à l'X, les élèves avaient la salle remplie de Mac avec imprimante laser : autant dire que l'encre de chine n'allait plus trop servir et la maitrise de la découpe du papier dans l'épaisseur sans faire de trous non plus.

Mais bon, souvenirs d'anciens combattants mis à part, on est passé d'un monde où la connaissance était dans les livres et où la retrouver et la maitriser nécessitait d'avoir pas mal de choses en mémoire à un où tout est accessible en ligne.
Cela change déjà beaucoup pas mal de façons de travailler.

Et là, on est en train de faire un saut encore plus important : les IAs peuvent faire énormément de tâches à notre place, vite et bien.
Comme déjà dit, j'ai récemment fait des tâches qui auraient été considérées comme relevant d'un programmeur très expérimenté ou plutôt d'un architecte logiciel uniquement en pilotant une IA.

Et je remarque que pas mal d'entretien d'embauche sont basés sur des prémisses obsolètes, demandant au candidat de résoudre des problèmes abstraits qui ne correspondent pas à ce qu'il aura à faire mais surtout qui seraient facile dans le monde réel parce qu'avec le Net et les IAs, il trouvera la réponse optimale en un rien de temps.

Pour l'éducation, c'est encore pire : on va évaluer les gens sur des choses qui sont triviales pour les ordis, l'équivalent de leur faire faire de la recopie de texte à la plume d'oie pour mesurer leur maitrise de l'écriture. Ou apprendre par coeur les départements, leur préfecture et code postal comme on l'avait fait à mes parents.

Cela pose pas mal de questions et cela ne va pas s'arranger au fur et à mesure des progrès de la techno.

bonjour merci à PM42 et tous les participants.
je pense que je fais partie de la majorité des gens à ne rien comprendre à l'IA, il restera une part infime qui saura s'adapter vouloir l'utiliser et il y aura une part des gens qui seront hostiles par méconnaissances méfiances etc...
ca pourrait être un beau sujet philosophique.
il y a pour moi une différence entre une électronique et une informatique programmée pour réaliser des taches en automatiques ca n'est pas de l'IA et le marketing nous vendent ca comme avec une IA intégrée, donc c'est un peu une anarque commerciale ou bien un autre procédé
et il y a la vraie IA chatgpt etc...
ca laisse entrevoir des organismes de certifications dans le futur pour ne pas tromper le consommateur...
bonne journée à tous

[invite40271050]

Le "consommateur" lambda consommera SANS meme le savoir !
Les concepteurs eux (application) vaut mieux qu'ils sachent eux "comment ça marche"

[ThM55]

Ce que je trouvais rigolo c'est que l'élève demandait des fautes! Il avait peur d'avoir un beau style, de faire un sans faute et de révéler ainsi qu'il avait utilisé l'outil honni. A 13 ans, il a déjà compris le principe des bons prompts.

Mais c'est vrai , j'ai connu l'interdiction du stylo plume, l'instit remplissait nos encriers intégrés dans le banc le matin. Plus tard l'interdiction du bic (cela donne une vilaine écriture!). Et l'interdiction de la calculatrice en 1976 à l'examen d'admission à l'université de Louvain! (interdiction levée l'année suivante, mon frère y a eu droit, c'est trop injuste).

Pour les nostalgiques, on trouve ceci: http://www.stefanv.com/calculators/aristo970/index.html

[pm42]

Ce que je trouvais rigolo c'est que l'élève demandait des fautes! Il avait peur d'avoir un beau style, de faire un sans faute et de révéler ainsi qu'il avait utilisé l'outil honni. A 13 ans, il a déjà compris le principe des bons prompts.

Oui, je suppose qu'ils se refilent les astuces entre eux et effectivement, c'est rigolo mais typique de l'ingéniosité des gamins.

On va avoir à terme des devoirs conçus par des IAs auxquels des IAs répondront.
Je ne sais pas comment faire pour intégrer cette évolution dans le système éducatif et je n'ai pas regardé quelle réflexion il y a sur le sujet mais je pense que ce n'est pas simple.

P.S : la règle à calculer virtuelle est chouette mais je suis de la génération qui fantasme sur les calculatrices comme les HP classiques et tout ce qui est fait aujourd'hui autour.

[stefjm]

On va avoir à terme des devoirs conçus par des IAs auxquels des IAs répondront.

C'est déjà le cas.
J'ai utilisé une IA pour concevoir le sujet d'examen, puis demandé sa résolution, puis demandé un barème.
Là où c'est très cool, c'est surtout de demander à l'IA de corriger le paquet de ".doc" , autant être moderne jusqu'au bout.
Avec un bon système d'information, les étudiants peuvent recevoir leur note dans la seconde et apprécié la qualité de l'IA qu'il ont utilisé pour bosser!

Je ne sais pas comment faire pour intégrer cette évolution dans le système éducatif et je n'ai pas regardé quelle réflexion il y a sur le sujet mais je pense que ce n'est pas simple.

C'est surtout le soucis de la fiabilité des sources qui m'interroge le plus.
Dans un bouquin, il pouvait y avoir des coquille, mais globalement, c'était ok.
Sur le net, il faut faire le tri et ce n'est pas forcément évident.
Avec une IA? C'est très nébuleux pour moi.
Et évidement, je n'y suis pas continument formé...

[ThM55]

C'est surtout le soucis de la fiabilité des sources qui m'interroge le plus.
Dans un bouquin, il pouvait y avoir des coquille, mais globalement, c'était ok.
Sur le net, il faut faire le tri et ce n'est pas forcément évident.
Avec une IA? C'est très nébuleux pour moi.
Et évidement, je n'y suis pas continument formé...

ChatGPT et Deepseek permettent d'activer un mode "recherche" qui donne des sources.

[invite40271050]

Oui, je suppose qu'ils se refilent les astuces entre eux et effectivement, c'est rigolo mais typique de l'ingéniosité des gamins.

On va avoir à terme des devoirs conçus par des IAs auxquels des IAs répondront.
Je ne sais pas comment faire pour intégrer cette évolution dans le système éducatif et je n'ai pas regardé quelle réflexion il y a sur le sujet mais je pense que ce n'est pas simple.

P.S : la règle à calculer virtuelle est chouette mais je suis de la génération qui fantasme sur les calculatrices comme les HP classiques et tout ce qui est fait aujourd'hui autour.

Ce qui compte c'est l'esprit de compréhension des utilisateurs.
C'est à dire savoir s'en servir et résoudre un probléme. C'est le coté bénéfique. Comme disais mes patrons:
je te demande pa de tout savoir, je te demande de trouver l, aller chercher la réponse si nécessaire.A+

[pachacamac]

Bonjour, je viens de découvrir l'I.A. française Le Chat de Mistral A.I.

Un petit commentaire sur son niveau par rapport à Deepeek et ChatGPT bienvenue.

Note : je suis en train de la tester actuellement. Je lui est demandé de me raconter une blague, il me sort exactement la même que ChatGPT...bizarre..

[pm42]

Un petit commentaire sur son niveau par rapport à Deepeek et ChatGPT bienvenue.

Le "niveau" est difficile à définir parce que tout dépend sur quoi on la teste. Il y a des dizaines de benchmarks actuellement.
Ensuite, les modèles évoluent tout le temps.
J'avais testé il y a un an ou plus quand cela avait fait beaucoup de buzz et c'était pas mal mais pas encore au niveau d'OpenAI.

De ce que je lis, c'est actuellement très bon mais pas tout à fait au top même si certains de leurs modèles pour l'assistance à la programmation se sont avérés parmi les tous meilleurs.

[pachacamac]

Je sais pas si c'est un modèle aussi économe en ressource que Deepseek mais en tout cas quand il a fait "beaucoup de buzz" c’était rien en comparaison du buzz qu'a fait Deepseek

[pm42]

Je sais pas si c'est un modèle aussi économe en ressource que Deepseek mais en tout cas quand il a fait "beaucoup de buzz" c’était rien en comparaison du buzz qu'a fait Deepseek

Rien n'est aussi économe en ressources que Deepseek mais il faut comparer ce qui est comparable : le buzz autour de Mistral venait du fait que des français pouvaient faire un modèle compétitif alors que l'Europe est plutôt à la rue en IA.
Et c'était à une époque où même si on parlait déjà beaucoup des LLMs, ce n'était rien comparé à maintenant.

Deepseek, c'est un progrès important parce que ça fait au moins aussi bien que les meilleurs pour nettement moins cher et leur marketing a été remarquable.

[julienz3]

Vous pensez vraiment que les chiffres sont vrais ? Je pense qu'ils ont menti, la technologie doit prendre plus de ressources, mais ce n'est que mon ressenti.

[pm42]

Vous pensez vraiment que les chiffres sont vrais ? Je pense qu'ils ont menti, la technologie doit prendre plus de ressources, mais ce n'est que mon ressenti.

Les versions open-source auraient tendance à confirmer les chiffres de ce que coute de faire tourner le système.
Par contre, ils ont raconté une belle histoire sur le coût d'entrainement par exemple en oubliant certains aspects même si là aussi, leur performance est remarquable.

[Youri Gagarine]

Les versions open-source auraient tendance à confirmer les chiffres de ce que coute de faire tourner le système.
Par contre, ils ont raconté une belle histoire sur le coût d'entrainement par exemple en oubliant certains aspects même si là aussi, leur performance est remarquable.

Pas seulement les couts, mais aussi les ressources.
Est ce qu'on connaît la consommation en électricité des serveurs qui font tourner les principales IA?
Il me semble qu'elle est très élevée.
Si en plus il faut produire plus d'électricité pour le tout électrique dans les transports en Europe d'ici 2035, il va en falloir des éoliennes et des panneaux solaires.