vb , chiffre sgnificatifs
Répondre à la discussion
Affichage des résultats 1 à 7 sur 7

vb , chiffre sgnificatifs



  1. #1
    invite425270e0

    vb , chiffre sgnificatifs


    ------

    Bonjour,

    Sachant que Visual Basic travaille avec 15 chiffres (dans notre problème 14 chiffres après la virgule) et que nous utilisons la fonction arctan (Atn) par récurrence sur plusieurs milliards d'itérations, peut-on espèrer avoir un résultat fiable à 15 chiffres significatifs car nous trouvons un résultat complètement différent de celui attendu.

    Visual Basic est-il toujours précis sur une récurrence de plusieurs milliard d'itérations?
    J'ai entendu parler que VB avait du mal avec des chiffres supérieur à 2.5 milliards.

    Cordialement, Universmaster.

    -----

  2. #2
    zoup1

    Re : vb , chiffre sgnificatifs

    Visual basic comme la plupart des language de programmation travaille avec une représentation dite "a virgule flottante".

    La précision du résultat final dépend du type d'opérations que tu fais.
    Par exemple si tu fais la différence de 2 nombres qui sont très proches (disons qu'il diffèrent simplement à partir du 13ème chiffre significatif), alors la présicion que l'on peut attendre sur cette différence est simplement de 2 chiffres significatifs.

    Par contre si tu prends les mêmes 2 chiffres et que tu en fait la somme alors tu garde un précision à (peu près de) 15 chiffres significatifs.
    Je te donne une idée, tu me donnes une idée, nous avons chacun deux idées.

  3. #3
    invitee840409b

    Re : vb , chiffre sgnificatifs

    On fait des opérations dont le résultat n'est pas sûr? C'est pas un ordi quantique votre truc?

  4. #4
    invite425270e0

    Re : vb , chiffre sgnificatifs

    Ok, merci

    Je fais des soustraction dont les résultats sont proches de l'ordre de 10^-13.
    Donc inutile d'avoir un truc précis avec VB... Vous connaissez d'autres logiciels plus précis?

    (non ce n'est pas un ordi quantitque ^^)

    Cordialement, Universmaster.

  5. A voir en vidéo sur Futura
  6. #5
    invitec94d2bbe

    Re : vb , chiffre sgnificatifs

    Bj à tous,

    Le problème n'est pas dans le logiciel mais dans la méthode de calcul et les chiffres significatifs à conserver ....

    La question aurait plus de succés dans le forum math afin de partir sur la bonne méthode ...

  7. #6
    invite787dfb08

    Re : vb , chiffre sgnificatifs

    Etben on va mettre un post dans le forum mathématique.

    Mais on éxécute en fait une boucle sur VB, et on la reprocduit des milliards de fois, jusqu'à 40 milliards. Pour caculer les chiffres significatifs, on a 15 chiffres pour toutes les données, c'est vrai que les matheux pourraient peut être aider.

    ++

  8. #7
    invite425270e0

    Re : vb , chiffre sgnificatifs

    Ok Merci à tous quand même, on va essayer de s'arranger avec les matheux

    ++

Discussions similaires

  1. code chiffré
    Par invitee619f7a1 dans le forum Mathématiques du supérieur
    Réponses: 32
    Dernier message: 20/10/2010, 21h45
  2. Chiffre significatif
    Par inviteb0f26f16 dans le forum Chimie
    Réponses: 3
    Dernier message: 10/11/2007, 10h37
  3. chiffre significatif
    Par invite99e93d4e dans le forum Physique
    Réponses: 36
    Dernier message: 12/10/2007, 11h21
  4. un chiffre bizarre
    Par invite22bb543b dans le forum Chimie
    Réponses: 2
    Dernier message: 10/11/2004, 20h26
Dans la rubrique Tech de Futura, découvrez nos comparatifs produits sur l'informatique et les technologies : imprimantes laser couleur, casques audio, chaises gamer...