Soustracteur de LabView pas génial, comment y remédier?

CoralieG · 28/04/2006, 11h27

Bonjour à toutes et à tous,
Je soustrais 2 valeurs numériques dans LabView. Le problème c'est que lorsque ces 2 valeurs sont égales le résultat qu'il me donne n'est pas égal à zéro...
Quelqu'un aurait-il une solution pour que j'obtienne bien le zéro attendu dans ce cas (dans les autres cas il fonctione pourtant très bien, c'est bizar).

ngassend · 28/04/2006, 11h46

pour ma part ca marche tres bien !!
je suis sous labview8

CoralieG · 28/04/2006, 13h02

ok cool...

CoralieG · 28/04/2006, 13h42

Pour ceux qui seraient confrontés au même problème que moi, j'ai fini par trouver d'où venait l'erreur...
Etant novice sur LabView, je n'avais pas prété d'importance à la "précision" (double, simple, etc...). J'étais en "double précision". Je me suis alors mise en "simple précision" et maintenant j'ai bien un résultat = à 0.
C'était tout bête en fait, mais il fallait le savoir...

ngassend · 28/04/2006, 14h38

en double ca marche aussi pour ma part etrange !!