string to float et précisions

[yoyoyaya]

Lu les gonz, i need your help.

Je récupère un long string que je coupe (sans problèmes) pour récupérer des données qui sont ensuite convertis en float.
Seulement, unity, dans sa grande bonté, à décidé de me faire chier et à tendance à me plomber les valeurs.
voyez vous même :

Code : Tout sélectionner

avec un point au lieu d'une virgule
float a = float.Parse("950561722.8715973258");
print(a.ToString());
//me sort 9.505617E+08

float a = float.Parse("950561722.8715973258");
print(a);
//me sort 9.505617E+08

avec une virgule au lieu d'un point
float a = float.Parse("950561722,8715973258");
print(a.ToString());
//me sort 9.505618E+18

float a = float.Parse("950561722,8715973258");
print(a);
//me sort 9.505618E+18

et c'est pareil dans mon gui.

Je n'y comprends vraiment plus rien. Le fait est que j'ai besoin de passer ces longues lignes de texte en float pour pouvoir calculer avec et je dois absolument garder la précision.

Donc quelqu'un aurait une idée pour passer d'énormes chaine de chiffres de strings avec des points/virgules en float tout en gardant la précision du tout ? Même du ikea (bordel pas propre), je prends.

J'espère être compréhensible, vous n'imaginez même pas à quel point ça me prend la tête et je suis crevé (regardez l'heure du post, je ne suis pas allé faire dodo pour vous dire )

Please, sauvez un poney
yoyo

[F@B]

salut Poney!

je sais pas si j'ai tout pigé mais ça serait pas un problème de floating point, essaye avec un double au lieu de float?

[Max]

avec

Code : Tout sélectionner

double a = double.Parse("950561722.8715973258");
print(a.ToString());

cela devrait améliorer les choses, non ? (voir passer par decimal)

[boubouk50]

D'après Wikipedia
Quand un float dépasse une certaine valeur > 10000 je crois, alors il le réduit à un float inférieur à 10 * 10^x.
Du coup 950561722.8715973258 = 9.505617*10^8
L'approximation du float à 6 décimales après la virgule, te fais perdre la précision... Un float est une approximation. Voilà pour l'explication.
Pour la solution, je sais pas trop.
Pour des variables aussi énormes, tu pourrais utiliser un Integer pour l'entier associé à un float pour les décimales en segmentant ta String en deux par le point:
int a = 950561722;
float b = 0.8715973258;
Le problème restera le même je pense si tu veux revenir à un float après, l'approximation sera toujours la... Peut être que dans ce cas de figure avec de grands nombres, l'Integer est plus précis.

[artemisart]

Effectivement le float sera pas assez précis, double est 2x plus précis mais pas si ça suffit pas essaye decimal (et au pire int + float comme boubouk50 a dit mais c'est le moins pratique).
Tu dois aussi pouvoir trouver des libs pour gérer précisément les grand nombres (style BigInteger mais avec des décimales).

[yoyoyaya]

vite fait avant d'aller au dodo.

Merci à vous les filles, c'est du rapide (vais pas m'en plaindre ^^)

Habitué aux int/float alakon, je n'ai pas pensé au double. Merci donc max et fab

boubouk, j'avais aussi pensé à couper au niveau du point mais je trouvais ça un peu radical et je cherchais d'abord à savoir si il existait une solution plus simple. Maintenant, j'ai testé en coupant comme dit pour obtenir deux double (le int me sort que la valeur est trop large ...) et ça semble faire le job.
Je devrais donc pouvoir tirer un truc de tout ça. Je verrais au réveil et vous tiendrais au courant des résultats (c'est un peu un cas extrême mais qui sait, ça pourrait peut-être servir à un autre).

[NDrew]

Hors sujet après avoir revu la question

[NDrew]

Désolé, je me répond...;

Donc la différence entre le . et la , vient du fait que quand il y a une virgule, il la fait juste sauter et convertit le nombre 9 505 617 228 715 973 258

d'ou le e+18

[artemisart]

Maintenant, j'ai testé en coupant comme dit pour obtenir deux double (le int me sort que la valeur est trop large ...) et ça semble faire le job.

Evite le double pour la partie entière un long ou ulong (toujours positif) ou même un BigInteger (System.Numerics) serait mieux.

[F@B]

et oui Arte a raison évite le double pour la partie entière il va réserver des Bits pour stocker des décimales que tu n'utilise pas!

bon courage et de rien et surtout bonne nuit!! (arf il est 14h ici t'es au Quebec?!)