Les membres ayant 30 points peuvent parler sur les canaux annonces, projets et hs du chat.
La shoutbox n'est pas chargée par défaut pour des raisons de performances. Cliquez pour charger.

Forum Casio - Autres questions


Index du Forum » Autres questions » Casio 35+/75/95 Capacité : Nombre de chiffres dans une varia
Kakemo Hors ligne Membre Points: 21 Défis: 0 Message

Casio 35+/75/95 Capacité : Nombre de chiffres dans une varia

Posté le 04/11/2015 22:11

Bonjour à tous !
Je me posais une question : pourquoi est-ce que le nombre de chiffres contenus dans une variable est toujours au plus de 10 chiffres ? Dans le sens où si j'écris 3.141592654 dans le menu Run de ma calto, le résultat est bien 3.1415926534 mais si j'écris 3.1415926536, là, le résultat est arrondi à la 9ème décimale. Pareil avec un nombre de 11 chiffres.
Au niveau de la RAM il se passe quoi ?
Merci, bonne soirée !


Dark storm Hors ligne Labélisateur Points: 11634 Défis: 176 Message

Citer : Posté le 05/11/2015 00:52 | #


Déjà, quoi que tu fasse, t'arriver à jamais à stocker la valeur exacte de Pi.

Ensuite, les variables classiques sont des flottants avec une bonne précision, mais soit tu es précis dans les petits nombres, soit tu peux aller dans les grands, mais dans tout les cas il faut faire des compromis
Au niveau de l'OS, quand tu rentre un nombre trop précis, il l'arrondi puis l'affiche
Finir est souvent bien plus difficile que commencer. — Jack Beauregard
Kakemo Hors ligne Membre Points: 21 Défis: 0 Message

Citer : Posté le 05/11/2015 08:01 | #


Ben je sais mais ma question c'est de la pure curiosité, pourquoi est-ce que l'os arrondi à cet endroit là ?
C'est une question de variables qui ne peuvent contenir qu'un certain nombre de caractères ? D'octets ?
Totoyo Hors ligne Membre d'honneur Points: 16093 Défis: 102 Message

Citer : Posté le 05/11/2015 11:40 | #


Les variables ne peuvent contenir que 15 décimales (parfois 14, selon les cas de figure) + 2 pour l'exposant.
Pierrotll avait trouvé la valeur maximale avant que la calculatrice n'arrondisse le résultat : c'était 2^49 ou 2^50.
Lephenixnoir Hors ligne Administrateur Points: 24232 Défis: 170 Message

Citer : Posté le 07/11/2015 15:56 | #


Totoyo a écrit :
Les variables ne peuvent contenir que 15 décimales (parfois 14, selon les cas de figure) + 2 pour l'exposant.
Pierrotll avait trouvé la valeur maximale avant que la calculatrice n'arrondisse le résultat : c'était 2^49 ou 2^50.

Pour autant qu'il me semblait (et cela est confirmé par la doc de SimLo), il y a 15 décimales et 3 chiffres d'exposant (l'exposant réel plus 100).

Dark storm a écrit :
Ensuite, les variables classiques sont des flottants avec une bonne précision [...]

Et je rappelle que c'est du BCD, pas du format flottant usuel.

Mon graphe (11 Avril): ((Rogue Life || HH2) ; PythonExtra ; serial gint ; Boson X ; passe gint 3 ; ...) || (shoutbox v5 ; v5)
Totoyo Hors ligne Membre d'honneur Points: 16093 Défis: 102 Message

Citer : Posté le 07/11/2015 17:42 | #


Justement, Pierrotll avait publié des tests avec des grands nombres à 15 décimales et certains étaient tronqués. Néanmoins, je n'ai aucun souvenir sur quel topic son message est publié. Par contre, pour la puissance, ça m'étonne car on ne peut aller que de -99 à 99.
Lephenixnoir Hors ligne Administrateur Points: 24232 Défis: 170 Message

Citer : Posté le 07/11/2015 17:49 | #


Eh bien justement, pour aller de -99 à 99 la calculatrice stocke en fait entre 1 et 199, ce qui nécessite trois chiffres.

Ok pour les tests de PLL. Je saurai, ça pourrait être utile.
Mon graphe (11 Avril): ((Rogue Life || HH2) ; PythonExtra ; serial gint ; Boson X ; passe gint 3 ; ...) || (shoutbox v5 ; v5)

LienAjouter une imageAjouter une vidéoAjouter un lien vers un profilAjouter du codeCiterAjouter un spoiler(texte affichable/masquable par un clic)Ajouter une barre de progressionItaliqueGrasSoulignéAfficher du texte barréCentréJustifiéPlus petitPlus grandPlus de smileys !
Cliquez pour épingler Cliquez pour détacher Cliquez pour fermer
Alignement de l'image: Redimensionnement de l'image (en pixel):
Afficher la liste des membres
:bow: :cool: :good: :love: ^^
:omg: :fusil: :aie: :argh: :mdr:
:boulet2: :thx: :champ: :whistle: :bounce:
valider
 :)  ;)  :D  :p
 :lol:  8)  :(  :@
 0_0  :oops:  :grr:  :E
 :O  :sry:  :mmm:  :waza:
 :'(  :here:  ^^  >:)

Σ π θ ± α β γ δ Δ σ λ
Veuillez donner la réponse en chiffre
Vous devez activer le Javascript dans votre navigateur pour pouvoir valider ce formulaire.

Si vous n'avez pas volontairement désactivé cette fonctionnalité de votre navigateur, il s'agit probablement d'un bug : contactez l'équipe de Planète Casio.

Planète Casio v4.3 © créé par Neuronix et Muelsaco 2004 - 2024 | Il y a 54 connectés | Nous contacter | Qui sommes-nous ? | Licences et remerciements

Planète Casio est un site communautaire non affilié à Casio. Toute reproduction de Planète Casio, même partielle, est interdite.
Les programmes et autres publications présentes sur Planète Casio restent la propriété de leurs auteurs et peuvent être soumis à des licences ou copyrights.
CASIO est une marque déposée par CASIO Computer Co., Ltd