Autor Thema: Genauigkeit. Rechnen mit mehr als 6 Stellen  (Gelesen 1947 mal)

Offline konastuff

  • Newbie
  • *
  • Beiträge: 1
    • Profil anzeigen
Genauigkeit. Rechnen mit mehr als 6 Stellen
« am: Oktober 21, 2015, 14:23:30 Nachmittag »
Hallo

ich programmiere seit ein par Tagen mit dem CCS Compiler einen PIC18F2620. Ich möchte für meine Bachelorarbeit gerne GPS Daten damit bearbeiten und brauche dafür eine höhere Genauigkeit. Im Debug-Modus zeigt er mir bis auf 6 Stellen die richtigen Werte an. Danach kommen irgendwelche willkürlichen Zahlen die ich mir nicht erklären kann. Mache ich irgendetwas falsch oder gibt es irgendwelche Tricks? Habe einen exterenen 20MHz Oszillator angeschlossen.

Beispiel:

const float erdradius=6371000.8;
 float32 latm;

void main()
{

   while(TRUE)
   {
latm=erdradius;
printf("%f \n",latm);
delay_ms(1000);

Hier zeigt mir der Monitor in dem Debug-Modus z.B. nicht latm=6371000,8 sondern 6371000,96

Danke

 


* Recent Topics