folgender Fehler ist mir beim Kalibrieren aufgefallen!
Ich benutze die Originalfirmware, die den Schriftzug "DIV 3.1" beim Einschalten anzeigt.
Es scheint so, als ob der angezeigte Skalierungsfaktor, der die Eingabe von 7 Stellen hinter dem Komma erlaubt, in der Berechnung nur die ersten 4 Stellen verwendet.
Der siebenstellige Wert scheint auf einen vierstelligen gerundet zu werden.
Beispiel:
Mittels einer Referenzspannung von 10V kalibriere ich den Messbereich von DC 25V.
Dabei verändere ich den Skalierungsfaktor minimal (von 1,0017500 auf 1,0017501) und der Messwert springt von 9,9997V auf 10,0008V. Screenshots dazu findet Ihr weiter unten.
Das passt nicht zusammen! Es scheint mir, dass in Wirklichkeit statt mit einem Faktor von 1,0017501 mit 1,0018 gerechnet wird. 1,0017500 wird dagegen wohl zu 1,0017 abgerundet.
Ist das Verhalten so erwünscht?
Rundet das Labviewprogramm fehlerhaft, rundet die Firmware aus Versehen oder erlaubt der Zahlentyp der verwendeten Programmiersprachen-Library nicht die suggerierte Genauigkeit von sieben Stellen hinter dem Komma?
Gruß
Martin
P.S.: Was da so am Rande unter meinem Namen steht, stimmt nicht! Seit heute habe ich ein einsatzfähiges Spar-DIV (ohne Wechselspannung und IFP ohne Ethernet)! Von "Träumen von einem c't-lab" kann wohl keine Rede mehr sein!
![Cool 8)](./images/smilies/icon_cool.gif)
![Bild](http://fs2.directupload.net/images/150208/7ldiosa2.png)
![Bild](http://fs1.directupload.net/images/150208/l4j54si7.png)