]> sigrok.org Git - libsigrok.git/commitdiff
dmm/metex14: fix values for digits properties
authorFrank Stettner <redacted>
Fri, 23 Dec 2022 11:20:44 +0000 (12:20 +0100)
committerGerhard Sittig <redacted>
Sun, 19 Feb 2023 10:27:45 +0000 (11:27 +0100)
Unify the metex14 package parser with the other drivers regarding the use of
the digits properties in the analog payload. This commit adjusts the previously
unclear, but now clarified, use of these properties:

Number of significant digits after the decimal point, if positive. When
negative, exponent with reversed polarity that is necessary to express the
value with all digits without a decimal point.

This commit partly reverts commit 7fb4ff0

src/dmm/metex14.c

index d93052a85b84bc7cbfbe50b5b3c266df50dbf665..1c751bd5f794d2682cfacdec72f1f171b3d23ef9 100644 (file)
@@ -195,8 +195,6 @@ static void handle_flags(struct sr_datafeed_analog *analog, float *floatval,
 {
        int factor;
 
-       (void)exponent;
-
        /* Factors */
        factor = 0;
        if (info->is_pico)
@@ -212,6 +210,7 @@ static void handle_flags(struct sr_datafeed_analog *analog, float *floatval,
        if (info->is_mega)
                factor += 6;
        *floatval *= powf(10, factor);
+       *exponent += factor;
 
        /* Measurement modes */
        if (info->is_volt) {