]> sigrok.org Git - libsigrok.git/commit
strutil: Add a helper to get the precision of a float
authorAndreas Sandberg <redacted>
Thu, 3 Oct 2024 16:34:43 +0000 (17:34 +0100)
committerSoeren Apel <redacted>
Mon, 7 Oct 2024 12:46:40 +0000 (14:46 +0200)
commitb6af0adb513db41ef43c05826af9072be8d00024
treee91614eed3c924e416120cdf817427dba21045e5
parent6669e08e02cc0cf65d292275cf40c822ea3d0048
strutil: Add a helper to get the precision of a float

There are a few different instruments where the precision of a
measurement can be determined from the number of decimals in the
reported floats. Add a helper to determine this.

The implemented version of sr_count_digits performs more stringent
error checking than the original version in
sr_atod_ascii_digits. There are two reasons for this: First, we can no
longer rely on atod failing if the provided value is invalid. Second,
there are exotic float formats accepted by atod that we don't support
and we don't want to be in a situation where atod accepts a value and
count digits returns an incorrect value.

Signed-off-by: Andreas Sandberg <redacted>
src/libsigrok-internal.h
src/strutil.c