Обзор универсального тестера TC66C с USB Type-C, Bluetooth, приложением для смартфона и ПК

[iliasam]

Интересно, зачем столько знаков после запятой выводить?
Очевидно, что точность измерения не настолько высокая.

[werwolflg]

Да и ведущие нули не придают наглядности.

[antonwork]

Не знаю, как реализовано здесь, но возьмем например очень распространенный чип от Texas Instruments, который стоит почти в каждой видеокарте: INA3221. Из даташита:
1-LSB step size
Bus voltage
8 mV

т.е. 8mV условный шаг у «бытового» чипа общего назначения с АЦП 13bit, который призван мерить «лишь бы как».
Но есть и специализированные чипы. На мой взгляд обеспечить точность нет проблем, скорее шунт сложнее подобрать (откалибровать) для качественного измерения тока.

UPD: судя по маркровке чипа (на фото хороши видно) это INA226@TI
соответственно имеем шаги: 1.25 mV Bus Voltage и Shunt voltage 2.5 μV (микровольты)
т.е. потенциально там может быть неплохая точность

[iliasam]

Тут, похоже, INA226 используется.
1 LSB step size — Bus voltage — 1.25 mV.
ENOB, правда, в даташите не указан.
Но в этом устройстве напряжение показывается с 4 знаками после запятой.

[Serge78rus]

Не надо путать точность и разрешающую способность. В статье указана точность 0.5% по напряжению и 1% по току. Нормальные настольные мультиметры, отображающие 6.5 десятичных разрядов, стоят от 100000р и выше.