Мал.2.11

При використанні методу кінцевих крапок вимірюється відхилення довільної точки характеристики (після корекції посилення) від прямою, проведеною з початку координат. Таким чином в компанії Analog Devices, Inc. вимірюють значення інтегральної нелінійності перетворювачів, використовуваних в завданнях вимірювання і управління (оскільки величина погрішності залежить від відхилення від ідеальної характеристики, а не від довільного "якнайкращого наближення").

Метод якнайкращої прямої дає адекватніший прогноз спотворень в додатках, що мають справу з сигналами змінного струму. Він менш чутливий до нелинейностям технічних характеристик. По методу якнайкращого наближення через характеристику передачі пристрою проводять пряму лінію, використовуючи стандартні методи інтерполяції кривої. Після цього максимальне відхилення вимірюється від побудованої прямої. Як правило, інтегральна нелінійність, зміряна таким чином, враховує тільки 50% нелінійності, оціненій методом кінцевих крапок. Це робить метод переважним при вказівці вражаючих технічних характеристик в специфікації, але менш корисним для аналізу реальних значень погрішностей. Для додатків, що мають справу з сигналами змінного струму, краще визначати гармонійні спотворення, чим нелінійність по постійному струму, так що для визначення нелінійності перетворювача необхідність у використанні методу якнайкращою прямою виникає досить рідко.

Інший тип нелінійності перетворювачів – диференціальна нелінійність (DNL). Вона пов'язана з нелінійністю кодових переходів перетворювача. У ідеальному випадку зміна на одиницю молодшого розряду цифрового коду точно відповідає зміні аналогового сигналу на величину одиниці молодшого розряду. У ЦАП зміна одного молодшого розряду цифрового коду повинна викликати зміну сигналу на аналоговому виході, в точності відповідне величині молодшого розряду. В той же час в АЦП при переході з одного цифрового рівня на наступний значення сигналу на аналоговому вході повинне змінитися точно на величину, відповідну молодшому розряду цифрової шкали.

Там, де зміна аналогового сигналу, відповідна зміні одиниці молодшого розряду цифрового коду, більше або менше цієї величини, говорять про диференціальну нелінійну (DNL) погрішність. DNL-погрішність перетворювача зазвичай визначається як максимальне значення диференціальної нелінійності, що виявляється на будь-якому переході.

Якщо диференціальна нелінійність ЦАП менша, ніж –1 LSB на будь-якому переході (див. рис.2.12), ЦАП називають немонотонним, і його характеристика передачі містить один або декілька локальних максимумів або мінімумів. Диференціальна нелінійність, велика чим +1 LSB, не викликає порушення монотонності, але також небажана. У багатьох додатках ЦАП (особливо в системах із зворотним зв'язком, де немонотонність може змінити негативний зворотний зв'язок на позитивний) монотонність ЦАП дуже важлива. Часто монотонність ЦАП явно обмовляється в технічному описі, хоча, якщо диференціальна нелінійність гарантовано менше одиниці молодшого розряду (тобто |DNL| R 1LSB), пристрій володітиме монотонністю, навіть якщо це явно не указується.

Буває, що АЦП немонотонний, але найбільш поширеним проявом DNL в АЦП є пропущені коди. (див. рис.2.13). Пропущені коди (або немонотонність) в АЦП такі ж небажані, як немонотонність в ЦАП. Знову таки, це виникає при DNL > 1 LSB.