1. Määritä alue :
- Tunnista laitteen mittausalue, joka edustaa minimi- ja maksimiarvoja, jotka se voi mitata.
2. Laske Full Scale Value (FSV) :
- Vähennä minimiarvo alueen enimmäisarvosta löytääksesi täyden mittakaavan arvon.
3. Määritä osastojen määrä :
- Laske merkintöjen tai asteikkojen määrä instrumentin asteikolla.
4. Laske resoluutio :
- Jaa Full Scale Value (FSV) jakojen määrällä.
Resoluutio =(täysi mittakaava) / (osastojen määrä)
Esimerkki :
- Harkitse volttimittaria, jonka alue on 0–100 volttia ja jonka asteikolla on 20 jakoa.
- Full Scale Value (FSV) =100 volttia - 0 volttia =100 volttia
- Osioiden lukumäärä =20
- Resoluutio =(100 volttia) / (20 jakoa)
- Resoluutio =5 volttia jakoa kohti
Tässä tapauksessa volttimittarin pienin jako on 5 volttia, mikä tarkoittaa, että volttimittari pystyy selvittämään ja näyttämään jännitteen muutokset 5 voltin portain.