運(yùn)算時(shí)，很少看到結(jié)果值，中間的或最終的，等于完整的數(shù)(整數(shù))。起初看起來(lái)可編程控制器不能用來(lái)執(zhí)行精確運(yùn)算。事實(shí)不是這樣，采用比例和單元操作可以得到高精度的答案。

給出的例子顯示了一個(gè)用以測(cè)量?jī)牲c(diǎn)間地平面變化的經(jīng)緯儀。計(jì)算實(shí)際上是已知三角形的兩個(gè)直角邊，求得料邊與相鄰角度。

經(jīng)緯儀和標(biāo)尺的距離已知(部邊)，基準(zhǔn)位和當(dāng)前位也已知(所以對(duì)邊也能計(jì)算出)。這意味著所要求的角度的正切可計(jì)算出。為了得到一個(gè)合理的精確度，輸入?yún)?shù)按比例給出，基準(zhǔn)位和實(shí)際位以毫米為單位輸入，經(jīng)緯儀和標(biāo)尺的距離以米為單位輸入。在進(jìn)行“反正切”運(yùn)算前，所計(jì)算的正切需要除以100。這種方法的結(jié)果誤差限制在近似0.5度。