Coordenadas UTM - Latitud y Longitud. Decimales significativos.

Buen día foro.

Resula ser que estoy trabajando en una rutina para convertir coordenadas UTM a Latitud y Longitud. Me pasaron un excel que me está sirviendo de guía. La mayoría de los cálculos coinciden bien entre el excel y lisp, sin embargo hay algunos que no y esto pues va acumulando errores que provocan que la coordenada no caiga en el lugar que le corresponde. Por ejemplo, tengo este valor:


que viene de:

Código:


(setq fi(/ (distof yy)(* 6366197.724 0.9996)))
y del excel:
(O11)/(6366197.724*0.9996)
YY = O11 = 2126197 que es la coordenada norte del punto UTM que estoy convirtiendo


En estas fórmulas, aparentemente no debería existir diferencia, pero existe. Espero puedan orientarme.

Saludos y gracias

Por si requieren el excel guía:

https://we.tl/t-6Qo96Yoxy4

Gracias

Hola

Podría ser un redondeo de números grandes, lo cual siempre se ve afectado por el sistema de almacenar en punto flotante.
Eso a veces se puede corregir reordenando las operaciones aritméticas, especialmente los productos y potencias para no llegar a números muy grandes.

Solo que es necesario seguir el código más atrás porque en realidad la sentencia que pusiste funciona bien, mira

Código:

_$
_$ (setq fi (/ (distof "2126197")(* 6366197.724 0.9996)))
0.334116
_$ (rtos fi 2 8)
"0.33411589"
_$

así que debemos pensar que tu variable yy ya venía alterada desde código atrás

o que hubieras digitado algo mal, porque casualmente si cambias el 7 de las unidades por un 4 te da exactamente ese valor que pusiste

Código:

_$ (rtos (/ (distof "2126194")(* 6366197.724 0.9996)) 2 8)
"0.33411542"
_$

Gracias maestro... voy a revisar otra vez.