Perguntas com a marcação «floating-point»

Carregar totalmente a varredura em uma matriz numpy?

Eu tenho tentado verificar meus filtros no DEM raster para reconhecimento de padrões e isso sempre resulta em falta das últimas linhas e colunas (como 20) . Eu tentei com a biblioteca PIL, carregamento de imagem. Então com entorpecido. A saída é a mesma. Eu pensei que algo estava errado com meus...

Precisão ao trabalhar com dados espaciais em GIS

Existe um estudo básico ou introdutório que examine e compare a precisão dos dados espaciais ao trabalhar com precisão variável da entrada de dados, como ter 1, 2, ... casas decimais? com as diversas implementações de pontos flutuantes (float, double)? com dados próximos ao equador em comparação...