Perguntas com a marcação «precision»

98
PHP7.1 json_encode () Problema de flutuação

Esta não é uma pergunta, pois é mais uma questão de estar ciente. Atualizei um aplicativo que usa json_encode()para PHP7.1.1 e estava vendo um problema com flutuações sendo alteradas para, às vezes, estender para 17 dígitos. De acordo com a documentação, o PHP 7.1.x passou a usar ao...

97
C # DateTime.Now precision

Acabei de ter um comportamento inesperado com DateTime.UtcNow ao fazer alguns testes de unidade. Parece que quando você chama DateTime.Now/UtcNow em rápida sucessão, parece devolver o mesmo valor por um intervalo de tempo mais longo do que o esperado, em vez de capturar incrementos de milissegundos...

15
Por que o np.dot é impreciso? (matrizes n-dim)

Suponha que tomemos np.dotduas 'float32'matrizes 2D: res = np.dot(a, b) # see CASE 1 print(list(res[0])) # list shows more digits [-0.90448684, -1.1708503, 0.907136, 3.5594249, 1.1374011, -1.3826287] Números. Exceto, eles podem mudar: CASO 1 : fatiaa np.random.seed(1) a = np.random.randn(9,...

12
Soma estável eficiente de números ordenados

Eu tenho uma lista bastante longa de números positivos de ponto flutuante ( std::vector<float>, tamanho ~ 1000). Os números são classificados em ordem decrescente. Se eu somar eles seguindo a ordem: for (auto v : vec) { sum += v; } Acho que posso ter algum problema de estabilidade numérica,...