Estou ciente de que a aritmética de ponto flutuante tem problemas de precisão. Normalmente, eu os supero alternando para uma representação decimal fixa do número ou simplesmente negligenciando o erro. No entanto, não sei quais são as causas dessa imprecisão. Por que existem tantos problemas de...
Linguagens de programação como Scheme (R5RS) e Python ( consulte esta pergunta ) são arredondadas para o número inteiro par mais próximo quando o valor está exatamente entre os números inteiros ao redor. Qual é o raciocínio por trás disso? Existe uma ideia matemática que facilite o raciocínio dos...
Ao investigar a precisão dos números de ponto flutuante, vi em alguns lugares uma declaração semelhante a " float e double são ( projetados para / usados frequentemente em ) engenharia e cálculo científico " Pelo meu entendimento, a força dos carros alegóricos e duplos é a quantidade de...
Os computadores têm problemas para armazenar números fracionários em que o denominador é outra coisa que não uma solução para 2 ^ x. Isso ocorre porque o primeiro dígito após o decimal vale 1/2, o segundo 1/4 (ou 1 / (2 ^ 1) e 1 / (2 ^ 2)) etc. Por que lidar com todos os tipos de erros de...
Ao criar um aplicativo que lida com muitos cálculos matemáticos, encontrei o problema de que certos números causam erros de arredondamento. Embora eu entenda que o ponto flutuante não é exato , o problema é como lido com os números exatos para garantir que, quando os cálculos sejam feitos neles,...
Estou tentando pensar em como eu faria cálculos em números extremamente grandes (até o infinito - não interfere em flutuações) se a construção da linguagem for incapaz de lidar com números maiores que um determinado valor. Tenho certeza de que não sou o primeiro nem o último a fazer essa...
Em números, é muito importante ser capaz de identificar esquemas instáveis e melhorar sua estabilidade. Como identificar cálculos instáveis de ponto flutuante? Estou trabalhando em uma simulação muito complexa, onde muitos esquemas numéricos trabalham juntos e estou procurando um método para...
Ao revisar a implementação de uma função de outro programador para calcular a CDF de distribuição normal , sugeri substituir a implementação inteira pelas funções internas do Python ou usar o SciPy, uma biblioteca científica comum. Outro programador apontou que math.erfc()nem...