Perguntas com a marcação «precision»

Questões relacionadas à representação de grandezas numéricas em uma representação finita em uma determinada base que difere de seu valor matemático exato.

77
Existe um solucionador de programação não-linear de alta qualidade para Python?

Eu tenho vários problemas desafiadores de otimização global não convexa para resolver. Atualmente, uso o Optimization Toolbox do MATLAB (especificamente, fmincon()com o algoritmo = 'sqp'), o que é bastante eficaz . No entanto, a maior parte do meu código está em Python, e eu adoraria fazer a...

13
Precisão de ponto flutuante simples versus duplo

Os números de ponto flutuante de precisão única ocupam metade da memória e em máquinas modernas (mesmo nas GPUs, ao que parece), as operações podem ser feitas com eles quase duas vezes a velocidade em comparação com a precisão dupla. Muitos códigos FDTD que encontrei usam exclusivamente aritmética...

9
Representando números Eisenstein sem flutuadores

Eu tenho um projeto em que preciso usar campos quadráticos Especificamente, números do formulário com .a+b−3−−−√a+b−3a + b \sqrt{-3}a , b ∈Qa,b∈Qa,b \in \mathbb{Q} Por exemplo, aqui estão os números primos nos números inteiros de Eisenstein : Eu não quero usar sálvia. Eu gostaria de escrever...

8
Como posso resolver numericamente um ODE para

Suponha que tenhamos um problema de valor inicial no formato onde x 0 ∈ R n é conhecido exatamente (ou seja, com precisão ilimitada) e podemos avaliar eficientemente f : R n → R n com qualquer precisão. Ou seja, temos uma caixa preta que, dado um vetor x ∈ R n e um número inteiro M , retorna uma...