Perguntas com a marcação «numerical-analysis»

13
Soma segura de estouro

Suponha que eu receba números inteiros de largura fixa (ou seja, eles se encaixam em um registro de largura w ), a 1 , a 2 , … a n de modo que sua soma a 1 + a 2 + ⋯ + a n = S também se encaixe em um registro de largura w .nnnwwwa1,a2,…ana1,a2,…ana_1, a_2, \dots a_na1+a2+⋯+an=Sa1+a2+⋯+an=Sa_1 + a_2...

13
Arredondamento de ponto flutuante

Um número de ponto flutuante IEEE-754 <1 (ou seja, gerado com um gerador de números aleatórios que gera um número> = 0,0 e <1,0) pode ser multiplicado por algum número inteiro (na forma de ponto flutuante) para obter um número igual ou maior que esse número inteiro devido ao...

11
Inferindo tipos de refinamento

No trabalho, fui encarregado de deduzir algumas informações de tipo sobre uma linguagem dinâmica. Reescrevo seqüências de instruções em letexpressões aninhadas , da seguinte maneira: return x; Z => x var x; Z => let x = undefined in Z x = y; Z => let x = y in Z if x then T else F; Z =>...

8
Detectando estouro na soma

Suponha que eu receba uma matriz de números inteiros de largura fixa (ou seja, eles se encaixam em um registro de largura ), . Eu quero calcular a soma em uma máquina com aritmética de complemento 2, que executa adições do módulo com semântica envolvente. Isso é fácil - mas a soma pode exceder o...

7
integral numérica vs raízes de contagem

Eu tenho um problema que pode ser visualizado de duas maneiras diferentes: Calcule um contexto numérico integral dimensional. O domínio de integração é um hiper-cubo -dimensional de lado .nnnnnnLLL Conte (apenas conte) as raízes de uma função dimensional (não um polinômio).nnn Resolver apenas...