Espero que esta pergunta seja apropriada para este site.
Me deparei com essa passagem no The Three Body Problem , um romance de Liu Cixin:
O professor havia colocado duas fotos: uma era a famosa pintura da Dinastia Song, ao longo do rio, durante o Festival de Qingming , cheia de detalhes finos e ricos; o outro era uma fotografia do céu em um dia ensolarado, a extensão azul profunda quebrada apenas por uma nuvem ... O conteúdo informativo da fotografia - sua entropia - excedia o da pintura em uma ou duas ordens de magnitude
Imagens representativas:
Isso é verdade? Como se explica esse fenômeno contra-intuitivo?
Respostas:
Depende de como você define o termo "informação" ou "entropia".
Esse tipo de entropia está correto se ignorarmos a correlação entre pixels. Por exemplo, as duas imagens têm a mesma entropia por esta definição.
Nós, seres humanos, com você como exemplo, usamos esse tipo de correlação para perceber as imagens. Esse tipo de correlação é chamado de "detalhes" e esperamos que as imagens com detalhes ricos tenham mais informações / entropia do que as simples. Esta é a razão pela qual você achou isso contra-intuitivo.
PS:
Eu tentei calcular a entropia das duas imagens que você postou, mas elas não são diferentes "por uma ou duas ordens de magnitude" !!!!
"Ao longo do rio durante o festival de Qingming" entropia cerca de 7
Entropia "O céu" cerca de 6
Eles não devem ter os mesmos arquivos do professor.
fonte
Antes de tudo, não é a pintura em si, mas a fotografia (ou uma digitalização) dela que podemos comparar com a fotografia (ou a digitalização) de outra coisa, como uma cena natural.
Com base nas imagens fornecidas, de maneira perceptiva , a pintura deve envolver mais informações, em comparação com um céu simples. O resultado é que, quando compactado, o arquivo de pintura será maior que o arquivo do céu no mesmo algoritmo de compactação.
No entanto, a cena simples do céu pode incluir componentes perceptivamente invisíveis , como artefatos de quantização, gradiente de cores ou coisas semelhantes que, mesmo que você não consiga perceber sua existência, um algoritmo matemático ainda tratará como informação estatística para que a entropia limite da imagem é aumentado. Resultando em um arquivo maior.
É claro que o mesmo pode estar acontecendo também no arquivo de pintura.
fonte
Ambos contêm a mesma informação, ou seja, ambos têm 1 bit de informação. Considere a bordo, existem duas duas imagens, uma de pintura e outra de fotografia. Portanto, a probabilidade de uma imagem é 1/2 = 0,5. Como você não sabe qual é a imagem antes de vê-las.
fonte