Modelo de efeitos mistos com splines

Estou ajustando um modelo de efeitos mistos com um termo spline em um aplicativo em que a tendência ao longo do tempo é conhecida por ser curva-linear. No entanto, o que eu gostaria de avaliar é se a tendência curvi-linear ocorre devido ao desvio individual da linearidade ou é um efeito no nível do grupo que faz com que um ajuste no nível do grupo pareça linear. Dou um exemplo reproduzível que chata um conjunto de dados do pacote JM.

library(nlme)
library(JM)
data(pbc2)

fitLME1 <- lme(log(serBilir) ~ ns(year, 2), random = ~ year | id, data = pbc2)
fitLME2 <- lme(log(serBilir) ~ year, random = ~ ns(year, 2) | id, data = pbc2)

Essencialmente, quero saber qual desses se encaixa melhor nos meus dados. No entanto, a comparação por anovame dá um aviso ameaçador:

        Model df      AIC      BIC    logLik   Test  L.Ratio p-value
fitLME1     1  7 3063.364 3102.364 -1524.682                        
fitLME2     2  9 2882.324 2932.472 -1432.162 1 vs 2 185.0399  <.0001
Warning message:
In anova.lme(fitLME1, fitLME2) :
  fitted objects with different fixed effects. REML comparisons are not meaningful.

Agora estou ciente de que há dificuldades em fazer esse tipo de comparação por métodos de máxima verossimilhança - mas qual é a alternativa?

Como mdewey diz, reinstale o modelo sem o método de estimativa REML. Como o aviso diz, as comparações não são significativas quando você possui diferentes estruturas de efeitos fixos.

A próxima questão é que os modelos não estão aninhados, portanto o teste F provavelmente não faz sentido. Você pode olhar para os critérios de informação. Ambos são a favor fitLME2.