Há um belo artigo no Gamasutra que explica a física em Super Mario Galaxy, que provavelmente é o que você está procurando.
Basicamente, eles usam a superfície inversa-normal do polígono mais próximo abaixo do jogador como força gravitacional. Se o jogador se mover para outro polígono enquanto estiver no ar, ele interpola os normais para suavizar o movimento e a orientação do jogador.
Eu não acho que existem mecanismos que suportam isso especificamente, mas em geral não é tão complicado assim.
Em vez de traduzir corpos de maneira puramente linear, você deve movê-lo de acordo com a distância do centro do planeta, bem como dependendo do ângulo entre a linha centro do corpo da linha do planeta e os eixos do sistema de coordenadas.
Se você apenas quisesse envolver-se com simplicidade e não se importasse em ver a curva real da Terra durante o jogo, você poderia simplesmente:
Faça um loop no mundo do jogo como um planeta (isso pode exigir um pouco de matemática radial para a posição)
E para o mapa use um modelo de planeta.