Parece que existe um formato aberto padrão para animação vetorial: SVG.
Como criar e editar esses arquivos?
Espero algo como o Blender com quadros-chave e editor de curvas. O Inkscape não parece ter habilidades de animação à primeira vista.
O FOSS é altamente preferido (portanto, as coisas relacionadas ao Flash são desencorajadas, mas se houver um conversor de Flash em SVG animado, ele deverá ser mencionado).