Minha ferramenta de escolha para esse cenário é o LockHunter.
Também possui uma interface de linha de comando, além de uma GUI. Funciona nas edições Windows 7 x68 e x64.
http://lockhunter.com/manual.htm
Boa sorte!
A ferramenta Microsoft / Sysinternals Handle.exe pode desbloquear arquivos:
handle.exe -c 0x38 -p 1234
Provavelmente você desejará automatizar primeiro a execução do seguinte para encontrar qualquer uso do app.exe
handle.exe \Path\to\app.exe
Você precisaria interpretar os resultados para obter a identificação do identificador e a identificação do processo a serem passadas para o primeiro comando.
Entretanto, esteja avisado: fechar alças nas costas do aplicativo provavelmente levará à instabilidade no aplicativo que tinha o identificador aberto.
Para complementar a resposta sobre handle.exe.
O Sysinternals Process Explorer apresenta a GUI com a mesma funcionalidade: procure por identificador por padrão, liste identificadores de processo, feche qualquer um deles.
fonte