Não, isso não vai funcionar. Você pode obter um novo passaporte italiano e solicitar novamente o ESTA, ou pode solicitar um visto americano no seu passaporte brasileiro. Mas você não pode entrar nos EUA (o que você precisará fazer apenas para uma escala; os EUA não têm trânsito internacional sem passar pela imigração) em um passaporte italiano expirado - a companhia aérea nem permitirá que você embarque - , e o ESTA apenas "trabalha" com o passaporte contra o qual foi aprovado.
Como um visto nos EUA exigirá uma taxa de US $ 160, um aplicativo, documentos financeiros e uma visita ao consulado dos EUA para uma entrevista, eu recomendo a renovação do seu passaporte italiano, se possível.
Um passaporte expirado definitivamente não funcionará nos EUA. E seu ESTA não funcionará com sua nacionalidade brasileira. De qualquer forma, a menos que você tenha que ir à área pública do aeroporto de Miami, se estiver apenas na área de embarque (você não precisa fazer migrações). Então, você não deve ter nenhum problema.
fonte