Descompactando GZip Stream da resposta HTTPClient

93

Estou tentando me conectar a uma api, que retorna JSON codificado em GZip, de um serviço WCF (serviço WCF para serviço WCF). Estou usando o HTTPClient para me conectar à API e consigo retornar o objeto JSON como uma string. No entanto, preciso ser capaz de armazenar esses dados retornados em um banco de dados e, como tal, descobri que a melhor maneira seria retornar e armazenar o objeto JSON em uma matriz ou byte ou algo semelhante.

O que estou tendo problemas especificamente é a descompactação da codificação GZip e tenho tentado muitos exemplos diferentes, mas ainda não consigo entendê-los.

O código abaixo é como estou estabelecendo minha conexão e obtendo uma resposta, este é o código que retorna uma string da API.

public string getData(string foo)
{
    string url = "";
    HttpClient client = new HttpClient();
    HttpResponseMessage response;
    string responseJsonContent;
    try
    {
        client.DefaultRequestHeaders.Accept.Add(new MediaTypeWithQualityHeaderValue("application/json"));
        response = client.GetAsync(url + foo).Result;
        responseJsonContent = response.Content.ReadAsStringAsync().Result;
        return responseJsonContent;
    }
    catch (Exception ex)
    {
        System.Windows.Forms.MessageBox.Show(ex.Message);
        return "";
    }
}

Tenho seguido alguns exemplos diferentes, como a API StackExchange , MSDN e alguns sobre stackoverflow, mas não consegui fazer nenhum deles funcionar para mim.

Qual é a melhor maneira de fazer isso, estou no caminho certo?

Obrigado rapazes.

Corey
fonte
"a melhor maneira seria retornar e armazenar o objeto JSON em uma matriz ou byte" Observe que uma string é uma matriz de bytes.
user3285954

Respostas:

232

Apenas instancie HttpClient assim:

HttpClientHandler handler = new HttpClientHandler()
{
    AutomaticDecompression = DecompressionMethods.GZip | DecompressionMethods.Deflate
};

using (var client = new HttpClient(handler))
{
    // your code
}

Atualização de 19 de junho de 2020: Não é recomendado usar httpclient em um bloco 'usando', pois pode causar o esgotamento da porta.

private static HttpClient client = null;

ContructorMethod()
{
   if(client == null)
   {
        HttpClientHandler handler = new HttpClientHandler()
        {
            AutomaticDecompression = DecompressionMethods.GZip | DecompressionMethods.Deflate
        };        
        client = new HttpClient(handler);
   }
// your code            
 }

Se estiver usando .Net Core 2.1+, considere usar IHttpClientFactory e injetar assim no seu código de inicialização.

 var timeout = Policy.TimeoutAsync<HttpResponseMessage>(
            TimeSpan.FromSeconds(60));

 services.AddHttpClient<XApiClient>().ConfigurePrimaryHttpMessageHandler(() => new HttpClientHandler
        {
            AutomaticDecompression = DecompressionMethods.GZip | DecompressionMethods.Deflate
        }).AddPolicyHandler(request => timeout);
ESCAVAÇÃO
fonte
Se eu usar essa estrutura, como recupero o conteúdo da minha resposta do httpClient? Sou muito novo em c # e não acho que estou entendendo.
FoxDeploy
1
@FoxDeploy não é necessária nenhuma mudança para o código obter o conteúdo quando você usa esta solução. Veja aqui para referência: stackoverflow.com/questions/26597665/…
DIG
1
mesmo sendo um post antigo, esta resposta apenas resolveu meu problema em .netcore, passando de 1.1 para 2.0 parece que o cliente estava fazendo a descompressão automaticamente, então tive que adicionar este código em 2.0 para fazer funcionar ... Obrigado !
Sebastian Castaldi
3
Apenas para pegar carona em @SebastianCastaldi, mas .net core 1.1 tinha AutomaticDecompression definido corretamente, mas em .net core 2.0 ele está definido como NONE. Demorei muito para descobrir ...
KallDrexx
5
Nota: HttpClientNÃO deve ser usado dentrousing
imba-tjd
1

Usei o código do link abaixo para descompactar o fluxo GZip. Em seguida, usei a matriz de bytes descompactada para obter o objeto JSON necessário. Espero que possa ajudar alguém.

var readTask = result.Content.ReadAsByteArrayAsync().Result;
var decompressedData = Decompress(readTask);
string jsonString = System.Text.Encoding.UTF8.GetString(decompressedData, 0, decompressedData.Length);
ResponseObjectClass responseObject = Newtonsoft.Json.JsonConvert.DeserializeObject<ResponseObjectClass>(jsonString);

https://www.dotnetperls.com/decompress

static byte[] Decompress(byte[] gzip)
{
    using (GZipStream stream = new GZipStream(new MemoryStream(gzip), CompressionMode.Decompress))
    {
        const int size = 4096;
        byte[] buffer = new byte[size];
        using (MemoryStream memory = new MemoryStream())
        {
            int count = 0;
            do
            {
                count = stream.Read(buffer, 0, size);
                if (count > 0)
                {
                    memory.Write(buffer, 0, count);
                }
            }
            while (count > 0);
            return memory.ToArray();
        }
    }
}
NidhinSPradeep
fonte
0

Ok, então resolvi meu problema. Se houver maneiras melhores, por favor me avise :-)

        public DataSet getData(string strFoo)
    {
        string url = "foo";

        HttpClient client = new HttpClient();
        HttpResponseMessage response;   
        DataSet dsTable = new DataSet();
        try
        {
               //Gets the headers that should be sent with each request
            client.DefaultRequestHeaders.Accept.Add(new MediaTypeWithQualityHeaderValue("application/json"));
              //Returned JSON
            response = client.GetAsync(url).Result;
              //converts JSON to string
            string responseJSONContent = response.Content.ReadAsStringAsync().Result;
              //deserializes string to list
            var jsonList = DeSerializeJsonString(responseJSONContent);
              //converts list to dataset. Bad name I know.
            dsTable = Foo_ConnectAPI.ExtentsionHelpers.ToDataSet<RootObject>(jsonList);
              //Returns the dataset                
            return dsTable;
        }
        catch (Exception ex)
        {
            System.Windows.Forms.MessageBox.Show(ex.Message);
            return null;
        }
    }

       //deserializes the string to a list. Utilizes JSON.net. RootObject is a class that contains the get and set for the JSON elements

    public List<RootObject> DeSerializeJsonString(string jsonString)
    {
          //Initialized the List
        List<RootObject> list = new List<RootObject>();
          //json.net deserializes string
        list = (List<RootObject>)JsonConvert.DeserializeObject<List<RootObject>>(jsonString);

        return list;
    }

O RootObject contém o get set que obterá os valores do JSON.

public class RootObject
{  
      //These string will be set to the elements within the JSON. Each one is directly mapped to the JSON elements.
      //This only takes into account a JSON that doesn't contain nested arrays
    public string EntityID { get; set; }

    public string Address1 { get; set; }

    public string Address2 { get; set; }

    public string Address3 { get; set; }

}

A maneira mais fácil de criar a (s) classe (s) acima é usar json2charp, que irá formatá-la de acordo e também fornecer os tipos de dados corretos.

O seguinte é de outra resposta no Stackoverflow, novamente, não leva em consideração JSON aninhado.

    internal static class ExtentsionHelpers
{
    public static DataSet ToDataSet<T>(this List<RootObject> list)
    {
        try
        {
            Type elementType = typeof(RootObject);
            DataSet ds = new DataSet();
            DataTable t = new DataTable();
            ds.Tables.Add(t);

            try
            {
                //add a column to table for each public property on T
                foreach (var propInfo in elementType.GetProperties())
                {
                    try
                    {
                        Type ColType = Nullable.GetUnderlyingType(propInfo.PropertyType) ?? propInfo.PropertyType;

                            t.Columns.Add(propInfo.Name, ColType);

                    }
                    catch (Exception ex)
                    {
                        System.Windows.Forms.MessageBox.Show(ex.Message);
                    }

                }
            }
            catch (Exception ex)
            {
                System.Windows.Forms.MessageBox.Show(ex.Message);
            }

            try
            {
                //go through each property on T and add each value to the table
                foreach (RootObject item in list)
                {
                    DataRow row = t.NewRow();

                    foreach (var propInfo in elementType.GetProperties())
                    {
                        row[propInfo.Name] = propInfo.GetValue(item, null) ?? DBNull.Value;
                    }

                    t.Rows.Add(row);
                }
            }
            catch (Exception ex)
            {
                System.Windows.Forms.MessageBox.Show(ex.Message);
            }

            insert.insertCategories(t);
            return ds.
        }
        catch (Exception ex)
        {
            System.Windows.Forms.MessageBox.Show(ex.Message);

            return null;
        }
    }
};

Então, finalmente, para inserir o conjunto de dados acima em uma tabela com colunas que foram mapeadas para o JSON, usei a cópia em massa de SQL e a classe seguinte

public class insert
{ 
    public static string insertCategories(DataTable table)
    {     
        SqlConnection objConnection = new SqlConnection();
          //As specified in the App.config/web.config file
        objConnection.ConnectionString = System.Configuration.ConfigurationManager.ConnectionStrings["foo"].ToString();

        try
        {                                 
            objConnection.Open();
            var bulkCopy = new SqlBulkCopy(objConnection.ConnectionString);

            bulkCopy.DestinationTableName = "dbo.foo";
            bulkCopy.BulkCopyTimeout = 600;
            bulkCopy.WriteToServer(table);

            return "";
        }
        catch (Exception ex)
        {
            System.Windows.Forms.MessageBox.Show(ex.Message);
            return "";
        }
        finally
        {
            objConnection.Close();
        }         
    }
};

Portanto, o acima funciona para inserir JSON de um webAPI em um banco de dados. Isso é algo que eu começo a trabalhar. Mas de forma alguma espero que seja perfeito. Se você tiver alguma melhoria, atualize-o de acordo.

Corey
fonte
2
Você deve criar uma declaração sua HttpCliente sua HttpResponseinterna using()para garantir o descarte adequado e oportuno e o fechamento dos fluxos subjacentes.
Ian Mercer