Enviar arquivo usando POST a partir de um script Python

139

Existe uma maneira de enviar um arquivo usando POST a partir de um script Python?

Somente leitura
fonte

Respostas:

214

De: https://requests.readthedocs.io/en/latest/user/quickstart/#post-a-multipart-encoded-file

Os pedidos simplificam o upload de arquivos codificados por várias partes:

with open('report.xls', 'rb') as f:
    r = requests.post('http://httpbin.org/post', files={'report.xls': f})

É isso aí. Não estou brincando - essa é uma linha de código. O arquivo foi enviado. Vamos checar:

>>> r.text
{
  "origin": "179.13.100.4",
  "files": {
    "report.xls": "<censored...binary...data>"
  },
  "form": {},
  "url": "http://httpbin.org/post",
  "args": {},
  "headers": {
    "Content-Length": "3196",
    "Accept-Encoding": "identity, deflate, compress, gzip",
    "Accept": "*/*",
    "User-Agent": "python-requests/0.8.0",
    "Host": "httpbin.org:80",
    "Content-Type": "multipart/form-data; boundary=127.0.0.1.502.21746.1321131593.786.1"
  },
  "data": ""
}
Piotr Dobrogost
fonte
2
Estou tentando a mesma coisa e está funcionando bem se o tamanho do arquivo for menor que ~ 1,5 MB. caso contrário, está lançando um erro. por favor, dê uma olhada aqui .
Niks Jain
1
o que estou tentando fazer é acessar um site usando a solicitação que fiz com sucesso, mas agora quero fazer o upload de um vídeo após o login e o formulário possui campos diferentes a serem preenchidos antes do envio. Então, como devo passar esses valores, como descrição de vídeos, título de vídeos etc.
TaraGurung
15
Você provavelmente desejaria fazê- with open('report.xls', 'rb') as f: r = requests.post('http://httpbin.org/post', files={'report.xls': f})lo, para que ele feche o arquivo novamente após a abertura.
Hjulle
3
Hã? Desde quando o envio de pedidos é tão simples?
palsch
1
Esta resposta deve ser atualizada para incluir a sugestão de Hjulle de usar o gerenciador de contexto para garantir que o arquivo seja fechado.
precisa saber é
28

Sim. Você usaria o urllib2módulo e codificaria usando o multipart/form-datatipo de conteúdo. Aqui está um código de exemplo para você começar - é um pouco mais do que apenas o upload de arquivos, mas você deve poder lê-lo e ver como funciona:

user_agent = "image uploader"
default_message = "Image $current of $total"

import logging
import os
from os.path import abspath, isabs, isdir, isfile, join
import random
import string
import sys
import mimetypes
import urllib2
import httplib
import time
import re

def random_string (length):
    return ''.join (random.choice (string.letters) for ii in range (length + 1))

def encode_multipart_data (data, files):
    boundary = random_string (30)

    def get_content_type (filename):
        return mimetypes.guess_type (filename)[0] or 'application/octet-stream'

    def encode_field (field_name):
        return ('--' + boundary,
                'Content-Disposition: form-data; name="%s"' % field_name,
                '', str (data [field_name]))

    def encode_file (field_name):
        filename = files [field_name]
        return ('--' + boundary,
                'Content-Disposition: form-data; name="%s"; filename="%s"' % (field_name, filename),
                'Content-Type: %s' % get_content_type(filename),
                '', open (filename, 'rb').read ())

    lines = []
    for name in data:
        lines.extend (encode_field (name))
    for name in files:
        lines.extend (encode_file (name))
    lines.extend (('--%s--' % boundary, ''))
    body = '\r\n'.join (lines)

    headers = {'content-type': 'multipart/form-data; boundary=' + boundary,
               'content-length': str (len (body))}

    return body, headers

def send_post (url, data, files):
    req = urllib2.Request (url)
    connection = httplib.HTTPConnection (req.get_host ())
    connection.request ('POST', req.get_selector (),
                        *encode_multipart_data (data, files))
    response = connection.getresponse ()
    logging.debug ('response = %s', response.read ())
    logging.debug ('Code: %s %s', response.status, response.reason)

def make_upload_file (server, thread, delay = 15, message = None,
                      username = None, email = None, password = None):

    delay = max (int (delay or '0'), 15)

    def upload_file (path, current, total):
        assert isabs (path)
        assert isfile (path)

        logging.debug ('Uploading %r to %r', path, server)
        message_template = string.Template (message or default_message)

        data = {'MAX_FILE_SIZE': '3145728',
                'sub': '',
                'mode': 'regist',
                'com': message_template.safe_substitute (current = current, total = total),
                'resto': thread,
                'name': username or '',
                'email': email or '',
                'pwd': password or random_string (20),}
        files = {'upfile': path}

        send_post (server, data, files)

        logging.info ('Uploaded %r', path)
        rand_delay = random.randint (delay, delay + 5)
        logging.debug ('Sleeping for %.2f seconds------------------------------\n\n', rand_delay)
        time.sleep (rand_delay)

    return upload_file

def upload_directory (path, upload_file):
    assert isabs (path)
    assert isdir (path)

    matching_filenames = []
    file_matcher = re.compile (r'\.(?:jpe?g|gif|png)$', re.IGNORECASE)

    for dirpath, dirnames, filenames in os.walk (path):
        for name in filenames:
            file_path = join (dirpath, name)
            logging.debug ('Testing file_path %r', file_path)
            if file_matcher.search (file_path):
                matching_filenames.append (file_path)
            else:
                logging.info ('Ignoring non-image file %r', path)

    total_count = len (matching_filenames)
    for index, file_path in enumerate (matching_filenames):
        upload_file (file_path, index + 1, total_count)

def run_upload (options, paths):
    upload_file = make_upload_file (**options)

    for arg in paths:
        path = abspath (arg)
        if isdir (path):
            upload_directory (path, upload_file)
        elif isfile (path):
            upload_file (path)
        else:
            logging.error ('No such path: %r' % path)

    logging.info ('Done!')
John Millikin
fonte
1
No python 2.6.6, eu estava recebendo um erro na análise de limites de várias partes ao usar esse código no Windows. Eu tive que mudar de string.letters para string.ascii_letters conforme discutido em stackoverflow.com/questions/2823316/… para que isso funcionasse. O requisito no limite é discutido aqui: stackoverflow.com/questions/147451/…
amit
chamar run_upload ({'server': '', 'thread': ''}, caminhos = ['/ caminho / para / arquivo.txt']) causa erro nesta linha: upload_file (caminho) porque "upload file" requer 3 parâmetros para que eu substitui-lo com este upload_file linha (caminho, 1, 1)
Radian
4

A única coisa que impede você de usar o urlopen diretamente em um objeto de arquivo é o fato de que o objeto de arquivo interno não possui uma definição de len . Uma maneira simples é criar uma subclasse, que fornece ao urlopen o arquivo correto. Também modifiquei o cabeçalho Content-Type no arquivo abaixo.

import os
import urllib2
class EnhancedFile(file):
    def __init__(self, *args, **keyws):
        file.__init__(self, *args, **keyws)

    def __len__(self):
        return int(os.fstat(self.fileno())[6])

theFile = EnhancedFile('a.xml', 'r')
theUrl = "http://example.com/abcde"
theHeaders= {'Content-Type': 'text/xml'}

theRequest = urllib2.Request(theUrl, theFile, theHeaders)

response = urllib2.urlopen(theRequest)

theFile.close()


for line in response:
    print line
ilmarinen
fonte
@robert Eu testei seu código em Python2.7, mas não funciona. urlopen (Request (theUrl, theFile, ...)) apenas codifica o conteúdo do arquivo como se fosse uma postagem normal, mas não pode especificar o campo de formulário correto. Eu até tento variante urlopen (theUrl, urlencode ({'serverside_field_name': EnhancedFile ('my_file.txt')}})), ele carrega um arquivo, mas (é claro!) Com conteúdo incorreto como <arquivo aberto 'my_file.txt', modo 'r' em 0x00D6B718>. Perdi alguma coisa?
precisa saber é
Obrigado pela resposta. Usando o código acima, eu transferi o arquivo de imagem bruta de 2,2 GB usando a solicitação PUT no servidor da web.
Akshay Patil
4

Parece que as solicitações python não tratam arquivos com várias partes extremamente grandes.

A documentação recomenda que você analise requests-toolbelt.

Aqui está a página pertinente da documentação deles.

centeio
fonte
2

A biblioteca de pôsteres de Chris Atlee funciona muito bem para isso (principalmente a função de conveniência poster.encode.multipart_encode()). Como bônus, ele suporta o streaming de arquivos grandes sem carregar um arquivo inteiro na memória. Veja também Python edição 3244 .

gotgenes
fonte
2

Estou tentando testar a API do resto do django e está funcionando para mim:

def test_upload_file(self):
        filename = "/Users/Ranvijay/tests/test_price_matrix.csv"
        data = {'file': open(filename, 'rb')}
        client = APIClient()
        # client.credentials(HTTP_AUTHORIZATION='Token ' + token.key)
        response = client.post(reverse('price-matrix-csv'), data, format='multipart')

        print response
        self.assertEqual(response.status_code, status.HTTP_200_OK)
Ranvijay Sachan
fonte
1
esse código fornece um vazamento de memória - você esqueceu close()um arquivo.
Chiefir 3/01/19
0

Você também pode querer dar uma olhada no httplib2 , com exemplos . Acho que o uso do activationplib2 é mais conciso do que o uso dos módulos HTTP internos.

pdc
fonte
2
Não há exemplos que mostram como lidar com uploads de arquivos.
dland 15/09/11
O link está desatualizado + nenhum exemplo embutido.
JLR
3
Desde então, mudou-se para github.com/httplib2/httplib2 . Por outro lado, hoje em dia eu provavelmente recomendaria requests.
Pdc
0
def visit_v2(device_code, camera_code):
    image1 = MultipartParam.from_file("files", "/home/yuzx/1.txt")
    image2 = MultipartParam.from_file("files", "/home/yuzx/2.txt")
    datagen, headers = multipart_encode([('device_code', device_code), ('position', 3), ('person_data', person_data), image1, image2])
    print "".join(datagen)
    if server_port == 80:
        port_str = ""
    else:
        port_str = ":%s" % (server_port,)
    url_str = "http://" + server_ip + port_str + "/adopen/device/visit_v2"
    headers['nothing'] = 'nothing'
    request = urllib2.Request(url_str, datagen, headers)
    try:
        response = urllib2.urlopen(request)
        resp = response.read()
        print "http_status =", response.code
        result = json.loads(resp)
        print resp
        return result
    except urllib2.HTTPError, e:
        print "http_status =", e.code
        print e.read()
user6081103
fonte