Lire le contenu du fichier de S3 bucket avec boto3

j'ai lu les noms de fichiers dans mon seau S3 en faisant 

objs = boto3.client.list_objects(Bucket='my_bucket')
    while 'Contents' in objs.keys():
        objs_contents = objs['Contents']
        for i in range(len(objs_contents)):
            filename = objs_contents[i]['Key']

maintenant, je dois obtenir le contenu réel du fichier, de la même façon qu'un open(filename).readlines(). Quelle est la meilleure façon de faire?

21
demandé sur mar tin 2016-03-24 19:41:02

2 réponses

boto3 offre un modèle de ressource qui rend les tâches comme itérer à travers les objets plus faciles. Malheureusement, StreamingBody ne fournit pas readline ou readlines. 

s3 = boto3.resource('s3')
bucket = s3.Bucket('test-bucket')
# Iterates through all the objects, doing the pagination for you. Each obj
# is an ObjectSummary, so it doesn't contain the body. You'll need to call
# get to get the whole body.
for obj in bucket.objects.all():
    key = obj.key
    body = obj.get()['Body'].read()
38
répondu Jordon Phillips 2016-03-24 16:57:04

si vous voulez lire un fichier avec une configuration différente de celle par défaut, n'hésitez pas à utiliser mpu.aws.s3_read(s3path) directement ou le code copié-collé:

def s3_read(source, profile_name=None):
    """
    Read a file from an S3 source.

    Parameters
    ----------
    source : str
        Path starting with s3://, e.g. 's3://bucket-name/key/foo.bar'
    profile_name : str, optional
        AWS profile

    Returns
    -------
    content : bytes

    botocore.exceptions.NoCredentialsError
        Botocore is not able to find your credentials. Either specify
        profile_name or add the environment variables AWS_ACCESS_KEY_ID,
        AWS_SECRET_ACCESS_KEY and AWS_SESSION_TOKEN.
        See https://boto3.readthedocs.io/en/latest/guide/configuration.html
    """
    session = boto3.Session(profile_name=profile_name)
    s3 = session.client('s3')
    bucket_name, key = mpu.aws._s3_path_split(source)
    s3_object = s3.get_object(Bucket=bucket_name, Key=key)
    body = s3_object['Body']
    return body.read()
1
répondu Martin Thoma 2018-08-23 19:36:56