Ошибка EntityTooLarge при загрузке файла 5G в Amazon S3

Ограничение размера файла Amazon S3 должно быть 5T согласно этому объявлению , но я получаю следующую ошибку при загрузке файла 5G

'/mahler%2Fparquet%2Fpageview%2Fall-2014-2000%2F_temporary%2F_attempt_201410112050_0009_r_000221_2222%2Fpart-r-222.parquet' XML Error Message: 
  <?xml version="1.0" encoding="UTF-8"?>
  <Error>
    <Code>EntityTooLarge</Code>
    <Message>Your proposed upload exceeds the maximum allowed size</Message>
    <ProposedSize>5374138340</ProposedSize>
    ...
    <MaxSizeAllowed>5368709120</MaxSizeAllowed>
  </Error>

Из-за этого кажется, что S3 принимает только 5G загрузок. Я использую Apache Spark SQL для записи набора данных Parquet с помощью метода SchemRDD.saveAsParquetFile. Полная трассировка стека - 

org.apache.hadoop.fs.s3.S3Exception: org.jets3t.service.S3ServiceException: S3 PUT failed for '/mahler%2Fparquet%2Fpageview%2Fall-2014-2000%2F_temporary%2F_attempt_201410112050_0009_r_000221_2222%2Fpart-r-222.parquet' XML Error Message: <?xml version="1.0" encoding="UTF-8"?><Error><Code>EntityTooLarge</Code><Message>Your proposed upload exceeds the maximum allowed size</Message><ProposedSize>5374138340</ProposedSize><RequestId>20A38B479FFED879</RequestId><HostId>KxeGsPreQ0hO7mm7DTcGLiN7vi7nqT3Z6p2Nbx1aLULSEzp6X5Iu8Kj6qM7Whm56ciJ7uDEeNn4=</HostId><MaxSizeAllowed>5368709120</MaxSizeAllowed></Error>
        org.apache.hadoop.fs.s3native.Jets3tNativeFileSystemStore.storeFile(Jets3tNativeFileSystemStore.java:82)
        sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
        sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
        sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
        java.lang.reflect.Method.invoke(Method.java:606)
        org.apache.hadoop.io.retry.RetryInvocationHandler.invokeMethod(RetryInvocationHandler.java:82)
        org.apache.hadoop.io.retry.RetryInvocationHandler.invoke(RetryInvocationHandler.java:59)
        org.apache.hadoop.fs.s3native.$Proxy10.storeFile(Unknown Source)
        org.apache.hadoop.fs.s3native.NativeS3FileSystem$NativeS3FsOutputStream.close(NativeS3FileSystem.java:174)
        org.apache.hadoop.fs.FSDataOutputStream$PositionCache.close(FSDataOutputStream.java:61)
        org.apache.hadoop.fs.FSDataOutputStream.close(FSDataOutputStream.java:86)
        parquet.hadoop.ParquetFileWriter.end(ParquetFileWriter.java:321)
        parquet.hadoop.InternalParquetRecordWriter.close(InternalParquetRecordWriter.java:111)
        parquet.hadoop.ParquetRecordWriter.close(ParquetRecordWriter.java:73)
        org.apache.spark.sql.parquet.InsertIntoParquetTable.org$apache$spark$sql$parquet$InsertIntoParquetTable$$writeShard$1(ParquetTableOperations.scala:305)
        org.apache.spark.sql.parquet.InsertIntoParquetTable$$anonfun$saveAsHadoopFile$1.apply(ParquetTableOperations.scala:318)
        org.apache.spark.sql.parquet.InsertIntoParquetTable$$anonfun$saveAsHadoopFile$1.apply(ParquetTableOperations.scala:318)
        org.apache.spark.scheduler.ResultTask.runTask(ResultTask.scala:62)
        org.apache.spark.scheduler.Task.run(Task.scala:54)
        org.apache.spark.executor.Executor$TaskRunner.run(Executor.scala:177)
        java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1145)
        java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:615)
        java.lang.Thread.run(Thread.java:745)

Является ли предел загрузки все еще 5T? Если это так, почему я получаю эту ошибку и как ее исправить?

2 8
amazon-s3 apache-spark apache-spark-sql parquet

2 ответа:

Размер объектаограничен 5 ТБ. Размер загрузки по-прежнему составляет 5 ГБ, как описано в руководстве:

В зависимости от размера загружаемых данных Amazon S3 предлагает следующие опции:

  • Загрузка объектов за одну операцию-с помощью одной операции PUT можно загрузить объекты размером до 5 ГБ.

  • Загрузка объектов по частям-с помощью Multipart upload API вы можете загружать большие объекты, до 5 ТЕРАБАЙТ.

Http://docs.aws.amazon.com/AmazonS3/latest/dev/UploadingObjects.html

Как только вы выполняете многоэлементную загрузку, S3 проверяет и рекомбинирует части, и у вас тогда есть один объект в S3, размером до 5 ТБ, который может быть загружен как одна сущность с одним запросом HTTP GET... но загрузка потенциально намного быстрее, даже для файлов размером менее 5 ГБ, так как вы можете загружать детали параллельно и даже повторять загрузку любых деталей это не удалось с первой попытки.

12

Трюк, как правило, заключается в том, чтобы выяснить, как сказать S3, чтобы сделать многослойную загрузку. Для копирования данных из HDFS в S3 это можно сделать с помощью файловой системы s3n и, в частности, включить многопартийную загрузку с помощью fs.s3n.multipart.uploads.enabled=true

Это можно сделать так: 

hdfs dfs -Dfs.s3n.awsAccessKeyId=ACCESS_KEY -Dfs.s3n.awsSecretAccessKey=SUPER_SECRET_KEY -Dfs.s3n.multipart.uploads.enabled=true -cp hdfs:///path/to/source/data s3n://bucket/folder/

И дальнейшую конфигурацию можно найти здесь: https://hadoop.apache.org/docs/stable/hadoop-aws/tools/hadoop-aws/index.html

3