Ich habe heute den ganzen Tag versucht, etwas Kleines in den s3 zu laden. Ungefähr 20.000 Dateien in 500 Verzeichnissen, die insgesamt etwa 3 GB umfassen. Etwas absolut Vernünftiges für einen Service namens Simple Storage Service. Ich kann an verschiedenen Orten im Durchschnitt bei etwa 500k / s hochladen - 1 MB / s (zwischen 1,8 und 3,6 GB / h). Ich habe versucht, diese Dateien den ganzen Tag auf s3 hochzuladen, ich muss mit düsterer Rate auf Aggregat hochgeladen haben (denke über 100 mb / h oder etwas).
Ich habe es versucht:
Meine Probleme, von denen ich hoffte, dass Sie mir bei der Diagnose helfen würden, sind folgende:
Es ist wirklich frustrierend, da muss etwas sein, was ich falsch mache. Ich erwarte, dass alles ungefähr 10x schneller funktioniert, und das tut es nicht. Ich habe gelesen, dass die Datei s3 schneller läuft und ich gelesen habe, dass die Zone (ich bin in NYC) wirklich wichtig ist. Welche Änderung wird mir die größte Steigerung der Upload-Geschwindigkeit geben?
Vielleicht kann die langsame Upload-Verbindung mit einer Änderung des AWS-Serverstandorts
behoben werdenIch habe gerade herausgefunden, was das Problem in meinem Fall war: Dauer des Uploads (Größe 35MB)
Ich bin in Wien, nicht in den USA - & gt; Überprüfen Sie den AWS-Serverstandort
Der Upload selbst ist extrem langsam
Sie können Bucket Explore ausprobieren, um Vorgänge in Hunderten paralleler Warteschlangen hochzuladen, sodass der Uploadvorgang schneller ist.
Nach dem Hochladen hat die Veröffentlichung aller Dateien (über die Webkonsole) 4 Stunden gedauert und ist immer noch nicht beendet.
Sie können die Richtlinie für den Bucket für den öffentlichen Zugriff auf Objekte festlegen.
Die folgende Beispielrichtlinie ermöglicht den Zugriff auf anonyme Benutzer.
Disclosure: Ich bin einer der Entwickler von Bucket Explorer
Tags und Links amazon-s3 amazon-web-services file-upload