Streaming von Daten an eine bestimmte BigQuery-Zeitpartition

8

Ich würde gerne wissen, ob es eine Möglichkeit gibt, Daten zu einer bestimmten Zeitpartition einer BigQuery-Tabelle zu streamen. Die Dokumentation besagt, dass Sie Tabellen-Dekoratoren verwenden müssen:

  

Laden von Daten mit Partitions-Dekoratoren

     

Mit Partition-Decorators können Sie Daten in einen bestimmten laden   Partition. Verwenden Sie zum Anpassen von Zeitzonen einen Partition-Decorator zum Laden   Daten in eine Partition basierend auf Ihrer bevorzugten Zeitzone. Beispielsweise,   Wenn Sie sich auf der Pacific Standard Time (PST) befinden, laden Sie alle Daten, die generiert wurden   1. Mai 2016 PST in die Partition für dieses Datum mit dem   entsprechender Partition Decorator:

     

[TABLE_NAME]160501

Quelle: Ссылка

Und:

  

Wiederherstellen von Daten in einer Partition

     

Um Daten in einer bestimmten Partition zu aktualisieren, hängen Sie einen Partitionsdekorator an   auf den Namen der partitionierten Tabelle beim Laden von Daten in die Tabelle.   Ein Partition-Decorator stellt ein bestimmtes Datum dar und hat das folgende Format:

     

$YYYYMMDD

Quelle: Ссылка

Aber wenn ich versuche, sie beim Streamen von Daten zu verwenden, habe ich den folgenden Fehler: Tabellen-Dekoratoren können nicht mit Streaming-Einfügen verwendet werden.

Vielen Dank im Voraus!

    
Rubén 17.06.2016, 17:10
quelle

2 Antworten

5

Entschuldigung für die Unannehmlichkeiten. Wir überlegen, dies in naher Zukunft zu unterstützen. Bitte bleiben Sie dran für weitere Updates.

Mögliche Problemumgehungen, die in vielen Fällen funktionieren könnten:

  1. Wenn die meisten Daten verfügbar sind (was manchmal der Fall ist, wenn Daten für eine alte Partition neu formatiert werden), können Sie einen Ladejob mit der Partition als Ziel verwenden.

  2. Eine andere Möglichkeit besteht darin, in eine temporäre Tabelle zu streamen, und nachdem die Daten aus dem Streaming-Puffer gelöscht wurden, verwenden Sie bq cp

Pavan Edara 18.06.2016, 01:03
quelle
1

Diese Funktion wurde kürzlich veröffentlicht und Sie können jetzt direkt in eine dekorierte Datumspartition innerhalb der letzten 30 Tage historisch und 5 Tage in die Zukunft streamen.

Ссылка

    
bzillins 02.05.2017 14:38
quelle

Tags und Links