Azure Data Factory - Wie kann ich geplante / OneTime Pipelines auslösen?

8

Hintergrund: Ich habe geplante Pipelines ausgeführt, um Daten von der Quelle zum Ziel zu kopieren. Dies wird täglich zu einer bestimmten Zeit ausgeführt.

Problem: Das Eingabe-Dataset für die Pipeline ist extern und in bestimmten Zeitintervallen nicht verfügbar. Dies bedeutet, dass die Kopieraktivität warten muss, bis die in der Pipeline angegebene Startzeit beginnt. Angesichts der Datenmenge möchte ich hier keine Zeit verschwenden.

Voraussetzung: Zu jedem Zeitpunkt habe ich Zugriff auf den Zeitpunkt, an dem meine Eingabedatei verfügbar ist. Damit möchte ich wissen, wie man eine ADF-Pipeline von C # aus startet, obwohl sie nur zu einem bestimmten Zeitpunkt starten soll.

    
shiva 18.08.2016, 16:51
quelle

4 Antworten

8

Ich stieß auf dasselbe Problem, ich musste meine Pipeline nur ausführen, wenn ein lokaler Job abgeschlossen wurde. Dazu habe ich den lokalen Job modifiziert, um die Pipeline als letzten Schritt zu starten. Ich habe eine hier auf Wie starte ich eine ADF-Pipeline mit C #? Hier ist der Link zur ADF-Entwicklerreferenz, die ebenfalls hilfreich sein kann. Ich habe auch ein Beispiel hier zum Auslösen von ADF-Pipelines aus Azure-Funktionen, wenn Sie daran interessiert sind. Dies ist der gleiche Code aus dem ersten Beispiel, aber ich habe den Vorteil, dass der gesamte Prozess in der Cloud ausgeführt wird und der azure-Funktionsplaner verwendet werden kann.

Hier ist die relevante Methode zum Ändern der Pipeline. Sie müssen das Start- und Enddatum basierend darauf ändern, wann das Segment ausgeführt werden soll.

%Vor%     
JustLogic 19.08.2016 12:55
quelle
2

Wenn Sie den Job nur einmal auslösen möchten, können Sie StartDate und EndDate gleich einstellen:

%Vor%     
adam.bielasty 20.09.2016 14:43
quelle
0

Um ADF auszulösen, müssen Sie das Eingabe-Dataset im Status 'Bereit' haben. Wenn es sich im Bereitschaftszustand befindet, können Sie manuell zur Registerkarte "Überwachung" wechseln, um manuell "Re-Run" auszuführen. Wenn das Eingabe-Dataset nicht bereit ist, müssen Sie dieses Dataset für den manuellen Start von ADF vorbereiten.

    
Kannan Kandasamy 26.08.2016 12:57
quelle
0

Hier ist ein Beispiel aus Microsoft Doc ... ( Link für Referenz )

(Gilt nur für V2)

%Vor%

Speichern Sie den Code mit der .JSON-Datei in Ihrem Verzeichnis und stellen Sie ihn mit dem folgenden Befehl bereit ...

%Vor%     
Jack 22.11.2017 09:40
quelle

Tags und Links