So übergeben Sie externe Parameter über Spark submit

8

In meiner Anwendung muss ich eine Verbindung zur Datenbank herstellen, so dass ich die IP-Adresse und den Datenbanknamen übergeben muss, wenn die Anwendung gesendet wird.

Ich reiche den Antrag wie folgt ein:

%Vor%     
user4342532 03.03.2016, 21:52
quelle

2 Antworten

11

Wenn Sie die offizielle Dokumentation überprüfen Ich sehe, dass spark-submit folgende Syntax hat:

%Vor%

Sie können entweder application-arguments und conf verwenden, um die erforderliche Konfiguration an die Hauptmethode bzw. SparkConf zu übergeben.

    
zero323 04.03.2016 00:24
quelle
1

Wie von zero323 angegeben, können Sie den Befehl spark-submit von verwenden Link

%Vor%

Hier wird conf verwendet, um die Spark-bezogenen Konfigurationen zu übergeben, die für die Ausführung der Anwendung benötigt werden (Executor-Speicher) oder wenn Sie die voreingestellte Eigenschaft überschreiben möchten Spark-default.conf .

Was Ihren Anwendungsfall angeht, möchten Sie die IP an die Anwendung übergeben, um eine Verbindung zur Datenbank herzustellen. Dann können Sie die [Anwendungsargumente] verwenden, die nach dem JAR übergeben werden.

Wenn Sie Ihren main als:

einrichten %Vor%

Dann können Sie alles als Argument nach der .jar-Zeile akzeptieren.

Weitere Informationen finden Sie

    
Ajit K'sagar 04.11.2016 18:05
quelle

Tags und Links