mapreduce

MapReduce ist ein Algorithmus zur Verarbeitung großer Datasets zu bestimmten Arten von verteilbaren Problemen unter Verwendung einer großen Anzahl von Knoten
1
Antwort

So interpretieren Sie MapReduce-Leistungsindikatoren

Um genauer zu sein: In Task-Zählern ist die verbrauchte CPU von utime + stime von proc / stat, was bedeutet, dass Dinge wie IOWait nicht gezählt werden. Ist das richtig? Die verstrichene Zeit für die gesamte Task ist viel länger als die CP...
29.06.2015, 11:31
1
Antwort

Reduce Funktionen in PHPillow für CouchDB

Ich versuche eine reduzierende Funktion (von MapReduce) in PHPillow zu machen und momentan ist es undokumentiert, aber ich muss es wirklich tun. Hat jemand ein Beispiel für die Implementierung einer Reduce-Funktion in PHPillow? Ссылка & lt;...
27.05.2011, 11:15
0
Antworten

Parkett hat beim Lesen keinen Speicher mehr

Ich versuche, mich gegen eine große Matrix zu vermehren, die im Parkettformat gespeichert ist. Ich achte also darauf, die RDD nicht im Speicher zu speichern, sondern bekomme vom Parkettleser einen OOM-Fehler: %Vor% Insbesondere ist die Matri...
06.12.2015, 06:02
4
Antworten

___ answer26097064 ___

Sie benutzen das Zeug richtig.

Link Während Sie Ihren aktuellen Code ausführen, ist die Ausgabe wie

%Vor%

Warum ist das so, weil

?

Sie geben zwei Schlüssel / Wert-Paare aus.

Erstes Schlüssel / Wert-Paar ist Wert und das zweite Schlüssel-Wert-Paar ist Schlüsseltaste

was ist die richtige? Wert ist 10 und der Schlüssel ist 1

%Vor%     
Verwenden Sie KeyValueTextInputFormat ___ answer23907054 ___

Das Trennzeichen kann unter dem Attributnamen %code% angegeben werden. Das Standardtrennzeichen ist das Registerzeichen %code% . Ändern Sie also in Ihrem Fall die Zeile %code%
zu

%Vor%

und das sollte den Trick machen

    
___ tag123hadoop ___ Hadoop ist ein Apache-Open-Source-Projekt, das Software für zuverlässiges und skalierbares verteiltes Computing bereitstellt. Das Projekt selbst enthält eine Vielzahl anderer ergänzender Ergänzungen. ___ tag123java ___ Java (nicht zu verwechseln mit JavaScript oder JScript oder JS) ist eine universelle objektorientierte Programmiersprache, die für die Verwendung in Verbindung mit der Java Virtual Machine (JVM) entwickelt wurde. "Java-Plattform" ist der Name für ein Computersystem, auf dem Tools zum Entwickeln und Ausführen von Java-Programmen installiert sind. Verwenden Sie dieses Tag für Fragen, die sich auf die Java-Programmiersprache oder Java-Plattform-Tools beziehen. ___ answer21348898 ___

Ich habe gerade versucht, dass %code% Schlüssel und Werte genommen wird, wenn sie eine Registerkarte zwischen ihnen haben, sonst wird es die komplette Zeile als Schlüssel nehmen, und es wird nichts im Wert sein.

Also müssen wir %code% anstelle von %code%

verwenden     
___ tag123mapreduce ___ MapReduce ist ein Algorithmus zur Verarbeitung großer Datasets zu bestimmten Arten von verteilbaren Problemen unter Verwendung einer großen Anzahl von Knoten ___ answer12564836 ___

Die Eingabedatei wird in Schlüsselwertpaare konvertiert und die Kartenfunktion wird für alle diese Paare aufgerufen. Im Falle Ihres Beispiels ist die Eingabe für die Zuordnung ein Schlüssel (der wahrscheinlich 1 ist, da es die Zeilennummer in der Datei ist) und am wichtigsten ist Ihr Wert 1,10 10.

Nun können Sie alles aus Ihrem Mapper ausgeben, das erst nach dem Tauschen und Sortieren aller Ausgaben aus dem Mapper zur Reducer-Klasse der Reducer-Klasse geht.

Wenn Sie also context.write (value) von Ihrem Mapper und von Ihrem Reducer ausgeben, erhalten Sie eindeutige Zeilen aus all Ihren Dateien.

Ich glaube nicht, dass ich erklärt habe, was Sie wollen, aber das ist die grundlegende Sache, die in Hadoop Map-Reduce passiert.

    
___ tag123wordcount ___ Die Wortzahl ist die Anzahl der Wörter in einem Dokument oder einer Textpassage. ___ qstntxt ___

Ich benutze hadoop 1.0.1, um ein Projekt zu machen und ich möchte meine Eingabe .txt-Datei zum "Schlüssel" machen und "Wert" den ich brauche, wie:

Wenn ich eine %code% Datei habe und der Dateiinhalt ist

  

1, 10 10

Ich denke, ich kann "KeyValueTextInputFormat" verwenden und mache "," das Trennungssymbol. Nach der Eingabe ist der Schlüssel "1" und der value ist "10 10" .

Aber das Ergebnis, das ich bekommen habe, ist die ganze Information ist der Schlüssel, der Wert ist leer. Ich weiß nicht, wo das Problem ist.

Bitte geben Sie mir Hilfe, danke!

Dies ist der Beispielcode:

%Vor%     
___

Ich benutze hadoop 1.0.1, um ein Projekt zu machen und ich möchte meine Eingabe .txt-Datei zum "Schlüssel" machen und "Wert" den ich brauche, wie: Wenn ich eine test.txt Datei habe und der Dateiinhalt ist    1, 10 10 Ich denke, ich...
22.09.2012, 02:12
3
Antworten

Hadoop: Keine solche Methodenausnahme

Ich habe ein MapReduce-Programm geschrieben, Code ist unten: %Vor% Ich führe die .jar dieses Programms mit dem folgenden Befehl aus: %Vor% Und ich erhalte den folgenden Fehler: %Vor% Was bedeutet dieser Fehler? Und was mache ich fals...
13.06.2012, 20:28
3
Antworten

Map Reduzieren des Objekts mit Unterstrich

Ich möchte dieses Objekt auf ein Objekt reduzieren, das den Produktnamen und den Durchschnittspreis enthält. Was ist der schnellste Weg, es zu tun? %Vor% resultiert in %Vor% Danke!     
23.10.2013, 16:48
4
Antworten

Mapreduce Combiner

Ich habe einen einfachen mapreduce Code mit Mapper, Reducer und Combiner. Die Ausgabe vom Mapper wird an den Kombinierer übergeben. Aber zum Reduzierer wird, anstatt vom Kombinierer ausgegeben zu werden, die Ausgabe vom Abbilder übergeben. Bi...
26.11.2013, 09:22
1
Antwort

Garn achtet nicht auf Garn.nodemanager.resource.cpu-vcores

Ich verwende Hadoop-2.4.0 und meine Systemkonfigurationen sind 24 Kerne, 96 GB RAM. Ich verwende folgende Konfigs %Vor% Capacity Scheduler konfiguriert %Vor% Mit obigen Konfigurationen erwarte ich, dass Garn nicht mehr als 10 Mappe...
29.08.2014, 07:42
2
Antworten

Wildcards in Ansichten mit CouchDB?

Ist es möglich, Platzhalter in Sichten in CouchDB zu verwenden? Nehmen wir zum Beispiel an, dass ich eine Datenbank habe, die Teams, Spieleralter, Spielerdurchschnitt und Geschlecht der Spieler enthält. Das Alter der Spieler kann jedoch nicht be...
07.09.2010, 01:58
3
Antworten

Die Hauptklasse com.sun.tools.javac.Main hadoop mapreduce konnte nicht gefunden oder geladen werden

Ich versuche MapReduce zu lernen, aber ich bin jetzt ein wenig verloren. Ссылка Besonders diese Anleitung: %Vor% Wenn ich in meinem Terminal hadoop eintippe, kann ich die "Hilfe" sehen, die Argumente liefert, also glaube ich, dass...
25.03.2015, 16:13