Wat is vonkuitsending?
Wat is vonkuitsending?

Video: Wat is vonkuitsending?

Video: Wat is vonkuitsending?
Video: Live from the Lab: What is Spark Optical Emission Spectrometry? 2024, November
Anonim

Uitsaai veranderlikes in Apache Vonk is 'n meganisme vir die deel van veranderlikes oor eksekuteurs wat bedoel is om leesalleen te wees. Sonder uitsaai veranderlikes hierdie veranderlikes sal na elke eksekuteur gestuur word vir elke transformasie en aksie, en dit kan netwerkbokoste veroorsaak.

Net so, vra mense, wanneer moet ek vonk uitsaai?

Uitsaai veranderlikes word meestal gebruik wanneer die take oor verskeie stadiums dieselfde data vereis of wanneer die kas van die data in die gedeserialiseerde vorm vereis word. Uitsaai veranderlikes word geskep met behulp van 'n veranderlike v deur SparkContext te roep.

Ook, wat is akkumulators en uitsaaiveranderlikes in vonk? Vonk ondersteun twee tipes gedeelde veranderlikes : uitsaai veranderlikes , wat gebruik kan word om 'n waarde in die geheue op alle nodusse te kas, en akkumulators , watter is veranderlikes wat net bygetel word, soos tellers en somme.

As u dit in ag neem, wat is vonkakkumulator?

Akkumulators is veranderlikes wat slegs deur 'n assosiatiewe operasie "toegevoeg" word en dus doeltreffend in parallel ondersteun kan word. Hulle kan gebruik word om tellers (soos in MapReduce) of somme te implementeer. Vonk native ondersteun akkumulators van numeriese tipes, en programmeerders kan ondersteuning vir nuwe tipes byvoeg.

Hoe werk ek my uitsaaiveranderlike in vonk op?

  1. Skuif die verwysingsdata-opsoek na 'n forEachPartition of forEachRdd sodat dit geheel en al op die werkers woon.
  2. Herbegin die Spark Context elke keer as die refdata verander, met 'n nuwe Broadcast Variable.

Aanbeveel: