INHOUDSOPGAWE:

Hoe kan ek my sqoop-prestasie verbeter?
Hoe kan ek my sqoop-prestasie verbeter?

Video: Hoe kan ek my sqoop-prestasie verbeter?

Video: Hoe kan ek my sqoop-prestasie verbeter?
Video: Apache Sqoop Tutorial | Sqoop: Import & Export Data From MySQL To HDFS | Hadoop Training | Edureka 2024, November
Anonim

Om te optimaliseer optrede , stel die aantal kaarttake tot 'n waarde laer as die maksimum aantal verbindings wat die databasis ondersteun. Beheer die hoeveelheid parallelisme wat Skop sal gebruik om data oor te dra is die hoof manier om te beheer die laai aan jou databasis.

Dienooreenkomstig, wat gebeur as sqoop tussen 'n proses misluk?

'n Tipiese Skop werk wat data van 'n brondatabasis in HDFS inneem, sal die data na 'n teikengids kopieer. Die gekopieerde lêer gaan uitgevee word as sqoop misluk sonder om te voltooi.

Mens kan ook vra, hoe bereik jy parallelisme in sqoop? Beheer Parallelisme . Skop voer data parallel vanaf die meeste databasisbronne in. Jy kan die aantal kaarttake (parallelle prosesse) spesifiseer om te gebruik om die invoer uit te voer deur die -m of --num-mappers argument te gebruik. Elkeen van hierdie argumente neem 'n heelgetalwaarde wat ooreenstem met die graad van parallelisme om in diens te neem

Gevolglik, hoe verbeter ek my Hive-navraagprestasie?

Hieronder is die lys praktyke wat ons kan volg om Hive-navrae te optimaliseer

  1. Aktiveer kompressie in Hive.
  2. Optimaliseer aansluitings.
  3. Vermy globale sortering in Hive.
  4. Aktiveer Tez Execution Engine.
  5. Optimaliseer LIMIT operateur.
  6. Aktiveer parallelle uitvoering.
  7. Aktiveer Mapreduce Streng Mode.
  8. Enkel Verminder vir Multi Groep DEUR.

Hoe werk sqoop split?

Dit kan gebruik word om die invoerprestasie te verbeter deur groter parallelisme te bewerkstellig. Skop skep skeur gebaseer op waardes in 'n spesifieke kolom van die tabel wat gespesifiseer word deur -- verdeel -deur deur die gebruiker deur die invoeropdrag. As dit nie beskikbaar is nie, word die primêre sleutel van die invoertabel gebruik om die skeur.

Aanbeveel: