Hoe bereken Lstm aantal parameters?
Hoe bereken Lstm aantal parameters?

Video: Hoe bereken Lstm aantal parameters?

Video: Hoe bereken Lstm aantal parameters?
Video: Building a Long Short-Term Memory Recurrent Neural Network 2024, November
Anonim

Dus, volgens jou waardes. Om dit in die formule in te voer gee:->(n=256, m=4096), totaal aantal parameters is 4*((256*256) + (256*4096) + (256)) = 4*(1114368) = 4457472. Die nommer van gewigte is 28 = 16 (getal_eenhede * aantal_eenhede) vir die herhalende verbindings + 12 (invoer_dim * aantal_eenhede) vir invoer.

Ook gevra, hoe vind jy die aantal parameters?

Om bereken die leerbare grense hier, al wat ons hoef te doen is net vermenigvuldig die met die vorm van breedte m, hoogte n en rekening hou met al sulke filters k. Moenie die vooroordeelterm vir elk van die filters vergeet nie. Aantal parameters in 'n CONV-laag sal wees: ((m * n)+1)*k), 1 bygevoeg as gevolg van die vooroordeelterm vir elke filter.

Net so, hoeveel versteekte eenhede het Lstm? An LSTM netwerk. Die netwerk het vyf insette eenhede , a versteekte laag bestaan uit twee LSTM geheue blokke en drie uitset eenhede . Elke geheueblok het vier insette maar net een uitset.

Vervolgens kan mens ook vra, hoe vind jy aantal parameters in RNN?

1 Antwoord. Die entiteite W, U en V word gedeel deur alle stappe van die RNN en dit is die enigste grense in die model wat in die figuur beskryf word. Vandaar aantal parameters om geleer te word tydens opleiding = dowwe(W)+dim(V)+dim(U). Gebaseer op data in die vraag hierdie = n2+kn+nm.

Hoeveel lae het Lstm?

Oor die algemeen, 2 lae het getoon dat dit genoeg is om meer komplekse kenmerke op te spoor. Meer lae kan beter wees, maar ook moeiliker om op te lei. As 'n algemene reël - 1 versteek laag werk met eenvoudige probleme, soos hierdie, en twee is genoeg om redelik komplekse kenmerke te vind.

Aanbeveel: