|
12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455565758596061626364656667686970717273747576777879808182838485868788899091929394959697989910010110210310410510610710810911011111211311411511611711811912012112212312412512612712812913013113213313413513613713813914014114214314414514614714814915015115215315415515615715815916016116216316416516616716816917017117217317417517617717817918018118218318418518618718818919019119219319419519619719819920020120220320420520620720820921021121221321421521621721821922022122222322422522622722822923023123223323423523623723823924024124224324424524624724824925025125225325425525625725825926026126226326426526626726826927027127227327427527627727827928028128228328428528628728828929029129229329429529629729829930030130230330430530630730830931031131231331431531631731831932032132232332432532632732832933033133233333433533633733833934034134234334434534634734834935035135235335435535635735835936036136236336436536636736836937037137237337437537637737837938038138238338438538638738838939039139239339439539639739839940040140240340440540640740840941041141241341441541641741841942042142242342442542642742842943043143243343443543643743843944044144244344444544644744844945045145245345445545645745845946046146246346446546646746846947047147247347447547647747847948048148248348448548648748848949049149249349449549649749849950050150250350450550650750850951051151251351451551651751851952052152252352452552652752852953053153253353453553653753853954054154254354454554654754854955055155255355455555655755855956056156256356456556656756856957057157257357457557657757857958058158258358458558658758858959059159259359459559659759859960060160260360460560660760860961061161261361461561661761861962062162262362462562662762862963063163263363463563663763863964064164264364464564664764864965065165265365465565665765865966066166266366466566666766866967067167267367467567667767867968068168268368468568668768868969069169269369469569669769869970070170270370470570670770870971071171271371471571671771871972072172272372472572672772872973073173273373473573673773873974074174274374474574674774874975075175275375475575675775875976076176276376476576676776876977077177277377477577677777877978078178278378478578678778878979079179279379479579679779879980080180280380480580680780880981081181281381481581681781881982082182282382482582682782882983083183283383483583683783883984084184284384484584684784884985085185285385485585685785885986086186286386486586686786886987087187287387487587687787887988088188288388488588688788888989089189289389489589689789889990090190290390490590690790890991091191291391491591691791891992092192292392492592692792892993093193293393493593693793893994094194294394494594694794894995095195295395495595695795895996096196296396496596696796896997097197297397497597697797897998098198298398498598698798898999099199299399499599699799899910001001100210031004100510061007100810091010101110121013101410151016101710181019102010211022102310241025102610271028102910301031103210331034103510361037103810391040104110421043104410451046104710481049105010511052105310541055105610571058105910601061106210631064106510661067106810691070107110721073107410751076107710781079108010811082108310841085108610871088108910901091109210931094109510961097109810991100110111021103110411051106110711081109111011111112111311141115111611171118111911201121112211231124112511261127112811291130113111321133113411351136113711381139114011411142114311441145114611471148114911501151115211531154115511561157115811591160116111621163116411651166116711681169117011711172117311741175117611771178117911801181118211831184118511861187118811891190119111921193119411951196119711981199120012011202120312041205120612071208120912101211121212131214121512161217121812191220122112221223122412251226122712281229123012311232123312341235123612371238123912401241124212431244124512461247124812491250125112521253125412551256125712581259126012611262126312641265126612671268126912701271127212731274127512761277127812791280128112821283128412851286128712881289129012911292129312941295129612971298129913001301130213031304130513061307130813091310131113121313131413151316131713181319132013211322132313241325132613271328132913301331133213331334133513361337133813391340134113421343134413451346134713481349135013511352135313541355135613571358135913601361136213631364136513661367136813691370137113721373137413751376137713781379138013811382138313841385138613871388138913901391139213931394139513961397139813991400140114021403140414051406140714081409141014111412141314141415141614171418141914201421142214231424142514261427142814291430143114321433143414351436143714381439144014411442144314441445144614471448144914501451145214531454145514561457145814591460146114621463146414651466146714681469147014711472147314741475147614771478147914801481148214831484148514861487148814891490149114921493149414951496149714981499150015011502150315041505150615071508150915101511151215131514151515161517151815191520152115221523152415251526152715281529 |
- /*********************************KERNEL 8x4***********************************************/
- /*Zero C block Vectors*/
- .macro ZERO_CVEC_8x4
- vzero %v16
- vzero %v17
- vzero %v18
- vzero %v19
- vzero %v20
- vzero %v21
- vzero %v22
- vzero %v23
- vzero %v24
- vzero %v25
- vzero %v26
- vzero %v27
- vzero %v28
- vzero %v29
- vzero %v30
- vzero %v31
- .endm
-
- /*Calculate for 8x4 C blocks*/
- .macro CALC_8x4 PTR_A_REG,PTR_B_REG
- vlrepg %v7, 0(\PTR_B_REG)
- vlrepg %v1,8(\PTR_B_REG)
- vl %v2, 0(\PTR_A_REG)
- vl %v3, 16(\PTR_A_REG)
- vl %v4, 32(\PTR_A_REG)
- vl %v5, 48(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v18,%v4,%v7,%v18
- vfmadb %v19,%v5,%v7,%v19
- vfmadb %v20,%v2,%v1,%v20
- vfmadb %v21,%v3,%v1,%v21
- vlrepg %v7,16(\PTR_B_REG)
- vfmadb %v22,%v4,%v1,%v22
- vfmadb %v23,%v5,%v1,%v23
- vlrepg %v1,24(\PTR_B_REG)
- vfmadb %v24,%v2,%v7,%v24
- vfmadb %v25,%v3,%v7,%v25
- vfmadb %v26,%v4,%v7,%v26
- la \PTR_A_REG, 64(\PTR_A_REG)
- vfmadb %v27,%v5,%v7,%v27
- vfmadb %v28,%v2,%v1,%v28
- vfmadb %v29,%v3,%v1,%v29
- la \PTR_B_REG, 32(\PTR_B_REG)
- vfmadb %v30,%v4,%v1,%v30
- vfmadb %v31,%v5,%v1,%v31
- .endm
-
- /*Calculate for 8x4_4 C blocks*/
- .macro CALC_8x4_4 PTR_A_REG,PTR_B_REG
- vlrepg %v7, 0(\PTR_B_REG)
- vlrepg %v1,8(\PTR_B_REG)
- vl %v2, 0(\PTR_A_REG)
- vl %v3, 16(\PTR_A_REG)
- vl %v4, 32(\PTR_A_REG)
- vl %v5, 48(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v18,%v4,%v7,%v18
- vfmadb %v19,%v5,%v7,%v19
- vfmadb %v20,%v2,%v1,%v20
- vfmadb %v21,%v3,%v1,%v21
- vlrepg %v7,16(\PTR_B_REG)
- vfmadb %v22,%v4,%v1,%v22
- vfmadb %v23,%v5,%v1,%v23
- vlrepg %v1,24(\PTR_B_REG)
- vfmadb %v24,%v2,%v7,%v24
- vfmadb %v25,%v3,%v7,%v25
- vfmadb %v26,%v4,%v7,%v26
- vfmadb %v27,%v5,%v7,%v27
- vfmadb %v28,%v2,%v1,%v28
- vfmadb %v29,%v3,%v1,%v29
- vfmadb %v30,%v4,%v1,%v30
- vfmadb %v31,%v5,%v1,%v31
-
- vlrepg %v7, 32(\PTR_B_REG)
- vlrepg %v1,40(\PTR_B_REG)
- vl %v2, 64(\PTR_A_REG)
- vl %v3, 80(\PTR_A_REG)
- vl %v4, 96(\PTR_A_REG)
- vl %v5, 112(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v18,%v4,%v7,%v18
- vfmadb %v19,%v5,%v7,%v19
- vfmadb %v20,%v2,%v1,%v20
- vfmadb %v21,%v3,%v1,%v21
- vlrepg %v7,48(\PTR_B_REG)
- vfmadb %v22,%v4,%v1,%v22
- vfmadb %v23,%v5,%v1,%v23
- vlrepg %v1,56(\PTR_B_REG)
- vfmadb %v24,%v2,%v7,%v24
- vfmadb %v25,%v3,%v7,%v25
- vfmadb %v26,%v4,%v7,%v26
- vfmadb %v27,%v5,%v7,%v27
- vfmadb %v28,%v2,%v1,%v28
- vfmadb %v29,%v3,%v1,%v29
- vfmadb %v30,%v4,%v1,%v30
- vfmadb %v31,%v5,%v1,%v31
-
- vlrepg %v7, 64(\PTR_B_REG)
- vlrepg %v1,72(\PTR_B_REG)
- vl %v2, 128(\PTR_A_REG)
- vl %v3, 144(\PTR_A_REG)
- vl %v4, 160(\PTR_A_REG)
- vl %v5, 176(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v18,%v4,%v7,%v18
- vfmadb %v19,%v5,%v7,%v19
- vfmadb %v20,%v2,%v1,%v20
- vfmadb %v21,%v3,%v1,%v21
- vlrepg %v7,80(\PTR_B_REG)
- vfmadb %v22,%v4,%v1,%v22
- vfmadb %v23,%v5,%v1,%v23
- vlrepg %v1,88(\PTR_B_REG)
- vfmadb %v24,%v2,%v7,%v24
- vfmadb %v25,%v3,%v7,%v25
- vfmadb %v26,%v4,%v7,%v26
- vfmadb %v27,%v5,%v7,%v27
- vfmadb %v28,%v2,%v1,%v28
- vfmadb %v29,%v3,%v1,%v29
- vfmadb %v30,%v4,%v1,%v30
- vfmadb %v31,%v5,%v1,%v31
-
- vlrepg %v7, 96(\PTR_B_REG)
- vlrepg %v1,104(\PTR_B_REG)
- vl %v2, 192(\PTR_A_REG)
- vl %v3, 208(\PTR_A_REG)
- vl %v4, 224(\PTR_A_REG)
- vl %v5, 240(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v18,%v4,%v7,%v18
- vfmadb %v19,%v5,%v7,%v19
- vfmadb %v20,%v2,%v1,%v20
- vfmadb %v21,%v3,%v1,%v21
- vlrepg %v7,112(\PTR_B_REG)
- vfmadb %v22,%v4,%v1,%v22
- vfmadb %v23,%v5,%v1,%v23
- vlrepg %v1,120(\PTR_B_REG)
- vfmadb %v24,%v2,%v7,%v24
- vfmadb %v25,%v3,%v7,%v25
- vfmadb %v26,%v4,%v7,%v26
- vfmadb %v27,%v5,%v7,%v27
- la \PTR_B_REG, 128(\PTR_B_REG)
- vfmadb %v28,%v2,%v1,%v28
- vfmadb %v29,%v3,%v1,%v29
- vfmadb %v30,%v4,%v1,%v30
- la \PTR_A_REG, 256(\PTR_A_REG)
- vfmadb %v31,%v5,%v1,%v31
-
- .endm
-
-
- /*STORE C8X4*/
- .macro STORE_8x4 ALPHA_VECREG,CIJ_REG , LDC_BYTE_ORIGINAL
-
- /*add LDC_BYTE_reg=LDC_BYTE_original<<1 */
- la LOCAL_VAR1,0(\LDC_BYTE_ORIGINAL, \LDC_BYTE_ORIGINAL)
- vl %v1,0(\CIJ_REG)
- vfmadb %v1,%v16,\ALPHA_VECREG,%v1
- vst %v1,0(\CIJ_REG)
-
- vl %v2,16(\CIJ_REG)
- vfmadb %v2,%v17,\ALPHA_VECREG,%v2
- vst %v2,16(\CIJ_REG)
-
- vl %v3,32(\CIJ_REG)
- vfmadb %v3,%v18,\ALPHA_VECREG,%v3
- vst %v3,32(\CIJ_REG)
-
- vl %v4,48(\CIJ_REG)
- vfmadb %v4,%v19,\ALPHA_VECREG,%v4
- vst %v4,48(\CIJ_REG)
-
- la LOCAL_VAR2,0(LOCAL_VAR1,\LDC_BYTE_ORIGINAL )
-
-
- /*add c LDC_BYTE*/
- vl %v1,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmadb %v1,%v20,\ALPHA_VECREG,%v1
- vst %v1,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
-
- vl %v2,16(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmadb %v2,%v21,\ALPHA_VECREG,%v2
- vst %v2,16(\CIJ_REG,\LDC_BYTE_ORIGINAL)
-
-
- vl %v3,32(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmadb %v3,%v22,\ALPHA_VECREG,%v3
- vst %v3,32(\CIJ_REG,\LDC_BYTE_ORIGINAL)
-
- vl %v4,48(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmadb %v4,%v23,\ALPHA_VECREG,%v4
- vst %v4,48(\CIJ_REG,\LDC_BYTE_ORIGINAL)
-
-
- vl %v1,0(\CIJ_REG,LOCAL_VAR1)
- vfmadb %v1,%v24,\ALPHA_VECREG,%v1
- vst %v1,0(\CIJ_REG,LOCAL_VAR1)
-
- vl %v2,16(\CIJ_REG,LOCAL_VAR1)
- vfmadb %v2,%v25,\ALPHA_VECREG,%v2
- vst %v2,16(\CIJ_REG,LOCAL_VAR1)
-
- vl %v3,32(\CIJ_REG,LOCAL_VAR1)
- vfmadb %v3,%v26,\ALPHA_VECREG,%v3
- vst %v3,32(\CIJ_REG,LOCAL_VAR1)
-
- vl %v4,48(\CIJ_REG,LOCAL_VAR1)
- vfmadb %v4,%v27,\ALPHA_VECREG,%v4
- vst %v4,48(\CIJ_REG,LOCAL_VAR1)
-
-
- vl %v1,0(\CIJ_REG,LOCAL_VAR2)
- vfmadb %v1,%v28,\ALPHA_VECREG,%v1
- vst %v1,0(\CIJ_REG,LOCAL_VAR2)
-
- vl %v2,16(\CIJ_REG,LOCAL_VAR2)
- vfmadb %v2,%v29,\ALPHA_VECREG,%v2
- vst %v2,16(\CIJ_REG,LOCAL_VAR2)
-
- vl %v3,32(\CIJ_REG,LOCAL_VAR2)
- vfmadb %v3,%v30,\ALPHA_VECREG,%v3
- vst %v3,32(\CIJ_REG,LOCAL_VAR2)
-
- vl %v4,48(\CIJ_REG,LOCAL_VAR2)
- vfmadb %v4,%v31,\ALPHA_VECREG,%v4
- vst %v4,48(\CIJ_REG,LOCAL_VAR2)
-
- la \CIJ_REG,64(\CIJ_REG)
-
- .endm
-
- /*STORE TRMM C8X4*/
- .macro STORE_TRMM_8x4 ALPHA_VECREG,CIJ_REG , LDC_BYTE_ORIGINAL
-
- /*add LDC_BYTE_reg=LDC_BYTE_original<<1 */
- la LOCAL_VAR1,0(\LDC_BYTE_ORIGINAL, \LDC_BYTE_ORIGINAL)
- vfmdb %v1,%v16,\ALPHA_VECREG
- vst %v1,0(\CIJ_REG)
-
- vfmdb %v2,%v17,\ALPHA_VECREG
- vst %v2,16(\CIJ_REG)
- vfmdb %v3,%v18,\ALPHA_VECREG
- vst %v3,32(\CIJ_REG)
- vfmdb %v4,%v19,\ALPHA_VECREG
- vst %v4,48(\CIJ_REG)
-
- la LOCAL_VAR2,0(LOCAL_VAR1,\LDC_BYTE_ORIGINAL )
-
- /*add c LDC_BYTE*/
- vfmdb %v1,%v20,\ALPHA_VECREG
- vst %v1,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmdb %v2,%v21,\ALPHA_VECREG
- vst %v2,16(\CIJ_REG,\LDC_BYTE_ORIGINAL)
-
- vfmdb %v3,%v22,\ALPHA_VECREG
- vst %v3,32(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmdb %v4,%v23,\ALPHA_VECREG
- vst %v4,48(\CIJ_REG,\LDC_BYTE_ORIGINAL)
-
- vfmdb %v1,%v24,\ALPHA_VECREG
- vst %v1,0(\CIJ_REG,LOCAL_VAR1)
- vfmdb %v2,%v25,\ALPHA_VECREG
- vst %v2,16(\CIJ_REG,LOCAL_VAR1)
- vfmdb %v3,%v26,\ALPHA_VECREG
- vst %v3,32(\CIJ_REG,LOCAL_VAR1)
- vfmdb %v4,%v27,\ALPHA_VECREG
- vst %v4,48(\CIJ_REG,LOCAL_VAR1)
-
- vfmdb %v1,%v28,\ALPHA_VECREG
- vst %v1,0(\CIJ_REG,LOCAL_VAR2)
- vfmdb %v2,%v29,\ALPHA_VECREG
- vst %v2,16(\CIJ_REG,LOCAL_VAR2)
- vfmdb %v3,%v30,\ALPHA_VECREG
- vst %v3,32(\CIJ_REG,LOCAL_VAR2)
- vfmdb %v4,%v31,\ALPHA_VECREG
- vst %v4,48(\CIJ_REG,LOCAL_VAR2)
- la \CIJ_REG,64(\CIJ_REG)
-
- .endm
- /**************************************Kernel4x4*************************************************/
-
- /*Zero C block Vectors*/
- .macro ZERO_CVEC_4x4
- vzero %v16
- vzero %v17
- vzero %v20
- vzero %v21
- vzero %v24
- vzero %v25
- vzero %v28
- vzero %v29
- .endm
-
- /*Calculate for 4x4 C blocks*/
- .macro CALC_4x4 PTR_A_REG,PTR_B_REG
- vlrepg %v7, 0(\PTR_B_REG)
- vlrepg %v1,8(\PTR_B_REG)
- vl %v2, 0(\PTR_A_REG)
- vl %v3, 16(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v20,%v2,%v1,%v20
- vfmadb %v21,%v3,%v1,%v21
- vlrepg %v7,16(\PTR_B_REG)
- vlrepg %v1,24(\PTR_B_REG)
- vfmadb %v24,%v2,%v7,%v24
- vfmadb %v25,%v3,%v7,%v25
- la \PTR_A_REG, 32(\PTR_A_REG)
- vfmadb %v28,%v2,%v1,%v28
- vfmadb %v29,%v3,%v1,%v29
- la \PTR_B_REG, 32(\PTR_B_REG)
- .endm
-
- .macro CALC_4x4_4 PTR_A_REG,PTR_B_REG
- vlrepg %v7, 0(\PTR_B_REG)
- vlrepg %v1,8(\PTR_B_REG)
- vl %v2, 0(\PTR_A_REG)
- vl %v3, 16(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v20,%v2,%v1,%v20
- vfmadb %v21,%v3,%v1,%v21
- vlrepg %v7,16(\PTR_B_REG)
- vlrepg %v1,24(\PTR_B_REG)
- vfmadb %v24,%v2,%v7,%v24
- vfmadb %v25,%v3,%v7,%v25
- vfmadb %v28,%v2,%v1,%v28
- vfmadb %v29,%v3,%v1,%v29
-
- vlrepg %v7, 32(\PTR_B_REG)
- vlrepg %v1,40(\PTR_B_REG)
- vl %v2, 32(\PTR_A_REG)
- vl %v3, 48(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v20,%v2,%v1,%v20
- vfmadb %v21,%v3,%v1,%v21
- vlrepg %v7,48(\PTR_B_REG)
- vlrepg %v1,56(\PTR_B_REG)
- vfmadb %v24,%v2,%v7,%v24
- vfmadb %v25,%v3,%v7,%v25
- vfmadb %v28,%v2,%v1,%v28
- vfmadb %v29,%v3,%v1,%v29
-
- vlrepg %v7, 64(\PTR_B_REG)
- vlrepg %v1,72(\PTR_B_REG)
- vl %v2, 64(\PTR_A_REG)
- vl %v3, 80(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v20,%v2,%v1,%v20
- vfmadb %v21,%v3,%v1,%v21
- vlrepg %v7,80(\PTR_B_REG)
- vlrepg %v1,88(\PTR_B_REG)
- vfmadb %v24,%v2,%v7,%v24
- vfmadb %v25,%v3,%v7,%v25
- vfmadb %v28,%v2,%v1,%v28
- vfmadb %v29,%v3,%v1,%v29
-
- vlrepg %v7, 96(\PTR_B_REG)
- vlrepg %v1,104(\PTR_B_REG)
- vl %v2, 96(\PTR_A_REG)
- vl %v3, 112(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v20,%v2,%v1,%v20
- vfmadb %v21,%v3,%v1,%v21
- vlrepg %v7,112(\PTR_B_REG)
- la \PTR_A_REG, 128(\PTR_A_REG)
- vlrepg %v1,120(\PTR_B_REG)
- vfmadb %v24,%v2,%v7,%v24
- vfmadb %v25,%v3,%v7,%v25
- vfmadb %v28,%v2,%v1,%v28
- la \PTR_B_REG, 128(\PTR_B_REG)
- vfmadb %v29,%v3,%v1,%v29
- .endm
-
- /*STORE C4X4*/
- .macro STORE_4x4 ALPHA_VECREG,CIJ_REG , LDC_BYTE_ORIGINAL
-
- /*add LDC_BYTE_reg=LDC_BYTE_original<<1 */
- la LOCAL_VAR1,0(\LDC_BYTE_ORIGINAL, \LDC_BYTE_ORIGINAL)
- vl %v1,0(\CIJ_REG)
- vfmadb %v1,%v16,\ALPHA_VECREG,%v1
- vst %v1,0(\CIJ_REG)
-
- vl %v2,16(\CIJ_REG)
- vfmadb %v2,%v17,\ALPHA_VECREG,%v2
- vst %v2,16(\CIJ_REG)
-
-
- la LOCAL_VAR2,0(LOCAL_VAR1,\LDC_BYTE_ORIGINAL )
-
- /*add c LDC_BYTE*/
- vl %v1,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmadb %v1,%v20,\ALPHA_VECREG,%v1
- vst %v1,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
-
- vl %v2,16(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmadb %v2,%v21,\ALPHA_VECREG,%v2
- vst %v2,16(\CIJ_REG,\LDC_BYTE_ORIGINAL)
-
- vl %v1,0(\CIJ_REG,LOCAL_VAR1)
- vfmadb %v1,%v24,\ALPHA_VECREG,%v1
- vst %v1,0(\CIJ_REG,LOCAL_VAR1)
-
- vl %v2,16(\CIJ_REG,LOCAL_VAR1)
- vfmadb %v2,%v25,\ALPHA_VECREG,%v2
- vst %v2,16(\CIJ_REG,LOCAL_VAR1)
-
-
- vl %v1,0(\CIJ_REG,LOCAL_VAR2)
- vfmadb %v1,%v28,\ALPHA_VECREG,%v1
- vst %v1,0(\CIJ_REG,LOCAL_VAR2)
-
- vl %v2,16(\CIJ_REG,LOCAL_VAR2)
- vfmadb %v2,%v29,\ALPHA_VECREG,%v2
- vst %v2,16(\CIJ_REG,LOCAL_VAR2)
-
- la \CIJ_REG,32(\CIJ_REG)
- .endm
-
- /*STORE TRMM C4X4*/
- .macro STORE_TRMM_4x4 ALPHA_VECREG,CIJ_REG , LDC_BYTE_ORIGINAL
- /*add LDC_BYTE_reg=LDC_BYTE_original<<1 */
- la LOCAL_VAR1,0(\LDC_BYTE_ORIGINAL, \LDC_BYTE_ORIGINAL)
- vfmdb %v1,%v16,\ALPHA_VECREG
- vst %v1,0(\CIJ_REG)
- vfmdb %v2,%v17,\ALPHA_VECREG
- vst %v2,16(\CIJ_REG)
- la LOCAL_VAR2,0(LOCAL_VAR1,\LDC_BYTE_ORIGINAL )
- vfmdb %v1,%v20,\ALPHA_VECREG
- vst %v1,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmdb %v2,%v21,\ALPHA_VECREG
- vst %v2,16(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmdb %v1,%v24,\ALPHA_VECREG
- vst %v1,0(\CIJ_REG,LOCAL_VAR1)
- vfmdb %v2,%v25,\ALPHA_VECREG
- vst %v2,16(\CIJ_REG,LOCAL_VAR1)
- vfmdb %v1,%v28,\ALPHA_VECREG
- vst %v1,0(\CIJ_REG,LOCAL_VAR2)
- vfmdb %v2,%v29,\ALPHA_VECREG
- vst %v2,16(\CIJ_REG,LOCAL_VAR2)
- la \CIJ_REG,32(\CIJ_REG)
- .endm
- /**************************************Kernel2x4*************************************************/
- /*Zero C block Vectors*/
- .macro ZERO_CVEC_2x4
- vzero %v1 /*a1b1 a1b2 */
- vzero %v2 /*a1b3 a1b4 */
- vzero %v6 /*a2b1 a2b2 */
- vzero %v7 /*a2b3 a2b4 */
- .endm
-
- /*Calculate for 2x4_4 C blocks.This Time BroadCast A. but Load B multiple*/
- .macro CALC_2x4_4 PTR_A_REG,PTR_B_REG
- vl %v4, 0(\PTR_B_REG)
- vl %v5,16(\PTR_B_REG)
- vlrepg %v3, 0(\PTR_A_REG)
- vlrepg %v16, 8(\PTR_A_REG)
- vfmadb %v1,%v3,%v4,%v1
- vfmadb %v2,%v3,%v5,%v2
- vfmadb %v6,%v16,%v4,%v6
- vfmadb %v7,%v16,%v5,%v7
-
- vl %v4, 32(\PTR_B_REG)
- vl %v5,48(\PTR_B_REG)
- vlrepg %v3, 16(\PTR_A_REG)
- vlrepg %v16, 24(\PTR_A_REG)
- vfmadb %v1,%v3,%v4,%v1
- vfmadb %v2,%v3,%v5,%v2
- vfmadb %v6,%v16,%v4,%v6
- vfmadb %v7,%v16,%v5,%v7
-
- vl %v4, 64(\PTR_B_REG)
- vl %v5,80(\PTR_B_REG)
- vlrepg %v3, 32(\PTR_A_REG)
- vlrepg %v16, 40(\PTR_A_REG)
- vfmadb %v1,%v3,%v4,%v1
- vfmadb %v2,%v3,%v5,%v2
- vfmadb %v6,%v16,%v4,%v6
- vfmadb %v7,%v16,%v5,%v7
-
- vl %v4, 96(\PTR_B_REG)
- vl %v5,112(\PTR_B_REG)
- vlrepg %v3, 48(\PTR_A_REG)
- vlrepg %v16, 56(\PTR_A_REG)
- vfmadb %v1,%v3,%v4,%v1
- vfmadb %v2,%v3,%v5,%v2
- la \PTR_B_REG, 128(\PTR_B_REG)
- vfmadb %v6,%v16,%v4,%v6
- vfmadb %v7,%v16,%v5,%v7
- la \PTR_A_REG, 64(\PTR_A_REG)
- .endm
-
- /*Calculate for 2x4 C blocks.This Time BroadCast A. but Load B multiple*/
- .macro CALC_2x4 PTR_A_REG,PTR_B_REG
- vl %v4, 0(\PTR_B_REG)
- vl %v5,16(\PTR_B_REG)
- vlrepg %v3, 0(\PTR_A_REG)
- vlrepg %v16, 8(\PTR_A_REG)
- vfmadb %v1,%v3,%v4,%v1
- vfmadb %v2,%v3,%v5,%v2
- la \PTR_A_REG, 16(\PTR_A_REG)
- vfmadb %v6,%v16,%v4,%v6
- vfmadb %v7,%v16,%v5,%v7
- la \PTR_B_REG, 32(\PTR_B_REG)
- .endm
-
- .macro STORE_2x4 ALPHA_REG,CIJ_REG , LDC_BYTE_ORIGINAL
- /**/
- vfmdb %v1,%v1,\ALPHA_REG
- vfmdb %v2,%v2,\ALPHA_REG
- vfmdb %v6,%v6,\ALPHA_REG
- vfmdb %v7,%v7,\ALPHA_REG
- vrepg %v4,%v1,1
- vrepg %v5,%v6,1
- la LOCAL_VAR1,0(\LDC_BYTE_ORIGINAL, \LDC_BYTE_ORIGINAL)
- adb %f1, 0(\CIJ_REG)
- std %f1,0(\CIJ_REG)
-
- adb %f6, 8(\CIJ_REG)
- std %f6,8(\CIJ_REG)
-
- adb %f4,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- std %f4,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
-
- adb %f5,8(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- std %f5,8(\CIJ_REG,\LDC_BYTE_ORIGINAL)
-
- /*add LDC_BYTE */
- la LOCAL_VAR2,0(LOCAL_VAR1,\LDC_BYTE_ORIGINAL )
- vrepg %v4,%v2,1
- vrepg %v5,%v7,1
-
- adb %f2,0(\CIJ_REG,LOCAL_VAR1)
- std %f2,0(\CIJ_REG,LOCAL_VAR1)
-
- adb %f7,8(\CIJ_REG,LOCAL_VAR1)
- std %f7,8(\CIJ_REG,LOCAL_VAR1)
-
- adb %f4,0(\CIJ_REG,LOCAL_VAR2)
- std %f4,0(\CIJ_REG,LOCAL_VAR2)
-
- adb %f5,8(\CIJ_REG,LOCAL_VAR2)
- std %f5,8(\CIJ_REG,LOCAL_VAR2)
- la \CIJ_REG,16(\CIJ_REG)
-
- .endm
-
- .macro STORE_TRMM_2x4 ALPHA_REG,CIJ_REG , LDC_BYTE_ORIGINAL
- /**/
- vfmdb %v1,%v1,\ALPHA_REG
- vfmdb %v2,%v2,\ALPHA_REG
- vfmdb %v6,%v6,\ALPHA_REG
- vfmdb %v7,%v7,\ALPHA_REG
- vrepg %v4,%v1,1
- vrepg %v5,%v6,1
- la LOCAL_VAR1,0(\LDC_BYTE_ORIGINAL, \LDC_BYTE_ORIGINAL)
- std %f1,0(\CIJ_REG)
- std %f6,8(\CIJ_REG)
- std %f4,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- std %f5,8(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- /*add LDC_BYTE */
- la LOCAL_VAR2,0(LOCAL_VAR1,\LDC_BYTE_ORIGINAL )
- vrepg %v4,%v2,1
- vrepg %v5,%v7,1
- std %f2,0(\CIJ_REG,LOCAL_VAR1)
- std %f7,8(\CIJ_REG,LOCAL_VAR1)
- std %f4,0(\CIJ_REG,LOCAL_VAR2)
- std %f5,8(\CIJ_REG,LOCAL_VAR2)
- la \CIJ_REG,16(\CIJ_REG)
- .endm
-
- /**************************************Kernel1x4*************************************************/
- /*Zero C block Vectors*/
- .macro ZERO_CVEC_1x4
- vzero %v1
- vzero %v2
- .endm
- /*Calculate for 1x4 C blocks.This Time BroadCast A. but Load B multiple*/
- .macro CALC_1x4 PTR_A_REG,PTR_B_REG
- vl %v4, 0(\PTR_B_REG)
- vl %v5,16(\PTR_B_REG)
- vlrepg %v3, 0(\PTR_A_REG)
- vfmadb %v1,%v3,%v4,%v1
- la \PTR_A_REG, 8(\PTR_A_REG)
- vfmadb %v2,%v3,%v5,%v2
- la \PTR_B_REG, 32(\PTR_B_REG)
- .endm
-
- /*Calculate for 1x4_4 C blocks.This Time BroadCast A. but Load B multiple*/
- .macro CALC_1x4_4 PTR_A_REG,PTR_B_REG
- vl %v4, 0(\PTR_B_REG)
- vl %v5,16(\PTR_B_REG)
- vlrepg %v3, 0(\PTR_A_REG)
- vfmadb %v1,%v3,%v4,%v1
- vfmadb %v2,%v3,%v5,%v2
-
- vl %v4, 32(\PTR_B_REG)
- vl %v5,48(\PTR_B_REG)
- vlrepg %v3, 8(\PTR_A_REG)
- vfmadb %v1,%v3,%v4,%v1
- vfmadb %v2,%v3,%v5,%v2
-
- vl %v4, 64(\PTR_B_REG)
- vl %v5,80(\PTR_B_REG)
- vlrepg %v3, 16(\PTR_A_REG)
- vfmadb %v1,%v3,%v4,%v1
- vfmadb %v2,%v3,%v5,%v2
-
- vl %v4, 96(\PTR_B_REG)
- vl %v5,112(\PTR_B_REG)
- vlrepg %v3, 24(\PTR_A_REG)
- vfmadb %v1,%v3,%v4,%v1
- vfmadb %v2,%v3,%v5,%v2
- la \PTR_A_REG, 32(\PTR_A_REG)
- la \PTR_B_REG, 128(\PTR_B_REG)
- .endm
-
- .macro STORE_1x4 ALPHA_REG,CIJ_REG , LDC_BYTE_ORIGINAL
- /**/
- vfmdb %v1,%v1,\ALPHA_REG
- vfmdb %v2,%v2,\ALPHA_REG
- vrepg %v4,%v1,1
- vrepg %v5,%v2,1
- la LOCAL_VAR1,0(\LDC_BYTE_ORIGINAL, \LDC_BYTE_ORIGINAL)
- adb %f1, 0(\CIJ_REG)
- std %f1,0(\CIJ_REG)
-
- adb %f4,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- std %f4,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- /*add LDC_BYTE */
- la LOCAL_VAR2,0(LOCAL_VAR1,\LDC_BYTE_ORIGINAL )
- adb %f2,0(\CIJ_REG,LOCAL_VAR1)
- std %f2,0(\CIJ_REG,LOCAL_VAR1)
- adb %f5,0(\CIJ_REG,LOCAL_VAR2)
- std %f5,0(\CIJ_REG,LOCAL_VAR2)
- la \CIJ_REG,8(\CIJ_REG)
-
- .endm
-
- .macro STORE_TRMM_1x4 ALPHA_REG,CIJ_REG , LDC_BYTE_ORIGINAL
- /**/
- vfmdb %v1,%v1,\ALPHA_REG
- vfmdb %v2,%v2,\ALPHA_REG
- vrepg %v4,%v1,1
- vrepg %v5,%v2,1
- la LOCAL_VAR1,0(\LDC_BYTE_ORIGINAL, \LDC_BYTE_ORIGINAL)
- std %f1,0(\CIJ_REG)
- std %f4,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- /*add LDC_BYTE */
- la LOCAL_VAR2,0(LOCAL_VAR1,\LDC_BYTE_ORIGINAL )
- std %f2,0(\CIJ_REG,LOCAL_VAR1)
- std %f5,0(\CIJ_REG,LOCAL_VAR2)
- la \CIJ_REG,8(\CIJ_REG)
- .endm
- /***************************************BN=2 SECTION***************************************/
- /*************************************Kernel8x2***************************************************/
- /*Zero C block Vectors*/
- .macro ZERO_CVEC_8x2
- vzero %v16
- vzero %v17
- vzero %v18
- vzero %v19
- vzero %v20
- vzero %v21
- vzero %v22
- vzero %v23
-
- .endm
-
- /*Calculate for 8x2 C blocks*/
- .macro CALC_8x2 PTR_A_REG,PTR_B_REG
- vlrepg %v7, 0(\PTR_B_REG)
- vlrepg %v1,8(\PTR_B_REG)
- vl %v2, 0(\PTR_A_REG)
- vl %v3, 16(\PTR_A_REG)
- vl %v4, 32(\PTR_A_REG)
- vl %v5, 48(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v18,%v4,%v7,%v18
- vfmadb %v19,%v5,%v7,%v19
- vfmadb %v20,%v2,%v1,%v20
- vfmadb %v21,%v3,%v1,%v21
- la \PTR_A_REG, 64(\PTR_A_REG)
- vfmadb %v22,%v4,%v1,%v22
- vfmadb %v23,%v5,%v1,%v23
- la \PTR_B_REG, 16(\PTR_B_REG)
- .endm
-
-
- /*Calculate for 8x2_4 C blocks*/
- .macro CALC_8x2_4 PTR_A_REG,PTR_B_REG
- vlrepg %v7, 0(\PTR_B_REG)
- vlrepg %v1,8(\PTR_B_REG)
- vl %v2, 0(\PTR_A_REG)
- vl %v3, 16(\PTR_A_REG)
- vl %v4, 32(\PTR_A_REG)
- vl %v5, 48(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v18,%v4,%v7,%v18
- vfmadb %v19,%v5,%v7,%v19
- vfmadb %v20,%v2,%v1,%v20
- vfmadb %v21,%v3,%v1,%v21
- vfmadb %v22,%v4,%v1,%v22
- vfmadb %v23,%v5,%v1,%v23
-
- vlrepg %v7, 16(\PTR_B_REG)
- vlrepg %v1,24(\PTR_B_REG)
- vl %v2, 64(\PTR_A_REG)
- vl %v3, 80(\PTR_A_REG)
- vl %v4, 96(\PTR_A_REG)
- vl %v5, 112(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v18,%v4,%v7,%v18
- vfmadb %v19,%v5,%v7,%v19
- vfmadb %v20,%v2,%v1,%v20
- vfmadb %v21,%v3,%v1,%v21
- vfmadb %v22,%v4,%v1,%v22
- vfmadb %v23,%v5,%v1,%v23
-
- vlrepg %v7, 32(\PTR_B_REG)
- vlrepg %v1,40(\PTR_B_REG)
- vl %v2, 128(\PTR_A_REG)
- vl %v3, 144(\PTR_A_REG)
- vl %v4, 160(\PTR_A_REG)
- vl %v5, 176(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v18,%v4,%v7,%v18
- vfmadb %v19,%v5,%v7,%v19
- vfmadb %v20,%v2,%v1,%v20
- vfmadb %v21,%v3,%v1,%v21
- vfmadb %v22,%v4,%v1,%v22
- vfmadb %v23,%v5,%v1,%v23
-
- vlrepg %v7, 48(\PTR_B_REG)
- vlrepg %v1,56(\PTR_B_REG)
- vl %v2, 192(\PTR_A_REG)
- vl %v3, 208(\PTR_A_REG)
- vl %v4, 224(\PTR_A_REG)
- vl %v5, 240(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v18,%v4,%v7,%v18
- vfmadb %v19,%v5,%v7,%v19
- la \PTR_B_REG, 64(\PTR_B_REG)
- vfmadb %v20,%v2,%v1,%v20
- vfmadb %v21,%v3,%v1,%v21
- vfmadb %v22,%v4,%v1,%v22
- vfmadb %v23,%v5,%v1,%v23
- la \PTR_A_REG, 256(\PTR_A_REG)
- .endm
-
- /*STORE C8X2*/
- .macro STORE_8x2 ALPHA_VECREG,CIJ_REG , LDC_BYTE_ORIGINAL
-
- vl %v1,0(\CIJ_REG)
- vfmadb %v1,%v16,\ALPHA_VECREG,%v1
- vst %v1,0(\CIJ_REG)
-
- vl %v2,16(\CIJ_REG)
- vfmadb %v2,%v17,\ALPHA_VECREG,%v2
- vst %v2,16(\CIJ_REG)
-
- vl %v3,32(\CIJ_REG)
- vfmadb %v3,%v18,\ALPHA_VECREG,%v3
- vst %v3,32(\CIJ_REG)
-
- vl %v4,48(\CIJ_REG)
- vfmadb %v4,%v19,\ALPHA_VECREG,%v4
- vst %v4,48(\CIJ_REG)
-
-
- vl %v1,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmadb %v1,%v20,\ALPHA_VECREG,%v1
- vst %v1,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
-
- vl %v2,16(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmadb %v2,%v21,\ALPHA_VECREG,%v2
- vst %v2,16(\CIJ_REG,\LDC_BYTE_ORIGINAL)
-
-
- vl %v3,32(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmadb %v3,%v22,\ALPHA_VECREG,%v3
- vst %v3,32(\CIJ_REG,\LDC_BYTE_ORIGINAL)
-
- vl %v4,48(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmadb %v4,%v23,\ALPHA_VECREG,%v4
- vst %v4,48(\CIJ_REG,\LDC_BYTE_ORIGINAL)
-
-
- la \CIJ_REG,64(\CIJ_REG)
-
- .endm
-
- /*STORE TRMM C8X2*/
- .macro STORE_TRMM_8x2 ALPHA_VECREG,CIJ_REG , LDC_BYTE_ORIGINAL
- vfmdb %v1,%v16,\ALPHA_VECREG
- vst %v1,0(\CIJ_REG)
- vfmdb %v2,%v17,\ALPHA_VECREG
- vst %v2,16(\CIJ_REG)
- vfmdb %v3,%v18,\ALPHA_VECREG
- vst %v3,32(\CIJ_REG)
- vfmdb %v4,%v19,\ALPHA_VECREG
- vst %v4,48(\CIJ_REG)
- vfmdb %v1,%v20,\ALPHA_VECREG
- vst %v1,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmdb %v2,%v21,\ALPHA_VECREG
- vst %v2,16(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmdb %v3,%v22,\ALPHA_VECREG
- vst %v3,32(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmdb %v4,%v23,\ALPHA_VECREG
- vst %v4,48(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- la \CIJ_REG,64(\CIJ_REG)
- .endm
-
- /*************************************Kernel4x2***************************************************/
- /*Zero C block Vectors*/
- .macro ZERO_CVEC_4x2
- vzero %v16
- vzero %v17
- vzero %v20
- vzero %v21
-
- .endm
-
- /*Calculate for 4x2 C blocks*/
- .macro CALC_4x2 PTR_A_REG,PTR_B_REG
- vlrepg %v7, 0(\PTR_B_REG)
- vlrepg %v1,8(\PTR_B_REG)
- vl %v2, 0(\PTR_A_REG)
- vl %v3, 16(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- la \PTR_A_REG, 32(\PTR_A_REG)
- vfmadb %v20,%v2,%v1,%v20
- vfmadb %v21,%v3,%v1,%v21
- la \PTR_B_REG, 16(\PTR_B_REG)
- .endm
-
- /*Calculate for 4x2_4 C blocks*/
- .macro CALC_4x2_4 PTR_A_REG,PTR_B_REG
-
- vlrepg %v7, 0(\PTR_B_REG)
- vlrepg %v1,8(\PTR_B_REG)
- vl %v2, 0(\PTR_A_REG)
- vl %v3, 16(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v20,%v2,%v1,%v20
- vfmadb %v21,%v3,%v1,%v21
-
- vlrepg %v7, 16(\PTR_B_REG)
- vlrepg %v1,24(\PTR_B_REG)
- vl %v2, 32(\PTR_A_REG)
- vl %v3, 48(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v20,%v2,%v1,%v20
- vfmadb %v21,%v3,%v1,%v21
-
- vlrepg %v7, 32(\PTR_B_REG)
- vlrepg %v1,40(\PTR_B_REG)
- vl %v2, 64(\PTR_A_REG)
- vl %v3, 80(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v20,%v2,%v1,%v20
- vfmadb %v21,%v3,%v1,%v21
-
-
- vlrepg %v7, 48(\PTR_B_REG)
- vlrepg %v1,56(\PTR_B_REG)
- vl %v2, 96(\PTR_A_REG)
- vl %v3, 112(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- la \PTR_B_REG, 64(\PTR_B_REG)
- vfmadb %v20,%v2,%v1,%v20
- vfmadb %v21,%v3,%v1,%v21
- la \PTR_A_REG, 128(\PTR_A_REG)
- .endm
-
-
- /*STORE C4x2*/
- .macro STORE_4x2 ALPHA_VECREG,CIJ_REG , LDC_BYTE_ORIGINAL
-
- vl %v1,0(\CIJ_REG)
- vfmadb %v1,%v16,\ALPHA_VECREG,%v1
- vst %v1,0(\CIJ_REG)
-
- vl %v2,16(\CIJ_REG)
- vfmadb %v2,%v17,\ALPHA_VECREG,%v2
- vst %v2,16(\CIJ_REG)
-
-
- vl %v1,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmadb %v1,%v20,\ALPHA_VECREG,%v1
- vst %v1,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
-
- vl %v2,16(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmadb %v2,%v21,\ALPHA_VECREG,%v2
- vst %v2,16(\CIJ_REG,\LDC_BYTE_ORIGINAL)
-
- la \CIJ_REG,32(\CIJ_REG)
-
- .endm
-
- /*STORE TRMM C4x2*/
- .macro STORE_TRMM_4x2 ALPHA_VECREG,CIJ_REG , LDC_BYTE_ORIGINAL
- vfmdb %v1,%v16,\ALPHA_VECREG
- vst %v1,0(\CIJ_REG)
- vfmdb %v2,%v17,\ALPHA_VECREG
- vst %v2,16(\CIJ_REG)
- vfmdb %v1,%v20,\ALPHA_VECREG
- vst %v1,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmdb %v2,%v21,\ALPHA_VECREG
- vst %v2,16(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- la \CIJ_REG,32(\CIJ_REG)
- .endm
-
- /*************************************Kernel2x2***************************************************/
- /*Zero C block Vectors*/
- .macro ZERO_CVEC_2x2
- vzero %v16
- vzero %v20
-
- .endm
-
- /*Calculate for 2x2 C blocks*/
- .macro CALC_2x2 PTR_A_REG,PTR_B_REG
- vlrepg %v7, 0(\PTR_B_REG)
- vlrepg %v1,8(\PTR_B_REG)
- vl %v2, 0(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- la \PTR_A_REG, 16(\PTR_A_REG)
- vfmadb %v20,%v2,%v1,%v20
- la \PTR_B_REG, 16(\PTR_B_REG)
- .endm
-
- /*Calculate for 2x2_4 C blocks*/
- .macro CALC_2x2_4 PTR_A_REG,PTR_B_REG
- vlrepg %v7, 0(\PTR_B_REG)
- vlrepg %v1,8(\PTR_B_REG)
- vl %v2, 0(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v20,%v2,%v1,%v20
-
- vlrepg %v7, 16(\PTR_B_REG)
- vlrepg %v1,24(\PTR_B_REG)
- vl %v2, 16(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v20,%v2,%v1,%v20
-
- vlrepg %v7, 32(\PTR_B_REG)
- vlrepg %v1,40(\PTR_B_REG)
- vl %v2, 32(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v20,%v2,%v1,%v20
-
-
- vlrepg %v7, 48(\PTR_B_REG)
- vlrepg %v1,56(\PTR_B_REG)
- vl %v2, 48(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v20,%v2,%v1,%v20
-
- la \PTR_B_REG, 64(\PTR_B_REG)
- la \PTR_A_REG, 64(\PTR_A_REG)
- .endm
-
- /*STORE C2x2*/
- .macro STORE_2x2 ALPHA_VECREG,CIJ_REG , LDC_BYTE_ORIGINAL
-
- vl %v1,0(\CIJ_REG)
- vfmadb %v1,%v16,\ALPHA_VECREG,%v1
- vst %v1,0(\CIJ_REG)
-
- vl %v1,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- vfmadb %v1,%v20,\ALPHA_VECREG,%v1
- vst %v1,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
-
- la \CIJ_REG,16(\CIJ_REG)
-
- .endm
-
- /*STORE TRMM C2x2*/
- .macro STORE_TRMM_2x2 ALPHA_VECREG,CIJ_REG , LDC_BYTE_ORIGINAL
- vfmdb %v1,%v16,\ALPHA_VECREG
- vst %v1,0(\CIJ_REG)
- vfmdb %v1,%v20,\ALPHA_VECREG
- vst %v1,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- la \CIJ_REG,16(\CIJ_REG)
- .endm
-
- /**************************************Kernel1x2*************************************************/
- /*Zero C block Vectors*/
- .macro ZERO_CVEC_1x2
- vzero %v1
- .endm
- /*Calculate for 1x2 C blocks.This Time BroadCast A. but Load B multiple*/
- .macro CALC_1x2 PTR_A_REG,PTR_B_REG
- vl %v4, 0(\PTR_B_REG)
- vlrepg %v3, 0(\PTR_A_REG)
- la \PTR_B_REG, 16(\PTR_B_REG)
- vfmadb %v1,%v3,%v4,%v1
- la \PTR_A_REG, 8(\PTR_A_REG)
- .endm
-
- .macro CALC_1x2_4 PTR_A_REG,PTR_B_REG
- vl %v4, 0(\PTR_B_REG)
- vlrepg %v3, 0(\PTR_A_REG)
- vfmadb %v1,%v3,%v4,%v1
-
- vl %v4, 16(\PTR_B_REG)
- vlrepg %v3, 8(\PTR_A_REG)
- vfmadb %v1,%v3,%v4,%v1
-
- vl %v4, 32(\PTR_B_REG)
- vlrepg %v3, 16(\PTR_A_REG)
- vfmadb %v1,%v3,%v4,%v1
-
- vl %v4, 48(\PTR_B_REG)
- vlrepg %v3, 24(\PTR_A_REG)
- vfmadb %v1,%v3,%v4,%v1
-
- la \PTR_B_REG, 64(\PTR_B_REG)
- la \PTR_A_REG, 32(\PTR_A_REG)
- .endm
-
- .macro STORE_1x2 ALPHA_REG,CIJ_REG , LDC_BYTE_ORIGINAL
- /**/
- vfmdb %v1,%v1,\ALPHA_REG
- vrepg %v4,%v1,1
- adb %f1, 0(\CIJ_REG)
- std %f1,0(\CIJ_REG)
-
- adb %f4,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- std %f4,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
-
- la \CIJ_REG,8(\CIJ_REG)
-
- .endm
-
- .macro STORE_TRMM_1x2 ALPHA_REG,CIJ_REG , LDC_BYTE_ORIGINAL
- /**/
- vfmdb %v1,%v1,\ALPHA_REG
- vrepg %v4,%v1,1
- std %f1,0(\CIJ_REG)
- std %f4,0(\CIJ_REG,\LDC_BYTE_ORIGINAL)
- la \CIJ_REG,8(\CIJ_REG)
- .endm
-
- /**************************************BN=1*******************************************************/
- /*************************************Kernel8x1***************************************************/
- /*Zero C block Vectors*/
- .macro ZERO_CVEC_8x1
- vzero %v16
- vzero %v17
- vzero %v18
- vzero %v19
- .endm
- /*Calculate for 8x1 C blocks*/
- .macro CALC_8x1 PTR_A_REG,PTR_B_REG
- vlrepg %v7, 0(\PTR_B_REG)
- vl %v2, 0(\PTR_A_REG)
- vl %v3, 16(\PTR_A_REG)
- vl %v4, 32(\PTR_A_REG)
- vl %v5, 48(\PTR_A_REG)
- la \PTR_B_REG, 8(\PTR_B_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v18,%v4,%v7,%v18
- la \PTR_A_REG, 64(\PTR_A_REG)
- vfmadb %v19,%v5,%v7,%v19
- .endm
-
- /*Calculate for 8x1_4 C blocks*/
- .macro CALC_8x1_4 PTR_A_REG,PTR_B_REG
- vlrepg %v7, 0(\PTR_B_REG)
- vl %v2, 0(\PTR_A_REG)
- vl %v3, 16(\PTR_A_REG)
- vl %v4, 32(\PTR_A_REG)
- vl %v5, 48(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v18,%v4,%v7,%v18
- vfmadb %v19,%v5,%v7,%v19
-
- vlrepg %v7, 8(\PTR_B_REG)
- vl %v2, 64(\PTR_A_REG)
- vl %v3, 80(\PTR_A_REG)
- vl %v4, 96(\PTR_A_REG)
- vl %v5, 112(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v18,%v4,%v7,%v18
- vfmadb %v19,%v5,%v7,%v19
-
- vlrepg %v7, 16(\PTR_B_REG)
- vl %v2, 128(\PTR_A_REG)
- vl %v3, 144(\PTR_A_REG)
- vl %v4, 160(\PTR_A_REG)
- vl %v5, 176(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v18,%v4,%v7,%v18
- vfmadb %v19,%v5,%v7,%v19
-
- vlrepg %v7, 24(\PTR_B_REG)
- vl %v2, 192(\PTR_A_REG)
- vl %v3, 208(\PTR_A_REG)
- vl %v4, 224(\PTR_A_REG)
- vl %v5, 240(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- vfmadb %v18,%v4,%v7,%v18
- vfmadb %v19,%v5,%v7,%v19
-
-
- la \PTR_A_REG, 256(\PTR_A_REG)
- la \PTR_B_REG, 32(\PTR_B_REG)
- .endm
-
- /*STORE C8X1*/
- .macro STORE_8x1 ALPHA_VECREG,CIJ_REG , LDC_BYTE_ORIGINAL
-
- vl %v1,0(\CIJ_REG)
- vfmadb %v1,%v16,\ALPHA_VECREG,%v1
- vst %v1,0(\CIJ_REG)
-
- vl %v2,16(\CIJ_REG)
- vfmadb %v2,%v17,\ALPHA_VECREG,%v2
- vst %v2,16(\CIJ_REG)
-
- vl %v3,32(\CIJ_REG)
- vfmadb %v3,%v18,\ALPHA_VECREG,%v3
- vst %v3,32(\CIJ_REG)
-
- vl %v4,48(\CIJ_REG)
- vfmadb %v4,%v19,\ALPHA_VECREG,%v4
- vst %v4,48(\CIJ_REG)
-
- la \CIJ_REG,64(\CIJ_REG)
-
- .endm
-
- /*STORE TRMM C8X1*/
- .macro STORE_TRMM_8x1 ALPHA_VECREG,CIJ_REG , LDC_BYTE_ORIGINAL
- vfmdb %v1,%v16,\ALPHA_VECREG
- vst %v1,0(\CIJ_REG)
- vfmdb %v2,%v17,\ALPHA_VECREG
- vst %v2,16(\CIJ_REG)
- vfmdb %v3,%v18,\ALPHA_VECREG
- vst %v3,32(\CIJ_REG)
- vfmdb %v4,%v19,\ALPHA_VECREG
- vst %v4,48(\CIJ_REG)
- la \CIJ_REG,64(\CIJ_REG)
- .endm
-
-
- /*************************************Kernel4x1***************************************************/
- /*Zero C block Vectors*/
- .macro ZERO_CVEC_4x1
- vzero %v16
- vzero %v17
- .endm
- /*Calculate for 4x1 C blocks*/
- .macro CALC_4x1 PTR_A_REG,PTR_B_REG
- vlrepg %v7, 0(\PTR_B_REG)
- vl %v2, 0(\PTR_A_REG)
- vl %v3, 16(\PTR_A_REG)
- la \PTR_B_REG, 8(\PTR_B_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
- la \PTR_A_REG, 32(\PTR_A_REG)
- .endm
-
- /*Calculate for 4x1_4 C blocks*/
- .macro CALC_4x1_4 PTR_A_REG,PTR_B_REG
- vlrepg %v7, 0(\PTR_B_REG)
- vl %v2, 0(\PTR_A_REG)
- vl %v3, 16(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
-
- vlrepg %v7, 8(\PTR_B_REG)
- vl %v2, 32(\PTR_A_REG)
- vl %v3, 48(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
-
- vlrepg %v7, 16(\PTR_B_REG)
- vl %v2, 64(\PTR_A_REG)
- vl %v3, 80(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
-
- vlrepg %v7, 24(\PTR_B_REG)
- vl %v2, 96(\PTR_A_REG)
- vl %v3, 112(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
- vfmadb %v17,%v3,%v7,%v17
-
- la \PTR_B_REG, 32(\PTR_B_REG)
- la \PTR_A_REG, 128(\PTR_A_REG)
- .endm
-
- /*STORE C4X1*/
- .macro STORE_4x1 ALPHA_VECREG,CIJ_REG , LDC_BYTE_ORIGINAL
-
- vl %v1,0(\CIJ_REG)
- vfmadb %v1,%v16,\ALPHA_VECREG,%v1
- vst %v1,0(\CIJ_REG)
-
- vl %v2,16(\CIJ_REG)
- vfmadb %v2,%v17,\ALPHA_VECREG,%v2
- vst %v2,16(\CIJ_REG)
-
-
- la \CIJ_REG,32(\CIJ_REG)
-
- .endm
-
- /*STORE TRMM C4X1*/
- .macro STORE_TRMM_4x1 ALPHA_VECREG,CIJ_REG , LDC_BYTE_ORIGINAL
- vfmdb %v1,%v16,\ALPHA_VECREG
- vst %v1,0(\CIJ_REG)
- vfmdb %v2,%v17,\ALPHA_VECREG
- vst %v2,16(\CIJ_REG)
- la \CIJ_REG,32(\CIJ_REG)
- .endm
- /*************************************Kernel2x1***************************************************/
- /*Zero C block Vectors*/
- .macro ZERO_CVEC_2x1
- vzero %v16
- .endm
- /*Calculate for 2x1 C blocks*/
- .macro CALC_2x1 PTR_A_REG,PTR_B_REG
- vlrepg %v7, 0(\PTR_B_REG)
- vl %v2, 0(\PTR_A_REG)
- la \PTR_B_REG, 8(\PTR_B_REG)
- vfmadb %v16,%v2,%v7,%v16
- la \PTR_A_REG, 16(\PTR_A_REG)
- .endm
-
- /*Calculate for 2x1_4 C blocks*/
- .macro CALC_2x1_4 PTR_A_REG,PTR_B_REG
- vlrepg %v7, 0(\PTR_B_REG)
- vl %v2, 0(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
-
- vlrepg %v7, 8(\PTR_B_REG)
- vl %v2, 16(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
-
- vlrepg %v7, 16(\PTR_B_REG)
- vl %v2, 32(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
-
- vlrepg %v7, 24(\PTR_B_REG)
- vl %v2, 48(\PTR_A_REG)
- vfmadb %v16,%v2,%v7,%v16
-
- la \PTR_B_REG, 32(\PTR_B_REG)
- la \PTR_A_REG, 64(\PTR_A_REG)
- .endm
-
- /*STORE C2X1*/
- .macro STORE_2x1 ALPHA_VECREG,CIJ_REG , LDC_BYTE_ORIGINAL
-
- vl %v1,0(\CIJ_REG)
- vfmadb %v1,%v16,\ALPHA_VECREG,%v1
- vst %v1,0(\CIJ_REG)
-
- la \CIJ_REG,16(\CIJ_REG)
-
- .endm
-
- /*STORE TRMM C2X1*/
- .macro STORE_TRMM_2x1 ALPHA_VECREG,CIJ_REG , LDC_BYTE_ORIGINAL
- vfmdb %v1,%v16,\ALPHA_VECREG
- vst %v1,0(\CIJ_REG)
- la \CIJ_REG,16(\CIJ_REG)
- .endm
- /*************************************Kernel1x1***************************************************/
- /*Zero C block Vectors*/
- .macro ZERO_CVEC_1x1
- LZDR %f1
- .endm
- /*Calculate for 1x1 C blocks*/
- .macro CALC_1x1 PTR_A_REG,PTR_B_REG
- ld %f2,0(\PTR_A_REG) /**a*/
- la \PTR_A_REG,8(\PTR_A_REG)
- madb %f1,%f2,0(\PTR_B_REG)
- la \PTR_B_REG,8(\PTR_B_REG)
- .endm
-
- /*Calculate for 1x1_4 C blocks*/
- .macro CALC_1x1_4 PTR_A_REG,PTR_B_REG
- ld %f2,0(\PTR_A_REG) /**a*/
- madb %f1,%f2,0(\PTR_B_REG)
-
- ld %f2,8(\PTR_A_REG) /**a*/
- madb %f1,%f2,8(\PTR_B_REG)
-
- ld %f2,16(\PTR_A_REG) /**a*/
- madb %f1,%f2,16(\PTR_B_REG)
-
- ld %f2,24(\PTR_A_REG) /**a*/
- madb %f1,%f2,24(\PTR_B_REG)
-
- la \PTR_A_REG,32(\PTR_A_REG)
- la \PTR_B_REG,32(\PTR_B_REG)
- .endm
-
- /*STORE C1X1*/
- .macro STORE_1x1 ALPHA_FLOAT,CIJ_REG,LDC_BYTE_ORIGINAL
- ld %f2,0(CIJ_LOCAL)
- madbr %f2,%f1,\ALPHA_FLOAT
- std %f2,0(CIJ_LOCAL)
- la \CIJ_REG,8(\CIJ_REG)
- .endm
-
- /*STORE C1X1*/
- .macro STORE_TRMM_1x1 ALPHA_FLOAT,CIJ_REG,LDC_BYTE_ORIGINAL
- mdbr %f1,\ALPHA_FLOAT
- std %f1,0(CIJ_LOCAL)
- la \CIJ_REG,8(\CIJ_REG)
- .endm
-
-
- /****************************TRMM POINTER REFRESH MACROSES*************************/
-
- .macro RefreshPointers PTR_A,PTR_B,OFF_VAL,B_VAL,C_A,C_B
- #if (defined(LEFT) && defined(TRANSA)) || (!defined(LEFT) && !defined(TRANSA))
- /* ptrbb = bb;*/
- lgr \PTR_B,\B_VAL /*refresh BPOINT*/
-
- #else
- /* ptrba =ptrba+ off*C_A;
- ptrbb = bb + off*C_B;*/
- .if \C_B==4
- .if \C_A==8
- sllg \PTR_B, \OFF_VAL,5
- la \PTR_A,0(\PTR_A,\PTR_B) /*ptrba+off*4*/
- agr \PTR_A,\PTR_B /*ptrba+off*4**/
- la \PTR_B,0(\B_VAL,\PTR_B)
- .elseif \C_A==4
- sllg \PTR_B, \OFF_VAL,5
- agr \PTR_A,\PTR_B /*ptrba+off*4**/
- la \PTR_B,0(\B_VAL,\PTR_B) /*refresh BPOINT*/
- .elseif \C_A==2
- sllg \PTR_B, \OFF_VAL,4
- la \PTR_A,0(\PTR_A,\PTR_B) /*ptrba+off*2**/
- agr \PTR_B, \PTR_B
- la \PTR_B,0(\B_VAL,\PTR_B) /*refresh BPOINT*/
-
- .elseif \C_A==1
- sllg \PTR_B, \OFF_VAL,3
- agr \PTR_A,\PTR_B /*ptrba+off*4**/
- sllg \PTR_B, \OFF_VAL,5
- la \PTR_B,0(\B_VAL,\PTR_B) /*refresh BPOINT*/
- .endif
-
- .elseif \C_B==2
- .if \C_A==8
- sllg \PTR_B, \OFF_VAL,6
- agr \PTR_A,\PTR_B /*ptrba+off*8**/
- sllg \PTR_B, \OFF_VAL,4
- la \PTR_B,0(\B_VAL,\PTR_B) /*refresh BPOINT*/
- .elseif \C_A==4
- sllg \PTR_B, \OFF_VAL,4
- la \PTR_A,0(\PTR_A,\PTR_B) /*ptrba+off*2**/
- agr \PTR_A,\PTR_B /*ptrba+off*2**/
- la \PTR_B,0(\B_VAL,\PTR_B) /*refresh BPOINT*/
- .elseif \C_A==2
- sllg \PTR_B, \OFF_VAL,4
- agr \PTR_A,\PTR_B /*ptrba+off*2**/
- la \PTR_B,0(\B_VAL,\PTR_B) /*refresh BPOINT*/
- .elseif \C_A==1
- sllg \PTR_B, \OFF_VAL,3
- la \PTR_A,0(\PTR_A,\PTR_B) /*ptrba+off*1**/
- agr \PTR_B,\PTR_B /* off+off**/
- la \PTR_B,0(\B_VAL,\PTR_B) /*refresh BPOINT*/
- .endif
-
- .elseif \C_B==1
- .if \C_A==8
- sllg \PTR_B, \OFF_VAL,6
- agr \PTR_A,\PTR_B /*ptrba+off*8**/
- sllg \PTR_B, \OFF_VAL,3
- la \PTR_B,0(\B_VAL,\PTR_B) /*refresh BPOINT*/
- .elseif \C_A==4
- sllg \PTR_B, \OFF_VAL,5
- agr \PTR_A,\PTR_B /*ptrba+off*4**/
- sllg \PTR_B, \OFF_VAL,3
- la \PTR_B,0(\B_VAL,\PTR_B) /*refresh BPOINT*/
- .elseif \C_A==2
- sllg \PTR_B, \OFF_VAL,3
- la \PTR_A,0(\PTR_A,\PTR_B) /*ptrba+off*1**/
- agr \PTR_A,\PTR_B /*ptrba+off*1**/
- la \PTR_B,0(\B_VAL,\PTR_B) /*refresh BPOINT*/
-
- .elseif \C_A==1
- sllg \PTR_B, \OFF_VAL,3
- agr \PTR_A,\PTR_B /*ptrba+off*1**/
- la \PTR_B,0(\B_VAL,\PTR_B) /*refresh BPOINT*/
- .endif
- .endif
-
-
- #endif
- .endm
-
- /**/
- .macro RefreshTempBk TEMP_VAL,BK_VAL,OFF_VAL,INCR_A,INCR_B
- #if (defined(LEFT) && !defined(TRANSA)) || (!defined(LEFT) && defined(TRANSA))
- /* temp = bk-off;*/
- sgrk \TEMP_VAL,\BK_VAL,\OFF_VAL
-
- #elif defined(LEFT)
- /* temp = off+INCR_A; // number of values in A */
- la \TEMP_VAL,\INCR_A(\OFF_VAL)
- #else
- /* temp = off+INCR_B // number of values in B*/
- la \TEMP_VAL,\INCR_B(\OFF_VAL)
- #endif
-
- .endm
-
-
- .macro RefreshPointersAndOFF TEMP_VAL,BK_VAL,OFF_VAL,PTR_B,PTR_A,C_A,C_B
-
- #if ( defined(LEFT) && defined(TRANSA)) || (!defined(LEFT) && !defined(TRANSA))
- /*temp = bk - off;*/
- sgrk \TEMP_VAL,\BK_VAL,\OFF_VAL
- #ifdef LEFT
- /*temp -= 8; // number of values in A*/
- lay \TEMP_VAL,-\C_A(\TEMP_VAL)
- #else
- /*temp -= 4; // number of values in B*/
- lay \TEMP_VAL,-\C_B(\TEMP_VAL)
- #endif
- /*ptrba += temp*C_A;
- ptrbb += temp*C_B;*/
- .if \C_B==4
- .if \C_A==8
- sllg \TEMP_VAL, \TEMP_VAL,5 /*temp*4*/
- la \PTR_B,0(\PTR_B,\TEMP_VAL) /*ptrbb+temp*C_B*/
- agr \PTR_A, \TEMP_VAL /*ptrba+temp*C_A*/
- la \PTR_A,0(\PTR_A,\TEMP_VAL) /*ptrba+temp*C_A*/
- .elseif \C_A==4
- sllg \TEMP_VAL, \TEMP_VAL,5 /*temp*4*/
- agr \PTR_B, \TEMP_VAL /*ptrbb+temp*C_B*/
- la \PTR_A,0(\PTR_A,\TEMP_VAL) /*ptrba+temp*C_A*/
- .elseif \C_A==2
- sllg \TEMP_VAL, \TEMP_VAL,4 /*temp*2*/
- agr \PTR_B, \TEMP_VAL /*ptrbb+temp*C_B*/
- la \PTR_A,0(\PTR_A,\TEMP_VAL) /*ptrba+temp*C_A*/
- agr \PTR_B, \TEMP_VAL /*ptrbb+temp*C_B*/
- .elseif \C_A==1
- sllg \TEMP_VAL, \TEMP_VAL,3 /*temp*1*/
- la \PTR_A,0(\PTR_A,\TEMP_VAL) /*ptrba+temp*C_A*/
- sllg \TEMP_VAL, \TEMP_VAL,2 /*temp*2*2*/
- agr \PTR_B, \TEMP_VAL /*ptrbb+temp*C_B*/
- .endif
- .elseif \C_B==2
- .if \C_A==8
- sllg \TEMP_VAL, \TEMP_VAL,4 /*temp*2*/
- la \PTR_B,0(\PTR_B,\TEMP_VAL) /*ptrbb+temp*C_B*/
- sllg \TEMP_VAL, \TEMP_VAL,2 /*temp*2*4 */
- la \PTR_A,0(\PTR_A,\TEMP_VAL) /*ptrba+temp*C_A*/
- .elseif \C_A==4
- sllg \TEMP_VAL, \TEMP_VAL,4 /*temp*2*/
- la \PTR_B,0(\PTR_B,\TEMP_VAL) /*ptrbb+temp*C_B*/
- agr \TEMP_VAL, \TEMP_VAL
- la \PTR_A,0(\PTR_A,\TEMP_VAL) /*ptrba+temp*C_A*/
- .elseif \C_A==2
- sllg \TEMP_VAL, \TEMP_VAL,4 /*temp*2*/
- la \PTR_B,0(\PTR_B,\TEMP_VAL) /*ptrbb+temp*C_B*/
- agr \PTR_A, \TEMP_VAL /*ptrba+temp*C_A*/
- .elseif \C_A==1
- sllg \TEMP_VAL, \TEMP_VAL,3 /*temp*1*/
- la \PTR_B,0(\PTR_B,\TEMP_VAL) /*ptrbb+temp*C_B*/
- agr \PTR_A, \TEMP_VAL /*ptrba+temp*C_A*/
- la \PTR_B,0(\PTR_B,\TEMP_VAL) /*ptrbb+temp*C_B*/
- .endif
- .elseif \C_B==1
- .if \C_A==8
- sllg \TEMP_VAL, \TEMP_VAL,3 /*temp*1*/
- la \PTR_B,0(\PTR_B,\TEMP_VAL) /*ptrbb+temp*C_B*/
- sllg \TEMP_VAL, \TEMP_VAL,3 /*temp*1*8 */
- la \PTR_A,0(\PTR_A,\TEMP_VAL) /*ptrba+temp*C_A*/
- .elseif \C_A==4
- sllg \TEMP_VAL, \TEMP_VAL,3 /*temp*1*/
- la \PTR_B,0(\PTR_B,\TEMP_VAL) /*ptrbb+temp*C_B*/
- sllg \TEMP_VAL, \TEMP_VAL,2 /*temp*1*4 */
- la \PTR_A,0(\PTR_A,\TEMP_VAL) /*ptrba+temp*C_A*/
- .elseif \C_A==2
- sllg \TEMP_VAL, \TEMP_VAL,3 /*temp*1*/
- la \PTR_B,0(\PTR_B,\TEMP_VAL) /*ptrbb+temp*C_B*/
- agr \TEMP_VAL, \TEMP_VAL
- la \PTR_A,0(\PTR_A,\TEMP_VAL) /*ptrba+temp*C_A*/
- .elseif \C_A==1
- sllg \TEMP_VAL, \TEMP_VAL,3 /*temp*1*/
- la \PTR_B,0(\PTR_B,\TEMP_VAL) /*ptrbb+temp*C_B*/
- agr \PTR_A, \TEMP_VAL /*ptrba+temp*C_A*/
- .endif
- .endif
- #endif
-
- #ifdef LEFT
- /*off += 8; // number of values in A*/
- aghi \OFF_VAL,\C_A
- #endif
- .endm
|