1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
|
#include "stdlib.h"
#include "util.h"
#include "dataset.h"
void __attribute__((noinline)) matmul(const int coreid, const int ncores, const int lda, const data_t A[], const data_t B[], data_t C[] )
{
if(coreid > 1) return;
static __thread int i, j, k;
static __thread data_t tempA0, tempA1, tempA2, tempA3, tempA4, tempA5, tempA6, tempA7;
static __thread data_t tempC0, tempC1, tempC2, tempC3, tempC4, tempC5, tempC6, tempC7; //tempC8, tempC9, tempC10, tempC11, tempC12, tempC13, tempC14, tempC15;
static __thread int start, end, jStride, jToRow, jToCol, iToRow;
start = coreid << 9;
end = ((ncores == 1) ? 2 : (coreid+1)) << 9;
jStride = 8;
for (j=start; j < end; j+=jStride) {
jToRow = (j>>5)<<5;
jToCol = j%32;
tempC0 = 0;
tempC1 = 0;
tempC2 = 0;
tempC3 = 0;
tempC4 = 0;
tempC5 = 0;
tempC6 = 0;
tempC7 = 0;
//tempC8 = 0;
//tempC9 = 0;
//tempC10 = 0;
//tempC11 = 0;
//tempC12 = 0;
//tempC13 = 0;
//tempC14 = 0;
//tempC15 = 0;
for ( i=0; i < lda; i+=2 ) {
iToRow = i << 5;
tempA0 = A[i + jToRow];
tempA1 = A[i+1 + jToRow];
//tempA2 = A[i+2 + jToRow];
//tempA3 = A[i+3 + jToRow];
//tempA4 = A[i+4 + jToRow];
//tempA5 = A[i+5 + jToRow];
//tempA6 = A[i+6 + jToRow];
//tempA7 = A[i+7 + jToRow];
tempC0 += tempA0 * B[(jToCol ) + (iToRow)];
tempC1 += tempA0 * B[(jToCol+1 ) + (iToRow)];
tempC2 += tempA0 * B[(jToCol+2 ) + (iToRow)];
tempC3 += tempA0 * B[(jToCol+3 ) + (iToRow)];
tempC4 += tempA0 * B[(jToCol+4 ) + (iToRow)];
tempC5 += tempA0 * B[(jToCol+5 ) + (iToRow)];
tempC6 += tempA0 * B[(jToCol+6 ) + (iToRow)];
tempC7 += tempA0 * B[(jToCol+7 ) + (iToRow)];
//tempC8 += tempA0 * B[(jToCol+8 ) + (iToRow)];
//tempC9 += tempA0 * B[(jToCol+9 ) + (iToRow)];
//tempC10 += tempA0 * B[(jToCol+10) + (iToRow)];
//tempC11 += tempA0 * B[(jToCol+11) + (iToRow)];
//tempC12 += tempA0 * B[(jToCol+12) + (iToRow)];
//tempC13 += tempA0 * B[(jToCol+13) + (iToRow)];
//tempC14 += tempA0 * B[(jToCol+14) + (iToRow)];
//tempC15 += tempA0 * B[(jToCol+15) + (iToRow)];
iToRow += 32;
tempC0 += tempA1 * B[(jToCol ) + (iToRow)];
tempC1 += tempA1 * B[(jToCol+1 ) + (iToRow)];
tempC2 += tempA1 * B[(jToCol+2 ) + (iToRow)];
tempC3 += tempA1 * B[(jToCol+3 ) + (iToRow)];
tempC4 += tempA1 * B[(jToCol+4 ) + (iToRow)];
tempC5 += tempA1 * B[(jToCol+5 ) + (iToRow)];
tempC6 += tempA1 * B[(jToCol+6 ) + (iToRow)];
tempC7 += tempA1 * B[(jToCol+7 ) + (iToRow)];
//tempC8 += tempA1 * B[(jToCol+8 ) + (iToRow+32)];
//tempC9 += tempA1 * B[(jToCol+9 ) + (iToRow+32)];
//tempC10 += tempA1 * B[(jToCol+10) + (iToRow+32)];
//tempC11 += tempA1 * B[(jToCol+11) + (iToRow+32)];
//tempC12 += tempA1 * B[(jToCol+12) + (iToRow+32)];
//tempC13 += tempA1 * B[(jToCol+13) + (iToRow+32)];
//tempC14 += tempA1 * B[(jToCol+14) + (iToRow+32)];
//tempC15 += tempA1 * B[(jToCol+15) + (iToRow+32)];
//iToRow += 32;
//tempC0 += tempA2 * B[(jToCol ) + (iToRow)];
//tempC1 += tempA2 * B[(jToCol+1 ) + (iToRow)];
//tempC2 += tempA2 * B[(jToCol+2 ) + (iToRow)];
//tempC3 += tempA2 * B[(jToCol+3 ) + (iToRow)];
//tempC4 += tempA2 * B[(jToCol+4 ) + (iToRow)];
//tempC5 += tempA2 * B[(jToCol+5 ) + (iToRow)];
//tempC6 += tempA2 * B[(jToCol+6 ) + (iToRow)];
//tempC7 += tempA2 * B[(jToCol+7 ) + (iToRow)];
//tempC8 += tempA2 * B[(jToCol+8 ) + (iToRow)];
//tempC9 += tempA2 * B[(jToCol+9 ) + (iToRow)];
//tempC10 += tempA2 * B[(jToCol+10) + (iToRow)];
//tempC11 += tempA2 * B[(jToCol+11) + (iToRow)];
//tempC12 += tempA2 * B[(jToCol+12) + (iToRow)];
//tempC13 += tempA2 * B[(jToCol+13) + (iToRow)];
//tempC14 += tempA2 * B[(jToCol+14) + (iToRow)];
//tempC15 += tempA2 * B[(jToCol+15) + (iToRow)];
//iToRow += 32;
//tempC0 += tempA3 * B[(jToCol ) + (iToRow)];
//tempC1 += tempA3 * B[(jToCol+1 ) + (iToRow)];
//tempC2 += tempA3 * B[(jToCol+2 ) + (iToRow)];
//tempC3 += tempA3 * B[(jToCol+3 ) + (iToRow)];
//tempC4 += tempA3 * B[(jToCol+4 ) + (iToRow)];
//tempC5 += tempA3 * B[(jToCol+5 ) + (iToRow)];
//tempC6 += tempA3 * B[(jToCol+6 ) + (iToRow)];
//tempC7 += tempA3 * B[(jToCol+7 ) + (iToRow)];
//tempC8 += tempA3 * B[(jToCol+8 ) + (iToRow)];
//tempC9 += tempA3 * B[(jToCol+9 ) + (iToRow)];
//tempC10 += tempA3 * B[(jToCol+10) + (iToRow)];
//tempC11 += tempA3 * B[(jToCol+11) + (iToRow)];
//tempC12 += tempA3 * B[(jToCol+12) + (iToRow)];
//tempC13 += tempA3 * B[(jToCol+13) + (iToRow)];
//tempC14 += tempA3 * B[(jToCol+14) + (iToRow)];
//tempC15 += tempA3 * B[(jToCol+15) + (iToRow)];
//iToRow += 32;
//tempC0 += tempA4 * B[(jToCol ) + (iToRow)];
//tempC1 += tempA4 * B[(jToCol+1 ) + (iToRow)];
//tempC2 += tempA4 * B[(jToCol+2 ) + (iToRow)];
//tempC3 += tempA4 * B[(jToCol+3 ) + (iToRow)];
//tempC4 += tempA4 * B[(jToCol+4 ) + (iToRow)];
//tempC5 += tempA4 * B[(jToCol+5 ) + (iToRow)];
//tempC6 += tempA4 * B[(jToCol+6 ) + (iToRow)];
//tempC7 += tempA4 * B[(jToCol+7 ) + (iToRow)];
//
//iToRow += 32;
//tempC0 += tempA5 * B[(jToCol ) + (iToRow)];
//tempC1 += tempA5 * B[(jToCol+1 ) + (iToRow)];
//tempC2 += tempA5 * B[(jToCol+2 ) + (iToRow)];
//tempC3 += tempA5 * B[(jToCol+3 ) + (iToRow)];
//tempC4 += tempA5 * B[(jToCol+4 ) + (iToRow)];
//tempC5 += tempA5 * B[(jToCol+5 ) + (iToRow)];
//tempC6 += tempA5 * B[(jToCol+6 ) + (iToRow)];
//tempC7 += tempA5 * B[(jToCol+7 ) + (iToRow)];
//
//iToRow += 32;
//tempC0 += tempA6 * B[(jToCol ) + (iToRow)];
//tempC1 += tempA6 * B[(jToCol+1 ) + (iToRow)];
//tempC2 += tempA6 * B[(jToCol+2 ) + (iToRow)];
//tempC3 += tempA6 * B[(jToCol+3 ) + (iToRow)];
//tempC4 += tempA6 * B[(jToCol+4 ) + (iToRow)];
//tempC5 += tempA6 * B[(jToCol+5 ) + (iToRow)];
//tempC6 += tempA6 * B[(jToCol+6 ) + (iToRow)];
//tempC7 += tempA6 * B[(jToCol+7 ) + (iToRow)];
//
//iToRow += 32;
//tempC0 += tempA7 * B[(jToCol ) + (iToRow)];
//tempC1 += tempA7 * B[(jToCol+1 ) + (iToRow)];
//tempC2 += tempA7 * B[(jToCol+2 ) + (iToRow)];
//tempC3 += tempA7 * B[(jToCol+3 ) + (iToRow)];
//tempC4 += tempA7 * B[(jToCol+4 ) + (iToRow)];
//tempC5 += tempA7 * B[(jToCol+5 ) + (iToRow)];
//tempC6 += tempA7 * B[(jToCol+6 ) + (iToRow)];
//tempC7 += tempA7 * B[(jToCol+7 ) + (iToRow)];
}
C[j ] = tempC0;
C[j + 1 ] = tempC1;
C[j + 2 ] = tempC2;
C[j + 3 ] = tempC3;
C[j + 4 ] = tempC4;
C[j + 5 ] = tempC5;
C[j + 6 ] = tempC6;
C[j + 7 ] = tempC7;
//C[j + 8 ] = tempC8 ;
//C[j + 9 ] = tempC9 ;
//C[j + 10] = tempC10;
//C[j + 11] = tempC11;
//C[j + 12] = tempC12;
//C[j + 13] = tempC13;
//C[j + 14] = tempC14;
//C[j + 15] = tempC15;
}
}
|
