Lines Matching refs:mm6
116 "movq %1, %%mm6 \n\t"
133 "pcmpgtb %%mm6, %%mm0 \n\t"
140 "pcmpgtb %%mm6, %%mm1 \n\t"
148 "pcmpgtb %%mm6, %%mm2 \n\t"
158 "pcmpgtb %%mm6, %%mm1 \n\t"
166 "pcmpgtb %%mm6, %%mm2 \n\t"
174 "pcmpgtb %%mm6, %%mm1 \n\t"
182 "pcmpgtb %%mm6, %%mm2 \n\t"
236 "movq (%0), %%mm6 \n\t"
239 "movq %%mm6, %%mm2 \n\t"
240 "psubusb %%mm6, %%mm5 \n\t"
246 "pand %%mm2, %%mm6 \n\t"
248 "por %%mm2, %%mm6 \n\t"// First Line to Filter
277 PAVGB(%%mm6, %%mm0) //1 1 /2
278 PAVGB(%%mm6, %%mm0) //3 1 /4
289 // mm1=2 mm2=3(211) mm4=1 mm5=5 mm6=0 mm7=9
291 PAVGB(%%mm6, %%mm0) //1 1 /2
299 // mm1=2 mm2=3(211) mm4=1 mm5=4(211) mm6=0 mm7=9
300 PAVGB(%%mm4, %%mm6) //11 /2
305 PAVGB(%%mm6, %%mm0) //222 11/8
309 // mm1=2 mm2=3 mm3=6(11) mm4=1 mm5=4(211) mm6=0(11) mm7=9
312 PAVGB(%%mm0, %%mm6) //11 11 /4
315 PAVGB(%%mm1, %%mm6) //1122 11 /8
316 PAVGB(%%mm5, %%mm6) //112242211 /16
318 "movq %%mm6, (%%"REG_a") \n\t" // X
320 "movq (%%"REG_a", %1, 4), %%mm6 \n\t" // 1
321 PAVGB(%%mm7, %%mm6) // 11 /2
322 PAVGB(%%mm4, %%mm6) // 11 11 /4
323 PAVGB(%%mm3, %%mm6) // 11 2211 /8
327 PAVGB(%%mm2, %%mm6) // 112242211 /16
328 "movq %%mm6, (%0, %1, 4) \n\t" // X
333 "movq (%%"REG_a", %1, 2), %%mm6 \n\t" // 1
334 PAVGB(%%mm6, %%mm1) // 11 4 2 /8
337 // mm2=3(112) mm3=6(11) mm4=5 mm5=4(11) mm6=6 mm7=9
340 PAVGB(%%mm0, %%mm6) // 1 1 /2
341 PAVGB(%%mm7, %%mm6) // 1 12 /4
342 PAVGB(%%mm2, %%mm6) // 1122424 /4
343 "movq %%mm6, (%%"REG_c") \n\t" // X
595 "movq %%mm0, %%mm6 \n\t" // ~(5l4 + 2l2)/8
597 "psubusb %%mm6, %%mm3 \n\t"
602 "movq (%%"REG_c", %1), %%mm6 \n\t" // l6
603 "movq %%mm6, %%mm5 \n\t" // l6
604 PAVGB(%%mm7, %%mm6) // ~l6/2
605 PAVGB(%%mm4, %%mm6) // ~(l6 + 2l4)/4
606 PAVGB(%%mm5, %%mm6) // ~(5l6 + 2l4)/8
614 "movq %%mm6, %%mm4 \n\t" // ~(5l6 + 2l4)/8
615 "psubusb %%mm2, %%mm6 \n\t"
617 "por %%mm6, %%mm2 \n\t" // ~|2l4 - 5l5 + 5l6 - 2l7|/8
635 "movq (%%"REG_a", %1, 2), %%mm6 \n\t" //l3
638 "psubusb %%mm6, %%mm5 \n\t"
639 "psubusb %%mm4, %%mm6 \n\t"
640 "por %%mm6, %%mm5 \n\t" // |l3-l4|
641 "pcmpeqb %%mm7, %%mm6 \n\t" // SIGN(l3-l4)
642 "pxor %%mm6, %%mm0 \n\t"
651 "pxor %%mm6, %%mm0 \n\t"
652 "pxor %%mm6, %%mm2 \n\t"
655 "pxor %%mm6, %%mm0 \n\t"
656 "pxor %%mm6, %%mm2 \n\t"
662 "pcmpeqb %%mm6, %%mm6 \n\t" // -1
670 "pxor %%mm6, %%mm1 \n\t" // -l3-1
676 "pxor %%mm6, %%mm2 \n\t" // -l5-1
687 "pxor %%mm6, %%mm2 \n\t" // -l1-1
698 "pxor %%mm6, %%mm1 \n\t" // -l7-1
718 PAVGB(%%mm6, %%mm2) // 128 + QP/2
719 "psubb %%mm6, %%mm2 \n\t"
738 "paddsb %%mm6, %%mm5 \n\t" // fix bad rounding
896 "movq (%%"REG_a", %1, 4), %%mm6 \n\t"
897 "punpcklbw %%mm7, %%mm6 \n\t" // L6
898 "psubw %%mm6, %%mm2 \n\t" // L5 - L6
899 "movq (%%"REG_a", %1, 4), %%mm6 \n\t"
900 "punpckhbw %%mm7, %%mm6 \n\t" // H6
901 "psubw %%mm6, %%mm3 \n\t" // H5 - H6
927 "movq %%mm7, %%mm6 \n\t" // 0
928 "psubw %%mm0, %%mm6 \n\t"
929 "pmaxsw %%mm6, %%mm0 \n\t" // |2L4 - 5L5 + 5L6 - 2L7|
930 "movq %%mm7, %%mm6 \n\t" // 0
931 "psubw %%mm1, %%mm6 \n\t"
932 "pmaxsw %%mm6, %%mm1 \n\t" // |2H4 - 5H5 + 5H6 - 2H7|
933 "movq %%mm7, %%mm6 \n\t" // 0
934 "psubw %%mm2, %%mm6 \n\t"
935 "pmaxsw %%mm6, %%mm2 \n\t" // |2L0 - 5L1 + 5L2 - 2L3|
936 "movq %%mm7, %%mm6 \n\t" // 0
937 "psubw %%mm3, %%mm6 \n\t"
938 "pmaxsw %%mm6, %%mm3 \n\t" // |2H0 - 5H1 + 5H2 - 2H3|
940 "movq %%mm7, %%mm6 \n\t" // 0
941 "pcmpgtw %%mm0, %%mm6 \n\t"
942 "pxor %%mm6, %%mm0 \n\t"
943 "psubw %%mm6, %%mm0 \n\t" // |2L4 - 5L5 + 5L6 - 2L7|
944 "movq %%mm7, %%mm6 \n\t" // 0
945 "pcmpgtw %%mm1, %%mm6 \n\t"
946 "pxor %%mm6, %%mm1 \n\t"
947 "psubw %%mm6, %%mm1 \n\t" // |2H4 - 5H5 + 5H6 - 2H7|
948 "movq %%mm7, %%mm6 \n\t" // 0
949 "pcmpgtw %%mm2, %%mm6 \n\t"
950 "pxor %%mm6, %%mm2 \n\t"
951 "psubw %%mm6, %%mm2 \n\t" // |2L0 - 5L1 + 5L2 - 2L3|
952 "movq %%mm7, %%mm6 \n\t" // 0
953 "pcmpgtw %%mm3, %%mm6 \n\t"
954 "pxor %%mm6, %%mm3 \n\t"
955 "psubw %%mm6, %%mm3 \n\t" // |2H0 - 5H1 + 5H2 - 2H3|
962 "movq %%mm0, %%mm6 \n\t"
963 "psubusw %%mm2, %%mm6 \n\t"
964 "psubw %%mm6, %%mm0 \n\t"
965 "movq %%mm1, %%mm6 \n\t"
966 "psubusw %%mm3, %%mm6 \n\t"
967 "psubw %%mm6, %%mm1 \n\t"
973 "movq %%mm7, %%mm6 \n\t" // 0
974 "pcmpgtw %%mm4, %%mm6 \n\t" // sign(2L2 - 5L3 + 5L4 - 2L5)
975 "pxor %%mm6, %%mm4 \n\t"
976 "psubw %%mm6, %%mm4 \n\t" // |2L2 - 5L3 + 5L4 - 2L5|
1017 "pxor %%mm6, %%mm2 \n\t"
1033 "pxor %%mm6, %%mm4 \n\t"
1035 "psubw %%mm6, %%mm4 \n\t"
1098 "pxor %%mm6, %%mm6 \n\t"
1101 "punpcklbw %%mm6, %%mm0 \n\t"
1119 "pmaxub %%mm0, %%mm6 \n\t"
1124 "psubusb %%mm0, %%mm6 \n\t"\
1125 "paddb %%mm0, %%mm6 \n\t"\
1165 "movq %%mm6, %%mm4 \n\t"
1166 "psrlq $8, %%mm6 \n\t"
1168 "pmaxub %%mm4, %%mm6 \n\t" // max of pixels
1169 "pshufw $0xF9, %%mm6, %%mm4 \n\t"
1170 "pmaxub %%mm4, %%mm6 \n\t"
1171 "pshufw $0xFE, %%mm6, %%mm4 \n\t"
1172 "pmaxub %%mm4, %%mm6 \n\t"
1174 "psubusb %%mm4, %%mm6 \n\t"
1175 "paddb %%mm4, %%mm6 \n\t"
1176 "movq %%mm6, %%mm4 \n\t"
1177 "psrlq $16, %%mm6 \n\t"
1178 "psubusb %%mm4, %%mm6 \n\t"
1179 "paddb %%mm4, %%mm6 \n\t"
1180 "movq %%mm6, %%mm4 \n\t"
1181 "psrlq $32, %%mm6 \n\t"
1182 "psubusb %%mm4, %%mm6 \n\t"
1183 "paddb %%mm4, %%mm6 \n\t"
1185 "movq %%mm6, %%mm0 \n\t" // max
1186 "psubb %%mm7, %%mm6 \n\t" // max - min
1188 "movd %%mm6, %k4 \n\t"
1227 "movd 8(%%"REG_a"), %%mm6 \n\t"
1229 "psllq $56, %%mm6 \n\t"
1231 "por %%mm6, %%mm4 \n\t" // L21
1308 DERING_CORE((%%REGa) ,(%%REGa, %1) ,%%mm0,%%mm2,%%mm4,%%mm1,%%mm3,%%mm5,%%mm6,%%mm7)
1309 DERING_CORE((%%REGa, %1) ,(%%REGa, %1, 2),%%mm2,%%mm4,%%mm0,%%mm3,%%mm5,%%mm1,%%mm6,%%mm7)
1310 DERING_CORE((%%REGa, %1, 2),(%0, %1, 4) ,%%mm4,%%mm0,%%mm2,%%mm5,%%mm1,%%mm3,%%mm6,%%mm7)
1311 DERING_CORE((%0, %1, 4) ,(%%REGd) ,%%mm0,%%mm2,%%mm4,%%mm1,%%mm3,%%mm5,%%mm6,%%mm7)
1312 DERING_CORE((%%REGd) ,(%%REGd, %1) ,%%mm2,%%mm4,%%mm0,%%mm3,%%mm5,%%mm1,%%mm6,%%mm7)
1313 DERING_CORE((%%REGd, %1) ,(%%REGd, %1, 2),%%mm4,%%mm0,%%mm2,%%mm5,%%mm1,%%mm3,%%mm6,%%mm7)
1314 DERING_CORE((%%REGd, %1, 2),(%0, %1, 8) ,%%mm0,%%mm2,%%mm4,%%mm1,%%mm3,%%mm5,%%mm6,%%mm7)
1315 DERING_CORE((%0, %1, 8) ,(%%REGd, %1, 4),%%mm2,%%mm4,%%mm0,%%mm3,%%mm5,%%mm1,%%mm6,%%mm7)
1692 "movq %%mm2, %%mm6 \n\t"\
1694 "paddw %%mm6, %%mm2 \n\t"\
1695 "movq %%mm5, %%mm6 \n\t"\
1697 "paddw %%mm6, %%mm5 \n\t"\
1698 "movq %%mm3, %%mm6 \n\t"\
1700 "punpckhbw %%mm7, %%mm6 \n\t"\
1702 "paddw %%mm6, %%mm6 \n\t"\
1704 "paddw %%mm6, %%mm5 \n\t"\
1705 "movq %%mm4, %%mm6 \n\t"\
1707 "punpckhbw %%mm7, %%mm6 \n\t"\
1709 "psubw %%mm6, %%mm5 \n\t"\
1945 "movq %%mm3, %%mm6 \n\t"\
1948 "pxor %%mm6, %%mm5 \n\t"\
2191 "movq (%0, %%"REG_a", 2), %%mm6 \n\t" // L6
2193 "psadbw (%1, %%"REG_a", 2), %%mm6 \n\t" // |L6-R6|
2197 "paddw %%mm5, %%mm6 \n\t"
2198 "paddw %%mm7, %%mm6 \n\t"
2199 "paddw %%mm6, %%mm0 \n\t"
2203 "movq "MANGLE(b80)", %%mm6 \n\t"
2210 "paddb %%mm6, %%mm5 \n\t"\
2283 "movq (%0, %%"REG_a", 2), %%mm6 \n\t" // L6
2291 "movq %%mm6, (%1, %%"REG_a", 2) \n\t" // L6
2310 "movq (%0, %%"REG_a", 2), %%mm6 \n\t" // L6
2311 PAVGB((%1, %%REGa, 2), %%mm6) // L6
2320 "movq %%mm6, (%1, %%"REG_a", 2) \n\t" // R6
2328 "movq %%mm6, (%0, %%"REG_a", 2) \n\t" // L6
2344 "movq (%1, %2, 2), %%mm6 \n\t" // R2
2348 PAVGB(%%mm6, %%mm2)
2352 PAVGB(%%mm6, %%mm2)
2369 "movq (%1, %%"REG_a", 2), %%mm6 \n\t" // R6
2373 PAVGB(%%mm6, %%mm2)
2377 PAVGB(%%mm6, %%mm2)
2398 "movq (%1, %2, 2), %%mm6 \n\t" // R2
2402 PAVGB(%%mm6, %%mm2)
2406 PAVGB(%%mm6, %%mm2)
2410 PAVGB(%%mm6, %%mm2)
2427 "movq (%1, %%"REG_a", 2), %%mm6 \n\t" // R6
2431 PAVGB(%%mm6, %%mm2)
2435 PAVGB(%%mm6, %%mm2)
2439 PAVGB(%%mm6, %%mm2)
2554 "movq %1, %%mm6 \n\t"
2569 "pcmpgtb %%mm6, %%mm0 \n\t"
2576 "pcmpgtb %%mm6, %%mm1 \n\t"
2584 "pcmpgtb %%mm6, %%mm2 \n\t"
2594 "pcmpgtb %%mm6, %%mm1 \n\t"
2602 "pcmpgtb %%mm6, %%mm2 \n\t"
2610 "pcmpgtb %%mm6, %%mm1 \n\t"
2618 "pcmpgtb %%mm6, %%mm2 \n\t"
2626 "pcmpgtb %%mm6, %%mm1 \n\t"
2632 "pcmpgtb %%mm6, %%mm2 \n\t"
2636 "pxor %%mm6, %%mm6 \n\t"
2640 "pcmpeqb %%mm6, %%mm7 \n\t" // Diff < 2QP -> 0
2641 "pcmpeqb %%mm6, %%mm7 \n\t" // Diff < 2QP -> 0
2648 "psubb %%mm0, %%mm6 \n\t"
2649 "pcmpgtb %%mm7, %%mm6 \n\t"
2650 "movq %%mm6, %0 \n\t"
2667 "movq (%0), %%mm6 \n\t"
2670 "movq %%mm6, %%mm2 \n\t"
2671 "psubusb %%mm6, %%mm5 \n\t"
2677 "pxor %%mm6, %%mm1 \n\t"
2679 "pxor %%mm1, %%mm6 \n\t"
2698 "movq %%mm6, %%mm5 \n\t"
2699 "punpckhbw %%mm4, %%mm6 \n\t"
2704 "movq %%mm6, %%mm1 \n\t"
2737 "psubw %%mm6, %%mm1 \n\t"
2743 "psubw %%mm6, %%mm1 \n\t"
2749 "psubw %%mm6, %%mm1 \n\t"
2755 "psubw %%mm6, %%mm1 \n\t"
2759 "movq %%mm7, %%mm6 \n\t"
2761 "punpcklbw %%mm4, %%mm6 \n\t"
2771 "paddw %%mm6, %%mm0 \n\t"
2777 "paddw %%mm6, %%mm0 \n\t"
2783 "paddw %%mm6, %%mm0 \n\t"
2789 "paddw %%mm6, %%mm0 \n\t"
2804 "movq %4, %%mm6 \n\t"
2806 "pxor %%mm6, %%mm5 \n\t"
2826 "pand %%mm6, %%mm0 \n\t"
2917 "movq (%%"REG_a", %1, 4), %%mm6 \n\t"
2918 "punpcklbw %%mm7, %%mm6 \n\t" // L6
2919 "psubw %%mm6, %%mm2 \n\t" // L5 - L6
2920 "movq (%%"REG_a", %1, 4), %%mm6 \n\t"
2921 "punpckhbw %%mm7, %%mm6 \n\t" // H6
2922 "psubw %%mm6, %%mm3 \n\t" // H5 - H6
2948 "movq %%mm7, %%mm6 \n\t" // 0
2949 "psubw %%mm0, %%mm6 \n\t"
2950 "pmaxsw %%mm6, %%mm0 \n\t" // |2L4 - 5L5 + 5L6 - 2L7|
2951 "movq %%mm7, %%mm6 \n\t" // 0
2952 "psubw %%mm1, %%mm6 \n\t"
2953 "pmaxsw %%mm6, %%mm1 \n\t" // |2H4 - 5H5 + 5H6 - 2H7|
2954 "movq %%mm7, %%mm6 \n\t" // 0
2955 "psubw %%mm2, %%mm6 \n\t"
2956 "pmaxsw %%mm6, %%mm2 \n\t" // |2L0 - 5L1 + 5L2 - 2L3|
2957 "movq %%mm7, %%mm6 \n\t" // 0
2958 "psubw %%mm3, %%mm6 \n\t"
2959 "pmaxsw %%mm6, %%mm3 \n\t" // |2H0 - 5H1 + 5H2 - 2H3|
2961 "movq %%mm7, %%mm6 \n\t" // 0
2962 "pcmpgtw %%mm0, %%mm6 \n\t"
2963 "pxor %%mm6, %%mm0 \n\t"
2964 "psubw %%mm6, %%mm0 \n\t" // |2L4 - 5L5 + 5L6 - 2L7|
2965 "movq %%mm7, %%mm6 \n\t" // 0
2966 "pcmpgtw %%mm1, %%mm6 \n\t"
2967 "pxor %%mm6, %%mm1 \n\t"
2968 "psubw %%mm6, %%mm1 \n\t" // |2H4 - 5H5 + 5H6 - 2H7|
2969 "movq %%mm7, %%mm6 \n\t" // 0
2970 "pcmpgtw %%mm2, %%mm6 \n\t"
2971 "pxor %%mm6, %%mm2 \n\t"
2972 "psubw %%mm6, %%mm2 \n\t" // |2L0 - 5L1 + 5L2 - 2L3|
2973 "movq %%mm7, %%mm6 \n\t" // 0
2974 "pcmpgtw %%mm3, %%mm6 \n\t"
2975 "pxor %%mm6, %%mm3 \n\t"
2976 "psubw %%mm6, %%mm3 \n\t" // |2H0 - 5H1 + 5H2 - 2H3|
2983 "movq %%mm0, %%mm6 \n\t"
2984 "psubusw %%mm2, %%mm6 \n\t"
2985 "psubw %%mm6, %%mm0 \n\t"
2986 "movq %%mm1, %%mm6 \n\t"
2987 "psubusw %%mm3, %%mm6 \n\t"
2988 "psubw %%mm6, %%mm1 \n\t"
2994 "movq %%mm7, %%mm6 \n\t" // 0
2995 "pcmpgtw %%mm4, %%mm6 \n\t" // sign(2L2 - 5L3 + 5L4 - 2L5)
2996 "pxor %%mm6, %%mm4 \n\t"
2997 "psubw %%mm6, %%mm4 \n\t" // |2L2 - 5L3 + 5L4 - 2L5|
3038 "pxor %%mm6, %%mm2 \n\t"
3054 "pxor %%mm6, %%mm4 \n\t"
3056 "psubw %%mm6, %%mm4 \n\t"
3112 "movq " #src2 ", %%mm6 \n\t"\
3116 "punpckhbw %%mm6, %%mm6 \n\t"\
3120 "pmulhuw %%mm3, %%mm6 \n\t"\
3124 "psubw %%mm2, %%mm6 \n\t"\
3126 "packuswb %%mm6, %%mm1 \n\t"\
3142 "movq " #src2 ", %%mm6 \n\t"\
3145 "punpckhbw %%mm4, %%mm6 \n\t"\
3147 "psubw %%mm2, %%mm6 \n\t"\
3149 "psllw $6, %%mm6 \n\t"\
3151 "pmulhw %%mm3, %%mm6 \n\t"\
3153 "packuswb %%mm6, %%mm1 \n\t"\