Lines Matching refs:rsp
106 subq $TF_RIP,%rsp
107 movl $\trapno,TF_TRAPNO(%rsp)
108 movq $0,TF_ADDR(%rsp)
109 movq $0,TF_ERR(%rsp)
112 subq $TF_RIP,%rsp
113 movl $\trapno,TF_TRAPNO(%rsp)
114 movq $0,TF_ADDR(%rsp)
115 movq $0,TF_ERR(%rsp)
121 subq $TF_RIP,%rsp
122 movl $\trapno,TF_TRAPNO(%rsp)
123 movq $0,TF_ADDR(%rsp)
124 movq $0,TF_ERR(%rsp)
125 testb $SEL_RPL_MASK,TF_CS(%rsp)
141 subq $TF_RIP,%rsp
142 movl $\trapno,TF_TRAPNO(%rsp)
143 movq $0,TF_ADDR(%rsp)
144 movq $0,TF_ERR(%rsp)
147 subq $TF_RIP,%rsp
148 movl $\trapno,TF_TRAPNO(%rsp)
149 movq $0,TF_ADDR(%rsp)
150 movq $0,TF_ERR(%rsp)
156 subq $TF_RIP,%rsp
157 movl $\trapno,TF_TRAPNO(%rsp)
158 movq $0,TF_ADDR(%rsp)
159 movq $0,TF_ERR(%rsp)
160 testb $SEL_RPL_MASK,TF_CS(%rsp)
181 subq $TF_ERR,%rsp
182 movl $\trapno,TF_TRAPNO(%rsp)
183 movq $0,TF_ADDR(%rsp)
186 subq $TF_ERR,%rsp
187 movl $\trapno,TF_TRAPNO(%rsp)
188 movq $0,TF_ADDR(%rsp)
193 subq $TF_ERR,%rsp
194 movl $\trapno,TF_TRAPNO(%rsp)
195 movq $0,TF_ADDR(%rsp)
196 testb $SEL_RPL_MASK,TF_CS(%rsp)
217 movq %rdi,TF_RDI(%rsp)
218 movq %rdx,TF_RDX(%rsp)
219 movq %rax,TF_RAX(%rsp)
220 movq %rcx,TF_RCX(%rsp)
230 movq %rdi,TF_RDI(%rsp)
231 movq %rdx,TF_RDX(%rsp)
232 movq %rax,TF_RAX(%rsp)
233 movq %rcx,TF_RCX(%rsp)
236 testl $PSL_I,TF_RFLAGS(%rsp)
240 movq %rsi,TF_RSI(%rsp)
241 movq %r8,TF_R8(%rsp)
242 movq %r9,TF_R9(%rsp)
243 movq %rbx,TF_RBX(%rsp)
244 movq %rbp,TF_RBP(%rsp)
245 movq %r10,TF_R10(%rsp)
246 movq %r11,TF_R11(%rsp)
247 movq %r12,TF_R12(%rsp)
248 movq %r13,TF_R13(%rsp)
249 movq %r14,TF_R14(%rsp)
250 movq %r15,TF_R15(%rsp)
251 movl $TF_HASSEGS,TF_FLAGS(%rsp)
253 andq $~(PSL_D | PSL_AC),(%rsp)
262 testb $SEL_RPL_MASK,TF_CS(%rsp) /* Did we come from kernel? */
264 cmpl $T_BPTFLT,TF_TRAPNO(%rsp)
284 movq %rsp, %rdi
299 movq %rdi,TF_RDI(%rsp)
308 movq %rdi,TF_RDI(%rsp)
311 movq %rdx,TF_RDX(%rsp)
312 movq %rax,TF_RAX(%rsp)
313 movq %rcx,TF_RCX(%rsp)
314 testb $SEL_RPL_MASK,TF_CS(%rsp)
320 subq $TF_ERR,%rsp
321 movl $T_DOUBLEFLT,TF_TRAPNO(%rsp)
322 movq $0,TF_ADDR(%rsp)
323 movq $0,TF_ERR(%rsp)
324 movq %rdi,TF_RDI(%rsp)
325 movq %rsi,TF_RSI(%rsp)
326 movq %rdx,TF_RDX(%rsp)
327 movq %rcx,TF_RCX(%rsp)
328 movq %r8,TF_R8(%rsp)
329 movq %r9,TF_R9(%rsp)
330 movq %rax,TF_RAX(%rsp)
331 movq %rbx,TF_RBX(%rsp)
332 movq %rbp,TF_RBP(%rsp)
333 movq %r10,TF_R10(%rsp)
334 movq %r11,TF_R11(%rsp)
335 movq %r12,TF_R12(%rsp)
336 movq %r13,TF_R13(%rsp)
337 movq %r14,TF_R14(%rsp)
338 movq %r15,TF_R15(%rsp)
340 movl $TF_HASSEGS,TF_FLAGS(%rsp)
342 andq $~(PSL_D | PSL_AC),(%rsp)
344 movq TF_SIZE(%rsp),%rdx
356 movq %rsp,%rdi
364 testb $SEL_RPL_MASK,PTI_CS-PTI_ERR(%rsp)
380 testb $SEL_RPL_MASK,TF_CS-TF_ERR(%rsp) /* Did we come from kernel? */
384 subq $TF_ERR,%rsp
385 movq %rdi,TF_RDI(%rsp) /* free up GP registers */
386 movq %rax,TF_RAX(%rsp)
387 movq %rdx,TF_RDX(%rsp)
388 movq %rcx,TF_RCX(%rsp)
395 subq $TF_ERR,%rsp
396 movq %rdi,TF_RDI(%rsp)
397 movq %rax,TF_RAX(%rsp)
398 movq %rdx,TF_RDX(%rsp)
399 movq %rcx,TF_RCX(%rsp)
407 movq %rdi,TF_ADDR(%rsp) /* enabling interrupts. */
409 movl $T_PAGEFLT,TF_TRAPNO(%rsp)
410 testl $PSL_I,TF_RFLAGS(%rsp)
442 movq PTI_RSP(%rsp),%rsp
445 movq %rax,%rsp
451 cmpq $doreti_iret,PTI_RIP-2*8(%rsp)
453 testb $SEL_RPL_MASK,PTI_CS-2*8(%rsp) /* %rax, %rdx not yet pushed */
458 subq $TF_ERR,%rsp
459 movl $\trapno,TF_TRAPNO(%rsp)
468 movq $0,TF_ADDR(%rsp)
469 movq %rdi,TF_RDI(%rsp) /* free up a GP register */
470 movq %rax,TF_RAX(%rsp)
471 movq %rdx,TF_RDX(%rsp)
472 movq %rcx,TF_RCX(%rsp)
473 movw %fs,TF_FS(%rsp)
474 movw %gs,TF_GS(%rsp)
476 cmpq %rdi,TF_RIP(%rsp)
478 testb $SEL_RPL_MASK,TF_CS(%rsp) /* Did we come from kernel? */
482 cmpw $KUF32SEL,TF_FS(%rsp)
485 1: cmpw $KUG32SEL,TF_GS(%rsp)
493 cmpw $KUF32SEL,TF_FS(%rsp)
496 3: cmpw $KUG32SEL,TF_GS(%rsp)
501 movw %es,TF_ES(%rsp)
502 movw %ds,TF_DS(%rsp)
503 testl $PSL_I,TF_RFLAGS(%rsp)
536 movq %rsp,PCPU(SCRATCH_RSP)
537 movq PCPU(RSP0),%rsp
539 subq $TF_SIZE,%rsp
541 movq %r11,TF_RFLAGS(%rsp)
542 movq %rcx,TF_RIP(%rsp) /* %rcx original value is in %r10 */
544 movq %r11,TF_RSP(%rsp) /* user stack pointer */
552 movq %rax,TF_RAX(%rsp) /* syscall number */
553 movq %rdx,TF_RDX(%rsp) /* arg 3 */
554 movq %r10,TF_RCX(%rsp) /* arg 4 */
560 movq $KUDSEL,TF_SS(%rsp)
561 movq $KUCSEL,TF_CS(%rsp)
562 movq $2,TF_ERR(%rsp)
563 movq %rdi,TF_RDI(%rsp) /* arg 1 */
564 movq %rsi,TF_RSI(%rsp) /* arg 2 */
565 movq %r8,TF_R8(%rsp) /* arg 5 */
566 movq %r9,TF_R9(%rsp) /* arg 6 */
567 movq %rbx,TF_RBX(%rsp) /* C preserved */
568 movq %rbp,TF_RBP(%rsp) /* C preserved */
569 movq %r12,TF_R12(%rsp) /* C preserved */
570 movq %r13,TF_R13(%rsp) /* C preserved */
571 movq %r14,TF_R14(%rsp) /* C preserved */
572 movq %r15,TF_R15(%rsp) /* C preserved */
573 movl $TF_HASSEGS,TF_FLAGS(%rsp)
575 movq %rsp,TD_FRAME(%rdi)
576 movl TF_RFLAGS(%rsp),%esi
591 movq TF_RDI(%rsp),%rdi /* bonus; preserve arg 1 */
592 movq TF_RSI(%rsp),%rsi /* bonus: preserve arg 2 */
593 movq TF_RDX(%rsp),%rdx /* return value 2 */
594 movq TF_RAX(%rsp),%rax /* return value 1 */
595 movq TF_RFLAGS(%rsp),%r11 /* original %rflags */
596 movq TF_RIP(%rsp),%rcx /* original %rip */
597 movq TF_RSP(%rsp),%rsp /* user stack pointer */
612 movq %rsp,%rdi
634 subq $TF_RIP,%rsp
635 movl $(T_TRCTRAP),TF_TRAPNO(%rsp)
636 movq $0,TF_ADDR(%rsp)
637 movq $0,TF_ERR(%rsp)
638 movq %rdi,TF_RDI(%rsp)
639 movq %rsi,TF_RSI(%rsp)
640 movq %rdx,TF_RDX(%rsp)
641 movq %rcx,TF_RCX(%rsp)
642 movq %r8,TF_R8(%rsp)
643 movq %r9,TF_R9(%rsp)
644 movq %rax,TF_RAX(%rsp)
645 movq %rbx,TF_RBX(%rsp)
646 movq %rbp,TF_RBP(%rsp)
647 movq %r10,TF_R10(%rsp)
648 movq %r11,TF_R11(%rsp)
649 movq %r12,TF_R12(%rsp)
650 movq %r13,TF_R13(%rsp)
651 movq %r14,TF_R14(%rsp)
652 movq %r15,TF_R15(%rsp)
654 movl $TF_HASSEGS,TF_FLAGS(%rsp)
656 andq $~(PSL_D | PSL_AC),(%rsp)
658 testb $SEL_RPL_MASK,TF_CS(%rsp)
672 movq TF_SIZE(%rsp),%rdx
687 2: movq %rsp,%rdi
706 addq $TF_RIP,%rsp
725 movq %rsp,%rsi
727 movq %rax,%rsp
733 cmpw $KUF32SEL,TF_FS(%rsp)
737 2: cmpw $KUG32SEL,TF_GS(%rsp)
771 subq $TF_RIP,%rsp
772 movl $(T_NMI),TF_TRAPNO(%rsp)
773 movq $0,TF_ADDR(%rsp)
774 movq $0,TF_ERR(%rsp)
775 movq %rdi,TF_RDI(%rsp)
776 movq %rsi,TF_RSI(%rsp)
777 movq %rdx,TF_RDX(%rsp)
778 movq %rcx,TF_RCX(%rsp)
779 movq %r8,TF_R8(%rsp)
780 movq %r9,TF_R9(%rsp)
781 movq %rax,TF_RAX(%rsp)
782 movq %rbx,TF_RBX(%rsp)
783 movq %rbp,TF_RBP(%rsp)
784 movq %r10,TF_R10(%rsp)
785 movq %r11,TF_R11(%rsp)
786 movq %r12,TF_R12(%rsp)
787 movq %r13,TF_R13(%rsp)
788 movq %r14,TF_R14(%rsp)
789 movq %r15,TF_R15(%rsp)
791 movl $TF_HASSEGS,TF_FLAGS(%rsp)
793 andq $~(PSL_D | PSL_AC),(%rsp)
796 testb $SEL_RPL_MASK,TF_CS(%rsp)
813 movq TF_SIZE(%rsp),%rdx
845 cmpw $KUF32SEL,TF_FS(%rsp)
849 2: cmpw $KUG32SEL,TF_GS(%rsp)
860 movq %rsp,%rdi
883 movq %rsp,%rsi /* source stack pointer */
890 andq $~(PSL_D | PSL_AC),(%rsp)
894 movq %rdx,%rsp /* we are on the regular kstack */
927 movq %rsp,%rdx /* frame */
958 addq $TF_RIP,%rsp
983 subq $TF_RIP,%rsp
984 movl $(T_MCHK),TF_TRAPNO(%rsp)
985 movq $0,TF_ADDR(%rsp)
986 movq $0,TF_ERR(%rsp)
987 movq %rdi,TF_RDI(%rsp)
988 movq %rsi,TF_RSI(%rsp)
989 movq %rdx,TF_RDX(%rsp)
990 movq %rcx,TF_RCX(%rsp)
991 movq %r8,TF_R8(%rsp)
992 movq %r9,TF_R9(%rsp)
993 movq %rax,TF_RAX(%rsp)
994 movq %rbx,TF_RBX(%rsp)
995 movq %rbp,TF_RBP(%rsp)
996 movq %r10,TF_R10(%rsp)
997 movq %r11,TF_R11(%rsp)
998 movq %r12,TF_R12(%rsp)
999 movq %r13,TF_R13(%rsp)
1000 movq %r14,TF_R14(%rsp)
1001 movq %r15,TF_R15(%rsp)
1003 movl $TF_HASSEGS,TF_FLAGS(%rsp)
1005 andq $~(PSL_D | PSL_AC),(%rsp)
1008 testb $SEL_RPL_MASK,TF_CS(%rsp)
1021 movq TF_SIZE(%rsp),%rdx
1049 movq %rsp,%rdi
1074 addq $TF_RIP,%rsp
1080 movq %rsp,%rdx /* trapframe pointer */
1131 testb $SEL_RPL_MASK,TF_CS(%rsp) /* are we returning to user mode? */
1145 movq %rsp,%rdi /* pass a pointer to the trapframe */
1166 testb $SEL_RPL_MASK,TF_CS(%rsp)
1171 testl $TF_HASSEGS,TF_FLAGS(%rsp)
1176 movw TF_FS(%rsp),%ax
1190 movw TF_GS(%rsp),%si
1228 movw TF_ES(%rsp),%es
1231 movw TF_DS(%rsp),%ds
1234 testb $SEL_RPL_MASK,TF_CS(%rsp) /* Did we come from kernel? */
1247 movq TF_RIP(%rsp),%rax
1249 movq TF_CS(%rsp),%rax
1251 movq TF_RFLAGS(%rsp),%rax
1253 movq TF_RSP(%rsp),%rax
1255 movq TF_SS(%rsp),%rax
1261 movq %rdx,%rsp
1265 addq $8,%rsp
1268 2: addq $TF_RIP,%rsp
1275 movw %ax,TF_DS(%rsp)
1276 movw %ax,TF_ES(%rsp)
1277 movw $KUF32SEL,TF_FS(%rsp)
1278 movw $KUG32SEL,TF_GS(%rsp)
1291 subq $TF_RIP,%rsp /* space including tf_err, tf_trapno */
1292 movq %rax,TF_RAX(%rsp)
1293 movq %rdx,TF_RDX(%rsp)
1294 movq %rcx,TF_RCX(%rsp)
1296 testb $SEL_RPL_MASK,TF_CS(%rsp)
1301 movl $TF_HASSEGS,TF_FLAGS(%rsp)
1302 movq %rdi,TF_RDI(%rsp)
1303 movq %rsi,TF_RSI(%rsp)
1304 movq %r8,TF_R8(%rsp)
1305 movq %r9,TF_R9(%rsp)
1306 movq %rbx,TF_RBX(%rsp)
1307 movq %rbp,TF_RBP(%rsp)
1308 movq %r10,TF_R10(%rsp)
1309 movq %r11,TF_R11(%rsp)
1310 movq %r12,TF_R12(%rsp)
1311 movq %r13,TF_R13(%rsp)
1312 movq %r14,TF_R14(%rsp)
1313 movq %r15,TF_R15(%rsp)
1314 movl $T_PROTFLT,TF_TRAPNO(%rsp)
1315 movq $0,TF_ERR(%rsp) /* XXX should be the error code */
1316 movq $0,TF_ADDR(%rsp)
1322 movl $T_PROTFLT,TF_TRAPNO(%rsp)
1323 testb $SEL_RPL_MASK,TF_CS(%rsp)
1327 movq %rsp,%rdi
1329 movw $KUDSEL,TF_DS(%rsp)
1335 movl $T_PROTFLT,TF_TRAPNO(%rsp)
1336 testl $PSL_I,TF_RFLAGS(%rsp)
1340 movq %rsp,%rdi
1342 movw $KUDSEL,TF_ES(%rsp)
1348 testl $PSL_I,TF_RFLAGS(%rsp)
1352 movl $T_PROTFLT,TF_TRAPNO(%rsp)
1353 movq %rsp,%rdi
1355 movw $KUF32SEL,TF_FS(%rsp)
1362 movl $T_PROTFLT,TF_TRAPNO(%rsp)
1363 testl $PSL_I,TF_RFLAGS(%rsp)
1367 movq %rsp,%rdi
1369 movw $KUG32SEL,TF_GS(%rsp)
1375 movl $T_PROTFLT,TF_TRAPNO(%rsp)
1376 testl $PSL_I,TF_RFLAGS(%rsp)
1380 movq %rsp,%rdi
1390 movl $T_PROTFLT,TF_TRAPNO(%rsp)
1391 testl $PSL_I,TF_RFLAGS(%rsp)
1395 movq %rsp,%rdi