riscv/net/bpf_jit_comp64.c

471 static void emit_atomic(u8 rd, u8 rs, s16 off, s32 imm, bool is64,
490 		emit(is64 ? rv_amoadd_d(RV_REG_ZERO, rs, rd, 0, 0) :
494 		emit(is64 ? rv_amoand_d(RV_REG_ZERO, rs, rd, 0, 0) :
498 		emit(is64 ? rv_amoor_d(RV_REG_ZERO, rs, rd, 0, 0) :
502 		emit(is64 ? rv_amoxor_d(RV_REG_ZERO, rs, rd, 0, 0) :
507 		emit(is64 ? rv_amoadd_d(rs, rs, rd, 1, 1) :
509 		if (!is64)
513 		emit(is64 ? rv_amoand_d(rs, rs, rd, 1, 1) :
515 		if (!is64)
519 		emit(is64 ? rv_amoor_d(rs, rs, rd, 1, 1) :
521 		if (!is64)
525 		emit(is64 ? rv_amoxor_d(rs, rs, rd, 1, 1) :
527 		if (!is64)
532 		emit(is64 ? rv_amoswap_d(rs, rs, rd, 1, 1) :
534 		if (!is64)
540 		emit(is64 ? rv_addi(RV_REG_T2, r0, 0) :
542 		emit(is64 ? rv_lr_d(r0, 0, rd, 0, 0) :
546 		emit(is64 ? rv_sc_d(RV_REG_T3, rs, rd, 0, 0) :
1071 	bool is64 = BPF_CLASS(insn->code) == BPF_ALU64 ||
1131 		if (!is64 && !aux->verifier_zext)
1139 		if (!is64 && !aux->verifier_zext)
1144 		if (is64)
1149 		if (!is64 && !aux->verifier_zext)
1155 		if (!is64 && !aux->verifier_zext)
1161 		if (!is64 && !aux->verifier_zext)
1167 		if (!is64 && !aux->verifier_zext)
1172 		emit(is64 ? rv_mul(rd, rd, rs) : rv_mulw(rd, rd, rs), ctx);
1173 		if (!is64 && !aux->verifier_zext)
1179 			emit(is64 ? rv_div(rd, rd, rs) : rv_divw(rd, rd, rs), ctx);
1181 			emit(is64 ? rv_divu(rd, rd, rs) : rv_divuw(rd, rd, rs), ctx);
1182 		if (!is64 && !aux->verifier_zext)
1188 			emit(is64 ? rv_rem(rd, rd, rs) : rv_remw(rd, rd, rs), ctx);
1190 			emit(is64 ? rv_remu(rd, rd, rs) : rv_remuw(rd, rd, rs), ctx);
1191 		if (!is64 && !aux->verifier_zext)
1196 		emit(is64 ? rv_sll(rd, rd, rs) : rv_sllw(rd, rd, rs), ctx);
1197 		if (!is64 && !aux->verifier_zext)
1202 		emit(is64 ? rv_srl(rd, rd, rs) : rv_srlw(rd, rd, rs), ctx);
1203 		if (!is64 && !aux->verifier_zext)
1208 		emit(is64 ? rv_sra(rd, rd, rs) : rv_sraw(rd, rd, rs), ctx);
1209 		if (!is64 && !aux->verifier_zext)
1217 		if (!is64 && !aux->verifier_zext)
1245 		if (!is64 && !aux->verifier_zext)
1258 		if (!is64 && !aux->verifier_zext)
1269 		if (!is64 && !aux->verifier_zext)
1280 		if (!is64 && !aux->verifier_zext)
1291 		if (!is64 && !aux->verifier_zext)
1302 		if (!is64 && !aux->verifier_zext)
1308 		emit(is64 ? rv_mul(rd, rd, RV_REG_T1) :
1310 		if (!is64 && !aux->verifier_zext)
1317 			emit(is64 ? rv_div(rd, rd, RV_REG_T1) :
1320 			emit(is64 ? rv_divu(rd, rd, RV_REG_T1) :
1322 		if (!is64 && !aux->verifier_zext)
1329 			emit(is64 ? rv_rem(rd, rd, RV_REG_T1) :
1332 			emit(is64 ? rv_remu(rd, rd, RV_REG_T1) :
1334 		if (!is64 && !aux->verifier_zext)
1341 		if (!is64 && !aux->verifier_zext)
1346 		if (is64)
1351 		if (!is64 && !aux->verifier_zext)
1356 		if (is64)
1361 		if (!is64 && !aux->verifier_zext)
1401 		if (!is64) {
1452 		if (!is64) {
1483 		if (!is64 && imm < 0)