Lines Matching refs:bpf_prog

623 	struct bpf_prog	*prog;
638 static __always_inline u32 __bpf_prog_run(const struct bpf_prog *prog,
662 static __always_inline u32 bpf_prog_run(const struct bpf_prog *prog, const void *ctx)
675 static inline u32 bpf_prog_run_pin_on_cpu(const struct bpf_prog *prog,
774 static inline u32 __bpf_prog_run_save_cb(const struct bpf_prog *prog,
795 static inline u32 bpf_prog_run_save_cb(const struct bpf_prog *prog,
806 static inline u32 bpf_prog_run_clear_cb(const struct bpf_prog *prog,
825 void bpf_prog_change_xdp(struct bpf_prog *prev_prog, struct bpf_prog *prog);
827 static inline u32 bpf_prog_insn_size(const struct bpf_prog *prog)
832 static inline u32 bpf_prog_tag_scratch_size(const struct bpf_prog *prog)
840 return max(sizeof(struct bpf_prog),
841 offsetof(struct bpf_prog, insns[proglen]));
844 static inline bool bpf_prog_was_classic(const struct bpf_prog *prog)
890 static inline void bpf_prog_lock_ro(struct bpf_prog *fp)
912 struct bpf_prog *bpf_prog_select_runtime(struct bpf_prog *fp, int *err);
913 void bpf_prog_free(struct bpf_prog *fp);
917 void bpf_prog_fill_jited_linfo(struct bpf_prog *prog,
919 int bpf_prog_alloc_jited_linfo(struct bpf_prog *prog);
920 void bpf_prog_jit_attempt_done(struct bpf_prog *prog);
922 struct bpf_prog *bpf_prog_alloc(unsigned int size, gfp_t gfp_extra_flags);
923 struct bpf_prog *bpf_prog_alloc_no_stats(unsigned int size, gfp_t gfp_extra_flags);
924 struct bpf_prog *bpf_prog_realloc(struct bpf_prog *fp_old, unsigned int size,
926 void __bpf_prog_free(struct bpf_prog *fp);
928 static inline void bpf_prog_unlock_free(struct bpf_prog *fp)
936 int bpf_prog_create(struct bpf_prog **pfp, struct sock_fprog_kern *fprog);
937 int bpf_prog_create_from_user(struct bpf_prog **pfp, struct sock_fprog *fprog,
939 void bpf_prog_destroy(struct bpf_prog *fp);
945 void sk_reuseport_prog_free(struct bpf_prog *prog);
957 struct bpf_prog *bpf_int_jit_compile(struct bpf_prog *prog);
958 void bpf_jit_compile(struct bpf_prog *prog);
978 struct bpf_prog *bpf_patch_insn_single(struct bpf_prog *prog, u32 off,
980 int bpf_remove_insns(struct bpf_prog *prog, u32 off, u32 cnt);
1027 struct xdp_buff *xdp, struct bpf_prog *prog);
1030 struct bpf_prog *prog);
1034 struct bpf_prog *prog);
1037 void bpf_warn_invalid_xdp_action(struct net_device *dev, struct bpf_prog *prog, u32 act);
1041 struct bpf_prog *prog, struct sk_buff *skb,
1047 struct bpf_prog *prog, struct sk_buff *skb,
1074 void bpf_jit_free(struct bpf_prog *fp);
1076 bpf_jit_binary_pack_hdr(const struct bpf_prog *fp);
1081 static inline bool bpf_prog_kallsyms_verify_off(const struct bpf_prog *fp)
1093 int bpf_jit_binary_pack_finalize(struct bpf_prog *prog,
1099 int bpf_jit_add_poke_descriptor(struct bpf_prog *prog,
1102 int bpf_jit_get_func_addr(const struct bpf_prog *prog,
1106 struct bpf_prog *bpf_jit_blind_constants(struct bpf_prog *fp);
1107 void bpf_jit_prog_release_other(struct bpf_prog *fp, struct bpf_prog *fp_other);
1134 static inline bool bpf_prog_ebpf_jited(const struct bpf_prog *fp)
1139 static inline bool bpf_jit_blinding_enabled(struct bpf_prog *prog)
1177 struct bpf_prog *bpf_prog_ksym_find(unsigned long addr);
1190 void bpf_prog_kallsyms_add(struct bpf_prog *fp);
1191 void bpf_prog_kallsyms_del(struct bpf_prog *fp);
1200 static inline bool bpf_jit_blinding_enabled(struct bpf_prog *prog)
1205 static inline bool bpf_prog_ebpf_jited(const struct bpf_prog *fp)
1211 bpf_jit_add_poke_descriptor(struct bpf_prog *prog,
1217 static inline void bpf_jit_free(struct bpf_prog *fp)
1245 static inline struct bpf_prog *bpf_prog_ksym_find(unsigned long addr)
1257 static inline void bpf_prog_kallsyms_add(struct bpf_prog *fp)
1261 static inline void bpf_prog_kallsyms_del(struct bpf_prog *fp)
1267 void bpf_prog_kallsyms_del_all(struct bpf_prog *fp);
1449 struct bpf_prog *_prog; \