Lines Matching refs:iopgd
492 static u32 *iopte_alloc(struct iommu *obj, u32 *iopgd, u32 da)
497 if (*iopgd)
507 if (!*iopgd) {
511 *iopgd = virt_to_phys(iopte) | IOPGD_TABLE;
512 flush_iopgd_range(iopgd, iopgd);
521 iopte = iopte_offset(iopgd, da);
525 __func__, da, iopgd, *iopgd, iopte, *iopte);
532 u32 *iopgd = iopgd_offset(obj, da);
540 *iopgd = (pa & IOSECTION_MASK) | prot | IOPGD_SECTION;
541 flush_iopgd_range(iopgd, iopgd);
547 u32 *iopgd = iopgd_offset(obj, da);
557 *(iopgd + i) = (pa & IOSUPER_MASK) | prot | IOPGD_SUPER;
558 flush_iopgd_range(iopgd, iopgd + 15);
564 u32 *iopgd = iopgd_offset(obj, da);
565 u32 *iopte = iopte_alloc(obj, iopgd, da);
581 u32 *iopgd = iopgd_offset(obj, da);
582 u32 *iopte = iopte_alloc(obj, iopgd, da);
665 u32 *iopgd, *iopte = NULL;
667 iopgd = iopgd_offset(obj, da);
668 if (!*iopgd)
671 if (iopgd_is_table(*iopgd))
672 iopte = iopte_offset(iopgd, da);
674 *ppgd = iopgd;
682 u32 *iopgd = iopgd_offset(obj, da);
685 if (!*iopgd)
688 if (iopgd_is_table(*iopgd)) {
690 u32 *iopte = iopte_offset(iopgd, da);
696 iopte = iopte_offset(iopgd, (da & IOLARGE_MASK));
705 iopte = iopte_offset(iopgd, 0);
714 if ((*iopgd & IOPGD_SUPER) == IOPGD_SUPER) {
717 iopgd = iopgd_offset(obj, (da & IOSUPER_MASK));
721 memset(iopgd, 0, nent * sizeof(*iopgd));
722 flush_iopgd_range(iopgd, iopgd + (nent - 1) * sizeof(*iopgd));
755 u32 *iopgd;
758 iopgd = iopgd_offset(obj, da);
760 if (!*iopgd)
763 if (iopgd_is_table(*iopgd))
764 iopte_free(iopte_offset(iopgd, 0));
766 *iopgd = 0;
767 flush_iopgd_range(iopgd, iopgd);
781 u32 *iopgd, *iopte;
803 iopgd = iopgd_offset(obj, da);
805 if (!iopgd_is_table(*iopgd)) {
807 da, iopgd, *iopgd);
811 iopte = iopte_offset(iopgd, da);
814 __func__, da, iopgd, *iopgd, iopte, *iopte);
964 obj->iopgd = p;
966 BUG_ON(!IS_ALIGNED((unsigned long)obj->iopgd, IOPGD_TABLE_SIZE));
992 free_pages((unsigned long)obj->iopgd, get_order(IOPGD_TABLE_SIZE));