tsan/rtl/tsan_platform.h

58 struct Mapping {
96 struct Mapping {
131 struct Mapping {
372 struct Mapping {
397 struct Mapping {
477 struct Mapping {
523 template<typename Mapping, int Type>
527     case MAPPING_LO_APP_BEG: return Mapping::kLoAppMemBeg;
528     case MAPPING_LO_APP_END: return Mapping::kLoAppMemEnd;
530     case MAPPING_MID_APP_BEG: return Mapping::kMidAppMemBeg;
531     case MAPPING_MID_APP_END: return Mapping::kMidAppMemEnd;
533     case MAPPING_HI_APP_BEG: return Mapping::kHiAppMemBeg;
534     case MAPPING_HI_APP_END: return Mapping::kHiAppMemEnd;
535     case MAPPING_HEAP_BEG: return Mapping::kHeapMemBeg;
536     case MAPPING_HEAP_END: return Mapping::kHeapMemEnd;
537     case MAPPING_VDSO_BEG: return Mapping::kVdsoBeg;
539     case MAPPING_APP_BEG: return Mapping::kAppMemBeg;
540     case MAPPING_APP_END: return Mapping::kAppMemEnd;
542     case MAPPING_SHADOW_BEG: return Mapping::kShadowBeg;
543     case MAPPING_SHADOW_END: return Mapping::kShadowEnd;
544     case MAPPING_META_SHADOW_BEG: return Mapping::kMetaShadowBeg;
545     case MAPPING_META_SHADOW_END: return Mapping::kMetaShadowEnd;
546     case MAPPING_TRACE_BEG: return Mapping::kTraceMemBeg;
547     case MAPPING_TRACE_END: return Mapping::kTraceMemEnd;
572   return MappingImpl<Mapping, Type>();
694 template<typename Mapping>
697   return (mem >= Mapping::kHeapMemBeg && mem < Mapping::kHeapMemEnd) ||
699          (mem >= Mapping::kMidAppMemBeg && mem < Mapping::kMidAppMemEnd) ||
701          (mem >= Mapping::kLoAppMemBeg && mem < Mapping::kLoAppMemEnd) ||
702          (mem >= Mapping::kHiAppMemBeg && mem < Mapping::kHiAppMemEnd);
704   return mem >= Mapping::kAppMemBeg && mem < Mapping::kAppMemEnd;
729   return IsAppMemImpl<Mapping>(mem);
734 template<typename Mapping>
736   return mem >= Mapping::kShadowBeg && mem <= Mapping::kShadowEnd;
760   return IsShadowMemImpl<Mapping>(mem);
765 template<typename Mapping>
767   return mem >= Mapping::kMetaShadowBeg && mem <= Mapping::kMetaShadowEnd;
791   return IsMetaMemImpl<Mapping>(mem);
796 template<typename Mapping>
800   return (((x) & ~(Mapping::kAppMemMsk | (kShadowCell - 1)))
801       ^ Mapping::kAppMemXor) * kShadowCnt;
804   return ((x & ~(kShadowCell - 1)) * kShadowCnt) | Mapping::kShadowBeg;
806   return ((x & ~(kShadowCell - 1)) * kShadowCnt) + Mapping::kShadowBeg;
832   return MemToShadowImpl<Mapping>(x);
837 template<typename Mapping>
841   return (u32*)(((((x) & ~(Mapping::kAppMemMsk | (kMetaShadowCell - 1)))) /
842       kMetaShadowCell * kMetaShadowSize) | Mapping::kMetaShadowBeg);
846       kMetaShadowCell * kMetaShadowSize) | Mapping::kMetaShadowBeg);
849       kMetaShadowCell * kMetaShadowSize) + Mapping::kMetaShadowBeg);
875   return MemToMetaImpl<Mapping>(x);
880 template<typename Mapping>
889   uptr p = (s / kShadowCnt) ^ Mapping::kAppMemXor;
890   if (p >= Mapping::kLoAppMemBeg && p < Mapping::kLoAppMemEnd &&
894   p = ((s / kShadowCnt) ^ Mapping::kAppMemXor) +
895       (Mapping::kMidAppMemBeg & Mapping::kAppMemMsk);
896   if (p >= Mapping::kMidAppMemBeg && p < Mapping::kMidAppMemEnd &&
900   return ((s / kShadowCnt) ^ Mapping::kAppMemXor) | Mapping::kAppMemMsk;
903   return (s & ~Mapping::kShadowBeg) / kShadowCnt;
905   return (s - Mapping::kShadowBeg) / kShadowCnt;
931   return ShadowToMemImpl<Mapping>(s);
942 template<typename Mapping>
944   uptr p = Mapping::kTraceMemBeg + (uptr)tid * kTotalTraceSize;
945   DCHECK_LT(p, Mapping::kTraceMemEnd);
970   return GetThreadTraceImpl<Mapping>(tid);
975 template<typename Mapping>
977   uptr p = Mapping::kTraceMemBeg + (uptr)tid * kTotalTraceSize
979   DCHECK_LT(p, Mapping::kTraceMemEnd);
1004   return GetThreadTraceHeaderImpl<Mapping>(tid);