msm/adreno/a6xx_gpu.c

20 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
21 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
24 	if (!adreno_has_gmu_wrapper(adreno_gpu) && !a6xx_gmu_isidle(&a6xx_gpu->gmu))
57 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
58 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
61 	if (a6xx_gpu->has_whereami && !adreno_gpu->base.hw_apriv) {
106 	struct adreno_gpu *adreno_gpu = &a6xx_gpu->base;
118 		if (!adreno_is_a7xx(adreno_gpu)) {
179 		if (!adreno_is_a7xx(adreno_gpu)) {
190 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
191 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
273 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
274 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
1016 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
1017 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
1023 	if (!(adreno_gpu->info->hwcg || adreno_is_a7xx(adreno_gpu)))
1026 	if (adreno_is_a630(adreno_gpu))
1028 	else if (adreno_is_a610(adreno_gpu))
1030 	else if (adreno_is_a702(adreno_gpu))
1035 	if (adreno_is_a7xx(adreno_gpu)) {
1036 		cgc_mode = adreno_is_a740_family(adreno_gpu) ? 0x20222 : 0x20000;
1046 	if (!adreno_gpu->info->hwcg) {
1072 	if (!adreno_is_a610_family(adreno_gpu) && !adreno_is_a7xx(adreno_gpu))
1075 	for (i = 0; (reg = &adreno_gpu->info->hwcg[i], reg->offset); i++)
1079 	if (!adreno_is_a610_family(adreno_gpu) && !adreno_is_a7xx(adreno_gpu))
1303 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
1307 	if (adreno_is_a650(adreno_gpu) || adreno_is_a702(adreno_gpu)) {
1312 	} else if (adreno_is_a690(adreno_gpu)) {
1317 	} else if (adreno_is_a660_family(adreno_gpu)) {
1322 	} else if (adreno_is_a730(adreno_gpu) ||
1323 		   adreno_is_a740(adreno_gpu) ||
1324 		   adreno_is_a750(adreno_gpu)) {
1355 static void a6xx_calc_ubwc_config(struct adreno_gpu *gpu)
1418 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
1424 	BUG_ON(adreno_gpu->ubwc_config.highest_bank_bit < 13);
1425 	u32 hbb = adreno_gpu->ubwc_config.highest_bank_bit - 13;
1430 		  adreno_gpu->ubwc_config.rgb565_predicator << 11 |
1431 		  hbb_hi << 10 | adreno_gpu->ubwc_config.amsbc << 4 |
1432 		  adreno_gpu->ubwc_config.min_acc_len << 3 |
1433 		  hbb_lo << 1 | adreno_gpu->ubwc_config.ubwc_mode);
1436 		  adreno_gpu->ubwc_config.min_acc_len << 3 |
1437 		  hbb_lo << 1 | adreno_gpu->ubwc_config.ubwc_mode);
1440 		  adreno_gpu->ubwc_config.uavflagprd_inv << 4 |
1441 		  adreno_gpu->ubwc_config.min_acc_len << 3 |
1442 		  hbb_lo << 1 | adreno_gpu->ubwc_config.ubwc_mode);
1444 	if (adreno_is_a7xx(adreno_gpu))
1449 		  adreno_gpu->ubwc_config.min_acc_len << 23 | hbb_lo << 21);
1537 	struct adreno_gpu *adreno_gpu = &a6xx_gpu->base;
1538 	struct msm_gpu *gpu = &adreno_gpu->base;
1539 	const char *sqe_name = adreno_gpu->info->fw[ADRENO_FW_SQE];
1547 	if (adreno_is_a7xx(adreno_gpu) || adreno_is_a702(adreno_gpu))
1603 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
1604 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
1608 			adreno_gpu->fw[ADRENO_FW_SQE], &a6xx_gpu->sqe_iova);
1634 	if ((adreno_gpu->base.hw_apriv || a6xx_gpu->has_whereami) &&
1702 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
1703 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
1708 	if (!adreno_has_gmu_wrapper(adreno_gpu)) {
1716 	if (adreno_is_a619_holi(adreno_gpu)) {
1721 	} else if (a6xx_has_gbif(adreno_gpu)) {
1729 	if (adreno_is_a7xx(adreno_gpu) && a6xx_has_gbif(adreno_gpu))
1734 	if (adreno_is_a619_holi(adreno_gpu))
1745 	if (!adreno_is_a7xx(adreno_gpu)) {
1765 	if (adreno_is_a610_family(adreno_gpu) ||
1766 	    adreno_is_a640_family(adreno_gpu) ||
1767 	    adreno_is_a650_family(adreno_gpu) ||
1768 	    adreno_is_a7xx(adreno_gpu)) {
1774 			  adreno_is_a7xx(adreno_gpu) ? 0x2120212 : 0x3);
1779 	if (adreno_is_a630(adreno_gpu))
1782 	if (adreno_is_a7xx(adreno_gpu))
1789 	if (adreno_is_a7xx(adreno_gpu)) {
1798 	if (!(adreno_is_a650_family(adreno_gpu) ||
1799 	      adreno_is_a702(adreno_gpu) ||
1800 	      adreno_is_a730(adreno_gpu))) {
1801 		gmem_range_min = adreno_is_a740_family(adreno_gpu) ? SZ_16M : SZ_1M;
1807 			gmem_range_min + adreno_gpu->info->gmem - 1);
1810 	if (adreno_is_a7xx(adreno_gpu))
1817 	if (adreno_is_a640_family(adreno_gpu) || adreno_is_a650_family(adreno_gpu)) {
1820 	} else if (adreno_is_a610_family(adreno_gpu)) {
1823 	} else if (!adreno_is_a7xx(adreno_gpu)) {
1828 	if (adreno_is_a660_family(adreno_gpu))
1832 	if (adreno_is_a610(adreno_gpu)) {
1835 	} else if (adreno_is_a702(adreno_gpu)) {
1838 	} else if (!adreno_is_a7xx(adreno_gpu))
1844 	if (adreno_is_a702(adreno_gpu))
1846 	else if (adreno_is_a690(adreno_gpu))
1848 	else if (adreno_is_a650(adreno_gpu) || adreno_is_a660(adreno_gpu))
1850 	else if (adreno_is_a640_family(adreno_gpu) || adreno_is_7c3(adreno_gpu))
1852 	else if (adreno_is_a650(adreno_gpu) || adreno_is_a660(adreno_gpu))
1854 	else if (adreno_is_a619(adreno_gpu))
1856 	else if (adreno_is_a610(adreno_gpu))
1858 	else if (!adreno_is_a7xx(adreno_gpu))
1867 	if (adreno_is_a7xx(adreno_gpu)) {
1879 	if (adreno_is_a730(adreno_gpu) ||
1880 	    adreno_is_a740_family(adreno_gpu))
1882 	else if (adreno_is_a690(adreno_gpu))
1884 	else if (adreno_is_a619(adreno_gpu))
1886 	else if (adreno_is_a610(adreno_gpu) || adreno_is_a702(adreno_gpu))
1894 	if (adreno_is_a650_family(adreno_gpu)) {
1916 	if (adreno_is_a660_family(adreno_gpu)) {
1917 		if (adreno_is_a690(adreno_gpu))
1922 	} else if (adreno_is_a702(adreno_gpu)) {
1927 	if (adreno_is_a690(adreno_gpu))
1930 	else if (adreno_is_a660(adreno_gpu))
1932 	else if (adreno_is_a7xx(adreno_gpu))
1942 		if (adreno_is_a7xx(adreno_gpu)) {
1956 		  adreno_is_a7xx(adreno_gpu) ? A7XX_INT_MASK : A6XX_INT_MASK);
1971 	if (adreno_gpu->base.hw_apriv)
1984 	if (adreno_is_a7xx(adreno_gpu)) {
1997 	ret = adreno_is_a7xx(adreno_gpu) ? a7xx_cp_init(gpu) : a6xx_cp_init(gpu);
2032 	if (adreno_has_gmu_wrapper(adreno_gpu))
2050 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
2051 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
2070 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
2071 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
2105 	if (adreno_has_gmu_wrapper(adreno_gpu)) {
2107 		a6xx_bus_clear_pending_transactions(adreno_gpu, true);
2146 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
2152 	if (adreno_is_a7xx(adreno_gpu)) {
2166 	if (adreno_is_a7xx(adreno_gpu)) {
2208 	} else if (adreno_is_a660_family(adreno_gpu)) {
2243 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
2253 	else if (id == 5 && adreno_is_a7xx(adreno_gpu))
2322 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
2323 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
2339 	if (!adreno_has_gmu_wrapper(adreno_gpu))
2401 	struct adreno_gpu *adreno_gpu = &a6xx_gpu->base;
2402 	struct msm_gpu *gpu = &adreno_gpu->base;
2418 		if (adreno_is_a660_family(adreno_gpu))
2461 	struct adreno_gpu *adreno_gpu = &a6xx_gpu->base;
2462 	struct msm_gpu *gpu = &adreno_gpu->base;
2534 void a6xx_bus_clear_pending_transactions(struct adreno_gpu *adreno_gpu, bool gx_off)
2536 	struct msm_gpu *gpu = &adreno_gpu->base;
2538 	if (adreno_is_a619_holi(adreno_gpu)) {
2542 	} else if (!a6xx_has_gbif(adreno_gpu)) {
2589 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
2590 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
2605 	adreno_is_a7xx(adreno_gpu) ? a7xx_llc_activate(a6xx_gpu) : a6xx_llc_activate(a6xx_gpu);
2612 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
2613 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
2642 	if (adreno_is_a619_holi(adreno_gpu))
2663 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
2664 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
2690 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
2691 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
2702 	a6xx_bus_clear_pending_transactions(adreno_gpu, true);
2704 	if (adreno_is_a619_holi(adreno_gpu))
2726 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
2727 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
2751 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
2752 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
2759 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
2760 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
2776 	adreno_gpu_cleanup(adreno_gpu);
2783 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
2784 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
2800 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
2801 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
2811 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
2812 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
2843 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);
2844 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);
2846 	if (adreno_gpu->base.hw_apriv || a6xx_gpu->has_whereami)
3030 	struct adreno_gpu *adreno_gpu;
3039 	adreno_gpu = &a6xx_gpu->base;
3040 	gpu = &adreno_gpu->base;
3044 	adreno_gpu->registers = NULL;
3051 	adreno_gpu->gmu_is_wrapper = of_device_is_compatible(node, "qcom,adreno-gmu-wrapper");
3053 	adreno_gpu->base.hw_apriv =
3070 		ret = adreno_gpu_init(dev, pdev, adreno_gpu, &funcs_a7xx, 1);
3071 	else if (adreno_has_gmu_wrapper(adreno_gpu))
3072 		ret = adreno_gpu_init(dev, pdev, adreno_gpu, &funcs_gmuwrapper, 1);
3074 		ret = adreno_gpu_init(dev, pdev, adreno_gpu, &funcs, 1);
3084 	if (adreno_is_a618(adreno_gpu) || adreno_is_7c3(adreno_gpu))
3087 	if (adreno_has_gmu_wrapper(adreno_gpu))
3101 	a6xx_calc_ubwc_config(adreno_gpu);