Lines Matching refs:prec
216 * string representation. If not -1, prec specifies the maximum number of
221 __wcsconv(wchar_t *wcsarg, int prec, locale_t loc)
231 if (prec < 0) {
243 if (prec < 128)
244 nbytes = prec;
252 nbytes + clen > prec)
324 int prec; /* precision from format; <0 for N/A */
366 int dprec; /* a copy of prec if [diouxX], 0 otherwise */
512 prec = -1;
562 GETASTER (prec);
565 prec = 0;
567 prec = 10 * prec + to_digit(ch);
700 if (prec >= 0)
701 prec++;
707 __hldtoa(fparg.ldbl, xdigs, prec,
712 __hdtoa(fparg.dbl, xdigs, prec,
715 if (prec < 0)
716 prec = dtoaend - cp;
729 if (prec < 0) /* account for digit before decpt */
730 prec = DEFPREC + 1;
732 prec++;
753 if (prec == 0)
754 prec = 1;
756 if (prec < 0)
757 prec = DEFPREC;
763 __ldtoa(&fparg.ldbl, expchar ? 2 : 3, prec,
768 dtoa(fparg.dbl, expchar ? 2 : 3, prec,
789 if (expt > -4 && expt <= prec) {
793 prec -= expt;
795 prec = ndig - expt;
796 if (prec < 0)
797 prec = 0;
804 prec = ndig;
809 size = expsize + prec;
810 if (prec > 1 || flags & ALT)
819 if (prec || flags & ALT)
820 size += prec + decpt_len;
898 convbuf = __wcsconv(wcp, prec, loc);
907 size = (prec >= 0) ? strnlen(cp, prec) : strlen(cp);
953 number: if ((dprec = prec) >= 0)
967 if (ujval != 0 || prec != 0 ||
972 if (ulval != 0 || prec != 0 ||
1240 VPRINT(vtype, 0, prec);
1247 VPRINT(vtype, i, prec);
1264 VPRINT(vtype, 0, width, prec);
1271 VPRINT(vtype, i, width, prec);
1295 * size excludes decimal prec; realsz includes it.
1343 if (prec || flags & ALT)
1347 prec += expt;
1360 if (prec || flags & ALT)
1363 PRINTANDPAD(cp, dtoaend, prec, zeroes);
1365 if (prec > 1 || flags & ALT) {
1369 PAD(prec - ndig, zeroes);