next | previous | forward | backward | up | top | index | toc | Macaulay2 web site
Macaulay2Doc :: printingPrecision

printingPrecision -- current precision for printing numbers

Synopsis

Description

i1 : 1/3p100

o1 = .333333333333333333333333333333

o1 : RR (of precision 100)
i2 : {1/3p100}

o2 = {.333333}

o2 : List
i3 : printingPrecision

o3 = 6
i4 : printingPrecision = 16

o4 = 16
i5 : {1/3p100}

o5 = {.3333333333333333}

o5 : List
i6 : printingPrecision = 0

o6 = 0
i7 : {1/3p100}

o7 = {.333333333333333333333333333333}

o7 : List

For complex numbers, if printingAccuracy is set to its default value of -1, the two parts of the number are treated together (although a digit further further to the right of the point may sometimes be displayed in the smaller part).

i8 : printingAccuracy

o8 = -1
i9 : printingPrecision = 16

o9 = 16
i10 : {1p100e12/3+1p100/3*ii}

o10 = {333333333333.3333+.33333*ii}

o10 : List
i11 : printingAccuracy = 10

o11 = 10
i12 : {1p100e12/3+1p100/3*ii}

o12 = {333333333333.3333+.3333333333*ii}

o12 : List

See also

For the programmer

The object printingPrecision is an integer.