Antallet af oktal præcision ( eng. Octuple precision ) er et computerformat til at repræsentere flydende kommatal, der optager otte på hinanden følgende dobbeltord i hukommelsen, dvs. 32 bytes . Dette navn skyldes den etablerede terminologi, hvor et enkelt præcisionstal har størrelsen af et dobbeltord. Betegner typisk IEEE 754 standard binary256 flydende talformat .
Tegn: 1 bit.
Rækkefølge: 19 bit [1] ; ordre offset: +262143 (3FFFFh).
Mantisse : 237 bit (236 er eksplicit gemt).
Tilsvarende antal signifikante decimalcifre (med samme gennemsnitlige relative repræsentationsfejl): 71,7 [2] .
Nogle konstanter : [1]
0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 16 = +0 8000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 16 = −0 7FFF F000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 16 = + φ F000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 16 = - Bow 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0001 16 = 2 −262142 × 2 −236 = 2 −262378 ≈ 2.24800708647703657297018614776265182597360918266100276294348974547709294462 × 10 −78984 (наименьшее положительное субнормальное число ) 0000 0fff ffff ffff ffff ffff ffff ffff ffff ffff ffff ffff ffff ffff ffff ffff 16 = 2 −262142 × (1 − 2 −236 ) ≈ 2,4824279514643497882993282229138717236776877060796468692709532979137875392 × 10 -78913 (største subnormale antal) 0000 1000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 16 = 2 −262142 ≈ 2.48242795146434978829932822291387172367768770607964686927095329791378756168 × 10 −78913 (наименьшее положительное нормальное число ) 7fff efff ffff ffff ffff ffff ffff ffff ffff ffff ffff ffff ffff ffff ffff ffff 16 = 2 262143 × (2 − 2 − 236 ) ≈ 1,61132571748576047361957211845200501064402387454966951747637125049607182699 × 10 78913 (største normaltal) 3fff efff ffff ffff ffff ffff ffff ffff ffff ffff ffff ffff ffff ffff ffff ffff 16 = 1 − 2 −237 ≈ 0,9999999999999999999999999999999999999999999999999999999999999999999999999999999 (største antal mindre end én) 3fff f000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 16 = 1 (én) 3fff f000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0001 16 = 1 + 2 −236 ≈ 1,000000000000000000000000000000000000000000000000000000000000000000000000000000000000 (mindste tal større end én)Brugen af oktal præcision er i øjeblikket meget sjælden. Apple implementerede oktal præcision addition , subtraktion og multiplikation i et andet format end IEEE 754: det har en 224-bit to- komplement mantisse og en 32-bit eksponent . [3] Almindelige aritmetiske biblioteker med arbitrær præcision kan bruges til at opnå oktal (eller højere) præcision, men der er endnu ingen kendt hardwareimplementering af dette.