Da: Dr. Thomas Nicely
Professore di Matematica
Lynchburg College
1501 Lakeside Drive
Lynchburg, Virginia 24501-3199
A: Chiunque possa essere interessato
RE: Bug nell’unità FPU dei Pentium
Data: 30 ottobre 1994
Sembra che ci sia un bug nell’unità di calcolo a virgola mobile (coprocessore matematico) di molti, e forse tutti, i processori Pentium. In breve, la FPU de Pentium restituisce risultati errati in alcune operazioni di divisione. Per esempio,
1/824633702441.0
è calcolato in modo errato (tutti i numeri dopo l’ottavo decimale sono sbagliati). Questo può essere verificato sia compilando un codice ed eseguendolo, sia in un qualsiasi foglio di lavoro come Quattro Pro o Excel, o addirittura con la calcolatrice di Windows (usata in modalità scientifica), eseguendo il calcolo
(824633702441.0)*(1/824633702441.0)
il cui risultato dovrebbe essere 1 (con un piccolissimo margine di errore dovuto agli arrotondamenti; in generale, i risultati del coprocessore dovrebbero contenere 19 decimali significativa). Tuttavia, i Pentium provati hanno restituito il risultato
0.999999996274709702
per questa operazione.