Используете EXCEL для точных вычислений в широких диапазонах? У меня для вас сюрприз.
Открываем Excel.
В одну ячейку вносим такую формулу: =(2^10+0,2)-2^10
А во вторую - такую: =(2^50+0,2)-2^50
Кто-то скажет, что разница в данном примере несущественна?
Достаточно немного усложнить примеры и посмотреть на разницу:
=((2^50+0,2)-2^50) х 1000000
=((2^10+0,2)-2^10) х 1000000
(вместо *, поставлен х, потому что Pikabu по другому не отображает)
Если кто не знает, что такое "^" - это возведение в степень.
И да, это - не только проблема Excel.
Корень зла кроется в механизме операций с плавающей точкой с помощью двоичной арифметики.
В одну ячейку вносим такую формулу: =(2^10+0,2)-2^10
А во вторую - такую: =(2^50+0,2)-2^50
Кто-то скажет, что разница в данном примере несущественна?
Достаточно немного усложнить примеры и посмотреть на разницу:
=((2^50+0,2)-2^50) х 1000000
=((2^10+0,2)-2^10) х 1000000
(вместо *, поставлен х, потому что Pikabu по другому не отображает)
Если кто не знает, что такое "^" - это возведение в степень.
И да, это - не только проблема Excel.
Корень зла кроется в механизме операций с плавающей точкой с помощью двоичной арифметики.
