« предыдущая тема следующая тема »
Страницы: 1 2 [3]

Автор Тема: Умный калькулятор  (Прочитано 12995 раз)

valexey_u

  • Hero Member
  • *****
  • Сообщений: 3013
    • Просмотр профиля
Re: Умный калькулятор
« Ответ #30 : Октябрь 09, 2012, 11:11:25 am »
Цитата: ilovb от Октябрь 09, 2012, 10:34:54 am
Это как раз укладывается в 128 бит формат

Число четверной точности
Цитата:
0x 7ffe ffff ffff ffff ffff ffff ffff ffff  ≈  1.189731495357231765085759326628007 × 10^4932 (Максимальное число четверной точности)
Только это целочи число ты посчитал. А пределы для плавающей точки четверной точности будут другими.
Записан
Y = λf.(λx.f (x x)) (λx.f (x x))

ilovb

  • Hero Member
  • *****
  • Сообщений: 2538
  • just another nazi test
    • Просмотр профиля
    • Oberon systems
Re: Умный калькулятор
« Ответ #31 : Октябрь 09, 2012, 01:06:52 pm »
Вот где длинная арифметика  :)  http://www.wolframalpha.com/input/?i=10000000000%21
Записан

Geniepro

  • Hero Member
  • *****
  • Сообщений: 1955
  • Знайте- истина в том, что повторено трижды подряд!
    • Просмотр профиля
Re: Умный калькулятор
« Ответ #32 : Октябрь 09, 2012, 10:35:08 pm »
Цитата: ilovb от Октябрь 09, 2012, 10:34:54 am
Это как раз укладывается в 128 бит формат

Число четверной точности
Цитата:
0x 7ffe ffff ffff ffff ffff ffff ffff ffff  ≈  1.189731495357231765085759326628007 × 10^4932 (Максимальное число четверной точности)
ну аналогично для (10000! - 1) - 10000! = -1
при том что 10000! = 2,8462596809170545189064132121199e+35659 (calc.exe из WinXP sp3)
Записан
to iterate is human, to recurse, divine

Салат «рекурсия»: помидоры, огурцы, салат…
Страницы: 1 2 [3]
« предыдущая тема следующая тема »