divny vysledek

[Josef Tkadlec]

arnost wrote:
>
> > asi jsem neco prehledl ale:
> >
> >> \dimen1=11.4pt
> >> \dimen2=10pt
> >> \advance\dimen2 by 37\dimen1
> >> \the\dimen2
> >> \bye
> >>
> >> vytiskne 431.7997pt
> >> na misto ocekavanych: 431.8
> >>
> >> je to nekde v zaokrouhlovani?
> >>
> >Pravdepodobne, protoze vsechny rozmery TeX vnitrne pouziva v sp (scaled
> >points). Ted nemam po ruce ani TeXbook ani TBN a prevodni koeficient si
> >nepamatuji.--text follows this line--
>
> ten koeficient je
>
> 65536
>
> tedy
> to zaokrouhlovani zablbne uz tady:
>
> 65536 * 11.4
>
> pekne pouceni, na co si musi dat clovek na vsechno pozor
>
> arnost

Je to snad jeste o neco horsi, chyba vznikne i pri reprezentaci cisla
"11.4".
Zrovna tento tyden se mi stal jeste drastictejsi pripad - do sirky 18 cm
jsem chtel umistit sedm obrazku, kazdy o sirce 1000 jednotek (abych
pri zadavni na 3 platne cifry mohl pouzivat cela cisla). Po poskladani
vysledek uletel skoro o 1 cm (relativni chyba skoro 4 %).

Josef Tkadlec