タイトル | : Re^5: 十分割ジャンプマクロに適した式は? |
投稿日 | : 2020/11/06(金) 19:44 |
投稿者 | : としき |
参照先 | : http://toshiki.la.coocan.jp/ | 番 号 | : 9893 9891 番 konno さんへのコメント コメント数 1 |
> あのう、十分割マクロなので、10%〜90%まで、1〜9しか入力しないのです。 > この数字は意味が分からないので、十分割前提でやらさせてもらいます。 ごめんなさい。ここはちょっと私に誤解がありました。 私、i って、飛び先の行番号が入っていると思い込んでいたんですよ。 その上のコードに i=ln, ってあるのを見落としていました。 ただ、ここでやっぱり疑問。 この > ;32767行以上に対応 というコードで求めたいのは、i なんでしょうか。それとも n ? > dc13-05.log 1,459,244 約1.4Mのファイルでテスト > 37917行あります。-27619 > fgaldc_010407_0851.log 1,726,897 約1.7Mのファイルでテスト > 43108行あります。-22428 いろいろと試した結果として、10よりも8のほうが精度が高そう、というのは理解 できました。で、それは最終結果ですよね。 私がもしかしたら提案できるかも、というのは、途中の部分。 すなわち、#9864でkonnoさんが > この変な計算は誤差を少なくするための苦肉の策です。(^^; > 何かうまいやり方無いですかね。 とおっしゃるので、途中経過の部分で誤差を減らせるかも、と考えたわけです。 つまり、最終結果で誤差を減らすために、途中の部分の i とか n とかが重要では ないか、と愚考するしだい。 ということで、いくつかの(いろんな)i に対して、欲しい i なり n なりの値を 提示していただければ、それにあうような式なりロジックなりをでっち上げることが できる *かもしれない* 、ということです。 なので、いくつかの(多くの)i(または ln かも)に対する、欲しい値を提供して いただけますでしょうか。 なにとぞよろしくお願いいたします。
- No.9893 一括表示へ - コメント元:9891 一括表示へ - [ 返信 ] [引用無し] pre