【論文171】最小二乗を囲っている柵は、正規分布ではなく線形性である

要旨

論文157 は「最小二乗の $2$ は仮定した誤差則である」と書いた。本稿はもう一つの柵に立つ、ガウスは同じ問題に二度答えており、二度目($1821$)は分布を一つも仮定しない。それでも「最良」には柵がある。正規性ではなく線形性である。新しい数学定理は主張しない。

第一に、ガウスは一人で二つの定理を持つ。$1809$ は「算術平均が最良である」と仮定して誤差則が正規だと導き、$1821$ は平均・等分散・無相関だけを仮定して最小分散を導く(第2節)。

第二に、ガウス=マルコフを直に検算した。和が $1$ の重みを $200000$ 通り乱数で試して、$1/n=0.0909090909$ を下回るものは一つも無かった。最良でも $0.0919952051$。この節では分布を一度も使っていない(第3節)。

第三に、これが本稿の芯である。分散が有限でガウス=マルコフが完全に成り立つ場面(自由度 $5$ の $t$ 分布)でも、線形性を捨てれば平均に勝てる。刈り込み平均で $0.8385$ 倍、フーバー推定で $0.8434$ 倍(第4節)。

第四に、しかし線形性を破れば勝てる、のではない。同じ場面で中央値は負ける($1.0467$ 倍)、線形の外へ出ることは必要であって十分ではない(第4節)。

第五に、不偏と有効は別根である。分散が不揃い($\sigma_i^2=i$)のとき、素の平均も逆分散重みもどちらも不偏で、分散は $1.65$ 倍違う(第5節)。

射程(何を示さないか)

本稿の射程:新しい数学定理は主張しない。ガウス=マルコフの定理、クラメール=ラオの下界、$M$ 推定、一般化最小二乗は、いずれも標準的である。また最小二乗を批判しない。示すのは、その「最良」がどこまでの最良かである。論文157 との重なりについて:157 は「$2$ という指数が仮定した誤差則である」ことを示し、本稿は「誤差則を仮定しない議論のほうにも柵がある」ことを示す。同じ定理の二つの柵であって、結論は一つも撤回されない。加えたのはガウス=マルコフを乱数で直に検算したこと、$t$ 分布で「非線形なら勝つ」が偽であることを中央値で示したこと、不偏性と有効性が同時に成立・不成立になりうると数で並べたことである。

1. 記法と位置づけ

推定量が線形であるとは、観測の重み付き和 $\sum w_i x_i$ で書けることをいう。不偏とは期待値が真値に等しいこと、有効とは分散が小さいことをいう。本稿の数値はすべて自前の乱数(正規はボックス=ミュラー、$t$ 分布は正規とカイ二乗から構成)で計算した。

位置づけ:論文157 は二乗の $2$ を「仮定した誤差則」として住所付けした。本稿はその隣の柵に立つ、誤差則を仮定しない議論にも、別の柵があるのである。

2. ガウスは一人で二つの定理を持つ

事実 2.1

著作 仮定 結論
$1809$ Theoria Motus 算術平均が最良だと仮定 誤差則が正規だと導く
$1821$ Theoria Combinationis 分布を一つも仮定しない 最小分散を導く

観察 2.2 $1809$ の論法は、結論として得たいものを仮定に置いている。ガウス自身が $1821$ でそれを置き換えた。新しい論法は、平均が零・分散が等しい・無相関、この三つだけを要求する。

観察 2.3 一人二定理は本体系で繰り返し現れる型である(ヤマベ、ホップ、ネーター、ナッシュ)。ここでも二つは強さの階段ではない。仮定が違い、したがって壊れ方が違う。

3. ガウス=マルコフを直に検算する

検算 3.1:$n=11$ とし、和が $1$ の重みを乱数で $200000$ 通り作って $\sum w_i^2$ を比べる。

一様な重み $1/n$ $\mathbf{0.0909090909}$
$200000$ 通り中の最良 $0.0919952051$
$200000$ 通り中の最悪 $0.2864219851$

$1/n$ を下回るものは一つも無かった。(証明終)

観察 3.2 この節では、分布を一度も使っていない。必要だったのは「分散が等しく、相関が無い」だけである。正規分布はどこにも現れなかった。

4. 芯:柵は線形性である

検算 4.1:誤差を自由度 $5$ の $t$ 分布とする。分散は有限だから、ガウス=マルコフは完全に成り立つ。$n=11$、$200000$ 回の試行。

推定量 線形か 偏り 平均二乗誤差 平均に対する比
平均(最小二乗) はい $0.000577$ $0.15233893$ $1.000000$
中央値 いいえ $0.000948$ $0.15945434$ $\mathbf{1.046708}$
刈り込み平均 いいえ $0.000977$ $0.12773773$ $\mathbf{0.838510}$
フーバー推定 いいえ $0.000836$ $0.12848074$ $\mathbf{0.843387}$

(証明終)

観察 4.2 刈り込み平均とフーバー推定が平均に勝つ。しかもガウス=マルコフは破れていない。平均はいまも線形なものの中では最良である。柵は正規性ではなく線形性であり、しかもその柵は、分布が話題になる前に立っていた。

観察 4.3 ただし「非線形なら勝つ」は偽である。中央値は同じ場面で負けている($1.0467$ 倍)。線形の外へ出ることは必要であって十分ではない。非線形であることが買うのは勝ちではなく、勝ちうる資格である。

検算 4.4:誤差を正規にして同じ比較をする。

推定量 平均二乗誤差 平均に対する比
平均 $0.09078224$ $1.000000$
中央値 $0.13648426$ $1.503425$
刈り込み平均 $0.10137188$ $1.116649$

(証明終)

観察 4.5 正規なら平均が勝つ。正規性がしていることは、平均を「線形の中で最良」から「すべての不偏推定量の中で最良」へ昇格させることである(クラメール=ラオ)。「最良」は二つあり、一方だけが誤差則を要する。

5. 不偏と有効は別根である

検算 5.1:分散を不揃いにする($\sigma_i^2=i$、$i=1,\dots,11$)。

素の平均の分散 $0.5454545455$
逆分散重みの分散 $0.3311392768$
比 $\mathbf{1.647206}$
素の平均の偏り(実測) $0.000952$
逆分散重みの偏り(実測) $0.000498$

(証明終)

観察 5.2 二つとも不偏であり、分散は $1.65$ 倍違う。不偏性と有効性は別の性質であって、後者を動かすのは分散のばらつきである。ガウス=マルコフが要求した「等分散」は飾りではなく、そこが壊れれば結論も壊れる。ただし不偏性のほうは壊れない。

6. そして $2$ は答に届かない

検算 6.1:$\sum(y_i-a)^2$ を最小にすると $-2\sum(y_i-a)=0$ となり、$2$ は割り切れて消える。二乗に定数を掛けても推定値は動かない。

掛ける定数 推定値
$1$ $0.700000000000$
$2$ $0.700000000000$
$7$ $0.700000000000$
$100$ $0.700000000000$
素の平均 $0.700000000000$

(証明終)

観察 6.2 「二乗」の $2$ は推定量の中に無い。中にあるのは指数のほうの $2$ であり、それは論文157 が扱った。二つの $2$ は別物である。

7. 点呼

観察 7.1 

「最良」の読み 定理 何を仮定するか 柵
線形不偏の中で最小分散 ガウス=マルコフ $1821$ 分布仮定なし 線形性
すべての不偏の中で最小 クラメール=ラオ 正規のとき 誤差則
最尤 誤差則ごとに別 誤差則を仮定 正規なら平均
頑健 $M$ 推定・刈り込み 非線形 重い裾で勝つ

観察 7.2 「最小二乗は最良である」という一文は、四通りに読める。どれで読むかを言わないかぎり、その文は検証可能になっていない(論文164 が「確率」について書いたのと同じ形)。

8. 結論

  1. ガウスは一人で二つの定理を持つ(事実2.1):$1809$ は誤差則を仮定し、$1821$ は仮定しない。
  2. ガウス=マルコフを乱数で直に確かめた(検算3.1):$200000$ 通り中、$1/n$ を下回るものは無し。
  3. 柵は線形性である(検算4.1):刈り込みで $0.8385$ 倍、フーバーで $0.8434$ 倍。
  4. 非線形なら勝つ、は偽(観察4.3):中央値は $1.0467$ 倍。
  5. 不偏と有効は別根(検算5.1):どちらも不偏で、分散は $1.65$ 倍。
  6. 二乗の $2$ は答に届かない(検算6.1)。

結び:仮定を一つも置かない議論など無い。ガウスは $1821$ に誤差則の仮定を捨てたが、そのとき代わりに線形性を置いていた。置いたことが書かれていないだけである。「何も仮定していない」と聞いたら、探すべきは仮定の不在ではなく、書かれていない仮定である。

参考文献

  1. Gauss, C. F. (1809). Theoria Motus Corporum Coelestium in sectionibus conicis solem ambientium. Hamburg: Perthes und Besser.
  2. Gauss, C. F. (1821). Theoria combinationis observationum erroribus minimis obnoxiae. Göttingen: Dieterich.
  3. Markov, A. A. (1912). Wahrscheinlichkeitsrechnung. Leipzig: Teubner.
  4. Aitken, A. C. (1936). On least squares and linear combination of observations. Proceedings of the Royal Society of Edinburgh, 55.
  5. Huber, P. J. (1964). Robust estimation of a location parameter. Annals of Mathematical Statistics, 35(1).
  6. Tukey, J. W. (1960). A survey of sampling from contaminated distributions. In: Contributions to Probability and Statistics. Stanford University Press.
  7. 山岸勇輝 (2026). 等号にも別根がある [論文16] 第3版. Zenodo. 10.5281/zenodo.21600471
  8. 山岸勇輝 (2026). ゼロテンションと逆問題 [論文89]. Zenodo. 10.5281/zenodo.21748664
  9. 山岸勇輝 (2026). 規約と事実を分ける [論文95]. Zenodo. 10.5281/zenodo.21758621
  10. 山岸勇輝 (2026). ウィーナー・フィルタ [論文106]. Zenodo. 10.5281/zenodo.21836984
  11. 山岸勇輝 (2026). フィッシャー計量の柵 [論文133]. Zenodo. 10.5281/zenodo.22080550
  12. 山岸勇輝 (2026). 二乗の点呼 [論文157]. Zenodo. 10.5281/zenodo.22091931
  13. 山岸勇輝 (2026). 「確率」は四つの住所を持つ [論文164]. Zenodo. 10.5281/zenodo.22092815
  14. 山岸勇輝 (2026). 約分すると、$+1$ ではなく $-1$ が出る [論文170]. Zenodo. 10.5281/zenodo.22093731

作成にあたって:本稿の着想と内容は、著者自身の考察に基づくものです。文章の構成整理や英訳、数式の確認には AI(大規模言語モデル)の助力を得ました。最終的な内容の解釈や誤りがあれば、それらはすべて著者の責に帰します。お気づきの点があれば、ご教示いただければ幸いです。

書誌

山岸勇輝(2026)「最小二乗を囲っている柵は、正規分布ではなく線形性である」[論文171]. Zenodo.
DOI: 10.5281/zenodo.22094287

YOI 171第1版・2026年8月ビットコインに記録済み

日付の証拠(OpenTimestamps):日本語版の .ots・英語版の .ots・SHA256SUMS

予備の置き場所(ミラー。中身は上と同じです):PDF 日本語・PDF English・SHA256SUMS

住所:https://www.yamagishiyuuki.com/yoi/171・DOI 10.5281/zenodo.22094287・CC BY 4.0・プレプリント(査読を経ていません)・ORCID 0009-0006-8587-3450

引用するとき

山岸勇輝 (2026). 最小二乗を囲っている柵は、正規分布ではなく線形性である [論文171]. YOI: https://www.yamagishiyuuki.com/yoi/171 ・ DOI: 10.5281/zenodo.22094287

Yamagishi, Y. (2026). The Fence around Least Squares Is Linearity, Not Normality [Paper 171]. YOI: https://www.yamagishiyuuki.com/yoi/171; DOI: 10.5281/zenodo.22094287

@misc{yamagishi2026yoi171,
  author = {Yamagishi, Yuuki},
  title = {The Fence around Least Squares Is Linearity, Not Normality},
  year = {2026},
  howpublished = {YOI: https://www.yamagishiyuuki.com/yoi/171},
  doi = {10.5281/zenodo.22094287},
  note = {Preprint, edition 1}
}
指紋(SHA-256)と確かめ方
e4238d4a32510558f674b74f9718ce82e689715614fba45902ad9e147cb275e5 yamagishi_yoi171_v1_jp.pdf
0b42e82f3d3be46f95417db40813f9285668f87c967416323a10a2b35daf975c yamagishi_yoi171_v1_en.pdf

PDF と .ots を同じ場所に保存し、opentimestamps.org に .ots、続けて PDF を落とすと、記録された日時が表示されます。PDF が 1 バイトでも変わっていれば通りません。