YOI 743：「誤差は次元割る標本数」は遠い側の近似であり、標本数が次元に近づくと誤差は発散する

論文743 の記録のページです。住所（YOI）は https://www.yamagishiyuuki.com/yoi/743 で、論文の本文は下の PDF にあります。ファイルは自分で用意した置き場所（https://yamagishi.sakuraweb.com）に置き、日付の証拠（.ots）を添えています。Zenodo でも公開しています（DOI：10.5281/zenodo.23015100）。

本文のサイトの記事は、これから順に公開します。

@misc{yamagishi2026yoi743,
  author = {Yamagishi, Yuuki},
  title = {``Error Goes as Dimension over Sample Size'' Is a Far-Side Approximation; Near the Dimension the Error Diverges},
  year = {2026},
  howpublished = {YOI: https://www.yamagishiyuuki.com/yoi/743},
  doi = {10.5281/zenodo.23015100},
  note = {Preprint, edition 1}
}

日付の証拠（OpenTimestamps）

2026年10月1日に、2 本の PDF の指紋（SHA-256）をまとめて OpenTimestamps に送り、ビットコインのブロック 969440・969456・969461 に記録されました（2026年10月01日 19:28（日本時間））。この .ots があれば、PDF がその時点で存在したことを、このサイトや運営者を信用しなくても、誰でも確かめられます。

書誌

要旨

回帰の余分な誤差は「次元割る標本数」でおおよそ見積もられる。それは標本数が次元よりずっと多いときの形である。厳密な形と並べて、近似が届く範囲と、外れ方を数える。新しい定理も法則も主張しない。

第一に、厳密な形は $d/(n-d-1)$ である。次元 $10$・標本 $1000$ で $\mathbf{0.010111}$、近似の $\mathbf{1.011122}$ 倍（第2節）。

第二に、標本が減ると外れが広がる。標本 $100$ で $\mathbf{0.112360}$、$20$ で $\mathbf{1.111111}$、$15$ で $\mathbf{2.500000}$（第2節）。

第三に、これが本稿の芯である。標本数が次元に近づくと発散する。標本 $12$ で $\mathbf{10.000000}$、近似の $\mathbf{12.000000}$ 倍（第2節）。

第四に、比を保てば次元に依らない。標本を次元の $10$ 倍にすると、次元 $10$ で $\mathbf{0.112360}$、次元 $100$ で $\mathbf{0.111235}$（第3節）。

第五に、シミュレーションが裏を取る。次元 $5$・標本 $20$ で $\mathbf{0.357921}$（厳密 $\mathbf{0.357143}$）、標本 $60$ で $\mathbf{0.091716}$（$\mathbf{0.092593}$）（第3節）。

第六に、分離子は、標本数と次元の比が大きいか、$1$ に近いかである。近似が効くのは前者だけである（第4節）。

キーワード：最小二乗、予測誤差、次元と標本数、近似の届く範囲、発散、標本数と次元の比

Abstract

The excess error of a regression is usually estimated as dimension over sample size. That is the form for samples far outnumbering the dimension.Set beside the exact form, the reach of the approximation and the manner of its failure are counted.No new theorem or law is claimed.

First, the exact form is $d/(n-d-1)$、dimension $10$ and $1000$ samples give $\mathbf{0.010111}$, $\mathbf{1.011122}$ times the approximation (Section 2).

Second, fewer samples widen the gap、$\mathbf{0.112360}$ at $100$, $\mathbf{1.111111}$ at $20$, $\mathbf{2.500000}$ at $15$ (Section 2).

Third, and this is the core. As the sample size nears the dimension, the error diverges、$\mathbf{10.000000}$ at $12$ samples, $\mathbf{12.000000}$ times the approximation (Section 2).

Fourth, holding the ratio removes the dependence on dimension、ten samples per dimension give $\mathbf{0.112360}$ at dimension $10$ and $\mathbf{0.111235}$ at $100$ (Section 3).

Fifth, simulation confirms it、dimension $5$ gives $\mathbf{0.357921}$ at $20$ samples (exact $\mathbf{0.357143}$) and $\mathbf{0.091716}$ at $60$ ($\mathbf{0.092593}$) (Section 3).

Sixth, the separator is whether the ratio of sample size to dimension is large or close to $1$、the approximation works only in the first case (Section 4).

Keywords: least squares, prediction error, dimension and sample size, reach of an approximation, divergence, ratio of sample size to dimension

版の記録

ここの PDF（倉庫の v1）は第1版（2026年9月）の原稿から作りました。ファイルは版ごとに分けて置いています（/yoi/743/v1/ の下）。中身を直すときは、このファイルを書き換えず、新しい版を足します（住所 https://www.yamagishiyuuki.com/yoi/743 はいつも最新の版を指します）。Zenodo の記録とは、Zenodo に上げる前の改訂のぶんだけ違うことがあります。

YOI の一覧へ