論文734 の記録のページです。住所(YOI)は https://www.yamagishiyuuki.com/yoi/734 で、論文の本文は下の PDF にあります。ファイルは自分で用意した置き場所(https://yamagishi.sakuraweb.com)に置き、日付の証拠(.ots)を添えています。Zenodo でも公開しています(DOI:10.5281/zenodo.23015057)。
本文のサイトの記事は、これから順に公開します。
日付の証拠(OpenTimestamps):日本語版の .ots・英語版の .ots・SHA256SUMS
予備の置き場所(ミラー。中身は上と同じです):PDF 日本語・PDF English・SHA256SUMS
住所:https://www.yamagishiyuuki.com/yoi/734・DOI 10.5281/zenodo.23015057・CC BY 4.0・プレプリント(査読を経ていません)・ORCID 0009-0006-8587-3450
引用するとき
山岸勇輝 (2026). 歩幅の天井を決めているのは勾配の大きさではなく、いちばん急な向きの曲率である [論文734]. YOI: https://www.yamagishiyuuki.com/yoi/734 ・ DOI: 10.5281/zenodo.23015057
Yamagishi, Y. (2026). What Caps the Step Size Is Not the Size of the Gradient but the Curvature in the Steepest Direction [Paper 734]. YOI: https://www.yamagishiyuuki.com/yoi/734; DOI: 10.5281/zenodo.23015057
@misc{yamagishi2026yoi734,
author = {Yamagishi, Yuuki},
title = {What Caps the Step Size Is Not the Size of the Gradient but the Curvature in the Steepest Direction},
year = {2026},
howpublished = {YOI: https://www.yamagishiyuuki.com/yoi/734},
doi = {10.5281/zenodo.23015057},
note = {Preprint, edition 1}
}
指紋(SHA-256)と確かめ方
99c6cc1487e945326eab102e86416c715aceb5fbccad93aac910b57f9eebe9e0 yamagishi_yoi734_v1_jp.pdf8267575c23cb8d06f2164c983771ae2a38a8955ef99d660582851f531ac07dff yamagishi_yoi734_v1_en.pdfPDF と .ots を同じ場所に保存し、opentimestamps.org に .ots、続けて PDF を落とすと、記録された日時が表示されます。PDF が 1 バイトでも変わっていれば通りません。
日付の証拠(OpenTimestamps)
2026年10月1日に、2 本の PDF の指紋(SHA-256)をまとめて OpenTimestamps に送り、ビットコインのブロック 969440・969456・969461 に記録されました(2026年10月01日 19:28(日本時間))。この .ots があれば、PDF がその時点で存在したことを、このサイトや運営者を信用しなくても、誰でも確かめられます。
書誌
| 題名 | 歩幅の天井を決めているのは勾配の大きさではなく、いちばん急な向きの曲率である |
|---|---|
| Title | What Caps the Step Size Is Not the Size of the Gradient but the Curvature in the Steepest Direction |
| 著者 | 山岸 勇輝 (Yuuki YAMAGISHI)・ORCID 0009-0006-8587-3450 |
| 所属 | 山岸複雑性トーラス研究所 (Yamagishi Complexity Torus Lab, Japan) |
| 版 | 第1版(2026年9月) |
| 言語 | 日本語・英語 |
| 種別 | プレプリント(査読を経ていません) |
| ライセンス | CC BY 4.0(出典を示せば、複製・再配布・改変ができます) |
| YOI | https://www.yamagishiyuuki.com/yoi/734 |
| DOI(Zenodo) | 10.5281/zenodo.23015057 |
要旨
勾配降下で歩幅を上げれば速くなる。ただし天井が在り、その天井は問題の形が決めている。天井と、最適な歩幅と、そのときの歩数を、同じ一つの数から出す。新しい定理も法則も主張しない。
第一に、天井は $2/\kappa$ である。$\kappa=100$ なら $\mathbf{0.02000000}$ で、勾配の大きさも出発点も入らない(第2節)。
第二に、天井を少し超えるだけで発散する。$1.01$ 倍の $\mathbf{0.02020000}$ では一歩 $\mathbf{1.020000}$ 倍になる(第2節)。
第三に、これが本稿の芯である。最適な歩幅でも、一歩の縮みは $1$ に近い。$2/(1+\kappa)=\mathbf{0.01980198}$ で一歩 $\mathbf{0.980198}$ 倍にとどまり、$(\kappa-1)/(\kappa+1)$ と差 $0$ で一致する(第3節)。
第四に、だから歩数が要る。$100$ 分の $1$ に縮めるのに $\mathbf{230.250834}$ 歩、$\kappa=1000$ なら $\mathbf{2302.584325}$ 歩である(第3節)。
第五に、二つの曲率は違う働きをする。大きいほうが天井を決め、小さいほうは歩数にしか効かない(第3節)。
第六に、分離子は、進みを止めているのが勾配の大きさか、曲率のばらつきかである。止めているのは後者で、前者は歩幅に何の制限も与えない(第4節)。
キーワード:勾配降下、歩幅、条件数、収束率、曲率が決める天井、同じ語が別の量
Abstract
Raising the step size in gradient descent makes it faster. But there is a cap, and the cap is set by the shape of the problem.The cap, the best step and the number of steps are all derived from one number.No new theorem or law is claimed.
First, the cap is $2/\kappa$、$\mathbf{0.02000000}$ at $\kappa=100$, with neither the gradient nor the starting point in it (Section 2).
Second, a little above the cap it diverges、at $1.01$ times, $\mathbf{0.02020000}$, one step multiplies by $\mathbf{1.020000}$ (Section 2).
Third, and this is the core. Even at the best step the contraction is close to one、$2/(1+\kappa)=\mathbf{0.01980198}$ contracts by only $\mathbf{0.980198}$, agreeing with $(\kappa-1)/(\kappa+1)$ to a difference of $0$ (Section 3).
Fourth, so steps are needed、$\mathbf{230.250834}$ of them to reach a hundredth, and $\mathbf{2302.584325}$ at $\kappa=1000$ (Section 3).
Fifth, the two curvatures do different work、the larger sets the cap and the smaller only the number of steps (Section 3).
Sixth, the separator is whether progress is limited by the size of the gradient or by the spread of curvature、it is the latter; the former places no limit on the step at all (Section 4).
Keywords: gradient descent, step size, condition number, rate of convergence, a cap set by curvature, one phrase two quantities
版の記録
ここの PDF(倉庫の v1)は第1版(2026年9月)の原稿から作りました。ファイルは版ごとに分けて置いています(/yoi/734/v1/ の下)。中身を直すときは、このファイルを書き換えず、新しい版を足します(住所 https://www.yamagishiyuuki.com/yoi/734 はいつも最新の版を指します)。Zenodo の記録とは、Zenodo に上げる前の改訂のぶんだけ違うことがあります。