Yamagishi Complexity Torus Lab | 山岸勇輝ラボ

要旨

シャノンの符号化定理は、通信路容量 $C$ より低い速度なら誤りを任意に小さくできると言う。本稿が問うのは、$C$ そのものは達成できるかである。答は、どんな有限の符号長でも達成できないである。新しい数学定理も新しい法則も主張しない。

第一に、容量は誤り率から決まる。二元対称通信路で $C=1-h(p)$ であり、$p=0.5$ で $C=\mathbf{0}$ になる（第2節）。

第二に、これが本稿の芯である。符号長 $n=100$ では、容量の $\mathbf{41.68\%}$ しか使えない（第3節）。

第三に、$99\%$ に届くには $n=3.4\times10^{5}$ が要る。$99.99\%$ なら $\mathbf{3.4\times10^{9}}$ である（第3節）。

第四に、損失は $1/\sqrt{n}$ でしか減らない。$n$ を $\mathbf{100}$ 倍にして、損失は $10$ 分の一である（第4節）。

第五に、$C$ は最大値ではない。$R=C$ ちょうどはどの $n$ でも達成されず、$n\to\infty$ ではじめて $R\to C$ になる（第5節）。

第六に、分離子は「達成される最大値か、達成されない上限か」である（第6節）。

射程（何を示さないか）

新しい数学定理も新しい法則も主張しない。シャノンの符号化定理、二元対称通信路の容量、ガウス通信路の容量、有限長の正規近似は、いずれも標準的である。情報理論を作らない。使うのは一つの二値エントロピーと、一つの平方根だけである。符号化定理を証明しない。到達性も逆定理も引くだけである。符号を構成しない。どの符号が容量に近づくかは一切扱わない。論文163 の「存在と構成」の区別が、ここでも生きている。正規近似の精度を主張しない。$R(n,\varepsilon)\approx C-\sqrt{V/n} Q^{-1}(\varepsilon)$ は第二次の近似であり、$n$ が小さいところでは誤差が大きい。$n=100$ の $41.68\%$ は目安であって、厳密な達成可能速度ではない。実装を論じない。復号の手間も、遅延も、実際の符号の性能も扱わない。$C$ を批判しない。上限であることは欠陥ではない。達成されないことと、意味がないことは違う。通信路を一つに絞る。第3・4節はBSC$(p=0.11)$ という一つの通信路での数である。他の通信路では $V$ が変わり、必要な $n$ も変わる。既刊との関係：論文252 は「情報量」が四つあり要るものが違うと数えた。本稿の $C$ はそのうちの一つ（相互情報量の上限）であり、達成条件を問う。論文294 は分離が長さの平方根でしか良くならないと示した。本稿の $1/\sqrt{n}$ は同じ根（分散の加法性）から来る。論文163 は「良い符号が在る」と「これが良い符号だ」を分けた。本稿は三つ目、「どれだけ長ければ良いか」を扱う。論文302 は存在が定量を教えないことを扱った。本稿は定量が答えられる場合であり、答が「無限」だった。加えたのは$n=100$ で容量の $41.68\%$ しか使えないと計算したこと、$99\%$／$99.99\%$ に要る $n$ を $3.4\times10^{5}$／$3.4\times10^{9}$ と出したこと、損失が $1/\sqrt{n}$ で減ると確かめたこと、$C$ が上限であって最大値でないと分離子に据えたことである。

1. 記法と問い

設定：二元対称通信路 BSC$(p)$ では、送ったビットが確率 $p$ で反転する。容量は

$$C=1-h(p),\qquad h(p)=-p\log_2p-(1-p)\log_2(1-p)$$

である。

シャノンの符号化定理：$R<C$ なら、誤り率を任意に小さくできる符号が存在する。

問い：では $R=C$ は達成できるか。そして $R<C$ は、どれだけの符号長で達成できるか。

観察 1.1　定理は「任意に小さくできる」と言う。「小さくなる」ではない。極限の言明であって、有限の言明ではない。

2. 容量は誤り率から決まる

検算 2.1：

観察 2.2　$p=0.5$ で $C=\mathbf{0}$ である。ビットが半々で反転する通信路は何も運ばない。出力が入力と独立になるからである。

観察 2.3　$p=0.11$ で $C=0.500084$、すなわちほぼ半分である。以下ではこの通信路を使う。$C$ が切りのよい値に近く、比較しやすいからである。

観察 2.4　$p=0$ と $p=1$ では $C=1$ である。全部反転する通信路も、無誤りの通信路と同じ容量を持つ、受け手が反転を知っていればよい。容量は誤りの多さではなく、誤りの予測不能性で決まる。

3. 芯：符号長 $100$ では、容量の $41.68\%$

設定：有限の符号長 $n$ と、許す誤り率 $\varepsilon$ を決めたときに達成できる速度は、正規近似で

$$R(n,\varepsilon)\approx C-\sqrt{\frac{V}{n}}\,Q^{-1}(\varepsilon)$$

と書ける（$V$ は通信路分散）。

検算 3.1：BSC$(p=0.11)$、$\varepsilon=10^{-3}$。

検算 3.2：

観察 3.3　これが本稿の芯である。符号長 $100$ では容量の $\mathbf{41.68\%}$ しか使えない。$C$ という数は、短い符号にとってはほとんど意味を持たない。

検算 3.4：逆に、$C$ の何割かに届くのに要る $n$ を出す。

観察 3.5　$99.99\%$ に届くには $\mathbf{34}$ 億ビットの符号語が要る。一つの符号語がそれだけ長い。一割ごとに $100$ 倍ずつ長くなる。

観察 3.6　正直に書くべき点、正規近似は $n$ が小さいところで誤差が大きい。$n=100$ の $41.68\%$ は目安であって、厳密な達成可能速度ではない。示せるのは「短い符号では容量の半分も使えない」という桁の事実である。

4. 損失は $1/\sqrt{n}$ でしか減らない

検算 4.1：

観察 4.2　$n$ を $\mathbf{100}$ 倍にして、損失はちょうど $10$ 分の一になる。$1/\sqrt{n}$ である。論文294 が示した「分離度は長さの平方根でしか良くならない」と同じ根（分散の加法性）から来ている。

観察 4.3　したがって代償は求める改善の二乗である。損失を $10$ 分の一にするのに符号長 $100$ 倍、論文294 の表と同じ数が、まったく別の分野に立っている。

観察 4.4　そしてどこまで行っても $0$ にならない。$\sqrt{V/n} Q^{-1}(\varepsilon)$ は正の量であり、有限の $n$ では必ず残る。これが第5節の芯につながる。

5. $C$ は最大値ではなく、上限である

観察 5.1　損失 $\sqrt{V/n} Q^{-1}(\varepsilon)$ は、どんな有限の $n$ でも正である。したがって $R<C$ が常に厳密な不等号である。$R=C$ は達成されない。

検算 5.2：身分を書き分ける。

観察 5.3　$C$ は達成可能な速度の集合の上限であって、その最大値ではない。集合に属していない。開区間 $[0,C)$ の右端と同じ身分である。

観察 5.4　この区別は言葉の上のことではない。「容量 $C$ の通信路」と言ったとき、$C$ ビット送れる装置は存在しない。$C$ に近い装置がいくらでも作れる、というだけである。

観察 5.5　ガウス通信路でも同じである。

観察 5.6　こちらも達成には無限長のガウス符号語が要る。通信路が変わっても身分は変わらない。$C$ はどの通信路でも上限である。

6. 分離子：達成される最大値か、達成されない上限か

観察 6.1　分離子、何を動かすと、$C$ が達成されるようになるか。符号長を無限にすることである。有限のままでは、どんな符号でも届かない。

観察 6.2　これは論文266 と同じ構図である。標本化定理は正しく、その前提（帯域制限）は決して満たされない。本稿では定理は正しく、その極限（無限長）は決して実現されない。

観察 6.3　二つは別の場所で届かない。前提は入口、極限は出口にある。どちらも「定理は正しい」という一語では区別できない。

観察 6.4　論文163 は「良い符号が在る」と「これが良い符号だ」を分けた。本稿は三つ目の文を置く。「良い符号は、どれだけ長ければ良いか」。答は$3.4\times10^{9}$（$C$ の $99.99\%$、BSC$(0.11)$、$\varepsilon=10^{-3}$）である。

観察 6.5　正直に書くべき点、上限であることは欠陥ではない。$C$ は超えられない線を与えており、それだけで十分に有用である。本稿が言うのは、$C$ を「達成できる値」と読むと数を間違えるということだけである。

7. 点呼と結び

1. $p=0.5$ で $C=0$（検算2.1）：出力が入力と独立。
2. $p=0$ と $p=1$ で同じ $C=1$（観察2.4）：予測不能性が効く。
3. $n=100$ で $41.68\%$（検算3.2）：半分も使えない。
4. $99\%$ に $3.401\times10^{5}$（検算3.4）：$99.99\%$ には $3.4\times10^{9}$。
5. 一割ごとに $100$ 倍（観察3.5）：$34$ 億ビットの符号語。
6. $n$ が $100$ 倍で損失 $1/10$（検算4.1）：$1/\sqrt{n}$。
7. 論文294 と同じ根（観察4.2）：分散の加法性。
8. 損失は有限 $n$ で必ず正（観察4.4）：$0$ にならない。
9. $C$ は上限であって最大値でない（観察5.3）：集合に属さない。
10. 論文266 と壊れる場所が違う（観察6.3）：前提か、極限か。

結び：シャノンの符号化定理は「$R<C$ なら誤りを任意に小さくできる」と言う。だが $C$ そのものは、どんな有限の符号長でも達成されない。BSC$(p=0.11)$、誤り率 $10^{-3}$ で数えれば、符号長 $100$ では容量の $\mathbf{41.68\%}$ しか使えない。$99\%$ に届くには $3.401\times10^{5}$、$99.99\%$ には $\mathbf{3.4\times10^{9}}$、すなわち $34$ 億ビットの符号語が要る。損失は $\mathbf{1/\sqrt{n}}$ でしか減らない。$n$ を $\mathbf{100}$ 倍にして損失は $10$ 分の一であり、論文294 が分離度について示したのと同じ根（分散の加法性）から来ている。そしてどんな有限の $n$ でも損失は正である。$C$ は達成可能な速度の集合の最大値ではなく、上限である。分けるものは一つ、その数が集合に属するか、属さないか。「容量 $C$ の通信路」と言っても、$C$ ビット送れる装置は存在しない。存在するのは、$C$ に近い装置がいくらでも作れるという事実だけである。

参考文献

1. Shannon, C. E. (1948). A Mathematical Theory of Communication. Bell System Technical Journal, 27(3-4).
2. Polyanskiy, Y., Poor, H. V. and Verdu, S. (2010). Channel Coding Rate in the Finite Blocklength Regime. IEEE Transactions on Information Theory, 56(5).
3. Strassen, V. (1962). Asymptotische Abschatzungen in Shannons Informationstheorie. In Transactions of the Third Prague Conference on Information Theory.
4. Cover, T. M. and Thomas, J. A. (2006). Elements of Information Theory. Hoboken: Wiley.
5. Gallager, R. G. (1968). Information Theory and Reliable Communication. New York: Wiley.
6. 山岸勇輝 (2026). 「良い符号が在る」と「これが良い符号だ」は、別の文である [論文163]. Zenodo. 10.5281/zenodo.22092677
7. 山岸勇輝 (2026). 「情報量」は四つあり、要るものが違う [論文252]. Zenodo. 10.5281/zenodo.22161148
8. 山岸勇輝 (2026). 標本化定理は正しく、その前提は決して満たされない [論文266]. Zenodo. 10.5281/zenodo.22169765
9. 山岸勇輝 (2026). 分離は、長さの平方根でしか良くならない [論文294]. Zenodo. 10.5281/zenodo.22171603

作成にあたって：本稿の着想と内容は、著者自身の考察に基づくものです。文章の構成整理や英訳、数式の確認には AI（大規模言語モデル）の助力を得ました。最終的な内容の解釈や誤りがあれば、それらはすべて著者の責に帰します。お気づきの点があれば、ご教示いただければ幸いです。

書誌

山岸勇輝（2026）「「容量」は、無限長でしか達成できない数である」［論文304］. Zenodo.
DOI: 10.5281/zenodo.22172081

@misc{yamagishi2026yoi304,
  author = {Yamagishi, Yuuki},
  title = {``Capacity'' Is a Number Attainable Only at Infinite Length},
  year = {2026},
  howpublished = {YOI: https://www.yamagishiyuuki.com/yoi/304},
  doi = {10.5281/zenodo.22172081},
  note = {Preprint, edition 1}
}