令和7年度 I-2-2

解説

この問題で問われていること

情報理論に関する5つの記述のうち、最も不適切なものを選ぶ問題。符号化・復号化の基本定義から、情報源符号化・通信路符号化の各定理、多元情報理論まで幅広い用語の正確な理解が問われている。

解き方

① ユニバーサル符号化=情報源の統計的性質(文字の出現確率など)が分からなくても使える圧縮の符号化(例: LZ符号)。通信路の話ではない
② ④は「通信路の確率的特性を考慮しなくてよい符号化」をユニバーサル符号化と呼んでおり、情報源と通信路を取り違えている
③ ④

正解が正しい理由

④は「符号化したデータを送信するために用いる通信路の確率的特性を考慮する必要がない符号化」を「ユニバーサル符号化」と説明しているが、実際の「ユニバーサル符号化(universal coding)」は、統計的性質があらかじめ未知の情報源に対しても漸近的に最適な圧縮を実現する符号化方式(例: Lempel-Ziv符号)を指す用語であり、通信路の確率的特性を考慮しなくてよいという説明とは異なる概念である。したがって④が最も不適切であり、これが正答。

各選択肢について

• ① 通信システムの基本要素である情報源・通信路、および符号化・復号化の定義として標準的かつ正確な記述であり、不適切な点はない。
• ② 雑音のない通信路モデルで通信路への入力長を最小化する符号化・復号化の設計問題を情報源符号化の問題と呼ぶのは、シャノンの情報源符号化定理として正確で、不適切な点はない。
• ③ 無記憶かつ等確率の情報源で、入力データ長固定時に情報源からの出力長(伝送レート)を最大化する符号器・復号器の設計問題を通信路符号化の問題と呼ぶのは正確で、不適切な点はない。
• ④ 「通信路の確率的特性を考慮不要な符号化」を「ユニバーサル符号化」と呼ぶのは誤り。ユニバーサル符号化は情報源の統計的性質が未知の場合に用いる符号化方式で、これが最も不適切。
• ⑤ 相関を持つ多数の情報源(多元情報源)・多数の通信路(多元通信路)への情報伝送理論を多元情報理論と呼ぶのは、ネットワーク情報理論分野の説明として妥当で不適切な点はない。

覚えるべきポイント

情報源符号化定理は「通信路への入力長を最小化する」問題、通信路符号化定理は「伝送レートを最大化する」問題を扱う。「ユニバーサル符号化」は通信路特性ではなく情報源の統計的性質が未知の場合に用いられる符号化方式である点を区別して覚えておく。