情報理論の教科書について

学問を一人でする際に設備面で最も重要なことは選ぶ教材だと思います。
ここでは自分が読んだことある教科書も含めてまとめたいと思います。
私は情報理論の専門家・研究者ではないため、教科書の良し悪しよりもこういう教科書がありますよといった紹介に留めます。

■読んだことあるもの

イラストで学ぶ　情報理論の考え方

URL: https://www.kspub.co.jp/book/detail/5418666.html

専門家の助けなしに情報理論を勉強しようと思ったら一番最初に読むべき本だと思います。非常にわかりやすいです。
個人的なオススメポイントは最後の章の「復号誤り率が零に収束する符号列の構成法」のところです。 Elias の繰り返し符号 (Error-Free Coding) という、復号誤り確率が 0 に収束し符号化率が 0 でない符号を構成していきます。

情報理論講義

URL: https://www.honyaclub.com/shop/g/g12483410/

「イラストで学ぶ　情報理論の考え方」の次に読むと良いのではないかと思います。
この本独自の話題としてVF符号（タンストール符号）に関する記述があることが挙げられます。

情報と符号化の数理

URL: https://www.iwanami.co.jp/book/b480087.html
書評: https://www.jstage.jst.go.jp/article/bjsiam/6/1/6_KJ00005768161/_article/-char/ja/

データ圧縮（情報源符号化）に焦点をあてた本です。
この本のまえがきにも記載がありますが、ユニバーサルデータ圧縮に関する記述が多めで、全体的に（他の和書では扱われていないような）極めて高度な内容を扱っています。
各章末に豊富な量の演習問題がありますが、これも極めて高度な内容で、その章を読むだけでは到底解けないと思われます。
専門家になりたい人向け？

情報理論（有本卓）

URL: https://www.kyoritsu-pub.co.jp/book/b10006455.html

情報理論のより高度な話題に触れられる本です。
有本先生自身により考案された通信路容量の数値計算（Arimoto-Blahut アルゴリズム）の説明やギャラガーによる通信路符号化の信頼性関数，レート歪み理論に関する話題が扱われています。
本全体で統計学との関連性が強調されているように思います。

国立国会図書館で閲覧できます。 https://dl.ndl.go.jp/pid/12628139

情報理論勉強中（youtube）

https://www.youtube.com/channel/UC4qjwhIRw78Z1nBzuf5qMDA

書籍ではないのですが、情報理論全般のさまざまな話題について極めてわかりやすく講義されています。
教科書にはあまり載っていないような話題にも触れられてあり、とても勉強になります。
（余談ですがいつもノートをとって勉強させていただいています。）

情報理論基礎と広がり

URL: https://www.kyoritsu-pub.co.jp/book/b10008178.html
原版に対する書評: https://www.jstage.jst.go.jp/article/bjsiam/4/3/4_KJ00005767937/_article/-char/ja/

通称 Cover-Thomasです。 arxivのこの記事によると近々原著の第3版が出るようです。
翻訳版を持っているのですが大きくて厚みがあります。

情報理論（今井秀樹）

URL: https://www.ohmsha.co.jp/book/9784274223259.html

情報理論の全般を見通すための本というのが個人的な感想です。
これまで紹介してきたものはいわゆる符号理論や実用に関する記述はあまりないことが多いですが、この本ではそういった話題もそれぞれ簡潔に扱われています。
ただし、通信路符号化定理は言及に留まり，証明は省略されているなど、全般的に各話題が紹介されているだけなのであまり独習には向かないと思われます。
個人的には情報通信のための本と感じます。