在任何存在编码和解码的地方，信息理论都会发挥作用。例如:压缩(多媒体)，加密。
在信息论中，我们遇到诸如“熵”，“自我信息”，“共同信息”之类的术语，整个主题都基于这些术语。听起来只不过是抽象而已。坦白说，它们没有任何意义。
是否有任何书籍/ Material /说明(如果可以)以实用的方式解释这些内容？
编辑:
最佳答案
Shanon的原始论文“A mathematical theory of communication”是研究该理论的非常重要的资源。没有人应该错过它。
通过阅读它，您将了解Shanon是如何得出该理论的，该理论应消除大多数疑问。
研究霍夫曼压缩算法的的工作原理也将非常有帮助。
编辑:
根据亚马逊的评论，它看起来不错(我还没有尝试过)。
[通过谷歌搜索“信息论外行”]