ITC01 绪论¶
约 503 个字 预计阅读时间 3 分钟
题型¶
| 题型 | 数量 | 分值 |
|---|---|---|
| 填空题 | 10 | 1 |
| 选择题 | 10 | 2 |
| 判断题 | 10 | 2 |
| 计算题 | 5 | 10 |
- 计算题除绪论与加密编码，每章一道
绪论¶
基本概念¶
- 消息：传输的对象（音像），信息的表现形式
-
信息：消息中的有效内容，用于描述不确定性【能让我看清世界的咒语（状态描述）—mantra】
-
信息是减少不确定性的有用知识
- 信息可获取、存储、处理、度量
- 信息量：与承载发生可能性成负相关
\(=-\log_{2}\left[p(x)\right]\) - 信号（signal）：承载咒语的媒介（光、电、声音），分为模拟/数字【二电平/相位信号】
通信：利用电信号传输消息中所包含的信息¶
通信系统着眼于噪声下如何有效而可靠地传输信息¶
- 平均信息量【信息熵】(面向信源)：信息量的统计平均值 H
\(H=\sum_{i=1}^{M}p(x_{i})I_{i}=\sum_{i=1}^{M}p(x_{i})\log_{2}{\frac{1}{p(x_{i})}}(\mathrm{bit/符号})\)
等概时熵最大【Jensen 不等式】
通信系统模型¶
信源→信道→信宿
信源¶
- 产生消息或消息序列的源
- 消息通常是符号序列或时间函数
- 消息取值服从一定的统计规律，故信源的数学模型是随机变量序列或随机过程
信道¶
- 传递信息的通道
- 为了研究方便，可以将发送端和接收端的一部分如调制器和解调器归入信道，而且将系统各部分的噪声和干扰都归入信道中考虑
信宿¶
- 消息传递的对象
性能指标¶
分治的思想
- 有效性 → 信源编码
- 可靠性 → 信道编码
- 安全性 → 加密编码（基于时间复杂度）
- 经济性
概率论¶
- 概率空间是完备的（概率和为 1）
- 先验概率 | 后验概率（条件概率）：二者无显著关联