【资料图】
熵的概念是由德国物理学家克劳修斯于1865年所提出，最初用于描述“能量退化”的物质状态参数之一，在热力学中被广泛应用。然而在1948年，克劳德·艾尔伍德·香农将热力学的熵，引入到信息论，因此它又被称为香农熵(Shannon entropy)。在信息论中，熵（英语：entropy）是接收的每条消息中包含的信息的平均量，又被称为信息熵、信源熵、平均自信息量。因此，熵的本质为一个系统“内在的混乱程度”。其现在在控制论、概率论、数论、天体物理、生命科学等领域都有重要应用，在不同的学科中也有引申出更为具体的定义，按照数理思维从本质上说，这些具体的引申定义都是自洽和统一的。
熵（希腊语：entropia 英语：entropy）的概念是由德国物理学家克劳修斯于1865年所提出。在希腊语源中意为“内在”，即“一个系统内在性质的改变”，公式中一般记为S。1923年，德国科学家普朗克（Plank）来中国讲学用到entropy这个词，胡刚复教授翻译时灵机一动，把“商”字加火旁来意译“entropy”这个字，创造了“熵”字,(读shāng)，因为熵变dS是dQ除以T（温度）的商数。
