Entropy
/ˈɛntrəpi/
エントロピー
源流
熱力学において、エネルギーが利用可能な形態から拡散・無秩序へと向かう度合い。
Image
秩序 → 無秩序 + 不可逆性 = エントロピー
深層理解
エントロピーは、閉じた系における無秩序や乱雑さの尺度であり、熱力学第二法則の核心概念。エネルギーは常に高密度から低密度へと拡散し、その過程で利用可能な仕事量が減少する。
情報理論では、シンボルの出現確率に基づく予測不可能性や情報量を表す。シャノンエントロピーは、データの圧縮限界や通信チャネルの容量を決める基盤となる。
統計力学では、ミクロ状態の数(対数)として解釈され、系の可能性や自由度の集約。社会システムや生命現象では、エントロピー増大に抗う「ネゲントロピー」の概念も重要。
哲学的には、宇宙全体が不可避的に無秩序へ向かう「熱的死」を示唆し、時間の矢を定義する根本原理。