エントロピー

エントロピー（）は、熱力学において「断熱条件下での不可逆性」を表す指標として導入された示量性状態量で、統計力学や情報理論などにおいても重要な役割を担う物理量である。統計力学においては、ある巨視的な状態（マクロ状態）を実現する微視的な状態（ミクロ状態）の「場合の数」の多さ、すなわち系の微視的な「乱雑さ」「でたらめさ」と表現されることもある。ここでいう「でたらめ」とは、矛盾や誤りを含んでいたり、的外れだったりするという意味ではなく、相関がなくランダムであるという意味である。を表す物理量という意味付けがなされた。統計力学での結果から、系から得られる情報に関係があることが指摘され、情報理論にも応用されるようになった。

エントロピーはエネルギーを温度で割った次元を持ち、国際単位系における単位はジュール毎ケルビン（記号: J/K）である。エントロピーと同じ次元を持つ量として熱容量がある。エントロピーは一般に記号を用いて表される。これは1865年にこの概念を導入したルドルフ・クラウジウスによるものである。

語源エントロピーは、ルドルフ・クラウジウスの造語である。ギリシャ語由来であり、と、英語のに相当するという語根から成る。

和製漢語では「内転勢力」斎藤秀三郎『新増補版英和中辞典』東京・岩波書店 1936年 391頁などと訳される。現代中国語では「熵 shāng」という字で表現される。

物理学者のレオン・クーパーは、造語「エントロピー」に対して、「彼（クラジウス）は誰にとっても同じもの、つまり『何も意味しない言葉』の造語に成功した」原文 "he succeeded in coining a word that meant the same thing to everybody: nothing".とコメントしているCooper, Leon N. (1968). An Introduction to the Meaning and Structure of Physics. Harper. 331頁。

概要エントロピーは、熱力学、統計力学、情報理論など様々な分野で使われている。しかし分野によって、その定義や意味付けは異なる。よってエントロピーを一言で説明することは難しいが、大まかに「何をすることができて、何をすることができないかを、その大小で表すような量」であると言える。これは、ある熱力学的な状態から別の状態へ断熱的に変化させることができるか否か（断熱的到達可能性）が、エントロピーの大小関係によって決定されるという性質を表したものである。

エントロピーに関わる有名な性質として、熱力学におけるエントロピー増大則がある。エントロピー増大則は、断熱条件の下で系がある平衡状態から別の平衡状態へ移るとき、遷移の前後で系のエントロピーが減少せず、殆ど必ず増加することを主張する。断熱条件の下で系の平衡状態がからへの遷移が可能な場合、系のそれぞれの平衡状態におけるエントロピーの間には

の関係が成り立つ。等号が成り立ち、状態を移る前後でエントロピーが変化しない場合には、逆向きのからへの遷移が可能である。逆向きの遷移が可能なのは準静的な断熱過程だけである。逆向きの断熱過程が存在しないならば、状態の遷移に伴ってエントロピーが必ず増加する。エントロピー増大則は熱力学の特徴である可逆性と不可逆性を特徴付ける法則であり、エントロピーは熱力学における最も基本的な量である。

固体の模式図液体や気体の模式図 150px 150px 氷のような結晶性の固体は、結晶構造に従って分子が配列される。一方、水のような液体や水蒸気のような気体は、自由な分子配置をとれる。このため、液体や気体が取り得る状態の数が固体に比べて大きく、エントロピーも大きい。

エントロピーに関する法則としてもう一つよく知られるものに、統計力学におけるボルツマンの原理がある。ボルツマンの原理は、ある巨視的な系のエントロピーを、その系が取り得る微視的な状態の数と関係づける。微視的な状態数がのときのエントロピーは

で表される。比例係数はボルツマン定数と呼ばれるIUPAC Gold Book。系の巨視的な状態は、系のエネルギーや体積、物質量などの巨視的な物理量の組によって定められるが、それらの巨視的な物理量を定めたとしても系の微視的状態は完全には定まらず、いくつかの状態を取り得る。状態数とは巨視的な拘束条件の下で可能な微視的状態の数を見積もったものである。ボルツマンの原理から、可能な微視的状態の数が増えるほどにエントロピーが大きいことが解る（対数は狭義の単調増加関数である）。逆に、微視的状態が確定するここでいう「微視的状態が確定する」ということは、あらゆる物理量の値が確定するという意味ではなく、なんらかの固有状態に定まるという意味である。従って量子力学的な不確定性は残る。の状況ではエントロピーがとなる。可能な微視的状態の数が増えるということは、巨視的な情報しか知り得ないとすれば、それだけ微視的世界に関する情報が欠如していると捉えることができ、この意味でボルツマンの原理はエントロピーの微視的乱雑さを表す指標としての性格を示している。

歴史 thumb|ルドルフ・クラウジウス

エントロピーは、ドイツの物理学者ルドルフ・クラウジウスが、カルノーサイクルの研究をする中で、移動する熱を温度で割ったという形で導入され、当初は熱力学における可逆性と不可逆性を研究するための概念であった。後に原子の実在性を強く確信したオーストリアの物理学者ルートヴィッヒ・ボルツマンによって、エントロピーが原子や分子の「乱雑さの尺度」であることが論証された。

クラウジウスは1854年にクラウジウスの不等式として熱力学第二法則を表現していたが、彼自身によって「エントロピー」の概念が明確化されるまでにはそれから11年を要した。不可逆サイクルでゼロとならないこの量をクラウジウスは仕事と熱の間の「変換」で補償されない量として、1865年の論文においてエントロピーと名付けた。エントロピーという言葉は「変換」を意味する（トロペー）に由来している。

その後ボルツマンやギブスによって統計力学的な取り扱いが始まった。情報理論（直接的には通信の理論）における情報量の定式化が行われたのは、クロード・シャノンの1948年『通信の数学的理論』である。シャノンは熱統計力学とは独立にこの情報量の定式化にたどり着いた。この量を「エントロピー」と名付けた経緯については、シャノンがフォン・ノイマンに相談した際、フォン・ノイマンが「それはエントロピーと呼ぶべきだ。統計力学のエントロピーと数学的に同じ形だし、第二に、エントロピーが何であるかを本当に理解している者は誰もいないから、議論になったときに君が有利になる」と助言したという逸話が知られているこの逸話はらの回想録で紹介されたものである。。

熱力学におけるエントロピー thumb|400px|熱エントロピーの説明用の図。

エントロピーは、熱力学における断熱過程の不可逆性を特徴付ける量として位置付けられる。

エントロピーは平衡状態に対して定義される状態量（＝物理的な系の熱力学的な状態に実数を対応させる関数として定式化される物理量）であり、２つの状態、に対し、からに断熱的に遷移する事ができれば、これら２つの状態のエントロピー、はを満たすし、逆にならからに断熱的に遷移できる。特にであれば、、双方から他方に断熱的に遷移できる。

熱力学では、系のすべての熱力学的な性質が、一つの関数によってまとめて表現される。そのような関数は完全な熱力学関数と呼ばれる。エントロピーは完全な熱力学関数の一つでもある。

エントロピーの基本的性質と存在一意性エリオット・リーブとヤコブ・イングヴァソンは、エントロピーの基本的性質として以下の３つを挙げた：そして彼らは各々の系に対し、における熱力学的な平衡状態全体の集合（状態空間）に断熱的に遷移できるか否かで順序関係を入れ、そこに熱現象に関する素朴な直観を反映した公理を入れて次の事実を数学的に導いた：上記の定理ではエントロピーの選び方には定数分の自由度があるが、実際の熱力学では後述するという関係式を用いて、内部エネルギーの単位である「J」と温度の単位である「K」から定数を決める。一方は、どの平衡状態をとするかという基点の選び方の自由度であるが、絶対零度でエントロピーがになるとする熱力学の第三法則を要請する事によりを決める。

熱力学では平衡状態を内部エネルギーや体積などの有限個の状態量で記述するので、状態空間はの部分集合だとみなせる。平衡状態、がそれぞれ、と表せているときに対し、と表せる平衡状態をと書くとき、リーブとイングヴァソンはさらに、エントロピーが以下の性質を満たす事を上述の公理のもと示した。（これはもともと物理的考察により知られていたものである）。この不等式は、エントロピーが内部エネルギーや体積などの示量性変数に対し、凹関数であることを示している。これは後述するエントロピー最大の原理など、エントロピーに関する基本的な性質を下支えする重要な事実である。

他の物理量との関係系の状態を指定する独立な変数を変更するルジャンドル変換を用いることで、エントロピーは他の熱力学ポテンシャルと密接に関係づけられる。内部エネルギー、体積、圧力、温度を用いると、熱力学の基本関係式より、エントロピーはエンタルピーとの間に

の関係を持つ。また、ヘルムホルツの自由エネルギー、およびギブスの自由エネルギーの定義から、エントロピーはこれらの温度による偏微分として

のように表される。

エントロピーの導出上ではリーブとイングヴァソンによる数学的な導出を見たが、より物理的な考察によりエントロピーを導出する手法として以下のものがある：熱を用いてエントロピーを定義する方法。断熱過程と等温過程で系がする仕事の最大値（内部エネルギーとヘルムホルツの自由エネルギー）の差からエントロピーを定義する方法。なお教科書によっては、最初にエントロピーの存在と完全な熱力学関数としてのエントロピーが満たすべき性質を認め、熱力学を出発させる

というスタイルで記述されているものもある。

以下のエントロピーの説明は、クラウジウスが1865年の論文の中で行ったものを基にしている。クラウジウスは熱を用いてエントロピーを定義した。この方法による説明は多くの文献で採用されている。

簡単な状況下での説明右|サムネイル|300x300ピクセル|熱機関（中央の円）。温度の高熱源（右の四角）から熱量を受け取り、低熱源（左の四角）温度のに熱量を渡す。温度の吸熱源からの熱を得て、温度の排熱源にの熱を捨てる熱機関（サイクル）を考える。この熱機関が外部に行う仕事はエネルギー保存則からであり、熱機関の熱効率は

で与えられる。カルノーの定理によれば、熱機関の熱効率には二つの熱源の温度によって決まる上限の存在が導かれ、その上限は

で表されるカルノーの定理においては一般には熱効率の上限はの形で証明されている。この表式が成り立つように、熱力学温度（絶対温度）を定義する。たとえば、セルシウス度やファーレンハイト度を使った場合には、熱効率の式はやや複雑な形になる。。これら2本の式を整理することで、

が成立することが分かる。

可逆な熱機関の熱効率はと等しく、このため可逆な熱機関ではは等号

が成り立つ。すなわち、可逆な過程で高熱源に接している状態から低熱源に接している状態に変化させたとしてもという量は不変となる。クラウジウスはこの不変量をエントロピーと呼んだ。

可逆でない熱機関は熱効率がよりも悪いことが知られており、このため可逆でない熱機関ではは等号ではなく不等式

が成り立つ。すなわち、可逆でない過程で高熱源で熱を得た後、低熱源でその熱を捨てるとエントロピーは増大する（エントロピー増大則）。

一般の場合上では話を簡単にするため、高熱源と低熱源の2つしか熱源がない場合を考えたが、より一般に個の熱源がある状況を考えるとは

となる（クラウジウスの不等式）。ただし上の不等式ではと違いは全て温度の熱源から得る熱であり、熱を捨てる場合は負の値としている。

可逆なサイクルでは等号

が成り立ち、この式でとすると、

となるは状態量でない量の微小量ないし微小変化量を表す。文献によってしばしば同様の意味でが用いられる。。状態から状態へと移る任意の可逆過程,を考え、をの逆過程とする。このとき、とを連結させた過程は可逆なサイクルとなり

が成り立つ。つまり、この積分の値は始状態と終状態が同じならば可逆過程の選び方によらない。

そこで、適当に基準となる状態と、そのときの基準値を決めると、状態におけるエントロピーを

と定義することができる。ここでは基準状態から状態へと変化する可逆な過程である。からエントロピーの定義は可逆過程の選び方によらない。

基準状態から状態へと移る可逆過程と、状態から状態へと移るある可逆過程を連結させた過程は基準状態から状態へと移る可逆過程である。したがって、

あるいは

となる。

エントロピー増大則状態から状態へと移る任意の過程と、同じく状態から状態へと移る可逆過程を考え、をの逆過程とする。このときとを連結させた過程はサイクルとなる。

このサイクルについて、導出と同様にクラウジウスの不等式から

が導かれる。ここでは熱源の温度であり、一般には系の温度とは一致しない。しかし、可逆過程の間においては、系は常に平衡状態にあるとみなされるから、熱源の温度は系の温度に一致する。したがって

となる。

特に断熱系（外から仕事が加えられても良い）においてはなので、

という結果が得られる。これがエントロピー増大則である。熱力学第二法則と同値なクラウジウスの不等式からこれが求められたことにより、熱力学第一法則がエネルギー保存則と対応するのになぞらえて熱力学第二法則とエントロピー増大則を対応させることもある。なお、この導出から明らかなように、熱の出入りがある系ではエントロピーが減少することも当然起こり得る。

エントロピーが増加するために、熱エネルギーのすべてを他のエネルギーに変換することはできない。したがって、熱エネルギーは低品質のエネルギーとも呼ばれる。

完全な熱力学関数熱力学第一法則から、ある熱力学過程の間に系が外部から得る熱は、その過程の前後での系の内部エネルギーの変化と、その過程の間に系が外部になす仕事により

と表すことができる。無限小の変化で考えると

となる。クラウジウスの不等式とエントロピーの定義式から無限小変化に対して

となる。系が体積の変化を通してのみ外部に仕事をなす場合には、外部の圧力をとして

となる。これらをまとめると

が成り立つことがわかる。可逆過程では等号

が成り立ち、さらに準静的過程では系と外部が熱平衡および力学的平衡にあるので、外部の温度は系の温度に等しく、外部の圧力は系の圧力に等しい。すなわち、で表される平衡状態からで表される平衡状態への準静的な無限小変化では

となる。

系と外部の間で物質の出入りがなく、外場の作用も受けていないときには、平衡状態にある系の温度と圧力は、の関数として一意に定まることが経験的に知られている。系の温度と圧力がそれぞれとで表されるとき、不可逆過程においても、で表される平衡状態からで表される平衡状態への無限小変化で、準静的過程と同じ式

が成り立つ。なぜなら、左辺のが状態量の変化量なので、右辺もまた途中の過程に依らないからである。この式をの全微分と比べると、直ちに偏微分

が得られる。特に前者は、統計力学において熱力学温度を導入する際に用いられる関係式である（エントロピーの存在を公理的に与える論理展開の場合は、熱力学においてもこの式が熱力学温度の定義式である）。

系と外部の間で物質の出入りがなく、外場の作用も受けていないとき、との両方の関数形が知られていれば、これら二つの関数から、熱容量やエントロピーなどの、系の全ての状態量を計算することができる。しかし、どちらか一方の関数形が不明な場合は、これが不可能になる。例えば、だけから系の熱容量を計算することは不可能である。また、だけからでは、体積変化に伴うエントロピー変化を求めることはできない。一方、が知られていれば、この関数ひとつだけから、系の全ての状態量を計算することができる。すなわち、系と外部の間で物質の出入りがなく、外場の作用も受けていないとき、は完全な熱力学関数となる。

エントロピーは内部エネルギーや体積などの示量性状態量を変数に持つとき、完全な熱力学関数となる。系が化学反応など物質の増減によってエネルギーの移動が生じるときは

となる。ここで、は物質量、は化学ポテンシャルである。さらに他の示量性状態量の変化によるエネルギーの移動があるときは、それに対応する示強性状態量として

となる。との組としては誘電体の理論における誘電分極と外部電場磁性体の理論における磁化と外部磁場などがある。

温度による表示エントロピーを完全な熱力学関数として用いる場合の系の平衡状態を表す変数は内部エネルギーと体積などの示量性変数である。しかし、温度は測定が容易なため、系の平衡状態を表す変数として温度を選ぶ場合がある。閉鎖系で物質量の変化を考えない場合に、温度と体積の関数としてのエントロピーの温度による偏微分は

で与えられる。ここで定積熱容量である。また、エントロピーの体積による偏微分はMaxwellの関係式より

で与えられる。これは熱膨張係数と等温圧縮率で表せば

となる。

従って、表示によるエントロピーの全微分は

となる。

さらに体積に変えて圧力を変数に用いれば、体積の全微分が

であることを用いれば、表示によるエントロピーの全微分は

となる。

気体のエントロピー低圧領域において実在気体の状態方程式をビリアル展開

の形で書くと、モルエントロピーの圧力による偏微分は、マクスウェルの関係式より

となる。従って、低圧領域においてモルエントロピーは

で表される。ここで

で定義されるは、温度における標準モルエントロピーであり、この実在気体が理想気体の状態方程式に従うと仮定した時の、圧力 °におけるモルエントロピーに相当する。

統計力学におけるエントロピーある巨視的状態（例えば、圧力と体積を指定した状態）に対して、それを与える微視的状態（例えば、各分子の位置および運動量）は多数存在すると考えられる。そこで仮想的にアンサンブルを考える。つまり、ある巨視的状態に対応する微視的状態の集合を考え、その各々の元が与えられた巨視的状態の下で実現する確率分布を与えることにする。

系の微視的状態（例えば量子系であればエネルギー固有状態）を考え、微視的状態が実現される確率分布が与えられているとき、ボルツマン定数をとして、エントロピーを

により定義する古典系の場合は状態を可算個として扱えない。したがって、例えば自由度の古典系であれば、位相空間上の一点をと表し、ここに一様な確率測度を導入する（ここでは正準変数、はプランク定数）。こうすることにより、積分

でエントロピーを定義できる。。これはギブズエントロピー（）とも呼ばれる。

すなわち、統計力学におけるエントロピーは情報理論におけるエントロピー（無次元量）と定数倍を除いて一致するボルツマン定数を1とする単位系を取れば、エントロピーは情報理論におけるエントロピー（自然対数を用いたもの）と完全に一致し、無次元量となる。簡便なので、理論計算などではこの単位系が用いられることも多い。なお、この単位系では温度は独立な次元を持たず、エネルギーと同じ次元となる。。

小正準集団例えば、エネルギーの状態にある孤立系に対応して、小正準集団を用いるとする。すなわち、微視的状態にあるときのエネルギーをとしたときに、系のエネルギーにある微視的状態のみに有限の確率を等しく

として与える量子系では厳密には、エネルギーが量子化されているため、ほとんど至るところのにおいては満たされない。そのため、その間に十分多くのエネルギー固有状態が入るエネルギー間隔を定義し、条件をと緩めることにする。（等重率の原理）。ここで、規格化定数は状態数と呼ばれ、系がエネルギーにあるときに実現しうる微視的状態の数を意味する。このとき、エントロピーはボルツマンの公式としてよく知られる

で与えられる。

熱力学との整合性このように小正準集団により与えられたエントロピーが、先に見た熱力学のエントロピーと整合していることを確認する。エネルギー、小正準集団によるエントロピーの系を、透熱壁を入れることにより 2 つの部分系に分離する。それぞれの系にエネルギーがと分配されるとしよう。この場合、系全体の状態数か、あるいはその対数であるエントロピーが最大になるように部分系のエネルギーが決定されると考えるのは自然であろう。系全体の状態数は 2 つの部分系の状態数の積であり、すなわち系全体のエントロピーは 2 つの部分系のエントロピーの和である。条件の下で全体のエントロピーを最大とする条件を考えると、

すなわち

となる。ここで、このエントロピーを熱力学のものと同一視すると、が成立するのであった（部分系の体積は固定しておくことにする）。透熱壁を用いて 2 つの系を接触させた場合、平衡状態では当然 2 つの系の温度は等しくなることと、ここで確認した事実は確かに整合している。

熱力学と整合するアンサンブルは、ここで例示した小正準集団の他にも、正準分布や大正準分布がある。

情報理論におけるエントロピーとの関係

情報理論においてエントロピーは確率変数が持つ情報の量を表す尺度で、それゆえ情報量とも呼ばれる。確率変数に対し、のエントロピーは　(ここではとなる確率) で定義されており、これは統計力学におけるエントロピーと定数倍を除いて一致する。この定式化を行ったのはクロード・シャノンである。

これは単なる数式上の一致ではなく、統計力学的な現象に対して情報理論的な意味づけを与える事ができることを示唆する。情報量は確率変数が数多くの値をとればとるほど大きくなる傾向があり、したがって情報量はの取る値の「乱雑さ」を表す尺度であると再解釈できる。よって情報量の概念は、原子や分子の「乱雑さの尺度」を表す統計力学のエントロピーと概念的にも一致する。

しかし、情報のエントロピーと物理現象の結びつきは、シャノンによる研究の時点では詳らかではなかった。この結びつきは、マクスウェルの悪魔の問題が解決される際に決定的な役割を果たした。シラードは、悪魔が分子について情報を得る事が熱力学的エントロピーの増大を招くと考えたが、これはベネットにより可逆な（エントロピーの変化ない）観測が可能である、と反例が示された。最終的な決着は1980年代にまで持ち越された。ランダウアーがランダウアーの原理として示していたことであったのだが、悪魔が繰り返し働く際に必要となる、分子についての以前の情報を忘れる事が熱力学的エントロピーの増大を招く、として、ベネットによりマクスウェルの悪魔の問題は解決された。

この原理によれば、コンピュータがデータを消去するときに熱力学的なエントロピーが発生するので、通常の（可逆でない＝非可逆な）コンピュータが計算に伴って消費するエネルギーには下限があることが知られている（ランダウアーの原理。ただし現実の一般的なコンピュータの発熱とは比べるべくもない規模である）。また理論的には可逆計算はいくらでも少ない消費エネルギーで行うことができる。

さらには統計力学におけるギブズの手法を抽象することで、統計学・情報理論における最大エントロピー原理を打ち立てた。この結果、ギブズの手法は統計学・情報理論の統計力学への一応用例として再解釈されることになった。

統計力学と情報理論の関係は量子力学においても成立しており、量子統計力学におけるフォン・ノイマンエントロピーは量子情報の情報量を表していると再解釈された上で、量子情報や量子計算機の研究で使われている。

ブラックホールのエントロピー

ブラックホールのエントロピーは表面積に比例する。

ここではエントロピー、はブラックホールの事象の地平面の面積、はディラック定数（換算プランク定数）、はボルツマン定数、は重力定数、は光速度である。

生物学におけるエントロピー

エルヴィン・シュレーディンガーは、生命をネゲントロピー（負のエントロピー）を取り入れエントロピーの増大を相殺することで定常状態を保持している定常開放系とした。負のエントロピー自体は後に否定されたが、非平衡系の学問の発展に寄与した。

脚注出典

注釈

参考文献論文

書籍

エントロピー

Źródło i licencja