【熱・統計力学】数式なし！エントロピーのイメージをわかりやすく解説。

みなさんこんにちは！

「エントロピー」という言葉を、聞いたことがありますか？

エントロピーは大学の理系学部で習います。物理、化学、機械、生物、数学など、幅広い分野で出てくるものです。

物理学科（僕の学部）では、エントロピーをまず熱力学という科目で知ることになりました。しかし、そのときエントロピーは何なのか、さっぱり分かりませんでした…

熱力学では、エントロピー は次のような形で出てきます（積分範囲は任意経路）。

   

は得た微小熱量、 は温度です。それらを上式のように積分したものがエントロピーです。

初めてこの式を見る人は、ちょっと意味が分からないと思います。

熱力学でエントロピーを知った後、統計力学という科目で、数式としては違った形で改めて知ることになりました。その時点で、やっと何となくエントロピーについて理解が深まったと思います。

このように、熱力学だけで習った段階では、エントロピーについての理解はなかなか進みまないひとが多いと思います。

そこで今回は、エントロピーのイメージを統計力学の観点から説明します。初めに言ってしまうと、エントロピーは一言でいえば「乱雑さ」を表す量ですが、そのイメージをつかんでもらおうと思います。

箱に入った空気分子を考える

以下の図のような、空気（気体分子）が箱に入ったシチュエーションを考えます。

赤い丸が気体分子です。

では、このシチュエーションでエントロピーが大きいとはどういうことなのか、エントロピーが小さいとはどういうことなのかを説明します。

以下の左図のように、箱の中で気体分子がまんべんなく広がった場合、エントロピーは大きい状態にあります。

反対に、右図のように気体分子が固まっている場合、エントロピーは小さくなります。

つまり、

バラバラ　→　エントロピーは大きい
密集している　→　エントロピーは小さい

ということになります。

ひとつにまとめると、

エントロピーは、バラバラ度（乱雑さ）

ということになります。

もっと言えば、左図のように状態が平均化された状態であればエントロピーは大きいと言えます。

エントロピー増大の法則

エントロピーに関係する法則として、エントロピー増大の法則というものがあります。この法則は、小さな箱のような規模から、宇宙規模まで適応される法則です。

エントロピー増大の法則とは、その名の通り、時間が経つにつれてエントロピーが増大していくという法則です。

つまり、時間が経つと状態的に乱雑になるということです。

そして、何もしない限り、エントロピーが小さい状態に自然に戻ることはありません。

例１：空気は広がっていく

空気が入った箱から空気を箱の外に放つと、空気はどんどんと広がっていきます。つまり、エントロピーが増大していきます。

しかし、何もしないのに広がった空気が箱の中に戻ることはまずありえません。

空気の例のほかにも、2色の液体を同じコップに入れると混ざる（再び分裂することは無い）、頼んだカフェラッテアートが放っておくと崩れる（もとに戻らない）などがあります。固体、液体、気体などの状態に問わずエントロピ増大の法則は成り立ちます。

例２：部屋は散らかっていく

片付けない限り、時間が経つにつれて必ず部屋は散らかります。また、片付けたとしも、人間が動いたこと（そのエネルギーはどこからかの食物から来ている）を考慮すれば、全体的にはエントロピーは増大しています。

情報エントロピー

情報工学の分野では、情報エントロピーというものがあります。

これも上で説明したエントロピーと本質的には同じなのですが、情報エントロピーは情報量を表し、起こる事象がどれだけ平均的かを表します。

情報エントロピーについては、以下の記事で詳しく説明しています（数式あり）。

【深層学習】深層学習に必要な数学まとめ 【No.3 情報理論 編】

※今回は説明のため、系の条件など、厳密性に欠けた表現が含まれておりますがご了承ください。