(備忘録)②エントロピーと情報の不思議な関係
※これは、とあるDiscord内の勉強会で議論した内容の備忘録です。話の理解がまだ曖昧だったり、結論が出ていない部分も多々あるかと思いますが、ご容赦ください。
エントロピーは減少することもある?
この前も書いたかもしれませんが、エントロピーという概念について、どうしても気になっていることがあります。熱力学第二法則では、エントロピーは増大すると言われているけど、それはあくまで「確率的」な話ではないか、ということです。つまり、圧倒的に起こり得ないだけで、ごく稀にエントロピーが減少する可能性もあるのではないかと考えていました。
この点について、勉強会で詳しい方に聞いたところでは、まさにその通りだという情報を見ました。統計力学の観点では、エントロピーの増大はあくまでも平均的な振る舞いであり、瞬間的にはエントロピーが減少する「エントロピーの揺らぎ(fluctuation)」が起こり得るそうです。例えば、部屋の空気がごく稀に一箇所に集まる可能性も、完全にゼロではないらしいです。ただ、その確率は宇宙の年齢を遥かに超える時間待っても起こり得ないレベルだそうなので、事実上無視できるということでした。
エントロピーと情報の結びつき
この話を聞いて、エントロピーというものが、ただの乱雑さだけでなく、より深い意味を持っているように感じました。特に、エントロピーと情報が関連しているという話が印象的でした。
そのヒントは、「マクスウェルのデーモン」という有名な思考実験にあるそうです。部屋を二つに分け、デーモンが素早い分子と遅い分子を選別することで、エントロピーを減少させられるように見えるというものです。もしこれが可能なら、熱力学第二法則は破られてしまいます。
しかし、この話には続きがあるんですよね。デーモンが分子の情報を観測し、その情報を消去する行為自体に、エントロピーの増大を伴うことが指摘されました。この増大分が、デーモンが系から減少させたエントロピーを相殺してしまうため、熱力学第二法則は破られないという結論に至ったそうです。
この考え方を定式化したのが、「ランダウアーの原理」と呼ばれるものです。
💡数式:ランダウアーの原理
1ビットの情報を消去するたびに、最低でも$$k_{B}T\log_{e}2$$という熱を外界に放出する必要がある、という原理です。
- $k_{B}$はボルツマン定数
- $T$は絶対温度
- 通常、物理の文脈では$\log_{e}2$の底は省略されて、$\log 2$と表記されたり$\ln 2$と表記されることが多くあります
この原理から、情報は物理的な実体であり、情報の操作(特に消去)には熱力学的なコストがかかる、ということがわかります。この話を聞いて、コンピュータのCPUやメモリが熱を持つ理由も、単なる電気抵抗だけでなく、情報の処理そのものが持つ本質的なコストなのかもしれない、と考えるようになりました。
この先の疑問点とまとめ
今回の勉強会で、エントロピーが単なる熱力学的な量ではなく、確率や情報と深く結びついていることが少しだけ分かった気がします。特に、情報の消去がエントロピーの増大につながるという点は非常に面白かったです。
ただ、まだ疑問に思うこともあります。例えば、量子力学の観測問題とエントロピーの増大がどう関係するのか、その辺りの話はまだまだ難しくて、私の頭の中ではまだ整理しきれていません。
次に議論してみたいのは、このエントロピーと情報の関係が、量子力学の観測問題とどう繋がってくるのかという点です。今回の話を踏まえて、次回以降の議論もまとめていきたいと考えています。
この記事はここまでです。次回の記事では、量子力学の「観測」の概念に焦点を当てて、勉強会の内容をまとめてみようと思います。
コメント