對數基數在熵中為 2 的意義是什麼？[複製]

對數基數在熵中為 2 的意義是什麼？如果我們以 e 或 10 為基數呢？

沒什麼。回想一下，我們有

因此，如果您使用其他基礎，例如和，您始終可以使用標量乘法轉換為另一個基數。

通信/信息被認為是比特，因此是神奇的數字，.

引用自：https://stats.stackexchange.com/questions/329756