大学情報 【情報理論】情報量とエントロピー 情報理論、機械学習などで使用される情報量とエントロピーの基本についてまとめてみました。情報量とは例えば、毎年サマージャンボを購入している友達が今年もサマージャンボ外れちゃったよーこの話を聞いた時、あなたは「へー、そうなんだ」と特に驚きはしな... 2025.02.02 大学情報情報理論
ディープラーニング 確率的勾配降下法について "ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装"という本で気になったところや理解にくかったところをまとめてます。今回は確率的勾配降下法(stochastic gradient descent)に... 2025.02.01 ディープラーニング