微分の問題

質問

∫p(x) log p(x) dx を p(x) で微分したいのですが、
どう考えたら宜しいのでしょうか？

結果は、log p(x)+1となるのですが、
この結果は、単純に p(x) log p(x) を微分したものですよね？
ここで、どうして積分が無視されるのかが分かりません。

よろしくお願いします。

回答No.8

noname#101087 · ベストアンサー

#4 です。

>結果は、log p(x)+1となるのですが....

とおっしゃる根拠(推論過程)を簡単にでも提示いただければ、も少し先へ進むのかも知れません。
「最大エントロピー法」からは、H(X)を p(x) で偏微分すれば (-log p(x)-1) だということしか読み取れませんので...。

お礼

ご回答ありがとうございます。

どうやら私のやりたいことは、この最大エントロピー法のようです。
皆様のおかげで、色々と調べるきっかけをいただき、
なんとなくわかるようになりました。ありがとうございました。

回答No.7

zk43

私も最初は何の意味か分からなかったのですが、ちょっと分かって
きたので、ちょっと書いてみようかと。
エントロピーは聞いたことがある程度でよく知りませんが、
これは、曲面上とか空間内の２点を結ぶ最短経路を求める変分法の
問題と関連すると思います。微分幾何学で、しかも結構先にいって
やった記憶があるので、高校では難しいかなと思います。

失礼しました。

お礼

ご回答ありがとうございます。

> 曲面上とか空間内の２点を結ぶ最短経路を求める変分法
こういう使い方もあるんですね。勉強になります。

回答No.6

ht1914

私も＃４の方の挙げられている変分方での式ではないかなと思います。この場合はｐｌｏｇｐという表現からしてエントロピーと考えられます。解析力学で出てくるのは（ｐ、ｑ）空間での径路積分のようなものです。径路が少し変わった特にその径路上での値がどの様に変わるかを考える方法です。その極地を取ることで実現する径路を求めるわけです。最少作用の法則というのもここから出てきています。
表現形式は微分と似ていますが微分ではありません。
微分という言葉を使われていますので混乱しています。
変分法、または汎関数微分で調べて頂くといいでしょう。

お礼

ご回答ありがとうございます。

変分法・汎関数　←→　微分法・関数
がなんとなく分かってきました。

回答No.5

kkkk2222

高名なる＃３様が本気で＜∫p(x) log p(x) dx の p(x) での微分＞を論じられましたので。聊か愕然としております。

＃１　もしや、高等学校の範囲を超えた質問だとしたら、当方は退散するしかないです。そういえば、質問者様は徹頭徹尾＜p(x)での微分＞を論じられています。

＃２　当方はＣＯＮＴＥＸＴから高等学校の範囲と即断しました。いつもの様に、質問者様の回答/質問履歴の調査をしてからの回答でした。当方の主旨は高等学校の範囲にこのような設問がない事を前提に議論を展開しました。

＃１　であれば、この投稿が最後になります。
＃１　の議論は、当方の限界は目に見えていますが、行きがかり上若干の推論を加えて終了です。

p(x) による微分は、＃３様の回答をを見ましても・・・

Ｔ＝∫p(x) log p(x) dx
p(x) の逆函数をq(x) とする
ダメデス

ご健闘を祈ります。

お礼

何度もありがとうございました。

私のやりたかったことは微分ではなく、変分だったようです。
まだ良く分かっていないのですが・・。

回答No.4

noname#101087

ぜんぜん判らないので、参照ページだけ丸投げしておきます。

　http://www.eb.waseda.ac.jp/murata/~mura/lecture/ica/note/node71.html
>最大エントロピー法 : 制約条件を含めた変分式 = (A.13)

お礼

ご紹介ありがとうございます。
変分法が理解できれば、解けるということのような気がしてきました。

回答No.3

rabbit_cat

z=∫p*log(p) dx
とすると、
dz/dp = (dz/dx) / (dp/dx)
です。
dz/dx = p*log(p)　　　（dz/dx ≠ dz/dpであることに注意）
dp/dx = p'(x)
ですから、
dz/dp = p(x)*log p(x) / p'(x)
です。

p'(x) がわからないので、これ以上言うことはできないのですが、
もし、本当に、
dz/dp = log p(x)+1
だっていうなら、
p'(x) = {p(x)*log p(x)} / {log p(x)+1}
なんでしょうね。

お礼

回答ありがとうございます。

なかなかすっきりしないので、もっと勉強してみようかと思います。

回答No.2

kkkk2222

ーーー
ｗｗｗ
前ＲＥＳで、この事だろうととの予想は出来ていましたが、取り合えず理解できればと、言及を避けました。

ｗｗｗ
やっぱり来たか！　と・・・
当方も全力で回答を試みますが、理解困難であればこのＳＩＴＥには、当方が足元にも及ばない薀蓄の深い方が多数お出でですので、その方々の登場を待つのも良い気がします。

今ＳＩＴＥがＤＯＷＮしているようで、ＲＥＳ遅れますがご容赦下さい。
ーーー

本論

＞y= p(x) としたとき、∫y log y dx となって、これを y で微分すると、log y + 1 に・・・

結論から言うと、同じ回答の繰り返しになります。要点は当方が如何に説得力のある術を所持しているか、です。まず貴殿の様に微分して見ます。

＃０　Ｓ＝∫p(x) log p(x) dx

＃１　Ｓ=∫y log y dx　【y= p(x)】
＃２　Ｓ’＝y log y　　　【y= p(x)】
＃３　Ｓ’’＝log y+1・・・二階微分を１階微分と錯誤していますが、これは単なる不注意ミスで、とやかくかくゆう問題ではありません。

＃２＃３の説明を先にします。（＃２があっていると仮定して）
＃２→＃３　は何を計算したか、意識する必要があります。漠然と計算しているだけでは、正しい結果は出ないのです。

よーく、よーく、よーく、思考して下さい。下の行を見る前に。

わかりましたか。

なんと、＜ｙで微分しています＞
繰り返しです
最初の式＃０は＜ｙではなく、ｘの函数です＞
つまり、最後まで＜ｘで微分するんです。＞

もう少し詳説しますと
（脱線　今回復しましたが当方のＲＥＳ貴殿の補足も消えています、様子を見て、必要なら再投稿します。最近ちょっと調子が悪いようです。（またまた周章狼狽、前投稿を過ってＦＩＬＥを削除し何を書いたか確認できません。ＳＩＴＥが上手く復活してくれれば良いのですが・・・まあ、いいか・・・同じ投稿がふたつあるので間違えました。全部残ってました）

閑話休題

もう少し詳説しますと
＃０→＃１→＃２までは＜違和感はありますが、チャントｘで微分された事になっています。むしろ、ここまでが何故あっているのか、の方が説明が困難かも・・・＞あっています。

＃２のｙは単なるｙではありません。＜ｙはｘの函数です＞
Ｓ’＝y log y　　　【y= p(x)】　　ではなくて
Ｓ’＝y(x) log y(x)　　　【y= p(x)】 が正しい表記です。
Ｓ’’＝y(x)(y'(x)/y(x)）+y'(x)log y(x)
　　＝y'(x)+y'(x)log y(x) となります

実際には
Ｓ’＝y log y　で　ｙはｘの函数と意識しつつ
Ｓ’’＝y(y'/y)+y'ｌog y
　　＝y'+y'ｌog y
これはあっては居ますが、なにか不自然な感じがします。（感覚的に）。

こんな事になるなら、最初から
Ｓ’＝p(x) log p(x)　で良いので、　
Ｓ’’＝p(x)（p'(x)/p(x))+(p(x)'log p(x))
　　　＝p'(x)＋(p(x)'log p(x))・・・ここで前投稿の誤記が判明しました。お詫びと訂正いたします。

と　振り出しに戻ります。

ｗｗｗｗ
どうなんですかね。わかってもらえる自信はありませんが、全力投球です。

ーーー

お礼

全力投球に感謝いたします。

正直、かなり混乱しております・・。
これは変分問題？なのかもしれませんので、
その辺りを勉強してみます。

回答No.1

kkkk2222

ーーー
前後、逆になりますが、

＞結果は、log p(x)+1となるのですが、この結果は、
＞単純に p(x) log p(x) を微分したものですよね？

　何か、幾つかの事が混同されているようです。
通常＜微分する＞は変数が１個のときは、その変数で微分するという事です、
　本問題で言えば、変数はｘだけですので、＜ｘで微分する＞を、単に＜微分する＞というのが、むしろ普通です。
＜p(x) log p(x) を微分＞する時は積の微分ですので、
（p(x) log p(x)）’
＝(p(x)/x)+(p(x)'log p(x))であり、log p(x)+1にはなりません。どうしてlog p(x)+1になったのでしょうか？
ーーー
＞∫p(x) log p(x) dx を
＞p(x) で微分したいのですが、

末尾にdxがついているのは、＜ｘで積分＞の意味です。
＜p(x) で微分＞とは皆目、見当もつきません。
単に微分するなら、解はp(x) log p(x)ですが・・・
ーーー
＜幾つかの事が混同＞されていると推測します。

Q=∫p(x) log p(y) dx を想定しますと、自然に＜ｘで積分する＞ことになり、log p(y)は定数扱いですので、
Q=log p(y)∫p(x)dx　となります。

R=∫（Ａ＋Ｂp(x)）dx　を想定しますと、
R=Ａx+Ｂ∫p(x)dx と変形します。

＜p(x) で微分＞は意味不明となります。
ちなみに２変数の積分は∫∫　で表され、重積分と呼ばれ、高等学校では、登場しません。

他にも混同の原因はあると思いますが、締めます。
ーーー

補足

ご回答ありがとうございます。

y = p(x) としたとき、
∫y log y dx となって、これを y で微分すると、
log y + 1 になりますが、この考え方で合っていますでしょうか？