AI

リンクの重みを更新する処理

Log

積分

微分係数 微分係数 とは 微分した式（導関数）に値を入れて出てきた答え。 例えば「f(x) = x^2 の x=0 での微分係数、つまり f'(0) を求めてみましょう」という問題ならば 「f(x) = x^2」を微分して「f'(x) = 2x」の式をだして、その式の x に 0 を入れて出てきた答えが 微分係数。 計算グラフ p128「リンゴの値段に関する支払い金額の微分」・・・これはリンゴが１円値上がりしたら、最終的な支払金額が２．２円増えるということを意味します。 微分 掛け算の微分 割り算の微分 微分記号の説明 x^x の微分 a^x の微分 a^x の微分２ logx の微分 log 2x, log x/3 の微分 f(ax + b) の微分

シグモイド関数 プログラマー的には↓こちらの方が見易いです。 エクセルで確認すると↓こんな感じになります。x を入力すると y は０～１の間の値をとります。 シグモイド関数を微分して 傾き をみてみようと思います。言われているのは x ０近辺 が伸びが良い ということです。本当にそうなるのか検証してみます。 シグモイド関数は 合成関数 になっていて、いきなり微分することはできないので、これをパーツに分けます。※合成関数の微分は、パーツに分けて→微分して→掛ける。 分母をuと置き換えました。これなら微分することができそうです。１つづつ微分しています。 ①分数の微分です。マイナスを付けて、分母を２乗します。 ②ネイピア数の微分です。定数「１」は微分すると「０」になり、ネイピア数はマイナスを付けて指数の部分はマイナスのままです。 出てきたこれらの式を掛け合わせます。 u に元の値（1+e^-1）を入れて、マイナスxマイナス→プラスをしたら式は完成します。 そういえば、微分の法則でこういうものがあります。 これを使えば良かったのかも。。。と後になって思いました。 話を元に戻すと、シグモイド関数を微分したら↓この式ができた ということです。 プログラマー的には↓こちらの方が見易いです。 エクセルにコピペしたところ、x が 0 の場合、傾きが 0.25 で一番伸びが大きい感じですね。 なんですけど…シグモイド関数の微分にはもっと良い方法（式）がありました「y * ( 1 – y )」（先人の知恵）。※この y というのは、シグモイド関数を実行した結果です。 プログラマー的には↓こちらの方が見易いです。 エクセルで検証としても同じ値になりました。 どうしたら、あの微分の式が「y * ( 1 – y )」になるのか？ということで、ひとまず微分した式の分母を展開してみました。 ↑この式が目指す「ゴール」の式。 次に、ひとまず 先人の知恵 の↓下の式に …

AI シグモイド関数 Read More »