OpenGL Programming Guide (5)
"OpenGL Programming Guide 8th Edition (2013)"、先日の立命館大学での講義に持参しました。
OpenGL Shading Languageの説明をしたあと、同書を学生さんに回覧しました。興味を持ってくれるかな？
講義が終わっても、同書が戻ってこないので、どうしたのかなと思ったら、ウガンダの学生さんがじっと読んでいます。それならと、「興味があるなら、どうぞ持ってて」と言ったら、「アリガトウゴザイマス」となりました。彼はGLSLを習得するのでしょうか。
OpenGL Shading Languageの説明をしたあと、同書を学生さんに回覧しました。興味を持ってくれるかな？
講義が終わっても、同書が戻ってこないので、どうしたのかなと思ったら、ウガンダの学生さんがじっと読んでいます。それならと、「興味があるなら、どうぞ持ってて」と言ったら、「アリガトウゴザイマス」となりました。彼はGLSLを習得するのでしょうか。
スポンサーサイト
ピアノ消音ユニット
我が家の半世紀以上経ったアップライトピアノ、今後どうしようか...
いろいろと迷ったあげく、消音ユニット（KORG社製HT-10）を取り付けることにしました。調律付きで10万円強。
これは大正解です。なんと、音色もいろいろ変えられる！
原理はよくわからないのですが、打弦を直前に止めるユニットを内蔵させます。そして、光センサで打弦を読み取り、それを電気信号に変換、ヘッドホンに音を出すという仕組み。
これはハイテクです。すごい仕組みです。
いろいろと迷ったあげく、消音ユニット（KORG社製HT-10）を取り付けることにしました。調律付きで10万円強。
これは大正解です。なんと、音色もいろいろ変えられる！
原理はよくわからないのですが、打弦を直前に止めるユニットを内蔵させます。そして、光センサで打弦を読み取り、それを電気信号に変換、ヘッドホンに音を出すという仕組み。
これはハイテクです。すごい仕組みです。
龍馬の命日
昨日（2018年11月15日）、京都のホテルにて、ニュースを見ていました。
この日は坂本龍馬の命日なんですね。龍馬の墓がある、京都霊山護国神社には多くの方が参拝にいらしたとのことでした。しゃも鍋もふるまわれたとのこと。
司馬遼太郎先生著「竜馬がゆく」の最後には、このときの惨劇が詳細に記されています。もちろん、どのような最後を遂げたかというのは知る由もないのですが、この小説は何度も読んだので、それが事実であるかのように、脳裏に刻まれています。
この日は坂本龍馬の命日なんですね。龍馬の墓がある、京都霊山護国神社には多くの方が参拝にいらしたとのことでした。しゃも鍋もふるまわれたとのこと。
司馬遼太郎先生著「竜馬がゆく」の最後には、このときの惨劇が詳細に記されています。もちろん、どのような最後を遂げたかというのは知る由もないのですが、この小説は何度も読んだので、それが事実であるかのように、脳裏に刻まれています。
立命館大学レクチャ (3)
本日（2018年11月15日）、立命館大学・びわこ・くさつキャンパスを訪問します。先月に続いて二回目です。
前回（2018年10月25日）と同じで、industrial lectures (fall 2018) での、留学生向けの話です。今日のタイトルは、"Introduction to 3D CG and Stereoscopy"です。またヘタな英語で...
泊まりはまた京都。東本願寺のすぐそばです。なんでも、スタッフの人は常駐しているわけではないようで、カギで勝手に入る仕組みのようです。2年前のイタリアや、昨年のブダペストを思い出します。でも、日本なので不安はない。
前回（2018年10月25日）と同じで、industrial lectures (fall 2018) での、留学生向けの話です。今日のタイトルは、"Introduction to 3D CG and Stereoscopy"です。またヘタな英語で...
泊まりはまた京都。東本願寺のすぐそばです。なんでも、スタッフの人は常駐しているわけではないようで、カギで勝手に入る仕組みのようです。2年前のイタリアや、昨年のブダペストを思い出します。でも、日本なので不安はない。
OpenGL Programming Guide (4)
訳あって、"OpenGL Programming Guide 8th Edition (2013)"、パラパラとみています。
これは、version 4.3対応なのですが、書籍では更新（9th edition, 2016）がされていますね。Version 4.5対応です。ちなみに最新バージョンは、今年2018年のversion 4.6です。
さて、このversion 4.5対応版ですが、"with SPIR-V"と付記があります。SPIRは、Standard Portable Intermediate Representationの略ですが、おそらくここには踏み込まないと思います。
これは、version 4.3対応なのですが、書籍では更新（9th edition, 2016）がされていますね。Version 4.5対応です。ちなみに最新バージョンは、今年2018年のversion 4.6です。
さて、このversion 4.5対応版ですが、"with SPIR-V"と付記があります。SPIRは、Standard Portable Intermediate Representationの略ですが、おそらくここには踏み込まないと思います。
圏論 (3)
Tom Leinsterの"Basic Category Theory"、パラパラと読んでいます。
某輪講では、第1章のイントロをやっているようなので、それに追いつこうとしていますが、わかったようなわからないような...
ようするに、常識と思われることが書かれてあるものの、よくわからないところもある。もともとこういうのは苦手なんです。
飛ばし読みで、3.3 Historical remarksというのを読みました。これは自然言語なのでわかります。いまの集合論がなぜおかしいのかが書かれてあります。
某輪講では、第1章のイントロをやっているようなので、それに追いつこうとしていますが、わかったようなわからないような...
ようするに、常識と思われることが書かれてあるものの、よくわからないところもある。もともとこういうのは苦手なんです。
飛ばし読みで、3.3 Historical remarksというのを読みました。これは自然言語なのでわかります。いまの集合論がなぜおかしいのかが書かれてあります。
Deep Learning (26)
Ian Goodfellow , Yoshua Bengio , Aaron Courville
Deep Learning (Adaptive Computation and Machine Learning series) November 18, 2016.
ついに、第20章（最終章）までやってきました。"Deep Generative Models"です。
20.4がひとつのヤマですね。Deep Boltzmann Machinesです。テクとしては、ベルヌイ分布（0/1なので）、シグモイド関数、KLダイバージェンス、MCMC（ギプスサンプリング）、などですね。これまでの総動員。難しいですが、楽しいです。
岡谷先生の「深層学習」最終章がボルツマンマシンですが、3年前にここを読んだときは全くわかりませんでした（というか、途中でやめた）。でも、いま読むと、多少ともわかるのがうれしい。
Deep Learning (Adaptive Computation and Machine Learning series) November 18, 2016.
ついに、第20章（最終章）までやってきました。"Deep Generative Models"です。
20.4がひとつのヤマですね。Deep Boltzmann Machinesです。テクとしては、ベルヌイ分布（0/1なので）、シグモイド関数、KLダイバージェンス、MCMC（ギプスサンプリング）、などですね。これまでの総動員。難しいですが、楽しいです。
岡谷先生の「深層学習」最終章がボルツマンマシンですが、3年前にここを読んだときは全くわかりませんでした（というか、途中でやめた）。でも、いま読むと、多少ともわかるのがうれしい。
自己責任
安田純平氏が、無事に帰国されました。
ここでまた、自己責任論が出ているようですね。私はこの論調に反対します。
自己責任という言葉は、自身に対して使う言葉であり、他者に対して使うべきではありません。自戒を込めて申し上げます。
また、自己責任などとヒトにモノを言うのであれば、匿名ではいけません。これはネットの根本的な問題です。
最後に、ジャーナリストの方々がおっしゃっていますが、ジャーナリストというのは、危険を冒してそのようなところに取材に行くのだということ。なぜか？誰も行かなくなってしまったら、そこがどのような状況になっているのかわからないわけです。我々を代表して、敢えて危険なところに行っているのだと思いたいです。
ここでまた、自己責任論が出ているようですね。私はこの論調に反対します。
自己責任という言葉は、自身に対して使う言葉であり、他者に対して使うべきではありません。自戒を込めて申し上げます。
また、自己責任などとヒトにモノを言うのであれば、匿名ではいけません。これはネットの根本的な問題です。
最後に、ジャーナリストの方々がおっしゃっていますが、ジャーナリストというのは、危険を冒してそのようなところに取材に行くのだということ。なぜか？誰も行かなくなってしまったら、そこがどのような状況になっているのかわからないわけです。我々を代表して、敢えて危険なところに行っているのだと思いたいです。
サンプリングの謎 (2)
昨日（2018年11月7日）の記事にて、コメントをいただきました。
「標本平均と期待値を混同されてはいませんか？」というものです。それで、少し調べてみました。
薩摩順吉先生「確率・統計－理工系の数学入門コース7」の103ページに、「標本平均」と題して以下の記述があります。
「3-2節で定義した平均は、全体の分布がわかっているとして、その確率密度にもとづいて計算した平均である。それに対して、標本平均は、全体のことはわからないまま、その中から抽出した標本について、単に算術平均をとったものである」
なるほど、この記述によれば、私は混同しています。たいへん失礼いたしました。
私は通常の確率・統計本より、機械学習本を読むことが多いのですが、機械学習本だと、標本での平均操作を普通にやり、それを期待値とみなします。もちろん、ある分布からの標本です。ただ、実際には正しい分布はわからないので、あるモデルを仮定し、そこから標本をとってやることになります。
このあたりは、もしかしたら多少の乖離があるのかもしれません。
「標本平均と期待値を混同されてはいませんか？」というものです。それで、少し調べてみました。
薩摩順吉先生「確率・統計－理工系の数学入門コース7」の103ページに、「標本平均」と題して以下の記述があります。
「3-2節で定義した平均は、全体の分布がわかっているとして、その確率密度にもとづいて計算した平均である。それに対して、標本平均は、全体のことはわからないまま、その中から抽出した標本について、単に算術平均をとったものである」
なるほど、この記述によれば、私は混同しています。たいへん失礼いたしました。
私は通常の確率・統計本より、機械学習本を読むことが多いのですが、機械学習本だと、標本での平均操作を普通にやり、それを期待値とみなします。もちろん、ある分布からの標本です。ただ、実際には正しい分布はわからないので、あるモデルを仮定し、そこから標本をとってやることになります。
このあたりは、もしかしたら多少の乖離があるのかもしれません。
サンプリングの謎
サンプリングは、日常普通に使われます。
たとえば、ヒトの身長の平均を求めたいときは、ランダムにサンプルを抽出、それの算術平均で計算します。これは誰も疑問に思いません。
しかし、ちょっと待ってください。平均の定義は、サンプル値にその確率をかけて、サンプル数で足し合わせたものですね。
ここに乖離があるわけですが、これはモンテカルロ法でサンプルした状況と同じです。つまり、サンプリングするということは、ある確率密度から抽出するので、すでに確率が考慮されているということです。
このあたり、初歩的な確率・統計本では、きちんと説明がされていないような気がします。気のせいかな？
たとえば、ヒトの身長の平均を求めたいときは、ランダムにサンプルを抽出、それの算術平均で計算します。これは誰も疑問に思いません。
しかし、ちょっと待ってください。平均の定義は、サンプル値にその確率をかけて、サンプル数で足し合わせたものですね。
ここに乖離があるわけですが、これはモンテカルロ法でサンプルした状況と同じです。つまり、サンプリングするということは、ある確率密度から抽出するので、すでに確率が考慮されているということです。
このあたり、初歩的な確率・統計本では、きちんと説明がされていないような気がします。気のせいかな？
二項分布 (4)
二項分布 Bin(n, p)の分散は、np(1-p)です。
これを求めるには、さまざまなやり方があります。もちろん、平均の計算よりも難しい。
まず、確率変数をひとつとして分散を計算します。これは分散の定義により、
(0-p)2(1-p) + (1-p)2p = p(1-p) --- (1)
そして、式(1)をn倍してやればよいです。
数式をいじりたい人は、以下の計算をすればよろしい。
Σ(r-np)2nCrpr(1-p)n-r --- (2)
やり方はたとえば、「高校数学の美しい物語」というブログに紹介されています。このサイトの記述は素晴らしく、よく参考にします。
これを求めるには、さまざまなやり方があります。もちろん、平均の計算よりも難しい。
まず、確率変数をひとつとして分散を計算します。これは分散の定義により、
(0-p)2(1-p) + (1-p)2p = p(1-p) --- (1)
そして、式(1)をn倍してやればよいです。
数式をいじりたい人は、以下の計算をすればよろしい。
Σ(r-np)2nCrpr(1-p)n-r --- (2)
やり方はたとえば、「高校数学の美しい物語」というブログに紹介されています。このサイトの記述は素晴らしく、よく参考にします。
二項分布 (3)
二項分布 Bin(n, p)の平均は、npです。
これを求めるには、さまざまなやり方があります。たとえば、ひとつひとつの確率変数の平均はpなので、それをn倍してやればよい。これが一番簡単です。
数式をいじりたい人は、以下の計算をすればよいです。
ΣrnCrpr(1-p)n-r --- (1)
計算してやると、npになりますが、これは少しややこしいです。やり方はたとえば、「高校数学の美しい物語」というブログに紹介されています。シグマ／コンビネーション／二項定理のよい練習になります。
これを求めるには、さまざまなやり方があります。たとえば、ひとつひとつの確率変数の平均はpなので、それをn倍してやればよい。これが一番簡単です。
数式をいじりたい人は、以下の計算をすればよいです。
ΣrnCrpr(1-p)n-r --- (1)
計算してやると、npになりますが、これは少しややこしいです。やり方はたとえば、「高校数学の美しい物語」というブログに紹介されています。シグマ／コンビネーション／二項定理のよい練習になります。
横浜マラソン2018顛末記
2018年10月28日、予定どおり、「横浜マラソン2018」が開催されました。昨年は台風で中止だったので、それのリベンジです。
最初は抑えて、というか、人混みで走れず、キロ6分半ペースです。しかるに、このペースが幸いして、前半なんとかこれで乗り切りました。
さて、後半です。いつものように、やはり低速走行がもたず、25キロ付近から、歩いたり走ったりの繰り返しとなりました。結局、ネットで5時間ちょうど。平均でキロ7分でした。
コースですが、みなとみらい地区と新杉田付近を往復します。帰りは首都高速を走りました。
天気はよく、昨年のメダルももらいました。一年間どこかに保管してあったわけですね。めでたしです！
最初は抑えて、というか、人混みで走れず、キロ6分半ペースです。しかるに、このペースが幸いして、前半なんとかこれで乗り切りました。
さて、後半です。いつものように、やはり低速走行がもたず、25キロ付近から、歩いたり走ったりの繰り返しとなりました。結局、ネットで5時間ちょうど。平均でキロ7分でした。
コースですが、みなとみらい地区と新杉田付近を往復します。帰りは首都高速を走りました。
天気はよく、昨年のメダルももらいました。一年間どこかに保管してあったわけですね。めでたしです！
二項分布 (2)
昨日（2018年10月31日）、湘南工科大学の講義で、二項分布を紹介しました。
二項分布は簡単そうに見えますが、その中にさまざまな数学のテクが入っていて、重要ですね。まず、場合の数を数えるので、コンビネーションの計算が必要。これには階乗が必要です。また、確率本体の計算では、乗数の計算があり、ゼロの場合も含みます。相応の計算知識が試されるところです。
分布としては最初に出てくるわけですが、思いのほか難しいです。
二項分布は簡単そうに見えますが、その中にさまざまな数学のテクが入っていて、重要ですね。まず、場合の数を数えるので、コンビネーションの計算が必要。これには階乗が必要です。また、確率本体の計算では、乗数の計算があり、ゼロの場合も含みます。相応の計算知識が試されるところです。
分布としては最初に出てくるわけですが、思いのほか難しいです。
Deep Learning (25)
Ian Goodfellow , Yoshua Bengio , Aaron Courville
Deep Learning (Adaptive Computation and Machine Learning series) November 18, 2016.
第19章までふらふらと到着。"Approximate Inference"、です。この章は難しいです。これまでやったことが総動員されています。でも、読めないことはない。
19.4.2に変分法の説明があります。英語では"Calculus of Variations"です。情報系の方には敷居の高いところでしょう。工学では解析力学で出てくる、よく知られた理論です。
よい例としては、与えられた分散を持つ分布で、エントロピーが最大となるものはなにか、というもの。これは正規分布ですが、変分法の解法で導出されます。式(19.48)～(19.54)です。
Deep Learning (Adaptive Computation and Machine Learning series) November 18, 2016.
第19章までふらふらと到着。"Approximate Inference"、です。この章は難しいです。これまでやったことが総動員されています。でも、読めないことはない。
19.4.2に変分法の説明があります。英語では"Calculus of Variations"です。情報系の方には敷居の高いところでしょう。工学では解析力学で出てくる、よく知られた理論です。
よい例としては、与えられた分散を持つ分布で、エントロピーが最大となるものはなにか、というもの。これは正規分布ですが、変分法の解法で導出されます。式(19.48)～(19.54)です。
ゲーデルの不完全性定理 (4)
H先生による、ゲーデルの不完全性定理の特別ゼミ、第一回が2018年10月27日開催されました。新宿の某所にて。
前振りと、集合と論理の基本的なことをやったあと、カリー／ハワード対応というのをやりました。これはなにかというと、プログラミングにおける関数の記述と、論理による証明とは、かなりきれいな対応があるということです。
今後は、推測ではありますが、この対応関係を用いて、証明をプログラムで記述する、という流れになるのではないかと思います。
前振りと、集合と論理の基本的なことをやったあと、カリー／ハワード対応というのをやりました。これはなにかというと、プログラミングにおける関数の記述と、論理による証明とは、かなりきれいな対応があるということです。
今後は、推測ではありますが、この対応関係を用いて、証明をプログラムで記述する、という流れになるのではないかと思います。
立命館大学レクチャ (2)
先日（2018年10月25日）、立命館大学・びわこ・くさつキャンパスにて、industrial lectures (fall 2018)をいたしました。タイトルは、project management (general consideration) です。
最初に20分程度話したあと、参加者（2年の学生さん）にプロジェクト計画の実習をしてもらいました。具体的には、ひとりひとりにゴール設定をしてもらい、それに対して、WBSとガントチャートを作って、ホワイトボードに書いてもらいました。準備は20分、そのあとひとり3分でプレゼン。
驚くべきことに、13人のみなさんはきちんとやってくれました。出身はインドネシア3名、中国1名、韓国3名、タイ2名、バングラディシュ1名、ウガンダ1名、日本2名、でした。ホワイトボードは終了後すぐに消してしまうので、スマホで写真に撮りました。
もう一回あって、11月15日です。タイトルは、Introduction to 3DCG and stereoscopy、です。
最初に20分程度話したあと、参加者（2年の学生さん）にプロジェクト計画の実習をしてもらいました。具体的には、ひとりひとりにゴール設定をしてもらい、それに対して、WBSとガントチャートを作って、ホワイトボードに書いてもらいました。準備は20分、そのあとひとり3分でプレゼン。
驚くべきことに、13人のみなさんはきちんとやってくれました。出身はインドネシア3名、中国1名、韓国3名、タイ2名、バングラディシュ1名、ウガンダ1名、日本2名、でした。ホワイトボードは終了後すぐに消してしまうので、スマホで写真に撮りました。
もう一回あって、11月15日です。タイトルは、Introduction to 3DCG and stereoscopy、です。
今後のマラソン予定 (34)
マラソン予定のアップデートです！
１）横浜マラソン2018（フル、神奈川、2018年10月28日）←初、連れと
２）TAMAハーフマラソンat FUTAKOBASHI（ハーフ、神奈川、2018年12月1日）←二度目、単独
１）は、昨年台風で中止になったリベンジです。今回は天気はだいじょうぶそうです。
２）は、前回大ワーストだったので、記録を塗り替えるためのリベンジ。
１）横浜マラソン2018（フル、神奈川、2018年10月28日）←初、連れと
２）TAMAハーフマラソンat FUTAKOBASHI（ハーフ、神奈川、2018年12月1日）←二度目、単独
１）は、昨年台風で中止になったリベンジです。今回は天気はだいじょうぶそうです。
２）は、前回大ワーストだったので、記録を塗り替えるためのリベンジ。
立命館大学レクチャ
本日（2018年10月25日）、立命館大学・びわこ・くさつキャンパスを訪問します。
理由ですが、industrial lectures (fall 2018) で話をいたします。タイトルですが、project management (general consideration) です。ヘタな英語でやります。
呼んでくれたのが、2017年4月同大に着任したIG。彼と初めて会ったのは2000年ですから、もうそれから20年近くなりました。
理由ですが、industrial lectures (fall 2018) で話をいたします。タイトルですが、project management (general consideration) です。ヘタな英語でやります。
呼んでくれたのが、2017年4月同大に着任したIG。彼と初めて会ったのは2000年ですから、もうそれから20年近くなりました。
Visual Studio 2010 (2)
PCを新しくしたので、Visual Studioは2017の無償版を入れてみました。
私がVisual Studioを使うのは、ものつくり大学講義のときだけなので、そこで使うプロジェクトをビルドしてみました。すると、通らない...
調べてみると、いろいろと環境が変わっているようですね。2017をあえて使う必要はないので、はるか以前、正規購入した2010を入れてみました。このバージョンは、Windows 10でもメンテされています（延長サポート終了日2020年7月14日）。古いけれど、問題なし。
私がVisual Studioを使うのは、ものつくり大学講義のときだけなので、そこで使うプロジェクトをビルドしてみました。すると、通らない...
調べてみると、いろいろと環境が変わっているようですね。2017をあえて使う必要はないので、はるか以前、正規購入した2010を入れてみました。このバージョンは、Windows 10でもメンテされています（延長サポート終了日2020年7月14日）。古いけれど、問題なし。
Importance Sampling
Importance sampling、理論がいまいちよくわからず、使ったこともありませんでした。
以前、大学の授業で、モンテカルロを使った積分を教えたことがありました。円周率を求めるようなヤツです。そのあとで、
f(x) = 1/x --- (1)
の積分をやるときに、グラフを区分で分割し、長方形で近似するやりかたを説明しました。そして、式(1)の積分、つまり、
log(x) = ∫dx/x --- (2)
を計算して、両者を比較するなどをやったわけです。
さて、ここでやっと気がつきました。これはimportance samplingが使えますね。たとえば、[1,2]の区間で積分をしてやる場合、一様分布をp(x)として、
log(x) = ∫dx/x = ∫p(x)dx/(px(x)x) = E[1/x] --- (3)
として計算できるわけです。プログラミングしてみると、確かにlog(2)に近づきます。なるほど～ちょっと面白いかも。
以前、大学の授業で、モンテカルロを使った積分を教えたことがありました。円周率を求めるようなヤツです。そのあとで、
f(x) = 1/x --- (1)
の積分をやるときに、グラフを区分で分割し、長方形で近似するやりかたを説明しました。そして、式(1)の積分、つまり、
log(x) = ∫dx/x --- (2)
を計算して、両者を比較するなどをやったわけです。
さて、ここでやっと気がつきました。これはimportance samplingが使えますね。たとえば、[1,2]の区間で積分をしてやる場合、一様分布をp(x)として、
log(x) = ∫dx/x = ∫p(x)dx/(px(x)x) = E[1/x] --- (3)
として計算できるわけです。プログラミングしてみると、確かにlog(2)に近づきます。なるほど～ちょっと面白いかも。
Leibniz's rule
"Deep Learning"本にて、Leibniz's ruleが登場します。第18章599ページ。
これはなにかというと、differentiation under the integral signです。つまり、積分後に微分する場合、ある条件の下では、微分してから積分すればよろしい。条件については、測度論が出てくるので、ここは私のout of scopeです。
これは、本blogでファインマンの記事を書いたときに、コメントいただいたものです。Keith Conradの"Differentiating under the integral sign"という論文がネットで取れますが、ここに詳しく書かれてあります。
これはなにかというと、differentiation under the integral signです。つまり、積分後に微分する場合、ある条件の下では、微分してから積分すればよろしい。条件については、測度論が出てくるので、ここは私のout of scopeです。
これは、本blogでファインマンの記事を書いたときに、コメントいただいたものです。Keith Conradの"Differentiating under the integral sign"という論文がネットで取れますが、ここに詳しく書かれてあります。
モンティ・ホール問題 (2)
湘南工科大学での確率・統計の授業で、「モンティ・ホール問題」を紹介しようと思います。
前回、ベイズの定理をやったので、関連する興味ある話題、ということで、この問題を解くのにベイズを応用しようと思ったわけです。
しかしながら、これへのベイズの適用は、なかなか面倒くさいですね。問題が理解できれば、解は自明なので、どうしようかな...楽しい話なので、紹介はしようと思いますが、落としどころは思案中...
前回、ベイズの定理をやったので、関連する興味ある話題、ということで、この問題を解くのにベイズを応用しようと思ったわけです。
しかしながら、これへのベイズの適用は、なかなか面倒くさいですね。問題が理解できれば、解は自明なので、どうしようかな...楽しい話なので、紹介はしようと思いますが、落としどころは思案中...
東京理科大学大オープンカレッジ
頼まれまして、「東京理科大学オープンカレッジ」の講師を務めます。テーマは、「日本未発売の良書から解くプロジェクトマネジメント」。副題は「エンジニアに学ぶプロジェクトマネジメント」です。そう、私はエンジニア（のはず）。
この、「日本未発売の良書」というのは、以下です。
Fergus O'Connell, How to Run Successful Projects III: The Silver Bullet (3rd Edition) Paperback – January 15, 2002
本ブログにも再三登場しています。良書には間違いない。
問題は、「日本未発売」というところです。この題は、本講座を企画されたNさんによるものですが、発売はされています。アマゾンで買えますから。正確には、翻訳がない、ということです。でも、どこかにあったらどうしよう...無いということの証明はできない。
第一回は本日（2018年10月18日）です。第五回まで。
この、「日本未発売の良書」というのは、以下です。
Fergus O'Connell, How to Run Successful Projects III: The Silver Bullet (3rd Edition) Paperback – January 15, 2002
本ブログにも再三登場しています。良書には間違いない。
問題は、「日本未発売」というところです。この題は、本講座を企画されたNさんによるものですが、発売はされています。アマゾンで買えますから。正確には、翻訳がない、ということです。でも、どこかにあったらどうしよう...無いということの証明はできない。
第一回は本日（2018年10月18日）です。第五回まで。
positive phase vs negative phase
昨日の続きです。以下の式におきまして、
∇θlog p(x;θ) = ∇θlog p'(x;θ) - Ｅx～p(x)∇θlog p'(x) --- (1)
右辺第一項は"positive phase"、第二項は"negative phase"と呼ばれます。
左辺は、対数尤度のパラメタに関する微分ですから、これがゼロになったときが、最尤法におけるパラメタの最適値です。では、いつゼロになるかというと、右辺のふたつの項が釣り合ったときですね。
右辺第一項の意味ですが、これは訓練データから得られるxを使います。対して、第二項では、MCMCにより得られるxを使います（なぜか？モデル分布からのサンプルが必要なので）。なので式(1)というのは、モデルをデータに当てはめてやる過程を表現していると言えます。
"Deep Learning"本では、ここでneuroscienceの研究が紹介されます。すなわち、第一項は、ヒトが現実で経験することを表します。対して、第二項は、ヒトが寝ているとき、特にREM睡眠の状態を表します。つまりヒトというのは、現実を解釈するときには、寝ているときに、脳の持つモデルを現実に当てはめる処理をしているのではないか、ということです。
ホントかな？これはまだ、証明されていないということですが、面白い解釈をするひとがいるものです。
∇θlog p(x;θ) = ∇θlog p'(x;θ) - Ｅx～p(x)∇θlog p'(x) --- (1)
右辺第一項は"positive phase"、第二項は"negative phase"と呼ばれます。
左辺は、対数尤度のパラメタに関する微分ですから、これがゼロになったときが、最尤法におけるパラメタの最適値です。では、いつゼロになるかというと、右辺のふたつの項が釣り合ったときですね。
右辺第一項の意味ですが、これは訓練データから得られるxを使います。対して、第二項では、MCMCにより得られるxを使います（なぜか？モデル分布からのサンプルが必要なので）。なので式(1)というのは、モデルをデータに当てはめてやる過程を表現していると言えます。
"Deep Learning"本では、ここでneuroscienceの研究が紹介されます。すなわち、第一項は、ヒトが現実で経験することを表します。対して、第二項は、ヒトが寝ているとき、特にREM睡眠の状態を表します。つまりヒトというのは、現実を解釈するときには、寝ているときに、脳の持つモデルを現実に当てはめる処理をしているのではないか、ということです。
ホントかな？これはまだ、証明されていないということですが、面白い解釈をするひとがいるものです。
Deep Learning (24)
Ian Goodfellow , Yoshua Bengio , Aaron Courville
Deep Learning (Adaptive Computation and Machine Learning series) November 18, 2016.
なんとか第18章まで来ました。"Confronting the Partition Function"、つまり「分配関数」の攻略です。
最初に、以下の式が登場します。同書では、式(18.4)です。
∇θlog p(x;θ) = ∇θlog p'(x;θ) - ∇θlog Z(θ) --- (1)
要するに、確率密度を正規化したものの対数をとり、それをパラメタで微分したものです。Z(θ)が悪名高き、「分配関数」。
式(1)の第二項は、以下のように書けることが示されます。同書では、式(18.5)です。
∇θlog Z(θ) = Ｅx～p(x)∇θlog p'(x) --- (2)
このふたつの式の解釈がいろいろと書かれているわけですか、これがかなり面白いです。最初はまるでわからなかったのですが、何度も読み直すうちに、わかりました。楽しいところです。
Deep Learning (Adaptive Computation and Machine Learning series) November 18, 2016.
なんとか第18章まで来ました。"Confronting the Partition Function"、つまり「分配関数」の攻略です。
最初に、以下の式が登場します。同書では、式(18.4)です。
∇θlog p(x;θ) = ∇θlog p'(x;θ) - ∇θlog Z(θ) --- (1)
要するに、確率密度を正規化したものの対数をとり、それをパラメタで微分したものです。Z(θ)が悪名高き、「分配関数」。
式(1)の第二項は、以下のように書けることが示されます。同書では、式(18.5)です。
∇θlog Z(θ) = Ｅx～p(x)∇θlog p'(x) --- (2)
このふたつの式の解釈がいろいろと書かれているわけですか、これがかなり面白いです。最初はまるでわからなかったのですが、何度も読み直すうちに、わかりました。楽しいところです。
湘南工科大学非常勤講師 (15)
湘南工科大学の非常勤講師、後期の授業のひとつに、「確率・統計」があります。
この授業ですが、「アカデミックパス制度」を利用されている方が複数受講されています。私よりもおそらく、人生の先輩だと思われます。
なので、導入としては、できる限り日常お目にかかるような事例から入ろうとしています。たとえば、シラバスではまだ先に登場するであろう、「ベイズの定理」を先んじてやるなど、です。
この授業ですが、「アカデミックパス制度」を利用されている方が複数受講されています。私よりもおそらく、人生の先輩だと思われます。
なので、導入としては、できる限り日常お目にかかるような事例から入ろうとしています。たとえば、シラバスではまだ先に登場するであろう、「ベイズの定理」を先んじてやるなど、です。
リュックは前で背負う
私は出歩くときは、リュックを携帯します。MANHATTAN PASSAGEのもので、優れモノ。同じ型を持っているひとが何人かいらっしゃるのが気になりますが。
私は電車に乗ることが多いので、そのときは後ろではなく前に背負います。これはもう普通のマナーとなっている。
あるとき考えました。前に背負うのを、電車の中以外でもやればよいのではないかと。
なぜならば、リュックの中身を取り出すとき、いちいちリュックを外さないといけないわけです。これはかなり面倒くさい。また、電車で座るときも、同じです。スリにも逢いませんよね。逢ったことはないけれど。
私は電車に乗ることが多いので、そのときは後ろではなく前に背負います。これはもう普通のマナーとなっている。
あるとき考えました。前に背負うのを、電車の中以外でもやればよいのではないかと。
なぜならば、リュックの中身を取り出すとき、いちいちリュックを外さないといけないわけです。これはかなり面倒くさい。また、電車で座るときも、同じです。スリにも逢いませんよね。逢ったことはないけれど。
圏論 (2)
結局のところ、"Basic Category Theory"、1-clickしてしまいました。
H先生によると、日本語にしてしまうと、わかりづらい表現があるとのこと。これは原書を買ったほうがよいという意味と理解しました。H先生は否定していましたけど。でも、これがなくても、私は訳書は買わない。
H先生によると、日本語にしてしまうと、わかりづらい表現があるとのこと。これは原書を買ったほうがよいという意味と理解しました。H先生は否定していましたけど。でも、これがなくても、私は訳書は買わない。
圏論
「圏論」という数学の分野がいま注目されています。英語では"category theory"と呼ばれます。
先日（2018年10月8日）、某所にて、この分野の権威、H先生よりレクチャがありました。教科書は「ベーシック圏論」です。
私は参加したものの、よくわからないので、BGM（Back Ground Math）として聞いていました。ただ、参加者は精鋭なので、関わったほうがよいですね。もったいない。
問題は教科書です。訳書に頼りたくない私は、やはり原書？原書は"Basic Category Theory"です。アマゾンの書評を見ると、良書との評判です。
先日（2018年10月8日）、某所にて、この分野の権威、H先生よりレクチャがありました。教科書は「ベーシック圏論」です。
私は参加したものの、よくわからないので、BGM（Back Ground Math）として聞いていました。ただ、参加者は精鋭なので、関わったほうがよいですね。もったいない。
問題は教科書です。訳書に頼りたくない私は、やはり原書？原書は"Basic Category Theory"です。アマゾンの書評を見ると、良書との評判です。
