FC2ブログ

ものつくり大学非常勤講師 (7)

ものつくり大学非常勤講師ですが、来年度(2016年)のシラバス作成の依頼がありましたので、引き続きやります。

2009年からなので、8年めになってしまいました。How time flies.
スポンサーサイト

誤植

先日、本屋さんでベイズネット本を見ていたら、もともと購入予定でなかった本が、目に留まりました。

パラパラとみてみると、なにやら良さそうな雰囲気です。というわけで、私には珍しく、その場で購入。第一刷なのが少し気になりましたが...

帰りの電車で読み始めると、すぐ、明らかに誤植と思われる数式を発見しました。無知な私でも、この程度は自分で修正できます。自宅に戻って、出版社の正誤表を確認してみると、はたして、当該箇所が修正されていました。まずは納得。

日をおいて、私がよく行く地元の本屋さんに行くと、同じ本が置いてありました。ここに置かれていたのは、第二刷本。いや~な予感がして、上記誤植箇所を見てみると、これはきちんと直っていました。なんか、損した気分...

いま流行りの、確率・統計・機械学習本は、数式がたくさん記載されており、複雑なので、第一刷での誤植はやむを得ないです。これが、出版社によっては、かなり早く修正されます。なので、余裕があれば、第一刷は見送るのがよいですね。

IBIS2015

昨年(2014年)参加してみた、IBIS(Information-Based Induction Sciences:情報論的学習理論ワークショップ)、たいへんためになったので、今年も参加することにしました。昨年の記事はこちら(↓)。

http://kanouy.blog9.fc2.com/blog-entry-1222.html

今年の、「第18回情報論的学習理論ワークショップ(IBIS2015)」は、2015年11月25~28日、つくば国際会議場にて。

昨日は初日でした。こんな楽しいワークショップはほかにない!まことに知的好奇心を擽ります。知り合いがひとりもいないのも、ひとりを好む私にはうってつけ?

すべて難しい話で、よくわからなかったので、最後の「企画セッション2」について。博士課程の学生さん3人に招待講演をしてもらったあと、パネルがありました。そこで、オーガナイザー・佐藤一誠先生が、「最近のAI(またはDL)のブームについて一言」と、3人に振りました。要するに、専門の方々に言わせると、いまのブームはちょっと走り過ぎではないか、ということでしょうか。というのも、同先生は、先日の某コンファレンスで、DL一色に染まった中、Gaussian processについて講演された方ですからね。

http://kanouy.blog9.fc2.com/blog-entry-1416.html

Pattern Recognition and Machine Learning (10)

Gaussianのさまざまな計算の際、共分散行列(これは対称行列)Σの逆行列が、対称行列であることを利用します。

BishopのPRML、85ページに、以下の記述があります。

"... the inverse of a symmetric matrix is also symmetric, ..."

さらっと書かれていて、自明なのでしょうが、私にとっては必ずしも自明ではなかった。というわけで、苦手な証明をします。

まず、「逆」と「転置」は可換であることの証明。

I = Σ-1Σ = (Σ-1Σ)T = ΣT(Σ-1)T --- (1)

いわゆる、'transpose trick'を使っています。式(1)の左から、(ΣT)-1をかけると、

(ΣT)-1 = (Σ-1)T --- (2)

が示されました。この結果は、Σが対称行列でなくても成り立ちます(その属性は使ってない)。

さて、式(2)を使うと、

(Σ-1)T = (ΣT)-1 = Σ-1 --- (3)

となり、最初のBishopの主張が証明されました。自明な方には申し訳ありません!

Pattern Recognition and Machine Learning (9)

なんだかんだ言っても、確率分布の基本は、Gaussianですね。というわけで、いまさらながら、Gaussian、復習してみた。

マテリアルは、やはり、C. M. Bishop、"Pattern Recognition and Machine Learning (2006)"、でしょう。79ページに以下の記述があります。

"...we strongly encourage the reader to become proficient in manipulating Gaussian distributions using the techniques presented here as this will prove invaluable in understanding the more complex models presented in later chapters..."

まことに気合いの入った文章です。そこで、多変数(multivariate)の、条件付き(conditional)と周辺(marginal)分布、それぞれの計算をフォローしてみました。面倒くさそうなところなので、これまで避けていたのですが、やはり一度は通らないといけない。

PRMLでは、78-93ページです。ここは難しいです。というか、やっていることは難しくはないのですが、計算がヘビーです。これ、いろいろな技術の習得になるかも!要素技術がてんこ盛りなので、大学での確率演習にうってつけかもしれません。目的のはっきりしない、ヘタな線形代数をやるより、よほどよい。

というわけで、ひととおりやりました。いままでわかったつもりになっていても、きちんとやると、理解度が違います。上記Bishopさんのコメントは誠に正しいです。

一般化最小二乗法 (4)

ところで、以前の記事(↓)ですが、

http://kanouy.blog9.fc2.com/blog-entry-925.html

J = (Ax - b)TW(Ax - b) --- (1)

CWに変えています。重みなので。

上記記事をみると、おバカなやりかたをしてますね。当時、式変形のテクがなかった(情けない)...正しくは、以下です。

J = (Ax - b)T(WAx - Wb) = (Ax, WAx) - (Ax, Wb) - (b, WAx) + (b, Wb) --- (2)

Jに1/2をかけたものを、Jとおきなおして(定番のやりかた)、式(2)をさらに変形します。

J = (1/2)(x, ATWAx) - (x, ATWb) + (1/2) (b, Wb) --- (3)

ここまでいくと、微分ができて、

dJ/dx = ATWAx - ATWb --- (4)

式(4)をゼロとおいて、xで整理してやると、

x = (ATWA)-1ATWb --- (5)

と、xが求められました。オシマイ!

一般化最小二乗法 (3)

最小二乗法で、各点の重み付けがされているものを解こうとしました。でも、これ、結構厄介です。総和を外したり、成分に分解などしていると、わけがわからなくなるので、困ったときの、「イラストで学ぶ機械学習」、参照してみました。ちゃんとありました。21~23ページです。結果も記載されています。

でも、結果の23ページ1行目、なにかおかしい。一般逆行列のマークのところは、ただの逆行列のはず。ウェブにアップされている正誤表には記載がないので、出版元(講談社)に連絡してみました。そうしたらすぐに、丁寧な回答をいただきました(講談社、すばらしい!)。内容は、一般逆行列は逆行列を持つ場合には、逆行列になるので、これで問題ない、とのことでした。大は小を兼ねる、ということであれば、確かにそのとおりなのですが、この場合、逆行列ではなく、一般逆行列でないといけない場合があるのでしょうか?正方行列なので、ちょっと腑に落ちなかったのですが、そのあと考えてみたら、確かに重みによっては、逆行列を持ちません。ここまで考慮した上での記述なのでしょうか。いずれにせよ、回答をいただけたことに、感謝しています。

この手法は、「重み付き最小二乗法」とされていますが、私は同じような記事を以前書いているので、タイトルのような用語とさせていただきました。関連する以前の記事はこちらです(↓)。

http://kanouy.blog9.fc2.com/blog-entry-925.html

Inter BEE 2015

Inter BEE (International Broadcast Equipment Exhibition)、本日(2015年11月18日)、行ってきます!某所の出展サポートでございます。場所は幕張なので、ちょっと遠い。

夜に懇親会がありますが、なにやら面白いものが観られるそうです。なんだろう?

8K3D

立体協にて、"2015 Media Technology"に行ってきました。9名の参加者です。場所は、渋谷ヒカリエ9F、2015年11月12日夜のことです。

注目は、"8K3D Theater feat. サカナクション"'です。文字通り、8K3Dの上映。5~10分くらいです。

映像は非常に楽しめました。気になったのが、ライブの模様が3D化されていたのですが、よくあるように、ミニチュアサイズで浮いていたこと。知りたいのは、これ(=ミニチュアサイズ)が意図された効果であったのか、ということです。

もしかしたら、企画者は、実寸大での3Dを期待していたのではないでしょうか。なぜならば、ステージのようなセッティングがあったからです。でも、映像はステージの上に、ミニチュアで浮いていた。これはこれでよいです。楽しい。でも、当初の意図は?

仮にライブを、ヒトの眼間距離に置かれたふたつのカメラで撮ったとしても、撮影時と上映時で、視野角が異なると、サイズが変わります。もっと言えば、撮影時の視野角>上映時の視野角、であれば、ミニチュアとなる。

この点は、観たあと(さらに飲んだあと)に、ヒカリエの高級茶漬け(千円もした)を食べながら、伊達さん(NTT)と議論して、決着つかずでした。真実をご存じの方、ぜひ教えてください!

関連の記事をかなり前に書きました(↓)。

http://kanouy.blog9.fc2.com/blog-entry-198.html

マルコフ確率場モデリングの数理と応用

先日(2015年11月12日)、「マルコフ確率場モデリングの数理と応用」というセミナーに参加してきました。早稲田大学・西早稲田キャンパスにて。

これは恐らくですが、文科省「新学術領域研究」である、「スパースモデリングの深化と高次元データ駆動科学の創成」に関連したものですね。こちらのサイトのニュースに出ていましたから。私が知ったのは、別のMLですが。

タイトルからして、非常に専門的な様相なので、そんなに聴衆はいないのではと思っていたのですが、果たして、かなり大きな会議室が満員でした。主催者によると、140人が登録、そのうち、1/3が企業からの参加だったそうです。7人の講演者は全て大学からなので、ちょっと面白い雰囲気。やはり機械学習、引き続きブームのようです。というか、ブームではなく、データ処理は全てこちらに向かう。

内容ですが、無料とは思えない充実した内容でした。最初にマルコフ確率場(MRF)というのを知ったのが、BishopのPRMLを読んだときでしたが、まるでわかりませんでした。これは、概要ではありますが、わかりました。また、最近ではボルツマンマシンもわからなかったのですが、これも概要がわかりました。やはり、なにもわからないところから、自分だけで学習するのは非効率です。最初は、専門家の話を聴いたほうがよいですね。

データ解析のための統計モデリング入門 (4)

「データ解析のための統計モデリング入門(2012)」、結局は、一日で読めてしまった。やはり、一度読んでいると違います。以前読んだとき、わかったような、わからないような...というところも、今回はわかりました。

でも、まだあまり納得のいかないところがありますね。一応、階層ベイズまではクリアしました。なんてことはない、パラメタが階層化されているだけです。ヒトの思考に合ってます。

階層ベイズについては、もう一冊、英語本を読む予定です(というか、いま読んでる)。把握したら、またご報告いたします!

データ解析のための統計モデリング入門 (3)

「データ解析のための統計モデリング入門(2012)」、一度はわかったつもりになって、amazonに偉そうに書評も書いて、某所に寄付しかかったのですが(実際に寄付した)、実はわかっていないことに気づき、引き取って、読み直しています。

一度読んでいますし、以前よりも関連知識は付いているので、6章までは、数時間程度でパパッと流れました。ここまではやさしい。基本編。

本書の本題は、7章からです。ここからを習得しなければ、実戦には対応できないのであります。

WebGL (2)

SIGGRAPH ASIA 2015にて、Googleによる、WebGLのcourseを聴いてきました。WebGLに関する以前の記事はこちら(↓)。5年以上前です。

http://kanouy.blog9.fc2.com/blog-entry-70.html

まず、ほぼ全てのソフトウェアが、web basedになるであろうというのが私の予想です。では3Dはどうなるか?その答えがWebGLです。私の予想は当たらないのですが、技術的なアドバンテージを考えれば、WebGLとなる。もっとも、技術の変遷は、必ずしも技術だけの問題ではないことは、歴史が証明するところです。でも、WebGLは、Googleが担いでいるんだから、イケる確率は高い。

WebGL 1.0はOpenGL ES 2.0ですが、WebGL 2.0というのがあって、これはOpenGL ES 3.0です。

WebGLのステッカーをもらったので、パソコンに貼りました!

KKE Vision 2015

先日(2015年10月29日)、構造計画研究所殿主催による、「KKE Vision 2015」に行ってきました。昨年度も参加して、大いにためになったので、連続の参加です。場所はヒルトン東京(西新宿)。観光客のガイジンさんが多く泊まるところです。

基調講演の、合原一幸先生(東大教授)による、「最先端数理モデル学に基づく、数理知の統合とその社会への応用」に、ぜひ触れなければなりません。非常にためになりました。私が聴いた講演では、この一年でbest?

最初に、先生著「社会を変える驚きの数学(2008)」について言及されました。この本は読みました。小田原駅で、新幹線待合室のキオスクで買ったのを覚えています(読んだあと、売却)。先生は、「これは売れると思ったのだけれど、まったく売れなかったので、驚いた」とのことでした(本の題名にかけた)。ジョークも楽しい。でも、そのあと売れたみたいです。最近、続編?も登場。

講演内容は、非線形の話です。前半はカオスの説明。後半は応用ですね。病気になる前に、病気になるであろうことを予測するという研究に、興味を持ちました。これができれば、素晴らしいことです。同じ原理での、地震予知の話も出ましたが、ここには書きません。

合原先生による研究成果をまとめた書籍が、Springerから出ています。以下です。買おうかな...

Analysis and Control of Complex Dynamical Systems: Robust Bifurcation, Dynamic Attractors, and Network Complexity (Mathematics for Industry)

第19回大阪・淀川市民マラソン顛末記

2015年11月1日、第19回大阪・淀川市民マラソン走ってきました(フル)。昨年に続き、3度めです。昨年の記事はこちら(↓)。

http://kanouy.blog9.fc2.com/blog-entry-1212.html

当日の朝、ホテルまで、中学時代の友人Kが来てくれました。私は中学は鹿児島でしたが(3年の3学期めだけ東京)、Kはいま大阪在住です。Kは当時、駅伝部、私はサッカー部でした。

一週間前は、雨の予想でしたが、それが徐々にずれてきて、当日はほぼ快晴。天気がよければ、あとはなんでもいいです。気持ちよく、完走しました。タイムは昨年と同じくらいです。

Kはゴールで待っていてくれて、帰りにビールで乾杯いたしました。キャッシュがなかったので、奢ってもらってしまった。次回返します。

SIGGRAPH[ASIA]2015 (8)

昨日(2015年10月5日)は、SIGGRAPH ASIA 2015、の最終日でした。最終日というのは、いつもそうですが、何か寂しいです。

午前は、papers二件。"Shapes and Images"と"Simulation in Subspaces"です。こりゃ~また難しい。Krylov部分空間の話が出てきましたが、これはいま勉強中。

午後も、引き続きpapers。"Deformable Models (Closing Session)"です。これは興味ある話題なので、かなり真剣に聴きました。

SIGGRAPH[ASIA]2015 (7)

昨日(2015年10月4日)は、SIGGRAPH ASIA 2015、の三日目でした。

午前は、papers二件。"Video Processing"と"Sampling and Light Transport"です。双方とも難しい話題です。というか、すべてのpapersが難しいですが。

午後は、coursesです。Googleさんによる、"Building 3D Web Applications using WebGL"。いまはともかく、将来的にはこれで決まりでしょうね。一人目の方(ChromeロゴにTシャツ)のプレゼン、すばらしい。さすがGoogle。ちなみに、二人目の方、早口でフォローがたいへんでした。でも、だんだんと慣れてきた。途中から、three.jsの話になりましたが、これは、「CG入門」という感じ。私が某大学の講義でやっているようなことです。

SIGGRAPH[ASIA]2015 (6)

SIGGRAPH ASIA 2015、参加してます。面白い!

初日(2015年11月2日)は、まずcoursesを聴きました。"Vector Field Processing on Triangle Meshes"です。これは、閉多面体上の微分幾何です。前半は、通常の微分幾何学の超quick course!平行移動/共変微分/測地線、など定番の話題です。

講師はたぶん、CALTECの方だと思います。私は、小林昭七先生の「曲線と曲面の微分幾何」を読んでいるので、ある程度の知識はあります。実際、大体はわかったのですが、難しいところもありました。しかし、さすがCALTECの先生です。この方の連続講義を聴きたい!どこかにビデオのコースはないのかな?

初日最後の恒例、fast forwardですが、これが後半、ビデオ再生がトラブりました(よくある)。ここで面白いのが、トラブられた発表者の対応。そのまま読み上げて終わるツワモノ。ぼーっと立っているヒト。クレームを付けに行ったと思われる猛者、さまざまです。

二日めは、まずkeynote。そのあとpapersやexhibition talks(Khronos)を回りました。最後はシアターです。クオリティ高すぎます。私のベストは、最初に上映された、"Flaw"。

レセプションは、かなり広い会場ではありましたが、それ以上に参加者が多く、食べ物が取れない!結局のところ、ワインだけは飲んで、有志で三ノ宮で食べ直しました。

SIGGRAPH[ASIA]2015 (5)

本日(2015年11月2日)は、早朝に、大阪から神戸に移動、ホテルに荷物を預けてから、SIGGRAPH ASIA 2015会場(神戸コンベンションセンター)にまいります。10時から、東芝・奥村さんの、Head-Up Displayに関するWorkshopがあるので、それに参加しなければ!
プロフィール

加納裕(かのうゆたか)

Author:加納裕(かのうゆたか)


[略歴]
1983年3月東京工業大学工学部機械物理工学科卒業
1983年4月(株)図研入社
1987年1月同社退社
1987年2月(株)ソリッドレイ研究所を6名で設立、取締役
1994年3月同社退社
1994年4月(株)スリーディー入社
1996年10月同社取締役
1999年12月上海大学兼務教授
2002年10月同社代表取締役
2009年9月ものつくり大学非常勤講師~現在
2009年10月同社代表退任/退社
2010年1月ソフトキューブ(株)入社~現在(技術顧問)
2017年4月湘南工科大学非常勤講師~現在


[業界団体・学会活動]
電気学会・第三期次世代インタラクティブディスプレイ協同研究委員会(幹事)/最先端表現技術利用推進協会・アカデミック部会(旧:三次元映像のフォーラム)(副部会長)/日本バーチャルリアリティ学会ハプティクス研究委員会(委員)/ACM・SIGGRAPH(Professional Member)/情報処理学会(正会員、CVIM会員)/3Dコンソーシアム(賛助会員)/3DBiz研究会(個人賛助会員)/URCF(特別会員)

----------------

前職:立体映像産業推進協議会(幹事)/日本バーチャルリアリティ学会・論文委員会(委員)


[資格]
TOEIC805点
数学検定1級(数理技能)
中型・普自二免許
サッカー4級審判員

最新記事
最新コメント
最新トラックバック
月別アーカイブ
カテゴリ
検索フォーム
RSSリンクの表示
リンク
ブロとも申請フォーム

この人とブロともになる

QRコード
QRコード