FC2ブログ

Lie群

Lie群に再チャレンジ!仕事で必要になってきた。

とある日、数学関連の集まりで、H氏が登場。このおかたは、情報処理分野では重鎮です。なにかの賞も受賞。

話の成り行きで、Lie群の話を私がしたところ、H氏は非常にわかりやすい説明をされました。

後日談としては、H氏は、かなり読者の多いブログを書かれていて、それにLie群の説明を書いてくださいました。これに登場するM氏というのは私のことなので、正しくはK氏です。
スポンサーサイト

Deep Learning (8)

Ian Goodfellow , Yoshua Bengio , Aaron Courville
Deep Learning (Adaptive Computation and Machine Learning series) Hardcover – November 18, 2016.

有志を募り、勉強会は継続!

有名な、XOR問題が丁寧に解説されています。ReLUを使った隠れ層一層で、分離可能。以前のニューラル本では、ReLUはありませんでした。確かに計算すると、分離されますが、なにか不思議な感じがしますね。

Italy (5)

My Italian friend was very busy in Japan. So I guessed we couldn't meet.

On the last day of their trip in Japan, I noticed by his email that they would watch Kabuki. Around noon on the day I came to the Higashi-Ginza station with very little hope that we might meet somewhere around there. In general it could not happen anyway.

Exiting the gate of Metro forward Kabuki-za, I found that they were coming to me without recognizing that I was here. I just said to him 'Hello !' with a hit of his shoulder. He was very surprised. Me too.

We were able to talk half an hour in Kabuki tower. I could meet his girl friend and her parents also. Again, it should not happen. Good day !

数学同好会 (12)

既に、何回開催したか不明の<数学同好会>、直近は2017年7月21日に行われました。最近は、関内ホール裏手のお店。この日は、オーナーが変わり、フレンチからイタリアンになってから初めての会。

初参加の方が三人で、合計20名と、会は盛況でした。お店は満席!

三人のなかのおひとりが、三手詰めの詰将棋をお持ちになりました。私は、中学のとき、アマ二段の人に勝ったことがあります(その後は麻雀に走る)。三手詰めというのは、一般には簡単で、間違うことはほぼありません。

でも、これは...会のなかでかなりの時間を費やしましたが、解けませんでした。この詰将棋ですが、最近の関連大会で、藤井四段が唯一間違ったという曰く付きのものだったそうです。

イラストで学ぶ機械学習 (17)

「イラストで学ぶ機械学習」、第16章は、「半教師付き学習」です。

ラプラス行列というのが主役をはります。私の疑問は、これはどのような事情で登場したか?式が簡単になるように、この形を決めたようが気がしますが...

それはさておき、この章は要するに、「総和」と「行列」の入れ替えの練習です。何を言っているかというと、

A = a(i,j) --- (1)
B = b(i,j) --- (2)

とすると、

AB = Σ(k)a(i,k)b(k,j) --- (3)

と書けます。

C = c(i,j) --- (4)

も追加すれば、

ABC = Σ(k,l)a(i,k)b(k,l)c(l,j) --- (5)

という具合です。これが解っていれば、総和記号と行列表記は行き来できるのです。添え字が逆のもので総和を取るのであれば、転置にするなど、機転を利かせます。

このようなとき、必ず総和を取るので、じゃあ、総和記号なんでやめちゃえばよいのでは?これを言い出したのが、アインシュタイン。これは、添え字が上と下でペアで出てきたときは、暗黙の了承で総和を取る、というものです。この表記だと、極めて簡単になるのです。

でも、物理以外だとこれは全く流行っていませんね。添え字が全て下であることに起因するのでしょうが、そういう細かいことは気にせずに適用したらダメなのでしょうか?

exponential mapの謎 (6)

結局のところ、exponential mapから逃れられなくなりました。なぜかというと、ある関数を、exponential mapで微分する必要が生じたからです。

もともとは、PTAM論文で知ったわけですが、ここにもきちんと書かれていないので(5.2節です)、これが参照している下記の本、

V. Varadarajan. Lie Groups, Lie Algebras and Their Representations. Number 102 in Graduate Texts in Mathematics. Springer-Verlag, 1974.

を購入しました。さ~習得するぞ!

Audition

'La La Land'の音楽、歌詞もすばらしいです。

ちょっと、トラブルメーカな人、近くにいらっしゃいませんか?私の周りにもいらっしゃいます。誰かはもちろん言いません(実は私も?)。

そういう人に困ったとき、ヒントになりそうなのが、エマ・ストーンが歌う、'Audition'。映画で、ここが一番好きなところです。

英語なので、よくわからないところもありますが、例えば、

A bit of madness is key to give us new colors to see.

こういう捉えかたもあるんですね。

強化学習

アメリカ人で、機械学習について研究している人と、定期的に会う機会ができました。

最近の雑談から。「reinforcement learningに興味あるか?」と訊かれたので、それはあると言うと、DeepMindの話になりました。AlphaGoが囲碁を制したのは報道されたとおりですが、そのあと彼らは、「汎用AI」へ...

では、「汎用AI」とは?AlphaGoは、いくら強いとは言え、囲碁というルールがあってこその存在です。なので、これは「専用AI」。「汎用AI」とは、自らルールを作り出していく。でも、どうやって?それが、reinforcement learning、日本語では、強化学習と言われるしくみです。

勝手にコミュニケーションを取っていくエージェントとか、彼はさまざまな先端の研究を知っていて、私のヘタな英語でも、大いに参考になります。じゃあ、AIは今後ヒトを超えるのか?そこで、ペンローズの「皇帝の新しい心」を読んだかと訊くと、彼は読んでいて、当時のAIは否定的な面が言われていて、そのようなことが影響しているのではないか、との見解。

私はいまだに、「皇帝の新しい心」には、真実が隠されていると思っていますが、それを詳しく説明するには、私の英語力を超えますから、自然に別の話題となりました。具体的には、トヨタやアップルのAIへの取り組み。

梅田ハイボール

最近の大阪出張のおり、常連となったのが、「梅田ハイボール」のお店。梅田ヨドバシのすぐそばです。

その名のとおり、ハイボールがウリです。というわけで、普段はハイボールを飲まない私でも、こちらではハイボール。620円です。

ところで、先日、お店の中で、パソコンを取り出そうとしたのですが、するとお店の女性が近づいてきて、「こちらではパソコン使用は禁止されています」とのことでした。え!そうなんですか?というわけで、そそくさとたたみました。

梅田仕様かと思ったら、そうでもないみたいです。気を付けましょう。

ベイズ統計の理論と方法

ベイズは多少ともかじってきて、ある程度は解ったと思っていました。

しかるに、ある方から、「ベイズ統計の理論と方法(2012)」という本を教えてもらいました。渡辺澄夫先生(東工大)による書籍です。

どれどれと見てみると、私の自信は、見事に砕けました。いきなり3ページに、「逆温度」という用語が出てきて、??

どうも、ベースが物理のようですね。はたして、著者のご出身は物理です。私がこれまで読んできた書物は、どちらかと言うと、情報系の方のものだったのです。

でも、面白そうなので、がんばって読破します!

MF-Tokyo 2017

当社で開発したソフトウェアが、MF-Tokyo 2017(東京ビッグサイト)で出展されます。3D CAD関連ソフトです。

私は、明日(2017年7月15日)に、見にまいります!

日本VR医学会

2017年8月26日(土)、日本VR医学会・学術大会が開催されます。会場は、芝浦工業大学・芝浦キャンパス。大会長は、同大の足立先生です。

最近、医療系の仕事が増えてきたので、勉強のため、参加しようと思います。事前登録は完了。

Mathematica (11)

2017年7月8日、久しぶりに、'Mathematicaカフェ'に参加しました。月イチ開催、第59回です。主催は、Mathematicaの達人、松田裕幸さん。初参加の記事はこちらです(↓)。

http://kanouy.blog9.fc2.com/blog-entry-1254.html

ご発表は、松田さんを含め四名。いずれもレベルの高い内容です。しかし、この集会のメンバと言ったら...。ちょっとハンパない方々です。

Italy (4)

My Italian friend is coming to Japan.

We met him in Pisa in GW last year. We were invited to his family's house for dinner. Also the next day he kindly took us for sightseeing close to Pisa.

I really hope I will see him soon in Japan !

関西出張 (18)

今週(2017年7月10~14日)は、関西に二回行くことになりました。元々は私の判断ミス。

まず、金曜日に用(大阪)が入ると推測、それに合わせ、木曜日にアポを取りました(神戸)。この時点では、木と金に行けばよい。

ところが、金曜日の用が、月曜日になりました。火曜日の午後は元々都内で用が入っているので、ここで二度関西行きが確定。

普通では、木曜日の用を月か火にずらすのでしょうが、私はそうは致しません。私からお願いしたことですし、一度決めたアポはそうそう変えない。これも何かの縁です。

結果としては、火曜日の午前と金曜日の午前、大阪でアポを入れました。さらに、もう一つ西宮でアポを入れようとしています。おかげさまで、充実した週になりそうです。

立体映像技術研究会

2017年7月4日、立体映像技術研究会に参加しました。名古屋大学、東山キャンパスにて。

参加者は知り合いが多いです。3Dブームは去りましたが、一方では、VRが流行っています。さて、このあとどうなるのでしょうか。

見学会は、藤井先生の研究室です。テンソル・ディスプレイを初めて見ました。5x5多眼カメラ画像(640x480)を、11x11に拡大したのち、3層ディスプレイに振り分けます(非負テンソル分解)。きれいな裸眼立体です。素晴らしい技術です。

東京都議会議員選挙

2017年7月2日の東京都議会議員選挙、衝撃的な結果でした。ある程度は予想されていましたが、ここまでとは...

都民ファーストは、公認50人のうち、49人が当選しました。当選率98%。これはもしかしたら、ある程度の人数以上(たとえば50人以上)の選挙では、新記録かもしれません。どこかに統計はないのでしょうか。

ところで、つねにマイナーな部分を意識してしまうわたしは、唯一ひとり落選したヒトに興味が移りました。こんな追い風でも落選するとは?おそらく、複数定員のところで、ふたり候補を立て、ひとりが落ちたのでは、などと思いましたが、気になって、朝日の東京版を買いました。神奈川版だとここまでの詳細は掲載されません(いちおう地方選なので)。

これで真相がわかりました。落ちた方の選挙区は、「島部」です。つまり、大島、利島、新島、他計9島。ここでは、自民の現職が、ダブルスコアで当選。小池旋風も、さすがに島部までは届かなかった?

平面の当てはめ (2)

湘南工科大学の非常勤講師、夏季集中のカリキュラムを検討中。線形代数です。

内容は、ベクトルと行列です。難しいことはやらず、かつ実用的な題材を提供したい。社会で役立つものです。

そこでですが、まず前半は、三次元の幾何学をやります。ここでの登場人物は、点/平面/直線。ここで、ベクトルを習得してもらう。実際の応用ではn次元になるので、次元数によらない計算技術の習得を目指します。

そして、後半。ここで行列を出すわけですが、ここでの題材をどうするか?いろいろ考えて、共分散行列を登場させようと思いました。難しいって?そうなんですが、実用上、これ以上に重要な行列はないはず。何とか主成分分析まで持っていきたい。なので、固有値問題をかすります。難しいかな?でも、固有値問題って、何に使うのか、知らないひとが多いんです。登場のステージとしては、うってつけだと思います。

ここまで済ませたとして、最後のネタで、前半と後半を融合させたいと考えました。そこで思いついたのが、以下のもの。

http://kanouy.blog9.fc2.com/blog-entry-577.html

これ、締めとして、よくないですか?

イラストで学ぶ機械学習 (16)

「イラストで学ぶ機械学習」、第15章は、「オンライン学習」です。これまでも難しかったのが、ついに「発展的話題」に突入!

まず、15.1 受動攻撃学習。これは日本語として意味が取れるのでしょうか。原語は英語なのでしょうから、こちらを知りたい。それから、なぜ二乗ヒンジ損失を使っているのか?

15.2 適応正則化学習では、泣きたくなるような、ガウシアン同士のKLダイバージェンスの計算が登場。170ページ最初の式ですが、さすがにこれを自前で導出する気力も技量もないので、'The Matrix Cookbook'、を参照しました。'The Matrix Cookbook'の関連記事はこちら(↓)。

http://kanouy.blog9.fc2.com/blog-entry-1520.html
http://kanouy.blog9.fc2.com/blog-entry-1494.html

同書の式を導出するには、'The Matrix Cookbook'、式(380)を使えばできます。最後の項の奇妙なd(次元数)は、単位行列のトレースの結果です。

Deep Learning (7)

Ian Goodfellow , Yoshua Bengio , Aaron Courville
Deep Learning (Adaptive Computation and Machine Learning series) Hardcover – November 18, 2016.

有志を募り、勉強会をすることにしました。私は怠け者なので、こうでもしないと読まないです。言い出しっぺなので、私が最初の第2~5章を担当しました。

第2章は、Linear Algebraです。ここは基本なので、特に難しくありません。でも、最後に紹介されていたPCAの説明は、面白いです。45~49ページ。つまり、次元の圧縮・伸長をしてやることで、PCAを導こうという試み。通常の線形代数本には載っていないと思います。

でもこれ、どこかでお目にかかったな...そうです!これは、「イラストで学ぶ機械学習」、第13章のやり方です。こちらのほうが、一般的な取り扱いをしています(この扱いは、DL本ではexerciseとなっている)。やはり「イラスト...」は凄い本ですな。
プロフィール

加納裕(かのうゆたか)

Author:加納裕(かのうゆたか)


[略歴]
1983年3月東京工業大学工学部機械物理工学科卒業
1983年4月(株)図研入社
1987年1月同社退社
1987年2月(株)ソリッドレイ研究所を6名で設立、取締役
1994年3月同社退社
1994年4月(株)スリーディー入社
1996年10月同社取締役
1999年12月上海大学兼務教授
2002年10月同社代表取締役
2009年9月ものつくり大学非常勤講師~現在
2009年10月同社代表退任/退社
2010年1月ソフトキューブ(株)入社~現在(技術顧問)
2017年4月湘南工科大学非常勤講師~現在


[業界団体・学会活動]
電気学会・第三期次世代インタラクティブディスプレイ協同研究委員会(幹事)/最先端表現技術利用推進協会・アカデミック部会(旧:三次元映像のフォーラム)(副部会長)/日本バーチャルリアリティ学会ハプティクス研究委員会(委員)/ACM・SIGGRAPH(Professional Member)/情報処理学会(正会員、CVIM会員)/3Dコンソーシアム(賛助会員)/3DBiz研究会(個人賛助会員)/URCF(特別会員)

----------------

前職:立体映像産業推進協議会(幹事)/日本バーチャルリアリティ学会・論文委員会(委員)


[資格]
TOEIC805点
数学検定1級(数理技能)
中型・普自二免許
サッカー4級審判員

最新記事
最新コメント
最新トラックバック
月別アーカイブ
カテゴリ
検索フォーム
RSSリンクの表示
リンク
ブロとも申請フォーム

この人とブロともになる

QRコード
QRコード