Audition

'La La Land'の音楽、歌詞もすばらしいです。

ちょっと、トラブルメーカな人、近くにいらっしゃいませんか?私の周りにもいらっしゃいます。誰かはもちろん言いません(実は私も?)。

そういう人に困ったとき、ヒントになりそうなのが、エマ・ストーンが歌う、'Audition'。映画で、ここが一番好きなところです。

英語なので、よくわからないところもありますが、例えば、

A bit of madness is key to give us new colors to see.

こういう捉えかたもあるんですね。
スポンサーサイト

強化学習

アメリカ人で、機械学習について研究している人と、定期的に会う機会ができました。

最近の雑談から。「reinforcement learningに興味あるか?」と訊かれたので、それはあると言うと、DeepMindの話になりました。AlphaGoが囲碁を制したのは報道されたとおりですが、そのあと彼らは、「汎用AI」へ...

では、「汎用AI」とは?AlphaGoは、いくら強いとは言え、囲碁というルールがあってこその存在です。なので、これは「専用AI」。「汎用AI」とは、自らルールを作り出していく。でも、どうやって?それが、reinforcement learning、日本語では、強化学習と言われるしくみです。

勝手にコミュニケーションを取っていくエージェントとか、彼はさまざまな先端の研究を知っていて、私のヘタな英語でも、大いに参考になります。じゃあ、AIは今後ヒトを超えるのか?そこで、ペンローズの「皇帝の新しい心」を読んだかと訊くと、彼は読んでいて、当時のAIは否定的な面が言われていて、そのようなことが影響しているのではないか、との見解。

私はいまだに、「皇帝の新しい心」には、真実が隠されていると思っていますが、それを詳しく説明するには、私の英語力を超えますから、自然に別の話題となりました。具体的には、トヨタやアップルのAIへの取り組み。

梅田ハイボール

最近の大阪出張のおり、常連となったのが、「梅田ハイボール」のお店。梅田ヨドバシのすぐそばです。

その名のとおり、ハイボールがウリです。というわけで、普段はハイボールを飲まない私でも、こちらではハイボール。620円です。

ところで、先日、お店の中で、パソコンを取り出そうとしたのですが、するとお店の女性が近づいてきて、「こちらではパソコン使用は禁止されています」とのことでした。え!そうなんですか?というわけで、そそくさとたたみました。

梅田仕様かと思ったら、そうでもないみたいです。気を付けましょう。

ベイズ統計の理論と方法

ベイズは多少ともかじってきて、ある程度は解ったと思っていました。

しかるに、ある方から、「ベイズ統計の理論と方法(2012)」という本を教えてもらいました。渡辺澄夫先生(東工大)による書籍です。

どれどれと見てみると、私の自信は、見事に砕けました。いきなり3ページに、「逆温度」という用語が出てきて、??

どうも、ベースが物理のようですね。はたして、著者のご出身は物理です。私がこれまで読んできた書物は、どちらかと言うと、情報系の方のものだったのです。

でも、面白そうなので、がんばって読破します!

MF-Tokyo 2017

当社で開発したソフトウェアが、MF-Tokyo 2017(東京ビッグサイト)で出展されます。3D CAD関連ソフトです。

私は、明日(2017年7月15日)に、見にまいります!

日本VR医学会

2017年8月26日(土)、日本VR医学会・学術大会が開催されます。会場は、芝浦工業大学・芝浦キャンパス。大会長は、同大の足立先生です。

最近、医療系の仕事が増えてきたので、勉強のため、参加しようと思います。事前登録は完了。

Mathematica (11)

2017年7月8日、久しぶりに、'Mathematicaカフェ'に参加しました。月イチ開催、第59回です。主催は、Mathematicaの達人、松田裕幸さん。初参加の記事はこちらです(↓)。

http://kanouy.blog9.fc2.com/blog-entry-1254.html

ご発表は、松田さんを含め四名。いずれもレベルの高い内容です。しかし、この集会のメンバと言ったら...。ちょっとハンパない方々です。

Italy (4)

My Italian friend is coming to Japan.

We met him in Pisa in GW last year. We were invited to his family's house for dinner. Also the next day he kindly took us for sightseeing close to Pisa.

I really hope I will see him soon in Japan !

関西出張 (18)

今週(2017年7月10~14日)は、関西に二回行くことになりました。元々は私の判断ミス。

まず、金曜日に用(大阪)が入ると推測、それに合わせ、木曜日にアポを取りました(神戸)。この時点では、木と金に行けばよい。

ところが、金曜日の用が、月曜日になりました。火曜日の午後は元々都内で用が入っているので、ここで二度関西行きが確定。

普通では、木曜日の用を月か火にずらすのでしょうが、私はそうは致しません。私からお願いしたことですし、一度決めたアポはそうそう変えない。これも何かの縁です。

結果としては、火曜日の午前と金曜日の午前、大阪でアポを入れました。さらに、もう一つ西宮でアポを入れようとしています。おかげさまで、充実した週になりそうです。

立体映像技術研究会

2017年7月4日、立体映像技術研究会に参加しました。名古屋大学、東山キャンパスにて。

参加者は知り合いが多いです。3Dブームは去りましたが、一方では、VRが流行っています。さて、このあとどうなるのでしょうか。

見学会は、藤井先生の研究室です。テンソル・ディスプレイを初めて見ました。5x5多眼カメラ画像(640x480)を、11x11に拡大したのち、3層ディスプレイに振り分けます(非負テンソル分解)。きれいな裸眼立体です。素晴らしい技術です。

東京都議会議員選挙

2017年7月2日の東京都議会議員選挙、衝撃的な結果でした。ある程度は予想されていましたが、ここまでとは...

都民ファーストは、公認50人のうち、49人が当選しました。当選率98%。これはもしかしたら、ある程度の人数以上(たとえば50人以上)の選挙では、新記録かもしれません。どこかに統計はないのでしょうか。

ところで、つねにマイナーな部分を意識してしまうわたしは、唯一ひとり落選したヒトに興味が移りました。こんな追い風でも落選するとは?おそらく、複数定員のところで、ふたり候補を立て、ひとりが落ちたのでは、などと思いましたが、気になって、朝日の東京版を買いました。神奈川版だとここまでの詳細は掲載されません(いちおう地方選なので)。

これで真相がわかりました。落ちた方の選挙区は、「島部」です。つまり、大島、利島、新島、他計9島。ここでは、自民の現職が、ダブルスコアで当選。小池旋風も、さすがに島部までは届かなかった?

平面の当てはめ (2)

湘南工科大学の非常勤講師、夏季集中のカリキュラムを検討中。線形代数です。

内容は、ベクトルと行列です。難しいことはやらず、かつ実用的な題材を提供したい。社会で役立つものです。

そこでですが、まず前半は、三次元の幾何学をやります。ここでの登場人物は、点/平面/直線。ここで、ベクトルを習得してもらう。実際の応用ではn次元になるので、次元数によらない計算技術の習得を目指します。

そして、後半。ここで行列を出すわけですが、ここでの題材をどうするか?いろいろ考えて、共分散行列を登場させようと思いました。難しいって?そうなんですが、実用上、これ以上に重要な行列はないはず。何とか主成分分析まで持っていきたい。なので、固有値問題をかすります。難しいかな?でも、固有値問題って、何に使うのか、知らないひとが多いんです。登場のステージとしては、うってつけだと思います。

ここまで済ませたとして、最後のネタで、前半と後半を融合させたいと考えました。そこで思いついたのが、以下のもの。

http://kanouy.blog9.fc2.com/blog-entry-577.html

これ、締めとして、よくないですか?

イラストで学ぶ機械学習 (16)

「イラストで学ぶ機械学習」、第15章は、「オンライン学習」です。これまでも難しかったのが、ついに「発展的話題」に突入!

まず、15.1 受動攻撃学習。これは日本語として意味が取れるのでしょうか。原語は英語なのでしょうから、こちらを知りたい。それから、なぜ二乗ヒンジ損失を使っているのか?

15.2 適応正則化学習では、泣きたくなるような、ガウシアン同士のKLダイバージェンスの計算が登場。170ページ最初の式ですが、さすがにこれを自前で導出する気力も技量もないので、'The Matrix Cookbook'、を参照しました。'The Matrix Cookbook'の関連記事はこちら(↓)。

http://kanouy.blog9.fc2.com/blog-entry-1520.html
http://kanouy.blog9.fc2.com/blog-entry-1494.html

同書の式を導出するには、'The Matrix Cookbook'、式(380)を使えばできます。最後の項の奇妙なd(次元数)は、単位行列のトレースの結果です。

Deep Learning (7)

Ian Goodfellow , Yoshua Bengio , Aaron Courville
Deep Learning (Adaptive Computation and Machine Learning series) Hardcover – November 18, 2016.

有志を募り、勉強会をすることにしました。私は怠け者なので、こうでもしないと読まないです。言い出しっぺなので、私が最初の第2~5章を担当しました。

第2章は、Linear Algebraです。ここは基本なので、特に難しくありません。でも、最後に紹介されていたPCAの説明は、面白いです。45~49ページ。つまり、次元の圧縮・伸長をしてやることで、PCAを導こうという試み。通常の線形代数本には載っていないと思います。

でもこれ、どこかでお目にかかったな...そうです!これは、「イラストで学ぶ機械学習」、第13章のやり方です。こちらのほうが、一般的な取り扱いをしています(この扱いは、DL本ではexerciseとなっている)。やはり「イラスト...」は凄い本ですな。

CNN vs RNN

CNNが2012年、画像認識で脅威的な成果をあげ、Deep Learningが一躍注目を浴びたのは、ご存じのとおり。

そののち、動画像の認識にて、RNNという技術が生まれました。これはニューラルネットにフィードバックを入れるものです。理由はわかりますが、なんか面倒くさそうだな、と思っていました。

そうしたところに、最近、Facebook AI Researchが、言語処理の分野ではありますが、RNNを凌駕する成果を、CNNであげました。正確には、そう主張する論文を出した。

CNN対RNN、ちょっと目が離せなくなりました。個人的にはCNNのほうが、やりやすそう。

重要な行列

線形代数における行列、いろいろと種類がありますが、私見では応用上重要なのは、以下の二つです。

1)対称行列(⊂正方行列)
共分散行列、ヘッセ行列、慣性テンソルなど、エンジニアリングで登場する正方行列のほとんどが対称行列です。対称行列は、直交行列で対角化できるなど、きわめてよい性質がありますので、これをきちんと理解することが重要。

2)非正方行列
これは、最小二乗法で出てくる、いわゆる計画行列(design matrix)。行数はデータ数、列数はパラメタ数。これを基本とした、行列&ベクトル表記による最小二乗法の習得が重要です。

コンテンツ東京2017

本日(2017年6月28日)、'コンテンツ東京2017'に行ってまいります。

お目当ては、第3回先端コンテンツテクノロジー展ですが、第1回AI・人工知能EXPOというのもあります。あれ、これは昨年からありませんでしたっけ?おそらくですが、昨年のものは前座ということで、今年から正式なのでしょうね。こちらもまいります。

台北の足裏マッサージ

先日の台北訪問(2017年5月31日~6月3日)、知人の河西さんから、「足裏マッサージ」を薦められました。スポーツをやる人には特に、ということです。私は日ごろはサッカーとランニングをやります。

そうは言っても、なかなか縁のないまま最終日となり、松山空港へ。ゲートで待っていると、なんとすぐそばに、「足裏マッサージ」のお店が!セキュリティチェック後のところなので、さすがにおかしなお店ではないはず。

所用時間は30分です。フライトまで1時間くらいあるので、これしかないと思い、すぐに入りました。

実は、有料のマッサージ自体、生まれて初めての体験です。河西さんから聞いていたように、少し痛めの感じですが、これが心地よい。たいへん満足いたしました。足が軽くなった。

この効果があったのか、一週間後のハーフマラソンでは、久しぶりに二時間を切れました!

連立一次方程式の解法再構築

線形代数の教科書に記載されている、「連立一次方程式の解法」に異議あり!

通常は、以下のように書かれます。

1)方程式が未知数より多いとき→解なし(不能)
2)方程式と未知数が一致するとき→一意に解が求まる
3)方程式が未知数より少ないとき→解無数(不定)

これはおかしいです。なぜならば、

1)は最小二乗法のことですし、実際にはこの場合が最も多いはずです。実用上極めて重要なものが、解なしとは...。
2)は理論的にはきれいですが、実際にはこのような状況は少ないかも。
3)はいまはやりのスパースです。本によってはℓ2制約を付けるものがあり、これはこれでラグランジュ乗数のよい練習になるのですが、そうして得られた解はスパースではないので、ちょっと不満。

なので、個人的に再構築中です。本も書きますよ!(ウソ)

新たなネコ

「めい」の急逝により、我が家は多大なダメージを負いました(関連記事はこちら↓)。

http://kanouy.blog9.fc2.com/blog-entry-1749.html
http://kanouy.blog9.fc2.com/blog-entry-1737.html

然るに、若いムスメは立ち直りが早く(看護師ということもある?)、また飼いたいと言い出してきた。

連れもそれに最後は同調(私はふたりが合意する限りにおいて承諾)、最近我が家に、二匹の子猫がまいりました(2017年6月18日)。生後二か月くらいです。もともと処分対象ネコで、ボランティアさんから引き取りました。オスとメスです。

というわけで、ネコ生活第二期がやってまいりました。

3D&VR展 (7)

本日(2017年6月22日)は、3D&VR展の中日です。今週は忙しいので、行けないかと思っていましたが、今日、合間を縫ってまいります。

私はVRには、1987年から関わっているので(VRという言葉は1989年に登場したとされているので、この記述は正確ではない)、今年で30年です。当時といまとでは隔世の感があります。関わっている人も、大きく変わりましたね。でも、コンセプトは同じ。

イラストで学ぶ機械学習 (15)

「イラストで学ぶ機械学習」、第14章は、「クラスタリング」です。

14.1 K平均クラスタリング、はウォーミングアップ。これはさすがにわかっているはず。

14.2 カーネルK平均クラスタリング、14.3 スペクトル・クラスタリング、難しいですが、なんとか頑張って、最後の14.4 調整パラメータの自動決定、へ。私はこの話、てっきりクラスタ数を決めるものとばかり思って読んでいました。だって、159ページのグラフの横軸はkですからね。

あれ、待てよ、クラスタ数はcでした。ではこのkとはなんぞや?これが不思議なことに、「k最近傍類似度」というのがいきなり登場。むむ、これはなんでしょう...敷居が高いです。

続きを読む

今後のマラソン予定 (28)

マラソン予定のアップデートです!

1)横浜マラソン2017(フル、神奈川、2017年10月29日)←連れと
2)第33回NAHAマラソン(フル、沖縄、2017年12月3日)←連れと

1)は、予想外に「一般枠」で当選しました。支払いも済ませました。周囲のひともかなり当選しているようですが、倍率はどれくらいなんでしょう?
2)はエントリ済み(既報)。結果は8月8日にわかります。

老眼鏡 (3)

老眼鏡を作ってから、三年が経ちました。手放せない...スポーツをしているとき以外は必携です!

私がこれを必要とするときは、活字を読むときです。スポーツ時に活字を読むことはありませんから、ここでは必要なし。(活字を読まない)通常のときも、不要です(遠くは見える)。さて、この切り替えをどうするか。

これまでは、不要なときは、いちいちケースに入れていました。そして、必要なときに取り出す。

ただ、これはかなり不便です。たとえばコンビニでレシートを確認するようなとき。いちいち取り出すのはコスパが悪いです。

このようなことに悩んでいたのですが、最近試しているのは、使わないときは、メガネをアタマの上に上げておくこと。これはコスパがよいです。結構な強風でも外れないこともわかりました。

唯一の問題としては、なんだコイツは、という目で見られるときがあることです。恐らくですが、サングラスをしている人がよくやることに起因するのではないでしょうか。まあ、そのような目を気にする歳ではありませんが...

第8回南魚沼グルメマラソン顛末記

先日(2017年6月11日)、第5回南魚沼グルメマラソン(ハーフ)に連れと参加してきました。三年ぶり三回め。過去の記事はこちらです(↓)。

http://kanouy.blog9.fc2.com/blog-entry-1117.html
http://kanouy.blog9.fc2.com/blog-entry-878.html

前泊は、過去二回と同じく、六日町の温泉宿「湯元館」。ここを知ってしまうと、もう他には泊まれない?

前日が強風&雨。最悪の天気でしたが、当日はウソのように晴れました。それに気をよくして、タイムも久しぶりに二時間を切れました。

この大会、ランは前座です(スタート時の掛け声は「いただきます」)。そのあとの食事がメインイベント。説明不能なので、ぜひご参加ください。過去二回は、体調の問題もあり、満足に食べられませんでしたが、今回は、コシヒカリ二杯、ビールも二杯。イクラにもありつけ(すぐに売り切れ)、満足度100%!

余裕があったので、恒例の、松任谷正隆氏によるコンサートも最後まで堪能いたしました。お薦めの大会のひとつです。

イラストで学ぶ機械学習 (14)

「イラストで学ぶ機械学習」、第13章は、「教師なし次元圧縮」です。

13.2 主成分分析、さすがにわかっていると思っていたのですが、なにやら難しいです。139ページ最初の式(なぜ式番号がないのか?)は、以下です。

Σ|TTTxi - xi|2 = -tr(TCTT) + tr(C) --- (1)

むむ、なぜこうなるのか、すぐには解らなかったのですが、最近習得した、トレース計算を試してみました。すると、

式(1) = Σ(TTTxi - xi)T(TTTxi - xi) = Σ(xiTTTT - xiT)(TTTxi - xi) = Σ(xiTTTTxi -2xiTTTTxi + xiTxi) = Σ(-xiTTTTxi + xiTxi) --- (2)

途中で、以下の条件を使いました。

TTT = I --- (3)

ここまでは、たんに展開しただけです。ここで、トレースを入れます(実数なので、トレースを入れても変わらないというワザ)。

式(2) = Σtr(-xiTTTTxi + xiTxi) = -Σ(tr(TxixiTTT)) + Σ(tr(xiTxi)) = -tr(TΣ(xixiT)TT) + tr(Σ(xixiT)) --- (4)

となり、式(4)は式(1)と同じになりました。

行列のトレース

行列のトレース(Tr)、使い方がよくわからない。苦手です。定義はもちろん解りますが、応用が利かないのです。

そうしたところに、Bengio+のDL本に、以下の式が書かれてありました。

|A|2 = Tr(AAT) --- (1)

44ページ、同書では式(2.49)です。

式(1)のAは行列ですが、ベクトルにも適用できますから(ベクトルは行列なので)、たとえば、

|x|2 = xTx = Tr(xTx) = Tr(xxT) --- (2)

のように変形ができます。最後の項はシグマを取ると、共分散行列になります。ちょっと見通しがよくなってきた?

Deep Learning (6)

Ian Goodfellow , Yoshua Bengio , Aaron Courville
Deep Learning (Adaptive Computation and Machine Learning series) Hardcover – November 18, 2016.

amazon.comから到着いたしました!

パラパラとめくったところでは、数学的にはそれほど難しくなさそうです。活字が多い印象ですね。

イントロに、誰向けの本かが書かれてあります。それによると、1)学生、または2)機械学習を知らないソフトウェア技術者、ということです。

台北の地下鉄事情

台北の地下鉄事情です。調査期間は、2017年5月31~6月3日の四日。

まず驚かせたのが、プラットフォーム上でのマナーの良さ。みなさん、きちんと列に並びます。日本人が列を作るのは有名ですが、いまの日本は少し乱れていますね。台北のほうが断然きれいです。

私は列が嫌いなので、少し離れたところにいて、最後に乗り込みます。

車内も騒がしくないです。たまに携帯で話をしている人がいますが、これを止めようという広告をみました。日本と似ている。

参加したComputexにて、地下鉄のフリーチケット(ICカード)をもらったので、初日に松山空港から会場までをトークンを購入した(25台湾ドル)以外は、無料。最初はこのICカード、改札のどこにタッチしてよいか迷いました。それらしいところがたくさんあるし、改札によって違うんです。迷っている人も、何人か散見。

今後のマラソン予定 (27)

マラソン予定のアップデートです!

1)第8回南魚沼グルメマラソン(ハーフ、新潟、2017年6月11日)←連れと
2)横浜マラソン2017(フル、神奈川、2017年10月29日)←連れと
3)第33回NAHAマラソン(フル、沖縄、2017年12月3日)←連れと

1)は3年ぶり3回目(既報)。
2)は「地元優先枠」は落選(想定内)。「一般枠」にて待機中。
3)はエントリいたしました。
プロフィール

加納裕(かのうゆたか)

Author:加納裕(かのうゆたか)


[略歴]
1983年3月東京工業大学工学部機械物理工学科卒業
1983年4月(株)図研入社
1987年1月同社退社
1987年2月(株)ソリッドレイ研究所を6名で設立、取締役
1994年3月同社退社
1994年4月(株)スリーディー入社
1996年10月同社取締役
1999年12月上海大学兼務教授
2002年10月同社代表取締役
2009年9月ものつくり大学非常勤講師~現在
2009年10月同社代表退任/退社
2010年1月ソフトキューブ(株)入社~現在(横浜オフィス)
2011年11月甲南大学特別講師
2011年11月関西大学特別講師
2012年11月東京理科大学特別講師
2017年4月湘南工科大学非常勤講師~現在


[業界団体・学会活動]
立体映像産業推進協議会(幹事)/電気学会・第二期次世代インタラクティブディスプレイ協同研究委員会(幹事)/三次元映像のフォーラム(幹事、監査)/日本バーチャルリアリティ学会・論文委員会(委員)・力触覚の提示と計算研究会(委員)/ACM/SIGGRAPH(Professional Member)/情報処理学会(正会員、CVIM会員)/3Dコンソーシアム(賛助会員)/3DBiz研究会(個人賛助会員)/最先端表現技術利用推進協会(個人会員)/URCF(特別会員)


[資格]
TOEIC805点
数学検定1級(数理技能)
中型・普自二免許
サッカー4級審判員

最新記事
最新コメント
最新トラックバック
月別アーカイブ
カテゴリ
検索フォーム
RSSリンクの表示
リンク
ブロとも申請フォーム

この人とブロともになる

QRコード
QRコード