FC2ブログ

GW休暇 (4)

明日(2018年4月28日)から、5月6日まで、本BLOGをお休みいたします。9連休です。皆さまも、よいGWをお過ごしください!

当社は、5月7日から営業いたします。
スポンサーサイト

AIとVR (2)

VRSJ Newsletter Vol.23,No.4の抜粋です。GWにご準備ください!

+----------------------------------------------------------------------+
|◆ 論文誌に関するご案内
+----------------------------------------------------------------------+
■ 投稿募集中の特集 「AIとVR」
【募集要項】
 近年,深層学習の登場によりAIが注目されています.AIは過去に何度もブームが訪れていますが,最近の成果には目を見張るものがあります.
 例えば,将棋や囲碁などでトップ棋士を打ち負かす,強化学習によりビデオゲームの攻略方法を自分で生み出す,音声認識や画像認識の精度向上など,様々な成果が出ています.また,著名なオンラインゲームであるStarCraft IIでAI研究をサポートするAPIが公開されるなど,研究環境も向上しています.
 VRにおいても,こうしたAI研究成果の利用や連携は,将来は不可欠になると予想されます.例えば,仮想世界でのAIによるキャラクタのリアルな動きの実現や多数のエージェントの制御,大量の計測データのAIを用いた解析や可視化への応用,機械学習に基づく翻訳技術を用いて言語間の壁を取り払ったVRなどです.
 本特集号では,VR/MRに関するAIの論文ならびにAIを用いたVR/MR論文について広く募集します.AIは可能な限り広く捉えて頂ければと思います.AIとVRという2つの旬な研究の融合分野の発展に寄与するものであれば構いません.例えば,VRでの利用を想定したAI技術や,各種データサイエンスで用いられる手法,自動運転などのVRへの応用が期待される研究,AIの利用をゴールと想定する研究なども広く募集いたします.

【ゲストエディタ】
小池崇文(法政大学),加納 裕(ソフトキューブ),三宅陽一郎(スクウェア・エニックス)

1.対象分野
 以下に項目およびキーワードを挙げますが,これらに限定するものではありません.
キーワード:
AI,機械学習,深層学習,CNN,強化学習,データサイエンス,ニューラルネット,クラスタリング,回帰問題,分類問題,自動制御,ビッグデータ,自律分散,バーチャルキャラクタ,エージェント,チャットボット,可視化

各カテゴリ・基準の定義については,学会の査読基準
(https://www.vrsj.org/wp-content/themes/vrsj/dl/ronbun_category_sadoku_kijun.pdf)
に準じます.

2.投稿方法
 査読プロセスを円滑に進めるため「事前申込締切」を設けております. 投稿を予定している方にはたいへんお手数ですが,

・著者名・所属(全員)
・タイトル
・論文種別(フルペーパー・ショートペーパーから選択)
・論文カテゴリ(基礎・応用・コンテンツ・総説から選択)
・概要

を,期日までに事前投稿申込専用フォーム
(http://www.vrsj.org/transaction/submission/pre-submission/)
よりお送りくださいますようお願いいたします.

3.締切
◆ 投稿申込締切:2018年5月28日(月) 
◆ 論文締切: 2018年6月4日(月)
◆ 掲載巻号: 23巻4号(2018年12月末発行)

4.提出先
●投稿申込
事前投稿申込専用フォーム:
http://www.vrsj.org/transaction/submission/pre-submission/
●論文提出
論文投稿サイト:https://mc.manuscriptcentral.com/tvrsj

5.お問い合わせ:
日本バーチャルリアリティ学会論文委員会
論文窓口:vr-paper[at]vrsj.org
※ [at]を@に変換下さい.

ロシア (6)

今回(2018年)GWの初ロシア旅行ですが、モスクワで、知人のGに会えそうです。いろいろ案内してもらお!

Chain rule

微分でおなじみの、chain ruleですが、chainという単語に、これまで引っかかっていました。

それが、"Deep Learning (2016)"を読んでいて、この呼び名の意味するところが、なんとなくわかりました。

同書の第6章で、各変数がノードで表されたグラフの微分を扱っているのですが(back propagationで必要)、まさにchain ruleです。ノードをたどるたびに、各ノードの微分を掛けていけばよいし、別の経路があれば、経路ごとに足し合わせればよいわけです。まさにchainです。なるほど。

cross-entropyの謎 (3)

cross-entropyですが、softmaxにおける偏微分の計算をやっと習得しました。

まず、コスト関数(cross-entropy)ですが、

L = -Σktk log(pk(x)) --- (1)

です。tkは教師データで、pkは以下で与えられます(これがsoftmax)。

pk(x) = exp(xk) / Σjexp(xj) --- (2)

式(2)を式(1)に代入すると、

L = -Σktk log(exp(xk) / Σjexp(xj)) = -Σktk (log(exp(xk) - logΣjexp(xj)) = -Σktk(xk - logΣjexp(xj)) --- (3)

式(3)をxiで偏微分します。

∂L/∂xi = -ti + Σktk(exp(xi) / Σjexp(xj)) = -ti + (exp(xi) / Σjexp(xj))Σktk --- (4)

ここで、

Σktk = 1 --- (5)

に注意すると、式(4)は、式(2)を使って、

∂L/∂xi = -ti + p(xi) = p(xi) - ti --- (6)

となり、非常に簡単な式が得られました。計算の練習に最適?

ロシア (5)

このGW(2018年4月28日~5月6日)、ロシア日程が決まりました。

4月28日:成田発-モスクワ着
4月30日:クレムリン宮殿
5月01日:サンクトペテルスブルクへ
5月02日:エルミタージュ美術館
5月04日:モスクワへ。同日、ボリショイ劇場
5月05日:モスクワ発
5月06日:成田着

チケットはすべてネットで取りました。いちおう準備は万端(のはず)。

余因子行列 (3)

逆行列は、掃きだし法で計算するのが基本です。

ただ、例外的に、逆行列=(数式)、として書き下したいことがあります。そのときは、以下の公式があります。

A-1 = adj(A) / det(A) --- (1)

adj(A)は、行列Aの「余因子行列」です。余因子行列は定義の難しいものです。先日、3x3行列の逆行列を計算するプログラムを、式(1)で作ったのですが、コーディングの間違いで、デバッグに時間がかかりました。

Twitter

先日Facebookにて、知人からTwitterを介してのポストがありました。記事の内容からみて、この知人がポストしたわけではないのは明らかです。どうも、乗っ取られた?

気になって、私のTwitterアカウントをチェックしました。私はTwitterはやらないのですが、アカウントは持っています。2009年からなので、かなり古い。

パスワードを念のために変更してから、ちょっとメンテしました。久しぶりにみるサイトはかなり充実していますね。ちょっと使ってみようかな...

AI数学

AI、というか、機械学習ですが、その習得には数学が欠かせません。その数学とは、大きくわけると以下のものです。

1.線型代数
2.微分積分
3.確率・統計

AIは最先端と言われていますが、その基礎となる数学は、非常に古いです。ほとんどが数世紀前に構築されています。逆説的でおもしろい。基礎が重要なことが、ここでも確かめられました。

一方では、AI数学は習得が困難と言われます。その理由としては、広範囲な数学の知識が必要なことです。つまり、いろいろと「つまみ食い」をしなければなりません。

個人的には、ベクトルと行列について、従来の数学ではきちんとカバーされていないことが出てくるのが、敷居を高くしていると思っています。たとえば、ベクトルをベクトルで微分すると行列になるというようなことです。工学ではこれは出てくるのですが、大学教養の数学ではやりません。

なので、AI数学というくくりで、再構築をする必要がありますね。最近のお気に入り、"Deep Learning (2016)"の第2-4章に書かれてあるようなことです。

年次計画発表会 (9)

本日(2018年4月16日)は、当社の<年次計画発表会>です。18時から近くの会議室(市役所)にて。そのあと20時から懇親会です。昨年と同じです(なので昨年のコピペ)。

私は諸事情で、前日に新大阪入りいたしました。これも昨年と同じです。

湘南工科大学非常勤講師 (8)

湘南工科大学の非常勤講師、今年は本日(2018年4月13日)が最初です。まずはガイダンス。

科目は数学で、線形代数と微積をやるのですが、それにプログラミングをかけるという、多少とも贅沢なカリキュラムです。プログラミング言語はJavaです。

いちおう主担当のN教授と進めかたは協議しましたが、今年からのカリキュラムなので、試行錯誤をしながら進めていくことになるでしょう。試行錯誤は不得手ではありませんし、悪いことでもありません。もしや、教育のアジャイル?学生さんの反応を見ながらやっていくことになるでしょう。

I am a lifelong learner.

とある会合で、ひとりずつ小話?をすることになりました。

その会合、私が最年長です。若い人もいらしたので、歳を重ねても学べるということを伝えるために、ガンジーの有名な言葉を引き合いにだしました。外国のかたもいらしたので、英語で、"Learn as if you were to live forever."などと引用しました。ガンジーが本当にこの表現を使ったかどうかは知りませんが、少なくともネットではこのように表現されています。

そのあと、同席されていたオーストラリア人女性から、メッセージをいただきました。気に入ってくれたようなのですが、このようにも言えますよ、ということで、以下の表現を教えてもらいました。

I am a lifelong learner.

かっこいい表現です。というわけで、今後はこちらを使うようにします。ちなみに、この表現、ネットで引っかかりますが、日本語のページは出てきません。ということは、日本ではまだあまり知られていないみたいです。

Italy (6)

My Italian friend kindly sent me a photo that was taken at Kabuki-za last summer. The related article is as bellow,

http://kanouy.blog9.fc2.com/blog-entry-1851.html

He emailed me that the most impressive experience in their trip in Japan was Karaoke. In Italy it seems that there is still no place like this.

ものつくり大学非常勤講師 (10)

本日(2018年4月10日)より、ものつくり大学の講義「CGプログラミング」を行います。10年めの大台です。

毎週火曜日、90分×2コマを、8週やります。リアルタイムCGに使う数学や物理の基本を、レクチャ・実習します。第1クオーターで、4年生が対象。

さすがに10年めということで、内容を変えてみました。進めながら試行錯誤でやっていきます。

Deep Learning (16)

Ian Goodfellow , Yoshua Bengio , Aaron Courville
Deep Learning (Adaptive Computation and Machine Learning series) November 18, 2016.

6.2.2.2 Sigmoid Units for Bernoulli Output Distributions は、バイナリの分類なので、簡単だと思ったのですが、違いました。

シグモイド関数の対数をとると、それがsoftplus関数になることから、それを元に振舞いを解析しています。ちなみに、softplus関数というのは、以下で表されます。

ζ(x) = log (1 + exp(x)) --- (1)

そうすると、シグモイド関数σとの関係は、以下となります。

log σ(x) = -ζ(-x) --- (2)

こういう説明は初めてみました。最初は戸惑いましたが、なかなかおもしろい。

ベクトルでの微分 (3)

機械学習、特にニューラルネットをやっていると、ベクトルでの微分が出てきます。

でも、通常の微積教科書では、こういうのは載っていません。通常は、たとえば、

z = z(x, y) --- (1)
x = x(u, v) --- (2)
y = y(u, v) --- (3)

などとしたときに、

∂z/∂u = ∂z/∂x・∂x/∂u + ∂z/∂y・∂y/∂u --- (4)
∂z/∂v = ∂z/∂x・∂x/∂v + ∂z/∂y・∂y/∂v --- (5)

などと書かれてあります。でも、これだと変数が増えたときに対応できません。そこで、

x = x(x, y) --- (6)
u = u(u, v) --- (7)

と変数をベクトルとしてパッケージ化してやります。そうすると、式(4)(5)は、

dz/du = dz/dx・dx/du --- (8)

と簡潔に書くことができます。変数がいくつ増えても式(8)は変わりません。こういう記法をどんどん増やしたほうがいいと思います。

ソフトまかせの出会い重ねて

朝日新聞2018年3月31日beに、'IT芸術家'、マックス・ホーキンス氏の記事が載っていました。「ソフトまかせの出会い重ねて」というタイトルです。

この方は、カーネギーメロン大を卒業し、2013年グーグルに勤めました。つまり、一般的な尺度では、エリートです。

ただ、氏はそのような生活に疑問を感じ、退社したのち、自分でアプリを作り、そのアプリに沿った生活を始めました。そのアプリとはなにかというと、SNSで公開されているイベントをランダムに選択するというものです。そして、氏はその選択に基づいて、イベントに参加するというもの。自分が興味あるかどうかは、無関係です。

2015年からは、住む場所もアプリの無作為な選択に従うようになりました。2016年には日本にも住んだということです。世の中にはいろいろな人がいらっしゃるということはわかっていますが、これはすごいです。以下、記事の抜粋。

「自分のコントロールの及ばない場所に行くことで、新たな価値観に出会い、自分の枠を広げられると思ったのです」
「変化を恐れなくなり、世の中で起きていることに敏感になりました」

HIGH OUTPUT MANAGEMENT

自宅近くの湘南T-SITE内、蔦屋書店をふらふらしていたら、「HIGH OUTPUT MANAGEMENT(2017)」が積まれていました。

アンディ・グローヴがいまさら新刊を書くはずがないので、?と手に取ってみると、これは、「インテル経営の秘密―世界最強企業を創ったマネジメント哲学(1996)」の焼き直しですね。原書は1983年です。

なんでいまさら焼き直しがされたのか、理由がわかりませんでしたが、前書きを読むと、事情がわかりました。

古い本ではありますが、名著です。私はたまにamazonに書評を書くのですが、同書が最初のレビューでした。2001年のことです。もちろん、星5つ。

Algorithms for Reinforcement Learning

先日のVR学会の日、東大本郷の書店に立ち寄りました。さすが東大、技術書は充実しています。

強化学習に関する本を見てみると、「速習 強化学習」と「これからの強化学習」の2冊が目にとまりました。暫し立ち読み。

後者は内容的にかなり敷居が高そうなので(分筆本によくある)、前者が適当ですが、これは翻訳ですね。私は基本的には技術書の翻訳ものは買わないので、そのあとネットで原書を調べてみたところ、以下の本でした。

Csaba Szepesvari, Algorithms for Reinforcement Learning (Synthesis Lectures on Artificial Intelligence and Machine Learning) – 2010/10/1

「速習 強化学習」の前書きによると、これはセミナのノートのようですね。書評も見当たりません。謎の本ですが、注文しました。到着が楽しみです。少し読んだら、レビューを書きます。

新年度始まり (7)

本日(2018年4月2日)は、新年度の始まりです。

今年の新卒さんですが、本社、大阪・守口には、3名が入社いたします。

私のいる、横浜オフィスの体制ですが、なんとひとり加わります。都合3名になりました。5割増し?
プロフィール

加納裕(かのうゆたか)

Author:加納裕(かのうゆたか)


[略歴]
1983年3月東京工業大学工学部機械物理工学科卒業
1983年4月(株)図研入社
1987年1月同社退社
1987年2月(株)ソリッドレイ研究所を6名で設立、取締役
1994年3月同社退社
1994年4月(株)スリーディー入社
1996年10月同社取締役
1999年12月上海大学兼務教授
2002年10月同社代表取締役
2009年9月ものつくり大学非常勤講師~現在
2009年10月同社代表退任/退社
2010年1月ソフトキューブ(株)入社~現在(技術顧問)
2017年4月湘南工科大学非常勤講師~現在


[業界団体・学会活動]
電気学会・第三期次世代インタラクティブディスプレイ協同研究委員会(幹事)/最先端表現技術利用推進協会・アカデミック部会(旧:三次元映像のフォーラム)(副部会長)/日本バーチャルリアリティ学会ハプティクス研究委員会(委員)/ACM・SIGGRAPH(Professional Member)/情報処理学会(正会員、CVIM会員)/3Dコンソーシアム(賛助会員)/3DBiz研究会(個人賛助会員)/URCF(特別会員)

----------------

前職:立体映像産業推進協議会(幹事)/日本バーチャルリアリティ学会・論文委員会(委員)


[資格]
TOEIC805点
数学検定1級(数理技能)
中型・普自二免許
サッカー4級審判員

最新記事
最新コメント
最新トラックバック
月別アーカイブ
カテゴリ
検索フォーム
RSSリンクの表示
リンク
ブロとも申請フォーム

この人とブロともになる

QRコード
QRコード