FC2ブログ

湘南工科大学非常勤講師 (20)

湘南工科大学の非常勤講師、本日(2019年5月17日)が第5回です。「基礎解析のためのプログラミング」。数学とプログラミング(Java)を週ごとに交互にやります。

昨年度の反省をもとに、今回は、毎回きちんとパワポ資料を整備。そして、小課題を授業中にやってもらい、本課題は宿題として、次週の講義までにネットに提出してもらうことにしています。いまのところ、順調。

昨年度は、数学については、手書きの解答を出してもらい、それをスキャンすると自動的にネットに提出されるというシステムを使っていました。しかるに、それにバグがあるということで今期は使用中止となり、しかたがないのでドキュメント(pdf)として提出してもらうことにしました。

ただ、数学はやはり「紙と鉛筆」。実際のところ、紙に書いて、それをスマホで撮り、pdf化するという学生さんがいます。Wordの数式で書いてくる人もいます。このあたりはさまざま。私としては、pdfにしてくれればなんでもよい。
スポンサーサイト

Gauge Theories and Fiber Bundles

H先生のブログで、またまた以下の論文を知りました。

Gauge Theories and Fiber Bundles: Definitions, Pictures, and Results, Adam Marsh, February 27, 2019.

以下のものの続編と思われます。日付は同じ。

http://kanouy.blog9.fc2.com/blog-entry-2253.html

同著者による、同内容の書籍も購入してしまいました。GW中に着く予定でしたが、明けに届きました。

令和元年は、このあたりの攻略を開始したいと思っております。10年くらいはかかりそう...
(一生終わらないかも)

ゲーデルの不完全性定理 (6)

H先生による、「ゲーデルの不完全性定理」特別ゼミ、第六回(最終回)が2019年4月6日開催されました。新宿の某所にて。

最終的に、この定理は証明されました。証明は、わずか1ページ(!)。背理法によるものです。

このエッセンスは簡潔ですが、そこに到達するためには、さまざまなスキルが必要です。大筋はわかりましたが、詳細はよくわかりませんでした。これは私のスキル不足によるものです。

ゲーデル数と言われているものもわかりました。H先生曰く、「ゲーデルは史上最強のプログラマ」。

Riemannian Geometry

H先生のブログで、以下の論文を知りました。

Riemannian Geometry: Definitions, Pictures, and Results, Adam Marsh, February 27, 2019.

これはイラストがわかりやすいです。特に、共変微分(covariant derivative)が、わかったような気がします。でも、H先生にとってはご不満なようです(厳密性に欠けると)。でも、私にとっては十分すぎます。

これはarXivで取れます。70ページある大著ですが、少しづつ読み進めていこうと思います。

湘南工科大学非常勤講師 (19)

湘南工科大学の非常勤講師、来年度(2019年4月~)も継続しますので、先日(3月25日)、研修会に出向きました。

昨年同様、大学の現状について、工学部長どのより話をお聴きしました。よいお知らせもありました。

そのあとは恒例の懇親会なのですが、今回は別件があり、退散いたしました。残念です。

微積分学の基本定理

川平友規先生著、「微分積分 1変数と2変数(2015)」は、私の感性にまことにフィットした良書です。

ここに、「第10章 微積分の基本定理」、と題して、この定理が説明されています。ここからが積分に関わる内容となっています。

しかしこの定理は不思議ですね。微分と積分はもともと全く異なる演算とみなされてきたわけですが、それが17世紀、ニュートンやライプニッツらにより、互いに逆の演算であると認識されるに至ったわけです。

高校では普通に逆の演算として教えられているもので、いまさら感があるのですが、考えてみると不思議な定理です。

湘南工科大学非常勤講師 (18)

湘南工科大学の非常勤講師、来年度(2019年度)もやりますので、資料をだいたい作成しました。科目名は、「基礎解析のためのプログラミング」。初回は4月12日。

ついこの前、数学者のSTさんと飲みに行ったとき、ちょっと資料を見てもらいました。すると、微分の説明ところでいろいろと指摘を受けました。もっともなものなので、いまその点を改訂しています。そのため、全体構成も多少変わりました。結果的に、締まりそうです。

ゲーデルの不完全性定理 (5)

H先生による、「ゲーデルの不完全性定理」特別ゼミ、第五回が2019年3月2日開催されました。新宿の某所にて。

すでに落ちこぼれています。論理は難しいです...

最後に、計算論との比較が持ち出されました。なにやら不完全性定理というのは、チューリングの停止問題と関連しているようですね。このあたりは最終回(4月6日)に解明されることになっています。

湘南工科大学非常勤講師 (17)

湘南工科大学の非常勤講師、来年度(2019年度)もやることになりました。科目名は、「基礎解析のためのプログラミング」です。

いま資料を作成中です。今年の前期に同じ科目をやったのですが、学生さんアンケートの結果、いろいろと反省点がありまして、作り直します。

血液型

血液型が性格に関係があるかどうかというのは、長らく議論されています。

私見では、間違いなく、関係があると思います。

関係ないという根拠のひとつは、ノーベル医学生理学賞受賞者・利根川進氏が、以前そのように発言していた(というか、何かの本に記していた)ことによります。ただ、これは、証明されていない、ということにほかなりません。

先日、私が所属するサッカーチームのメンバの居酒屋さんに行きました。私を含め、合計5人いましたが、私以外は全員B型でした(私はA型)。

B型というのは、統計的には、20%です。4人が全員B型である確率は、

(0.2)4=0.0064

1%の有意水準でも引っかかるので、偶然ではないですね。サッカー関係者は自己中なので、明らかに血液型は性格と相関があると思われます。

湘南工科大学非常勤講師 (16)

湘南工科大学の非常勤講師、本日(2019年1月23日)は後期の最終日です。「線形代数w/プログラミング」と「確率・統計」。

このふたつは、受講者数も、受講者の内訳もかなり違うので、まったく別の講義構成となりました。それぞれ楽しめました。

掃き出し法

逆行列の計算を、いわゆる、掃き出し法で計算していました。

3x3で、元の行列の要素はすべて小さな整数なので、簡単であるべきですが、途中で分母が大きくなったりします。計算力は自信がない。

案の定、最後は合いません(いちおう、別のツールで正解は得ていた)。検算するも、どこがおかしいかわからず、何度かやめようかな~と思いましたが、くやしいので、合うまでやりました。

何回かやると、途中で間違える感触が得られます。多少とも分母が大きくなるのは普通なのですが、それよりも大きくなると、やはりなにかおかしい。

最小二乗法

行列による、最小二乗法の解法について、記しておきます。

E = |y - Ax|2 = (y - Ax, y - Ax) --- (1)

とします。式(1)を計算すると、

E = yTy - yTAx - (Ax)Ty + (Ax)TAx
= yTy - (yTAx)T - xTATy + xTATAx
= yTy - xTATy - xTATy + xTATAx
= yTy - 2xTATy + xTATAx --- (2)

スカラの転置は変化しないという、'transpose trick'を使いました。

dE/dx = -2ATy + 2ATAx = 0 --- (3)

と計算し、式(3)をxについて解くと、

x = (ATA)-1ATy --- (4)

と計算できました。

Cholesky分解

Cholesky分解、有名ではありますが、いままであまり意識していませんでした。

"Deep Learning"本、20.10.2 Differentiable Generator Netsにて、Cholesky分解の使い方が出ていました。正規化された正規分布からのサンプリングzに対して、これを平均μ、共分散行列Σの正規分布からのサンプリングxに変換したい場合、ΣのCholesky分解をLとすると、

x = μ + Lz --- (1)

で計算できます。これは一変数の場合の多変数拡張です。Lは標準偏差に対応するというわけです。いまさらですが、なるほど。

ベクトル値関数の最適化 (7)

ベクトル値関数の最適化における、一次方程式系、

JTJh + JTf = 0 --- (1)

ですが、よくよく見ると(見なくても)、Jが横長のときは、JTJはランク落ちで、逆行列を持ちません。

気になって、以下の本、すなわち、最適化本の定番を読んでみましたが、

Nocedal, Wright, "Numerical Optimization", 2006.
Fletcher, "Practical Methods of Optimization",2000.

双方ともに、Jが横長のときの扱いには触れていません。でも、応用では、横長のときがでてくる。おかしいな...いまの疑問はこれです。勉強しよ!

圏論 (3)

Tom Leinsterの"Basic Category Theory"、パラパラと読んでいます。

某輪講では、第1章のイントロをやっているようなので、それに追いつこうとしていますが、わかったようなわからないような...

ようするに、常識と思われることが書かれてあるものの、よくわからないところもある。もともとこういうのは苦手なんです。

飛ばし読みで、3.3 Historical remarksというのを読みました。これは自然言語なのでわかります。いまの集合論がなぜおかしいのかが書かれてあります。

ゲーデルの不完全性定理 (4)

H先生による、ゲーデルの不完全性定理の特別ゼミ、第一回が2018年10月27日開催されました。新宿の某所にて。

前振りと、集合と論理の基本的なことをやったあと、カリー/ハワード対応というのをやりました。これはなにかというと、プログラミングにおける関数の記述と、論理による証明とは、かなりきれいな対応があるということです。

今後は、推測ではありますが、この対応関係を用いて、証明をプログラムで記述する、という流れになるのではないかと思います。

Leibniz's rule

"Deep Learning"本にて、Leibniz's ruleが登場します。第18章599ページ。

これはなにかというと、differentiation under the integral signです。つまり、積分後に微分する場合、ある条件の下では、微分してから積分すればよろしい。条件については、測度論が出てくるので、ここは私のout of scopeです。

これは、本blogでファインマンの記事を書いたときに、コメントいただいたものです。Keith Conradの"Differentiating under the integral sign"という論文がネットで取れますが、ここに詳しく書かれてあります。

湘南工科大学非常勤講師 (15)

湘南工科大学の非常勤講師、後期の授業のひとつに、「確率・統計」があります。

この授業ですが、「アカデミックパス制度」を利用されている方が複数受講されています。私よりもおそらく、人生の先輩だと思われます。

なので、導入としては、できる限り日常お目にかかるような事例から入ろうとしています。たとえば、シラバスではまだ先に登場するであろう、「ベイズの定理」を先んじてやるなど、です。

圏論 (2)

結局のところ、"Basic Category Theory"、1-clickしてしまいました。

H先生によると、日本語にしてしまうと、わかりづらい表現があるとのこと。これは原書を買ったほうがよいという意味と理解しました。H先生は否定していましたけど。でも、これがなくても、私は訳書は買わない。

圏論

「圏論」という数学の分野がいま注目されています。英語では"category theory"と呼ばれます。

先日(2018年10月8日)、某所にて、この分野の権威、H先生よりレクチャがありました。教科書は「ベーシック圏論」です。

私は参加したものの、よくわからないので、BGM(Back Ground Math)として聞いていました。ただ、参加者は精鋭なので、関わったほうがよいですね。もったいない。

問題は教科書です。訳書に頼りたくない私は、やはり原書?原書は"Basic Category Theory"です。アマゾンの書評を見ると、良書との評判です。

ゲーデルの不完全性定理 (3)

ゲーデルの不完全性定理、なんどかチャレンジしましたが、討ち死にしてきました。

そうしたところに、某H先生が、このテーマで6回の特別ゼミを開催されると聞いて、これを逃すともう一生解らないと思い、申し込みました。

一か月に一回のペースです。

湘南工科大学非常勤講師 (14)

湘南工科大学の非常勤講師、本日(2018年9月26日)は後期のガイダンスです。

科目は数学で、「線形代数w/プログラミング」と「確率統計」です。

前者は前期にやったので、それの焼き直し。問題点があったので、それを修正します。

後者は初めてなので、ガイダンスの様子を見て、具体的な進め方を決めようと思っています。内容自体はシラバスで定義されています。

Levenberg–Marquardt法 (3)

最近、ある最適化問題を解いていました。

最適値がわかっているテストデータで、計算してみると、解が逆方向に進みます。勾配ベクトルは正しいのですが、ヘッセ行列が逆を指している。あれ、おかしいな...

原因は解りました。最適値から離れているので、ヘッセ行列の当該成分の符合が逆になっていたわけです。実際、最適値の近傍だとうまく計算されることがわかりました。

この問題を解決するのが、要するに、Levenberg–Marquardt法です。ヘッセ行列を無効化するように正則パラメタを決めて、実質、勾配ベクトルだけを手掛かりにする。起源は古いですが、いまも使われるわけです。優れた手法です。

任意の三角形から1/7の面積を持つ三角形の作図

Facebookにて、「任意の三角形から1/7の面積を持つ三角形の作図」、について知りました。数学者A先生のポストです。A先生もご存じなかったということです。

まず、1/7という数値に引かれました。この比率はかなり珍しいのではないでしょうか。

作図の方法自体は簡単です。まず、3つの辺をそれぞれ三等分します。そして、各辺の左端から1/3のところの点と、向かいの頂点間に線を引きます。これを3つの辺に対して行うと、真ん中に三角形ができます。その三角形の面積はというと、元の三角形の面積の1/7になる、ということです。

これを証明するには、補助線を引かなければなりません。この引きかたが難しいです。私は補助線が苦手なので、平面図形は苦手なのですが、得意なかた、ぜひチャレンジください。

なお、FBでA先生が呟かれたのは、「任意の三角形を、同じ面積を持つ7つの三角形に分割する方法」、ですが、上記ができれば、あとは簡単です(平面図形の苦手な私でも簡単)。

楕円関数

先日、ある数学の集まりで、5次方程式の解の公式を見出した、とM氏。

ご存知のとおり、ガロア理論により、5次以上の方程式には、解の公式は存在しません。ところが、M氏によると、それはある前提があっての話で、楕円関数を使ってもよければ、解の公式が作れる、とのことです。

なるほど、よくわかりませんが、私よりも断然、数学に詳しいM氏が言うのだから、そうなのでしょう。それは信じることにして、「じゃあ、楕円関数ってなんですか?」と訊いてみると、「知りません!」。これは受けました。

ところで、この画期的?な発表は、札幌で行わるようです。残念ながら当日は所用があり、この面白そうな発表を聴くことは、私には叶いそうもありません。

湘南工科大学非常勤講師 (13)

前期が終わり、今週(2018年8月6~10日)は、夏季集中講義というのをやってます。内容は微積です。

人数は4名と少ないです。前期は約50名を相手にしていたので、ほぼ個人授業です。私にとっては、こちらのほうがやりやすい。

湘南工科大学非常勤講師 (12)

湘南工科大学の非常勤講師、本日(2018年8月3日)で前期の全16回が終了です。

数学とプログラミングの合体授業で、しかも今期から始まったので、思考錯誤しながらやってきました。毎回課題を提出したもらいましたが、それを見るのが楽しみでした。いろいろと反省点もあるので、次回の機会に修正していきます。

来週(2018年8月6~10日)は、夏季集中講義(基礎解析2)を行います。

合成関数の微分

いまさらですが、合成関数の微分についてです。

z1 = z1(y1, y2) --- (1)
z2 = z1(y1, y2) --- (2)

として、さらに、

y1 = y1(x1, x2) --- (3)
y2 = y1(x1, x2) --- (4)

であるとき、

∂z1/∂x1 = (∂z1/∂y1)(∂y1/∂x1) + (∂z1/∂y2)(∂y2/∂x1) --- (5)
∂z1/∂x2 = (∂z1/∂y1)(∂y1/∂x2) + (∂z1/∂y2)(∂y2/∂x2) --- (6)
∂z2/∂x1 = (∂z2/∂y1)(∂y1/∂x1) + (∂z2/∂y2)(∂y2/∂x1) --- (7)
∂z2/∂x2 = (∂z2/∂y1)(∂y1/∂x2) + (∂z2/∂y2)(∂y2/∂x2) --- (8)

となります。これは通常の微積本に書かれてあります。

これをニューラルネットで図示すると、入力がx1とx2、出力がz1とz2、隠れ層がy1とy2、と考えられます。各層間は全結合。

このように、合成関数の微分をニューラルネットと対応付けると、可視化されて、理解が進むのではないかと思います。

ニュートン法 (4)

ニュートン法で、5次方程式の解を求められるかどうか、実験してみました。

ご存知の通り、解の公式は4次方程式までしか存在しないので(ガロア理論)、数値的に解くしかありません。あらかじめ因数分解した方程式を展開し、ニュートン法でやってみました。すると、必ずしも初期値に近い解に収束するのではないことに気がつきました。これはややこしい。

そこで最適化の専門書を見てみたところ、ひとつ解を求めたら、それを因数として、次数を減らしていくとありました。そして、これを繰り返す。

ニュートン法、単純ながら、なかなか奥が深い解法です。
プロフィール

加納裕(かのうゆたか)

Author:加納裕(かのうゆたか)


[略歴]
1983年3月東京工業大学工学部機械物理工学科卒業
1983年4月(株)図研入社
1987年1月同社退社
1987年2月(株)ソリッドレイ研究所を6名で設立、取締役
1994年3月同社退社
1994年4月(株)スリーディー入社
1996年10月同社取締役
1999年12月上海大学兼務教授
2002年10月同社代表取締役
2009年9月ものつくり大学非常勤講師~現在
2009年10月同社代表退任/退社
2010年1月ソフトキューブ(株)入社~現在(技術顧問)
2017年4月湘南工科大学非常勤講師~現在


[業界団体・学会活動]
電気学会・第三期次世代インタラクティブディスプレイ協同研究委員会(幹事)/最先端表現技術利用推進協会・アカデミック部会(旧:三次元映像のフォーラム)(副部会長)/日本バーチャルリアリティ学会ハプティクス研究委員会(委員)/ACM(Professional Member)/情報処理学会(正会員、CVIM会員)/3Dコンソーシアム(賛助会員)/URCF(特別会員)

---------------------

前職:立体映像産業推進協議会(幹事)/日本バーチャルリアリティ学会・論文委員会(委員)/3DBiz研究会(個人賛助会員)


[資格]
TOEIC805点
数学検定1級(数理技能)
中型・普自二免許
サッカー4級審判員

最新記事
最新コメント
最新トラックバック
月別アーカイブ
カテゴリ
検索フォーム
RSSリンクの表示
リンク
ブロとも申請フォーム

この人とブロともになる

QRコード
QRコード