496の落書き帳

496がなんか思ったことを書いたり書かなかったりする場所です。

にっき「休日、休息、ハードウェア」

昨日とうとう日記をすっぽかしてしまった。かなしい。今日も絶賛だめになっております。

やはり目の前に応援してくれる人がいないと動かない。いや、応援してくれなくていいのだが、自分の進捗の話を聞いてくれる人がいないと動かない。今日の午後はお仕事をして、その合間に人々と大学の話を少しだけして、少しだけ進捗が発生したのだが、流石に仕事中の人々に向かって仕事に関係ない話を延々とするわけにもいかない。

そういえば、虚空に向かって話しかけることで人に話した時と同等の作用を得る人間がいるらしいのだが、怖くてできない。主張は分からなくはないのだが、どうしても「誰もいないやんけ」という虚無感に遮られる。たぶん、単に狂気が足りないという話でしかない。

もう一つの問題点、休息が足りていないと感じる。仕事をすると心がましになり、ゲームをしても心がましになるが、今問題にしているのは精神の休息ではなくて頭脳の休息である。遊びの類もちゃんと頭を使っているから、休息というかむしろ疲れているだろう。「どうして休日に遊びたがるのか、休日は休む日だろう」という言葉には耳が痛い。休日に課題をしているのは異常な状況らしいですしな。

ところで、さっきの一節

今問題にしているのは精神の休息ではなく頭脳の休息である。

最初は「心の休息」「体の休息」と書いていたのだが、違和感を感じて修正した。疑い深い自分にとっては今や心というものの実在も怪しげだが、「心・体」で思い浮かべていたのは「今の活動を素直に楽しめているか・脳に栄養やエネルギーが十分にあるか」という意味合いである。しかし、一般に後者の要素を体の休息と形容するのは、脳の話なのに筋肉とかの話に見えて違和感がある。それにも関わらず体と書いてしまったのは、つまるところ今の生活において体とはほとんど脳だけだと思っているからだろう。

コンピュータのアナロジーをしてみれば、精神がソフトウェア、頭脳がハードウェア、脳以外のいわゆる身体は入出力か周辺機器の類と思える。最近の自分の活動において身体はただ入出力をやっているだけであり、仕事の本質に関わっていないし、あまり疲れない。まあ、目は疲れているかもしれないが。それで、一般に心と体などという言い方をした時は脳と脳以外に分けているのだが、自分にとっては脳以外の身体は割とどうでもよく、脳内のソフトウェアとハードウェアに分ける気分になっていたということだ。

ただ、脳をソフトウェアとハードウェアに分けるというのもおこがましい話だ。脳は脳本体しかなく、そんな仮想化は綺麗にできているわけがない。そう思うのだが、一方でソフトウェアとハードウェアがあるような気もしてくる。つまり、多少は仮想化ができているんじゃないかということだ。少し前に心の実在が怪しいとこぼした気がするが、同じ問題点を突いているような気がする。研究欲の湧く話ですね。

話題が逸れてしまったが、進捗を改善するには

・話を聞いてくれる人
・頭脳の休息

これらを大事にしようねということであった。1つ目の問題は人に迷惑をかけたくないという気持ちで回避してきたものであることが分かっている。だから意識的な改善をしたい。2つ目の問題に対する良い解答はまだ得られていない。意識的に何もしないという逆説が出かねない話だ。ただ、睡眠は間違いなく重要な要素であるだろう。さあ、分かったらさっさと寝なさい。おわり。

にっき「不調、難題、不調」

今日は調子が良くなかった。

と、述べるのは簡単だが、実際どうなのだろうか。体調が悪いときは色々と上手くいかず、上手くいかないと「今日はダメな日だな」「体調が良くないのかもしれない」などと言い出すわけだが、どちらが因でどちらが果だったのかは不明である。

まず、睡眠不足は多分あった。8時前に起きようと目覚ましをかけているのだが、5時半とか7時とかにスパッと起きてしまう症状が最近見られている。目覚まし前に起きると二度寝するのだが、あまりいい状態ではない気がする。

次に、面倒な課題が出現した。これはいくつかあって、1つめは今日の講義の課題が面倒そうだということ、2つめは研究室の発表があっていよいよ本編だなと思ったけど何をすればいいか微塵も分からないこと、ついでに教授とタイマンになってしまったこと、最後に院試出願と英語の試験のこと。これらがわちゃわちゃっと降ってきてちょっと嫌になった。んでもってゲームに没頭していた。変な言い方をすれば、ゲームは楽しい課題なのである。

最初の議題に戻ると、今日は積み重なった睡眠不足のせいで駄目になったのだという主張と、今日は難題をいくつも目の当たりにしたから頭が今日は駄目だと思い込んで駄目になったのだという主張がある。最早これらを自分で識別することはできない。勿論成分としては両方あると思うのだが、公平な目でそれを観察するということが自分ではできない。上手く言葉にならないが、自力で思い込みと事実を区別するのは本質的に無理があるんじゃないかみたいな哲学的テーマが横たわっている気がする。

まあ、現実に戻ると難題は一つずつ解決するしかない。作業中に同時に複数の問題を抱えてはならない。順番としては、担当になった研究室の先生にメールを出すのが期限的に最優先だろう。次に課題があり、最後に院試がある。人にメールを出して帰ってくるのを待つなどというフェイズに入ると、じゃあ待ち時間は別のことを、という流れで煩雑になっていくわけだが、焦ってはいけない。必ず、一つずつ。そもそも明日の講義をちゃんと受けることだってその一つだ。聞いている間に別のことに目を向けたりすると大体上手くいかない。

整理する。出力する。その作業を怠るな。

にっき「通話、仕事、しょうもない課題」

要素の多い1日だった。

今日の講義は1コマしかなかったが、1時間前くらいからスライドを読んで受けたらボケーっと聞いていてもなんとかなった。予習はすべきなのかすべきでないのかはやはりよく分からない。最終的には講義聞かなくていいになる可能性もあるだろう。

で、小課題が出た。手を動かす機会が出たと喜んでやりたい所だが、理論系ではなくて、「〜であるような例を実世界から一つ挙げて説明せよ。特異なものを歓迎する」というパターン。一番困るんだよなあ。〜であるものを探そうという心持ちになると全然見つけられなくなる症候群。名前あるのかなこれ。閃きは思考が澄んでいる時に来ると言われるが、今は澄んでいない。寝て起きたら見つかっててくれ。頼む。

暇が多めだったので(学科外の)人と通話をした。今何してる?という話を互いにしたら自分の中が整理されたり進捗がよくなったりするんじゃないかなあという気分だが、どうにも自分だけ喋り倒してしまって良くなかった。フーリエ変換の話に付き合わせてしまってすまない…。一方で、就活してる人や就活を見据えている人とサークル運営経験の話をした。就活することになったとき「学生時代に同人サークルの運営をしていたことがあります」と大真面目な顔で言うことになるのかと思うとちょっと笑えた。

会話の中で(離散)フーリエ変換の観察をした。1次元ならまあ見覚えがあっておおよそ分かる。デジタルになったときに大事なのは波数のMaxがマス目の数になることくらいだろうか。2次元フーリエ変換は見た目こそキモいが、x方向にもy方向にも揺れている波の重ね合わせですよというとそんな気分になる。ここでx方向とy方向の波数は別々に存在するから、フーリエ変換後の関数(波数を与えるとその波数成分の振幅が出てくるような関数)も2次元平面上のものになるしかないのがややこしい。さて、本丸は画像フィルタの話で、「高周波数成分をカットしてください!」と言われると、(x波数,y波数)というベクトルにノルムを与えないといけないことに気づく。とりあえずいつものノルム√(x2+y2)でいいか〜という感じで見ているが、これって本当に本質的なノルムなのかというと、例えば画像を回転しても不変ですか?などと考えてみると、これはかなり厄介な議論になりそう。まぁ今日はこれくらいでいいか。

そこからさらに出勤した。今日は過疎ってるから人員少なめでいいやろなどと言って、ワンオペ気味の雰囲気になった。まあ、辛いのはワンオペであることよりぼっち感が酷いことなのだが、今日に限ってやたらと重たい質問がお出でになり、わりかし体力を使った。良い学びがあったと言うことにしておこう。

なんやかんやで日付は余裕で変わった。早めに寝て、明日も講義をちゃんと聞きましょうね。おつ。

にっき「滑り出し」

初回講義が3つ。大学生活が戻ってきた。そう感じられる1日だった。

講義初回というのは注意して聞いていないといけない。初回は内容が簡単な所から入るだろう、というのはある程度正しいのだが、そもそも始まる前に本質的な情報(成績の付け方や講義の外観や参考書の類)が提供されるだろう。そして本編が始まると、アレ、この講義、思ってたのと違うような、違わないような、などと考えているうちに「まぁ簡単なのでサクサク行きましょ〜」などと進んでいくのはいつものことだ。

特に初回は程々に油断があると言える。初回でなくても、講義中に急に分からなくなったり、あるいは急に分かったりすると(単に疲れてきた場合というのもある)、自分自身の思考が走り、お話から意識が逸れる。ある程度はその時間がないと頭に入っていかないのだが、聞いていない間に大事なところが流れていかないように注意するという無理ゲーをしているわけだ。裏では「あ、今の論点は分かるので、多分しばらくは聞かなくていいだろう、それよりさっきの話題が…」みたいな予測が起きているが、講義初回というのは予測が外れやすい。学習が不十分だからとでも言えるだろうか。

こういうことは教える側(拡張すれば、話をする側)の身としても気にしないといけない。先生飛ばし過ぎだよ、と思う度に我が身を振り返りましょう。まとめるという行為を意識的にしましょう。やはり国語力の問題である。

メタ的な話はここまでにして、今日の講義はどうだったかというと、一つは事前にスライドを読んでしまったのでぼーっとしていて、一つはガイダンス的お喋りだったのでぼーっとしていて、もう一つは理論的になってきたところで集中が切れて駄目になった。まあこんなもんである。ああ、授業中にチャットしていて意識が逸れたんだっけ。そういうのもあるのか。

初回にありがちなぼやーんとしたお話は、自分がちゃんと聴いていたかどうかの判定ができない。何が出来ればいいのか、出来るようになってほしいのかが見えないからだ。ただ、「結局何が出来ればOKなんですか?」という問いはそろそろ幼稚に見えてきて、講義から何かを意識的に引き出すのは学生の方だろと言えなくもないが、じゃあ、今日得たものは何?というと、初回なのでまだ何も見えてきませんが…と元のところに戻ってくる。

とどのつまり、何も掴めていないし、何かできていないことがあるわけでもなく、何すればいいんだろう…?という状態でうだうだしているとエネルギー切れになる。明らかに分かっていなかった話として2次元フーリエ変換が残っていたのだが、やる気がいい感じに切れて残りの時間はようつべに溶けていった。

明日の予習をするのも手だったかもしれない。明日は1コマしかないが、今期で最も要所たる科目の一つと言える。機械学習だ。その前に、先学期の機械学習の内容がガバガバなんですが…??復習しましょうね。

そういうわけで、明確な課題は2つ。フーリエ変換機械学習の復習。明記しないとやらないからな。明日は暇な時間あるんだから頑張ってください。以上。

にっき「嫌な決断」

授業初日。

とは言うものの、2限は休講で研究室説明会をやった。そして間もなく決断の時刻となる。説明会が終わってから3時間しかないとは中々に無慈悲だ。しかも間に昼食と講義まであるときた。研究室の希望が上手く絞れない。「研究したい」「勉強したい」「あの先生なら面白そう」が衝突する。どこだっていい所だし悪い所じゃん、選べるものか、と投げやりになる。

ああ、見覚えがあるぞ。進路選択とはそういうものだ。数日間の思考過程で膨大な可能性を捨てることになる場合がある。しかし後悔している暇はない。消えた可能性ではなく、掴み取った可能性が大事なのだ。

可能性の議論と言ったが、ここで問題をややこしくするのは、今回の選択は勉強と研究の2側面を抱えているということであった。これから、3つの研究室を回って「勉強」する。しかし、それは間違いなく半年後には研究に繋がる初歩となる。研究に入る前に、専門外の分野こそ今のうちに勉強しておけという不思議な教えがあるのだが、今のうちとはどこまでか。しかも自分の場合、院で学部と違う研究室に行くという進路が視界にある。卒研も研究というよりは勉強の内に入ったという結末さえあるだろう。でもこれについては十分に考えることができていないと思う。

これから3ヶ月の話についてはもう希望提出してしまったから運を天に任せるしかないとして、目下の議論は履修と再履修(去年の取り返し)に移る。良さげな科目が綺麗に再履修と被るのが痛い。ここで選択肢は3つある:

  • 先生に無理を言って両方単位を取らせてもらう
  • 片方は単位を諦めて(先生から見ると)潜りになる
  • 諦める

2年前の自分ならさっさと諦めている所だろうが、今はそれなりに勉強してみようという気持ちが3年ぶりくらいに戻ってきている。先生に無理を言うことを想像すると面倒だが、これは本質的に「それで両方勉強できてるの?」という課題に困っているからだ。単位の回収量としては諦めてもなんとかなるから、取っていないふりをしてこそこそと勉強することはできる。潜りなら最悪やめて何も無かったことにしてしまえばよいというのもある。

ここに危険を感じるのは妥当である。潜り科目とは、言わば任意の追加課題のようなものだ。去年、学生が苦しいだろうからという配慮で必修が減り任意の追加課題が増えた結果何が起きたかを忘れてはならない。苦心の末追加課題を捨てるというのは、最初から何もしないと決め込んでしまうよりもずっとダメージが大きい。たぶん、決断に要する精神的エネルギーが浪費されるからだ。もしやるとしても、決断にエネルギーを使いすぎてはならない。もっと具体的に言うと、結果について自分を責めてはならない。

などと言いながら、今日被りで出られなかった言語論とやらをちまちまと復習した。もう疲れたので丁寧には書かないしそれほど多くないが、まとめると「上手くやると関数型プログラムが文法に見えてくるので、型式言語的に安全性調査ができます」こんなところだろうか。別物に見える所に同相を見出すという雰囲気が中々に面白い。あ、まあ、それほど別物でもないのか。まだ序の口なのでよく分からない。

今日の進捗はその程度だ。1日でできることは多くない。悩みこむ時間より、勉強する時間を増やしていけるように頑張りたいものだ。おわり。

にっき「予測」

昨日は大言壮語を吐いたが、今日は今までと同じような1日であった。1人でいるとテンションは低いし、昨日ほど何かに夢中になっていなければ毎日ソシャゲもするしようつべも見る。

起床時間はよかった。目覚ましにゲームをするのはそこまで悪くないのだが、そのまま2時間やっていたりするから良くない。勉強だろうがゲームだろうが夢中になってしまうことがあって、知らぬ間に時間が過ぎる。生活はそれの繰り返しでしかない。「もう○○時ですよ!」というように、上手く割り込みを入れると良いのだろうか。タイマー?時報?ちょっと調べたらiPhone時報させるの割と面倒らしいな。

それとは別の問題として、そもそも今日は何をやりたいかというのが全然はっきりしなかった。目の前に人と課題がいないとまるでモチベーションが出ないのかなという気がする。ちゃんと目の前にそれらをセッティングしてあげるということを意識的にやるのが理想だ。

そう、やりたいことが定まらなかったというのは無かったということではなくて、細々とあって右往左往していた。流石に進捗ゼロではない。今日やっておかないといけないことを少しやった。大学の書類を読み書きするとか、バイト先と交渉するとか、後輩世代と通信するとか、でも研究室のことを考えるのは捗らなかった。あと家の掃除には手が届かなかった。今日は○○の勉強をする!ガリガリガリガリなら楽なのだが(実際には楽ではないが)、小さな雑用が溜まってる状況への対処が下手くそなんだろうな。

ああ、今日もっとやるべきことがあったのかな。もう明日から大学が稼働してしまうから、取れる備えは幾らでもありそうではある。でも思いつかないし、既にごちゃごちゃし始めているタスクを散乱させるべきでもない。人間ってやはり目の前にある課題のことしか考えられないものなのだろうか。

行動の予測と制御、あるいは自身の生活のルールを敷くということ。良い日々を意識的に生み出すこと。まず時報とか試してみようかな。なんか違うかもしれないけど、試しはしよう。明日もいろいろタスクがある。とりあえずしっかり寝て起きて、それからだ。

にっき「決意」

今日は、喋った。とにかく朝から晩まで喋った。去年の6月に喋った量の合計を優に超えたと思われる(仕事で喋った分はノーカンとしよう)。学科の知り合いと会って、偶然にも学科外の人にも出会って、ただ人と喋りまくった。

※知能システムに興味ない人は後編いきましょう。

前編

午前は知能システムの復習をしてみた。知識は抜けまくっていて、機械学習が前提みたいな世界に飛び込むんだからやらなきゃダメじゃないかという気持ちになり、ひたすら同期と議論しながら復習した。

成果をノート的にまとめておこう。学習とは未知関数を既知の点群から推定することである。最初に教わる方法として、いくつかのパラメータを持つ関数(モデル)を適当に作ってみて、それと既知の点群の存在との差(損失関数)が小さくなるようにパラメータを決定する。ゆえに、この手法で議論されるべきはモデルの作り方と損失の作り方である。

モデルの具体例として、最初はガウス分布山の線型結合モデルをやる。ちなみに、実のところ深層学習というのはニューラルネットを模した関数モデルを使ってみたらやばい性能が出たというだけの話である。ね、簡単でしょう?

損失の最初の例はお馴染み二乗誤差だ。その後、ギチギチに最適化し過ぎてガタガタな関数になる(過学習)という問題に当たるので、パラメータの絶対値がデカくなることにペナルティをつけてみたり(正則化)、誤差がゼロの近傍では二乗誤差でいいけども離れると損失関数がデカすぎるので途中から線形にしたり(ロバスト損失)という修正が出てくる。そもそも線形損失にするという展開もある。

関数の値域が離散的(性質を示す有限集合)な場合は話が全然違う。2値しかない(XXなものとそうでないものを見分けたい)場合、点群に+1と-1をつけて先程のように学習させてみる(結果、分類は関数値の符号で判断される)ことはできるが、損失の形が正しい分類に合わない。これは、+1に分類したい点の値が0を超えていれば十分なのに、+1より大きくなると無理に+1まで戻そうとしてしまうのが面白くないということだ。そこで+1を超えたところからは損失を0にする(+1以上も推奨する)損失としてヒンジ損失が出現する。ヒンジ損失は大雑把に各点が境界線から十分に離れている(マージンがある)ことを保証する。ガウス山モデル+ヒンジ損失による2値分類は優秀で、特別にサポートベクトルマシンというお名前がついている。別件として、ガウス山モデルを裏から覗き込むカーネルトリックという概念があるらしいが、これは飲み込めていない。

2値分類ですらない(3種類以上の類別)の場合は今までの関数型では歯が立たず、確率分布の推定という新次元の技が行使される。中々ややこしいが、とにかくパラメータ付きで確率分布らしきもの(ロジスティックモデル)を作ってみて、最尤推定で良さげな分布を探す(これが損失の代わりになる)。最尤推定はいつも混乱するが、「仮に真実がこの分布だったとして、目の前にあるこのデータ群が吐かれる確率はいくらか」というスコアを最大化することである。ここで教材には交差エントロピー損失という言葉が出てくるのだが、最尤推定の概念に綺麗に連結できていない(自分では未解決)。ところで、このシステムを改めて2値分類に適用してみると、さっきのモデルでヒンジ損失ではなく別の損失を持ちいていることと同値になることが分かる。こいつをロジスティック損失と呼ぶ。

んー、ほとんど忘れていた。これはやらないとあかんぞ。でもかなり進んだから(2コマ分の復習を2コマ分くらいの時間でやった気もするが??)良しとしよう。

後編

昼、縁あってはじめましての人とお茶をした。「人と人を繋げるサービス」の有用性について、また情報の価値と知りすぎることによる損失の話をした。昔、研究者と一般人を繋げる人になりたいという夢があったことを久々に思い出した。いい仕事である。知りすぎることによる損失というのは相手にするのが難しく、個々人の判断でやってもらうしかないというのが今の見解である。

さらに学科の人々とリアル飲み会をした(これはきっちり白状しよう)。まず久々に人と会って純粋に盛り上がった。研究室の話をした。教授の話をした。さらに、ある人が僕と同じく神経科学・脳科学情報科学を使った新たな研究というのを夢見ていると知って、熱い気分になった。もし良かったら神経科学を教えてくれと言った。次に、当初から希望されていたamong usをやる流れになって、案の定自分が根本的にインポスターができないというコンプレックスを見つめ直す羽目になった。ひとしきり遊んで締めの雰囲気になり、一部の人は帰り、ああ学期始まっちゃうねと呟き、なんとなく去年の失敗を思い返す時間になった。

凡そみんな同じことを述べた。1人では無理だった。本当に孤独だった人は声を上げずに死んでいき、先生は気付かなかった。そのことの反省をする機会があったかもしれないのに、先生に言いたいことが上手く伝えられなかったのも印象的な事件であった。アレは議論の場になってしまって、感情を伝えるのはナンセンスだという空気にしてしまったのが反省である。今学期は出来るだけ繋がろう、リアルで会うことは中々望まれていないけど、なんとか頑張ってみよう、と、まとまったところで終電のお時間が来た。

同じ道で帰る同期とコンプレックスの話をした。同期も自分も愛着障害である疑いが出た。自分は今まで1人で突っ走り過ぎたことを反省した。去年苦しみ抜いたことを丁寧に白状した。同じ轍を踏んでなるものかと想い、友達を大事にすることを誓った。

午前から午後まであまりにも長い1日であった。一息ついて、気付いた。僕の目の前に話を聞いてくれる人がいる限り、僕の脳は最高速で回転し続け、僕の口は出力を流し続ける。目の前に人がいなければ回転は鈍る。話し相手とは最早リソースであり、駆動力だ。人と人が繋がった時の凄まじいエネルギーというものを思い出した。今学期こそは、できれば最大出力で挑みたい。意識的に人と繋がろう。例えばDiscordに何時間だって居座ってやろうじゃないか。それと、どうしても疲れたらちゃんと休憩すること。人に頼ることを恐れないこと。我々はまだまだ未熟なのだから、やれることは沢山あるのだから、

ピンチの時ほど、ふてぶてしく笑え。