鴨川にあこがれる日々

気持ちが強いほうのブログ

2018年上半期振り返り

shopetan.hatenablog.com
shopetan.hatenablog.com

例年どおり、↑に感銘を受けたので書きます。

月ごと

1月

修論の提出と審査があった。内容はIBIS2016のとSWM2017の論文をあわせた。雑魚い学生だったので日本語で書いた。提出日に他の学生に「nzwさん英語じゃないんですね?意外です」的なことを言われた。すまん。

提出形式が必要以上に厳格 *1なわりにテンプレートがなかったり、ストレスが溜まった。事務の人に言ってもしょうがないので研究科長あたりに直訴した。変わりそうな兆しがあるらしいので言ってよかった。

論文提出した日にDAOKOのLIVEに行った。すごい良かった…感極まってグッズを買ったが袋をもってなかったので帰りのTXが気まずかった。

月末に引っ越した。

2月

3月末までAISTのバイトをする都合で週の半分をつくばに通うみたいな生活をしていた。

ICLRのワークショップに投稿した。自分の無能さを感じるなどした。

学生支援機構の奨学金(ローン)の免除関連の書類を書いていた。用意した書類*2の1/4は受け付けてもらえなかった。悲しい。

MSRAのインターンに応募した。

3月

ICLRのワークショップ論文がrejectだった。採択率がわりと高めなのと書いた論文に自信があったので、エモくなった。

修士( 情報学)を授与された。式の日は、都内で Dr. Kevin Murphy のトークがあったので、学位記もらってすぐに移動した。なので大学の懇親会的なのも行かなかった。

卒業旅行で伊香保温泉に行った。夜お酒でぼったくられた。

4月

新しい大学に来た。同じ学費でも設備等がここまで違うのかと思った*3
個人的に可能な限り研究室の方々と学食を一緒にとることを心がけている。これはコアタイム的な感じで、研究室になるべく行くことを習慣づけたいから。

AISTのときに手伝った論文がEMBCに通った(共著)。

5月

出してないけど、NIPSの締切があった。11月の段階でNIPSに出せるくらいの気持ちでやってほしいと言われていたが全然出せる感じのテーマすら決まらなかった。すみません。

前所属関係で論文投稿を投稿して、査読中。

手が動かせそうな思いついた手法を1週間くらい試していた。既に似たようなものがあったので、ブログで簡単にまとめた↓。
nzw0301.github.io

研究室でGoogleの見学に行った。

フェローシップのプロポーザルを出した。

6月

iPadを買った:

RIKEN AIPで Dr. Aapo Hyvarinen のトークがあったので聞いた。研究室の先生がAIPのセンター長だとこういうイベントで融通が効くのですばらしい*4

前所属の人の論文を少し直していた。共著者より論文を書いた/直したが、手法とかのアイディアに関しては全く貢献がないので、共著にはならなさそう(?)ということで謝辞に名前を載せてもらった。論文はSIGIRのワークショップに通ったらしいのでめでたい。

研究室の学生セミナーで発表した。発表してない自分の研究以外はできるだけ資料を共有したほうが、就職するときの多少でも足しになりそうな気がしているので、公開した↓。

speakerdeck.com

学生支援機構の奨学金(ローン)が半額免除になった。借金が減った。全額じゃなくてつらい。

受かっていたらMSRAからオファーレターがくるが合否の連絡すらないので多分落ちている。

その他

コードを書く機会が激減した。とりあえず今は勉強なりサーベイをしていることが多く、よほどのことがないと追試なり再実装することがないため。趣味だとPyTorchでskip-gram書いたくらい。



下半期はいろいろなんとかしたいです。

*1:例えば、審査する教員だけが読む印刷した修論のためだけの表紙があり、日本語の場合そこの姓名の間は必ず全角スペースが必要で、それを事務方が目視で確認し、全角でないとやり直すとかそういうの。

*2:勉強会の登壇x3、AISTでの研究活動、Mangaki Data Challengeの入賞、GitHubインターン

*3:具体的にはちゃんとした食堂・売店があること、駐輪場に自転車を止めることができること等

*4:大学からリモート参加できる

D進前夜

あとから書くと生存バイアス乙とか言われる気がするので、今書いておきます。1年後とかにまた書くと差があって面白いかもしれない。

博士課程一問一答というのがあったのでこれにそってみる。
anond.hatelabo.jp

Q1. 博士課程ってなんですか
A1. 博士号を取るところ。自由に研究できる時間があるところという認識。日本だと3年。5年くらいは誤差。海外インターン行きやすい時期だと思う。

Q2. なんで博士課程に進学するんですか
A2. B1のときの筑波大のD学生:図情の min2flyさん、(図書館情報学チャンネルで話すのがやたら上手いと思った)CS専攻の ceekzさん、TGN (http://tgn.official.jp/) の院生方がかっこよくてそれで漠然と進学したいと思ったから、研究者になりたいから、頭がよくなりたいから。

Q3. 普段どんな生活してんのさ
A3. 不規則。前は、11時くらいに起きてブランチ、研究 or ネットで19時で夕ご飯、研究 or ネットで26時に寝る。

Q4. 在学時の金銭問題に関して一言
A4. DC1とバイト(今年から緩和)でだいたい30万/月の予定。都内に住んでない&大学の近くなので、家賃も安いし定期代もない。相対的に貧乏な家だったので、これでかなり贅沢。M2の時点で、月18万くらい(バイト10万+奨学金8万、授業料全額免除)で贅沢だなと思っていた。

Q5. 学振について
A5. M2の4, 5月ほとんど費やして、DC1内定(面接なし)。区分は総合の知能情報学。色んな人にコメントをもらうとよいと思う。アンサンブル大事。色んな人に頼むには、学会とかバイトで知り合いを作る。出す研究室が大事とか聞くけど、自分は少なくとも過去にD学生が1人もいないところで出したからあんまり関係ないと思う。DC1は「業績で十分」とか「研究計画が大事」とかいろいろ言われてるけど、全部大事。

Q6. インターンについて
A6. 海外研究所が1つ選考中。これも学振の制約がゆるくなって、前までは、給与を止めて貰う必要があったが、今度からそれが消えた。英語に不安があってチキってる。

Q7. 楽しいこと3つ
A7.

1. 自分のできないことができるようになること(英語でそれらしいことが書けるとかスキル的なこと)
2. 研究であーだこーだ考えること(考えている最中はしんどいこともあるけど)
3. 研究が理解されること(特に引用される、話題にされる、いいと言われるなど。めったにないけど焦)

Q8. つらいこと3つ
A8.

ネガティブなので、3つと言わずいくつでも挙げます:

1. 論文通らない・かけないこと。ただし、自分の読んでるところにしか出したくない。
2. 知らない教員・学生の、不安を煽るようなツイート(生存バイアスしんどい)
3. 「研究者/博士学生はかくあるべき」みたいなやつ。たいてい自分は当てはまってない。大学やめたほうがいいですか?
4. 国内のよくわからない無駄なルール
5. 学会に参加すること(差を感じてOにたくなる)
6. 非効率さ
7. 自分個人ではなくて、所属大学や研究室が主で評価されること(進学先に行くのが確定してから言われるようになった)

Q9. 現時点で後悔していること
A9.

  • 基礎をちゃんとしなかったこと

- 文理融合ってところにいたので、広いけど浅い講義ばかりだった。専門とか数学、プログラミングとかはもっと自習しないと通用しなくてわりと今やばい

  • 修士から院を変えなかったところ

- B4の時点で変えたほうがいいと言われていた

Q10. 博士課程に向いている人
A10. 行きたい人が行けばいいと思ってるのであんまり考えたことがありません。それだと面白くないので、私がこうありたいという部分をあげます:

  • 評価関数が自分の中にある
  • 長い間考えることができる
  • 生活リズムが一定
  • コミュニケーション能力(質問とか)
  • ある程度の営業能力(一つ前と似てるかも、情報系だとHPとかGitHubでコード公開、解説記事とか、嘘は当然NG)
  • メンタル強い
  • 効率的
  • 悪口を言わない(注:批判とは違います)
  • 多様性を尊重

研究テーマとか

B3の研究テーマどうしたいかみたいなゼミに出た*1。全体的に流行りものを選んでいる気がしたので、なんでかなと思って考えてみた。

卒研生だと有名な国際会議・論文誌をそもそも知らないので、適切な指示がない限りは、日本語で得た情報が元になって検索をしたり考えたりする。そうするとQiitaや日本語Twitter、日本語ブログで流行ってるネタになるのではないだろうか*2。そういった研究のラグは、その日本語記事の公開者にもよるがひどいと数年、良くて数週間くらいある*3。こういった研究ネタは見栄え・デモが分かりやすかったり*4、話題に上がるだけ性能がよかったりするので、卒論研究として価値がありそうに思え、良いテーマに見えるかもしれないし、面白そうに見える。だから卒研生に選ばれるのかなと思った。

学生にはちょっと考えてほしい*5、そういった論文は世界中の人が読んでるわけだし、日本人の論文でないならば、(ネットだけど)海越えて来てるわけなので、世界規模で考えると有名な理由がある。例えば、その分野の権化みたいなグループが出したり、性能が極めてよかったり、noveltyが高かったりなどである。そうすると、有名グループなら拡張なり新しい問題設定なりの次弾が装填されている状態である可能性が高いし、手が速く計算環境があるようなところがすでに試行錯誤をしている*6レッドオーシャンである。卒論を出す頃には、どこかがコンフリクトし、意味の薄い研究ができてしまう*7

オチはない。Twitterで見たが、とりあえずトップカンファレンス過去数年分読んでみるのがいいと思っている*8

*1:4月から別の大学に行くのにまだゼミ出てくるの老害では?とか思われていた気もする。ごめんなさい

*2:自分もそうではてなあたりでバズってたword embeddingがテーマだった

*3:例えば、国際会議の投稿と同時にarXivで出てから、査読を経てトップカンファレンスで発表され、日本語の読み会なりブログで日本語の情報が出るまでだと半年以上の差が開きそうである。だからarXivを読めと言っているわけではない

*4:king-man+woman=~ queen! 、neural style transfer、seq2seq、GAN、VAE、...

*5:ついでにいうと教員も赤いやつはやる前にとめてほしいのだが…

*6:GPUが複数人で1個とか、「このデータ動かすにはAWS使うしかないですね」「科研費で使えるかな…ちょっと事務に聞いてみましょう」「(数日経過)」みたいでないなら別なのかもしれないが…

*7:卒研は体裁さえ整っていればnoveltyを問わないという方針を除く

*8:修士でトップカンファ通すような人たちの中で複数人が言っていた。事実(?)、私はそうしてなかったし、現に通せてない

2017年の振り返り

今年も研究業績が無な一年でした.そろそろちゃんとしたいです.どうしたらいいでしょうか.

月ごと

  • 01月.学会の準備、DMM英会話を始めたけど全然わからなくてつらい気持ちになりました.
  • 02月.WSDMワークショップに論文が通っていたので2度目の海外.イギリスまた行きたいです.詳細は過去記事をご覧ください.
  • 03月.言語処理学会年次大会@つくばにスタッフとして参加.人足りなさそうだったから全日程入れたのが失敗でした.
  • 04月.DC1の書類をかいたりKerasの翻訳を再開したり.
  • 05月.DC1の書類をかいたりKerasの翻訳したり.スタバのコーヒーのグランデサイズ2杯とか飲んでたら体調壊しました.DC1についてはこちら
  • 06月.ICLR読み会@DeNAで発表しました.知人が増えたのでよかったです.研究ネタがボツになって勉強になりました.インターンに2つ申し込みました.
  • 07月.インターンに通ったので,その準備をしたり,院試の準備をしました.
  • 08月.丸の内でインターンをし始めました.平日は都内のホテル,休日はつくばで生活.夜はTOEFL-ITPの勉強をしてました.月末に東大の院試を受けました.
  • 09月.丸の内でインターン.わりと終わらないと思ったけどなんとかなったと思っています.インターンについてはこちらJava最高.研究室合宿に参加したら,温泉で気を失いました.
  • 10月.サーベイをしました.クラウドソーシングのデータを機械学習でこなすコードを書きました.図書館総合展で使われたらしいです.大学は学生を雇用する際の金額の上限を上げるなり変更できるようにしてはどうかとよく思っていました.
  • 11月.IBIS@東大に聴講で参加.Dockerを使って研究のコードを作るようにしはじめました.Kaggleちょっとしました.
  • 12月.恒例の1人旅行で伊豆に行く予定です.修論を書いています.

今年の抱負

理論よりの英語論文をかきたいです...

ごめんなさい.

以下今年書いた論文です:


以上です.

今年全体を通して

booklog.jp

去年より100冊増えてました.ほとんどマンガが占めているので購入を制限したほうがいい気がしてきました.

アウトプット的なこと

nzw0301.github.io

ブログで論文なりをまとめることがめっきり減ってしまいました.あんまり意識してなかったので理由がわかりません.書いたことないですが,英語とかで書いたほうがいいのかもと思うようになりました.

ちゃんと振り返る

明らかに研究をする時間を自分で作っていないのが問題です.私は1日に大きめのタスクを2つやるということがあまりできず,1つをずっとやってしまう傾向があるので,日ごとに細切れになることが多いように感じています.毎日少時間でもいいので取り組むべきでした.また,申請書や入試の準備にたくさん時間をかけているのもある気がします.もっと効率的になりたいです.出した申請書の類は幸いなことにすべて通っているので,来年からがんばりたいと思います.

来年こそはちゃんとしたところに論文を通したいです.

それでは,よいお年を.

7月の振り返り

shopetan.hatenablog.com

ホワイトボードに書いた私の文字が、死ぬ間際の人間のようだったそうです。
文字には気持ちを込めて書いていきたいと思うなどしました。

大学のこと

修論の中間発表会がありました。
主査と副査の先生を除くと教員が1名で普段のゼミと変わりがありませんでした。

その他

2冊/日のペースでkindleで漫画を買って読んでいました。

研究っぽいこととして、論文を読んだ記憶があります。

あとword2vec (skipGram with negativeSampling) の再実装をスクラッチで書いていました。こういう高速化のテクニックは楽しいですね。


それ以外は、何をしていたか思い出せません。

上半期の振り返り

shopetan.hatenablog.com
に感銘を受けたので、再開してみます。

月ごと

  • 1月:2月に国際会議があったのでDMM英会話を始めた。今もだけど、全然言ってることわからなくて大変だった。国際会議併設のワークショップの準備をしていた気がする。
  • 2月:イギリスに行った。また行きたい。cambridgeをcombridgeに間違えて宿泊施設をドタキャンして焦った。Googleが会場近くのバーを貸し切ったパーティーみたいなやつをやっていたのでに行った。会話が全く理解できなくて本当に厳しい気持ちになった。英語大事。
  • 3月:NLPのスタッフをした。同期とかが発表してる中で自分は何も発表してなくて落ち込んだ。AAAI&WSDM2017勉強会で発表した。
  • 4月:DC1の書類を書き始めた。TAのためにほぼ毎回前日徹夜だった。Kaggleをちょっとやった。
  • 5月:広い部屋に研究室が引っ越した。学生の要望は一切事務に通らなくて厳しいなと思った。GWはDCの書類をやっていて、スタバのグランデサイズを6時間で2杯とか飲んでた。BLAME!の映画をみて、弐瓶勉の単行本を全部買った。
  • 6月:カフェイン中毒らしい症状が出た。悲しい。ICLR読み会で発表した。

上半期(もっというとM1から) 研究テーマが決まらなくて、ずっとしんどい。
トップ会議に通るくらいのいい研究をしたいのですが、ギャップをすごく感じています。どうしたらいいんでしょうか。

下半期は頑張ろうと思います。

国際会議でイギリス

バンケット会場
f:id:another16javac:20170210075824j:plain
f:id:another16javac:20170210075652j:plain


会場の周辺施設

f:id:another16javac:20170210075439j:plain
f:id:another16javac:20170210075546j:plain
f:id:another16javac:20170210075011j:plain
f:id:another16javac:20170210075145j:plain
f:id:another16javac:20170210074838j:plain


はじめに

WSDM 2017 – The 10th ACM International Conference on Web Search and Data Miningf:id:another16javac:20170210074605j:plain

WSDMという国際会議の併設のワークショップに論文が通ったのでイギリスのケンブリッジという都市に来ています.DNAの2重らせん構造をみつけたワトソンとクリックがランチしたEagleというパブがあったり,いたるところに教会や大学がある都市です.

この会議には主にデータマイニング系と検索系の人が参加しているようです.今年の論文の採択率は15.9% (!!!!).来年はロサンゼルス,再来年はメルボルンだそうです.

ここでは準備の話をかきます.

本題

WiFi

現地で道に迷ってもいいようにネット環境を用意します.
調べた範囲では

各キャリアの海外プラン > ポケットWiFiレンタル > 現地でsim cardを調達

の順で高いです.ポケットWifiはかさばる,充電が2,3時間しかもたない,保険に入らないと弁償しないといけないといったデメリットがあるのでsim cardを海外で調達しました.アメリカなどと同様に空港にsim cardを売ってる自動販売機があるので,それを買ってスマホにさせばすぐに使えます.2000円以内で1GBの通信できます.

現金

いろいろ調べたところ,海外でクレジットカードからポンドを下ろすのが一番安く交換できるのですが,面倒だったので,空港で交換しました.日本と違ってイギリスは公共交通機関の自動販売機ですらクレジットカードが使えるのでほとんどいりません.自分が現金が必要になったタイミングはご飯を割り勘するときだけでした.

クレジットカード


デビットでもいいかもしれませんが,絶対に必要です.航空券やホテルの予約で必要になることがあります.念のため異なる2種類のクレジットカードを用意しました(VISAとamazonのmasterカード).

自分がつらかったのは,作ったカードは1月あたりの上限額が10万円に設定されており,航空券だけで10万円超えて払えず色々と指導教官にめんどうをかけたので,上限を上げておいたほうがいいです.

変換プラグ

イギリスは日本のコンセントが使えないのでBFタイプの変換プラグが必要になります.また海外に行く気がしたので,複数の変換プラグが同時に使えるものをドン・キホーテで買いました.

英語

私は英語が壊滅しています.以前他大学の方がACLに行く前にDMM英会話をやっていたので,自分も30日間やりました.非ネイティブの英語がぎりぎりわかるくらいで,ネイティブや英語に音が近い言語の方の英語は音を認識できないので厳しいです.どうしたらいいんでしょうかね.

歯ブラシ

日本のホテルにはありますが,アメリカとイギリスで泊まった場所にはなかったです.

ボールペン

入国カード書くのにいるので機内に持ち込んだほうがいいです.空港で書く場所がなかったです.

その他

衣類圧縮袋

なんだかんだで衣服がかさばるのであると便利です.自分はこれをかいました.

カナル型のイヤホン

耳栓の代わりです.飛行機はうるさいのであると便利です.

事前手続き

大変感謝していますが,所属研究科の出張手続きが煩雑すぎて行くのやめたくなるレベルでした.