izuna385 memo

twitter, github: @izuna385

Graph Neural Networks, Graph Convolutional Networks 備忘録

これは何?

  GNN, GCN周辺のサーベイ途中で、有用なリンクが多くあったので、そのまとめです。

リンク

 

 

以下の2つは上記論文の著者解説

 Knowledge Graph(Base), entity embeddingとの関連については、例えば以下の論文がある。

 直近だと気になっているのは、

 GNNとは直接関係がある訳ではないが、Knowledge base/graphからのembedding獲得手法にも畳み込みの操作を加える文献は幾つか出てきている。

 上記の文献は、隣接行列については特に考慮はしていない。edge自身のembedding及びrelation embeddingをどう獲得するかにのみ焦点が当てられている。

 こちらは隣接行列(Structure)まで加味。ConvEがたたき台。
 

読んだものについては、ここでまとめる予定です。

集中できない状態を防ぐために

これは何?

自分はどうして集中できない状態になってしまうか、どう自分を集中の状態に持っていくのがベストかについて、ある程度言語化したほうが良いと考えたので、記事に残します。

  

集中できない場所の条件は?(具体例とセットで)

  • 転がることができてしまう場所
    例:自宅、大学のシアターラウンジ
    転がれてしまうと、すぐ眠るムーブに移るため

  • 同様に、人の目が全くない場所
    例:自宅
    すぐニコニコ動画に移ってしまう。

  • 机がかなり狭い場所
    例:自宅(そもそも机がない)、喫茶店の一人席

  • 目が合わざるを得ない場所
    例:スターバックスによくある、8人がけ程度の対面テーブル
    ノートの上端や、Wifiを切り替えるための右上に視線が移動しづらくなる。

  • 一度休憩を入れると、10分以上は休憩してしまえる場所
    例:喫茶店から外に出ると、なんば駅周辺にいた場合散歩してしまう。
    また、15分以上の休憩を挟める場所にいると、集中状態がリセットされてしまう。

  • 逆に、休憩が自由に取れない場所

    例:喫茶店では、トイレに行くか店の外に出るぐらいしか、休憩の選択肢がない。

  • 後ろからの目が少し気になりすぎる場所
    例:研究室の机
     あまりに人通りが多く、冷蔵庫が近かったこともあり、近日引っ越しすることにした。
     ただし、本当に誰の目にもディスプレイが見えない場所だとだらける可能性はある。今より人通りは少ないが、ディスプレイが他の人からも捉えられる机に引っ越す予定である。

  • 研究室のキーボード音、特に同期の音が聞こえてしまう状態
     比べても意味がないことがわかっているのに、不安になる。
     必ずヘッドホンをする。

集中できない状態は?

  • 獲得的セルフ・ハンディキャッピングの、負の連鎖に陥っている状態の時

     まずこの状態になってしまうと、当て所なく散歩したり、コンビニに寄ったりする状態になり、タスクは一向に進まなくなる。
     こうなるともうダメで、寝るぐらいしかリセット方法がないように(その状態の自分にとっては)感じられてしまう。そうならないよう、事前に止める必要がある。対処法は次の項目を参照。

  • 今日一日で何をすべきかを、何らかの媒体に書き出していなかったり、わかっていない状態の時
     
     本来やるべきことがたくさんある状態であるのに、紙に書き出すことさえ後回しにしてしまい、タスクがどんどん膨れ上がるかのように感じられ、獲得的セルフ・ハンディキャッピングは発動しやすくなる。そして、頭にもやがかかった状態になり、何も手がつけられなくなる。
     典型的なADHD的ムーブだと思われる。

     対処法としては、朝に簡単なことを一つ済ませた勢いで、そのまま紙やTrelloに書き出しを行うというのが有効かもしれない。

  • 頭のもやが取れていない状態の時
     特に、朝起きた直後がその状態。何をすればいいかがぼんやりとしていて、だけども何もやる気が起きない状態
     対処法としては、簡単なタスクを一つ終わらせる。それを行うことが自分にとって価値があると、腑に落ちてわかっているもの(例:今日の分のサーベイする論文のタイトルだけをgithub wiki に追加する などの粒度で)だとなお良い。

  • 休憩を長め(15分〜)に取ってしまったとき
     休憩は重要だが、長めに取りすぎると頭の回転がリセットされてしまう。
     すぐ立席して、すぐ戻れるという意味でも、研究室の机が一番集中しやすいのではないかと思う。

どうしたら、獲得的セルフ・ハンディキャッピング状態で一日を無駄にせずに済む?

  • 次の日の朝に一つだけ行うタスクを決める。それを自分のgithub wikiの研究日誌に残し、次の朝に見る。
     封筒を出すなり、〇〇さんにメールを多くるなり、小さなことを一つ次の日の朝に終わらせる。それをマッチの火種にする。

  • 朝に誰かと、小一時間話す
     秘書さんでも、大学に来た他の人でも、事務的な用事により発生する会話(教務課、郵便局など)でも良いが、誰かと話す。


 どうしたら集中できるか、については「気づいたら集中していた」ということが多いので(今この記事を書いているときもそう)、特に書くことがないです。

 繰り返しになりますが、朝一でなにか簡単なことを終わらせて達成感を得る、というのがあると、次のことに移行しやすいと感じています。

追記 2019-04-01 

どうしたら集中している状態に移れるか?

 多分、問の立て方が間違っていそう。
 この問だと、「集中している状態」に持っていくまでのハードルが無意識に高いものとして前提に存在してしまうことになる。
 そうではなくて、1分やったら終わり、1分だけやったら休憩する、などして集中状態に持っていくためのハードルを極限まで下げると良さそう。


 まだ他にも、トリガー(集中できない、獲得的セルフキャッピング状態につながるトリガー/集中している状態に持っていくために必要なトリガー)はあると思うので、気づいたらここに追記します。 

jQueryで「面談」を「選考面接」に、「カジュアル」を「真剣」に書き換えるだけのchrome拡張機能

タイトル通りです。就活を全く分かっていなかった時の失敗を二度と起こさないためです。

 

リポジトリ

github.com

インストール方法については、以前の

GitHub - izuna385/twitter_Icon_singleColorBall: Convert all twitter icons to single coloar balls.

の、How to install と同様です。

 
さすがにこのままルールベースのみだとつまらないので、もう少し柔軟な書き換え機能を追加できればと考えています。

twitterのアイコンを全て単色球にする

twitterのアイコンを全て単色球にしたいと以前から考えていたので、研究の息抜きとjavascript,jQueryの勉強も兼ねて作りました。

 

デモ

f:id:izuna385:20190209225857g:plain

demo

リポジトリです。

github.com

 

Javascript, jQueryともに全く分からないまま一日で書いたので、コードも汚いです。フィードバックがありましたら伝えて頂けると大変嬉しいです。

 

まだできていないこと

 本当は各アイコンごとにランダムな色を割り当てたかったので、.eachを用いて出来ないか試行錯誤しましたが、出来ませんでした。

 もしヒント、バグ報告、フィードバックなど頂けましたら大変幸いです。

7月末までの振り返りと8月

~2017/7月まで

 結局授業なり何なりで全くコーディングが手につかなかった。フレームワークについてもほとんど理解した状態でなく、大変まずい。

 競技プログラミングについても6月まではがっつりやってC問題までは埋められたが、それ以来コンテンストに出るくらいで問題はほとんど解いていない。

 

7月終わりまでの悪かった点。

  • 忙しいふりをしていた。具体的には目の前の短期タスクだけに集中するばかりで、インプットもほとんどない状態
  • 長期的な計画性がなく、一番優先すべきフレームワークの勉強がほとんど追えていない
  • 数式は手を動かしてすぐ分かった気になれるが、今一番最優先すべきはコーディングと簡単な論文の再実装が全く追いついていない

8月にやらないといけないこと 優先順

  • フレームワークを用いた、言われた論文の再実装
  • CourseraのMachine learning, Deep learning specializationの2つ
  • FasiAIのDLコース
  • Kaggleの準備 最初は動画で
  • 螺旋本のAOJ埋め C++で とりあえず残り文字列のところを埋める

あとはRailsに興味があって作りたいものもあるけれど、時間が取れるかどうか。。。って言って1ヶ月経っている間にtwitterでもう作っちゃった人がいてアウトプットが大事だと感じました。


結局黙って手を動かしてアウトプットを出す人が一番かっこいい

 今の私はやるやる言ってばっかりで全部失敗しているという大変クソダサな状況なので手を動かします。。。

 

機械学習スタートアップシリーズ ベイズ推論による機械学習入門 3_4_4節 補足

前回と同じです。

扱っている本について

 通称緑本

 

機械学習スタートアップシリーズ ベイズ推論による機械学習入門 (KS情報科学専門書)

機械学習スタートアップシリーズ ベイズ推論による機械学習入門 (KS情報科学専門書)

 

 

 今回担当が当たったので解説を作ったのですが、はてなブログ上でうまくMarkdown+Mathjax表記が出来ないので、Github pagesを利用しました。

 

 3.4.3 節は多次元ガウス分布で、平均と精度がともに未知である場合に事後分布を更新するハイパーパラメータをどう設定するかという問題でした。

https://izuna385.github.io/bayes/suyama3_4.md.html

  

 PRMLの補足もしていきたい。

 

 

ベイズ 緑本 3.3.3節 補足

扱っている本について

 通称緑本

 

機械学習スタートアップシリーズ ベイズ推論による機械学習入門 (KS情報科学専門書)

機械学習スタートアップシリーズ ベイズ推論による機械学習入門 (KS情報科学専門書)

 

 

 今回担当が当たったので解説を作ったのですが、はてなブログ上でうまくMarkdown+Mathjax表記が出来ないので、Github pagesを利用しました。

 

izuna385.github.io

 

 記事上では、これで終わりです。(何とかしてはてなブログ上に表示できないものか。。。)