Sleep like a pillow

Deep Learning関係の話。

2018-01-01から1年間の記事一覧

論文読み Non-local Neural Networks

局所的な情報しか扱うことができないCNNやRNNに、大域的な情報を付与することが可能なnon-local blockというモジュールを提案した論文です。traditionalなノイズ除去手法のNon-local Mean Filterを、ニューラルネットワークで表現したような手法です。 Non-l…

論文読み Adam Induces Implicit Weight Sparsity in Rectifier Neural Networks

活性化関数にReLU、optimizerにAdamを使い、lossにL2正則化項を加えてDNNを学習させた場合に重みのスパース化(多くの重みがほぼ0になる)が起こりやすいという現象についての論文です。これを利用して、重みが0になったノードを削除してモデルのサイズを小さ…

論文読み Deep Learning for Generic Object Detection: A Survey

Deep Learningを用いた物体検出手法についてまとめたサーベイ論文です。 Deep Learning for Generic Object Detection: A Survey 3 Frameworks 物体検出手法は大きく以下の2つに分類することができる。 two stage detection framework: 最初に領域候補の推定…

論文読み CornerNet: Detecting Objects as Paired Keypoints

single-stageの物体検出手法の中でのSOTAを達成したCornerNetの論文です。 bounding boxの左上の座標(top-left corner)と右下の座標(bottom-right corner)を検出することで物体を検出します。 CornerNet: Detecting Objects as Paired Keypoints 3. CornerNe…

ImageNetによる事前学習について再考した論文「Rethinking ImageNet Pre-training」を読んだ

2018/11/21にarXivに投稿された論文「Rethinking ImageNet Pre-training」を読みました。 著者: Kaiming He (Facebook AI Research), Ross Girshick (Facebook AI Research), Piotr Dollar (Facebook AI Research) Abstract スクラッチから学習したMask R-C…

U-Netの改良版 UNet++ をPyTorchで実装&性能評価

画像の領域検出(image segmentation)ではおなじみのU-Netの改良版として、 UNet++: A Nested U-Net Architecture for Medical Image Segmentationが提案されています。 構造が簡単、かつGithubに著者のKerasによる実装しかなさそうだったのでPyTorchで実装し…

CIFAR-10でSOTAなエラー率2.19%を達成したdata augmentation手法 RICAP を試してみた

2018/11/22にarXivに投稿された論文「Data Augmentation using Random Image Cropping and Patching for Deep CNNs」で、CNNの新しいdata augmentation手法であるRICAP (Random Image Cropping And Patching)が提案されています。 シンプルな手法ですがCIFAR…

スケールと形状を学習可能なConvolution: Modulated Deformable Convolution (Deformable ConvNets v2)を実装

2018/11/27にarXivに投稿された論文「Deformable ConvNets v2: More Deformable, Better Results」で、スケールと形状を学習可能なConvolutionであるModulated Deformable Convolutionが提案されています。おもしろそうな手法だったのでPyTorchで実装してみ…