知乎大神“Seu Tao”，僅用半年時間參加了5次Kaggle比賽，就拿到了5個金牌（包括一個 solo gold），順利成為了 Competitions Grandmaster。最近，他分享了比賽經(jīng)驗。

又一位Kaggle大神！

Kaggle是全球首屈一指的數(shù)據(jù)科學(xué)、機器學(xué)習(xí)競賽和分享平臺，企業(yè)和研究者可以在Kaggle平臺發(fā)布數(shù)據(jù)、舉行/參加競賽，通過“眾包”的形式產(chǎn)生最好的模型，現(xiàn)在注冊用戶數(shù)量超過100萬。

在Kaggle Competitions排行榜中，有一個頭銜是眾多用戶都十分向往的，那就是“Kaggle Grandmaster”，他們是排名0.1‰的頂級高手。目前，Kaggle只有136位Grandmaster。

Grandmaster除了代表你參加過很多競賽并且多次獲得冠軍，這個頭銜在投簡歷找工作時也很具吸引力。同時，參加大企業(yè)舉辦的大型競賽，還能獲得獎金。

知乎上有一位大神“Seu Tao”，他從2018年9月份到2019年3月，僅歷時半年，共參加了 5 次 Kaggle比賽，就拿到了5 個金牌（包括一個 solo gold），順利成為了 Competitions Grandmaster！

Seu Tao告訴新智元，他17年本碩士畢業(yè)于東南大學(xué)，目前在某創(chuàng)業(yè)公司任職視覺算法工程師，這5次Kaggle比賽，也都是計算機視覺類的任務(wù)。最近，Seu Tao把他參賽經(jīng)歷和經(jīng)驗分享出來，我們一起膜拜下。

Kaggle 五次比賽成績（按名次排序）

2nd in Humpback Whale Identification (2/2131, top 1%,Solo Gold Medal)

4th in TGS Salt Identification Challenge (4/3234, top 1%,Gold Medal)

8th in Airbus Ship Detection Challenge (8/884, top 1%,Gold Medal)

9th in Human Protein Atlas Image Classification (9/2236, top 1%,Gold Medal)

12th in Google Doodle Recognition Challenge (12/1316, top 1%,Gold Medal)

SeuTao Kaggle主頁：

https://www.kaggle.com/shentao

五次比賽介紹（按時間排序，記錄下 5 次比賽的過程）

1. TGS Salt Identification Challenge（4/3234）金牌 2018.10

TGS 鹽體識別挑戰(zhàn)賽，挑戰(zhàn)者需要開發(fā)出能準確分割地表以下沉積鹽分布的算法。地震數(shù)據(jù)是通過地震反射（reflection seismology）收集的，這種方法要求能量的受控震源（如壓縮氣體或地震振動器），以及記錄來自地下巖石界面反射的傳感器。之后處理記錄的數(shù)據(jù)，創(chuàng)建地球內(nèi)部的 3D 視圖。地震反射類似于 X 光、聲波定位儀和回波定位。

比賽任務(wù)：地震圖像語義分割

這是我第一次完整的 Kaggle 比賽經(jīng)歷，堅持刷 discussion，follow 蛙神的實驗。比賽中后期一直保持著 top5 左右的名次，ddl 前一度上了 top1，最終 public 第 2，private 第 4。金牌 + 獎金，一次 Kaggle 全體驗。

solution 介紹：

https://www.kaggle.com/c/tgs-salt-identification-challenge/discussion/69178

代碼：

https://github.com/SeuTao/Kaggle_TGS2018_4th_place_solution

關(guān)于本次比賽的一些詳細解讀可以參考@AlexL的文章，他們是這次比賽的第 5 名團隊:

https://zhuanlan.zhihu.com/p/47412338

2. Airbus Ship Detection Challenge（8/884） 金牌 2018.11

Airbus 的遙感圖像分割檢測比賽Airbus Ship Detection Challenge，airbus 也就是空中客車公司，懸賞金額 6 萬美金。航運流量增長迅速。更多的船只增加了海上違規(guī)行為的機會，這迫使許多組織對公海進行更密切的監(jiān)視。在過去的 10 年里，人們做了大量的工作，從衛(wèi)星圖像中自動提取目標(biāo)，取得了顯著的效果，但在實際操作中存在許多不足?，F(xiàn)在空中客車公司與 kaggle 共同舉辦比賽，尋求更好更快的船舶自動檢測方案。

比賽任務(wù)：從衛(wèi)星圖片中找到所有的船只

剛結(jié)束 TGS 比賽，此時距離 Airbus deadline 僅剩下不到一個月了，好在之前訓(xùn)練了一個基礎(chǔ)的 unet 模型，同時把 TGS 的經(jīng)驗遷移過來，敲定方案是 unet 語義分割模型 + mask rcnn 檢測模型，幾位隊友合力之下順利上升到了 PB 第 2 的位置。這題 AB 榜 shakeup 很大。最終我們 team PB 第 5，private 第 8。Do not trust LB, trust ur CV！

solution 介紹：

Do not trust the LB, trust your CV. (5th/8th in public/private LB)

https://www.kaggle.com/c/airbus-ship-detection/discussion/71601

代碼：

https://github.com/SeuTao/Kaggle_Airbus2018_8th_place_solution

附：來自@Pascal的方案：

https://zhuanlan.zhihu.com/p/48381892

3. Google Doodle Recognition Challenge（12/1316）金牌 2018.12

這次比賽識別的是 Quick, Draw! 游戲的 5000 萬張涂鴉，它們由來自全球各國的超過 1500 萬玩家貢獻，畫得大多是一些蘋果啊，浴缸啊，計算器啊之類的日常用品。

比賽任務(wù)：靈魂畫手涂鴉分類

跟 airbus 比賽一樣，花了一個月左右的時間去完成。跟之前比賽認識到的伙伴們組成了 8 人小隊。賽題的數(shù)據(jù)量和需要的計算資源都很大，模型迭代的效率相對比較低。比賽結(jié)束之前也沒有太多有效的探索。有幸的是最終還是能夠 private 榜逆襲，拿下金牌的最后一名。

拿下這塊金牌之后，順利拿到了 kaggle master 頭銜 :)

代碼占坑：

https://github.com/SeuTao/Kaggle_Doodle2018_code

4. Human Protein Atlas Image Classification （9/2236）金牌 2019.01

多標(biāo)簽蛋白質(zhì)圖像分類比賽。數(shù)據(jù)極不均衡，且原始圖像尺寸較大。

比賽任務(wù)：蛋白質(zhì)圖像多標(biāo)簽分類

連續(xù)幾個月每天都用大量業(yè)余時間來做比賽確實比較辛苦，拿到 kaggle master tier 之后本來想著休息一段時間。本人本碩 BME 畢業(yè)，看到醫(yī)學(xué)圖像相關(guān)的主題異常親切，決定還是試一試蛋白分類比賽。跟隊友二人集成 baseline 結(jié)果之后，進入了金牌區(qū)（集成提升巨大）。之后就是加入了楊老師的隊伍：

楊佶 Kulbear：Kaggle Human Protein Atlas 蛋白質(zhì)分類比賽第九名總結(jié)和復(fù)盤

https://zhuanlan.zhihu.com/p/54734559

結(jié)果是 public 第 19，private 第 9，金牌 :)

5. Humpback Whale Identification （2/2131）金牌 2019.03

為了幫助鯨魚保護，科學(xué)家們使用照片監(jiān)視系統(tǒng) (Photo Surveillance Systems) 來監(jiān)視海洋活動。他們使用鯨魚尾巴這一獨一無二的標(biāo)記來在連續(xù)的圖像中識別鯨魚，并對它們的活動進行細致地分析。在過去的四十年里，大部分工作基于科學(xué)家們的手工作業(yè)，這也使得大量的數(shù)據(jù)未被充分利用。5004 個 id 鯨魚數(shù)據(jù)，其中許多 id 僅有 one shot 的數(shù)據(jù)。這是一個 few shot learning 和細粒度分類的問題。

比賽任務(wù)：座頭鯨識別

Kaggle Grandmaster tier 要求 5 塊金牌，其中包括一塊 solo gold，遂決定一鼓作氣嘗試 solo，爭取拿下 GM title。比賽時間比較充裕，面對的問題也是我相對熟悉的，很快成績就進入了前 10。然而 PB 達到 0.910 之后，實驗一度沒有進展，名次在逐步下滑。急于打破僵局，嘗試了相關(guān)的各種方案，sota 人臉 loss，Person reid 的模型結(jié)構(gòu)，metric learning，pytorch 下也重新搭建了 siamese net 的 pipeline。然而嘗試得越多，導(dǎo)致每條路線實驗不夠充分，更難以得到提升。（后續(xù)比賽結(jié)果也證明，任何一條路線，工作足夠細致，都是能夠在比賽中取勝的）冷靜下來還是回歸最初的方案，穩(wěn)扎穩(wěn)打，最終 rank 2nd。

solution:

https://www.kaggle.com/c/humpback-whale-identification/discussion/83885

代碼:

https://github.com/SeuTao/Kaggle_Whale2019_2nd_palce_solution

Kaggle 參賽感受總結(jié)

關(guān)于成績：6 個月連續(xù)五次比賽全部金牌，這是我開始做第一個比賽時沒有想到的，其中運氣也占了很大成分。每個比賽的初期，我的預(yù)期都不會是一塊金牌（因為完全不知道會做成什么樣），而是隨著比賽的進行，不斷提升對自己成績的要求（5%->1%->top10->top5）。

投入精力：在做競賽之前，我的業(yè)余時間主要是用來做一些自己的 project 和學(xué)習(xí)充電。參加 kaggle 競賽半年來，我把所有的業(yè)余時間都獻給了這個平臺。周末，國慶，元旦甚至春節(jié)假期，幾乎都是在 kaggle 中度過，kaggle 可以說成為了我的第二職業(yè)。

收獲回報：從學(xué)習(xí)角度來說，kaggle 上我收獲了對不同問題，不同數(shù)據(jù)的認識，相關(guān)技能上也有不少提升；從榮譽角度來說，得到了多塊金牌，成為了 Grandmaster，在平臺 10w 用戶中能夠排名 top38（雖然對于很多大佬來說不算什么）；還能夠認識很多競賽愛好者，并且相互交流提升；最后，獎金也是一個很好的回報 :)

比賽與工作：比賽與工作的關(guān)系，像是訓(xùn)練場與實戰(zhàn)。作為一個從業(yè)者，比賽給我提供了非常好的訓(xùn)練環(huán)境，有非常多的新鮮問題和數(shù)據(jù)，在限制的條件下供我探索。在這里我想說明的是，比賽成績好，決不能代表實際工作中能夠表現(xiàn)出色。但是反過來，一個算法工程師如果不具備在競賽中得到好名次的能力，又怎么能勝任實際工作呢？