原作 mlmemoirs?
郭一璞 編譯?
量子位 報(bào)道 | 公眾號(hào) QbitAI

外國自媒體mlmemoirs根據(jù)github、福布斯、CMU官網(wǎng)等信息，整理了一張50個(gè)最佳機(jī)器學(xué)習(xí)公共數(shù)據(jù)集的榜單，量子位為大家分享一下~

提前說兩個(gè)須知：

尋找數(shù)據(jù)集の奧義

根據(jù)CMU的說法，尋找一個(gè)好用的數(shù)據(jù)集需要注意一下幾點(diǎn)：

數(shù)據(jù)集不混亂，否則要花費(fèi)大量時(shí)間來清理數(shù)據(jù)。

數(shù)據(jù)集不應(yīng)包含太多行或列，否則會(huì)難以使用。

數(shù)據(jù)越干凈越好，清理大型數(shù)據(jù)集可能非常耗時(shí)。

應(yīng)該預(yù)設(shè)一個(gè)有趣的問題，而這個(gè)問題又可以用數(shù)據(jù)來回答。

去哪里找數(shù)據(jù)集

Kaggle：愛競賽的盆友們應(yīng)該很熟悉了，Kaggle上有各種有趣的數(shù)據(jù)集，拉面評(píng)級(jí)、籃球數(shù)據(jù)、甚至西雅圖的寵物許可證。
https://www.kaggle.com/

UCI機(jī)器學(xué)習(xí)庫：最古老的數(shù)據(jù)集源之一，是尋找有趣數(shù)據(jù)集的第一站。雖然數(shù)據(jù)集是用戶貢獻(xiàn)的，因此具有不同的清潔度，但絕大多數(shù)都是干凈的，可以直接從UCI機(jī)器學(xué)習(xí)庫下載，無需注冊(cè)。
http://mlr.cs.umass.edu/ml/

VisualData：分好類的計(jì)算機(jī)視覺數(shù)據(jù)集，可以搜索~
https://www.visualdata.io/

好了，下面就是那50個(gè)數(shù)據(jù)集了，由于后期加上了一些補(bǔ)充，所以總數(shù)已經(jīng)超過了50。

機(jī)器學(xué)習(xí)數(shù)據(jù)集

圖片

Labelme：帶注釋的大型圖像數(shù)據(jù)集。
http://labelme.csail.mit.edu/Release3.0/browserTools/php/dataset.php

ImageNet：大家熟悉的ImageNet，女神李飛飛參與創(chuàng)建，同名比賽影響整個(gè)計(jì)算機(jī)視覺界。
http://image-net.org/

LSUN：場(chǎng)景理解與許多輔助任務(wù)（房間布局估計(jì)，顯著性預(yù)測(cè)等）
http://lsun.cs.princeton.edu/2016/

MS COCO：同樣也是知名計(jì)算機(jī)視覺數(shù)據(jù)集，同名比賽每年都被中國人屠榜。
http://mscoco.org/

COIL 100 ：100個(gè)不同的物體在360度旋轉(zhuǎn)的每個(gè)角度成像。
http://www1.cs.columbia.edu/CAVE/software/softlib/coil-100.php

視覺基因組：非常詳細(xì)的視覺知識(shí)庫。
http://visualgenome.org/

谷歌開放圖像：在知識(shí)共享下的900萬個(gè)圖像網(wǎng)址集合“已經(jīng)注釋了超過6000個(gè)類別的標(biāo)簽”。
https://research.googleblog.com/2016/09/introducing-open-images-dataset.html

野外標(biāo)記面：13000張人臉標(biāo)記圖像，用于開發(fā)涉及面部識(shí)別的應(yīng)用程序。
http://vis-www.cs.umass.edu/lfw/

斯坦福狗子數(shù)據(jù)集：20580張狗子的圖片，包括120個(gè)不同品種。
http://vision.stanford.edu/aditya86/ImageNetDogs/

室內(nèi)場(chǎng)景識(shí)別：包含67個(gè)室內(nèi)類別，15620個(gè)圖像。
http://web.mit.edu/torralba/www/indoor.html

情緒分析

多域情緒分析數(shù)據(jù)集：一個(gè)稍老一點(diǎn)的數(shù)據(jù)集，用到了來自亞馬遜的產(chǎn)品評(píng)論。
http://www.cs.jhu.edu/~mdredze/datasets/sentiment/

IMDB評(píng)論：用于二元情緒分類的數(shù)據(jù)集，不過也有點(diǎn)老、有點(diǎn)小，有大約25000個(gè)電影評(píng)論。
http://ai.stanford.edu/~amaas/data/sentiment/

斯坦福情緒樹庫：帶有情感注釋的標(biāo)準(zhǔn)情緒數(shù)據(jù)集。
http://nlp.stanford.edu/sentiment/code.html

Sentiment140：一個(gè)流行的數(shù)據(jù)集，它使用160,000條預(yù)先刪除表情符號(hào)的推文。
http://help.sentiment140.com/for-students/

Twitter美國航空公司情緒：2015年2月美國航空公司的Twitter數(shù)據(jù)，分類為正面，負(fù)面和中性推文。
https://www.kaggle.com/crowdflower/twitter-airline-sentiment

自然語言處理

HotspotQA數(shù)據(jù)集：具有自然、多跳問題的問答數(shù)據(jù)集，具有支持事實(shí)的強(qiáng)大監(jiān)督，以實(shí)現(xiàn)更易于解釋的問答系統(tǒng)。
https://hotpotqa.github.io/

安然數(shù)據(jù)集：來自安然高級(jí)管理層的電子郵件數(shù)據(jù)。
https://www.cs.cmu.edu/~./enron/

亞馬遜評(píng)論：包含18年來亞馬遜上的大約3500萬條評(píng)論，數(shù)據(jù)包括產(chǎn)品和用戶信息，評(píng)級(jí)和文本審核。
https://snap.stanford.edu/data/web-Amazon.html

Google Books Ngrams：Google Books中的一系列文字。
https://aws.amazon.com/datasets/google-books-ngrams/

Blogger Corpus：收集了來自blogger.com的681,288篇博文，每篇博文至少包含200個(gè)常用英語單詞。
http://u.cs.biu.ac.il/~koppel/BlogCorpus.htm

維基百科鏈接數(shù)據(jù)：維基百科的全文，包含來自400多萬篇文章的近19億個(gè)單詞，可以按段落、短語或段落本身的一部分進(jìn)行搜索。
https://code.google.com/p/wiki-links/downloads/list

Gutenberg電子書列表：Gutenberg項(xiàng)目中帶注釋的電子書書單。
http://www.gutenberg.org/wiki/Gutenberg:Offline_Catalogs

Hansards加拿大議會(huì)文本：來自第36屆加拿大議會(huì)記錄的130萬組文本。
http://www.isi.edu/natural-language/download/hansard/

Jeopardy：來自問答節(jié)目Jeopardy的超過200,000個(gè)問題的歸檔。
http://www.reddit.com/r/datasets/comments/1uyd0t/200000_jeopardy_questions_in_a_json_file/

英文垃圾短信收集：由5574條英文垃圾短信組成的數(shù)據(jù)集。
http://www.dt.fee.unicamp.br/~tiago/smsspamcollection/

Yelp評(píng)論：Yelp，就是美國的“大眾點(diǎn)評(píng)”，這是他們發(fā)布的一個(gè)開放數(shù)據(jù)集，包含超過500萬條評(píng)論。
https://www.yelp.com/dataset

UCI的Spambase：一個(gè)大型垃圾郵件數(shù)據(jù)集，對(duì)垃圾郵件過濾非常有用。
https://archive.ics.uci.edu/ml/datasets/Spambase

自動(dòng)駕駛

Berkeley DeepDrive BDD100k：目前最大的自動(dòng)駕駛數(shù)據(jù)集，包含超過100,000個(gè)視頻，其中包括一天中不同時(shí)段和天氣條件下超過1,100小時(shí)的駕駛體驗(yàn)。其中帶注釋的圖像來自紐約和舊金山地區(qū)。
http://bdd-data.berkeley.edu/

百度Apolloscapes：度娘的大型數(shù)據(jù)集，定義了26種不同物體，如汽車、自行車、行人、建筑物、路燈等。
http://apolloscape.auto/

Comma.ai：超過7小時(shí)的高速公路駕駛，細(xì)節(jié)包括汽車的速度、加速度、轉(zhuǎn)向角和GPS坐標(biāo)。
https://archive.org/details/comma-dataset

牛津的機(jī)器人汽車：這個(gè)數(shù)據(jù)集來自牛津的機(jī)器人汽車，它于一年時(shí)間內(nèi)在英國牛津的同一條路上，反反復(fù)復(fù)跑了超過100次，捕捉了天氣、交通和行人的不同組合，以及建筑和道路工程等長期變化。
http://robotcar-dataset.robots.ox.ac.uk/

城市景觀數(shù)據(jù)集：一個(gè)大型數(shù)據(jù)集，記錄50個(gè)不同城市的城市街景。
https://www.cityscapes-dataset.com/

CSSAD數(shù)據(jù)集：此數(shù)據(jù)集對(duì)于自動(dòng)駕駛車輛的感知和導(dǎo)航非常有用。不過，數(shù)據(jù)集嚴(yán)重偏向發(fā)達(dá)國家的道路。
http://aplicaciones.cimat.mx/Personal/jbhayet/ccsad-dataset

KUL比利時(shí)交通標(biāo)志數(shù)據(jù)集：來自比利時(shí)法蘭德斯地區(qū)數(shù)以千計(jì)的實(shí)體交通標(biāo)志的超過10000條注釋。
http://www.vision.ee.ethz.ch/~timofter/traffic_signs/

MIT AGE Lab：在AgeLab收集的1,000多小時(shí)多傳感器駕駛數(shù)據(jù)集的樣本。
http://lexfridman.com/automated-synchronization-of-driving-data-video-audio-telemetry-accelerometer/

LISA：UC圣迭戈智能和安全汽車實(shí)驗(yàn)室的數(shù)據(jù)集，包括交通標(biāo)志、車輛檢測(cè)、交通信號(hào)燈和軌跡模式。
http://cvrr.ucsd.edu/LISA/datasets.html

博世小交通燈數(shù)據(jù)集：用于深度學(xué)習(xí)的小型交通燈的數(shù)據(jù)集。
https://hci.iwr.uni-heidelberg.de/node/6132

LaRa交通燈識(shí)別：巴黎的交通信號(hào)燈數(shù)據(jù)集。
http://www.lara.prd.fr/benchmarks/trafficlightsrecognition

WPI數(shù)據(jù)集：交通燈、行人和車道檢測(cè)的數(shù)據(jù)集。
http://computing.wpi.edu/dataset.html

臨床

MIMIC-III：MIT計(jì)算生理學(xué)實(shí)驗(yàn)室的公開數(shù)據(jù)集，標(biāo)記了約40000名重癥監(jiān)護(hù)患者的健康數(shù)據(jù)，包括人口統(tǒng)計(jì)學(xué)、生命體征、實(shí)驗(yàn)室測(cè)試、藥物等維度。
https://mimic.physionet.org/

一般數(shù)據(jù)集

除了機(jī)器學(xué)習(xí)專用的數(shù)據(jù)集，還有一些其他的一般數(shù)據(jù)集，可能很有趣~

公共政府?dāng)?shù)據(jù)集

Data.gov：該網(wǎng)站可以從多個(gè)美國政府機(jī)構(gòu)下載數(shù)據(jù)，包括各種奇怪的數(shù)據(jù)，從政府預(yù)算到考試分?jǐn)?shù)都有。不過，其中大部分?jǐn)?shù)據(jù)需要進(jìn)一步研究。
https://www.data.gov/

食物環(huán)境地圖集：本地食材如何影響美國飲食的數(shù)據(jù)。
https://catalog.data.gov/dataset/food-environment-atlas-f4a22

學(xué)校財(cái)務(wù)系統(tǒng)：美國學(xué)校財(cái)務(wù)系統(tǒng)的調(diào)查。
https://catalog.data.gov/dataset/annual-survey-of-school-system-finances

慢性病數(shù)據(jù)：美國各地區(qū)慢性病指標(biāo)數(shù)據(jù)。
https://catalog.data.gov/dataset/u-s-chronic-disease-indicators-cdi-e50c9

美國國家教育統(tǒng)計(jì)中心：教育機(jī)構(gòu)和教育人口統(tǒng)計(jì)數(shù)據(jù)，不僅有美國的數(shù)據(jù)，也有一些世界上其他地方的數(shù)據(jù)。
https://nces.ed.gov/

英國數(shù)據(jù)服務(wù)：英國最大的社會(huì)、經(jīng)濟(jì)和人口數(shù)據(jù)集。
https://www.ukdataservice.ac.uk/

數(shù)據(jù)美國：全面可視化的美國公共數(shù)據(jù)。
http://datausa.io/

量子位補(bǔ)充一句，我國國家統(tǒng)計(jì)局其實(shí)也不錯(cuò)。
http://www.stats.gov.cn/

金融與經(jīng)濟(jì)

Quandl：經(jīng)濟(jì)和金融數(shù)據(jù)的良好來源，有助于建立預(yù)測(cè)經(jīng)濟(jì)指標(biāo)或股票價(jià)格的模型。
https://www.quandl.com/

世界銀行開放數(shù)據(jù)：全球人口統(tǒng)計(jì)數(shù)據(jù)，還有大量經(jīng)濟(jì)和發(fā)展指標(biāo)的數(shù)據(jù)集。
https://data.worldbank.org/

國際貨幣基金組織數(shù)據(jù)：國際貨幣基金組織公布的有關(guān)國際金融，債務(wù)利率，外匯儲(chǔ)備，商品價(jià)格和投資的數(shù)據(jù)。
https://www.imf.org/en/Data

金融時(shí)報(bào)市場(chǎng)數(shù)據(jù)：來自世界各地的金融市場(chǎng)的最新信息，包括股票價(jià)格指數(shù)，商品和外匯。
https://markets.ft.com/data/

Google Trends：世界各地的互聯(lián)網(wǎng)搜索行為和熱門新聞報(bào)道的數(shù)據(jù)。
http://www.google.com/trends?q=google&ctab=0&geo=all&date=all&sort=0

美國經(jīng)濟(jì)協(xié)會(huì)：美國宏觀經(jīng)濟(jì)數(shù)據(jù)。
https://www.aeaweb.org/resources/data/us-macro-regional

傳送門

mlmemoirs：50個(gè)最佳機(jī)器學(xué)習(xí)公共數(shù)據(jù)集
https://medium.com/datadriveninvestor/the-50-best-public-datasets-for-machine-learning-d80e9f030279

子曰：世界上有三個(gè)互聯(lián)網(wǎng)，美國互聯(lián)網(wǎng)、中國互聯(lián)網(wǎng)和歐洲互聯(lián)網(wǎng)。

故其中有一些鏈接，需要先探究科學(xué)上網(wǎng)方式，再打開。

暫時(shí)手頭沒有工具怎么辦？先收藏呀！

在最下邊點(diǎn)“閱讀原文”，可前往知乎版，有可戳的超鏈接。

— 完 —

加入社群

量子位AI社群開始招募啦，歡迎對(duì)AI感興趣的同學(xué)，在量子位公眾號(hào)（QbitAI）對(duì)話界面回復(fù)關(guān)鍵字“交流群”，獲取入群方式；

此外，量子位專業(yè)細(xì)分群(自動(dòng)駕駛、CV、NLP、機(jī)器學(xué)習(xí)等)正在招募，面向正在從事相關(guān)領(lǐng)域的工程師及研究人員。

進(jìn)專業(yè)群請(qǐng)?jiān)诹孔游还娞?hào)（QbitAI）對(duì)話界面回復(fù)關(guān)鍵字“專業(yè)群”，獲取入群方式。（專業(yè)群審核較嚴(yán)，敬請(qǐng)諒解）

活動(dòng)策劃招聘

量子位正在招聘活動(dòng)策劃，將負(fù)責(zé)不同領(lǐng)域維度的線上線下相關(guān)活動(dòng)策劃、執(zhí)行。歡迎聰明靠譜的小伙伴加入，并希望你能有一些活動(dòng)策劃或運(yùn)營的相關(guān)經(jīng)驗(yàn)。相關(guān)細(xì)節(jié)，請(qǐng)?jiān)诹孔游还娞?hào)(QbitAI)對(duì)話界面，回復(fù)“招聘”兩個(gè)字。

量子位?QbitAI · 頭條號(hào)簽約作者

?'?' ? 追蹤AI技術(shù)和產(chǎn)品新動(dòng)態(tài)

總結(jié)

以上是生活随笔為你收集整理的最强数据集集合：50个最佳机器学习公共数据集丨资源的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。