DataHubDataNav

数据资源导航

数据平台与开放数据集导航

整理国际、国内、学术、行业数据平台与数据工具,保留链接核验状态,适合做数据检索、模型训练、研究选题和数据产品调研的入口页。

国际综合平台

Global Repositories

10
D
DataHub datahub.io

一个社区驱动的开源项目,致力于收集、标准化和分发高质量数据集。

open source
BP
BigQuery Public Datasets cloud.google.com

谷歌云提供的公共数据集,用户可以在BigQuery平台内直接进行查询和分析,涵盖基因组学、天气、交通等多种大规模数据集。

D
Data.gov data.gov

美国政府官方的开放数据门户,提供包括气候、人口、交通、金融等在内的大量高质量政府数据。

学术与研究

Research Repositories

11
O
OpenML openml.org

一个专注于可复现和协作式机器学习的在线平台。

Z
Zenodo zenodo.org

由欧洲核子研究中心(CERN)支持的开放获取研究数据存储库。

KD
Keras Datasets keras.io

Keras深度学习框架内置的数据集接口,包含如MNIST、CIFAR-10/100、IMDB等经典的小型数据集,方便快速调用和实验。

api
D
Dryad datadryad.org

面向科研论文配套数据的开放存储库,常见于生命科学与环境科学。

doi
O
OSF osf.io

开放科学框架,支持项目协作、预注册、文件和数据公开。

open science
O
OpenAlex openalex.org

开放学术知识图谱,覆盖论文、作者、机构、期刊与引用关系。

scholarly

国内数据平台

China Data Platforms

13

计算机视觉

Computer Vision

8
M
MNIST yann.lecun.com

经典的手写数字识别数据集,包含6万张训练图像和1万张测试图像,是计算机视觉入门的“Hello World”。

L
LAION laion.ai

开放的大规模图文对数据集与模型研究社区,常用于多模态预训练。

multimodal

NLP 与语音

NLP & Speech

14
CC
Common Crawl commoncrawl.org

PB级的公开网络爬取数据,包含海量原始网页文本,是训练大规模语言模型(LLM)最重要的语料来源之一。

B
BookCorpus yknzhu.wixsite.com

一个包含超过11,000本未出版英文书籍文本的大型数据集,常用于语言模型的预训练。

C
ChnSentiCorp github.com

一个常用的中文情感分析数据集,主要包含对酒店、书籍、电子产品等的评论。

githubchina
IR
IMDB Reviews imdb.com

经典的情感分析文本数据集,包含从IMDB网站收集的5万条电影评论,用于二元情感分类。

L
LibriSpeech openslr.org

基于有声读物的大规模(约1000小时)英语语音识别数据集,发音清晰,质量高。

TP
The Pile pile.eleuther.ai

EleutherAI 构建的大规模英文文本语料集合,用于语言模型训练研究。

llm

金融经济商业

Finance & Business

13
E
Eurostat ec.europa.eu

欧盟统计局的官方数据库,提供关于欧盟成员国经济、社会、环境等方面的高质量统计数据。

BT
Bloomberg Terminal bloomberg.com

全球顶级的金融市场数据和分析工具,提供实时行情、新闻、研究报告等(需昂贵订阅)。

paid
C
Crunchbase crunchbase.com

权威的全球初创公司、投资机构和市场趋势数据库(有免费和付费版)。

paid
T
Tushare tushare.pro

中文金融数据接口,覆盖股票、基金、期货、宏观、新闻等数据。

chinaapi
ID
IMF Data data.imf.org

国际货币基金组织数据入口,覆盖金融、贸易、债务和宏观经济指标。

macro

医疗与生物

Health & Bio

6
M
MIMIC-III physionet.org

一个大型、免费、公开的重症监护(ICU)患者匿名健康记录数据库。

地理环境

Geo & Climate

9
W
WorldPop worldpop.org

高分辨率全球人口分布、迁移和人口统计空间数据。

population
O
OpenAQ openaq.org

全球空气质量开放数据平台,聚合各地监测站与传感器数据。

air quality

社会科学与推荐

Social & Recommender

4
M
MovieLens grouplens.org

由GroupLens研究小组发布的一系列电影评分数据集,是推荐系统领域的经典基准。

YO
Yelp Open Dataset yelp.com

Yelp发布的包含商家评论、用户画像等的商业数据集,适合推荐系统、情感分析等研究。

数据处理计算

Data Engineering

9
N
NumPy numpy.org

Python科学计算的基础库,提供强大的N维数组对象。

D
Dask dask.org

Python原生的并行计算库,可与Pandas、NumPy、Scikit-learn无缝集成以处理大数据。

P
Polars pola.rs

基于Rust开发的高性能DataFrame库,在速度和内存效率上通常优于Pandas。

V
Vaex vaex.io

专为核外(out-of-core)大规模数据集设计的内存高效型DataFrame库,可以流畅地探索上亿行的数据。

T
Talend talend.com

强大的ETL(提取、转换、加载)工具,提供开源和商业版本,用于数据集成。

open source

标注生成增强

Labeling & Synthetic Data

18
L
LabelImg github.com

一款简洁、开源的图形化图像标注工具,主要用于目标检测任务中的边界框(bounding box)标注。

githubopen source
LS
Label Studio labelstud.io

一款非常灵活的开源数据标注工具,支持图像、文本、音频、时间序列等多种数据类型。

open source
L
Labelbox labelbox.com

一个企业级的商业数据标注平台,提供从数据管理、标注到模型评估的全流程服务。

SA
Scale AI scale.com

提供数据标注、生成和评估服务的大型商业平台,服务于众多顶级AI公司。

S
Supervisely supervise.ly

一个专业的端到端计算机视觉平台,不仅提供强大的数据标注功能,还集成了数据管理、模型训练和部署等功能。

D
Doccano github.com

一款非常受欢迎的开源文本标注工具,尤其适合中文NLP任务。

githubchina
P
Prodigy prodi.gy

一款由spaCy开发者打造的高效文本标注工具。

T
TextAttack github.com

一个用于NLP模型对抗性攻击、数据增强和模型训练的Python框架。

github
S
Synthea github.com

一个开源的合成患者数据生成器。

githubopen source
UP
Unity Perception unity.com

Unity游戏引擎的一个插件,用于生成大规模、多样化且带完美标注的合成数据集。

清洗与治理

Cleaning & Governance

3
O
OpenRefine openrefine.org

一款功能强大的开源工具,用于处理和清洗凌乱的结构化数据。

open source

数据可视化

Visualization

10
P
Plotly plotly.com

用于创建精美、交互式图表的Python库,也支持其他语言。

D
D3.js d3js.org

一个用于基于Web标准创建动态、交互式数据可视化的JavaScript库,功能极为强大。

G
Gephi gephi.org

开源的网络图(Graph)分析与可视化工具,特别适合社交网络、关系图谱的探索。

open source
O
Observable observablehq.com

一个基于Web的交互式笔记本,专为数据可视化和探索而设计,深度集成了D3.

M
Metabase metabase.com

易用的 BI 与数据问答工具,适合团队快速构建内部数据看板。

bi

数据专题入口

按搜索场景查找数据资源

这些专题页按搜索需求整理公共数据、AI 训练数据、研究数据、行业数据和数据工具,帮助你更快进入对应领域。