機器學習數據集是一組具有共同特徵和屬性的實例集合。它可以是訓練數據集,數據被輸入到機器學習算法中用於訓練;也可以是測試數據集,用於評估和測試機器學習模型。

機器學習算法通過識別數據中的趨勢、關係,並基於大量提供的數據進行預測,從而從數據中學習。準確的訓練數據能夠確保機器學習模型的性能準確。

在本文中,我們將提供一些機器學習中最佳的公共數據集。

1. Bright Data

Bright Data Managed Service Overview

Brightdata也提供用於機器學習的公共數據集。它擁有超過200個經過精心策劃的數據集,可用於人工智能訓練或機器學習。你無需再自行提取數據,而是可以輕鬆獲取這些現成的數據集。可用的數據涵蓋了亞馬遜、領英、Instagram、CrunchBase、Zillow房產、谷歌地圖、X、TikTok、Facebook、Shopee、Indeed、沃爾瑪、YouTube、Glassdoor、Shein等平台。

這些高質量的數據集以視頻、圖像、音頻和文本的形式呈現,且經過精心策劃,完全符合你的需求。此外,借助Brightdata的解決方案,你可以輕鬆地搜索、爬取和與網絡互動,而不用擔心被封禁。其系統還針對提取適合LLM(大型語言模型)的文本進行了優化。

此外,通過Brightdata,你可以為任何查詢發現相關數據源,爬取頁面、提取內容,並獲得適合LLM的輸出結果。在完全托管的遠程瀏覽器上運行人工智能代理也非常方便。幸運的是,通過Brightdata,你可以訪問統一的結構化和非結構化數據,以及歷史和實時數據,從而簡化機器學習模型的開發過程。

特點

  • 通過單次API調用獲取乾淨的數據。
  • 為您的AI應用和代理部署專用數據管道。
  • 從擁有數十億HTML頁面的大型網絡檔案中檢索數據。
  • 發現視頻和圖片的URL,以及100多種語言的文本。
  • 利用BrightData模型上下文協議來增強您的AI模型和代理。
  • Brightdata支持通過SSE、MCP或Node.js安裝實現托管和自托管的MCP配置。
  • 輸出格式:JSON、Excel、CSV、Parquet、自定義。
  • 價格

  • 數據集——起價為每1000條記錄2.5美元——10萬條記錄套餐。
  • 2. Kaggle

    Bright Data Managed Service Overview

    Kaggle擁有一個龐大的公共數據集庫,非常適合用於機器學習。你可以根據想要查看的數據集類型進行篩選,例如計算機科學、教育、分類、計算機視覺、自然語言處理(NLP)、數據可視化、預訓練模型等。你也可以根據當前最相關或最熱門的數據集進行選擇。

    該網站非常詳細;對於每個數據集,你都能獲得生動的描述,瞭解它包含的內容、通過它可以實現的目標,以及誰將從中受益最多。此外,你還可以瞭解數據集的作者、合作者、覆蓋範圍、引用情況以及其他重要細節。

    Kaggle提供了相關的機器學習模型、競賽和討論。在競賽中,你可以發起一場競賽或參與其中,看看自己是否具備足夠的能力。它是提供公共數據集用於機器學習的最具互動性的平台之一。

    特點

  • 通過Kagglehub、Kaggle CLI、cURL或croissant下載。
  • 你也可以將數據集下載為zip文件,或將元數據導出為croissant格式。
  • 提供數據集的詳細描述及其貢獻者信息。
  • 能夠通過代碼訪問數據。
  • 價格

  • 基於MIT
  • 3. UC Irvine Machine Learning Repository

    Bright Data Managed Service Overview

    UC Irvine Machine Learning Repository是另一個理想的平台,擁有廣泛多樣的公共數據集。你可以下載這些數據集,也可以貢獻自己的數據集。對於每個數據集,你可以獲取其特徵、屬性類型、主題領域、實例、相關任務、特徵、變量表以及創建者等信息。

    此外,登錄後,你可以輕鬆地對數據集進行評價。數據集的形式包括圖像、多變量、序列化、時空、表格、文本和時間序列等。這些數據集涵蓋了生物學、商業、氣候、環境、工程學、遊戲、健康與醫學、法律、物理學、化學以及社會科學等多個學科領域。

    此外,你還可以根據關鍵詞、屬性、數據類型、主題領域、任務、實例、特徵、屬性類型以及Python等條件進行篩選。

    特點

  • 允許下載或上傳數據集。
  • 每個數據集都有詳細的描述,幫助用戶做出明智的決策。
  • 易於使用的平台。
  • 價格

  • 基於許可協議
  • 4. Registry of Open Data on AWS

    Bright Data Managed Service Overview

    AWS開放數據註冊表(Registry of Open Data on AWS)提供了一個幫助人們發現和共享通過AWS資源可用的數據集的註冊表。它允許用戶輕鬆地向註冊表中添加數據集或關於如何使用數據集的示例。此外,提供的數據集並非由AWS提供或維護,而是由第三方提供的。因此,用戶需要檢查每個數據集,並確定如何最好地使用它,允許做什麼,不允許做什麼,以及相關的許可協議。

    AWS開放數據註冊表也歡迎那些擁有與已列出數據集相關的項目的人,這些項目可以作為博客文章中的項目進行展示。對於每個數據集,你可以獲取有關許可、更新頻率、管理、文檔、如何引用、聯繫人、出版物、工具與應用程序以及使用示例等信息。

    特點

  • 擁有用於機器學習的龐大公共數據集庫。
  • 提供特定數據集的詳細描述和使用示例。
  • 能夠將數據集添加到數據集註冊表中。
  • 提供工具和服務以幫助分析和處理數據。
  • 價格

  • 基於許可協議
  • 5. Microsoft Azure Open Datasets

    Bright Data Managed Service Overview

    如果你正在尋找用於機器學習的公共數據集,也可以考慮微軟Azure開放數據集(Microsoft Azure Open Datasets)。你可以在機器學習工作流中使用這些數據集,並提高預測的準確性。此外,與不斷壯大的數據科學家和開發人員社區分享數據集也非常容易。你還可以學習如何使用開放數據集來訓練機器學習模型。

    特點

  • 擁有用於機器學習的龐大公共數據集庫。
  • 提供一系列開放許可協議,你可以將其應用於你的數據集。
  • 你需要擁有一個Azure賬戶才能使用這些開放數據集。
  • 價格

  • 使用開放數據集本身無需額外費用,你只需支付在使用開放數據集時所消耗的Azure服務的費用。
  • 6. OpenML

    Bright Data Managed Service Overview

    OpenML是一個全球性的機器學習實驗室。它讓用戶能夠輕鬆地訪問機器學習研究,並根據需要進行重用。OpenML是一個用戶用來共享和訪問數據集、算法和實驗的平台。所有數據集都統一格式化,並具有連貫的元數據,可以輕鬆地直接加載到你最喜歡的工作環境中。

    此外,管道和模型可以直接從你最喜歡的機器學習庫中共享。同時,從數百萬可復現的機器學習實驗中學習也非常容易。OpenML會準確記錄使用了哪些數據集和庫版本。

    作為機器學習專家,你可以輕鬆地共享你的工作;數據所有者可以共享他們的數據,以向機器學習社區發起挑戰並進行合作;算法開發者可以將你的工具與OpenML集成,以便輕鬆導入和導出數據及實驗。

    特點

  • 人工智能就緒的數據。
  • 機器學習庫集成。
  • 數據集、管道和實驗的導入和導出非常方便。
  • 機器學習數據組織得井井有條。
  • 可以輕鬆下載為XML、JSON和croissant格式。
  • 價格

  • 基於許可協議
  • 7. Sigma AI open datasets

    Bright Data Managed Service Overview

    Sigma AI開放數據集提供了一系列免費的、開源的數據集,你可以將它們用於機器學習實驗和項目。當你聯繫他們時,你還可以自由地向數據庫添加用於機器學習的公共數據集。

    在該平台上查找數據集並不複雜;你只需點擊一個條目,根據各種參數進行篩選,並基於某個單詞或短語搜索數據集。完成後,在右下角下載CSV文件即可。

    特點

  • 搜索和下載數據集非常方便。
  • 可以下載為CSV文件格式。
  • 支持超過600種語言。
  • 價格

  • 數據集——免費,但提供定制化服務
  • 8. Allen AI Open datasets for machine learning

    Bright Data Managed Service Overview

    AllenAI擁有一個龐大的公共數據集數據庫,可用於訓練人工智能和機器學習。通過訪問這些數據,用戶可以瞭解最佳模型的工作原理以及如何改進它們,使它們更有用。

    幸運的是,所有數據集都是通過道德方式獲取的,並且可以安全使用。在Hugging Face平台上,你可以查看數據集的收集情況以及團隊成員。你可以瀏覽以查看最新更新,並根據感興趣的主題訪問數據集。

    AllenAI提供語言模型、多模態模型、評估框架和開放數據集。其多樣性使其成為許多人的首選網站。其中一些數據集包括WildChat、S2ORC、Self-instruct、Kiwi、Chime、Drop、Qasper等。

    特點

  • 擁有用於機器學習的龐大公共數據集庫。
  • 數據來源符合道德規範,使用安全。
  • 網站導航非常便捷。
  • 擁有一個可靠的社區,你可以與之合作。
  • 價格

  • 基於許可協議
  • 基於社區
  • 9. Data Gov Open Data

    Bright Data Managed Service Overview

    Data.gov擁有超過318,500個可用的數據集。你可以根據查看次數最多、最近添加、按組織劃分的數據集或地理空間數據進行篩選。通過這些分類,你可以輕鬆找到自己想要的數據集。Data.gov是一個美國資源數據中心,於2009年啓動,最初僅有47個數據集,隨著時間的推移,數據集數量已增長到超過30萬。

    該開放數據網站的主要目標是確保這些有價值的數據易於獲取。它涵蓋了多個類別,如地方政府、氣候、老年人、能源、北極、水資源、人類健康、生態系統、交通、糧食韌性等。你可以使用這些數據進行研究、開發網絡和移動應用程序、設計數據可視化等。

    特點

  • 數據集分類清晰,便於訪問。
  • 提供基於美國的資源和數據。
  • 只要符合使用條款,任何人都可以訪問該平台並利用數據。
  • 其記錄來源符合道德規範。
  • 篩選系統和分類堪稱一流。
  • 價格

  • Public access and use
  • 10. Datarade.Ai

    Bright Data Managed Service Overview

    Datarade.ai是另一個可以獲取用於機器學習或人工智能訓練的公共數據集的平台。這完全取決於你想要收集的數據。它有一個沈浸式的搜索欄,允許你搜索任何你想要的數據集類型,例如機器學習數據集。在每個數據集上,都有一個免費的樣本預覽,允許用戶在購買之前檢查數據集的內容。

    你可以輕鬆地通過免費樣本、屬性、數據提供商、國家覆蓋範圍、類別和交付方式等條件進行篩選。你可以通過S3存儲桶、電子郵件、SFTP、REST API、UI導出、Feed API、SOAP API、流式API、壓縮文件、Azure Blob存儲、Google Cloud存儲、Google BigQuery、Snowflake共享、Databricks Delta共享、FIX API、WebSocket等方式獲取數據集。

    特點

  • 擁有龐大的機器學習數據集庫。
  • 對各種數據集進行了生動的描述。
  • 提供多種交付方式。
  • 價格

  • 數據集——定制化定價。
  • 基於許可協議。
  • 11. Meta AI

    Bright Data Managed Service Overview

    Meta AI也提供了大量的數據集和基準測試,用於訓練、評估和測試人工智能和機器學習模型,以推動相關領域的進步。其數據集類型豐富多樣,包括FACET、Ego TV數據集、MMCSG數據集、語音公平性數據集、日常對話、3D中的常見物體、分割一切、DISC21數據集、Ego Objects數據集、Flores基準測試數據集、Ego4d等,還有更多。具體取決於你正在從事的工作以及你需要的資源。

    特點

  • 擁有龐大的數據集庫。
  • 其目標是確保良好的協作並加速人工智能和機器學習的發展。
  • 為想要親身體驗最新研究突破的用戶提供了可用的演示。
  • 價格

  • 基於訂閱模式
  • 結尾

    大多數機器學習數據源提供了豐富多樣化的數據,因此可以輕鬆地實時獲取你需要的數據。這些數據主要來自各個領域和行業,從而產生了各種變量。

    此外,大多數用於機器學習的公共數據集網站都非常用戶友好,方便用戶、開發人員和研究人員等找到他們需要的內容。此外,大多數網站還提供社區支持,人們可以參與討論,從他人的經驗中學習,並獲得項目幫助。