機器學習數據集是一組具有共同特徵和屬性的實例集合。它可以是訓練數據集,數據被輸入到機器學習算法中用於訓練;也可以是測試數據集,用於評估和測試機器學習模型。
機器學習算法通過識別數據中的趨勢、關係,並基於大量提供的數據進行預測,從而從數據中學習。準確的訓練數據能夠確保機器學習模型的性能準確。
在本文中,我們將提供一些機器學習中最佳的公共數據集。
1. Bright Data
Brightdata也提供用於機器學習的公共數據集。它擁有超過200個經過精心策劃的數據集,可用於人工智能訓練或機器學習。你無需再自行提取數據,而是可以輕鬆獲取這些現成的數據集。可用的數據涵蓋了亞馬遜、領英、Instagram、CrunchBase、Zillow房產、谷歌地圖、X、TikTok、Facebook、Shopee、Indeed、沃爾瑪、YouTube、Glassdoor、Shein等平台。
這些高質量的數據集以視頻、圖像、音頻和文本的形式呈現,且經過精心策劃,完全符合你的需求。此外,借助Brightdata的解決方案,你可以輕鬆地搜索、爬取和與網絡互動,而不用擔心被封禁。其系統還針對提取適合LLM(大型語言模型)的文本進行了優化。
此外,通過Brightdata,你可以為任何查詢發現相關數據源,爬取頁面、提取內容,並獲得適合LLM的輸出結果。在完全托管的遠程瀏覽器上運行人工智能代理也非常方便。幸運的是,通過Brightdata,你可以訪問統一的結構化和非結構化數據,以及歷史和實時數據,從而簡化機器學習模型的開發過程。
特點
價格
2. Kaggle
Kaggle擁有一個龐大的公共數據集庫,非常適合用於機器學習。你可以根據想要查看的數據集類型進行篩選,例如計算機科學、教育、分類、計算機視覺、自然語言處理(NLP)、數據可視化、預訓練模型等。你也可以根據當前最相關或最熱門的數據集進行選擇。
該網站非常詳細;對於每個數據集,你都能獲得生動的描述,瞭解它包含的內容、通過它可以實現的目標,以及誰將從中受益最多。此外,你還可以瞭解數據集的作者、合作者、覆蓋範圍、引用情況以及其他重要細節。
Kaggle提供了相關的機器學習模型、競賽和討論。在競賽中,你可以發起一場競賽或參與其中,看看自己是否具備足夠的能力。它是提供公共數據集用於機器學習的最具互動性的平台之一。
特點
價格
3. UC Irvine Machine Learning Repository
UC Irvine Machine Learning Repository是另一個理想的平台,擁有廣泛多樣的公共數據集。你可以下載這些數據集,也可以貢獻自己的數據集。對於每個數據集,你可以獲取其特徵、屬性類型、主題領域、實例、相關任務、特徵、變量表以及創建者等信息。
此外,登錄後,你可以輕鬆地對數據集進行評價。數據集的形式包括圖像、多變量、序列化、時空、表格、文本和時間序列等。這些數據集涵蓋了生物學、商業、氣候、環境、工程學、遊戲、健康與醫學、法律、物理學、化學以及社會科學等多個學科領域。
此外,你還可以根據關鍵詞、屬性、數據類型、主題領域、任務、實例、特徵、屬性類型以及Python等條件進行篩選。
特點
價格
4. Registry of Open Data on AWS
AWS開放數據註冊表(Registry of Open Data on AWS)提供了一個幫助人們發現和共享通過AWS資源可用的數據集的註冊表。它允許用戶輕鬆地向註冊表中添加數據集或關於如何使用數據集的示例。此外,提供的數據集並非由AWS提供或維護,而是由第三方提供的。因此,用戶需要檢查每個數據集,並確定如何最好地使用它,允許做什麼,不允許做什麼,以及相關的許可協議。
AWS開放數據註冊表也歡迎那些擁有與已列出數據集相關的項目的人,這些項目可以作為博客文章中的項目進行展示。對於每個數據集,你可以獲取有關許可、更新頻率、管理、文檔、如何引用、聯繫人、出版物、工具與應用程序以及使用示例等信息。
特點
價格
5. Microsoft Azure Open Datasets
如果你正在尋找用於機器學習的公共數據集,也可以考慮微軟Azure開放數據集(Microsoft Azure Open Datasets)。你可以在機器學習工作流中使用這些數據集,並提高預測的準確性。此外,與不斷壯大的數據科學家和開發人員社區分享數據集也非常容易。你還可以學習如何使用開放數據集來訓練機器學習模型。
特點
價格
6. OpenML
OpenML是一個全球性的機器學習實驗室。它讓用戶能夠輕鬆地訪問機器學習研究,並根據需要進行重用。OpenML是一個用戶用來共享和訪問數據集、算法和實驗的平台。所有數據集都統一格式化,並具有連貫的元數據,可以輕鬆地直接加載到你最喜歡的工作環境中。
此外,管道和模型可以直接從你最喜歡的機器學習庫中共享。同時,從數百萬可復現的機器學習實驗中學習也非常容易。OpenML會準確記錄使用了哪些數據集和庫版本。
作為機器學習專家,你可以輕鬆地共享你的工作;數據所有者可以共享他們的數據,以向機器學習社區發起挑戰並進行合作;算法開發者可以將你的工具與OpenML集成,以便輕鬆導入和導出數據及實驗。
特點
價格
7. Sigma AI open datasets
Sigma AI開放數據集提供了一系列免費的、開源的數據集,你可以將它們用於機器學習實驗和項目。當你聯繫他們時,你還可以自由地向數據庫添加用於機器學習的公共數據集。
在該平台上查找數據集並不複雜;你只需點擊一個條目,根據各種參數進行篩選,並基於某個單詞或短語搜索數據集。完成後,在右下角下載CSV文件即可。
特點
價格
8. Allen AI Open datasets for machine learning
AllenAI擁有一個龐大的公共數據集數據庫,可用於訓練人工智能和機器學習。通過訪問這些數據,用戶可以瞭解最佳模型的工作原理以及如何改進它們,使它們更有用。
幸運的是,所有數據集都是通過道德方式獲取的,並且可以安全使用。在Hugging Face平台上,你可以查看數據集的收集情況以及團隊成員。你可以瀏覽以查看最新更新,並根據感興趣的主題訪問數據集。
AllenAI提供語言模型、多模態模型、評估框架和開放數據集。其多樣性使其成為許多人的首選網站。其中一些數據集包括WildChat、S2ORC、Self-instruct、Kiwi、Chime、Drop、Qasper等。
特點
價格
9. Data Gov Open Data
Data.gov擁有超過318,500個可用的數據集。你可以根據查看次數最多、最近添加、按組織劃分的數據集或地理空間數據進行篩選。通過這些分類,你可以輕鬆找到自己想要的數據集。Data.gov是一個美國資源數據中心,於2009年啓動,最初僅有47個數據集,隨著時間的推移,數據集數量已增長到超過30萬。
該開放數據網站的主要目標是確保這些有價值的數據易於獲取。它涵蓋了多個類別,如地方政府、氣候、老年人、能源、北極、水資源、人類健康、生態系統、交通、糧食韌性等。你可以使用這些數據進行研究、開發網絡和移動應用程序、設計數據可視化等。
特點
價格
10. Datarade.Ai
Datarade.ai是另一個可以獲取用於機器學習或人工智能訓練的公共數據集的平台。這完全取決於你想要收集的數據。它有一個沈浸式的搜索欄,允許你搜索任何你想要的數據集類型,例如機器學習數據集。在每個數據集上,都有一個免費的樣本預覽,允許用戶在購買之前檢查數據集的內容。
你可以輕鬆地通過免費樣本、屬性、數據提供商、國家覆蓋範圍、類別和交付方式等條件進行篩選。你可以通過S3存儲桶、電子郵件、SFTP、REST API、UI導出、Feed API、SOAP API、流式API、壓縮文件、Azure Blob存儲、Google Cloud存儲、Google BigQuery、Snowflake共享、Databricks Delta共享、FIX API、WebSocket等方式獲取數據集。
特點
價格
11. Meta AI
Meta AI也提供了大量的數據集和基準測試,用於訓練、評估和測試人工智能和機器學習模型,以推動相關領域的進步。其數據集類型豐富多樣,包括FACET、Ego TV數據集、MMCSG數據集、語音公平性數據集、日常對話、3D中的常見物體、分割一切、DISC21數據集、Ego Objects數據集、Flores基準測試數據集、Ego4d等,還有更多。具體取決於你正在從事的工作以及你需要的資源。
特點
價格
結尾
大多數機器學習數據源提供了豐富多樣化的數據,因此可以輕鬆地實時獲取你需要的數據。這些數據主要來自各個領域和行業,從而產生了各種變量。
此外,大多數用於機器學習的公共數據集網站都非常用戶友好,方便用戶、開發人員和研究人員等找到他們需要的內容。此外,大多數網站還提供社區支持,人們可以參與討論,從他人的經驗中學習,並獲得項目幫助。