OpenLineage简介 OpenLineage是一个开源的标准化框架,旨在为数据生态系统提供统一的数据血缘追踪和可观察性。它定义了一套开放的API和模型,用于捕获和传递数据血缘信息,帮助企业更好地理解和管理数据管道的复杂…
Great Expectations 简介 Great Expectations 是一个开源的数据验证、文档化和数据质量监控框架。它允许数据工程师、数据科学家和分析师在数据管道中定义、测试和维护数据期望,从而确保数据的质量和一致性。Great …
Elementary 简介 Elementary 是一个开源的数据监控和数据质量管理平台,旨在帮助企业监控和提升数据管道的质量和可靠性。通过提供自动化的数据质量检查、实时监控和警报功能,Elementary 可以帮助数据工程师和数据…
DVC简介 Data Version Control (DVC)是一个开源工具,旨在帮助数据科学家和机器学习工程师管理数据集、模型和实验结果。DVC通过版本控制系统(如Git)来跟踪数据和模型的变化,从而提供了一种有效的方式来管理和复…
Dolt简介 Dolt是一个创新的开源数据库,它结合了关系型数据库的功能和Git的版本控制特性。这种独特的结合使得Dolt成为一个适合数据管理和协作的工具,特别是在需要频繁更新和版本控制的数据项目中。 核心概念 …
Git Large File Storage (Git LFS) 是一个开源扩展,用于管理和存储 Git 仓库中的大文件。Git 本身并不擅长处理大文件,因为它会将文件的每个版本都完整地存储在 .git 目录中,这会导致仓库膨胀并影响性能。Git LFS…
SeaTunnel简介 SeaTunnel(原名Waterdrop)是一个分布式的高性能数据集成平台,专为处理海量数据的实时流和批处理而设计。它最初由中国的开源社区开发,并逐渐被广泛应用于各种大数据场景中。SeaTunnel的设计目标是…
Ray简介 Ray是一个开源的分布式计算框架,专为机器学习和人工智能应用设计。它提供了一种灵活、高效的方式来构建和运行分布式应用程序,特别是在需要大规模并行计算的场景中。Ray的核心是一个通用的分布式执行引擎…
OpenMetadata简介 OpenMetadata是一个开源的元数据管理和数据治理平台,旨在帮助企业更好地管理、发现和治理其数据资产。它提供了一个统一的框架,用于收集、存储和查询各种数据源的元数据,支持数据的发现、血缘分…
Marquez简介 Marquez是一个开源的元数据服务平台,专注于数据管道的可观察性和数据治理。它旨在帮助企业跟踪和管理数据流动,提供关于数据集和数据处理作业的详细元数据。通过提供数据血缘、数据质量和数据依赖关系…