Orca: 基于DolphinDB的分布式pandas接口

Orca项目在DolphinDB之上实现了pandas API，使用户能更高效地分析处理海量数据。

如果你已经熟悉pandas，你就能通过Orca包，充分利用DolphinDB的高性能和并发，处理海量数据，而不需要额外的学习曲线。如果你已经有现成的pandas代码，你不需要对已有的pandas代码进行大量修改，就能迁移到Orca。

目前，Orca项目仍然处于开发阶段，并且在快速迭代。我们欢迎你在使用Orca的同时，通过GitHub issues给我们反馈。

Orca的设计理念

Python的第三方库pandas是一个强大的分析结构化数据的工具，具有高性能、接口易用、易学习的特点，在数据科学和量化金融领域广受欢迎。然而，当我们开始处理TB级别的海量数据时，单核运行的pandas就显得力不从心；pandas的高内存占用也是影响其发挥的限制之一。当我们拥有更多的处理器核，拥有多台物理机器时，我们会希望充分利用并发的优势，提高数据处理的效率。

DolphinDB是一个分布式数据分析引擎，它可以将TB级的海量数据存储在多台物理机器上，并能充分利用CPU，对海量数据进行高性能分析计算。在进行同样功能的计算时，DolphinDB在性能上比pandas快1~2个数量级，并且内存占用通常小于pandas的1/2。但DolphinDB的部署和开发方式都和pandas有显著区别，用户若要从pandas迁移到DolphinDB，需要对已有代码做出大量修改。幸运的是，DolphinDB已经着手开发Orca项目——一个基于DolphinDB引擎的pandas DataFrame API的实现。它让用户能够以pandas的编程风格，同时利用DolphinDB的性能优势，对海量数据进行高效分析。相比panddas的全内存计算，Orca支持分布式存储和计算。对于同样的数据量，内存占用一般小于pandas的1/2。

Orca的架构

Orca的顶层是pandas API，底层是DolphinDB数据库，通过DolphinDB Python API实现Orca客户端与DolphinDB服务端的通信。Orca的基本工作原理是，在客户端通过Python生成DolphinDB脚本，将脚本通过DolphinDB Python API发送到DolphinDB服务端解析执行。Orca的DataFrame中只存储对应的DolphinDB的表的元数据，真正的存储和计算都是在服务端。

因此，Orca的接口有部分限制：

• Orca的DataFrame中的每个列不能是混合类型，列名也必须是合法DolphinDB变量名。
• 如果DataFrame对应的DolphinDB表是一个分区表，数据存储并非连续，因此就没有RangeIndex的概念，且无法将一整个Series赋值给一个DataFrame的列。
• 对于DolphinDB分区表，一部分没有分布式版本实现的函数，例如median，Orca暂不支持。
• DolphinDB的空值机制和pandas不同，pandas用float类型的nan作为空值，而DolphinDB的空值是每个类型的最小值。
• DolphinDB是列式存储的数据库。对于pandas接口中，一些axis=columns参数还没有支持。
• 目前无法解析Python函数，因此，例如DataFrame.apply,DataFrame.agg等函数无法接受一个Python函数作为参数。

关于Orca和pandas的详细差异，以及由此带来的Orca编程注意事项，请参考Orca使用教程。

安装

Orca支持Linux和Windows系统，要求Python版本为3.6及以上，pandas版本为0.25.1及以上。

orca项目已经集成到DolphinDB Python API中。通过pip工具安装DolphinDB Python API，就可以使用orca。

pip install dolphindb

Orca是基于DolphinDB Python API开发的，因此，你需要有一个DolphinDB服务器，并通过connect函数连接到这个服务器，然后运行Orca：

>>> import dolphindb.orca as orca
>>> orca.connect(MY_HOST, MY_PORT, MY_USERNAME, MY_PASSWORD)

如果你已经有现成的pandas程序，可以将pandas的import替换为：

# import pandas as pd
import dolphindb.orca as pd

pd.connect(MY_HOST, MY_PORT, MY_USERNAME, MY_PASSWORD)