首页 / 工具 / 迁移清单 / Doris → Hive

Doris 迁移到 Hive 的函数改写清单

从 Doris 迁移到 Hive 时，在 Doris 有对应写法的 44 个常用函数中，18 个需要改写。逐个列出两边写法和注意事项。

需要改写的函数 · 迁移注意事项 · 可以直接用的函数 · 反向：Hive 迁移到 Doris

需要改写的函数

函数	Doris 写法	Hive 写法	Hive 说明
ADD_MONTHS	`MONTHS_ADD(date, nums)`	支持 `add_months(start_date, num_months[, output_date_format])`	Hive 1.1.0 起提供，返回 string。Hive 4.0.0 之前会忽略时间部分，4.0.0 起可以指定输出格式。
ANY_VALUE	`ANY_VALUE(expr)`	需改写 `max(col)`	函数手册中没有 ANY_VALUE，组内值都相同时用 max 或 min 代替。
APPROX_COUNT_DISTINCT	`APPROX_COUNT_DISTINCT(expr)`	需改写 `COUNT(DISTINCT col)`	内置函数文档中没有近似去重函数，只能用精确的 COUNT(DISTINCT)。
DATEADD	`TIMESTAMPADD(unit, n, datetime_expr)`	需改写 `date_add(startdate, days) / add_months(startdate, n)`	内置函数中没有 DATEADD。按天加减用 date_add，按月加减用 add_months。
DATETRUNC	`DATE_TRUNC(datetime, 'month')`	需改写 `trunc(date, 'MM')`	函数手册中没有 date_trunc。trunc 只支持 MONTH、MON、MM 和 YEAR、YYYY、YY，返回 string。
DAYOFWEEK	`DAYOFWEEK(date)`	需改写 `extract(dayofweek FROM ts)`	内置函数文档中没有 dayofweek 函数，Hive 2.2.0 起可以用 extract 取 dayofweek，文档示例中 2016-10-20（周四）返回 5，即周日为 1。
FROM_JSON	`JSON_PARSE(json_str)`	需改写 `json_tuple(jsonStr, k1, k2, ...)`	内置函数中没有 FROM_JSON。一次取多个 key 用 json_tuple，它是 UDTF，要配合 LATERAL VIEW 使用；取单个值用 get_json_object。
GET_JSON_OBJECT	`GET_JSON_STRING(json_str, json_path)`	支持 `get_json_object(json_string, path)`
GETDATE	`NOW([precision])`	别名 `current_timestamp`	Hive 1.2.0 起提供，返回查询开始时的时间戳，同一查询中各次调用结果相同。unix_timestamp() 无参写法从 2.0 起已废弃，文档建议改用 CURRENT_TIMESTAMP。
LENGTH	`CHAR_LENGTH(str)`	支持 `length(string A)`	返回字符串长度。Hive 2.2.0 起还有 character_length（简写 char_length）返回 UTF-8 字符数，octet_length 返回字节数。
MAX_BY	`MAX_BY(expr1, expr2)`	需改写 `ROW_NUMBER() OVER (PARTITION BY ... ORDER BY y DESC) = 1`	函数手册中没有 MAX_BY，用窗口函数取每组第一行。
SIZE	`ARRAY_SIZE(arr) / MAP_SIZE(m)`	支持 `size(array_or_map)`	同一个函数可以处理 ARRAY 和 MAP，返回 INT。
SORT_ARRAY	`ARRAY_SORT(arr)`	支持 `sort_array(Array<T>)`	Hive 0.9.0 起提供，只能升序。
SPLIT	`SPLIT_BY_STRING(str, separator)`	支持 `split(str, pat)`	返回 array，pat 是正则表达式。
SPLIT_PART	`SPLIT_PART(str, separator, part_index)`	需改写 `split(str, pat)[n - 1]`	内置函数中没有 SPLIT_PART。split 的第二个参数是正则表达式，返回数组，数组下标从 0 开始。
SUBSTR	`SUBSTRING(str, pos[, len])`	支持 `substr(str, start[, len])`	substr('foobar', 4) 返回 bar。手册没有说明负数和 0 的处理。
TO_DATE	`str_to_date(str, format)`	需改写 `to_date(from_unixtime(unix_timestamp(str, pattern)))`	Hive 的 to_date 只返回时间戳字符串的日期部分，没有格式参数。返回类型在 Hive 2.1.0 之前是 string，之后是 date。
WM_CONCAT	`GROUP_CONCAT([DISTINCT] str[, sep] [ORDER BY ...])`	需改写 `concat_ws(',', collect_list(col))`	函数手册中没有 WM_CONCAT，用 concat_ws 拼接 collect_list 的结果，顺序不固定。

迁移注意事项

以下内容摘自各函数页中提到 Doris 或 Hive 的注意事项。

ADD_MONTHS 按月加减

月末日期：StarRocks、Doris 和 Spark 在目标月份没有对应日期时取当月最后一天。StarRocks 文档特别说明，2022-02-28 加 1 个月得到 3 月 28 日而不是 3 月 31 日，这和 Oracle 的行为不同。
MaxCompute 返回字符串，Hive 4.0.0 之前也会丢掉时间部分。结果和 DATE 或 DATETIME 字段比较时，注意类型转换。

ANY_VALUE 取组内任意值

NULL 的处理不同：MaxCompute 和 Doris 会优先返回非 NULL 值，Spark 默认可能返回 NULL，需要传 true 才会跳过 NULL。

APPROX_COUNT_DISTINCT 近似去重计数

改写成 Hive 或 Flink 的 COUNT(DISTINCT) 后结果是精确值，但资源消耗会明显变大，大数据量下要评估内存和运行时间。

DATETRUNC 日期截断

参数顺序不同：MaxCompute 是日期在前，Hologres、StarRocks 和 Spark 是单位在前，Doris 两种都接受。
周的起点：MaxCompute 的 week 默认从周一开始，Doris 和 Spark 文档的示例也截断到周一。按周汇总前确认业务定义的周起点。
Hive 的 trunc 只能截断到月和年，按周、按季度汇总需要自己计算。

DAYOFWEEK 星期几

Hive 的内置函数文档没有 dayofweek，只能用 Hive 2.2.0 起提供的 extract(dayofweek FROM ...)。

FROM_JSON 按 schema 解析 JSON

StarRocks 的 parse_json 和 Doris 的 JSON_PARSE 返回的是 JSON 类型，下游需要 STRUCT 或 MAP 时要再做一次转换，不能直接替换 from_json。
非法 JSON 的处理不同：StarRocks 的 parse_json 返回 NULL，Doris 的 JSON_PARSE 直接报错。脏数据较多的表，在 Doris 中改用 JSON_PARSE_ERROR_TO_NULL。

GET_JSON_OBJECT 提取 JSON 字段

StarRocks 和 Doris 返回字符串，取出的数字需要再做 CAST。Doris 中值无法无损转换为字符串时返回 NULL。

GETDATE 获取当前时间

返回类型不同：MaxCompute、StarRocks 和 Doris 返回 DATETIME，Hologres 的 NOW 带时区（文档把不带时区的版本单独列为 LOCALTIMESTAMP），Flink 返回 TIMESTAMP_LTZ(3)。直接写入字符串或 DATETIME 字段时，格式可能变化。
精度不同：MaxCompute 默认到秒，StarRocks 和 Doris 默认到秒、可传参数到微秒，Flink 到毫秒。用当前时间做去重或比较时要注意小数部分。
Hive 和 Spark 的 current_timestamp 可以不带括号，Doris 文档中的写法是 current_timestamp()。迁移时统一写 NOW() 更容易对齐。

LENGTH 字符串长度

StarRocks 和 Doris 的 LENGTH 返回字节数。像 WHERE LENGTH(name) > 10 这样的条件，迁移后对中文内容会多筛出很多行，而且不会报错。
按字符计数统一写 CHAR_LENGTH 最稳妥：Hologres、StarRocks、Doris、Flink 都支持，Hive 2.2.0 起也支持（char_length 是 character_length 的简写）。

SIZE 数组和 Map 元素个数

StarRocks 和 Doris 区分数组和 Map 函数。从 MaxCompute 或 Hive 迁移时，要按字段类型分别改成 array_length、map_size 或 ARRAY_SIZE、MAP_SIZE。
StarRocks 和 Doris 文档写明 NULL 元素也计入个数。需要只统计非空元素时，要先过滤再计数。

SORT_ARRAY 数组排序

Spark 有两个排序函数：sort_array 升序时把 NULL 放在开头，array_sort 把 NULL 放在末尾。从 MaxCompute 或 Hive 迁移时应使用 sort_array，结果才一致。
降序的写法不同：MaxCompute 和 Spark 传第二个参数，Flink 传 ascending_order，Doris 用 ARRAY_REVERSE_SORT，Hive 和 Hologres 的函数只能升序。

SPLIT 字符串拆分

MaxCompute、Hive 和 Spark 按正则处理分隔符。用 . 或 | 拆分时要写成 '\\.' 或 '\\|'，否则会被当成正则元字符，结果出错。

SPLIT_PART 按分隔符取第 N 段

下标越界时结果不同：MaxCompute、StarRocks 和 Spark 返回空字符串，Hologres 和 Doris 返回 NULL。下游用 IS NULL 或 = '' 判断时，迁移后结果可能变化。
Hive 的 split 按正则切分。分隔符是 .、| 这类正则特殊字符时，要写成 split(s, '\\.')，否则结果不对。
Hive 的数组下标和 Flink 的 SPLIT_INDEX 都从 0 开始。从 SPLIT_PART 改写时要把下标减 1。

SUBSTR 截取子串

起始位置写 0 是常见错误。MaxCompute 默认、StarRocks 和 Doris 都返回空字符串，不会报错，结果却全是空值，很难发现。MaxCompute 开启 Hive 兼容模式后又会按 1 处理，同一条 SQL 在不同模式下结果不同。

TO_DATE 字符串转日期

同名不同义：把 MaxCompute 的 TO_DATE('20261013', 'yyyymmdd') 直接搬到 StarRocks、Doris 或 Hive 会报错或得到错误结果，需要改用 str_to_date 或 unix_timestamp。

WM_CONCAT 分组拼接字符串

分隔符的位置相反：WM_CONCAT 写在第一个参数，STRING_AGG、GROUP_CONCAT（Doris）和 LISTAGG 写在最后。直接替换函数名会把分隔符当成要拼接的值。
不写排序时，各引擎拼接的顺序都不固定。需要稳定结果时，MaxCompute 写 WITHIN GROUP (ORDER BY ...)，StarRocks 和 Doris 在 GROUP_CONCAT 内写 ORDER BY。

可以直接用的函数

下面 26 个函数在两个引擎中写法相同。参数、返回值和边界情况仍可能不同，点开函数页查看细节。

相关页面：Doris 函数写法 · Hive 函数写法 · 全部迁移清单 · 用 SQL 迁移检查器检查自己的 SQL