首页 / 工具 / 迁移清单 / Hive → Flink SQL

Hive 迁移到 Flink SQL 的函数改写清单

从 Hive 迁移到 Flink SQL 时，在 Hive 有对应写法的 44 个常用函数中，24 个需要改写（其中 1 个在 Flink SQL 没有对应函数），另有 1 个可以改用 Flink SQL 的原生函数。逐个列出两边写法和注意事项。

需要改写的函数 · 可以改用原生函数 · 迁移注意事项 · 可以直接用的函数 · 反向：Flink SQL 迁移到 Hive

需要改写的函数

函数	Hive 写法	Flink SQL 写法	Flink SQL 说明
ADD_MONTHS	`add_months(start_date, num_months[, output_date_format])`	需改写 `TIMESTAMPADD(MONTH, n, timepoint)`	内置函数中没有 ADD_MONTHS，用 TIMESTAMPADD 的 MONTH 单位。
ANY_VALUE	`max(col)`	需改写 `FIRST_VALUE(expression)`	内置函数中没有 ANY_VALUE，可以用聚合函数 FIRST_VALUE 代替。
COLLECT_LIST	`collect_list(col)`	需改写 `ARRAY_AGG(expression)`	没有输入行时返回 NULL，可以用 RESPECT NULLS 或 IGNORE NULLS 控制是否保留 NULL。
COLLECT_SET	`collect_set(col)`	需改写 `ARRAY_AGG(DISTINCT expression)`	也可以用 COLLECT(DISTINCT expression)，返回的是 MULTISET 而不是数组。
DATE_ADD	`date_add(startdate, days)`	需改写 `TIMESTAMPADD(DAY, n, timepoint)`	内置函数中没有 DATE_ADD，改用 TIMESTAMPADD。
DATE_SUB	`date_sub(startdate, days)`	需改写 `TIMESTAMPADD(DAY, -n, timepoint)`	内置函数中没有 DATE_SUB，用 TIMESTAMPADD 传负数。
DATEADD	`date_add(startdate, days) / add_months(startdate, n)`	需改写 `TIMESTAMPADD(unit, n, timepoint)`	单位可以是 SECOND、MINUTE、HOUR、DAY、WEEK、MONTH、QUARTER 或 YEAR。
DATEDIFF	`datediff(enddate, startdate)`	需改写 `TIMESTAMPDIFF(DAY, timepoint1, timepoint2)`	内置函数中没有 DATEDIFF。TIMESTAMPDIFF 返回 timepoint1 与 timepoint2 之间带符号的单位数，先写单位，再写开始时间和结束时间。
DATETRUNC	`trunc(date, 'MM')`	需改写 `FLOOR(timepoint TO MONTH)`	内置函数中没有 DATE_TRUNC，用 FLOOR ... TO 向下取整到指定单位。
EXPLODE	`explode(array \| map)`	需改写 `CROSS JOIN UNNEST(arr) AS t(x)`	内置函数中没有 EXPLODE，数组展开写在 JOIN 中：CROSS JOIN UNNEST，也支持 LEFT JOIN。需要元素位置时加 WITH ORDINALITY，位置从 1 开始，目前只支持 CROSS JOIN。也可以展开 map 和 multiset。
FROM_JSON	`json_tuple(jsonStr, k1, k2, ...)`	需改写 `JSON_VALUE(json, path) / JSON_QUERY(json, path)`	没有 FROM_JSON。JSON_VALUE 取标量值，JSON_QUERY 取对象或数组，返回 JSON 字符串。
GET_JSON_OBJECT	`get_json_object(json_string, path)`	需改写 `JSON_VALUE(json, path)`	提取 JSON 中的标量值，可以用 RETURNING 子句指定返回类型。
GETDATE	`current_timestamp`	别名 `CURRENT_TIMESTAMP 或 NOW()`	返回本地时区的 TIMESTAMP_LTZ(3)。流模式下每条记录都会重新求值，批模式下只在查询开始时求值一次。
LAST_DAY	`last_day(date)`	需改写 `TIMESTAMPADD(DAY, -1, TIMESTAMPADD(MONTH, 1, FLOOR(ts TO MONTH)))`	内置函数中没有 LAST_DAY。先用 FLOOR 取当月第一天，加一个月再减一天。
LENGTH	`length(string A)`	别名 `CHAR_LENGTH(string)`	返回字符数，别名 CHARACTER_LENGTH。内置函数中没有 LENGTH。
MONTHS_BETWEEN	`months_between(date1, date2)`	需改写 `TIMESTAMPDIFF(MONTH, start, end)`	没有 MONTHS_BETWEEN。TIMESTAMPDIFF 返回 timepoint2 减 timepoint1 的整数，参数顺序与 MONTHS_BETWEEN 相反。
NVL	`NVL(value, default_value)`	需改写 `IFNULL(input, null_replacement)`	没有 NVL，可以用 IFNULL 或 COALESCE。
PERCENTILE_APPROX	`percentile_approx(col, p[, B])`	需改写 `PERCENTILE(expr, percentage[, frequency])`	PERCENTILE 是精确分位数，按线性插值计算。2.0 起的文档中有这个函数，1.20 的文档中没有，使用前请按所用版本确认。文档提示在普通分组聚合中开销较大，建议用在窗口场景。
SIZE	`size(array_or_map)`	别名 `CARDINALITY(array_or_map)`	数组返回元素个数，Map 返回键值对个数。
SORT_ARRAY	`sort_array(Array<T>)`	需改写 `ARRAY_SORT(array[, ascending_order[, null_first]])`	默认升序且 NULL 在开头。可以分别指定升降序和 NULL 的位置。任一参数为 NULL 时返回 NULL。
SPLIT_PART	`split(str, pat)[n - 1]`	需改写 `SPLIT_INDEX(str, delimiter, n - 1)`	下标从 0 开始。下标为负数或任一参数为 NULL 时返回 NULL。
SUBSTRING_INDEX	`substring_index(string A, string delim, int count)`	不支持	内置函数中没有 SUBSTRING_INDEX。只取某一段时可以用 SPLIT_INDEX，下标从 0 开始。
WEEKOFYEAR	`weekofyear(string date)`	别名 `WEEK(date)`	返回 1～53，等价于 EXTRACT(WEEK FROM date)。
WM_CONCAT	`concat_ws(',', collect_list(col))`	需改写 `LISTAGG(expression[, separator])`	分隔符写在后面。

可以改用原生函数

下面的函数在 Hive 中只能用替代写法，Flink SQL 有对应的函数。原来的写法通常仍能运行，换成原生函数会更简洁。

函数	Hive 写法	Flink SQL 写法	Flink SQL 说明
DAYOFWEEK	`extract(dayofweek FROM ts)`	支持 `DAYOFWEEK(date)`	返回 1～7，等价于 EXTRACT(DOW FROM date)。文档示例中 1994-09-27（周二）返回 3，即周日为 1。

迁移注意事项

以下内容摘自各函数页中提到 Hive 或 Flink SQL 的注意事项。

ADD_MONTHS 按月加减

MaxCompute 返回字符串，Hive 4.0.0 之前也会丢掉时间部分。结果和 DATE 或 DATETIME 字段比较时，注意类型转换。
Hologres 和 Flink 的月末行为文档没有写明，迁移涉及月末日期时建议用已知数据核对。

DATE_ADD 日期加减

Hive 2.1.0 之前 date_add 返回字符串，老版本迁移来的 SQL 可能依赖了这个行为。

DATE_SUB 日期减天数

StarRocks 和 Doris 的 DATE_SUB 文档只列出 INTERVAL 写法。把 Hive 的 date_sub(d, 1) 搬到 StarRocks 时，改成 DATE_SUB(d, INTERVAL 1 DAY) 或 days_sub(d, 1)。

DATEDIFF 日期差

MaxCompute、StarRocks、Doris、Hive 和 Spark 都是结束日期在前。Flink 的 TIMESTAMPDIFF 先写单位，再写开始时间和结束时间。Flink 文档没有写明正负号的方向，按标准 SQL 的约定结果为 timepoint2 减 timepoint1，迁移后建议用一条已知数据核对符号。

DATETRUNC 日期截断

Hive 的 trunc 只能截断到月和年，按周、按季度汇总需要自己计算。

EXPLODE 数组展开为多行

需要元素位置时，Hive 和 Spark 的 posexplode 位置从 0 开始，Flink 的 WITH ORDINALITY 从 1 开始，迁移时要调整下标。

GETDATE 获取当前时间

Flink 流模式下 CURRENT_TIMESTAMP 每条记录都重新求值，同一批数据的结果并不相同。离线 SQL 里依赖“整条 SQL 共用一个时间”的写法，在 Flink 流作业里会出现不同的值。
返回类型不同：MaxCompute、StarRocks 和 Doris 返回 DATETIME，Hologres 的 NOW 带时区（文档把不带时区的版本单独列为 LOCALTIMESTAMP），Flink 返回 TIMESTAMP_LTZ(3)。直接写入字符串或 DATETIME 字段时，格式可能变化。
精度不同：MaxCompute 默认到秒，StarRocks 和 Doris 默认到秒、可传参数到微秒，Flink 到毫秒。用当前时间做去重或比较时要注意小数部分。
Hive 和 Spark 的 current_timestamp 可以不带括号，Doris 文档中的写法是 current_timestamp()。迁移时统一写 NOW() 更容易对齐。

LAST_DAY 当月最后一天

返回类型不同：MaxCompute（不传 date_part）和 Hive 返回字符串，StarRocks 和 Doris 返回 DATE。结果用于关联 DATE 字段时要先转换。

LENGTH 字符串长度

按字符计数统一写 CHAR_LENGTH 最稳妥：Hologres、StarRocks、Doris、Flink 都支持，Hive 2.2.0 起也支持（char_length 是 character_length 的简写）。

MONTHS_BETWEEN 相差月数

Flink 的 TIMESTAMPDIFF(MONTH, t1, t2) 计算的是 t2 减 t1，开始时间在前；MONTHS_BETWEEN 是结束时间在前。照搬参数顺序会得到相反的符号。
StarRocks 的 months_diff、Flink 的 TIMESTAMPDIFF 和 Hologres 的 EXTRACT 写法都只返回整数月，原 SQL 中依赖小数部分的计算（例如按 0.5 个月判断）需要重新设计。
时间部分的处理不同：Doris 只看日期，Hive 会把时间部分算进小数，Spark 在同一天或都是月末时忽略时间。同样的输入可能得到不同的小数。
舍入不同：Hive 和 Spark 默认保留 8 位小数，MaxCompute 返回完整的 DOUBLE，Doris 由 round_type 控制。和原结果做等值比较前，先统一 ROUND。

NVL 空值替换

迁移到 Hologres、StarRocks 或 Flink SQL 时，统一改写为 COALESCE 最省事，因为 COALESCE 在七个引擎中都可用。
Flink 的 IFNULL 在第一个参数来自 JSON_VALUE 时可能返回错误结果，问题编号 FLINK-35832。受影响版本包括 1.15～1.20 和 2.0.0，问题已在 2024 年 7 月标记为修复，但没有写明修复版本，使用前请确认所用版本是否包含修复。

PERCENTILE_APPROX 近似分位数

第三个参数含义不同：MaxCompute 和 Hive 的 B、Spark 的 accuracy 都默认 10000；StarRocks 和 Doris 的 compression 只接受 2048～10000。从 Spark 迁移时，如果写了大于 10000 的 accuracy，要调整到这个范围内。
各引擎的算法不同，结果不会完全一致。MaxCompute 文档写明 p 落在两个值中间时取两者均值，Spark 返回满足条件的最小值，Flink 的 PERCENTILE 用线性插值。P50、P99 这类指标迁移后要实测对比。
Flink 的 PERCENTILE 是精确计算，每条记录都可能触发全量排序。文档建议用在窗口聚合中，流式分组聚合中慎用。

SIZE 数组和 Map 元素个数

StarRocks 和 Doris 区分数组和 Map 函数。从 MaxCompute 或 Hive 迁移时，要按字段类型分别改成 array_length、map_size 或 ARRAY_SIZE、MAP_SIZE。

SORT_ARRAY 数组排序

Spark 有两个排序函数：sort_array 升序时把 NULL 放在开头，array_sort 把 NULL 放在末尾。从 MaxCompute 或 Hive 迁移时应使用 sort_array，结果才一致。
降序的写法不同：MaxCompute 和 Spark 传第二个参数，Flink 传 ascending_order，Doris 用 ARRAY_REVERSE_SORT，Hive 和 Hologres 的函数只能升序。

SPLIT_PART 按分隔符取第 N 段

Hive 的 split 按正则切分。分隔符是 .、| 这类正则特殊字符时，要写成 split(s, '\\.')，否则结果不对。
Hive 的数组下标和 Flink 的 SPLIT_INDEX 都从 0 开始。从 SPLIT_PART 改写时要把下标减 1。

SUBSTRING_INDEX 按分隔符截取

Hologres 和 Flink 没有这个函数。只取某一段可以改用 Hologres 的 SPLIT_PART 或 Flink 的 SPLIT_INDEX；要取“前两段”这种跨分隔符的结果，需要拼接或用正则改写。
从 URL 中取域名这类场景常写成 substring_index(substring_index(url, '/', 3), '/', -1)，嵌套写法在 Hologres 和 Flink 中要整体改写。

DAYOFWEEK 星期几

Hive 的内置函数文档没有 dayofweek，只能用 Hive 2.2.0 起提供的 extract(dayofweek FROM ...)。

可以直接用的函数

下面 19 个函数在两个引擎中写法相同。参数、返回值和边界情况仍可能不同，点开函数页查看细节。