Spark SQL 迁移到 Flink SQL 的函数改写清单

从 Spark SQL 迁移到 Flink SQL 时，在 Spark SQL 有对应写法的 44 个常用函数中，28 个需要改写（其中 1 个在 Flink SQL 没有对应函数）。逐个列出两边写法和注意事项。

需要改写的函数 · 迁移注意事项 · 可以直接用的函数 · 反向：Flink SQL 迁移到 Spark SQL

需要改写的函数

函数	Spark SQL 写法	Flink SQL 写法	Flink SQL 说明
ADD_MONTHS	`add_months(start_date, num_months)`	需改写 `TIMESTAMPADD(MONTH, n, timepoint)`	内置函数中没有 ADD_MONTHS，用 TIMESTAMPADD 的 MONTH 单位。
ANY_VALUE	`any_value(expr[, isIgnoreNull])`	需改写 `FIRST_VALUE(expression)`	内置函数中没有 ANY_VALUE，可以用聚合函数 FIRST_VALUE 代替。
APPROX_COUNT_DISTINCT	`approx_count_distinct(expr[, relativeSD])`	需改写 `COUNT(DISTINCT expr)`	内置函数文档中没有近似去重函数，只能用精确的 COUNT(DISTINCT)。
COLLECT_LIST	`collect_list(expr)`	需改写 `ARRAY_AGG(expression)`	没有输入行时返回 NULL，可以用 RESPECT NULLS 或 IGNORE NULLS 控制是否保留 NULL。
COLLECT_SET	`collect_set(expr)`	需改写 `ARRAY_AGG(DISTINCT expression)`	也可以用 COLLECT(DISTINCT expression)，返回的是 MULTISET 而不是数组。
DATE_ADD	`date_add(start_date, num_days)`	需改写 `TIMESTAMPADD(DAY, n, timepoint)`	内置函数中没有 DATE_ADD，改用 TIMESTAMPADD。
DATE_SUB	`date_sub(start_date, num_days)`	需改写 `TIMESTAMPADD(DAY, -n, timepoint)`	内置函数中没有 DATE_SUB，用 TIMESTAMPADD 传负数。
DATEADD	`ts + INTERVAL n HOUR`	需改写 `TIMESTAMPADD(unit, n, timepoint)`	单位可以是 SECOND、MINUTE、HOUR、DAY、WEEK、MONTH、QUARTER 或 YEAR。
DATEDIFF	`datediff(endDate, startDate)`	需改写 `TIMESTAMPDIFF(DAY, timepoint1, timepoint2)`	内置函数中没有 DATEDIFF。TIMESTAMPDIFF 返回 timepoint1 与 timepoint2 之间带符号的单位数，先写单位，再写开始时间和结束时间。
DATETRUNC	`date_trunc('MONTH', ts)`	需改写 `FLOOR(timepoint TO MONTH)`	内置函数中没有 DATE_TRUNC，用 FLOOR ... TO 向下取整到指定单位。
DECODE	`decode(expr, search, result [, search, result ] ... [, default])`	需改写 `CASE expr WHEN search THEN result ... ELSE default END`	DECODE(binary, string) 是按字符集解码二进制，不能做多值匹配，需要用 CASE 改写。
EXPLODE	`explode(expr)`	需改写 `CROSS JOIN UNNEST(arr) AS t(x)`	内置函数中没有 EXPLODE，数组展开写在 JOIN 中：CROSS JOIN UNNEST，也支持 LEFT JOIN。需要元素位置时加 WITH ORDINALITY，位置从 1 开始，目前只支持 CROSS JOIN。也可以展开 map 和 multiset。
FROM_JSON	`from_json(jsonStr, schema[, options])`	需改写 `JSON_VALUE(json, path) / JSON_QUERY(json, path)`	没有 FROM_JSON。JSON_VALUE 取标量值，JSON_QUERY 取对象或数组，返回 JSON 字符串。
GET_JSON_OBJECT	`get_json_object(json_txt, path)`	需改写 `JSON_VALUE(json, path)`	提取 JSON 中的标量值，可以用 RETURNING 子句指定返回类型。
GETDATE	`current_timestamp() 或 now()`	别名 `CURRENT_TIMESTAMP 或 NOW()`	返回本地时区的 TIMESTAMP_LTZ(3)。流模式下每条记录都会重新求值，批模式下只在查询开始时求值一次。
LAST_DAY	`last_day(date)`	需改写 `TIMESTAMPADD(DAY, -1, TIMESTAMPADD(MONTH, 1, FLOOR(ts TO MONTH)))`	内置函数中没有 LAST_DAY。先用 FLOOR 取当月第一天，加一个月再减一天。
LENGTH	`length(expr)`	别名 `CHAR_LENGTH(string)`	返回字符数，别名 CHARACTER_LENGTH。内置函数中没有 LENGTH。
MAX_BY	`max_by(x, y[, k])`	需改写 `ROW_NUMBER() OVER (PARTITION BY ... ORDER BY y DESC) = 1`	内置函数中没有 MAX_BY 或 ARG_MAX，用 ROW_NUMBER 窗口函数改写。
MONTHS_BETWEEN	`months_between(timestamp1, timestamp2[, roundOff])`	需改写 `TIMESTAMPDIFF(MONTH, start, end)`	没有 MONTHS_BETWEEN。TIMESTAMPDIFF 返回 timepoint2 减 timepoint1 的整数，参数顺序与 MONTHS_BETWEEN 相反。
NVL	`nvl(expr1, expr2)`	需改写 `IFNULL(input, null_replacement)`	没有 NVL，可以用 IFNULL 或 COALESCE。
PERCENTILE_APPROX	`percentile_approx(col, percentage[, accuracy])`	需改写 `PERCENTILE(expr, percentage[, frequency])`	PERCENTILE 是精确分位数，按线性插值计算。2.0 起的文档中有这个函数，1.20 的文档中没有，使用前请按所用版本确认。文档提示在普通分组聚合中开销较大，建议用在窗口场景。
SIZE	`size(expr)`	别名 `CARDINALITY(array_or_map)`	数组返回元素个数，Map 返回键值对个数。
SORT_ARRAY	`sort_array(array[, ascendingOrder])`	需改写 `ARRAY_SORT(array[, ascending_order[, null_first]])`	默认升序且 NULL 在开头。可以分别指定升降序和 NULL 的位置。任一参数为 NULL 时返回 NULL。
SPLIT_PART	`split_part(str, delimiter, partNum)`	需改写 `SPLIT_INDEX(str, delimiter, n - 1)`	下标从 0 开始。下标为负数或任一参数为 NULL 时返回 NULL。
SUBSTRING_INDEX	`substring_index(str, delim, count)`	不支持	内置函数中没有 SUBSTRING_INDEX。只取某一段时可以用 SPLIT_INDEX，下标从 0 开始。
TO_CHAR	`to_char(expr, format)`	需改写 `DATE_FORMAT(timestamp, 'yyyy-MM-dd HH:mm:ss')`	没有 TO_CHAR。DATE_FORMAT 的格式符兼容 Java SimpleDateFormat。
WEEKOFYEAR	`weekofyear(date)`	别名 `WEEK(date)`	返回 1～53，等价于 EXTRACT(WEEK FROM date)。
WM_CONCAT	`string_agg(expr[, delimiter]) WITHIN GROUP (ORDER BY ...)`	需改写 `LISTAGG(expression[, separator])`	分隔符写在后面。

迁移注意事项

以下内容摘自各函数页中提到 Spark SQL 或 Flink SQL 的注意事项。

ADD_MONTHS 按月加减

月末日期：StarRocks、Doris 和 Spark 在目标月份没有对应日期时取当月最后一天。StarRocks 文档特别说明，2022-02-28 加 1 个月得到 3 月 28 日而不是 3 月 31 日，这和 Oracle 的行为不同。
Hologres 和 Flink 的月末行为文档没有写明，迁移涉及月末日期时建议用已知数据核对。

ANY_VALUE 取组内任意值

NULL 的处理不同：MaxCompute 和 Doris 会优先返回非 NULL 值，Spark 默认可能返回 NULL，需要传 true 才会跳过 NULL。

APPROX_COUNT_DISTINCT 近似去重计数

改写成 Hive 或 Flink 的 COUNT(DISTINCT) 后结果是精确值，但资源消耗会明显变大，大数据量下要评估内存和运行时间。
Spark 的第二个参数 relativeSD 在其他引擎中没有对应写法，迁移时要去掉，并按目标引擎的方式调整精度，例如 Hologres 的会话参数。

DATEADD 按单位加减日期

Spark 3.4.0 起的 dateadd(d, 1) 表示加 1 天，参数个数和含义都与 MaxCompute 不同，不能直接照搬。

DATEDIFF 日期差

MaxCompute、StarRocks、Doris、Hive 和 Spark 都是结束日期在前。Flink 的 TIMESTAMPDIFF 先写单位，再写开始时间和结束时间。Flink 文档没有写明正负号的方向，按标准 SQL 的约定结果为 timepoint2 减 timepoint1，迁移后建议用一条已知数据核对符号。

DATETRUNC 日期截断

参数顺序不同：MaxCompute 是日期在前，Hologres、StarRocks 和 Spark 是单位在前，Doris 两种都接受。
返回类型不同：MaxCompute 对 DATE 输入返回 DATE，Hologres 和 Spark 的 date_trunc 返回时间戳。结果用于关联 DATE 字段时要先转换。
周的起点：MaxCompute 的 week 默认从周一开始，Doris 和 Spark 文档的示例也截断到周一。按周汇总前确认业务定义的周起点。

DECODE 多值匹配

Hive 和 Flink 也有 DECODE，但含义是字符集解码。把 MaxCompute 的多参数 DECODE 原样搬过去会报参数错误，必须改写成 CASE。
Spark 3.2 之前只有字符集解码的 decode，多值匹配写法在旧版本中会报错。

EXPLODE 数组展开为多行

空数组和 NULL 数组的行会被直接丢掉：MaxCompute、Doris 的 EXPLODE 和 StarRocks 的 UNNEST 都是这样。需要保留时，Doris 和 Spark 用 EXPLODE_OUTER，StarRocks 3.2.7 起用 LEFT JOIN UNNEST(...) ON TRUE。
需要元素位置时，Hive 和 Spark 的 posexplode 位置从 0 开始，Flink 的 WITH ORDINALITY 从 1 开始，迁移时要调整下标。

GETDATE 获取当前时间

Flink 流模式下 CURRENT_TIMESTAMP 每条记录都重新求值，同一批数据的结果并不相同。离线 SQL 里依赖“整条 SQL 共用一个时间”的写法，在 Flink 流作业里会出现不同的值。
返回类型不同：MaxCompute、StarRocks 和 Doris 返回 DATETIME，Hologres 的 NOW 带时区（文档把不带时区的版本单独列为 LOCALTIMESTAMP），Flink 返回 TIMESTAMP_LTZ(3)。直接写入字符串或 DATETIME 字段时，格式可能变化。
精度不同：MaxCompute 默认到秒，StarRocks 和 Doris 默认到秒、可传参数到微秒，Flink 到毫秒。用当前时间做去重或比较时要注意小数部分。
Hive 和 Spark 的 current_timestamp 可以不带括号，Doris 文档中的写法是 current_timestamp()。迁移时统一写 NOW() 更容易对齐。

LENGTH 字符串长度

按字符计数统一写 CHAR_LENGTH 最稳妥：Hologres、StarRocks、Doris、Flink 都支持，Hive 2.2.0 起也支持（char_length 是 character_length 的简写）。
Spark 的 length 会把末尾空格算进去。从定长 CHAR 列迁移过来的数据要注意补齐的空格。

MONTHS_BETWEEN 相差月数

Flink 的 TIMESTAMPDIFF(MONTH, t1, t2) 计算的是 t2 减 t1，开始时间在前；MONTHS_BETWEEN 是结束时间在前。照搬参数顺序会得到相反的符号。
StarRocks 的 months_diff、Flink 的 TIMESTAMPDIFF 和 Hologres 的 EXTRACT 写法都只返回整数月，原 SQL 中依赖小数部分的计算（例如按 0.5 个月判断）需要重新设计。
时间部分的处理不同：Doris 只看日期，Hive 会把时间部分算进小数，Spark 在同一天或都是月末时忽略时间。同样的输入可能得到不同的小数。
舍入不同：Hive 和 Spark 默认保留 8 位小数，MaxCompute 返回完整的 DOUBLE，Doris 由 round_type 控制。和原结果做等值比较前，先统一 ROUND。

NVL 空值替换

迁移到 Hologres、StarRocks 或 Flink SQL 时，统一改写为 COALESCE 最省事，因为 COALESCE 在七个引擎中都可用。
Flink 的 IFNULL 在第一个参数来自 JSON_VALUE 时可能返回错误结果，问题编号 FLINK-35832。受影响版本包括 1.15～1.20 和 2.0.0，问题已在 2024 年 7 月标记为修复，但没有写明修复版本，使用前请确认所用版本是否包含修复。

PERCENTILE_APPROX 近似分位数

第三个参数含义不同：MaxCompute 和 Hive 的 B、Spark 的 accuracy 都默认 10000；StarRocks 和 Doris 的 compression 只接受 2048～10000。从 Spark 迁移时，如果写了大于 10000 的 accuracy，要调整到这个范围内。
各引擎的算法不同，结果不会完全一致。MaxCompute 文档写明 p 落在两个值中间时取两者均值，Spark 返回满足条件的最小值，Flink 的 PERCENTILE 用线性插值。P50、P99 这类指标迁移后要实测对比。
Flink 的 PERCENTILE 是精确计算，每条记录都可能触发全量排序。文档建议用在窗口聚合中，流式分组聚合中慎用。

SIZE 数组和 Map 元素个数

Spark 对 NULL 输入可能返回 -1，也可能返回 NULL，取决于 ANSI 模式和 spark.sql.legacy.sizeOfNull 两个配置。Spark 3.x 默认关闭 ANSI 模式，所用版本的默认值要按对应版本文档确认。下游有 size(x) = -1 这类判断时，迁移前要先核对配置。

SORT_ARRAY 数组排序

Spark 有两个排序函数：sort_array 升序时把 NULL 放在开头，array_sort 把 NULL 放在末尾。从 MaxCompute 或 Hive 迁移时应使用 sort_array，结果才一致。
降序的写法不同：MaxCompute 和 Spark 传第二个参数，Flink 传 ascending_order，Doris 用 ARRAY_REVERSE_SORT，Hive 和 Hologres 的函数只能升序。

SPLIT_PART 按分隔符取第 N 段

下标越界时结果不同：MaxCompute、StarRocks 和 Spark 返回空字符串，Hologres 和 Doris 返回 NULL。下游用 IS NULL 或 = '' 判断时，迁移后结果可能变化。
Hive 的数组下标和 Flink 的 SPLIT_INDEX 都从 0 开始。从 SPLIT_PART 改写时要把下标减 1。
取最后一段时，StarRocks 和 Spark 可以直接传 -1。MaxCompute 要求下标大于 0，不能这样写。

SUBSTRING_INDEX 按分隔符截取

Hologres 和 Flink 没有这个函数。只取某一段可以改用 Hologres 的 SPLIT_PART 或 Flink 的 SPLIT_INDEX；要取“前两段”这种跨分隔符的结果，需要拼接或用正则改写。
从 URL 中取域名这类场景常写成 substring_index(substring_index(url, '/', 3), '/', -1)，嵌套写法在 Hologres 和 Flink 中要整体改写。

TO_CHAR 日期转字符串

MaxCompute 的 'yyyy-mm-dd' 原样搬到 Hive、Spark 或 Flink，mm 会被当成分钟，结果类似 2026-30-14，而且不会报错。Java 风格要写 'yyyy-MM-dd'。

可以直接用的函数

下面 16 个函数在两个引擎中写法相同。参数、返回值和边界情况仍可能不同，点开函数页查看细节。