Doris 迁移到 Flink SQL 的函数改写清单

从 Doris 迁移到 Flink SQL 时，在 Doris 有对应写法的 44 个常用函数中，25 个需要改写（其中 1 个在 Flink SQL 没有对应函数）。逐个列出两边写法和注意事项。

需要改写的函数 · 迁移注意事项 · 可以直接用的函数 · 反向：Flink SQL 迁移到 Doris

需要改写的函数

函数	Doris 写法	Flink SQL 写法	Flink SQL 说明
ADD_MONTHS	`MONTHS_ADD(date, nums)`	需改写 `TIMESTAMPADD(MONTH, n, timepoint)`	内置函数中没有 ADD_MONTHS，用 TIMESTAMPADD 的 MONTH 单位。
ANY_VALUE	`ANY_VALUE(expr)`	需改写 `FIRST_VALUE(expression)`	内置函数中没有 ANY_VALUE，可以用聚合函数 FIRST_VALUE 代替。
APPROX_COUNT_DISTINCT	`APPROX_COUNT_DISTINCT(expr)`	需改写 `COUNT(DISTINCT expr)`	内置函数文档中没有近似去重函数，只能用精确的 COUNT(DISTINCT)。
COLLECT_LIST	`COLLECT_LIST(expr[, max_size])`	需改写 `ARRAY_AGG(expression)`	没有输入行时返回 NULL，可以用 RESPECT NULLS 或 IGNORE NULLS 控制是否保留 NULL。
COLLECT_SET	`COLLECT_SET(expr[, max_size])`	需改写 `ARRAY_AGG(DISTINCT expression)`	也可以用 COLLECT(DISTINCT expression)，返回的是 MULTISET 而不是数组。
DATE_ADD	`DATE_ADD(date, INTERVAL n DAY)`	需改写 `TIMESTAMPADD(DAY, n, timepoint)`	内置函数中没有 DATE_ADD，改用 TIMESTAMPADD。
DATE_SUB	`DATE_SUB(date, INTERVAL n DAY)`	需改写 `TIMESTAMPADD(DAY, -n, timepoint)`	内置函数中没有 DATE_SUB，用 TIMESTAMPADD 传负数。
DATEDIFF	`DATEDIFF(expr1, expr2)`	需改写 `TIMESTAMPDIFF(DAY, timepoint1, timepoint2)`	内置函数中没有 DATEDIFF。TIMESTAMPDIFF 返回 timepoint1 与 timepoint2 之间带符号的单位数，先写单位，再写开始时间和结束时间。
DATETRUNC	`DATE_TRUNC(datetime, 'month')`	需改写 `FLOOR(timepoint TO MONTH)`	内置函数中没有 DATE_TRUNC，用 FLOOR ... TO 向下取整到指定单位。
EXPLODE	`LATERAL VIEW EXPLODE(arr) t AS x`	需改写 `CROSS JOIN UNNEST(arr) AS t(x)`	内置函数中没有 EXPLODE，数组展开写在 JOIN 中：CROSS JOIN UNNEST，也支持 LEFT JOIN。需要元素位置时加 WITH ORDINALITY，位置从 1 开始，目前只支持 CROSS JOIN。也可以展开 map 和 multiset。
FROM_JSON	`JSON_PARSE(json_str)`	需改写 `JSON_VALUE(json, path) / JSON_QUERY(json, path)`	没有 FROM_JSON。JSON_VALUE 取标量值，JSON_QUERY 取对象或数组，返回 JSON 字符串。
GET_JSON_OBJECT	`GET_JSON_STRING(json_str, json_path)`	需改写 `JSON_VALUE(json, path)`	提取 JSON 中的标量值，可以用 RETURNING 子句指定返回类型。
LAST_DAY	`LAST_DAY(date)`	需改写 `TIMESTAMPADD(DAY, -1, TIMESTAMPADD(MONTH, 1, FLOOR(ts TO MONTH)))`	内置函数中没有 LAST_DAY。先用 FLOOR 取当月第一天，加一个月再减一天。
MAX_BY	`MAX_BY(expr1, expr2)`	需改写 `ROW_NUMBER() OVER (PARTITION BY ... ORDER BY y DESC) = 1`	内置函数中没有 MAX_BY 或 ARG_MAX，用 ROW_NUMBER 窗口函数改写。
MONTHS_BETWEEN	`MONTHS_BETWEEN(end, start[, round_type])`	需改写 `TIMESTAMPDIFF(MONTH, start, end)`	没有 MONTHS_BETWEEN。TIMESTAMPDIFF 返回 timepoint2 减 timepoint1 的整数，参数顺序与 MONTHS_BETWEEN 相反。
NVL	`NVL(expr1, expr2)`	需改写 `IFNULL(input, null_replacement)`	没有 NVL，可以用 IFNULL 或 COALESCE。
PERCENTILE_APPROX	`PERCENTILE_APPROX(col, p[, compression])`	需改写 `PERCENTILE(expr, percentage[, frequency])`	PERCENTILE 是精确分位数，按线性插值计算。2.0 起的文档中有这个函数，1.20 的文档中没有，使用前请按所用版本确认。文档提示在普通分组聚合中开销较大，建议用在窗口场景。
SIZE	`ARRAY_SIZE(arr) / MAP_SIZE(m)`	别名 `CARDINALITY(array_or_map)`	数组返回元素个数，Map 返回键值对个数。
SPLIT	`SPLIT_BY_STRING(str, separator)`	支持 `SPLIT(string, delimiter)`	字符串或分隔符为 NULL 时返回 NULL。只取第 n 段可以用 SPLIT_INDEX。
SPLIT_PART	`SPLIT_PART(str, separator, part_index)`	需改写 `SPLIT_INDEX(str, delimiter, n - 1)`	下标从 0 开始。下标为负数或任一参数为 NULL 时返回 NULL。
SUBSTR	`SUBSTRING(str, pos[, len])`	支持 `SUBSTR(string, integer1[, integer2])`	也可以写 SUBSTRING。省略长度时截取到末尾。
SUBSTRING_INDEX	`SUBSTRING_INDEX(content, delimiter, field)`	不支持	内置函数中没有 SUBSTRING_INDEX。只取某一段时可以用 SPLIT_INDEX，下标从 0 开始。
TO_DATE	`str_to_date(str, format)`	支持 `TO_DATE(string1[, string2])`	默认格式为 'yyyy-MM-dd'。
WEEKOFYEAR	`WEEKOFYEAR(date)`	别名 `WEEK(date)`	返回 1～53，等价于 EXTRACT(WEEK FROM date)。
WM_CONCAT	`GROUP_CONCAT([DISTINCT] str[, sep] [ORDER BY ...])`	需改写 `LISTAGG(expression[, separator])`	分隔符写在后面。

迁移注意事项

以下内容摘自各函数页中提到 Doris 或 Flink SQL 的注意事项。

ADD_MONTHS 按月加减

月末日期：StarRocks、Doris 和 Spark 在目标月份没有对应日期时取当月最后一天。StarRocks 文档特别说明，2022-02-28 加 1 个月得到 3 月 28 日而不是 3 月 31 日，这和 Oracle 的行为不同。
Hologres 和 Flink 的月末行为文档没有写明，迁移涉及月末日期时建议用已知数据核对。

ANY_VALUE 取组内任意值

NULL 的处理不同：MaxCompute 和 Doris 会优先返回非 NULL 值，Spark 默认可能返回 NULL，需要传 true 才会跳过 NULL。

APPROX_COUNT_DISTINCT 近似去重计数

改写成 Hive 或 Flink 的 COUNT(DISTINCT) 后结果是精确值，但资源消耗会明显变大，大数据量下要评估内存和运行时间。

COLLECT_LIST 聚合为数组

StarRocks 的 ARRAY_AGG 保留 NULL，MaxCompute 和 Doris 的 COLLECT_LIST 丢弃 NULL，数组长度可能不一致。

COLLECT_SET 去重聚合为数组

NULL 的处理不同：MaxCompute、Doris 会丢弃 NULL，StarRocks 的 ARRAY_AGG 会保留 NULL。迁移到 StarRocks 后数组里可能多出 NULL 元素。
Doris 的 max_size 截断时保留哪些元素，文档没有说明，不要依赖它取“前 N 个”。

DATE_SUB 日期减天数

StarRocks 和 Doris 的 DATE_SUB 文档只列出 INTERVAL 写法。把 Hive 的 date_sub(d, 1) 搬到 StarRocks 时，改成 DATE_SUB(d, INTERVAL 1 DAY) 或 days_sub(d, 1)。

DATEDIFF 日期差

MaxCompute、StarRocks、Doris、Hive 和 Spark 都是结束日期在前。Flink 的 TIMESTAMPDIFF 先写单位，再写开始时间和结束时间。Flink 文档没有写明正负号的方向，按标准 SQL 的约定结果为 timepoint2 减 timepoint1，迁移后建议用一条已知数据核对符号。

DATETRUNC 日期截断

参数顺序不同：MaxCompute 是日期在前，Hologres、StarRocks 和 Spark 是单位在前，Doris 两种都接受。
周的起点：MaxCompute 的 week 默认从周一开始，Doris 和 Spark 文档的示例也截断到周一。按周汇总前确认业务定义的周起点。

EXPLODE 数组展开为多行

空数组和 NULL 数组的行会被直接丢掉：MaxCompute、Doris 的 EXPLODE 和 StarRocks 的 UNNEST 都是这样。需要保留时，Doris 和 Spark 用 EXPLODE_OUTER，StarRocks 3.2.7 起用 LEFT JOIN UNNEST(...) ON TRUE。
需要元素位置时，Hive 和 Spark 的 posexplode 位置从 0 开始，Flink 的 WITH ORDINALITY 从 1 开始，迁移时要调整下标。

FROM_JSON 按 schema 解析 JSON

StarRocks 的 parse_json 和 Doris 的 JSON_PARSE 返回的是 JSON 类型，下游需要 STRUCT 或 MAP 时要再做一次转换，不能直接替换 from_json。
非法 JSON 的处理不同：StarRocks 的 parse_json 返回 NULL，Doris 的 JSON_PARSE 直接报错。脏数据较多的表，在 Doris 中改用 JSON_PARSE_ERROR_TO_NULL。

GET_JSON_OBJECT 提取 JSON 字段

StarRocks 和 Doris 返回字符串，取出的数字需要再做 CAST。Doris 中值无法无损转换为字符串时返回 NULL。

LAST_DAY 当月最后一天

返回类型不同：MaxCompute（不传 date_part）和 Hive 返回字符串，StarRocks 和 Doris 返回 DATE。结果用于关联 DATE 字段时要先转换。

MONTHS_BETWEEN 相差月数

Flink 的 TIMESTAMPDIFF(MONTH, t1, t2) 计算的是 t2 减 t1，开始时间在前；MONTHS_BETWEEN 是结束时间在前。照搬参数顺序会得到相反的符号。
StarRocks 的 months_diff、Flink 的 TIMESTAMPDIFF 和 Hologres 的 EXTRACT 写法都只返回整数月，原 SQL 中依赖小数部分的计算（例如按 0.5 个月判断）需要重新设计。
时间部分的处理不同：Doris 只看日期，Hive 会把时间部分算进小数，Spark 在同一天或都是月末时忽略时间。同样的输入可能得到不同的小数。
舍入不同：Hive 和 Spark 默认保留 8 位小数，MaxCompute 返回完整的 DOUBLE，Doris 由 round_type 控制。和原结果做等值比较前，先统一 ROUND。

NVL 空值替换

迁移到 Hologres、StarRocks 或 Flink SQL 时，统一改写为 COALESCE 最省事，因为 COALESCE 在七个引擎中都可用。
Flink 的 IFNULL 在第一个参数来自 JSON_VALUE 时可能返回错误结果，问题编号 FLINK-35832。受影响版本包括 1.15～1.20 和 2.0.0，问题已在 2024 年 7 月标记为修复，但没有写明修复版本，使用前请确认所用版本是否包含修复。

PERCENTILE_APPROX 近似分位数

第三个参数含义不同：MaxCompute 和 Hive 的 B、Spark 的 accuracy 都默认 10000；StarRocks 和 Doris 的 compression 只接受 2048～10000。从 Spark 迁移时，如果写了大于 10000 的 accuracy，要调整到这个范围内。
各引擎的算法不同，结果不会完全一致。MaxCompute 文档写明 p 落在两个值中间时取两者均值，Spark 返回满足条件的最小值，Flink 的 PERCENTILE 用线性插值。P50、P99 这类指标迁移后要实测对比。
Flink 的 PERCENTILE 是精确计算，每条记录都可能触发全量排序。文档建议用在窗口聚合中，流式分组聚合中慎用。

SIZE 数组和 Map 元素个数

StarRocks 和 Doris 区分数组和 Map 函数。从 MaxCompute 或 Hive 迁移时，要按字段类型分别改成 array_length、map_size 或 ARRAY_SIZE、MAP_SIZE。
StarRocks 和 Doris 文档写明 NULL 元素也计入个数。需要只统计非空元素时，要先过滤再计数。

SPLIT 字符串拆分

只需要取某一段时，Hologres 的 SPLIT_PART 和 Flink 的 SPLIT_INDEX 更直接。注意 SPLIT_PART 的序号从 1 开始，SPLIT_INDEX 为负数时返回 NULL。

SPLIT_PART 按分隔符取第 N 段

下标越界时结果不同：MaxCompute、StarRocks 和 Spark 返回空字符串，Hologres 和 Doris 返回 NULL。下游用 IS NULL 或 = '' 判断时，迁移后结果可能变化。
Hive 的数组下标和 Flink 的 SPLIT_INDEX 都从 0 开始。从 SPLIT_PART 改写时要把下标减 1。

SUBSTR 截取子串

起始位置写 0 是常见错误。MaxCompute 默认、StarRocks 和 Doris 都返回空字符串，不会报错，结果却全是空值，很难发现。MaxCompute 开启 Hive 兼容模式后又会按 1 处理，同一条 SQL 在不同模式下结果不同。

SUBSTRING_INDEX 按分隔符截取

count 为 0 时结果不同：StarRocks 返回 NULL，Doris 返回空字符串，其他引擎文档没有说明。
Hologres 和 Flink 没有这个函数。只取某一段可以改用 Hologres 的 SPLIT_PART 或 Flink 的 SPLIT_INDEX；要取“前两段”这种跨分隔符的结果，需要拼接或用正则改写。
从 URL 中取域名这类场景常写成 substring_index(substring_index(url, '/', 3), '/', -1)，嵌套写法在 Hologres 和 Flink 中要整体改写。

TO_DATE 字符串转日期

同名不同义：把 MaxCompute 的 TO_DATE('20261013', 'yyyymmdd') 直接搬到 StarRocks、Doris 或 Hive 会报错或得到错误结果，需要改用 str_to_date 或 unix_timestamp。
MaxCompute 的格式符里 mm 是月、mi 是分钟；Spark 和 Flink 里 MM 是月、mm 是分钟。

WM_CONCAT 分组拼接字符串

分隔符的位置相反：WM_CONCAT 写在第一个参数，STRING_AGG、GROUP_CONCAT（Doris）和 LISTAGG 写在最后。直接替换函数名会把分隔符当成要拼接的值。
不写排序时，各引擎拼接的顺序都不固定。需要稳定结果时，MaxCompute 写 WITHIN GROUP (ORDER BY ...)，StarRocks 和 Doris 在 GROUP_CONCAT 内写 ORDER BY。

可以直接用的函数

下面 19 个函数在两个引擎中写法相同。参数、返回值和边界情况仍可能不同，点开函数页查看细节。