SQL 方言通

首页 / 工具 / 迁移清单 / Hive → Doris

Hive 迁移到 Doris 的函数改写清单

从 Hive 迁移到 Doris 时,在 Hive 有对应写法的 44 个常用函数中,14 个需要改写,另有 4 个可以改用 Doris 的原生函数。逐个列出两边写法和注意事项。

需要改写的函数 · 可以改用原生函数 · 迁移注意事项 · 可以直接用的函数 · 反向:Doris 迁移到 Hive

需要改写的函数

函数Hive 写法Doris 写法Doris 说明
ADD_MONTHSadd_months(start_date, num_months[, output_date_format])需改写 MONTHS_ADD(date, nums)文档没有列出 ADD_MONTHS 别名。返回类型与输入相同,2020-01-31 加 1 个月得到 2020-02-29。
DATEADDdate_add(startdate, days) / add_months(startdate, n)需改写 TIMESTAMPADD(unit, n, datetime_expr)单位常用 SECOND、MINUTE、HOUR、DAY、WEEK、MONTH、YEAR。参数无效时返回 NULL。也可以写 DATE_ADD(dt, INTERVAL n unit)。
DATETRUNCtrunc(date, 'MM')需改写 DATE_TRUNC(datetime, 'month')文档列出两种参数顺序,示例都是日期在前。
FROM_JSONjson_tuple(jsonStr, k1, k2, ...)需改写 JSON_PARSE(json_str)没有 FROM_JSON。JSON_PARSE 遇到非法 JSON 会报错;希望返回 NULL 时用 JSON_PARSE_ERROR_TO_NULL。取字段用 JSON_EXTRACT 系列函数。
GET_JSON_OBJECTget_json_object(json_string, path)需改写 GET_JSON_STRING(json_str, json_path)路径以 $ 开头,不能包含双引号和方括号字符,含点号的键要用双引号括起来。官方建议改用 jsonb 类型和 jsonb_extract 系列函数。
GETDATEcurrent_timestamp别名 NOW([precision])别名是 current_timestamp(),返回 DATETIME。precision 取 0~6,默认 0,超出范围时报错。
LENGTHlength(string A)需改写 CHAR_LENGTH(str)LENGTH 返回 UTF-8 编码下的字节数,别名 OCTET_LENGTH。按字符计数要用 CHAR_LENGTH,别名 CHARACTER_LENGTH。
SIZEsize(array_or_map)别名 ARRAY_SIZE(arr) / MAP_SIZE(m)数组用 ARRAY_SIZE,NULL 元素也计入,输入为 NULL 时返回 NULL。Map 用 MAP_SIZE,NULL 键和值都计入。
SORT_ARRAYsort_array(Array<T>)需改写 ARRAY_SORT(arr)升序排列,NULL 放在开头;降序用 ARRAY_REVERSE_SORT。也可以传 Lambda 表达式自定义排序。
SPLITsplit(str, pat)需改写 SPLIT_BY_STRING(str, separator)返回字符串数组,任一参数为 NULL 时返回 NULL。分隔符为空字符串时按字节拆分。
SPLIT_PARTsplit(str, pat)[n - 1]支持 SPLIT_PART(str, separator, part_index)下标从 1 开始。part_index 为 0 或越界时返回 NULL,任一参数为 NULL 时也返回 NULL。
SUBSTRsubstr(str, start[, len])支持 SUBSTRING(str, pos[, len])别名 SUBSTR。从 1 开始计数,负数从末尾倒数,pos 为 0 或超出长度时返回空字符串,任一参数为 NULL 时返回 NULL。
TO_DATEto_date(from_unixtime(unix_timestamp(str, pattern)))需改写 str_to_date(str, format)Doris 的 TO_DATE 只接受 DATETIME 并取日期部分。按格式解析用 STR_TO_DATE,返回 DATETIME,也接受 yyyyMMdd 等三种格式。
WM_CONCATconcat_ws(',', collect_list(col))需改写 GROUP_CONCAT([DISTINCT] str[, sep] [ORDER BY ...])分隔符是第二个参数,默认是逗号加空格。DISTINCT 与 ORDER BY 同时使用从 2.1.6 起支持。

可以改用原生函数

下面的函数在 Hive 中只能用替代写法,Doris 有对应的函数。原来的写法通常仍能运行,换成原生函数会更简洁。

函数Hive 写法Doris 写法Doris 说明
ANY_VALUEmax(col)支持 ANY_VALUE(expr)别名 ANY。组内有非 NULL 值时返回其中一个,全部为 NULL 时返回 NULL。
APPROX_COUNT_DISTINCTCOUNT(DISTINCT col)支持 APPROX_COUNT_DISTINCT(expr)别名是 NDV。基于 HyperLogLog,只统计非 NULL 值,返回 BIGINT。
DAYOFWEEKextract(dayofweek FROM ts)支持 DAYOFWEEK(date)别名 DOW。周日为 1,周六为 7,与 MySQL 的 dayofweek 一致。
MAX_BYROW_NUMBER() OVER (PARTITION BY ... ORDER BY y DESC) = 1支持 MAX_BY(expr1, expr2)返回 expr2 最大时对应的 expr1。文档没有说明 NULL 和并列的处理。

迁移注意事项

以下内容摘自各函数页中提到 Hive 或 Doris 的注意事项。

ADD_MONTHS 按月加减

DATETRUNC 日期截断

FROM_JSON 按 schema 解析 JSON

GET_JSON_OBJECT 提取 JSON 字段

GETDATE 获取当前时间

LENGTH 字符串长度

SIZE 数组和 Map 元素个数

SORT_ARRAY 数组排序

SPLIT 字符串拆分

SPLIT_PART 按分隔符取第 N 段

SUBSTR 截取子串

TO_DATE 字符串转日期

WM_CONCAT 分组拼接字符串

ANY_VALUE 取组内任意值

APPROX_COUNT_DISTINCT 近似去重计数

DAYOFWEEK 星期几

可以直接用的函数

下面 26 个函数在两个引擎中写法相同。参数、返回值和边界情况仍可能不同,点开函数页查看细节。

相关页面:Hive 函数写法 · Doris 函数写法 · 全部迁移清单 · 用 SQL 迁移检查器检查自己的 SQL