您的位置:首页 > 其它

Hive UDF函数

2015-09-22 11:17 423 查看
hive的0.7版本没有row_number函数,在http://www.cnblogs.com/ggjucheng/archive/2013/01/30/2868993.html 上找了一段

RowNumber.java

package com.blue.hive.udf;
import org.apache.hadoop.hive.ql.exec.UDF;
public class RowNumber extends UDF {
    private static int MAX_VALUE = 50;
    private static String comparedColumn[] = new String[MAX_VALUE];
    private static int rowNum = 1;
    public int evaluate(Object... args) {
        String columnValue[] = new String[args.length];
        for (int i = 0; i < args.length; i++) 『
            columnValue[i] = args[i].toString();
        }
        if (rowNum == 1) {
            for (int i = 0; i < columnValue.length; i++)
                comparedColumn[i] = columnValue[i];
        }
        for (int i = 0; i < columnValue.length; i++) {
            if (!comparedColumn[i].equals(columnValue[i])) {
                for (int j = 0; j < columnValue.length; j++) {
                    comparedColumn[j] = columnValue[j];
                }
                rowNum = 1;
                return rowNum++;
            }
        }
        return rowNum++;
    }
}


编译成可用的UDF函数的步骤如下

将RowNumber编译成RowNumber.class文件:javac -classpath $HIVE_HOME/lib/hive-exec-0.7.1.2.jar RowNumber.java

将RowNumber.class文件打包成jar文件:jar -cvf com.jar com

使用UDF函数

在hive shell下执行如下命令

add jar com.jar所在的路径/com.jar

create temporary function row_number as ‘com.blue.hive.udf.RowNumber’

就可以在hive中使用row_number了
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: