KNN流式预测 (KnnPredictStreamOp)

Java 类名:com.alibaba.alink.operator.stream.classification.KnnPredictStreamOp

Python 类名:KnnPredictStreamOp

功能介绍

KNN流式预测组件,读取模型和数据,数据流经过KNN计算逻辑输出预测结果。

KNN (K Nearest Neighbor)是一种分类算法。
KNN算法的核心思想是如果一个样本在特征空间中的k个最相邻的样本中的大多数属于某一个类别;
则该样本也属于这个类别,并具有这个类别上样本的特性。

相比于Huge版KNN,此KNN的优势在于训练数据(即KNN中的字典表)较小时,速度较快。
此外,KNN的训练与一般机器学习模型的训练过程不同:在KNN训练中我们只进行一些字典表的预处理,而在预测过程中才会进行计算预测每个数据点的类别。
因此,KNN的训练和预测通常同时使用,一般不单独使用。

参数说明

名称 中文名称 描述 类型 是否必须? 取值范围 默认值
predictionCol 预测结果列名 预测结果列名 String
k topK topK Integer 10
modelFilePath 模型的文件路径 模型的文件路径 String null
predictionDetailCol 预测详细信息列名 预测详细信息列名 String
reservedCols 算法保留列名 算法保留列 String[] null
vectorCol 向量列名 向量列对应的列名,默认值是null String null
numThreads 组件多线程线程个数 组件多线程线程个数 Integer 1
modelStreamFilePath 模型流的文件路径 模型流的文件路径 String null
modelStreamScanInterval 扫描模型路径的时间间隔 描模型路径的时间间隔,单位秒 Integer 10
modelStreamStartTime 模型流的起始时间 模型流的起始时间。默认从当前时刻开始读。使用yyyy-mm-dd hh:mm:ss.fffffffff格式,详见Timestamp.valueOf(String s) String null

代码示例

Python 代码

from pyalink.alink import *

import pandas as pd

useLocalEnv(1)

df = pd.DataFrame([
    [1, 0, 0],
    [2, 8, 8],
    [1, 1, 2],
    [2, 9, 10],
    [1, 3, 1],
    [2, 10, 7]
])

dataSourceOp = BatchOperator.fromDataframe(df, schemaStr="label int, f0 int, f1 int")
streamData = StreamOperator.fromDataframe(df, schemaStr="label int, f0 int, f1 int")

knnModel = KnnTrainBatchOp().setFeatureCols(["f0", "f1"]).setLabelCol("label").setDistanceType("EUCLIDEAN").linkFrom(dataSourceOp)
predictor = KnnPredictStreamOp(knnModel).setPredictionCol("pred").setK(4)
predictor.linkFrom(streamData).print()
StreamOperator.execute()

Java 代码

import org.apache.flink.types.Row;

import com.alibaba.alink.operator.batch.BatchOperator;
import com.alibaba.alink.operator.batch.classification.KnnPredictBatchOp;
import com.alibaba.alink.operator.batch.classification.KnnTrainBatchOp;
import com.alibaba.alink.operator.batch.source.MemSourceBatchOp;
import com.alibaba.alink.operator.stream.StreamOperator;
import com.alibaba.alink.operator.stream.classification.KnnPredictStreamOp;
import com.alibaba.alink.operator.stream.source.MemSourceStreamOp;
import org.junit.Test;

import java.util.Arrays;
import java.util.List;

public class KnnPredictBatchOpTest {
	@Test
	public void testKnnPredictStreamOp() throws Exception {
		List <Row> df = Arrays.asList(
			Row.of(1, 0, 0),
			Row.of(2, 8, 8),
			Row.of(1, 1, 2),
			Row.of(2, 9, 10),
			Row.of(1, 3, 1),
			Row.of(2, 10, 7)
		);
		BatchOperator <?> dataSourceOp = new MemSourceBatchOp(df, "label int, f0 int, f1 int");
		StreamOperator <?> streamData = new MemSourceStreamOp(df, "label int, f0 int, f1 int");
		
		BatchOperator <?> trainOp = new KnnTrainBatchOp().setFeatureCols("f0", "f1").setLabelCol("label")
			.setDistanceType("EUCLIDEAN").linkFrom(dataSourceOp);
		StreamOperator <?> predictOp = new KnnPredictStreamOp(trainOp).setPredictionCol("pred").setK(4).linkFrom(streamData);
		predictOp.print();
		StreamOperator.execute();
	}
}

运行结果

label f0 f1 pred
1 0 0 1
2 8 8 2
1 1 2 1
2 9 10 2
1 3 1 1
2 10 7 2