Spark1.3使用外部数据源时条件过滤只要是字符串类型的值均报错

CREATE TEMPORARY TABLE spark_tbls
USING org.apache.spark.sql.jdbc
OPTIONS (
url    'jdbc:mysql://hadoop000:3306/hive?user=root&password=root',
dbtable     'TBLS'
);
select TBL_ID, TBL_NAME from spark_tbls limit 5;
TBL_ID  TBL_NAME
126     aaa
96      abc
select TBL_ID, TBL_NAME from spark_tbls where TBL_ID=126;
TBL_ID  TBL_NAME
126     aaa
select TBL_ID, TBL_NAME from spark_tbls where TBL_NAME='aaa';

报错:

com.mysql.jdbc.exceptions.jdbc4.MySQLSyntaxErrorException: Unknown column 'aaa' in 'where clause'

测试发现:只要是字符串类型的过滤条件均报错。

详见最新master分支的[Spark-6408]

在测试sparksql操作phoenix时,由于where条件中有字符串类型的值,就一直报错一直报错,后来用MySQL测试了下,发现也是类似的问题,跟踪了源代码发现是Filter出了问题。

原文地址:https://www.cnblogs.com/luogankun/p/4360729.html