聚合国内IT技术精华文章,分享IT技术精华,帮助IT从业人士成长

使用JDBC编程访问ODPS

2015-11-11 15:15 浏览: 1972701 次 我要评论(0 条) 字号:

ODPS 提供了自己的 Java SDK 作为编程接口。但是对于大多数来自传统关系数据库的用户来说,为了完成一些简单任务再学习一套 SDK,性价比颇低。odps-jdbc 可以较好的解决这个问题。通过 odps-jdbc 可以轻松完成类似执行 select 语句,并获得结果集这样的任务。
创建任意 Java 项目,从 maven 添加 odps-jdbc 作为依赖(位于 maven 主仓-http://search.maven.org/#artifactdetails%7Ccom.aliyun.odps%7Codps-jdbc%7C1.0-public%7Cjar):

<dependency>
<groupId>com.aliyun.odps</groupId>
<artifactId>odps-jdbc</artifactId>
<version>1.0-public</version>
</dependency>

参考如下示例代码,包含了删表、建表、获取表 meta、执行 insert、执行 select 以及遍历结果集等常见操作:

import java.sql.Connection;
import java.sql.DatabaseMetaData;
import java.sql.DriverManager;
import java.sql.ResultSet;
import java.sql.SQLException;
import java.sql.Statement;
import java.util.Properties;

public class Main {

private static String driverName = “com.aliyun.odps.jdbc.OdpsDriver”;

public static void main(String[] args) throws SQLException {
try {
Class.forName(driverName);
} catch (ClassNotFoundException e) {
e.printStackTrace();
System.exit(1);
}

Properties config = new Properties();
config.put(“access_id”, “your_access_id”);
config.put(“access_key”, “your_access_key”);
config.put(“project_name”, “your_project”);
config.put(“charset”, “utf-8″);
Connection
conn = DriverManager.getConnection(“jdbc:odps:https://service.odps.aliyun.com/api”, config);
ResultSet rs;

// create a table
Statement stmt = conn.createStatement();
String tableName = “jdbc_test”;
stmt.execute(“drop table if exists ” + tableName);
stmt.execute(“create table ” + tableName + ” (key int, value string)”);

// get meta data
DatabaseMetaData metaData = conn.getMetaData();
System.out.println(“product = ” + metaData.getDatabaseProductName());
System.out.println(“jdbc version = ” + metaData.getDriverMajorVersion() + “, ”
+ metaData.getDriverMinorVersion());
rs = metaData.getTables(null, null, tableName, null);
while (rs.next()) {
String name = rs.getString(3);
System.out.println(“inspecting table: ” + name);
ResultSet rs2 = metaData.getColumns(null, null, name, null);
while (rs2.next()) {
System.out.println(rs2.getString(“COLUMN_NAME”) + “t”
+ rs2.getString(“TYPE_NAME”) + “(” + rs2.getInt(“DATA_TYPE”) + “)”);
}
}

// run sql
String sql;

// insert a record
sql = String.format(“insert into table %s select 24 key, ‘hours’ value from (select count(1) from %s) a”, tableName, tableName);
System.out.println(“Running: ” + sql);
int count = stmt.executeUpdate(sql);
System.out.println(“updated records: ” + count);

// select * query
sql = “select * from ” + tableName;
System.out.println(“Running: ” + sql);
rs = stmt.executeQuery(sql);
while (rs.next()) {
System.out.println(String.valueOf(rs.getInt(1)) + “t” + rs.getString(2));
}

}

}

运行可以获得类似如下结果:

product = ODPS JDBC
jdbc version = 1, 0
inspecting table: jdbc_test
key BIGINT(-5)
value   STRING(12)
Running: insert into table jdbc_test select 24 key, ‘hours’ value from (select count(1) from jdbc_test) a
updated records: 1
Running: select * from jdbc_test
24  hours

这里列一下使用 odps-jdbc 可能要注意的事项:

  • 目前 odps-jdbc 的实现,类似 select 这样的查询会在 odps 中生成临时表,表名为 jdbc_temp_tbl_$UUID。这些临时表会在 Statement.close 和 Connection.close 的时候被删除。如果忘记了调用 close,这些表会遗留在 ODPS 中,默认生命周期是 3 天。
  • odps-jdbc 虽然可以完成 insert into 动作,但并不适合如传统关系数据库那样密集执行每次 insert 一条记录的场景。每次 insert into 会启动一个 instance,执行时间可能需要数秒。
  • 并不是所有 odpscmd 命令都被 Statement 支持。Statement 只接受 sql 语句,例如 set、grant 等都不是 sql。
  • 不支持 select null。目前 odps 无法支持 create table … as select …, null, …,因此在 Statement 中写带有 null 的 select 会出错。

我们的目的是使 ODPS 更加开放、灵活和易用。目前 odps-jdbc 已经完成集团的开源流程,托管在 github-https://github.com/aliyun/aliyun-odps-jdbc 上。欢迎各位开源热心人士积极反馈,贡献代码。



网友评论已有0条评论, 我也要评论

发表评论

*

* (保密)

Ctrl+Enter 快捷回复