Skip to content
ClickHouse Docs
ClickHouse DocsClickHouse Docs

mysql

允许对存储在远程 MySQL 服务器中的数据执行 SELECTINSERT 查询。

语法

mysql({host:port, database, table, user, password[, replace_query, on_duplicate_clause] | named_collection[, option=value [,..]]})

参数

参数 描述
host:port MySQL 服务器地址。
database 远程数据库名称。
table 远程表名,或原样传递给 MySQL 的查询 (请参见传递查询而不是表名) 。
user MySQL 用户。
password 用户密码。
replace_query 用于将 INSERT INTO 查询转换为 REPLACE INTO 的标志。可能的值:
- 0 - 以 INSERT INTO 执行该查询。
- 1 - 以 REPLACE INTO 执行该查询。
on_duplicate_clause 添加到 INSERT 查询中的 ON DUPLICATE KEY on_duplicate_clause 表达式。只能在 replace_query = 0 时指定 (如果同时传入 replace_query = 1on_duplicate_clause,ClickHouse 会抛出异常) 。
示例:INSERT INTO t (c1,c2) VALUES ('a', 2) ON DUPLICATE KEY UPDATE c2 = c2 + 1;
此处的 on_duplicate_clauseUPDATE c2 = c2 + 1。请参阅 MySQL 文档,了解 ON DUPLICATE KEY 子句支持哪些 on_duplicate_clause

参数也可以通过命名集合传递。在这种情况下,需要分别指定 hostport。这种方式推荐在生产环境中使用。

目前,诸如 =, !=, >, >=, <, <= 这样的简单 WHERE 子句会在 MySQL 服务器上执行。

其余条件以及 LIMIT 采样约束,只会在对 MySQL 的查询完成后由 ClickHouse 执行。

TLS/SSL

与 MySQL 建立加密连接所需的凭据以命名集合键 (或键值参数) 的形式传递:

参数 描述
ssl_ca_pem 用于验证 MySQL 服务器证书的 CA 证书内容。
ssl_cert_pem 用于基于证书的身份验证的客户端证书内容。
ssl_key_pem ssl_cert_pem 对应的私钥内容。

这些值为相应 PEM 文件的内容,可复制到命名集合或查询中。与密码一样,它们会在日志和 SHOW 查询中被屏蔽。

也可通过 ssl_cassl_certssl_key 将相同凭据指定为服务器上的文件路径,但仅限在服务器配置文件中定义的命名集合中使用,且此类值无法在查询中覆盖。服务器以自身的特权打开这些文件;因此,如果允许通过 SQL 提供路径,任何能够定义 MySQL source 的用户都可以探测本地文件系统,并使用其无权自行读取的证书和密钥进行身份验证。

传递查询而非表名

第三个参数除了表名外,也可以是一个原样传递给 MySQL 的 SELECT 查询。返回表的结构会根据查询结果自动推断。该查询既可以写成子查询,也可以封装在 query 函数中:

SELECT * FROM mysql('localhost:3306', 'test', (SELECT a, b FROM t1 JOIN t2 USING (id) WHERE a > 0), 'user', 'password');
SELECT * FROM mysql('localhost:3306', 'test', query('SELECT a, b FROM t1 JOIN t2 USING (id) WHERE a > 0'), 'user', 'password');

这对于将 joins、聚合或其他任何处理下推到 MySQL 很有用。此类表为只读:不允许对其执行 INSERTMySQL 表引擎也支持相同的语法。

支持多个副本,必须使用 | 分隔列出。例如:

SELECT name FROM mysql(`mysql{1|2|3}:3306`, 'mysql_database', 'mysql_table', 'user', 'password');

SELECT name FROM mysql(`mysql1:3306|mysql2:3306|mysql3:3306`, 'mysql_database', 'mysql_table', 'user', 'password');

返回值

一个表对象,其列与原始 MySQL 表的列相同。

示例

MySQL 中的表:

mysql> CREATE TABLE `test`.`test` (
    ->   `int_id` INT NOT NULL AUTO_INCREMENT,
    ->   `float` FLOAT NOT NULL,
    ->   PRIMARY KEY (`int_id`));

mysql> INSERT INTO test (`int_id`, `float`) VALUES (1,2);

mysql> SELECT * FROM test;
+--------+-------+
| int_id | float |
+--------+-------+
|      1 |     2 |
+--------+-------+

从 ClickHouse 查询数据:

SELECT * FROM mysql('localhost:3306', 'test', 'test', 'bayonet', '123');

或者使用命名集合

CREATE NAMED COLLECTION creds AS
        host = 'localhost',
        port = 3306,
        database = 'test',
        user = 'bayonet',
        password = '123';
SELECT * FROM mysql(creds, table='test');
┌─int_id─┬─float─┐
│      1 │     2 │
└────────┴───────┘

enable_compression

为 MySQL 协议连接启用压缩。

默认值:false

此设置适用于:

  • mysql 表函数;
  • MySQL 表引擎;
  • MySQL 数据库引擎;
  • 用于 MySQL 集成的命名集合。

启用后,ClickHouse 会为该连接请求压缩。

示例:

SELECT *
FROM mysql(
    'mysql80:3306',
    'clickhouse',
    'test_table',
    'root',
    'password',
    SETTINGS enable_compression = 1
);

替换与插入:

INSERT INTO FUNCTION mysql('localhost:3306', 'test', 'test', 'bayonet', '123', 1) (int_id, float) VALUES (1, 3);
INSERT INTO TABLE FUNCTION mysql('localhost:3306', 'test', 'test', 'bayonet', '123', 0, 'UPDATE int_id = int_id + 1') (int_id, float) VALUES (1, 4);
SELECT * FROM mysql('localhost:3306', 'test', 'test', 'bayonet', '123');
┌─int_id─┬─float─┐
│      1 │     3 │
│      2 │     4 │
└────────┴───────┘

将 MySQL 表中的数据复制到 ClickHouse 表中:

CREATE TABLE mysql_copy
(
   `id` UInt64,
   `datetime` DateTime('UTC'),
   `description` String,
)
ENGINE = MergeTree
ORDER BY (id,datetime);

INSERT INTO mysql_copy
SELECT * FROM mysql('host:port', 'database', 'table', 'user', 'password');

或者,如果只想根据当前的最大 ID 从 MySQL 复制一个增量批次:

INSERT INTO mysql_copy
SELECT * FROM mysql('host:port', 'database', 'table', 'user', 'password')
WHERE id > (SELECT max(id) FROM mysql_copy);
Navigation