【问题描述】

最近有一台MySQL5.6.21的服务器,在应用发布后,并发线程Threads_running迅速升高,达到2000左右,大量线程处于等待Opening tables、closing tables状态,应用端相关逻辑访问超时。

【分析过程】

1、16:10应用发布结束后,Opened_tables不断增加,如下图所示

查看当时故障期间抓取的pt-stalk日志文件,时间点2019-01-18 16:29:37,Open_tables 的值为3430,而table_open_cache的配置值为2000。

当Open_tables值大于table_open_cache值时,每次新的session打开表,有一些无法命中table cache,而不得不重新打开表。这样反应出来的现象就是有大量的线程处于opening tables状态。

2、这个实例下的表,加上系统数据库下总计851张,远小于table_open_cache的2000,为什么会导致Open_tables达到3430呢

从官方文档中可以得到解释,

table_open_cache isrelated to max_connections.For example, for 200 concurrent running connections, specify a table cache sizeof at least 200 * N,where N isthe maximum number of tables per join in any of the queries which you execute.

当时并发线程数达到1980,假设这些并发连接中有30%是访问2张表,其他都是单表,那么cache size就会达到(1980*30%*2+1980*70%*1)=2574

3、QPS在发布前后都比较平稳,从外部请求来看并没有突增的连接请求,但在发布后threads_running上升到接近2000的高位,一直持续。猜测是由于某个发布的SQL语句触发了问题。

4、查看当时抓取的processlist信息,有一句SQL并发访问很高,查询了8张物理表,SQL样本如下:

select id,name,email from table1 left join table2

select id,name,email from table3 left join table4

select id,name,email from table5 left join table6

select id,name,email from table7 left join table8

where id in ('aaa')

5、在测试环境中创建相同的8张表,清空表缓存,单个session执行SQL前后对比,Open_tables的值会增加8,如果高并发的情况下,Open_tables的值就会大幅增加

【问题重现】

在测试环境上模拟高并发访问的场景,并发1000个线程同时执行上面的SQL语句,复现了生产环境类似的现象,Open_tables迅速达到3800,大量进程处于Opening tables、closing tables状态。

【优化方案】

1、定位到问题原因后,我们与开发同事沟通,建议优化该SQL,降低单句SQL查询表的数量或大幅降低该SQL的并发访问频率。

不过开发同事还没来的及优化,生产环境上故障又出现了。当时DBA排障时将table_open_cache从2000增加4000,CPU使用率上升,效果并不明显,等待Opening tables的问题依然存在。

2、分析故障期间抓取的pstack信息,用pt-pmp聚合后,看到大量线程在open_table时等待mutex资源

#0 0xf0900e334 in __lll_lock_wait () from /lib64/libpthread.so.0

#1 0xf0900960e in _L_lock_995 () from /lib64/libpthread.so.0

#2 0xf09009576 in pthread_mutex_lock () from /lib64/libpthread.so.0

#3 0x0069ce98 in open_table(THD*,TABLE_LIST*, Open_table_context*) ()

#4 0x0069f2ba in open_tables(THD*, TABLE_LIST**, unsigned int*, unsignedint, Prelocking_strategy*) ()

#5 0x0069f3df in open_normal_and_derived_tables(THD*, TABLE_LIST*,unsigned int) ()

#6 0x006de821 in execute_sqlcom_select(THD*, TABLE_LIST*) ()

#7 0x006e13cf in mysql_execute_command(THD*) ()

#8 0x006e4d8f in mysql_parse(THD*, char*, unsigned int, Parser_state*) ()

#9 0x006e62cb in dispatch_command(enum_server_command, THD*, char*,unsigned int) ()

#100x006b304f in do_handle_one_connection(THD*) ()

#11 0x006b3177in handle_one_connection ()

#120x00afe5ca in pfs_spawn_thread ()

#130xf09007aa1 in start_thread () from /lib64/libpthread.so.0

#140xf088e893d in clone () from /lib64/libc.so.6

这时table_cache_manager中的mutex冲突非常严重。

由于MySQL5.6.21下table_open_cache_instances参数的默认值为1,想到增大table_open_cache_instances参数,增加表缓存分区,应该可以缓解争用。

3、在测试环境上,我们调整两个参数table_open_cache_instances=32,table_open_cache=6000,同样并发1000个线程执行问题SQL,这次

等待Opening tables、closing tables的线程消失了,MySQL的QPS也从12000上升到55000。

对比相同情况下,只调整table_open_cache=6000,等待Opening tables的进程数从861下降到203,问题有所缓解,有600多个进程已经从等待Opening tables变为运行状态,QPS上升到40000左右,但不能根治。

【源码分析】

查了下代码有关table_open_cache的相关逻辑:

1、Table_cache::add_used_table函数如下,当新的连接打开的表在tablecache中不存在时,打开表加入到used tables list。

bool Table_cache::add_used_table(THD*thd, TABLE *table)

Table_cache_element *el;

assert_owner();

DBUG_ASSERT(table->in_use== thd);

Try toget Table_cache_element representing this table in the cache

fromarray in the TABLE_SHARE.

el= table->s->cache_element[table_cache_manager.cache_index(this)];

If TABLE_SHARE doesn't have pointer to the element representing table

in this cache, the element for the table must be absent from table the

Allocate new Table_cache_element object and add it to the cache

and array in TABLE_SHARE.

DBUG_ASSERT(! my_hash_search(&m_cache,

(uchar*)table->s->table_cache_key.str,

table->s->table_cache_key.length));

if(!(el= new Table_cache_element(table->s)))

return true;

if(my_hash_insert(&m_cache, (uchar*)el))

return true;

table->s->cache_element[table_cache_manager.cache_index(this)]=el;

/* Add table to the usedtables list */

el->used_tables.push_front(table);

m_table_count++;

free_unused_tables_if_necessary(thd);

return false;

2、每次add_used_table会调用Table_cache::free_unused_tables_if_necessary函数,当满足m_table_count > table_cache_size_per_instance&&m_unused_tables时,

执行remove_table,清除m_unused_tables列表中多余的cache。

其中table_cache_size_per_instance= table_cache_size /table_cache_instances

MySQL5.6的默认配置是2000/1=2000,当m_table_count值大于2000并且m_unused_tables非空时就执行remove_table,将m_unused_tables中的table cache清空。这样m_table_count就是Open_tables的值正常会维持在2000上下。

void Table_cache::free_unused_tables_if_necessary(THD*thd)

Wehave too many TABLE instances around let us try to get rid of them.

Notethat we might need to free more than one TABLE object, and thus

needthe below loop, in case when table_cache_size is changed dynamically,

atserver run time.

if(m_table_count > table_cache_size_per_instance &&m_unused_tables)

mysql_mutex_lock(&LOCK_open);

while(m_table_count >table_cache_size_per_instance &&

m_unused_tables)

TABLE *table_to_free= m_unused_tables;

remove_table(table_to_free);

intern_close_table(table_to_free);

thd->status_var.table_open_cache_overflows++;

mysql_mutex_unlock(&LOCK_open);

3、增大table_cache_instances为32,当Open_tables超过(2000/32=62)时,就会满足条件,加速上述逻辑中m_unused_tables的清理,使得table cache中数量进一步减少,会导致Table_open_cache_overflows升高。

4、当table_open_cache_instances从1增大到32时,1个LOCK_open锁分散到32个m_lock的mutex上,大大降低了锁的争用。

/** Acquire lock on table cache instance. */  voidlock(){mysql_mutex_lock(&m_lock);}  /** Release lock on table cache instance. */  voidunlock(){mysql_mutex_unlock(&m_lock);}

【解决问题】

我们生产环境同时采取下面优化措施,问题得以解决

1、读写分离,增加read节点,分散master库的压力;

2、调整table_open_cache_instances=16;

3、调整table_open_cache=6000;

【总结】

当出现Opening tables等待问题时,

1、建议找出打开表频繁的SQL语句,优化该SQL,降低单句SQL查询表的数量或大幅降低该SQL的并发访问频率。

2、设置合适的table cache,同时增大table_open_cache_instances和 table_open_cache参数的值。