第一章 memcached简介
1.1为什么引入memcached
随着数据量的增大,访问的集中,REBMS负担加重,数据库响应恶化。
Memcached是高性能的分布式内存缓存服务器,目的是通过缓存数据库查询结果,减少数据库的访问次数,以提高动态web应用的速度,提高扩展性。
1.2memcached作为高速运行的分布式缓存服务器具有的特点
具有以下特点:
(1)协议简单:基于文本的协议,最终使用二进制协议代替文本协议,提高memcached的性能,减少文本协议漏洞。从1.3版本开始支持二进制协议。
(2)基于libevent的事件处理:所以能在linux、BSD、Solaris等操作系统上发挥其高性能。
(3)内置内存存储方式:memcached保存的数据都存储在memcached内置的内存存储空间中,重启memcached或重启系统,都会导致数据全部消失。几户不占用CPU。
(4)memcached不互通信的分布式:memcached尽管是分布式缓存服务器,但是服务器端并没有分布式功能。各个memcached不会互相通信以共享信息。他的分布式主要是通过客户端来实现。
第二章 memcached内存管理
2.1 Slab Allocator内存管理
Memcached采用Slab Allocator来进行内存管理。
Slab Allocator基本原理:按照预先规定的大小,将分配的内存分割成特定长度的块。已完全解决内存碎片问题。
Slab Allocator缺点:由于分配的是特定长度的内存,因此无法有效利用分配的内存。例如将100字节的数据缓存到128字节的chunk中,剩余的28字节就浪费了。可以通过growth factor选项,调节slab class大小的差别。
2.2 memcached中的数据删除
删除数据时并不会真正从memcached中消失,memcached也不会释放已分配的内存。记录超时后,客户端无法查看该记录(透明的),其存储空间即可重复利用。
Memcached采用的是lazy expiration,内部不会监视记录是否过期,而是get时查看记录的时间戳,检查记录是否过期。
缓存容量满时的删除机制,需要考虑多种机制。一方面是按队列机制,一方面应该对应缓存对象本省的优先级,根据缓存对象的优先级进行对象的删除。
第三章 memcached分布式
3.1memcached分布式
Memcached虽然称为分布式缓存服务器,但是服务器端并没有分布式功能。Memcached的分布式完全由客户端实现。
例如:下面假设memcached服务器有node1~node3三台,应用程序要保存键名为“tokyo”“kanagawa”“chiba”“saitama”“gunma” 的数据。
首先向memcached中添加“tokyo”。将“tokyo”传给客户端程序库后,客户端实现的算法就会根据“键”来决定保存数据的memcached服务器。服务器选定后,即命令它保存“tokyo”及其值。同样,“kanagawa”“chiba”“saitama”“gunma”都是先选择服务器再保存。
接下来获取保存的数据。获取时也要将要获取的键“tokyo”传递给函数库。函数库通过与数据保存时相同的算法,根据“键”选择服务器。使用的算法相同,就能选中与保存时相同的服务器,然后发送get命令。只要数据没有因为某些原因被删除,就能获得保存的值。
这样,将不同的键保存到不同的服务器上,就实现了memcached的分布式。 memcached服务器增多后,键就会分散,即使一台memcached服务器发生故障无法连接,也不会影响其他的缓存,系统依然能继续运行。
第四章 缓存多副本
4.1缓存失效情况
(1)缓存超时被移除
(2)缓存由于存储空间限制被移除
(3)由于缓存节点变化而导致的缓存失效
4.2缓存多副本作用
缓存多副本主要是用于在缓存数据时存放缓存的多个副本,以防止缓存失效,同时,缓存多个副本可以作分布式并行读。
第五章 缓存的一致性问题
5.1缓存的一致性问题
对于读的情况下,如果存在数据变化,一种是同时更新缓存和数据库,另一种是直接对缓存进行失效处理。
缓存数据尽量只读,缓存本省不适合大量写和更新操作的数据场景。
第六章 memcached与spring整合
Memcached在项目中使用有两种方式,一种是使用工具类进行操作,另外一种是通过配置application.xml文件来进行操作。不论哪种方式,都需要先安装memcached.exe,启动服务后才可以在项目中进行操作。
6.1memcached.exe安装
(1)安装memcached.exe,解压后放在c盘的memcached文件下。
(2)cmd下,安装memcached
c:/memcached/memcached.exe –d install
(3)cmd下,启动memcached服务
c:/memcached/memcached.exe –d start
6.2使用工具类进行操作
(1)引入java_memcached-release_2.0.1.jar
(2)编写memcached工具类
package com.cmcc.core.Util; import java.util.Date; import com.danga.MemCached.MemCachedClient; import com.danga.MemCached.SockIOPool; public class MemcachedUtil { protected static MemCachedClient mcc = new MemCachedClient(); protected static MemcachedUtil memCached = new MemcachedUtil(); static { String[] servers = { "127.0.0.1:11211" }; Integer[] weights = { 3 }; //获取连接池的实例 SockIOPool pool = SockIOPool.getInstance(); //设置连接服务器和权重 pool.setServers(servers); pool.setWeights(weights); pool.setInitConn(5);//设置初始连接数 pool.setMinConn(5);//设置最小连接数 pool.setMaxConn(250);//设置最大连接数 pool.setMaxIdle(1000 * 60 * 60 * 6);//设置最大处理时间 pool.setMaintSleep(30);//设置连接池守护线程的睡眠时间 //设置TCP参数,连接超时 pool.setNagle(false); pool.setSocketTO(3000); pool.setSocketConnectTO(0); //初始化并启动线程池 pool.initialize(); //压缩设置,超过指定大小的都压缩 mcc.setCompressEnable(true); mcc.setCompressThreshold(64 * 1024); } /** * 构造函数 * */ protected MemcachedUtil() { } /** * 获取memcached实例 * * @return */ public static MemcachedUtil getInstance() { return memCached; } /** * 退出 */ public static void shutDown() { memCached.shutDown(); } /** * 添加 * * @param key * @param value * @return */ public boolean add(String key, Object value) { return mcc.add(key, value); } public boolean add(String key, Object value, Date expiry) { return mcc.add(key, value, expiry); } public boolean replace(String key, Object value) { return mcc.replace(key, value); } public boolean replace(String key, Object value, Date expiry) { return mcc.replace(key, value, expiry); } /** * 根据键取值 * * @param key * @return */ public Object get(String key) { return mcc.get(key); } public static void main(String[] args) { MemcachedUtil cache = MemcachedUtil.getInstance(); cache.add(" hello ", 234); System.out.print(" get value : " + cache.get(" hello ")); } }
(3)如果需要缓存自定义对象,则该类必须实现Serializable接口。
6.3 spring配置文件中进行配置
(1)引入java_memcached-release_2.0.1.jar
(2)编写memcache.properties文件
memcache.server=127.0.0.1:11211 memcache.weights=1 memcache.initConn=1 memcache.minConn=1 memcache.maxConn=50 memcache.maintSleep=3000 memcache.nagle=false memcache.socketTO=3000
(3)修改spring配置文件
<!-- 数据库配置文件读取 --> <bean class="org.springframework.beans.factory.config.PropertyPlaceholderConfigurer"> <property name="order" value="1"/> <property name="ignoreUnresolvablePlaceholders" value="true"/> <property name="locations"> <list> <value>classpath:com/cmcc/core/Config/database.properties</value> <value>classpath:com/cmcc/core/Log/memcache.properties</value> </list> </property> </bean>
<!-- memecached配置 --> <bean id="memcachedPool" class="com.danga.MemCached.SockIOPool" factory-method="getInstance" init-method="initialize" destroy-method="shutDown"> <constructor-arg><value>memCachedPool</value></constructor-arg> <property name="servers"><list><value>${memcache.server}</value></list></property> <property name="weights"><list><value>${memcache.weights}</value></list></property> <property name="initConn"><value>${memcache.initConn}</value></property> <property name="minConn"><value>${memcache.minConn}</value></property> <property name="maxConn"><value>${memcache.maxConn}</value></property> <property name="maintSleep"><value>${memcache.maintSleep}</value></property> <property name="nagle"><value>${memcache.nagle}</value></property> <property name="socketTO"><value>${memcache.socketTO}</value></property> </bean> <bean id="memCacheClient" class="com.danga.MemCached.MemCachedClient"> <constructor-arg><value>memCachedPool</value></constructor-arg> </bean>
(4)在业务逻辑中可以直接自动注入使用memCacheClient操作。