自己實現memcached客戶端庫

作者: Kevin Lynx  來源: C++博客  發布時間: 2008-10-04 00:21  閱讀: 10126 次  推薦: 1   原文鏈接   [收藏]  

What's memcached ?

memcached是一個以key-value的形式緩存數據的緩存系統。通過將數據緩存到內存中,從而提高數據的獲取速度。
memcached以key-value的形式來保存數據,你可以為你每一段數據關聯一個key,然后以后可以通過這個key獲取
這段數據。

memcached是一個庫還是什么?memcached其實是一個單獨的網絡服務器程序。它的網絡底層基于libevent,你可以
將其運行在網絡中的一臺服務器上,通過網絡,在遵循memcached的協議的基礎上與memcached服務器進行通信。

What do we want to wrap ?

我們需要做什么?我們只需要遵循memcached的協議(參見該文檔),封裝網絡層的通信,讓上層可以通過調用諸如
add/get之類的接口即可實現往memcached服務器緩存數據,以及取數據。上層程序員根本不知道這些數據在網絡
上存在過。

這個東西,也就是memcached官方所謂的client apis。你可以使用現成的客戶端庫,但是你也可以將這種重造輪子
的工作當作一次網絡編程的練習。it's up to you.:D

Where to start ?

很遺憾,對于windows用戶而言,memcached官方沒有給出一個可以執行或者可以直接F7即可得到可執行文件的下載
(如果你是vc用戶)。幸運的是,已經有人做了這個轉換工作。

你可以從http://jehiah.cz/projects/memcached-win32/這里下載到memcached的windows版本,包括可執行程序和
源代碼。

我們直接可以運行memcached.exe來安裝/開啟memcached服務器,具體步驟在以上頁面有所提及:

安裝:memcached.exe -d install,這會在windows服務里添加一個memcached服務
運行:memcached.exe -d start,你也可以通過windows的服務管理運行。

   
然后,你可以在任務管理器里看到一個'memcached'的進程,很占內存,因為這是memcached。

So, here we go ...

通過以上步驟運行的memcached,默認在11211端口監聽(是個TCP連接,可以通過netstat查看)。接下來,我們就可
以connect到該端口上,然后send/recv數據了。發送/接收數據只要遵循memcached的協議格式,一切都很簡單。

使用最簡單的阻塞socket連接memcached服務器:

       SOCKET s = socket( AF_INET, SOCK_STREAM, 0 );
        struct sockaddr_in addr;
        memset( &addr, 0, sizeof( addr ) );
        addr.sin_family = AF_INET;
        addr.sin_port = htons( 11211 );
        addr.sin_addr.s_addr = inet_addr( "127.0.0.1" ); 

        ret = connect( s, (struct sockaddr*) &addr, sizeof( addr ) );
        if( ret == 0 )
        {
            printf( "connect ok\n" );
        } 

       
About the protocol

簡單地提一下memcached的協議。

可以說,memcached的協議是基于行的協議,因為無論是客戶端請求還是服務器端應答,都是以"\r\n"作為結束符。
memcached的協議將數據(send/recv操作的數據)分為兩種類型:命令和用戶數據。

命令用于服務器和客戶端進行交互;而用戶數據,很顯然,就是用戶想要緩存的數據。

關于用戶數據,你只需要將其編碼成字節流(說白了,只要send函數允許即可),并附帶數據結束標志"\r\n"發送即可。

關于命令,memcached分為如下幾種命令:存儲數據、刪除數據、取出數據、其他一些獲取信息的命令。其實你換個角度
想想,memcached主要就是將數據存儲到內存里,所以命令也多不了哪去,基本就停留在add/get/del上。

關于key,memcached用key來標識數據,每一個key都是一個不超過255個字符的字符串。

到這里,你可以發現memcached對于數據的存儲方式(暴露給上層)多少有點像std::map,如果你愿意,你可以將客戶端
API封裝成map形式。= =#

具體實現

接下來可以看看具體的實現了。

首先看看存儲數據命令,存儲數據命令有:add/set/replace/append/prepend/cas。存儲命令的格式為:
<command name> <key> <flags> <exptime> <bytes> [noreply]\r\n
具體字段的含義參看protocol.txt文件,這里我對set舉例,如下代碼,阻塞發送即可:

        char cmd[256] ;
        char data[] = "test data";
        sprintf( cmd, "set TestKey 0 0 %d\r\n", strlen( data ) );
        ret = send( s, cmd, strlen( cmd ), 0 ); 


注意:noreply選項對于有些memcached版本并不被支持,例如我們使用的1.2.2版本。注意官方的changelog即可。

當你發送了存儲命令后,memcached會等待客戶端發送數據塊。所以我們繼續發送數據塊:

 

        ret = send( s, data, strlen( data ), 0 );
        ret = send( s, "\r\n", 2, 0 ); // 數據結束符

 

然后,正常的話,memcached服務器會返回應答信息給客戶端。

 

        char reply[256];
        ret = recv( s, reply, sizeof( reply ) - 1, 0 );
        reply[ret] = 0;
        printf( "server reply : %s\n", reply ); 

 

如果存儲成功,服務器會返回STORED字符串。memcached所有應答信息都是以字符串的形式給出的。所以可以直接printf出來。

關于其他的操作,我就不在這里列舉例子了。我提供了我封裝的memcached客戶端庫的完整代碼下載,使用的是阻塞socket,
對應著memcached的協議看,很容易看懂的。

It's a story about a programmer...

最近發覺自己有點極端,要么寫純C的代碼,要么寫滿是template的泛型代碼。

相關代碼下載

1
0
 
 
 

文章列表

創作者介紹
創作者 IT工程師數位筆記本 的頭像
大師兄

IT工程師數位筆記本

大師兄 發表在 痞客邦 留言(0) 人氣( 0 )