facebookde 的 NoSQL数据库cassandra的配置与调用(java&&c#)

上次说了安装的问题，可以参考《VirtualBox 虚拟机 Debian系统上安装Cassandra步骤及遇到的问题》。当然，在windows下也可以使用，但是要设置JAVA_HOME参数，然后启动目录bin里的cassandra.bat。编辑cassandra.bat看到

if NOT DEFINED CASSANDRA_HOME set CASSANDRA_HOME=%CD%

改成

if NOT DEFINED CASSANDRA_HOME set CASSANDRA_HOME=F:\apache-cassandra-0.5.1

“F:\apache-cassandra-0.5.1”是我的安装目录。

 

一、cassandra的单节点服务器配置

先说下cassandra的配置，还是讲Linux下的。需要配置的文件一共有三个，当然，也可以使用默认配置。

这个三个文件分别是：

bin/cassandra.in.sh

conf/log4j.properties

conf/storage-conf.xml

其中，log4j.properties是日志的配置，其它两个是配置的运行环境。

 

cassandra.in.sh文件一般不需要调整，当然，加入你没有使用alternatives调整java的默认环境，而你又需要使用jre6.0,这种情况下，可以设置cassandra.in.sh中

#JAVA_HOME=/usr/local/jdk6

为

JAVA_HOME=/usr/local/jre6   #这里是你的jre解压缩的路径

 

log4j.properties的配置网上讲的很多，就不说了。

 

storage-conf.xml的配置是最重要的。

第一个是Keyspaces，这个默认只设置了Keyspace1，可以增加另外的Keyspaces。客户端调用需要使用这个名字。

Keyspace节点中的KeysCachedFraction设置的键索引的内存大小。说明上也写了，假如键的数量较少，长度较长，可以增加这个值。而设置为0，则是禁用。

接下来是设置ColumnFamily，这里配置的名称，在客户端调用时候也要是有。另外还指定了列的类型。

ReplicationFactor设置了副本的数目，这个是在分布式部署中有用，保持数据的冗余，以至于某几台服务坏掉，能保证数据完整。

CommitLogDirectory以及接下来的几行都是设置目录的，这个就不说了。

Seeds也是和分部署主从服务器部署方式有关的，本文不准备讲这个。

ThriftAddress是比较重要的，这个是设置客户端访问的，而ThriftPort是设置访问的端口。接下来的部分是和性能有关的，这些说明可以仔细阅读。贫道对下面的设置也理解不深入，就不献丑了。

 

二、如何编程访问cassandra

从http://incubator.apache.org/cassandra/找了好久，找到了http://github.com/rantav/hector  （java）。这个是一个访问cassandra的包装。很遗憾的是，我使用这个包装访问时候，读取一个Key的值需要7～8秒！！！晕倒。我开始以为是虚拟机的原因，结果部署到其他两台linux服务器上还是一样。当然这些机器和我的机器都不在同一个网段，我不知道这点是不是会对性能有很大的影响。后来，我放到自己机器上，以及把写好的程序当道目标机器上，读取速度变成了20MS每条。性能相差也太大了。一个是速度慢得和蚂蚁一样，而第二次则是坐上乌龟了。

其它语言的访问包装可以在http://wiki.apache.org/cassandra/ClientExamples 这里找到。当然，没有C#的。

 

三、用C#和Java访问cassandra

cassandra用到了另外一个好用的东西：thrift。这个东东可以在http://www.thrift-rpc.org/下载。

具体在http://www.thrift-rpc.org/?p=thrift.git;a=shortlog;h=refs/misc/instant，一般点第一个snapshot就行了，这是最新的。版本几个小时更新一个，太牛叉了。

 

下载完后，搞到Linux上，解压。进入目录后进行安装。

#chmod +x *  //设置执行权限

#./bootstrap.sh

#./configure

#make

#make install

安装好了，接下来，开始生成操作。

 

切换到cassandra的interface目录。

然后，使用/home/xieping/thrift/ompiler/cpp/thrift -gen csharp cassandra.thrift 命令生成。运行该命令后，在interface目录增加了gen-csharp目录。把它搞到你的机器，然后，切换到/home/xieping/thrift/lib/csharp目录。把src目录搞下来。打开Thrift.csproj文件，右键Thrift项目，设置编译符号为NET_2_0。新建个C#项目，把gen-csharp目录下的东西添加进去，然后，引用Thrift项目，就可以写以下代码调用：

 

using System;
using Thrift.Transport;
using Thrift.Protocol;
using Apache.Cassandra;

namespace TestCa {
    class Program {
        static void Main(string[] args) {
            TTransport transport = new TSocket("192.168.93.30", 9160);
            TProtocol protocol = new TBinaryProtocol(transport);
            Cassandra.Client client = new Cassandra.Client(protocol);

            transport.Open();

            System.Text.Encoding utf8Encoding = System.Text.Encoding.UTF8;

            long timeStamp = DateTime.Now.Millisecond;
            ColumnPath nameColumnPath = new ColumnPath() {
                Column_family = "Standard1",
                Column = utf8Encoding.GetBytes("name")
            };

            client.insert("Keyspace1",
                          "1",
                          nameColumnPath,
                          utf8Encoding.GetBytes("测试输入1"),
                          timeStamp,
                          ConsistencyLevel.ONE);

            client.insert("Keyspace1",
                          "2",
                          nameColumnPath,
                          utf8Encoding.GetBytes("测试输入2"),
                          timeStamp,
                          ConsistencyLevel.ONE);

            ColumnOrSuperColumn returnedColumn = client.get("Keyspace1", "1", nameColumnPath, ConsistencyLevel.ONE);
            Console.WriteLine("Keyspace1/Standard1 列值: 键: {0}, 值: {1}",
                              utf8Encoding.GetString(returnedColumn.Column.Name),
                              utf8Encoding.GetString(returnedColumn.Column.Value));
            transport.Close();

            Console.ReadKey();
        }

    }
}

 

 

 

而Java的就变成

/home/xieping/thrift/ompiler/cpp/thrift -gen java cassandra.thrift

 

java相应的代码

 

import static me.prettyprint.cassandra.utils.StringUtils.bytes;

import java.io.UnsupportedEncodingException;
import org.apache.cassandra.service.Cassandra;
import org.apache.cassandra.service.ColumnOrSuperColumn;
import org.apache.cassandra.service.ColumnPath;
import org.apache.cassandra.service.ConsistencyLevel;
import org.apache.cassandra.service.InvalidRequestException;
import org.apache.cassandra.service.NotFoundException;
import org.apache.cassandra.service.TimedOutException;
import org.apache.cassandra.service.UnavailableException;
import org.apache.thrift.TException;
import org.apache.thrift.protocol.TBinaryProtocol;
import org.apache.thrift.protocol.TProtocol;
import org.apache.thrift.transport.*;


public class Program {
    public class s{
        
    }
    
    /**
     * @param args
     * @throws Exception 
     */
    public static void main(String[] args) throws Exception {
        Long startTime = System.currentTimeMillis(); 
        for(int i = 0;i < 10000;i++){
            run();
        }

        Long endTime = System.currentTimeMillis(); 
        System.out.println("程序运行到此处计算机当前毫秒数 " + startTime);
        System.out.println("程序共计运行 "+ (endTime-startTime)+" 毫秒"); 
    }
    
    static void run() throws InvalidRequestException, UnavailableException, TimedOutException, TException, NotFoundException, UnsupportedEncodingException{
        TTransport transport = new TSocket("192.168.93.30",9160);
        TProtocol protocol = new TBinaryProtocol(transport);
        Cassandra.Client client = new Cassandra.Client(protocol);

        transport.open();
        Long timeStamp = System.currentTimeMillis(); 
        
        ColumnPath nameColumnPath = new ColumnPath("Standard1",null,bytes("name"));


        client.insert("Keyspace1",
                      "1",
                      nameColumnPath,
                      bytes("测试数据1"),
                      timeStamp,
                      ConsistencyLevel.ONE);

        client.insert("Keyspace1",
                      "2",
                      nameColumnPath,
                      bytes("测试数据2"),
                      timeStamp,
                      ConsistencyLevel.ONE);


        ColumnOrSuperColumn returnedColumn = client.get("Keyspace1", "1", nameColumnPath, ConsistencyLevel.ONE);
        
        System.out.println(String.format("key:%s;value:%s", 
                new String(returnedColumn.column.name),
                new String(returnedColumn.column.value,"utf-8")));

        transport.close();
    }
    
}