HOME

Page 2 of 55: 1 2 3 4 5 6 7 8 9 10 11 »

May 03, 2008


install java

$ sudo yum install java → javaが古い

sunからjava-1.6.Xダウンロードして export JAVA_HOME=/usr/java/jdk1.6.0_06 で設定した


$ sudo yum install rsync
$ sudo yum install ant
[hadoop@dev3 ~]$ ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
[hadoop@dev3 ~]$ cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys

http://yoshimov.com/?page=Hadoop%2FWindows%A4%C7%A4%CE%BC%C2%B9%D4


以下のようにexampleを実行
bash bin/hadoop dfs -mkdir input
bash bin/hadoop dfs -put conf/hadoop-default.xml input
bash bin/hadoop jar hadoop-0.16.1-examples.jar wordcount input output
bash bin/hadoop dfs -cat output/*

以下のページから、DFSとMap/Reduceの実行状況が確認できる
http://localhost:50070/
http://localhost:50030/





Posted at 11:00 | WriteBacks ()
viewed times

Apr 29, 2008


ファイルシステム
*容量2GB程度が入る

*全文検索
*レスポンス
*memcached互換


SELECT * FROM logs WHERE created_at >="20080101" AND created_at < "20080201" AND bbs_id = 1231

とかって形で0.001秒以内で帰ってくる


*バックエンドの分散の仕組みはみんな開発してるから、自分で工夫する必要なし。
*オレオレ実装主義は基本的に意味ない(それほどの能力ないんだから黙って有りもの使う)

速度:SQL互換:全文検索:ID:Railsとの親和性:ActiveRecord関連:ソート
*simpleDB → 遅い
*S3 → 遅い

sort by と order_byが出来ればいい

libevent


rubyで実験して気に入ったらlibevent

Posted at 19:07 | WriteBacks ()
viewed times


S3の代替サービス(リンクはrubyバインド)
http://nvx-sds.rubyforge.org/
速度保証

Posted at 18:40 | WriteBacks ()
viewed times


Page 2 of 55: 1 2 3 4 5 6 7 8 9 10 11 »