nginx的FastDFS分布式存儲模塊測試方法

2024-09-01 13:45:43

字體：大中小

來源：轉載

供稿：網友

再回過頭來看FastDFS更新很快，還看到fastdfs-nginx-module_v1.01.tar.gz nginx模塊，所以今天在一臺測試機上測試了·測試幾天看穩定不穩定，在考慮換掉浪費資源的 lustre !

環境：

storage1：192.168.6.100storage2：192.168.6.101tracker：192.168.6.102

1. 在每個機器上，下載安裝 FastDFS

nginx $> wget # 解壓nginx $> tar zxvf FastDFS_v2.04.tar.gznginx $> cd FastDFS# 因為我是給nginx添加fastdfs模塊，所以不需要fastdfs支持 http 所以我就不需要去掉 #WITH_HTTPD=1 前的注釋了，直接編譯nginx $> ./make.shnginx $> ./make.sh install

2.修改tracker 和 storage 的配置文件
# tracker 的修改

tracker $> vim /etc/fdfs/tracker.confdisabled=false#配置是否生效bind_addr=192.168.6.102#綁定IPport=22122#服務端口connect_timeout=30#連接超時時間network_timeout=60# tracker server的網絡超時，單位為秒。base_path=/home/yangzi#目錄地址，里面會創建data(存放存儲服務器信息)、logs，日志文件max_connections=256#系統提供服務最大連接數work_threads=4#線程數，通常設置CPU數store_lookup=2上傳組(卷) 的方式 0:輪詢方式 1: 指定組 2: 平衡負載(選擇最大剩余空間的組(卷)上傳)這里如果在應用層指定了上傳到一個固定組,那么這個參數被繞過store_group=group1當上一個參數設定為1 時 (store_lookup=1，即指定組名時)，必須設置本參數為系統中存在的一個組名。如果選擇其他的上傳方式，這個參數就沒有效了store_server=0選擇哪個storage server 進行上傳操作(一個文件被上傳后，這個storage server就相當于這個文件的storage server源，會對同組的storage server推送這個文件達到同步效果)# 0: 輪詢方式# 1: 根據ip 地址進行排序選擇第一個服務器（IP地址最小者）# 2: 根據優先級進行排序（上傳優先級由storage server來設置，參數名為upload_priority）store_path=0選擇storage server 中的哪個目錄進行上傳。storage server可以有多個存放文件的base path（可以理解為多個磁盤）。# 0: 輪流方式，多個目錄依次存放文件# 2: 選擇剩余空間最大的目錄存放文件（注意：剩余磁盤空間是動態的，因此存儲到的目錄或磁盤可能也是變化的）download_server=0 選擇哪個 storage server 作為下載服務器# 0: 輪詢方式，可以下載當前文件的任一storage server# 1: 哪個為源storage server 就用哪一個 (前面說過了這個storage server源是怎樣產生的) 就是之前上傳到哪個storage server服務器就是哪個了reserved_storage_space = 4GBstorage server 上保留的空間,保證系統或其他應用需求空間(指出如果同組的服務器的硬盤大小一樣,以最小的為準,也就是只要同組中有一臺服務器達到這個標準了,這個標準就生效,原因就是因為他們進行備份)log_level=info#選擇日志級別run_by_group=#操作系統運行FastDFS的用戶組run_by_user=#操作系統運行FastDFS的用戶allow_hosts=*#可以連接到此 tracker server 的ip范圍（對所有類型的連接都有影響，包括客戶端，storage server）sync_log_buff_interval = 10# 同步或刷新日志信息到硬盤的時間間隔，單位為秒# 注意：tracker server 的日志不是時時寫硬盤的，而是先寫內存。check_active_interval = 120# 檢測 storage server 存活的時間隔，單位為秒。# storage server定期向tracker server 發心跳，如果tracker server在一個check_active_interval內還沒有收到storage server的一次心跳，那邊將認為該storage server已經下線。所以本參數值必須大于storage server配置的心跳時間間隔。通常配置為storage server心跳時間間隔的2倍或3倍。thread_stack_size = 64KB# 線程棧的大小。FastDFS server端采用了線程方式。更正一下，tracker server線程棧不應小于64KB，不是512KB。# 線程棧越大，一個線程占用的系統資源就越多。如果要啟動更多的線程（V1.x對應的參數為max_connections，V2.0為work_threads），可以適當降低本參數值。storage_ip_changed_auto_adjust = true# 這個參數控制當storage server IP地址改變時，集群是否自動調整。注：只有在storage server進程重啟時才完成自動調整。storage_sync_file_max_delay = 86400# V2.0引入的參數。存儲服務器之間同步文件的最大延遲時間，缺省為1天。根據實際情況進行調整storage_sync_file_max_time = 300# V2.0引入的參數。存儲服務器同步一個文件需要消耗的最大時間，缺省為300s，即5分鐘。http.disabled=true# HTTP服務是否不生效當然編譯的時候我已經把 with_httpd宏去掉了，http.server_port=80# HTTP服務端口# 下列參數只有開啟http服務才有用http.check_alive_interval=30http.check_alive_type=tcphttp.check_alive_uri=/status.htmlhttp.need_find_content_type=true

#兩臺 storage.conf的修改

storage $> vim /etc/fdfs/storage.confdisabled=false#配置是否生效group_name=group1#storage所在組(卷)bind_addr=192.168.6.100# 綁定IP，另一太 storage IP為 192.168.6.101client_bind=true#bind_addr通常是針對server的。當指定bind_addr時，本參數才有效。port=23000# 是storage 服務端口connect_timeout=30# 連接超時時間，針對socket套接字函數connectnetwork_timeout=60# storage server 網絡超時時間，單位為秒。heart_beat_interval=30# 心跳間隔時間，單位為秒stat_report_interval=60# storage server向tracker server報告磁盤剩余空間的時間間隔，單位為秒。base_path=/home/eric# base_path 目錄地址,根目錄必須存在子目錄會自動生成# 會產生data（數據存儲地方）、 logs日志文件max_connections=256# 最大連接數buff_size = 256KB# 設置隊列結點的buffer大小。work_threads=4# 工作線程數disk_rw_separated = true# 磁盤IO讀寫是否分離，缺省是分離的。disk_reader_threads = 1# 針對單個存儲路徑的讀線程數，缺省值為1disk_writer_threads = 1# 針對單個存儲路徑的寫線程數，缺省值為1sync_wait_msec=200# 同步文件時，如果從binlog中沒有讀到要同步的文件，休眠N毫秒后重新讀取，0表示不休眠，立即再次嘗試讀取。sync_interval=0# 同步上一個文件后，再同步下一個文件的時間間隔，單位為毫秒，0表示不休眠，直接同步下一個文件。sync_start_time=00:00sync_end_time=23:59# 允許系統同步的時間段 (默認是全天) 。一般用于避免高峰同步產生一些問題而設定，相信sa都會明白。write_mark_file_freq=500# 把storage的mark文件定期同步到磁盤的時間間隔，單位為秒store_path_count=1# 存放文件時storage server支持多個路徑（例如磁盤）。這里配置存放文件的基路徑數目，通常只配一個目錄。store_path0=/home/eric# 逐一配置store_path個路徑，索引號基于0。注意配置方法后面有0,1,2 ......，需要配置0到store_path - 1。# 如果不配置base_path0，那邊它就和base_path對應的路徑一樣。subdir_count_per_path=32# FastDFS存儲文件時，采用了兩級目錄。這里配置存放文件的目錄個數tracker_server=192.168.6.188:22122# tracker_server 的列表要寫端口的哦log_level=info# 日志級別run_by_group=# 運行storage 用戶組run_by_user=# 運行storage 用戶allow_hosts=*# 允許連接IP列表file_distribute_path_mode=0# 文件在data目錄下分散存儲策略。# 0: 輪流存放# 1: 隨機存儲file_distribute_rotate_count=100# 當上面的參數file_distribute_path_mode配置為0（輪流存放方式）時，本參數有效。#當一個目錄下的文件存放的文件數達到本參數值時，后續上傳的文件存儲到下一個目錄中fsync_after_written_bytes=0# 當寫入大文件時，每寫入N個字節，調用一次系統函數fsync將內容強行同步到硬盤。0表示從不調用fsyncsync_log_buff_interval=10# 同步或刷新日志信息到硬盤的時間間隔，單位為秒sync_binlog_buff_interval=60# 同步binglog（更新操作日志）到硬盤的時間間隔，單位為秒sync_stat_file_interval=300#　把storage的stat文件同步到磁盤的時間間隔，單位為秒。thread_stack_size=512KB＃　線程棧的大小。FastDFS server端采用了線程方式。＃　線程棧越大，一個線程占用的系統資源就越多。upload_priority=10本storage server作為源服務器，上傳文件的優先級，可以為負數。值越小，優先級越高。這里就和 tracker.conf 中store_server= 2時的配置相對應了if_alias_prefix=check_file_duplicate=0＃　是否檢測上傳文件已經存在。如果已經存在，則不存在文件內容，建立一個符號鏈接以節省磁盤空間。　結合　fastdfh使用的。 1是檢測，0是不檢測，我們不使用fastdfh 當然 0　key_namespace=FastDFS# 當上個參數設定為1 或 yes時 (true/on也是可以的) ，在FastDHT中的命名空間keep_alive=0# 與FastDHT servers 的連接方式 (是否為持久連接)# 下面是http的配置了就不多說了http.disabled=truehttp.domain_name=http.server_port=80http.trunk_size=256KBhttp.need_find_content_type=true

3.建立tracker 和 storage 的根目錄

# trackertracker $> mkdir -p /home/eric# storagestorage $> mkdir -p /home/yangzi

4.在一臺storage上下載，比如我在 192.168.6.100上下載 nginx 和 fastdfs-nginx-module 模塊

storage $> wget storage $> svn export fastdfs-nginx-module-read-only

5.編譯安裝 nginx 附帶 fastdfs-nginx-module 模塊

storage $> tar zxvf nginx-0.8.53.tar.gzstorage $> cd nginx-0.8.53storage $> ./configure --prefix=/usr/local/nginx --add-module=/root/fastdfs-nginx-module-read-only/srcstorage $> makestorage $> make install# 拷貝mod_fastdfs.conf 到/etc/fdfs/storage $> cp /root/fastdfs-nginx-module-read-only/src/mod_fastdfs.conf /etc/fdfs/

6.修改 nginx 配置文件增加

storage $> vim /usr/local/nginx/conf/nginx.conf

# 增加一下
location /M00 {
alias /home/eric/data;
ngx_fastdfs_module;
}

7. 給 storage 的存儲目錄做一個軟連接

storage $> ln -s /home/yangzi/data /home/yangzi/data/M00

8. 啟動兩臺 storage 和tracker nginx

# 啟動 trackertracker $> /usr/local/bin/fdfs_trackerd /etc/fdfs/tracker.conf# 啟動 storagestorage $> /usr/local/bin/fdfs_storaged /etc/fdfs/storage.conf# 啟動 storage2storage2 $> /usr/local/bin/fdfs_storaged /etc/fdfs/storage.conf#在 storage啟動 nginxstorage $> /usr/local/nginx/sbin/nginx

9、上傳文件測試。
# 修改客戶端配置文件

storage $> vim /etc/fdfs/client.confconnect_timeout=30network_timeout=60base_path=/home/yangzitracker_server=192.168.6.102:22122log_level=info#下面參數無所謂了反正沒有用到http 服務http.tracker_server_port=80storage $> vim a.htmltest FastDFS!storage $> /usr/local/bin/fdfs_test /etc/fdfs/client.conf upload a.htmlThis is FastDFS client test program v2.04Copyright (C) 2008, Happy Fish / YuQingFastDFS may be copied only under the terms of the GNU GeneralPublic License V3, which may be found in the FastDFS source kit.Please visit the FastDFS Home Page for more detail.base_path=/home/yangzi, connect_timeout=30, network_timeout=60, tracker_server_count=1, anti_steal_token=0, anti_steal_secret_key length=0tracker_query_storage_store_list_without_group:server 1. group_name=group1, ip_addr=192.168.6.100, port=23000group_name=group1, ip_addr=192.168.6.100, port=23000storage_upload_by_filenamegroup_name=group1, remote_filename=M00/00/00/wKgGvEz3Y9MAAAAAAAAADigvbpc73.htmlsource ip address: 192.168.6.100file timestamp=2010-12-02 17:16:03file size=14file crc32=674197143file url: storage_upload_slave_by_filenamegroup_name=group1, remote_filename=M00/00/00/wKgGvEz3Y9MAAAAAAAAADigvbpc73_big.htmlsource ip address: 192.168.6.100file timestamp=2010-12-02 17:16:03file size=14file crc32=674197143file url:

打開IE瀏覽器訪問：

nginx的FastDFS分布式存儲模塊測試方法