scmongo

MongoDB extensions for Scrapy

Github星跟蹤圖

=======
scmongo

This project contains some extensions for using MongoDB with the Scrapy
web crawling framework.

Requirements

  • Scrapy 0.14 or above
  • pymongo 2.4 or above

Install

Download and run: python setup.py install

Available extensions

Mongo Cache Storage

Module: scmongo.httpcache

A MongoDB backend for HTTP cache storage. It stores responses using GridFS.

To use it, set the following Scrapy setting in your project::

HTTPCACHE_STORAGE = 'scmongo.httpcache.MongoCacheStorage'

主要指標

概覽
名稱與所有者scrapinghub/scmongo
主編程語言Python
編程語言Python (語言數: 1)
平台
許可證
所有者活动
創建於2011-04-13 23:33:57
推送於2014-10-03 03:47:02
最后一次提交2014-10-03 03:47:01
發布數0
用户参与
星數44
關注者數3
派生數17
提交數24
已啟用問題?
問題數0
打開的問題數0
拉請求數3
打開的拉請求數1
關閉的拉請求數0
项目设置
已啟用Wiki?
已存檔?
是復刻?
已鎖定?
是鏡像?
是私有?