百度网盘资源搜索引擎系统-BaiduyunSpider 爬虫+网站PHP源码【免费分享】

百度网盘资源搜索引擎系统-BaiduyunSpider 爬虫+网站PHP源码【免费分享】

aiduyunSpider,是基于轻量级的PHP框架Codeigniter+Python开发的一套百度百度云盘搜索引擎爬虫程序。包含百度云网盘爬虫、网站前后端、搜索,整套服务。

可以采集小说,电影,音乐,种子,或者各大类教程资源,还是挺不错的。

_r1_c2.jpg_r1_c1.jpg

网站: PHP Codeigniter

爬虫:Python

搜索引擎:Xunsearch

数据库:MySql

主要功能介绍:

分布式爬虫

爬虫IP代理

Web 控制面板

死链检测

重构爬虫 => 采用Node.js

使用 elasticsearch 搜索引擎

安装部署教程

## 运行环境

开始之前你需要安装

* PHP 5.3.7 +

* MySQL

* Python 2.7 ~

* [xunsearch](https://xunsearch.com/) 搜索引擎

## 获取源码

“`

git clone git@github.com:k1995/BaiduyunSpider.git

“`

或手动下载

“`

httpss://github.com/k1995/BaiduyunSpider/archive/master.zip

“`

下载完毕后,___项目的目录结构___大致是这样的

“`

— indexer/  #索引

— spider/   #爬虫

— sql/

— web/  #网站

— application/

— config/ # 配置相关

— config.php

— database.php # 数据库配置

— static/ # 存放静态资源,css|js|font

— system/

— index.php

“`

## 开始部署

### 创建数据库

创建名为`pan`的数据库,编码设为`utf-8`。然后导入`sql`,完成表的创建。

### 网站部署

支持`nginx`,`apache` 服务器。

__apache__ 需要开启 *mod_rewrite* 。

__nginx__  配置如下

“`

location /

{

index index.php;

try_files $uri $uri/ /index.php/$uri;

}

location ~ [^/]\.php(/|$)

{

fastcgi_pass  127.0.0.1:9000;

fastcgi_index index.php;

include fastcgi.conf;

include pathinfo.conf;

}

“`

####  配置文件修改

`config.php` 文件修改网站标题,描述等信息

`database.php` 修改数据库账号,密码等信息

> 网站是基于CodeIgniter 框架开发的,如安装,部署,或二次开发有问题,请参考[官网文档]( https://codeigniter.org.cn/user_guide/general/welcome.html)

### 启动爬虫

进入 `spider/`目录,修改`spider.py` 中数据库信息。

__如果你是第一次部署,需运行下面命令,完成做种__

“`

python spider.py –seed-user

“`

上面其实就是抓取百度云热门分享用户的相关信息,然后从他们开始入手爬取数据

然后运行

“`

python spider.py

“`

此时爬虫已经开始工作了

### 安装xunsearch

目前使用__xunsearch__作为搜索引擎,后面会更换为`elasticsearch`。

安装过程请参考(不需要安装,PHP SDK,我已经整合到web里了)

https://xunsearch.com/doc/php/guide/start.installation

### 索引数据

上面我们完成了爬虫的数据抓取,网站的搭建,但还不能搜索,下面开始最后一步,索引的建立。

进入 `indexer/`目录,在`indexer.php`中将$prefix,替换为你web的根路径

“`

require ‘$prefix/application/helpers/xs/lib/XS.php’;

“`

并修改数据库账号密码

然后运行

“`

python ./index.php

“`

到此为止程序已全部安装完毕

下载权限

查看
  • 免费下载
    评论后下载
    登录后下载

  • {{attr.name}}:
您当前的等级为
您有每天免费下载所有资源次的特权,今日剩余 已取得下载权限

为TA充电
人已赞赏
下载系统

2018最新SEO自动外链平台系统源码,已内置4180个外链目标网址

2021-1-9 19:05:33

网站插件

推荐几个免费好用的临时邮箱

2020-10-18 0:19:36

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索