仅30行代码，实现一个搜索引擎(1.0版)

说到搜索引擎，一般人都会觉得这东西十分“高大上”，对于不了解搜索引擎实现方式的小伙伴而言，确实能够感同身受。国内著名的搜索引擎代表非百度莫属，而国外著名的搜索引擎代表则非谷歌莫属了。搜索引擎一定程度上方便了网民的生活，生活或工作中啥不知道的上网搜索一下大都能找到答案。今天将会分享如何仅用30行左右的代码来实现一个简易版的搜索引擎，我先称之为1.0版本好啦～

爱吃香菜

5942人浏览 · 2022-11-14 14:13:40

爱吃香菜 · 2022-11-14 14:13:40 发布

说到搜索引擎，一般人都会觉得这东西十分“高大上”，对于不了解搜索引擎实现方式的小伙伴而言，确实能够感同身受。

国内著名的搜索引擎代表非百度莫属，而国外著名的搜索引擎代表则非谷歌莫属了。

搜索引擎一定程度上方便了网民的生活，生活或工作中啥不知道的上网搜索一下大都能找到答案。

今天将会分享如何仅用30行左右的代码来实现一个简易版的搜索引擎，我先称之为1.0版本好啦～

搜索引擎组成

一个完整的搜索引擎由以下四部分组成：

搜索器
索引器
用户接口
检索器

搜索器

熟悉 Python 的小伙伴可以把搜索器理解为 Python 的爬虫（scrawler），它像蜘蛛一样能够在互联网上大量爬取各类网站的内容，将爬取到的内容传送给索引器。

索引器

拿到搜索器传送的网页或内容后，会对内容进行加工处理，形成索引（index），存储于内部的数据库等待检索。

用户接口

用户接口很好理解，是指网页和 App 前端界面，例如：百度和谷歌的搜索页面。

用户通过用户接口，向搜索引擎发出询问（query），询问解析后送达检索器。

检索器

检索器在收到用户接口传送的询问解析后进行高效检索，再将检索结果返回给用户。

搜索引擎 Python 实现

PS：今天分享的重点是搜索引擎的实现，不是如何进行爬虫爬取内容，因此搜索引擎的组成部分搜索器此处使用本地存储文件内容代替。

1. 搜索引擎基类文件

# Engine.py
class SearchEngineBase(object):
    def __init__(self):
        pass

    def add_search_contents(self, file_path):
        with open(file_path, 'r') as fin:
            content = fin.read()
        self.process_search_contents(file_path, content)

    def process_search_contents(self, file_path, content):
        raise Exception('process_search_contents not implemented.')

    def search(self, query_content):
        raise Exception('search not implemented.')


def main(search_engine):
    for file_path in ['./search_contents/1.txt', './search_contents/2.txt', './search_contents/3.txt', './search_contents/4.txt', './search_contents/5.txt']:
        search_engine.add_search_contents(file_path)

    while True:
        query_content = input('请输入你要检索的关键词：')
        results = search_engine.search(query_content)
        print('Total found {} result(s):'.format(len(results)))
        for result in results:
            print(result)

2. 搜索引擎子类文件

# SimpleEngine.py
from Engine import SearchEngineBase, main
import sys, os
sys.path.append(os.path.dirname(os.path.dirname(os.path.abspath(__file__))))


class MyEngine(SearchEngineBase):
    """
    1.MyEngine是继承了父类SearchEngineBase的子类
    2.子类继承并实现了process_search_contents,search函数
    3.子类继承了父类的add_search_contents函数
    """
    def __init__(self):
        super(MyEngine, self).__init__()
        self.__file_path_to_content = {} # 初始化私有变量__file_path_to_content,用于存储文件路径及其内容的字典

    def process_search_contents(self, file_path, content):
        """
        填充字典__file_path_to_content，将文件路径作为key,文件内容作为value写入字典中
        """
        self.__file_path_to_content[file_path] = content

    def search(self, query):
        """
        枚举字典内容，将搜索的关键字在文件内容中有搜索结果时，将对应文件路径放入列表以便于统计其长度
        """
        results = []
        for file_path, content in self.__file_path_to_content.items():
            if query in content:
                results.append(file_path)
        return results


search_engine = MyEngine()
main(search_engine)