Python+MySQL获取PhishTank的钓鱼网站列表作业笔记

仔细阅读PhishTank官方网站的开发者文档，了解API调用方法

1.注册账户，创建application并获取app_key

2.根据http://data.phishtank.com/data/<your app key>/online-valid.xml下载数据库导出文件.xml

于是便将问题转化为python解析xml大文件

Then 分别用xml.dom和xml.sax尝试去解析文档，均遇到相同问题：

xml.parsers.expat.ExpatError: not well-formed (invalid token): line 16519, column 83

xml.sax._exceptions.SAXParseException: online-valid.xml:16519:83: not well-formed (invalid token)

显然根据提示我们知道是xml文件中存在非法字符

接下来要解决的问题就是如何处理xml中的非法字符了（开启疯狂BG模式～～～）

几番B搜无果，最后在G搜到类似的内容：

#!/usr/bin/python
# -*- coding:utf-8 -*-
 
import string
import xml.dom.minidom
 
def parse_xml(file_path):
    """
    Handle xml file with invalid character
    [input] : path of the xml file
    [output] : xml.dom.minidom.Document instance
    """
    try:
        xmldoc = xml.dom.minidom.parse(file_path)
    except:
        f = file(file_path)
        s = f.read()
        f.close()
 
        ss = s.translate(None, string.printable)
        s = s.translate(None, ss)
 
        xmldoc = xml.dom.minidom.parseString(s)
    return xmldoc
 
if __name__ == '__main__':
    pass

以纯文本当时读取文件，然后用字符串来处理，就能得到非法字符完全剔除的的结果了

于是作业也就可以愉快的进行下去啦