聚合国内IT技术精华文章,分享IT技术精华,帮助IT从业人士成长

纯真IP数据库的解析与读取

2021-08-26 01:27 浏览: 1110491 次 我要评论(0 条) 字号:

纯真IP库是民间自发收集、提交、聚合而来的数据库,囊括了国内外的大量IP数据。它的官网提供了记录提交和纠错的功能,管理员在统一整合后每5天更新一次。纯真IP库是完全免费的,它的官网上有在线查询功能,同时也可以下载离线数据库用于低延迟场景,但数据不可用于商业用途。

纯真IP数据库的获取

纯真IP数据库的文件名为 qqwry.dat,这个文件在官网上并没有公开链接可以下载,官方只提供了一个Windows工具用于查询和升级数据库。因此,如果想在服务器上实现数据库的获取与升级,必须模拟官方工具的更新机制。如果仅用于临时测试,可以通过下载并安装纯真IP数据库查询器来得到这个文件,它内置了qqwry.dat文件,同时也具备自动更新机制。

你可以在官网下载最新版的Windows安装包,将下载的setup.zip压缩包解压,打开里面的 setup.exe,默认安装目录为 C:Program Files (x86)cz88.netip, qqwry.dat文件就放置在这个文件夹下。

点击解压,可将qqwry.dat文件解压成纯文本的txt文件。

可以发现,每条记录均由起始IP、终止IP和两个数据段共四部分组成。上面的文本文件格式很简单,一行一个IP段,但是在实际查找一个IP对应的运营商和地理信息的时候很不方便,总不能把 text 文件逐行遍历查找吧,那样性能极低,而且文本文件格式也较大。

纯真IP数据库的基本结构

纯真IP数据库的主要数据存储在QQWry.dat文件中,QQWry.dat文件在结构上分为3块:文件头,记录区,索引区。

我们要查找IP时,先在索引区查找记录偏移,然后再到记录区读出信息。由于记录区的记录是不定长的,所以直接在记录区中搜索是不可能的。由于记录数比较多,如果我们遍历索引区也会是有点慢的,一般来说,我们可以用二分查找法搜索索引区,其速度比遍历索引区快若干数量级。

文件头

QQWry.dat的文件头只有8个字节,其结构非常简单,首四个字节是第一条索引的绝对偏移,后四个字节是最后一条索引的绝对偏移。

文件头标记出索引区的偏移量及包含范围:

索引区

索引区由多条等长的索引连续排列而成,每条索引长度为7字节。单条索引由两部分构成,前4个字节为区间的起始IP,后3个字节为其余数据的绝对偏移量,指向记录区的一个位置。

要查找的目标IP必定处于一个IP范围内,而索引区中的起始IP是按从小到大排列的,所以可以根据指定IP匹配到相应的索引,查找到偏移量,并据此到记录区获取其他信息。

记录区

定位到目标索引后可以得到起始IP与偏移量,根据这个偏移量在记录区获取余下的终止IP、记录A和记录B三段信息。

索引中偏移量指向位置的前4字节为终止IP的数据,下方数据部分存放着记录A与记录B两段信息,由于不同IP段之间记录内容存在大量重合,因此文件使用了重定向机制以节省空间,可分为5种存储方式。

记录模式1

这是最简单的一种格式,记录A与记录B在终止IP数据后连续存放,两者均为字符串格式,以二进制0结尾。

这种格式不能共用任何记录,一般用于没有重复的数据。

记录模式2

在这种格式下,终止IP后跟有一个重定向标志 0x01,我们暂且称其为重定向模式A。重定向标志后跟随一个偏移量,指明记录A与记录B所在位置,两者在指定的位置连续存放,同样也是字符串格式,以二进制0结尾。

由于正常存储的字符串不会以0x01开头,因此可以与格式1区分开。

记录模式3

这种格式与记录模式2类似,但是只有记录A被重定向,终止IP后跟随重定向标志 0x02,我们暂且称其为重定向模式B。重定向标志后跟随一个偏移量,指出了记录A所在位置,而偏移量后紧接记录B的数据,两条记录均为字符串格式,以二进制0结尾。

两种重定向模式以标志0x01与0x02作区分,模式A中记录A与记录B是连续存放的,而模式B的重定向仅针对记录A,记录B接在偏移量后面。与上一种格式一样,正常字符串不会以0x02开头,因此也可以与记录模式1和2区分开。

记录模式4

这种方式需要重定向两次,可以看成重定向模式A与B的叠加。第一次重定向使用标志 0x01,但是偏移量所指位置又出现了重定向标志0x02,后接的偏移量指出了记录A的内容,偏移量后同时紧跟记录B的数据,两条记录均为字符串格式,以二进制0结尾。

在第一次重定向时,正常字符串不会以0x01开头,因而可以与记录模式2区分开。

记录模式5

这是最繁杂的一种记录方式,可以看成记录模式4的一种扩展。在记录模式4的第二个偏移量后再接一个重定向标志 0x01 或 0x02,标志后有一个偏移量用于指出记录B的位置,不过这个偏移量可能为0,用于表示记录B无数据。同样的,记录A与记录B均为字符串格式,以二进制0结尾。

在对记录B重定向时,正常字符串同样不会以0x01或0x02开头,因此也可以与记录模式4区分开。

特殊记录

数据库的最后一条记录不包含IP信息,而是数据库的版本内容,格式如下:

起始IP:255.255.255.0
终止IP:255.255.255.255
记录A:纯真网络
记录B:XXXX年XX月XX日IP数据

这一部分属于特殊IPv4段 240.0.0.0/4,被标记为 SPECIAL-IPV4-FUTURE-USE-IANA-RESERVED,即IANA特殊保留地址。对于这部分,我们必须对其劫持并返回正确的结果,一般标记为 IANA保留地址。同时,也可以根据这一段信息来提取版本号,格式为 YYYYMMDD,用于标记当前数据库的版本信息。

纯真IP数据库解析示例

Java实现

/**
 * 给定一个ip国家地区记录的偏移,返回一个IPLocation结构
 * @param offset 国家记录的起始偏移
 * @return IPLocation对象
 */
private IPLocation getIPLocation(long offset) {
    try {
        // 跳过4字节ip
        ipFile.seek(offset + 4);
        // 读取第一个字节判断是否标志字节
        byte b = ipFile.readByte();
        if (b == REDIRECT_MODE_1) {
            // 读取国家偏移
            long countryOffset = readLong3();
            // 跳转至偏移处
            ipFile.seek(countryOffset);
            // 再检查一次标志字节,因为这个时候这个地方仍然可能是个重定向
            b = ipFile.readByte();
            if (b == REDIRECT_MODE_2) {
                loc.country = readString(readLong3());
                ipFile.seek(countryOffset + 4);
            } else
                loc.country = readString(countryOffset);
            // 读取地区标志
            loc.area = readArea(ipFile.getFilePointer());
        } else if (b == REDIRECT_MODE_2) {
            loc.country = readString(readLong3());
            loc.area = readArea(offset + 8);
        } else {
            loc.country = readString(ipFile.getFilePointer() - 1);
            loc.area = readArea(ipFile.getFilePointer());
        }
        return loc;
    } catch (IOException e) {
        return null;
    }
}

/**
 * 从offset偏移开始解析后面的字节,读出一个地区名
 * @param offset 地区记录的起始偏移
 * @return 地区名字符串
 * @throws IOException 地区名字符串
 */
private String readArea(long offset) throws IOException {
    ipFile.seek(offset);
    byte b = ipFile.readByte();
    if (b == REDIRECT_MODE_1 || b == REDIRECT_MODE_2) {
        long areaOffset = readLong3(offset + 1);
        if (areaOffset == 0)
            return LumaQQ.getString("unknown.area");
        else
            return readString(areaOffset);
    } else
        return readString(offset);
}

/**
 * 从offset位置读取3个字节为一个long,因为java为big-endian格式,所以没办法
 * 用了这么一个函数来做转换
 * @param offset 整数的起始偏移
 * @return 读取的long值,返回-1表示读取文件失败
 */
private long readLong3(long offset) {
    long ret = 0;
    try {
        ipFile.seek(offset);
        ipFile.readFully(b3);
        ret |= (b3[0] & amp; 0xFF);
        ret |= ((b3[1] & lt; & lt; 8) & amp; 0xFF00);
        ret |= ((b3[2] & lt; & lt; 16) & amp; 0xFF0000);
        return ret;
    } catch (IOException e) {
        return -1;
    }
}

/**
 * 从当前位置读取3个字节转换成long
 * @return 读取的long值,返回-1表示读取文件失败
 */
private long readLong3() {
    long ret = 0;
    try {
        ipFile.readFully(b3);
        ret |= (b3[0] & amp; 0xFF);
        ret |= ((b3[1] & lt; & lt; 8) & amp; 0xFF00);
        ret |= ((b3[2] & lt; & lt; 16) & amp; 0xFF0000);
        return ret;
    } catch (IOException e) {
        return -1;
    }
}

/**
 * 从offset偏移处读取一个以0结束的字符串
 * @param offset 字符串起始偏移
 * @return 读取的字符串,出错返回空字符串
 */
private String readString(long offset) {
    try {
        ipFile.seek(offset);
        int i;
        for (i = 0, buf[i] = ipFile.readByte(); buf[i] != 0; buf[++i] = ipFile.readByte());
        if (i != 0)
            return Utils.getString(buf, 0, i, "GBK");
    } catch (IOException e) {
        log.error(e.getMessage());
    }
    return "";
}

PHP实现

<?php
/**
 * IP 地理位置查询类
 *
 * @author 马秉尧
 * @version 1.5
 * @copyright 2005 CoolCode.CN
 */
class IpLocation
{
    /**
     * QQWry.Dat文件指针
     *
     * @var resource
     */
    var $fp;

    /**
     * 第一条IP记录的偏移地址
     *
     * @var int
     */
    var $firstip;

    /**
     * 最后一条IP记录的偏移地址
     *
     * @var int
     */
    var $lastip;

    /**
     * IP记录的总条数(不包含版本信息记录)
     *
     * @var int
     */
    var $totalip;

    /**
     * 返回读取的长整型数
     *
     * @access private
     * @return int
     */
    function getlong()
    {
        //将读取的little-endian编码的4个字节转化为长整型数
        $result = unpack('Vlong', fread($this - &gt;
        fp, 4));
        return $result['long'];
    }

    /**
     * 返回读取的3个字节的长整型数
     *
     * @access private
     * @return int
     */
    function getlong3()
    {
        //将读取的little-endian编码的3个字节转化为长整型数
        $result = unpack('Vlong', fread($this - &gt;
        fp, 3) . chr(0));
        return $result['long'];
    }

    /**
     * 返回压缩后可进行比较的IP地址
     *
     * @access private
     * @param string $ip
     * @return string
     */
    function packip($ip)
    {
        // 将IP地址转化为长整型数,如果在PHP5中,IP地址错误,则返回False,
        // 这时intval将Flase转化为整数-1,之后压缩成big-endian编码的字符串
        return pack('N', intval(ip2long($ip)));
    }

    /**
     * 返回读取的字符串
     *
     * @access private
     * @param string $data
     * @return string
     */
    function getstring($data = "")
    {
        $char = fread($this - &gt;
        fp, 1);
        while (ord($char) & gt;
        0)
        { // 字符串按照C格式保存,以结束
            $data .= $char; // 将读取的字符连接到给定字符串之后
            $char = fread($this - &gt;
            fp, 1);
        }
        return $data;
    }

    /**
     * 返回地区信息
     *
     * @access private
     * @return string
     */
    function getarea()
    {
        $byte = fread($this - &gt;
        fp, 1); // 标志字节
        switch (ord($byte))
        {
            case 0: // 没有区域信息
                $area = "";
            break;
            case 1:
            case 2: // 标志字节为1或2,表示区域信息被重定向
                fseek($this - &gt;
                fp, $this - &gt;
                getlong3());
                $area = $this - &gt;
                getstring();
            break;
            default: // 否则,表示区域信息没有被重定向
                $area = $this - &gt;
                getstring($byte);
            break;
        }
        return $area;
    }

    /**
     * 根据所给 IP 地址或域名返回所在地区信息
     *
     * @access public
     * @param string $ip
     * @return array
     */
    function getlocation($ip)
    {
        if (!$this - &gt;
        fp) return null; // 如果数据文件没有被正确打开,则直接返回空
        $location['ip'] = gethostbyname($ip); // 将输入的域名转化为IP地址
        $ip = $this - &gt;
        packip($location['ip']); // 将输入的IP地址转化为可比较的IP地址
        // 不合法的IP地址会被转化为255.255.255.255
        // 对分搜索
        $l = 0; // 搜索的下边界
        $u = $this - &gt;
        totalip; // 搜索的上边界
        $findip = $this - &gt;
        lastip; // 如果没有找到就返回最后一条IP记录(QQWry.Dat的版本信息)
        while ($l & lt; = $u)
        { // 当上边界小于下边界时,查找失败
            $i = floor(($l + $u) / 2); // 计算近似中间记录
            fseek($this - &gt;
            fp, $this - &gt;
            firstip + $i * 7);
            $beginip = strrev(fread($this - &gt;
            fp, 4)); // 获取中间记录的开始IP地址
            // strrev函数在这里的作用是将little-endian的压缩IP地址转化为big-endian的格式
            // 以便用于比较,后面相同。
            if ($ip & lt;
            $beginip)
            { // 用户的IP小于中间记录的开始IP地址时
                $u = $i - 1; // 将搜索的上边界修改为中间记录减一
                
            }
            else
            {
                fseek($this - &gt;
                fp, $this - &gt;
                getlong3());
                $endip = strrev(fread($this - &gt;
                fp, 4)); // 获取中间记录的结束IP地址
                if ($ip & gt;
                $endip)
                { // 用户的IP大于中间记录的结束IP地址时
                    $l = $i + 1; // 将搜索的下边界修改为中间记录加一
                    
                }
                else
                { // 用户的IP在中间记录的IP范围内时
                    $findip = $this - &gt;
                    firstip + $i * 7;
                    break; // 则表示找到结果,退出循环
                    
                }
            }
        }

        //获取查找到的IP地理位置信息
        fseek($this - &gt;
        fp, $findip);
        $location['beginip'] = long2ip($this - &gt;
        getlong()); // 用户IP所在范围的开始地址
        $offset = $this - &gt;
        getlong3();
        fseek($this - &gt;
        fp, $offset);
        $location['endip'] = long2ip($this - &gt;
        getlong()); // 用户IP所在范围的结束地址
        $byte = fread($this - &gt;
        fp, 1); // 标志字节
        switch (ord($byte))
        {
            case 1: // 标志字节为1,表示国家和区域信息都被同时重定向
                $countryOffset = $this - &gt;
                getlong3(); // 重定向地址
                fseek($this - &gt;
                fp, $countryOffset);
                $byte = fread($this - &gt;
                fp, 1); // 标志字节
                switch (ord($byte))
                {
                    case 2: // 标志字节为2,表示国家信息又被重定向
                        fseek($this - &gt;
                        fp, $this - &gt;
                        getlong3());
                        $location['country'] = $this - &gt;
                        getstring();
                        fseek($this - &gt;
                        fp, $countryOffset + 4);
                        $location['area'] = $this - &gt;
                        getarea();
                    break;
                    default: // 否则,表示国家信息没有被重定向
                        $location['country'] = $this - &gt;
                        getstring($byte);
                        $location['area'] = $this - &gt;
                        getarea();
                    break;
                }
            break;
            case 2: // 标志字节为2,表示国家信息被重定向
                fseek($this - &gt;
                fp, $this - &gt;
                getlong3());
                $location['country'] = $this - &gt;
                getstring();
                fseek($this - &gt;
                fp, $offset + 8);
                $location['area'] = $this - &gt;
                getarea();
            break;
            default: // 否则,表示国家信息没有被重定向
                $location['country'] = $this - &gt;
                getstring($byte);
                $location['area'] = $this - &gt;
                getarea();
            break;
        }
        if ($location['country'] == " CZ88.NET")
        { // CZ88.NET表示没有有效信息
            $location['country'] = "未知";
        }
        if ($location['area'] == " CZ88.NET")
        {
            $location['area'] = "";
        }
        return $location;
    }

    /**
     * 构造函数,打开 QQWry.Dat 文件并初始化类中的信息
     *
     * @param string $filename
     * @return IpLocation
     */
    function IpLocation($filename = "QQWry.Dat")
    {
        $this - &gt;
        fp = 0;
        if (($this - &gt;
        fp = @fopen($filename, 'rb')) !== false)
        {
            $this - &gt;
            firstip = $this - &gt;
            getlong();
            $this - &gt;
            lastip = $this - &gt;
            getlong();
            $this - &gt;
            totalip = ($this - &gt;
            lastip - $this - &gt;
            firstip) / 7;
            //注册析构函数,使其在程序执行结束时执行
            register_shutdown_function(array(&amp;
                $this,
                '_IpLocation'
            ));
        }
    }

    /**
     * 析构函数,用于在页面执行结束后自动关闭打开的文件。
     *
     */
    function _IpLocation()
    {
        if ($this - &gt;
        fp)
        {
            fclose($this - &gt;
            fp);
        }
        $this - &gt;
        fp = 0;
    }
}

Python实现:

#!/usr/bin/env python
# -*- coding: utf-8 -*-

import sys
import socket
from struct import pack, unpack

class IPInfo(object):
    def __init__(self, dbname = "qqwry.dat"):
        self.dbname = dbname
        f = open(dbname, 'rb')
        self.img = f.read()
        f.close()
        (self.firstIndex, self.lastIndex) = unpack('<II', self.img[:8])
        self.indexCount = (self.lastIndex - self.firstIndex) / 7 + 1

    def getString(self, offset = 0):
        o = self.img.find('', offset)
        return self.img[offset:o]

    def getLong3(self, offset = 0):
        s = self.img[offset: offset + 3] + ''
        return unpack('<I', s)[0]

    def gbk2utf8(self, str):
        return unicode(str, 'gbk').encode('utf-8')

    def utf82gbk(self, str):
        return unicode(str, 'utf-8').encode('gbk')

    def find(self, ip):
        low = 0
        high = self.indexCount
        while (low < high - 1):
            mid = low + (high - low) / 2
            o = self.firstIndex + mid * 7
            start_ip = unpack('<I', self.img[o: o+4])[0]
            if ip < start_ip:
                high = mid
            else:
                low = mid

        return low

    def getAddr(self, offset):
        img = self.img
        byte = ord(img[offset])
        if byte == 1:
            offset = self.getLong3(offset + 1)
            byte = ord(img[offset])

        if byte == 2:
            zone = self.getString(self.getLong3(offset + 1))
            offset += 4
        else:
            zone = self.getString(offset)
            offset += len(zone) + 1

        byte = ord(img[offset])
        if byte == 2:
            area = self.getString(self.getLong3(offset + 1))
        else:
            area = self.getString(offset)

        return (zone, area)

    def getIPAddr(self, ip):
        ip = unpack('!I', socket.inet_aton(ip))[0]
        i = self.find(ip)
        offset = self.firstIndex + i * 7
        offset = set.getLong3(offset + 4)
        return self.getAddr(offset + 4)

def main():
    i = IPInfo()
    ip = sys.argv[1]
    (zone, area) = i.getIPAddr(ip)
    print '%s %s/%s' % (ip, zone, area)

if __name__ == '__main__':
    main()


网友评论已有0条评论, 我也要评论

发表评论

*

* (保密)

Ctrl+Enter 快捷回复