python - 如何使用python从网页中提取数据

有人可以指出我做错了什么吗？


  输入项目名称：Rockfish Traceback（最近一次通话）：文件
  “ C：\ Users \ partn_000 \ Desktop \ sarvesh \ Python源
  代码\ working \ jellyneoscraper.py”，第45行，在
      搜索（br，ITEMNAME）文件“ C：\ Users \ partn_000 \ Desktop \ sarvesh \ Python源
  代码\ working \ jellyneoscraper.py”，第33行，在搜索中
      增量=增量[0] IndexError：列表索引超出范围


这是我写的代码

#Library Imports
import mechanize
import cookielib
import re
import sys
import time
import os.path
from operator import itemgetter
import ctypes
ctypes.windll.kernel32.SetConsoleTitleA("test")


def init_browser():
    br = mechanize.Browser()
    br.set_handle_equiv(True)
    br.set_handle_redirect(True)
    br.set_handle_referer(True)
    br.set_handle_robots(False)
    br.set_handle_refresh(mechanize._http.HTTPRefreshProcessor(), max_time=1)
    br.addheaders = [('User-agent', 'Mozilla/5.0 (Windows NT 6.2; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/36.0.1985.125 Safari/537.36')]
    cj = cookielib.LWPCookieJar()
    br.set_cookiejar(cj)

    return br


def search(br, ITEMNAME):
    datapage = br.open('http://items.jellyneo.net/index.php?go=show_items&name=' +ITEMNAME +'&name_type=exact&desc=&cat=0&specialcat=0&status=0&rarity=0&sortby=name&numitems=20')
    f = open('search.html', 'w')
    f.write(datapage.read())
    f.close()
    value = re.findall('style="font-weight:bold;">(.+) NP</a></td>"',datapage.read())  #(.+) is replaced in place of required value
    value = value[0].replace(",","")
    value = int(value)
    print value
#http://items.jellyneo.net/index.php?go=show_items&name=Rockfish&name_type=exact&desc=&cat=0&specialcat=0&status=0&rarity=0&sortby=name&numitems=20


#('style="font-weight:bold;"> (.+) NP</a>"',search.read())


ITEMNAME = raw_input('Enter Item name:eg. Rockfish')

br = init_browser()
search(br, ITEMNAME)

最佳答案

在您的搜索方法中，您阅读了整个页面并将其保存到文件中，
然后您尝试重新读取它并执行您的正则表达式，但是您已经在页面末尾，因此它返回空字符串。
您应该像这样再次读取之前添加datapage.seek（0）：

datapage = br.open('http://items.jellyneo.net/index.php?go=show_items&name=' +ITEMNAME +'&name_type=exact&desc=&cat=0&specialcat=0&status=0&rarity=0&sortby=name&numitems=20')
f = open('search.html', 'w')
f.write(datapage.read())
f.close()
datapage.seek(0)
value = re.findall('style="font-weight:bold;">(.+) NP</a></td>"',datapage.read())  #(.+) is replaced in place of required value
value = value[0].replace(",","")
value = int(value)

关于python - 如何使用python从网页中提取数据，我们在Stack Overflow上找到一个类似的问题：https://stackoverflow.com/questions/32426451/