我正在学习网络抓取,我一直在尝试编写一个从 Steam's website 中提取信息的程序作为练习。
我想编写一个程序,它只访问每个前 10 名最畅销游戏的页面并提取一些内容,但是当我的程序尝试访问 M 级游戏时,它只是被重定向到年龄检查页面。
我的程序看起来像这样:
front_page = urlopen('http://store.steampowered.com/').read()
bs = BeautifulSoup(front_page, 'html.parser')
top_sellers = bs.select('#tab_topsellers_content a.tab_item_overlay')
for item in top_sellers:
game_page = urlopen(item.get('href'))
bs = BeautifulSoup(game_page.read(), 'html.parser')
#Now I'm on the age check page :(
我不知道如何通过年龄检查,我尝试通过向其发送 POST 请求来填写年龄检查,如下所示:
post_params = urlencode({'ageDay': '1', 'ageMonth': 'January', 'ageYear': '1988', 'snr': '1_agecheck_agecheck__age-gate'}).encode('utf-8')
page = urlopen(agecheckurl, post_params)
但它不起作用,我还在年龄检查页面上。任何可以帮助我的人,我怎样才能克服它?
最佳答案
好的,似乎 Steam 使用 cookie 来保存年龄检查结果。它正在使用 birthtime
。
由于我不知道如何使用 urllib
设置 cookie,这里是一个使用 requests
的示例:
import requests
cookies = {'birthtime': '568022401'}
r = requests.get('http://store.steampowered.com/', cookies=cookies)
现在没有年龄检查。
关于Python Beautifulsoup - 通过 Steam 年龄检查,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/33603416/