一个简单的问题:此代码x <- read_html(url)挂起并读取页面无数秒。我不知道如何处理此问题，例如，通过设置一些最大响应时间。我可以使用try，catch和任何重试的方法。但这只是挂起，什么也没有发生。有人知道如何处理吗？
页面没有问题，有时会发生，而当我手动重试时，它会起作用。
最佳答案
您可以将read_html包装在GET包的httr函数中
例如如果您的原始代码是
library(rvest)
library(dplyr)
my_url <- "https://stackoverflow.com/questions/48722076/how-to-set-timeout-in-rvest"
x <- my_url %>% read_html(.)
library(httr)
# Allow 10 seconds
my_url %>% GET(., timeout(10)) %>% read_html
# Allow 30 seconds
my_url %>% GET(., timeout(30)) %>% read_html
要进行测试，请尝试设置非常短的超时时间(例如百分之一秒)
# Allow an unreasonably short amount of time so the request errors rather than hangs indefinitely
my_url %>% GET(., timeout(0.01)) %>% read_html
# Error in curl::curl_fetch_memory(url, handle = handle) :
# Timeout was reached: Resolving timed out after 10 milliseconds
循环使用它(例如，如果超时则跳到下一个)
尝试运行此代码。假设您要访问许多URL(在这种情况下为3)(下面的第二个URL将在提供html之前延迟3秒，这是测试所需功能的一种好方法)。我们将超时设置为2秒，因此我们知道它将失败。
tryCatch()函数将简单地执行您作为第二个参数输入的任何代码；在这种情况下，它将仅分配“超时!”到列表元素
my_urls <- c("https://stackoverflow.com/questions/48722076/how-to-set-timeout-in-rvest",
"http://httpbin.org/delay/3", # This url will delay 3 seconds
"http://httpbin.org/delay/1")
x <- list()
# Set timeout for 2 seconds (so second url will fail)
for (i in 1:length(my_urls)) {
print(paste0("Scraping url number ", i))
tryCatch(x[[i]] <- my_urls[i] %>% GET(., timeout(2)) %>% read_html,
error = function(e) { x[[i]] <<- "Timed out!" } )
}
# > x
# [[1]]
# {xml_document}
# <html itemscope="" itemtype="http://schema.org/QAPage" class="html__responsive">
# [1] <head>\n<meta http-equiv="Content-Type" content="text/html; charset=UTF-8">\n<title>r - how to set timeout ...
# [2] <body class="question-page unified-theme">\r\n <div id="notify-container"></div>\r\n <div id="custom ...
#
# [[2]]
# [1] "Timed out!"
#
# [[3]]
# {xml_document}
# <html>
# [1] <body><p>{\n "args": {}, \n "data": "", \n "files": {}, \n "form": {}, \n "headers": {\n "Accept": ...
关于r - 如何在rvest中设置超时，我们在Stack Overflow上找到一个类似的问题：https://stackoverflow.com/questions/48722076/