1、URL的概念

统一资源定位符URL(Uniform Resource Locator)是www客户机访问Internet时用来标识资源的名字和地址。

URL的基本格式是:
<METHOD>://<HOSTNAME:PORT>/<PATH>/<FILE>  
1
 
1
<METHOD>://<HOSTNAME:PORT>/<PATH>/<FILE>  
  • Method是传输协议
  • HOSTNAME是文档和服务器所在的Internet主机名(域名系统中DNS中的点地址)
  • PORT是服务端口号(可省略)
  • PATH是路径名
  • FILE是文件名

例如:
http://www.weixueyuan.net/ (http是协议名,www.weixueyuan.net是主机名)
http://www.weixueyuan.net/view/6079.html (www.weixueyuan.net是主机名,view/6079.html是文件路径和文件名)

简单的可以把URL理解为包含:协议、主机名、端口、路径、查询字符串和参数等内容。每一段可以独立设置。


2、URL类

Java中有个java.net包,其中的类是进行网络编程的,URL对象则是一个可以表示网络资源的类。程序利用URL对象能够实现Internet寻址、网络资源的定位连接、在客户机与服务器之间访问等。

URL类的构造方法有很多,如下图:
[02] URL和HttpURLConnection类-LMLPHP
 
最常用的还是第一种,即 URL(String spec),如 URL url = new URL("http://www.balabala.com:80");

URL对象的方法也很简单,基本上都是get方法,主要用于分段获取一个URL中各个部分,比单纯地使用一个字符串来表示链接地址,URL对象的方式更加灵活方便。

同时,它可以使用openConnection方法,获取一个URLConnection对象,以建立网络连接。


3、HttpURLConnecttion类以及请求发送

要接收和发送信息还要用HttpURLConnection类,HttpURLConnection类是URLConnection类的子类,其对象往往是通过URL对象进行获取,如下:
URL url = new URL("http://www.sun.com/");//先要创建一个URL对象
HttpURLConnection urlConnection = (HttpURLConnection) url.openConnection();//获得URLConnection对象
2
 
1
URL url = new URL("http://www.sun.com/");//先要创建一个URL对象
2
HttpURLConnection urlConnection = (HttpURLConnection) url.openConnection();//获得URLConnection对象

有了URLConnection对象,就可以实现网络连接,主要分三步走:
  • 设置请求头信息和请求体
  • 建立连接
  • 获取响应

下面以一个模拟发送http请求的方法代码进行示例:
public static void sendRequest(String link, String RequestMethod, String postContent) {
System.out.println("============sendRequest start, access link: " + link + " ============");
try {
URL url = new URL(link);
HttpURLConnection connection = (HttpURLConnection) url.openConnection(); //step1:设置请求头信息和请求体
//设置请求方式
connection.setRequestMethod(RequestMethod); //GET或POST等
connection.setDoOutput(postContent == null ? false : true); //是否需要输出数据,默认false
connection.setDoInput(true); //是否需要获取输入,默认true
//设置部分常规的请求头参数
connection.setRequestProperty("Connection", "Keep-Alive");
connection.setRequestProperty("User-Agent", "Mozilla/5.0"); //可以不设置,但部分网站会对该字段进行检查,以过滤非浏览器的请求
//设置请求体内容
if (postContent != null) {
OutputStream out = connection.getOutputStream();
out.write(postContent.getBytes());
out.close();
} //step2:建立连接
//建立连接
connection.connect(); //step3:获取响应
//获取响应头
System.out.println("------------acquire response header start------------");
Map header = connection.getHeaderFields();
Set<String> keys = header.keySet();
for (String key : keys) {
String val = connection.getHeaderField(key);
System.out.println(key + ":" + val);
}
System.out.println("------------acquire response header end------------");
//获取响应体
System.out.println("------------acquire response body start------------");
InputStream in = connection.getInputStream();
ByteArrayOutputStream out = new ByteArrayOutputStream();
byte[] cache = new byte[2048];
int size = -1;
while ((size = in.read(cache)) != -1) {
out.write(cache, 0, size);
}
out.close();
in.close();
String responseBody = out.toString();
System.out.println("response body:" + responseBody);
System.out.println("------------acquire response body end------------");
//获取响应码
int responseCode = connection.getResponseCode();
System.out.println("responseCode:" + responseCode); } catch (MalformedURLException e) {
e.printStackTrace();
} catch (IOException e) {
e.printStackTrace();
}
System.out.println("============sendRequest end============");
}
60
 
1
public static void sendRequest(String link, String RequestMethod, String postContent) {
2
        System.out.println("============sendRequest start, access link: " + link + " ============");
3
        try {
4
            URL url = new URL(link);
5
            HttpURLConnection connection = (HttpURLConnection) url.openConnection();
6
7
            //step1:设置请求头信息和请求体
8
            //设置请求方式
9
            connection.setRequestMethod(RequestMethod); //GET或POST等
10
            connection.setDoOutput(postContent == null ? false : true); //是否需要输出数据,默认false
11
            connection.setDoInput(true); //是否需要获取输入,默认true
12
            //设置部分常规的请求头参数
13
            connection.setRequestProperty("Connection", "Keep-Alive");
14
            connection.setRequestProperty("User-Agent", "Mozilla/5.0"); //可以不设置,但部分网站会对该字段进行检查,以过滤非浏览器的请求
15
            //设置请求体内容
16
            if (postContent != null) {
17
                OutputStream out = connection.getOutputStream();
18
                out.write(postContent.getBytes());
19
                out.close();
20
            }
21
22
            //step2:建立连接
23
            //建立连接
24
            connection.connect();
25
26
            //step3:获取响应
27
            //获取响应头
28
            System.out.println("------------acquire response header start------------");
29
            Map header = connection.getHeaderFields(); 
30
            Set<String> keys = header.keySet();
31
            for (String key : keys) {
32
                String val = connection.getHeaderField(key);
33
                System.out.println(key + ":" + val);
34
            }
35
            System.out.println("------------acquire response header end------------");
36
            //获取响应体
37
            System.out.println("------------acquire response body start------------");
38
            InputStream in = connection.getInputStream(); 
39
            ByteArrayOutputStream out = new ByteArrayOutputStream();
40
            byte[] cache = new byte[2048];
41
            int size = -1;
42
            while ((size = in.read(cache)) != -1) {
43
                out.write(cache, 0, size);
44
            }
45
            out.close();
46
            in.close();
47
            String responseBody = out.toString();
48
            System.out.println("response body:" + responseBody);
49
            System.out.println("------------acquire response body end------------");
50
            //获取响应码
51
            int responseCode = connection.getResponseCode(); 
52
            System.out.println("responseCode:" + responseCode);
53
54
        } catch (MalformedURLException e) {
55
            e.printStackTrace();
56
        } catch (IOException e) {
57
            e.printStackTrace();
58
        }
59
        System.out.println("============sendRequest end============");
60
    }


4、关于connect()和触发请求发送

最开始,根据方法名,我以为connect()就是发送请求,并获取到响应,即完成一次网络连接访问。但实际上在写这篇博客的示例代码,在调试时发现,即便不写connect(),也可以完成一次请求模拟,也就是说,connect()不是用来触发发出请求并获取响应的。

那么何时触发请求的发送呢?我利用IDE的断点和Fiddler的断点调试功能进行了测试,发现在执行“获取响应相关内容的方法时”,才会正式发出HTTP请求并返回响应,这里的相关方法包括但不仅限于:
  • connection.getHeaderFields(); //获取响应头属性集合
  • connection.getInputStream(); //获取响应输入流
  • connection.getResponseCode(); //获取响应状态码

之前看到某网友说,要正确发送请求需要调用方法connection.getResponseCode(),大概原因在此,尽管他的说法并不完全正确。所以,如果你只是发送GET方法,同时也没有主动获取响应相关的内容,那么实际上并不会发出请求。

如上例代码中,如果把整个step3的代码全部去掉(即不调用"获取响应相关内容的方法”),如下方法试图请求连接,是不会真正发出请求的:
public static void sendRequest(String link, String RequestMethod, String postContent) {
System.out.println("============sendRequest start, access link: " + link + " ============");
try {
URL url = new URL(link);
HttpURLConnection connection = (HttpURLConnection) url.openConnection(); //step1:设置请求头信息和请求体
//设置请求方式
connection.setRequestMethod(RequestMethod); //GET或POST等
connection.setDoOutput(postContent == null ? false : true); //是否需要输出数据,默认false
connection.setDoInput(true); //是否需要获取输入,默认true
//设置部分常规的请求头参数
connection.setRequestProperty("Connection", "Keep-Alive");
connection.setRequestProperty("User-Agent", "Mozilla/5.0"); //可以不设置,但部分网站会对该字段进行检查,以过滤非浏览器的请求
//设置请求体内容
if (postContent != null) {
OutputStream out = connection.getOutputStream();
out.write(postContent.getBytes());
out.close();
} //step2:建立连接
//建立连接
connection.connect(); } catch (MalformedURLException e) {
e.printStackTrace();
} catch (IOException e) {
e.printStackTrace();
}
System.out.println("============sendRequest end============");
}
32
 
1
public static void sendRequest(String link, String RequestMethod, String postContent) {
2
        System.out.println("============sendRequest start, access link: " + link + " ============");
3
        try {
4
            URL url = new URL(link);
5
            HttpURLConnection connection = (HttpURLConnection) url.openConnection();
6
7
            //step1:设置请求头信息和请求体
8
            //设置请求方式
9
            connection.setRequestMethod(RequestMethod); //GET或POST等
10
            connection.setDoOutput(postContent == null ? false : true); //是否需要输出数据,默认false
11
            connection.setDoInput(true); //是否需要获取输入,默认true
12
            //设置部分常规的请求头参数
13
            connection.setRequestProperty("Connection", "Keep-Alive");
14
            connection.setRequestProperty("User-Agent", "Mozilla/5.0"); //可以不设置,但部分网站会对该字段进行检查,以过滤非浏览器的请求
15
            //设置请求体内容
16
            if (postContent != null) {
17
                OutputStream out = connection.getOutputStream();
18
                out.write(postContent.getBytes());
19
                out.close();
20
            }
21
22
            //step2:建立连接
23
            //建立连接
24
            connection.connect();
25
26
        } catch (MalformedURLException e) {
27
            e.printStackTrace();
28
        } catch (IOException e) {
29
            e.printStackTrace();
30
        }
31
        System.out.println("============sendRequest end============");
32
    }
public static void main(String[] args) {
//为了Fiddler抓包而设置的代理
System.setProperty("http.proxyHost", "localhost");
System.setProperty("http.proxyPort", "8888"); //test code
String link = "http://www.sctywd.com/login.jsp";
sendRequest(link, "GET", null); //无法发出HTTP请求
}
x
 
1
public static void main(String[] args) {
2
    //为了Fiddler抓包而设置的代理
3
    System.setProperty("http.proxyHost", "localhost");
4
    System.setProperty("http.proxyPort", "8888");
5
6
    //test code
7
    String link = "http://www.sctywd.com/login.jsp";
8
    sendRequest(link, "GET", null); //无法发出HTTP请求
9
}

那么connect()有什么作用呢?看下源码中方法的说明:
[02] URL和HttpURLConnection类-LMLPHP
 
由以上,我们大概可以看出几个信息:
  • connect()可以多次调用,但第一次之后的调用都会被自动忽略,即只会调用一次
  • 请求信息只能在连接建立之前修改,一旦连接建立,再试图修改请求信息会出现错误
  • 建立在连接之上的一些方法,会隐性地调用connect()

那么我们测试一下,已经调用connect,但是在正式发送请求之前,我尝试去修改请求头的配置,结果如之上描述的抛出了异常:
connection.connect();
connection.setRequestMethod("GET");//抛出异常 java.net.ProtocolException: Can't reset method: already connected
 
1
connection.connect();
2
connection.setRequestMethod("GET");//抛出异常 java.net.ProtocolException: Can't reset method: already connected
[02] URL和HttpURLConnection类-LMLPHP
 
而且之上也提到过,依赖于连接建立的一些方法如 getOutputStream 和 getInputStream 等,其内部都会隐式的调用 connect(),也就是说,一旦这些方法调用之后,同样再试图更改请求头信息,也是不可以的

引用某网友: “connect()函数会根据HttpURLConnection对象的配置值生成http头部信息,因此在调用connect函数之前,就必须把所有的配置准备好”。

最后,connect既会隐性地调用,又会因为顺序可能抛出异常,我们要不要主动显式地调用呢,个人建议主动调用,明确顺序流程,避免埋藏一些隐性的bug。

5、其他

HttpURLConnection是JDK自带的网络请求工具,定义在java.net包下,当然,类似的还有HttpsURLConnection。实际上在Java中模拟网络连接,还有Apache的HttpClient和Square公司的OkHttp,此处仅作抛砖,供未来和他人引玉了。


6、参考链接



05-11 14:05