爬取ajax数据,根据url却无法得到response信息的解决方法 房天下网站租房信息数据加载为动态js加载,分析页面的请求,找到ajax请求的url:https://m.fang.com/zf/?purpose=%D7%A1%D5%ACnotGetPurpose=1city=%B9%E3%D6%DDrenttype=czc=zfa=ajaxGetListcity=gzr=0.0021985656734149206page=3其中参数page为变量可以改变这个参数模拟浏览器刷新界面,发送请求方式为get请求,在获取数据时遇到了个坑在此记录下,按照正常的request的get请求,在请求头中添加headers信息,初始我只添加了user-agent信息,但是这样并没有得到任何的数据,回到nerwork下的ajax页面找到Request请求头信息:authority: m.fang.com :method: GET :path: /zf/?purpose=%D7%A1%D5%ACnotGetPurpose=1city=%B9%E3%D6%DDrenttype=czc=zfa=ajaxGetListcity=gzr=0.0021985656734149206page=3 :scheme: https accept: */* accept-encoding: gzip, deflate, br accept-language: zh-CN,zh;q=0.9 cookie: JSESSIONID=aaaCdLQQAcDgcdgfXxQZw; global_cookie=5d011072-1567300194704-1588c24a; unique_cookie=U_5d011072-1567300194704-1588c24a; global_wapandm_cookie=7fgcyp8vatwbii0vjq5yg3rnz1wk00a2j29; zflistonedayClose=1; cityHistory=%E5%B9%BF%E5%B7%9E%2Cgz; csrfToken=eB7RgTWl8dkYe4EvaZi