Weibo Scraper
Spider read weibo.com in 5.2 s without a browser and returned 839 lines of clean markdown, including sections like "Page 1", "Page 5" and "Page 6".
Q4-15 Q1-16 Q2-16 Q3-16 单位:亿 2016 年 微博活跃 用户继续保持稳步增长 01 截止 2016 年 9 月, 微博月活跃人数已达到# Page 5# Page 6# Page 718 岁以下 18 - 22 岁 23 - 30 岁 31 - 40 岁 41 岁及以上 11 岁 12 岁 13 岁 14 岁 15 岁 16 岁 17 岁 18 岁 19 岁 20 岁 21 岁 22 岁 23 岁 24 岁 25 岁 26 岁 27 岁 28 岁 29 岁 30 岁 男 女 青年白领群体是微博用户的主力群体。 30 岁以下青年群体作为 微博 的 主要用户, 占比达到 80% 以上; 18 - 30 岁用户占比接近 70% 。 11 - 21 岁 年龄段的 女性微博用户相对活跃; 21 - 33 岁年龄段 的 男性微博用户相对更加活跃;# Page 8数据来源:微博数据中心 2016 年微博用户人群属性 01 1 线城市 , 16% 2 线城市 , 25% 3 线城市 , 26% 4 线及以下 , 30% 港澳台及海外 , 2% 就微博用户的分布城市发展水平来看,微 博用户呈现进一步向下沉淀趋势, 二、三线占据微博整体用户的半壁江山; 受 区域经济、人口结构等多因素影响 ,珠 三角、长三角、北京等经济发达地区以及人口大省的微博用户占比较大。 >0.0% >0.5% >2.0% >4.0% >6.0%# Page 9# Page 10数据来源:微博数据中心 微博会员第三季度人数 (VIP) 增长 2015Q3 2016Q3 2015 - 2016 年 微博会员 (VIP) 增长趋势 15Q1 15Q2 15Q3 15Q4 16Q1 16Q2 16Q3 2016 年,微博会员继续发展,会员人数不断增加,截止到 11 月底,日均活跃微博会员人数为 750 万 。 会员优先具有微博所有新功能的优先使用权,如 登录记录 、 博文换行、评论动图 等功能。不断丰富的功能体验是用户升级 VIP 的重要 因素。三季度,微博会员人数较去年同期增长接近 85% 。 微博 会员第三季度人数较去年 增势 明显 02# Page 11# Page 12数据来源:微博数据中心 会员 用户人群属性分析 02 10% 44% 36% 7% 3% 11 - 17 岁 18 - 22 岁 23 - 30 岁 31 - 40 岁 41 岁及以上# Page 13# Page 14# Page 15# Page 16# Page 17# Page 18# Page 19数据来源:微博数据中心 11 岁 12 岁 13 岁 14 岁 15 岁 16 岁 17 岁 18 岁 19 岁 20 岁 21 岁 22 岁 23 岁 24 岁 25 岁 26 岁 27 岁 28 岁 29 岁 30 岁 90 、 95 高学历成观看短视频主力用户 03# Page 20# Page 21# Page 22数据来源:微博数据中心 三季度微博直播 场次超过 2300 万场 03 2016 年三季度, 微 博直播 场次 超过 2300 万场。 平均每天开播 26 万场,观看 人数达 538 万。 三季度直播场次较上季度增长 124% 。 2016Q2 2016Q3 第三季度微博直播场次较上季度翻番 直播场次超过 2300 万场# Page 23数据来源:微博数据中心 女生主播明显高于男生, 95 、 90 后成主力军 03 27% 53% 73% 47% 主播 观众 17% 43% 33% 4% 2% 11 - 17 岁 18 - 22 岁 22 - 30 岁 31 - 40 岁 40 岁以上 主播 观众 年 龄 性 别 对用户进行分析, 主播以女性为主,男性观众则占比略高 ; 分年龄段来看, 七成 以上主播主要聚集在 18 - 30 岁之间。# Page 24# Page 25 The same call, in code.
The capture above came back as markdown. These examples add a key, so you get browser rendering, proxies, and concurrency on weibo.com.
import { SpiderBrowser } from "spider-browser";
const spider = new SpiderBrowser({
apiKey: process.env.SPIDER_API_KEY!,
});
await spider.connect();
const page = spider.page!;
await page.goto("https://weibo.com");
// No selectors, no schema. Spider reads the page and names the fields.
const data = await page.scrape();
console.log(data);
await spider.close(); import { Spider } from "@spider-cloud/spider-client";
const spider = new Spider({ apiKey: process.env.SPIDER_API_KEY! });
const result = await spider.scrapeUrl("https://www.weibo.com", {
return_format: "markdown",
});
console.log(result); Ready for volume? Get an API key →
Fields you can pull.
Spider names these from the page. The capture above came back as markdown; the same
call with return_format: "json" returns them as keys.
What weibo.com costs to scrape.
The capture above cost $0.007432 to fetch. Pricing is $1 per GB of pre-transformation bandwidth plus $0.001 per CPU minute, so a page like this one lands at a fraction of a cent. Failed requests are billed at $0.
- Free balance on signup
- No card required to test
- Balance never expires
Run it keyless, no account
More International scrapers.
Mercado Libre Scraper
Extract product listings, seller ratings, pricing in local currencies, and shipping data from Mercado Libre.
Rakuten Scraper
Extract product listings, store ratings, cashback offers, and pricing data from Rakuten Japan marketplace.
Flipkart Scraper
Extract product listings, seller data, pricing in INR, and delivery estimates from Flipkart India store.
Start scraping weibo.com.
You already have the call. A key raises the rate limit and turns on browser rendering, proxies, and concurrency. Balance never expires, and top-ups go through secure checkout.