又交了1000多数据给客户

客户对数据没有意见,对生产数据的速度有意见了,认为我们的效率太低了,都不够他们一天训练用的数据量。

今天用了phantomJS来尝试换一种更高效的数据抓取方式,代码还没有写完进行测试,cookie是绕不开的大问题,weibo对数据访问接口又做了新的限制,代理IP池还剩下20几个,又要买一批了!太烦躁了


PS:又流了一次血,虽然几滴。。。。。

图片发自简书App
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容