php数据接口怎么设计?
问题:
服务a提供数据一天100w的日志数据, b需要写一个接口去抓取服务a的数据,(假定a的100w可以模拟成从数据库取出来) , 现在需要设计一个接口,保证接口可以比较快速的获取100w的数据,获取数据突然中断可以断点继续获取,同时还要保证接口安全
方法:
我做过同样的一个数据统计的服务,
a服务,是一台服务器(a服务器)
b服务,在另外一台服务器上面(b服务器)
最终解决方案是a服务器的数据最终通过文件存储下来,
然后在a服务器上面通过计划任务用 脚本(php的curl)或者简单点 直接rsync命令同步到b服务器,
然后b服务器扫文件内容,然后将数据归档,去重,入库等。。
更多相关知识,请访问!