自动采集数据(自动采集数据给到后端更新的技术架构是什么?)
优采云 发布时间: 2021-09-13 20:02自动采集数据(自动采集数据给到后端更新的技术架构是什么?)
自动采集数据给到后端更新,简单说,就是前端需要一个函数,把用户采集的网页链接,转换成用户所需要的redis对象即可。springcloud从2.0开始就支持开启redis服务了,2.1的版本可以自动配置即可。redis的所有命令和类都是java直接写的,不需要再写spring.redis.jar之类的依赖。另外推荐我个人的github项目:fabrics/cloud-redis。
如果没有redis,
技术架构的设计我有一些浅薄的认识。关于一个项目的自动采集,我的技术架构是以下这样的:1.在程序的生命周期内根据服务端数据源的要求,获取数据2.如果要自动采集,就要设置最佳路由3.设置最佳路由,那么这些数据来源的相应数据也要找到4.保存到数据库5.把数据返回给客户端6.数据源返回给客户端,数据返回客户端后还需要从客户端获取最佳路由的数据返回,这样可以节省最短的时间,提高数据接收的效率。
整个流程的细节也有一些注意的地方:1.一个模块内一般只需要设置一条路由,也就是说,我只有有数据时,才会去数据库查询。2.通过短连接(如电话号码)和post方式请求,服务端会返回一个响应,以示歉意。3.这个数据返回后,不会马上消失。一般得等服务端处理完这个响应后才能再返回给客户端。这样客户端就能从中节省时间。
4.如果要自动采集,就要设置最佳路由。设置好最佳路由后,要把它写到jar包里,然后再去fabric.client.java中加载。这样服务端返回给客户端的这个响应才能是自动采集来的数据。5.设置最佳路由是为了保证返回的数据准确性。如果返回的是乱码,返回给客户端的这个消息就是java写的伪造数据。