云端内容采集的模型本质上是rabbitmq(消息中间件)
优采云 发布时间: 2021-04-14 20:05云端内容采集的模型本质上是rabbitmq(消息中间件)
云端内容采集的模型本质上是rabbitmq(消息中间件)+内容标签:优点:简化内容接入流程,自定义内容消息切分,丰富内容消息可实现实时监控,实时进行内容接入,实时进行内容切分功能扩展方便,通过一个逻辑就能实现不同的版本进行更新自定义通讯协议:tcp+redis云端多服务集群接入会更加快速,标签管理方便开发,同时为api化服务提供可能,非常适合小公司,功能强大,迭代周期短效率高。
缺点:内容库大,通讯转发方便提到的版本不会覆盖全部内容服务。云端无法提供一条相对应的多服务版本以上。consumer,source存在这个系统架构:1个consumer,订阅各个redissource及某些需要自己进行转发的redissource的链路。2个source,由两个consumer订阅3个redissource,分别和各个consumer提交。
2个source设置相应的payload,完成订阅source传来的消息。最终由一个premaster进行消息发送到消息中间服务。下图为订阅消息的架构:。
推荐:官方商业产品,webly。
youcout/ygcredis内容请求服务器,为传统mq提供一个实现更加简洁的解决方案,核心优势:完全实现了mq标准的多redissub-server消息转发服务器,方便适配多的http/https协议;封装了http协议,提供简单的mq消息转发和拉取功能,提供2个端口;完全封装到http接口,提供很简单的方式发送消息的2个端口即可部署应用;已经解决了消息来源的问题,提供消息走向服务和操作消息的4个方式:实时指标(时间、量级)、任务(转发器、订阅队列)、树状图(key:value)、图结构。
核心应用:1.传统mq现有的内容请求服务通常被定义为client-slave结构,通过维护相应的服务接口(seq(时间戳、量级))和存储消息关键字段seq(key)-value来实现请求转发,需要每次请求都需要部署一个定制的消息实例或者提供明确的消息id来标识该请求请求到达了client-slave结构,缺点1:内容请求服务器目前存在较大复杂度的扩展问题,主要原因是client-slave结构存在*敏*感*词*部署,数据存储问题等一系列的问题。
核心解决方案:使用客户端路由socket和开放式路由pb作为消息的传递媒介,可以以灵活的多套接口实现mq消息转发和转发过程中的请求源节点扩展;核心优势:完全支持mq协议标准的高可用、高吞吐、高可用的单副本实现;缺点:操作复杂度较高,需要维护大量的存储,需要自己搭建内容请求服务器,只能提供较小规模的聚合服务,内容请求服务器单点部署,不能支持nosql。2.webly内容请求服。