云端金融数据BI分析平台的整体架构(一):成品预览
优采云 发布时间: 2021-03-27 01:46云端金融数据BI分析平台的整体架构(一):成品预览
本章是构建云数据BI分析平台的开始。首先,我们提供了这一系列课程的概述:
第1章:云金融数据BI平台解决方案概述
第2章:使用阿里云服务器(ECS)和数据库(MySql)
第3章:首次接触开源BI工具Superset
第4章:Python脚本获取JQData的免费市场数据
第5章:了解选项(Option)主题的基本属性
第六章:ETF期权市场的整体交易情况
第7章:ETF期权市场中基础合约的每日交易比较
第8章:ETF期权市场中看涨期权和看跌合约的每日交易比较
第9章:特定目标合约的每日交易比较分析
第十章:特定目标合约的每日PCR比较分析
此期间的目标:
介绍云财务数据BI平台的总体架构,从宏观角度掌握系统结构和课程内容,并提前了解本课程的最终可实现效果。
此问题的指南:
一、成品预览
作为本系列课程的开始,有必要提前展示本系列课程的最终效果,以便对课程有更直观的了解。不要闲话,只需转到图片:
图1显示已完成的财务数据BI平台
上图显示了本课程中讲授的数据分析平台对ETF期权交易数据的分析效果。该数据分析平台是一种通用的数据分析解决方案,不仅可以用于分析ETF期权数据,还可以用于可视化分析和显示任何结构化数据,例如运营指标,业务数据,投资风险控制指标等。 ,这完全取决于用户将数据“注入”到系统中的类型。
二、技术架构
该系统不是单个IT工具手册,而是具有一个完整的“ data 采集”-“数据清理”-“数据存储”-“数据分析”-“可视显示”的闭环,并结合了实际ETF期权合约交易数据结构可视化财务数据分析案例,具体技术解决方案结构如下图所示:
图2系统技术架构图
数据源使用市场上常见的财务数据提供者的数据。其中,Jukuan定量平台的数据API可以免费使用一年。完成某些任务后,Tushare pro数据可以获得相应的模块数据权限。成熟的商业数据提供商(例如,大智慧和东方财富)的数据接口通常需要付费(每年从数千到数万不等,请忽略本地暴君)。本文中的示例均基于Jukuan API的免费数据。为了促进课程内容的复制,建议访问相同的数据源(本文中的后续数据源默认为Jukuan API)。
选择数据源后,您需要开发一个相应的python脚本来执行数据采集和清理,以达到定期从数据源读取采集数据并将其写入磁盘后的目的。 。 python脚本每天自动运行。在阿里云服务器ECS(Windows Server 2008r版本)上。
本着开源(免费)的精神,系统选择MySql 5. 6作为系统的基础数据库,并且该数据库需要在阿里云数据库RDS上运行。
作为在线数据BI系统,最重要的当然是最终确定一个免费且高价值的在线报告工具。 Airbnb技术团队分享了自己开发的报告工具Superset(免费)。受其启发的全球数据科学家,本文还将使用Superset来开发和显示后续数据分析示例。同时,Superset还需要在上述阿里云服务器ECS(Windows Server 2008r版本)上运行。
部署上述技术解决方案后,用户可以通过任何连接到互联网的终端浏览器(例如PC,笔记本电脑或移动电话)访问实时云数据报告(超级集)。
此外,如果您有现成的服务器或PC,只要机器可以访问Internet,就可以用来替换上图中的云服务器ECS和云数据库RDS(数据库和服务器可以使用同一台计算机),这节省了租用云服务器的成本,并真正使整个程序完全免费。唯一的缺陷是本地计算机面临的物理环境可能不稳定,例如家庭网络断开连接,电源故障,硬盘损坏等,从而导致服务器无法自动采集并清理服务器中的数据。长期稳定。如果您租用云服务器,则可以避免这种情况。心烦意乱。
三、竞争产品分析
在上述技术框架中,“数据源”,“数据库”和“应用程序层”有多种竞争产品选择。
从理论上讲,技术解决方案的每一层都可以从上述选项中选择最方便的工具来构建自己的数据分析平台,但是,一方面,为了跟上本课程的后续演示,它是建议根据王爵士的选择进行配置。另一方面,大多数其他选项是收费的商业应用程序。 Wang先生目前探索的解决方案是唯一完全免费的组合(在不租用云服务器的前提下)(手动操作)。
四、费用计算
模块
选择这篇文章
费用
数据源
Jukuan API
免费使用一年
数据采集
Python脚本
免费
数据库
MySql 5. 6
免费
数据库服务器
阿里云RDS
每月租金(如果有的话,您可以使用自己的免费数据库服务器)
应用层
Superset 45
免费
应用服务器
阿里云ECS(Windows Server 2008r)
每月租金(如果有的话,您可以使用自己的免费应用程序服务器)
表1费用计算表
合理选择系统解决方案可以真正实现零成本。如果您拥有稳定且可以长期使用的服务器或本地PC,则可以完全放弃阿里云服务器和数据库的租用,从而获得真正完全免费的数据分析平台。
更多互动:
a。推荐高质量的免费财务数据源:只需注册并使用。
b。请注意并要求赞赏。个人网站:“入门导航”-“ 原创 文章”将同时更新。
c。扫描QR码并添加作者的微信帐户以加入交流学习小组:
扫描QR码即可加入论坛