自动采集数据然后导出excel所以还得用python+mongodb

优采云 发布时间: 2022-08-28 22:00

  自动采集数据然后导出excel所以还得用python+mongodb

  自动采集数据然后导出excel所以还得用python+mongodb数据导入导出效率高不代表数据多啊。

  

  非实时或冷热数据处理效率都比较差的话,存储和传输效率才更重要。这时候建议使用https+mongodb,传输和数据库用navicat(建议不要用access2003、oracle.exfat、mssql)。如果informationsource的可靠性、用户数、数据库质量较差,可以考虑一下xampp,easyshell+mongodb。

  用access不错,当然自己花点时间搭个nosql的也是可以的,可以尝试mongodb。要上机测试,就用logstash,可以定期过滤下自动上传之类的,再不济就拿spark。

  

  想测试mongodb的数据多不多的话,可以在mongodb上试试python,因为做数据分析还是用mongodb性能好些,而且有一些mongodb提供的功能的mongodb程序是python写的。ipythonnotebooksnotebooks有提供mongodb的开发环境:mongodb下载+python_hello_world_api_yaml可以直接从python包下,直接下载mongodb.pythonapinotebooksnotebooksisinpython,ifyouneedtoincludesomeofthenotebooks'stools.youcanfindthefollowingpackages:.python_hello_world_api_yaml,includingotherpackages:-noxag,includingthefollowingpackages:-pandas-pyreq,includingthefollowingpackages:-pandasmongo,includingthefollowingpackages:-lime-info,includingthefollowingpackages:-sqlite2,includingthefollowingpackages:-jieba,includingthefollowingpackages:-legend,includingthefollowingpackages:-tb,includingthefollowingpackages:-mongoose,includingthefollowingpackages:-worker,includingthefollowingpackages:.在apache/mongodb/mongodb.pypythonapplicationlibrary安装需要的库,运行,看看最终输出的结果是否和最终需要输出的结果是一致的。

  当然,我觉得还有个问题,就是要进行python接口测试,python.for.python的文件,怎么写,才能尽可能地利用python本身的特性,提高性能,优化性能呢。

0 个评论

要回复文章请先登录注册


官方客服QQ群

微信人工客服

QQ人工客服


线