使用Datax将MySQL中的数据导入到TableStore中
背景 由于我们的数据在MySQL中的数据已经快接近亿级别,在访问MySQL并发读写的时候遇到了很大的瓶颈,严重的Block了我们的业务发展,主要从白天十点到晚上十点之前,并发访问的用户比较多,我们在写的前面加上了队列,系统后台自动同步。但是读上没有很好的办法解决,所以我们急需一个有较高吞吐量的实时
阿里技术女神的成长之路(有生活素颜照哦)
从入职到现在2年多的时间里,经常有人问起:为什么要做程序员?为什么要来阿里? 这里不聊技术,不聊项目,只是简单分享,邻家女孩初长成,一路走来的风景……
表格存储技术方案实践及客户案例分享
表格存储是一款2014年10月份正式商业化的NoSQL数据存储服务,在商业化之前,早在2010年就在阿里云内部开始使用,云邮箱和云OS都是表格存储最早的一批用户。到目前,无论是在阿里集团内部还是在公共云环境上,在移动社交、金融风控、电商物流、存储备份、物联网IoT、日志监控、大数据分析报表等领域
日志服务接入方式之loghub log4j appender
使用Loghub Log4j Appender,您可以控制日志的输出目的地为阿里云日志服务,使用Loghub Log4j Appender的好处 客户端日志不落盘:既数据生产后直接通过网络发往服务端。 对于已经使用log4j记录日志的应用,只需要简单修改配置文件就可以将日志传输到日志服务。 异
日志服务接入方式之log producer library
Producer Library解决的问题: 客户端日志不落盘:既数据生产后直接通过网络发往服务端。 客户端高并发写入:例如一秒钟会有百次以上写操作。 客户端计算与IO逻辑分离:打日志不影响计算耗时。
号外号外~~OSS监控服务上线啦!!
如何让OSS服务质量透明?如何全面、快速掌握服务运行状态?如何更容易自助定位问题? OSS监控服务来了——服务好助手,问题调查神器助你一臂之力!!
解密OpenTSDB的表存储优化
本篇文章会详细讲解OpenTSDB的表结构设计,在理解它的表结构设计的同时,分析其采取该设计的深层次原因以及优缺点。它的表结构设计完全贴合HBase的存储模型,而表格存储(TableStore、原OTS)与HBase有类似的存储模型,理解透OpenTSDB的表结构设计后,我们也能够对这类数据库的存储
表格存储最佳实践:一种用于存储时间序列数据的表结构设计
在时间序列存储的场景,例如监控数据或者日志数据,通常比较难解决的是写入的问题,传统的数据库难以承载如此大数据量、高并发的写入压力。 表格存储能够提供非常优秀的写入能力,在阿里内部得到到了正好的实践和证明。但是若要发挥其强度的写入能力,需要有一个良好的表结构设计。 本篇文章给出了一个存储时间序
日志服务接入方式之Unity 3D篇
通过Web Tracking功能非常方便的收集Unity 3D的日志,这篇文章将以收集Unity Debug.Log为例,讲解如何将Unity日志收集到日志服务中。
日志服务(原SLS)新功能发布(13)--Logtail支持自定义标识自动扩容机器组
背景 日志服务提供多种途径帮助用户方便快速写入日志数据到指定日志库,具体包含Logtail客户端、各种语言SDK、TrackingPixel以及REST API等方式,详细描述请参考文档“如何写入日志”。 其中Logtail客户端支持快速接入单行、JSON、分隔符等多种日志文件格式以及syslo
基于表格存储的高性能监控数据存储计算方案
随着软件架构的愈发复杂,借助强大的监控系统提高工作效率已经成为工程师的共识。监控系统会产生很多的监控信息,同时也要求对这些监控信息进行运算,此时就要求有一个扩展能力强、性能高的的存储系统来支撑监控信息的存储。本文以表格存储为例介绍NoSQL系统如何助力监控系统的构建。
日志服务接入方式之JS篇
本篇主要介绍使用JS SDK收集浏览器端的数据,附件是我们提供的JS库,使用它可以非常方便的收集浏览器端的信息,比如用户操作系统类型、浏览器类型和版本、屏幕分辩率等。除此以外,JS SDK还支持收集用户自定义的数据,比如在事件响应中收集特定的信息。
Windows下编译使用Aliyun OSS PHP SDK
WIN环境下搭建Aliyun OSS PHP SDK编译运行环境。从PHP的安装逐步完成,SDK的编译运行。即使没有任何PHP基础,也能顺利完成。
日志服务(原SLS)新功能发布(12)--日志投递ODPS支持自动建表授权
背景 日志服务支持“日志消费”,“日志索引”和“日志投递”三种消费模式,“日志消费”功能默认支持,支持日志数据上传到服务端3秒内进行实时消费,并且支持保留48小时,“日志索引功能”支持30秒内进行查询,并且在创建时支持保存7天/30天/90天,“日志投递”能够在分钟级别将数据投递至OSS或者Max
OAS的使用——控制台和命令行工具
OAS提供命令行工具oascmd.py,命令行工具可以给用户一个快捷的使用工具,不需要任何代码编写就可以使用OAS的功能,在实际使用中命令行工具更多作为一种测试工具。
阿里云表格存储技术分享
表格存储(Table Store)是构建在阿里云飞天分布式系统之上的NoSQL数据存储服务,提供海量结构化数据的存储和实时访问。表格存储以实例和表的形式组织数据,通过数据分片和负载均衡技术,实现规模上的无缝扩展。应用通过调用表格存储 API / SDK 或者操作管理控制台来使用表格存储服务。
最佳实践:如何基于MNS实现事务消息
事务消息的背景: 有时候我们需要实现本地操作和消息发送的事务一致性功能。即:消息发送成功,则本地操作成功;反之,如果消息发送失败,本地操作失败(成功也需要rollback)。保证不出现操作成功但消息发送失败;或者操作失败但消息发送成功的情况; 另外,消费端,我们也希望消息一定被成功处理一次,不会
最佳实践:如何基于MNS实现一对多拉取消息消费模型
如何实现一对多拉取消息消费模型 问题背景: 阿里云消息服务MNS 已经提供队列(queue)和主题(topic)两种模型。其中队列提供的是一对多的共享消息消费模型,采用客户端主动拉取(Pull)模式;主题模型提供一对多的广播消息消费模型,并且采用服务端主动推送(Push)模式。上面两种模型基
日志服务将于6/12正式商用:给各位用户的一封信
[日志服务(原SLS)](https://www.aliyun.com/product/sls/)将于2016年6月8日正式商用,向所有互联网用户提供一站式的日志解决方案。(在6月8日前只出账单不扣费,请关注你在阿里云上的账单,计费方案请[参考](https://help.aliyun.com/do
表格存储在互联网风控和金融数据服务上的应用实践
引言 当前,第三方支付、P2P网贷、宝宝类理财、众筹等金融产品层出不穷,随着金融知识的普及,全民参与又进一步促进了互联网的发展。海量交易数据,实时在线访问,业务快速的迭代变化都对传统金融解决方案提出了更高的要求,而互联网金融本身的开放性,低门槛,征信信息的缺乏,又容易发生各类风险问题,这有给传统金
日志服务(原SLS)新功能发布(10)--Logtail配置支持日志转换、过滤
对于日志收集的客户端,其work pipeline通常包括三个过程:Input,Process,Output。 Input 适配各类日志接入源,目前Logtail支持文本文件、Syslog(TCP流式)两种形式数据写入。 Process 自定义日志处理逻辑,常见的有:日志切分、日志编码转换、
表格存储:使用TableStoreWriter进行高并发、高吞吐的数据写入
表格存储(原OTS)的一大特性是能够支撑海量数据的高并发、高吞吐率的写入,特别适合日志数据或物联网场景(例如轨迹追踪或溯源)数据的写入和存储。这些场景的特性是,会在短时间内产生大量的数据需要消化并写入数据库,需要数据库能够提供高并发、高吞吐率的写入性能,需要满足每秒上万行甚至上百万行的写入吞吐率。针
OSS服务监控、诊断和故障排除
相对于传统的软件运行环境,云数据分布式托管环境虽然解决了很多应用业务在基础设施搭建、运维管理等方面的问题和成本困难,使得应用服务搭建的门槛降低,但是其复杂的云环境,也大大增加了对其监控、诊断和故障排查的难度。 若要成功管理运行在云环境中应用程序,需要主动监视其行为,并熟悉如何诊断和排查自己的应用程
NAS特定场景下buffered io比direct io读性能差问题的调查
最近一位NAS用户在微信上报道了NAS的性能测试报告,报告中测试数据显示buffered io读性能比direct io读要差。这显然和直观的认识不符,在内存充足的情况下,buffered io读的数据一般都在page cache中,每次读都是内存操作,其性能应该远远高于direct io,但测试.
日志服务(原SLS)新功能发布(9)--Logtail配置支持主题(Topic)设置功能
日志服务中日志为日志服务中处理的最小数据单元,采用半结构化数据模式定义一条日志,具体数据模型包括主题(Topic)、时间(Time)、内容(Content)和来源(Source),详细描述请参考核心概念。其中主题(Topic)为用户自定义字段,用以标记一批日志(例如:访问日志根据不同站点进行标记).
通过客户端加密保护数据
客户端加密是指用户数据在发送给远端服务器之前就完成加密,而加密所用的密钥的明文只保留在本地,从而可以保证用户数据安全,即使数据泄漏别人也无法解密得到原始数据。 本文介绍如何基于oss的现有python sdk版本, 通过客户端加密来保护数据。 原理介绍 用户本地维护一对rsa密钥(rsa_pr
日志服务(原SLS)新功能发布(8)--日志服务Web Tracking功能
日志服务通过Tracking功能支持 HTML, H5, iOS 和 Android 平台的数据的数据采集,允许用户自定义维度和指标,使用tracking功能可以采集各种浏览器以及ios、android APP的用户行为信息.
日志服务(原SLS)新功能发布(7)--使用logtail接入JSON/分隔符日志
基于日志做分析时,常常需要结构化解析日志的内容,将日志切分为不同字段,每个字段表示不同的语义,从而精确到字段进行查询、统计、报警等操作。 在日志采集过程中进行结构化解析是一种常见的方式,比如:Logtail、Fluentd可以通过正则表达式匹配日志、提取字段,Logstash通过grok(底层基于
表格存储数据模型和查询操作
本篇文章主要会详细聊一下表格存储的查询操作,以及如何根据业务的需求来设计表结构以支持特定条件的查询。 ? ? ? ?在理解查询操作之前,会简单描述一下表格存储的数据模型,以加深对查询操作的理解。
开启存储的“轻计算”时代(下) ——阿里云云栖大会Tech insight:存储与轻计算专场
4月22日在深圳举行的云栖大会tech insight技术峰会中,阿里云存储的多位主要产品技术负责人齐聚存储与轻计算专场,与大家一起,分享阿里云存储团队在“大存储,轻计算”中的实践以及展望。
使用日志服务LogHub替换Kafka
前几天有客户问到,云上有什么服务可以替换Kafka? 怀着程序员的一丝小小的骄傲回复:日志服务(原SLS)下LogHub功能可以完全替代Kafka等产品,并且在性能、易用性和稳定性上更佳。 但客户将信将疑,于是花了一天时间整理一篇文章,简单从各个角度解释下为何建议用户从自搭Kafka换成
开启存储的“轻计算”时代(上) ——阿里云云栖大会Tech insight:存储与轻计算专场
4月22日在深圳举行的云栖大会tech insight技术峰会中,阿里云存储的多位主要产品技术负责人齐聚存储与轻计算专场,与大家一起,分享阿里云存储团队在“大存储,轻计算”中的实践以及展望。 ?
通过日志服务调试分布式系统
分布式系统的调试是一个大难题,多个进程是如何协作的?如何查看延时消耗在哪里?本位为你揭秘阿里云的调试利器,基于日志服务的Tracer工具。
JAVA模拟PostObject表单上传OSS,实现签名直传
从multipart/form-data编码的标准定义和OSS系统解析POST请求的实现两个方面,阐述OSS官网中的PostObject文档内容,最后给出JAVA实现PostObject直传OSS的代码参考。
ossfs:两个Cache引发的Bug
ossfs是一个可以将OSS的Bucket挂载到本地文件系统的工具,用户可以像操作本地文件一样(ls/cat/stat)操作OSS的Object。
syslog协议介绍
syslog是网络上各种设备将日志收集到日志服务器的一种数据协议,它几乎被所有的网络设备支持,并且能够记录多种事件类型的日志消息,支持syslog的设备常见的有路由器、交换机、打印机等等,甚至unix-like的服务器也可以支持产生syslog消息,用以记录用户的登录、防火墙事件、apache或者n