亚马逊AWS官方博客

Category: AWS Big Data

使用HAQM Glue构建无服务器流式ETL作业

在本文中,我们将深入探讨HAQM Glue中的流式ETL,介绍此功能如何帮助您在流式数据上构建持续的ETL应用程序。HAQM Glue中的流式ETL基于Apache Spark的结构化流引擎,该引擎提供一种高容错、可扩展且易于实现的方法,能够实现端到端的流处理。本文向大家展示使用HAQM Glue构建流处理管道的示例,其中包括从 HAQM Kinesis Data Streams当中读取流式数据、发现schema、运行流式ETL并将结果写入至接收端。

HAQM Redshift 跨数据库查询入门指南(预览版)

HAQM Redshift是一套快速、可扩展且安全的全托管云数据仓库,能够以简单、经济、高效的方式,使用标准SQL以及现有ETL、商务智能(BI)和报告工具对你的数据进行分析。每一天,成千上万的客户使用HAQM Redshift处理EB级别的数据,并为商务智能、预测分析与实时流分析等强大的分析工作负载提供支持。

使用 Simple Replay 实用程序简化 HAQM Redshift RA3 迁移评估

我们将介绍有关通过 HAQM Redshift Simple Replay 实用程序自动评估 HAQM Redshift RA3 实例的步骤。如果您使用旧一代 DS2 和 DC2 节点类型在 HAQM Redshift 中运行生产工作负载,则可以使用此解决方案自动从源生产集群中提取工作负载日志并在隔离的环境中重播这些日志,以便您直接无缝地对比这两个 HAQM Redshift 集群。

EMR与外部KDC集成进行身份认证

安全始终是亚马逊云科技的头号工作,也是Aamzon EMR这项托管Hadoop服务的首要原则。很多客户越来越意识到安全的重要性,尤其数据安全的重要性,在客户进行全球化业务扩展的时候,面对各国家区域的合规要求,更多采用Kerberos在EMR上进行身份验证。但是很多hadoop用户第一次尝试集成EMR和Kerberos时,尤其面对安全审计部门要求而初次使用EMR与外部Kerberos进行集成时,往往由于对Kerberos本身不熟悉,对EMR不熟悉,导致配置错误而无法集成,本文提供了步骤指南,帮助用户在亚马逊云上从头构建的关键步骤包括,创建Kerberos并集成EMR和LDAP。