Kafka关键字列表
今天我们要讲的大数据公司叫作Confluent,这个公司是前LinkedIn员工出来后联合创办的,而创业的基础是一款叫作Apache Kafka的开源软件。
经过长达一年的测试期后,Azure HDInsight的Apache Kafka已经做好了承担生产工作负载的准备,将与微软联合推出相关工作的解决方案。微软称,通过整合,将Kafka作为Azure的托管服务,有助于消除某些企业在超连接的世界中抢占商机的障碍。
日志就像是分布式文件系统中的一个文件,在这个系统里,日志被复制到多台机器上,被持久化到磁盘,并支持高吞吐的线性读取和写入。
Kafka从首次发布之日起,已经走过了七个年头。0 10 0版本里开始引入的Streams API在1 0 0版本里继续演进,改进了builder API(KIP-120),新增了用于查看运行时活跃任务的API(KIP-130)和用于聚合分区的cogroup API(KIP-150)。
重磅开源KSQL:用于Apache Kafka的流数据SQL引擎
底层的度量指标无法告诉我们应用程序的实际行为,所以基于应用程序生成的原始事件来自定义度量指标可以更好地了解应用程序的运行状况。
本文为您盘点了14个最常见的Kafka面试题,同时也是对Apache Kafka初学者必备知识点的一个整理与介绍。·每个分区使用一个单独的写入器,每当你发现一个网络错误,检查该分区中的最后一条消息,以查看您的最后一次写入是否成功
Confluent Cloud:AWS中的Apache Kafka即服务
根据购买计划的不同(参见表格)读取负载的可用吞吐量在1MBps到10MBps之间,写入吞吐量减半。该报告的调查结果显示
从上个月AWS服务器宕机事件中,我们应该可以看出,只有一个云是不够的。总的来说,你至少应该倾向于开源、开放标准和开放API的特定供应商解决方案。记住,你的云供应商永远会想着如何让你离不开他们。
Jay Kreps谈基于Apache Kafka和Kafka Streams的分布式流处理
借助Apache Kafka和Kafka Streams框架可以更好地搭建以流为中心的架构和开发分布式流处理应用程序。Kafka Streams是一个Java类库,可以用来构建具有容错能力的分布式流处理应用程序。
Confluent宣布企业版Kafka支持多数据中心复制功能
多数据中心复制(Multi-datacenter replication):借助多数据中心(MDC)复制功能能够实现安全的多集群副本,并且能够通过中心化的配置维护这些位于不同地理位置的集群。
Confluent宣布企业版Kafka支持多数据中心复制功能
最新的Confluent企业版支持多数据中心复制、自动数据平衡和云迁移功能。多数据中心复制(Multi-datacenter replication):借助多数据中心(MDC)复制功能能够实现安全的多集群副本,并且能够通过中心化的配置维护这些位于不同地理位置的集群。
Confluent Platform 3.0支持使用Kafka Streams实现实时的数据处理
传输中的数据可以使用SSL TLS进行加密,它的加密发生在数据生产者到Kafka broker之间(服务器),从Kafka broker到数据消费者之间以及Kafka集群内部broker之间的通信。
LinkedIn详细介绍了由他们开源的Kafka Monitor
多个Kafka Monitor跨多个Kafka集群运行大量的测试场景,这可以由一个复制服务通过镜像方式捕获跨集群的总体延迟指标。Kafka项目本身包含一些系统测试,每次代码捡入时都会运行,鉴于和Kafka主干的紧密关系,LinkedIn计划实现类似的系统测试。
LinkedIn的工程师详述了生产环境下Kafka的调试和最佳实践
在本文中,LinkedIn的软件工程师Joel Koshy详细阐述了他和一个工程师团队是如何解决生产环境下Kafka的两次事故的。Kafka代理之间不清楚首席代理选举的规则,这会导致处于分区的首席代理在完成复制延迟过程中的失败会引起偏移量倒转。
Neha Narkhede: 借助Apache Kafka实现大规模流处理
在QCon纽约2016大会上,Neha Narkhede在演讲“借助Apache Kafka实现大规模流处理”中介绍了Kafka Streams,这是Kafka用于处理流式数据的新特性。
现在已经没有人会否认大数据给商业世界带来了一场风暴,这场风暴也将席卷航空旅游业,最主要的原因是这个行业的发展方向将是:为旅行者个性化的旅行服务。
在近期举办的QCon London大会上,Ben Stopford在他的演讲中极力主张拥抱去集中化的思想、构建基于服务的系统,并通过流处理工具解决分布式状态所引起的问题。
企业网版权所有©2010-2025 京ICP备09108050号-6京公网安备 11010502049343号