APACHE KAFKA 快速起步

Kafka快速起步指南。 1、获取KAFKA 下载 最新版本的Kafka并解压: 2、准备Kafka环境 注意: 本地环境需要安装 Java 8+ 运行下面命令开启Kafka中内置的Zookeeper服务 打开另一个终端运行Kafka代理服务: 当所有服务都成功启动,一个简单的单机Kafka环境就准备好了. 3、创建一个消息主题 Kafka是一个分布式事件流平台,它允许您跨多台机器读、写、存储和处理消息(在官方文档中也称为事件 )。 示例事件有支付事务、来自移动电话的地理位置更... ... [查看更多]

Views: 390

3-使用storm-starter测试集群

安装maven 官方示例位于storm安装文件夹下面example下的storm-starter下 安装maven3.6 (3.5也可) 下载地址 配置环境变量 vi ~/.bash_profile 修改配置 /conf/settings.xml 注意: 默认的本地仓库(localRepository)是在~/.m2/repository/ 也可以根据需要自定义在合适的位置。 编译打包starter项目 编译前,如果你的虚拟机可用内存小于4G,需要首先修改一下文件的并行度,避... ... [查看更多]

Views: 364

消息队列介绍

Kafka分布式消息系统被认为是一种消息引擎系统,或者消息队列中间件。 队列(Queque)是一种先入先出(Fist In First Out - FIFO)的线性表数据结构, 可以使用数组或者链表实现队列, 一个队列需要维护两个指针, head指向队首, tail指向队尾, 移动队尾添加元素(入队), 移动队首指针删除元素(出队). 实际生活中,队列的应用随处可见,比如排队、挂号、传递过程都可以用队列来描述或者实现。 什么是消息队列 生产出美味的巧克力需要三道工序:首先将可可豆磨... ... [查看更多]

Views: 231

1- 初识Storm

什么是Storm? Storm为分布式实时计算提供了一组通用原语,可被用于“流处理”之中,实时处理消息并更新数据库。这是管理队列及工作者集群的另一种方式。 Storm也可被用于“连续计算”(continuous computation),对数据流做连续查询,在计算时就将结果以流的形式输出给用户。它还可被用于“分布式RPC”,以并行的方式计算。 Storm可以方便地在一个计算机集群中编写与扩展复杂的实时计算,Storm用于实时处理,就好比 Hadoop 用于批处理。Storm保证每个... ... [查看更多]

Views: 243