Kafka伪集群环境搭建

创建Zookeeper集群(3个) 前提是已经装好Java JDK8+并配置好环境变量。 建议Kafka集群使用专有的Zookeeper集群进行协调管理。 也可以使用Kafka内置的bin/zookeeper命令启动集群, 默认配置是config/zookeeper.properties 创建3个zk配置文件 修改配置文件内容如下 根据配置创建对应的dataDir以及dataLogDir,并在dataDir下创建myid文件。 修改Kafka集群配置 vi server-1... ... [查看更多]

Views: 364

Kafka集群部署的讨论

只有单台机器构成的 Kafka 伪集群只能用于日常测试之用,根本无法满足实际的线上生产需求。而真正的线上环境需要仔细地考量各种因素,结合自身的业务需求而制定。下面我就分别从操作系统、磁盘、磁盘容量和带宽等方面来讨论一下。 操作系统 首先我们先看看要把 Kafka 安装到什么操作系统上。 目前常见的操作系统有 3 种: Linux Windows macOS。 如果考虑操作系统与 Kafka 的适配性,Linux 系统显然要比其他两个特别是 Windows 系统更加适合部署 Kaf... ... [查看更多]

Views: 282

关于Kafka的版本号

这个内容实在是太重要了,甚至是你能否用好 Kafka 的关键。 Kafka 流行的几种 Kafka 发行版本质上都内嵌了最核心的 Apache Kafka,也就是社区版 Kafka,那今天我们就来说说 Apache Kafka 版本号的问题。 那么现在你可能会有这样的疑问:我为什么需要关心版本号的问题呢?直接使用最新版本不就好了吗?当然了,这的确是一种有效的选择版本的策略,但我想强调的是这种策略并非在任何场景下都适用。如果你不了解各个版本之间的差异和功能变化,你怎么能够准确地评判某 ... ... [查看更多]

Views: 151

APACHE KAFKA 快速起步

Kafka快速起步指南。 1、获取KAFKA 下载 最新版本的Kafka并解压: 2、准备Kafka环境 注意: 本地环境需要安装 Java 8+ 运行下面命令开启Kafka中内置的Zookeeper服务 打开另一个终端运行Kafka代理服务: 当所有服务都成功启动,一个简单的单机Kafka环境就准备好了. 3、创建一个消息主题 Kafka是一个分布式事件流平台,它允许您跨多台机器读、写、存储和处理消息(在官方文档中也称为事件 )。 示例事件有支付事务、来自移动电话的地理位置更... ... [查看更多]

Views: 389

消息队列介绍

Kafka分布式消息系统被认为是一种消息引擎系统,或者消息队列中间件。 队列(Queque)是一种先入先出(Fist In First Out - FIFO)的线性表数据结构, 可以使用数组或者链表实现队列, 一个队列需要维护两个指针, head指向队首, tail指向队尾, 移动队尾添加元素(入队), 移动队首指针删除元素(出队). 实际生活中,队列的应用随处可见,比如排队、挂号、传递过程都可以用队列来描述或者实现。 什么是消息队列 生产出美味的巧克力需要三道工序:首先将可可豆磨... ... [查看更多]

Views: 231