跳到主要内容
英文版本为准

本页译自英文,由模型翻译。若与英文原文存在差异,以英文原文为准。

快速开始

本指南安装 ruststream-kinesis,启动一个本地 Kinesis,并让第一个服务连上它运行。

安装​

Cargo.toml
[dependencies]
ruststream = { version = "0.7", features = ["macros", "json", "logging"] }
ruststream-kinesis = "0.7"
serde = { version = "1", features = ["derive"] }
tracing = "0.1"

[dev-dependencies]
ruststream-kinesis = { version = "0.7", features = ["testing"] }
tokio = { version = "1", features = ["macros", "rt"] }

ruststream 是框架本身:macros 提供属性宏,json 提供默认编解码器,logging 把服务的日志打印到终端。ruststream-kinesis 是 Kinesis Broker,基于官方客户端 aws-sdk-kinesis 构建。它的 testing feature 加入测试所用的进程内 Kinesis。

这个 Broker crate 有以下 feature,默认全部关闭:

Feature提供的内容
dynamodb-leaseDynamoLeaseStore,让服务的多个实例共享分片(多个实例)
asyncapi生成的 AsyncAPI 文档中每个通道的 Kinesis 细节
testingTestApp 背后的进程内 Kinesis

本地 Kinesis​

LocalStack 在一个容器里运行 Kinesis:

compose.yaml
services:
localstack:
image: localstack/localstack:4.14.0
ports:
- "4566:4566"
environment:
SERVICES: kinesis
KINESIS_LATENCY: 0
docker compose up -d

LocalStack 在 http://localhost:4566 上应答,启动时没有任何流。LocalStack 默认给每次 Kinesis 调用加上延迟,KINESIS_LATENCY: 0 关闭这一延迟。

第一个服务​

src/main.rs
#[derive(Debug, PartialEq, Deserialize)]
struct Order {
id: u64,
amount_cents: u64,
}

#[subscriber(KinesisStream::new("orders").create_if_missing(1))]
async fn take_order(order: &Order) -> HandlerOutcome {
if order.amount_cents == 0 {
tracing::warn!(order.id, "order without an amount dropped");
return HandlerOutcome::drop();
}
tracing::info!(order.id, order.amount_cents, "order taken");
HandlerOutcome::ack()
}

#[ruststream::app]
fn app() -> impl App {
RustStream::new(AppInfo::new("orders", "0.1.0")).with_broker(
KinesisBroker::new()
.endpoint("http://localhost:4566")
.region("us-east-1")
.test_credentials(),
|b| {
b.include(take_order);
},
)
}

take_order 从 orders 流读取 JSON 订单。带金额的订单被 ack,没有金额的订单被丢弃。KinesisStream 指定流,create_if_missing(1) 在订阅打开时创建只有一个分片的流。生产服务省去这一步,由基础设施提供它的流。KinesisBroker::new 只记录配置。endpoint、region 和 test_credentials 让它指向本地的 LocalStack。SDK 客户端在服务启动时才构建。#[ruststream::app] 把 app 变成 main;在手写形式中,run_main 做同样的事。

运行服务:

cargo run -- run

订阅在流的最新处打开,所以它读取服务启动之后发布的记录。在另一个终端里,用 AWS CLI 发布一个订单:

export AWS_ENDPOINT_URL=http://localhost:4566 AWS_REGION=us-east-1 \
AWS_ACCESS_KEY_ID=test AWS_SECRET_ACCESS_KEY=test
aws kinesis put-record --stream-name orders --partition-key customer-7 \
--cli-binary-format raw-in-base64-out --data '{"id":1,"amount_cents":1250}'

服务记录一条带订单 id 的 order taken 日志。Ctrl+C 停止服务。

第一个测试​

示例文件里还有两个测试。每个测试都用 TestApp::start 启动同一个 app,发布一个订单,然后检查 take_order 如何结算它。在测试中,KinesisBroker 连接的是进程内 Kinesis,所以测试不需要 LocalStack:

cargo test

测试 Kinesis 服务逐一讲解这些测试,以及进程内 Kinesis 模拟了什么。

从 aws-sdk-kinesis 迁移​

Rust SDK 一次只读取一个分片、发起一次调用,基于它的服务要围绕这些调用自己编写消费者。下表列出每一部分在 RustStream 中的位置:

aws-sdk-kinesisRustStream
aws_config::load_from_env 和 Client::newKinesisBroker::new,或者配上你自己的 SdkConfig 的 from_config(在生产环境中运行)
ListShards 加上每个分片一次 GetShardIteratorKinesisStream::new 中的流名称;订阅自己找到分片,并跟随拆分与合并
每个分片一个 GetRecords 循环一个 #[subscriber] 处理器(读取流)
解码 record.data()处理器的参数类型,由编解码器解码
处理完成后写入的检查点处理器的结果(检查点与投递保证)
让多个实例共享分片的租约表DynamoLeaseStore(多个实例)
带 TRIM_HORIZON 或 AT_TIMESTAMP 的 GetShardIterator挂载点上的 start_at,或处理器中的 seek 句柄(重放与 seek)
带分区键的 PutRecord回复或 Out 参数,经由 KinesisPublish 发送(分片、分区键与顺序)