Tạo sink connector S3
Dùng sink connector S3 để lưu những thay đổi ghi nhận từ cơ sở dữ liệu nguồn thành file trên storage S3. Connector đọc các Kafka topic bạn chọn và ghi vào một thư mục trong bucket.
Điều kiện cần
- CDC Service ở trạng thái Healthy. Xem Tạo CDC Service.
- Topic có dữ liệu thay đổi do một source connector ghi vào, ví dụ source connector PostgreSQL.
- Bucket S3 để ghi dữ liệu, cùng endpoint, access key và secret của storage chứa bucket đó.
Tạo connector
-
Chọn Data platform → Workspace management, rồi chọn workspace.
-
Ở tab Overview, trong phần Services, chọn thẻ CDC.
-
Chọn tab Connectors, rồi chọn Create Connector.

-
Ở màn hình Connector Information, nhập Name, chọn sink ở Type và chọn S3 ở Database.

-
Chọn Next Step. Ở màn hình Properties, nhập thông tin kết nối, rồi chọn Test connection. Next Step chỉ khả dụng sau khi kiểm tra thành công.

-
Vẫn ở màn hình này, chọn Converter class và thiết lập bốn trường converter. Trong phần Kafka topic, chọn +, rồi chọn các topic cần đọc trong panel Select topics.


-
Chọn Next Step. Ở màn hình Additional properties, thiết lập các trường trong phần Task, Source, Destination và Error Tolerance.




-
Chọn Next Step, rồi kiểm tra cấu hình ở màn hình Review.

-
Chọn Create.
Cài đặt của connector
Màn hình Connector Information
| Trường | Bắt buộc | Mô tả |
|---|---|---|
| Name | Có | Tên connector. Chỉ dùng chữ thường, chữ số và dấu gạch ngang (-). Nếu có chữ hoa, _, . hoặc dấu cách, form báo lỗi "Name has invalid characters". |
| Type | Có | Chọn sink. |
| Database | Có | Chọn S3. |
Màn hình Properties
Connector này không có tùy chọn From FPT Database Engine. Nhập thông tin bucket ở phần S3 storage. Xem cách Test connection hoạt động ở Chế độ kết nối.
| Trường | Bắt buộc | Mô tả |
|---|---|---|
| Endpoint | Có | Địa chỉ của storage S3, kèm scheme, ví dụ https://. Nếu thiếu scheme, form hiển thị "Endpoint must be a valid uri". |
| Access Key | Có | Access key của storage S3. |
| Secret | Có | Secret đi kèm access key. |
| Bucket Name | Có | Bucket mà connector ghi vào. |
| Path | Có | Thư mục trong bucket nhận các file. Connector ghi mỗi topic vào một thư mục con mang tên topic đó. |
| Converter class | Có | Converter class của connector. Portal cung cấp S3. Bốn trường converter bị làm mờ cho tới khi bạn chọn class. Xem Converter. |
| Converter key, Converter key schema enable, Converter value, Converter value schema enable | Có | Cách connector đọc key và value của message, và key, value có kèm schema hay không. Converter key và Converter value đều có org.apache.kafka.connect.storage.StringConverter và org.apache.kafka.connect.json.JsonConverter. Cả hai trường schema enable đều có true và false. |
| Kafka topic | Có | Các topic cần đọc, tối đa 100 topic. Chọn + để mở panel Select topics, chọn các topic, rồi chọn Select. Xem Topic. |
Màn hình Additional properties
| Trường | Bắt buộc | Mô tả |
|---|---|---|
| Number of tasks | Có | Số task tối đa chạy song song. Giá trị mặc định là 1. Xem Tasks max. |
| Database Type | Có | Loại cơ sở dữ liệu nguồn của các topic. |
| Timezone | Không | Múi giờ của dữ liệu: UTC hoặc Asia/Ho_Chi_Minh. Trường này không có giá trị mặc định. Xem Múi giờ. |
| File format | Không | Định dạng file mà connector ghi: json, jsonl hoặc parquet. Giá trị mặc định là json. |
| Mode (trong phần Error Tolerance) | Có | Cách connector xử lý message không đọc hoặc không chuyển đổi được. None làm connector dừng và chuyển sang trạng thái Failed. All bỏ qua message đó và chuyển nó tới topic bạn nhập để nhận bản ghi lỗi. Trường này không có giá trị mặc định. Xem Error tolerance. |