Talend Cloud Data Management Platform で Kafka のデータを連携

Dibyendu Datta
Lead Technology Evangelist

CData JDBC Driver for Apache Kafka を使用して、Kafka のデータを Talend Cloud Data Management Platform に接続します。

Qlik 社の Talend Cloud Data Management Platform は多様なデータ環境をサポートし、スマートな意思決定のための分析、業務データの共有、データおよびアプリケーションのモダナイゼーション、リスク低減のためのデータエクセレンスの確立を実現します。CData JDBC Driver for Apache Kafka と組み合わせると、Kafka のデータのデータ連携、品質管理、ガバナンスを向上できます。この記事では、Talend Cloud Data Management で CData JDBC Driver を使用して Kafka に接続し、ワークフロー内でデータを同時に利用できるようにする方法を説明します。

前提条件

CData JDBC Driver を使用して Talend Cloud Data Management Platform でデータを表示・操作する前に、システムに最新バージョンの Talend Studio をダウンロードしてインストールしてください。また、以下の前提条件を満たしていることを確認してください。

適切な権限を持つ Talend Cloud Data Management アカウント
CData Web サイトからダウンロード可能な CData JDBC Driver for Apache Kafka

Talend で Kafka に JDBC データソースとして接続

Talend Data Management Cloud へのアクセス

ローカルシステムにインストールされている Talend Cloud Data Management Platform を起動し、Other Login Mode をクリックします。
Manage Connections をクリックします。Repository を「Local」に設定し、Name、Description、User E-mail を入力します。Workspace のパスを設定して OK をクリックします。
Create a new project ラジオボタンを選択して新しいプロジェクト名を追加し、Create をクリックします。
新しいプロジェクトが Select an existing project セクションに表示されます。Open をクリックします。Talend Cloud Data Management Platform ワークスペースが開きます。

新しい接続の作成

ナビゲーションペインで Metadata ドロップダウンを展開します。Db Connections を右クリックし、Create Connection を選択します。
Database Connection ウィンドウの Find セクションで「JDBC」を検索して選択します。次に、Finish をクリックします。
Kafka のデータをロードする Talend の新しいデータベースの Name、Purpose、Description を入力します。Next をクリックします。
Kafka に接続するための JDBC URL を生成します。jdbc:apachekafka: で始まり、セミコロンで区切られた一連の接続文字列プロパティを続けます。
Apache Kafka 接続プロパティの取得・設定方法

それでは、Apache Kafka に接続していきましょう。.NET ベースのエディションは、Confluent.Kafka およびlibrdkafka ライブラリに依存して機能します。これらのアセンブリはインストーラーにバンドルされており、CData 製品と一緒に自動的にインストールされます。別のインストール方法をご利用の場合は、NuGet から依存関係のあるConfluent.Kafka 2.6.0をインストールしてください。

Apache Kafka サーバーのアドレスを指定するには、BootstrapServers パラメータを使用します。

デフォルトでは、CData 製品はデータソースとPLAINTEXT で通信しており、これはすべてのデータが暗号化なしで送信されることを意味します。通信を暗号化したい場合は、以下の設定を行ってください：
1. UseSSL をtrue に設定し、CData 製品がSSL 暗号化を使用するように構成します
2. SSLServerCert およびSSLServerCertType を設定して、サーバー証明書をロードします
Apache Kafka への認証

続いて、認証方法を設定しましょう。Apache Kafka データソースでは、以下の認証方法をサポートしています：
- Anonymous
- Plain
- SCRAM ログインモジュール
- SSL クライアント証明書
- Kerberos
Anonymous 認証

Apache Kafka の特定のオンプレミスデプロイメントでは、認証接続プロパティを設定することなくApache Kafka に接続できます。このような接続はanonymous（匿名）と呼ばれます。

匿名認証を行うには、以下のプロパティを設定してください。
- AuthScheme：None
その他の認証方法については、ヘルプドキュメントをご確認ください。

組み込みの接続文字列デザイナー

JDBC URL の構築には、Kafka JDBC Driver に組み込まれている接続文字列デザイナーを使用してください。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行します。
```
java -jar cdata.jdbc.apachekafka.jar
```
接続プロパティを入力し、接続文字列をクリップボードにコピーします。

一般的な JDBC URL は次のようになります。
```
jdbc:apachekafka:User=admin;Password=pass;BootStrapServers=https://localhost:9091;Topic=MyTopic;
```
CData JDBC Driver for Apache Kafka からコピーした JDBC URL を Edit new database に入力します。
Drivers の下にある「(+) Add」ボタンをクリックします。Drivers ボードに「newLine」が表示されます。新しい行の末尾にある (...) をクリックし、Install a new module ラジオボタンを選択して、(...) をクリックしてインストールディレクトリの「lib」サブフォルダにある JAR ファイルへのパスを追加します。OK をクリックします。
Driver Class として cdata.jdbc.apachekafka（前のステップで指定したインストールディレクトリから取得した JAR ファイル）を選択します。

新しい接続のテスト

Check Connection をクリックします。入力した詳細が正しければ、「Connection successful」という確認プロンプトが表示されます。「OK」と「Finish」をクリックします。
接続が確立されたら、新しく作成した接続を右クリックし、Retrieve Schema を選択します。フィルターを使用して必要なデータを取得することもできます。Next をクリックします。
Schema ウィンドウで「CData」カタログを展開し、Kafka スキーマからインポートするテーブルを選択します。Next をクリックします。
次のステップで、テーブルから表示するカラムを選択し、Finish をクリックします。
Kafka スキーマから選択したすべてのテーブルが、JDBC 接続の Table Schemas セクションに表示されます。
選択したテーブルのいずれかを右クリックし、Data Viewer をクリックしてデータソースからのデータをプレビューします。