Kafka のデータをDataSpider Servista の連携先として使う方法

杉本和也
リードエンジニア

CData JDBC ドライバを使って、データ連携ツールのDataSpider Servista からKafka のデータを連携利用する方法を解説。

DataSpider Servista は、異なるシステムのデータやアプリケーションをノンプログラミングで「つなぐ」データインテグレーションプラットフォームです。

CData JDBC ドライバはDataSpider Servista において、JDBC データソースとして利用することが可能です。通常のJDBC の検索・更新などのアイコンを使って、標準SQL でSaaS/Web DB のデータを扱うことを可能にします。この記事では、DataSpider で CData JDBC Driverを利用してKafka のデータに外部データとしてSQL でアクセスする方法を紹介します。

CData JDBC Driver for ApacheKafka をDataSpider にコネクタとして登録

JDBC Driver をDataSpider と同じサーバーにインストール
DataSpider の外部JDBCドライバのパスにCData JDBC ドライバのcdata.jdbc.apachekafka.jar とcdata.jdbc.apachekafka.lic を配置
DataSpider 側：DataSpiderServista\server\plugin\data_processing\modules\jdbc_adapter

グローバルリソースのプロパティで、ドライバクラス名およびURL を入力。
- 接続名：任意
- 種別：デフォルト
- 接続タイプ：接続タイプ：JDBC（JDBC接続設定）
- ドライバクラス名：cdata.jdbc.apachekafka.ApacheKafkaDriver
- URL：jdbc:apachekafka:User=admin;Password=pass;BootStrapServers=https://localhost:9091;Topic=MyTopic;
Apache Kafka 接続プロパティの取得・設定方法

それでは、Apache Kafka に接続していきましょう。.NET ベースのエディションは、Confluent.Kafka およびlibrdkafka ライブラリに依存して機能します。これらのアセンブリはインストーラーにバンドルされており、CData 製品と一緒に自動的にインストールされます。別のインストール方法をご利用の場合は、NuGet から依存関係のあるConfluent.Kafka 2.6.0をインストールしてください。

Apache Kafka サーバーのアドレスを指定するには、BootstrapServers パラメータを使用します。

デフォルトでは、CData 製品はデータソースとPLAINTEXT で通信しており、これはすべてのデータが暗号化なしで送信されることを意味します。通信を暗号化したい場合は、以下の設定を行ってください：
1. UseSSL をtrue に設定し、CData 製品がSSL 暗号化を使用するように構成します
2. SSLServerCert およびSSLServerCertType を設定して、サーバー証明書をロードします
Apache Kafka への認証

続いて、認証方法を設定しましょう。Apache Kafka データソースでは、以下の認証方法をサポートしています：
- Anonymous
- Plain
- SCRAM ログインモジュール
- SSL クライアント証明書
- Kerberos
Anonymous 認証

Apache Kafka の特定のオンプレミスデプロイメントでは、認証接続プロパティを設定することなくApache Kafka に接続できます。このような接続はanonymous（匿名）と呼ばれます。

匿名認証を行うには、以下のプロパティを設定してください。
- AuthScheme：None
その他の認証方法については、ヘルプドキュメントをご確認ください。