Apache Solr にElasticsearch のデータをインポートする方法

Jerod Johnson
Senior Technology Evangelist

CData JDBC Driver for Elasticsearch をData Import Handler で使用して、Elasticsearch のデータをApache Solr エンタープライズサーチプラットフォームに自動インポートできます。

Apache Solr は、Apache Lucene 上に構築された人気のある高速なオープンソースのエンタープライズサーチソリューションです。

Apache Solr には、データベースやXML、CSV、JSON ファイルからデータをインポートできるData Import Handler（DIH）が搭載されています。CData JDBC Driver for Elasticsearch と組み合わせることで、Elasticsearch のデータを簡単にApache Solr にインポートできます。この記事では、CData JDBC Driver をApache Solr のData Import Handler で使用し、エンタープライズサーチ用にElasticsearch のデータをインポートする方法をステップバイステップで解説します。

Elasticsearch データ連携について

CData を使用すれば、Elasticsearch のライブデータへのアクセスと統合がこれまでになく簡単になります。お客様は CData の接続機能を以下の目的で利用しています：

SQL エンドポイントと REST エンドポイントの両方にアクセスでき、接続を最適化し、Elasticsearch データの読み書きに関してより多くのオプションを提供します。
v2.2 以降およびオープンソース Elasticsearch サブスクリプションを含む、ほぼすべての Elasticsearch インスタンスに接続できます。
SCORE() 関数を明示的に要求することなく、常にクエリ結果の関連性スコアを受け取ることができます。これにより、サードパーティツールからのアクセスが簡素化され、クエリ結果のテキスト関連性のランキングを簡単に確認できます。
複数のインデックスを検索でき、クライアントマシンではなく Elasticsearch がクエリと結果の管理・処理を担当します。

ユーザーは、Crystal Reports、Power BI、Excel などの分析ツールと Elasticsearch データを統合し、当社のツールを活用して、Elasticsearch を含むすべてのデータソースへの単一のフェデレートアクセスレイヤーを実現しています。

CData の Elasticsearch ソリューションの詳細については、ナレッジベース記事をご覧ください：CData Elasticsearch Driver Features & Differentiators

はじめに

Elasticsearch インポート用のApache Solr コアとスキーマを作成する

Apache Solr を起動し、コアを作成します。
```
> solr create -c CDataCore
```
この記事では、Solr はローカル環境でスタンドアロンインスタンスとして実行されており、次のURL でコアにアクセスできます：http://localhost:8983/solr/#/CDataCore/core-overview
インポートするElasticsearch のデータのカラムを表す「field」オブジェクトと、エンティティの一意キーで構成されるスキーマを作成します。Elasticsearch にLastModifiedDate が存在する場合は、増分更新に使用されます。存在しない場合は、後述のdeltaquery を実行できません。スキーマはApache Solr が作成したmanaged-schema ファイルに保存します。

	ElasticsearchUniqueKey

CData Elasticsearch JDBC Driver をインストールします。JAR ファイルとライセンスファイル（cdata.elasticsearch.jar とcdata.jdbc.elasticsearch.lic）をSolr ディレクトリにコピーします。
- CData JDBC JAR ファイル：C:\Program Files\CData\CData JDBC Driver for Elasticsearch ####\lib
- Apache Solr：solr-8.5.2\server\lib

これで、Solr でElasticsearch のデータを使用する準備が整いました。

Elasticsearch からApache Solr へのインポートを定義する

このセクションでは、Data Import Handler の設定手順を説明します。

作成したコアのConfig ファイルを編集します。JAR ファイルの参照を追加し、DIH RequestHandler の定義を追加します。

	

	<lib dir="${solr.install.dir:../../../..}/dist/" regex="solr-dataimporthandler-.*\.jar" />

	<requestHandler name="/dataimport" class="org.apache.solr.handler.dataimport.DataImportHandler">
		<lst name="defaults">
			<str name="config">solr-data-config.xml</str>
		</lst>
	</requestHandler>

次に、同じ階層にsolr-data-config.xml を作成します。この記事ではElasticsearch からテーブルを取得しますが、カスタムSQL クエリを使用してデータをリクエストすることもできます。Driver クラスとサンプルJDBC 接続文字列は以下のサンプルコードにあります。

	
	<dataConfig>
		<dataSource driver="cdata.jdbc.elasticsearch.ElasticsearchDriver" url="jdbc:elasticsearch:Server=127.0.0.1;Port=9200;User=admin;Password=123456;">
		</dataSource>
		<document>
			<entity name="Orders"
				query="SELECT Id,ElasticsearchColumn1,ElasticsearchColumn2,ElasticsearchColumn3,ElasticsearchColumn4,ElasticsearchColumn5,ElasticsearchColumn6,ElasticsearchColumn7,LastModifiedDate FROM Orders"
				deltaQuery="SELECT Id FROM Orders where LastModifiedDate >= '${dataimporter.last_index_time}'"
				deltaImportQuery="SELECT Id,ElasticsearchColumn1,ElasticsearchColumn2,ElasticsearchColumn3,ElasticsearchColumn4,ElasticsearchColumn5,ElasticsearchColumn6,ElasticsearchColumn7,LastModifiedDate FROM Orders where Id=${dataimporter.delta.Id}">
				<field column="Id" name="Id" ></field>
				<field column="ElasticsearchColumn1" name="ElasticsearchColumn1" ></field>
				<field column="ElasticsearchColumn2" name="ElasticsearchColumn2" ></field>
				<field column="ElasticsearchColumn3" name="ElasticsearchColumn3" ></field>
				<field column="ElasticsearchColumn4" name="ElasticsearchColumn4" ></field>
				<field column="ElasticsearchColumn5" name="ElasticsearchColumn5" ></field>
				<field column="ElasticsearchColumn6" name="ElasticsearchColumn6" ></field>
				<field column="ElasticsearchColumn7" name="ElasticsearchColumn7" ></field>
				<field column="LastModifiedDate" name="LastModifiedDate" ></field>
			</entity>
		</document>
	</dataConfig>

query セクションで、Elasticsearch からデータを選択するSQL クエリを設定します。deltaQuery とdeltaImportquery は、同じエンティティの2回目以降のインポートで増分更新を使用する際のID と条件を定義します。
すべての設定が完了したら、Solr を再起動します。
```
	> solr stop -all
	> solr start
	
```

Elasticsearch のデータのDataImport を実行する

以下のURL からDataImport を実行します：
http://localhost:8983/solr/#/CDataCore/dataimport//dataimport
「full-import」コマンドを選択し、Entity からテーブルを選択して、「Execute」をクリックします。
Query からインポート結果を確認します。
deltaQuery を使用した増分更新を試してみましょう。元のElasticsearch データセットのデータを変更します。DataImport ウィンドウから今度は「delta-import」コマンドを選択し、「Execute」をクリックします。
増分更新の結果を確認します。