Dataiku からリアルタイム Snowflake データを使って AI/ML モデルを構築
Dataiku は、データの準備、分析、可視化、AI/ML モデルのデプロイメントに利用されるデータサイエンスおよび機械学習プラットフォームです。チームでの協業と効率的なデータドリブンな意思決定を可能にします。CData JDBC Driver for Snowflake と組み合わせることで、Dataiku は Snowflake のデータ のデータ連携、データ準備、リアルタイム分析、そして信頼性の高いモデルデプロイメントをさらに強化します。
CData JDBC Driver は、最適化されたデータ処理機能を内蔵しており、リアルタイム Snowflake のデータ とのやり取りにおいて比類のないパフォーマンスを発揮します。複雑な SQL クエリを Snowflake に発行すると、ドライバーはフィルタや集計などのサポートされている SQL 操作を Snowflake に直接プッシュし、サポートされていない操作(多くの場合、SQL 関数や JOIN 操作)は内蔵の SQL エンジンを使用してクライアント側で処理します。動的メタデータクエリ機能が組み込まれているため、ネイティブのデータ型を使って Snowflake のデータ を操作・分析できます。
この記事では、Dataiku DSS(Data Science Studio)プラットフォームで CData JDBC Driver for Snowflake を使って Snowflake に簡単に連携する方法を紹介します。データの準備やカスタム AI/ML モデルの構築を行いましょう。
Snowflake データ連携について
CData は、Snowflake のライブデータへのアクセスと統合を簡素化します。お客様は CData の接続機能を以下の目的で活用しています:
- Snowflake データを迅速かつ効率的に読み書きできます。
- 指定された Warehouse、Database、Schema のメタデータを動的に取得できます。
- OAuth、OKTA、Azure AD、Azure マネージド サービス ID、PingFederate、秘密鍵など、さまざまな方法で認証できます。
多くの CData ユーザーは、CData ソリューションを使用して、お気に入りのツールやアプリケーションから Snowflake にアクセスし、さまざまなシステムからデータを Snowflake にレプリケートして、包括的なウェアハウジングと分析を行っています。
CData ソリューションとの Snowflake 統合についての詳細は、ブログをご覧ください:https://jp.cdata.com/blog/snowflake-integrations
はじめに
Dataiku DSS 環境の準備
このセクションでは、先に紹介した Dataiku を Snowflake のデータ 向けにセットアップする方法を説明します。事前に、お使いのオペレーティングシステムに対応した Dataiku DSS(オンプレミス版)をインストールしておいてください。
CData JDBC Driver for Snowflake のインストール
まず、Dataiku と同じマシンに CData JDBC Driver for Snowflake をインストールします。JDBC Driver は以下のパスにインストールされます:
C:\Program Files\CData[product_name] 20xx\lib\cdata.jdbc.snowflake.jar
Dataiku DSS での JDBC Driver 接続設定
Dataiku で CData JDBC Driver を使用するには、新しい SQL データベース接続を作成し、DSS の接続設定で JDBC Driver の JAR ファイルを追加する必要があります。
- Dataiku DSS プラットフォームにログインします。ブラウザでローカルに開きます(例:localhost:11200)。
- プラットフォームの右上にある Navigate to other sections of Dataiku メニューをクリックし、Administration を選択します。
- Connections タブを選択します。
- Connections 画面で New Connections ボタンをクリックします。
- スクロールして Other SQL databases を選択します。
Snowflake に接続するための JDBC URL を生成します。jdbc:snowflake: で始まり、その後にセミコロン区切りの接続文字列プロパティを続けます。
それでは、Snowflake データベースに接続していきましょう。認証に加えて、以下の接続プロパティを設定します。
- Url:お使いのSnowflake URL を指定します。例:https://orgname-myaccount.snowflakecomputing.com
- Legacy URL を使用する場合:https://myaccount.region.snowflakecomputing.com
- ご自身のURL は以下のステップで確認できます。
- Snowflake UI の左下にあるユーザー名をクリックします
- Account ID にカーソルを合わせます
- Copy Account URL アイコンをクリックして、アカウントURL をコピーします
- Database(オプション):CData 製品によって公開されるテーブルとビューを、特定のSnowflake データベースのものに制限したい場合に設定します
- Schema(オプション):CData 製品によって公開されるテーブルとビューを、特定のSnowflake データベーススキーマのものに制限したい場合に設定します
Snowflakeへの認証
CData 製品では、Snowflake ユーザー認証、フェデレーション認証、およびSSL クライアント認証をサポートしています。認証するには、User とPassword を設定し、AuthScheme プロパティで認証方法を選択してください。
キーペア認証
ユーザーアカウントに定義されたプライベートキーを使用してセキュアなトークンを作成し、キーペア認証で接続することも可能です。この方法で接続するには、AuthScheme をPRIVATEKEY に設定し、以下の値を設定してください。
- User:認証に使用するユーザーアカウント
- PrivateKey:プライベートキーを含む.pem ファイルへのパスなど、ユーザーに使用されるプライベートキー
- PrivateKeyType:プライベートキーを含むキーストアの種類(PEMKEY_FILE、PFXFILE など)
- PrivateKeyPassword:指定されたプライベートキーのパスワード
その他の認証方法については、ヘルプドキュメントの「Snowflakeへの認証」セクションをご確認ください。
組み込みの接続文字列デザイナー
JDBC URL の作成には、Snowflake JDBC Driver に組み込まれている接続文字列デザイナーを使用できます。JAR ファイルをダブルクリックするか、コマンドラインから実行してください。
java -jar cdata.jdbc.snowflake.jar
接続プロパティを入力し、接続文字列をクリップボードにコピーします。
一般的な JDBC URL は次のようになります:
jdbc:snowflake:User=Admin;Password=test123;Server=localhost;Database=Northwind;Warehouse=TestWarehouse;Account=Tester1;
- Url:お使いのSnowflake URL を指定します。例:https://orgname-myaccount.snowflakecomputing.com
- New SQL database (JDBC) connection 画面で、New connection name フィールドに名前を入力し、基本パラメータを指定します:
- JDBC Driver Class:cdata.jdbc.snowflake.SnowflakeDriver
- JDBC URL:前のステップで取得した JDBC 接続 URL
- Driver jars directory:システム上で JAR ファイルがインストールされているフォルダパス
次に、SQL dialect を選択します。ここでは「SQL Server」を選択しています。Create をクリックします。接続が成功すると、「Connection OK」というメッセージが表示されます。
- Data Catalog ウィンドウが表示されます。Connection to browse、Restrict to catalog、Restrict to schema ドロップダウンから目的の接続、カタログ、スキーマを選択し、List Tables をクリックします。Dataiku プラットフォームに必要なテーブルがすべて一覧表示されます。
- 一覧からテーブルを選択し、Preview をクリックしてテーブルデータを表示します。Close をクリックしてウィンドウを閉じます。
新しいプロジェクトの作成
Dataiku DSS プラットフォームでデータフローの準備、ダッシュボードの作成、Snowflake のデータ の分析、AI/ML モデルの構築を行うには、まず新しいプロジェクトを作成する必要があります。
- Navigate to other sections of Dataiku メニューから Projects を選択します。
- Projects 画面で New Project をクリックし、+ Blank Project を選択します。
- New Project ウィンドウで、Name と Project Key を入力します。Create をクリックすると、新しいプロジェクトのダッシュボードが開きます。
- プロジェクト画面上部のメニューから Notebooks を選択します。
- + Create Your First Notebook ドロップダウンメニューをクリックし、Write your own オプションを選択します。
- New Notebook ウィンドウで SQL を選択します。
- Connection ドロップダウンから必要な接続を選択し、Notebook Name フィールドに名前を入力します。
接続のテスト
Snowflake 接続をテストして Snowflake のデータ を分析するには、クエリコンパイラでクエリを記述し、Run をクリックします。クエリ結果やフィルタリングされた Snowflake のデータ の結果が画面に表示されます。
おわりに
CData JDBC Driver for Snowflake の 30日間無償トライアル をダウンロードして、Dataiku と連携し、Snowflake のデータ からカスタム AI/ML モデルを簡単に構築しましょう。
ご質問があれば、お気軽に サポートチーム までお問い合わせください。