CData Sync

December 28, 2020

GCEインスタンスのアクセススコープを使用してBigQuery へのアクセス制御を試してみる:CData Sync

こんにちは、CData Software Japan エンジニアの宮本です。 GCE のVMインスタンスでは、インスタンスごとにアクセススコープを設定できるのはご存知でしょうか。以下のようにインスタンスからGCP 上のサービスにアクセスできる範囲を設定することができるよ…

December 24, 2020

製造業向けMAツール - MRC(マーケライズクラウド) の顧客データを Google BigQuery へ定期的に連携する:CData Sync

こんにちは。CData Software Japan リードエンジニアの杉本です。 本記事では 分析基盤向けデータ統合の自動化ツールである CDataSync を使って、MRCのデータを Google BigQuery に連携し、分析する方法を紹介したいと思います。 MRC(マーケライズクラウド…

December 22, 2020

GCP内で完結!BigQuery にSaaS データをローディングする構成について

本記事はBigQuery Advent Calendar 2020 22日目の記事です。 qiita.com こんにちは!CData Software Japan エンジニアの宮本です。 2020年もあっという間に終わろうとしていますが、この1年を思い返してみると、感覚的に去年に比べてBigQuery を軸にした相…

December 21, 2020

CDataSync に新しく追加された同期先:Azure Synapse の使い方

こんにちは。CData Software Japan リードエンジニアの杉本です。 今回は先週新しくリリースされたばかりのCDataSync新機能、Azure Synapseへのデータ同期を紹介したいと思います。 Azure Synapse Analytics とは? 連携シナリオ 必要なもの Azure Synapse A…

December 18, 2020

CData Syncを用いたAzure SQL Database -> Amazon Redshift へのデータ統合

CData Syncを用いたAzure SQL Database -> Amazon Redshift へのデータ統合

December 14, 2020

ELTツール+Dataform でBigQuery へのデータロード・チェック・マージを自動化してみた:CDataSync

こんにちは、CData Software でエンジニアをしている宮本です。 先日、Google からDataform がGCP の傘下になったとアナウンスがありました。 cloud.google.com 自分自身、Dataform というサービスを知らなかったのですが、Webサイトやドキュメントなどを読…

December 9, 2020

ELTツールのCDataSyncでHubSpotからMySQLへのデータ同期をやってみよう

こんにちは、CData Software Japan エンジニアの宮本です。 今回はCData Sync というEL・ELTツールを使って、HubSpot からMySQL に同期する手順をご紹介いたします。 ちなみにこの記事を行っていただければ、CData Sync のメインどころの操作、つまりはDB へ…

December 5, 2020

PyCaretとPower BI Desktopでトピック分析:CData Sync

皆さんこんにちは。CData Software Japanインサイドセールスの加藤です。 文書データがたくさんあるけど、ここからどうやってインサイトを引き出したらいいんだろう?文書データの特徴をまとめてきれいに可視化したい。こんなお悩みはありませんか?この記事…

November 16, 2020

Autify のテストデータをGoogle BigQuery に定期連携:CData Sync

本記事はAWS EC2のVMインスタンスにCData Sync を起動させ、Autifyにあるテストデータを定期的にGoogle BigQuery に連携する方法をご紹介します。 Autify とは CDataSync とは 本記事で使うもの Autify のアクセストークン取得 EC2 VM作成~CDataSync Java版…

November 2, 2020

エンタープライズETL にちょうど良いデータ統合基盤「CData Sync」の強み

こんにちは、CDataでエンジニアをしている宮本です。 少し前になりますが、Data Engineering Study #2「データ収集基盤とデータ整備のこれまでとこれから」というイベントに参加したときに、印象に残るセッションがありました。 データ収集の基本と「Japan…

October 29, 2020

arXivから最新フィードを取得してCSVに同期し、チームでの文献管理や分析に役立てる:CData Sync

皆さんこんにちは。CData インサイドセールスの加藤です。 今回はR&D や研究室向けの記事になります。研究を行う上で基本となる事柄の一つは、最新の研究成果のキャッチアップをすること、つまり論文を読むことですね。しかし日々公開される論文の数は増え続…

October 23, 2020

AWS EC2 Amazon Linux で簡単にCData Sync Java エディションを構成する方法

こんにちは、CDataの宮本です。 今回はよくお問合せをいただくCData Sync をLinux環境で使用する方法について、AWS EC2 Amazon Linux を使ってご紹介していきたいと思います。 ちなみに、Amazon Linux ではなく CentOS やRedHat などLinux ディストリビュー…