Sparkのフリーランス案件・求人一覧 | 3ページ目

作業内容 ■概要 テレビ視聴データを分析するデータ基盤のインフラエンジニアとして、特にAWS EMRでのSpark、HBase、Hive、Presto、Hudiといった分散DBの知見のある方を募集いたします。 ■具体的な作業内容 ・データ基盤以外のインフラ全般について担当するエンジニアと連携して、システム基盤の運用改善に取り組んでいただきます。

作業内容 ■概要 データレイクエンジニアをお任せいたします。 ■具体的な作業内容 ・AWSのデータレイク(Amazon S3+Glue Data Catalog)からBigqueryへのデータ移行作業 ・Google Cloud Platformデータ基盤の整備(ワークフローエンジン導入等) ※AWSについては本人の意向、能力等を鑑みて判断とさせてください

作業内容 エンドユーザー(企業)のDX化を支援するためにデータ事業の展開や社内のデータ利活用を推進する、ETL/ELT処理開発、DWH構築などのデータ基盤開発の責務を担っていただきます。 ◆業務内容の詳細◆ Databricks、Airflow、AWS Glueを利用したデータパイプラインの開発・運用 Apache Sparkを利用したETL処理の開発 各サービス開発チームのデータエンジニアリングの支援 ◆今後の進展について◆ 昨年夏頃にDatabricksを導入したばかりのため、既存基盤からの移行を実施し、全社横断データ基盤として活用していきます。 それに伴い、各サービス開発チームを中心とした分散オーナーシップ型データ基盤開発組織化の推進と全社横断的なデータマネジメントに注力していきます。

作業内容 ＝＝＝＝＝ ※重要※ ▼必ずお読みください▼ 【必須要件】 ・20～40代までの方、活躍中！ ・経験者採用 ・外国籍の場合、JLPT(N1)もしくはJPT700点以上のビジネス上級レベル必須 ・週5日稼働必須 ・実務経験3年以上必須 ＝＝＝＝＝ 在庫最適化システムを支えるデータ基盤の構築を行っていただきます。 顧客からの数億レコードにもなる大量データの加工をSQLやPythonを用いて作成し、集計後、データストアに投入する機構の構築に携わっていただきます。 【開発環境】 ・開発言語：Python、SQL ・DB:Aurora(PostgreSQL互換)、Redshift ・ライブラリ・フレームワーク：Pandas、Numpy、Dask ・インフラ：AWS ・AWS製品：ECS、S3、StepFunctions、Lambda、CloudWatch ・環境、ツール：Docker、GitHub、Jira、Slack、CircleCI、Sentry

作業内容 エンドクライアントを支援するサービスのダッシュボードのデータベース設計、API開発、ETL処理の開発をする業務をお願いします。 [具体的な業務] ・RDBのデータベース設計 ・Glue JobでPythonを利用したETL処理の設計・開発 ・API Gateway、Lambdaを利用したAPI開発 ・技術的知見からの、プロダクトオーナと協調した仕様策定 ・AWS関連リソースのより積極的な活用 ・git flowベースの開発進行

作業内容 【概要】 ・在庫最適化システムを支えるデータ基盤の構築 ・Saasの新バージョンをこの春リリースし、エンタープライズとの契約が急激に増えている中で、非常に多くの機能改善要望や機能追加要望の相談増 ・数億レコードにもなる大量のデータ加工をSQLやPythonを用いて作成、 集計後、データストアに投入する基盤の構築 ・エンジニアとスクラムチームを形成し、スクラムイベントを通じて、開発メンバー全員でスプリントを消化していく体制 【工程】 基本設計　詳細設計　開発　単体テスト　結合テスト　総合テスト　運用 【開発環境】 ・開発言語： Python、SQL ・DB: Aurora(PostgreSQL互換)、Redshift ・検索エンジン： Amazon Elasticsearch Service ・ライブラリ・フレームワーク：Pandas、Numpy、Dask ・インフラ： Amazon Web Services ・AWS製品： ECS、S3、Step Functions、Lambda、CloudWatch ・環境、ツール： Docker、GitHub、Jira、Slack、CircleCI、Sentry

作業内容 【20代~30代のITエンジニアが活躍中！】 ■概要 Pythonによるデータ基盤構築をお任せします。 ■詳細 在庫最適化システムを支えるデータ基盤の構築を行っていただきます。 自社サービスSaaSの新バージョンをこの春リリースし、エンタープライズとの契約が急激に増えている中で、非常に多くの機能改善要望や機能追加要望が出てきています。 顧客からの数億レコードにもなる大量データの加工をSQLやPythonを用いて作成し、集計後、データストアに投入する機構の構築に携わっていただきます。 社員エンジニアとスクラムチームを形成し、スクラムイベントを通じて、開発メンバー全員でスプリントを消化していく体制になります。

作業内容 【業務内容】 大手広告代理店が展開しているインターネット広告代理店業における、膨大な広告データを収集・蓄積したデータレイクからデータを展開するためのデータ基盤（ETL処理、DWH、DM）の開発、運用、保守をお願いします。 【ポイント】 データレイクが取り扱うデータ量は数十TB/月を誇り、毎日数10億単位のレコードを蓄積しているため、そんな大規模データと向き合った開発にチャレンジすることができます。複数のプロダクトを管理しているチームのため、様々な技術を習得することができます。 【開発チームと配属先について】 当事業部には現状で約60名のエンジニアが在籍しており、複数のチームに分かれて開発を進めています。 今回お願いしたいポジションはサーバサイドエンジニアです。 チームには現在18名のエンジニアが在籍しています。 また、複数のプロダクトを管理しているチームのため、担当領域ごとにグループ分けをしています。 Infeed領域の広告運用のためのプロダクトを開発するグループインターネット広告関連データをデータレイクに蓄積するシステムを開発するグループインターネット広告関連データが蓄積されたデータレイクを用いたデータ基盤を開発するグループ機械学習を用いたプロダクトを開発するグループ掲載情報や実績情報を出力・レポーティングするための分析用プロダクトを開発するグループ 【技術キーワード】 ApacheSparkAWS GlueSnowflakeデータレイク/データウェアハウス/データマート

作業内容 [ポジション]：AIエンジニア 自社で探索型BIツールを開発しており、そこにおける人材を募集 ・検索・機械学習エンジンの開発・実装、および性能改善 ・自然言語処理を使用した検索エンジンの開発 ・大規模分散処理を伴う汎用的な機械学習エンジンやモデルの開発

作業内容 既存サイトにおけるビッグデータ（店舗メニュー情報）分析システムのバッチ処理に関する処理の大幅改修作業

作業内容 Google Cloud / AWSを利用した商用稼働サービスのデータパイプラインの開発・保守運用と日々の運用業務から発生する課題の解決・改善 主要技術：BigQuery/Cloud Composer(Airflow)/Python/（一部Spark）

作業内容 大手製造メーカー様案件で、データ解析・データ解析のプログラミング 　～DBアクセスプログラミングを担当していただきます。 　※参画いただいた後は、相談の上プロジェクトの中でその他の役割も 　　担って頂く可能性もございます。

作業内容 ＝＝＝＝＝ ※重要※ ▼必ずお読みください▼ 【必須要件】 ・20～40代までの方、活躍中！ ・経験者採用 ・外国籍の場合、JLPT(N1)もしくはJPT700点以上のビジネス上級レベル必須 ・週5日稼働必須 ・実務経験3年以上必須 ＝＝＝＝＝ ・インフラエンジニアとして、インフラの設計・開発・テストから運用・保守まで、全体をエンド・ツー・エンドで担当・リード ・AWSやGCP上でのデータ処理やクエリーワークロードの設計、デプロイ、監視プロセス・ツールの簡素化と強化 ・マーケティング・UXデザイン・業務企画・事業開発・カスタマーサービス・営業等と連携し、クロスファンクショナルなチームでの業務推進 【日本語ネイティブの方、活躍中！】 【20代・30代・40代、活躍中！】 【出社可能な方、活躍中！】

作業内容 在庫最適化システムを支えるデータ基盤の構築を行っていただきます。自社サービスSaasの新バージョンをこの春リリースし、エンタープライズとの契約が急激に増えている中で、非常に多くの機能改善要望や機能追加要望が出てきています。顧客からの数億レコードにもなる大量データの加工をSQLやPythonを用いて作成し、集計後、データストアに投入する機構の構築に携わっていただきます。社員エンジニアとスクラムチームを形成し、スクラムイベントを通じて、開発メンバー全員でスプリントを消化していく体制になります。【募集背景】新バージョンの機能追加が急務であり、エンジニアリソースが不足しているため。【開発環境】・開発言語： Python、SQL・DB: Aurora(PostgreSQL互換)、Redshift・検索エンジン： Amazon Elasticsearch Service・ライブラリ・フレームワーク：Pandas、Numpy、Dask・インフラ： Amazon Web Services・AWS製品： ECS、S3、Step Functions、Lambda、CloudWatch・環境、ツール： Docker、GitHub、Jira、Slack、CircleCI、Sentry

作業内容 [ポジション]：分析基盤エンジニア ◇データ分析対応チーム、もしくはデータ分析基盤構築チームにて、 A: 定型化されたデータ分析の実行（集計/加工/分析/可視化/アドホック対応など) 　 B: 関連するデータ分析基盤システム構築（インフラ,システム開発/仮想化/など）　のいずれかをご対応いただく予定です。・仕様や方針などは、A/B領域共にクライアント側で設定の上、後続対応を実施していただきます。・Aについては、基本出社対応、Bについては状況に応じて出社を予定しております。 [稼働先最寄り]・基本リモート or 現場常駐（出社時は東京都 港区エリア）　※現状、タスクに応じて50/50で対応中 　※ご面談設定の際に、詳細情報を連携させていたます。 [募集人数] ・メンバー枠： 　データ分析エンジニア　　　　： ～1名 　データ分析基盤構築エンジニア： ～最大3名

作業内容 ＝＝＝＝＝ ※重要※ ▼必ずお読みください▼ 【必須要件】 ・20～40代までの方、活躍中！ ・経験者採用 ・外国籍の場合、JLPT(N1)もしくはJPT700点以上のビジネス上級レベル必須 ・週5日稼働必須 ・実務経験3年以上必須 ＝＝＝＝＝ 在庫最適化システムを支えるデータ基盤の構築を行っていただきます。 自社サービスSaasの新バージョンをリリースし、 エンタープライズとの契約が急激に増えている中で、 多くの機能改善要望や機能追加要望が出てきています。 顧客からの数億レコードにもなる大量データの加工をSQLやPythonを用いて作成し、 集計後、データストアに投入する機構の構築に携わっていただきます。 社員エンジニアとスクラムチームを形成し、スクラムイベントを通じて、 開発メンバー全員でスプリントを消化していく体制になります。 【日本語ネイティブの方、活躍中！】 【20代・30代・40代、活躍中！】 【出社可能な方、活躍中！】

作業内容 ■概要 AWSクラウドベンダー内でデータレイク開発運用保守案件をお任せいたします。 データレイク開発の経験者の方、興味のある方宜しくお願い致します。 ■具体的な作業内容 ・Python、Node.js、ShellScriptなどによるバッチ処理の作成 ・SQLによるデータ抽出 ・Docker、Kubernetes、Git、クラウドを活用した業務 ・Laravelによる社内向けWebアプリケーションの開発 ■開発環境： ・AWS、Lake Formation、Amazon S3、Glue、Amazon QuickSight、EMR for Apache Spark、Redshift、Athena

作業内容 ■概要 自社独自のプラットフォームを持つ某企業にて様々な種類のDBに関する業務をお願い致します。 ・職種：データエンジニア ■具体的な作業内容 ・データベース設計 ・Google Cloud Platformを用いたデータパイプラインの開発運用 ・各種データソースとデータパイプライン連携のためのツール開発運用 ■開発環境： ■プログラミング言語：Python ■インフラ： Google Cloud Platform ■データベース：PostgreSQL ■DWH：BigQuery ■ワークフロー：Google Cloud Composer(Apache Airflow) ■その他ミドルウェア：Dataflow(Apache Beam)　Dataproc(Apach Spark)　Cloud Run ■その他開発環境：Gitlab　Slack　GROWI ■作業工程：設計～開発～運用

作業内容 某ベンチャー企業にて、在庫最適化システムを支えるデータ基盤の構築を行っていただきます。 自社サービスSaasの新バージョンをこの春リリースし、 エンタープライズとの契約が急激に増えている中で、 非常に多くの機能改善要望や機能追加要望が出てきています。 顧客からの数億レコードにもなる大量データの加工をSQLやPythonを用いて作成し、集計後、データストアに投入する機構の構築に携わっていただきます。 社員エンジニアとスクラムチームを形成し、スクラムイベントを通じて、 開発メンバー全員でスプリントを消化していく体制になります。 業務内容 顧客の持つ様々なビッグデータをクラウド環境で統合し、その分析/活用が出来る基盤の構築/運用します。 ・新規データ取得のETL及びデータウェアハウスの実装 ・データ基盤の運用及び保守開発 ・データの可視化 ・定例MTG対応 ・仕様書等ドキュメント作成（一部） 技術環境 O S 　　 ：Linux, Windows 言 語 　　 ：Python, SQL D B　　　 ：Redshift, Aurora(PostgreSQL互換) Cloud　　 ：AWS（ECS, S3, StepFunctions, Lambda, Redshift, Aurora等） DWH　　 ：BigQuery, TreasureData等 機械学習系：Kedro, MLflow C I　　　 ：CircleCI 監視系　　：Sentry その他　　： GitHub, Slack, CircleCI

作業内容 ・AWS上に、AIを用いた音声認識/ユーザへのレコメンドのための 大規模システム（APIゲートウェイ、Web/APサーバ、DBサーバ、 その他運用サーバ等）を構築する。 ・アークテクチャの検討から、基本設計、詳細設計、構築、試験、 運用引継ぎまで実施する。 【作業環境】 ・AWS（EC2/Aurora/S3/IAM/Kinesis など） ・Linux ・Apache/Nginx/Resin ・Tomcat ・Zabbix ・DeepSecurity

作業内容 製造業・建設業向け次世代ERPパッケージシステム導入における、SCMパッケージ開発を行っていただきます。 開発工程 基本設計, 詳細設計, 実装, 単体テスト, 結合テスト, システムテスト

作業内容 概　要： 世界各国で利用されるオンラインサービスにおけるデータ分析基盤の開発運用支援をお願い致します

作業内容 上位リーダーのもとで作業頂くメンバーの方 領域：デジタルマーケティング領域 お客様：ECサイト

作業内容 ・DWH層テーブルの設計 ・DWH層テーブルのSQLおよびPySparkを用いた実装 ・DWH層テーブルについての問い合わせ対応・不具合調査 ・DWH層開発環境の設計・開発・保守・運用

作業内容 プロダクトオーナーやデザイナー、フロントエンドエンジニアと密に連携しながら、要件定義、設計、開発、運用まで、一気通貫で実施します。 また機能開発だけでなく、リファクタリングや依存ライブラリの更新、パフォーマンス改善等の様々な保守運用開発も実施します。

作業内容 ＝＝＝＝＝ ※重要※ ▼必ずお読みください▼ 【必須要件】 ・20～40代までの方、活躍中！ ・経験者採用 ・外国籍の場合、JLPT(N1)もしくはJPT700点以上のビジネス上級レベル必須 ・週5日稼働必須 ・実務経験3年以上必須 ＝＝＝＝＝ Pythonによるデータ基盤構築 在庫最適化システムを支えるデータ基盤の構築を行っていただきます。 自社サービスSaasの新バージョンをこの春リリースし、エンタープライズとの契約が急激に増えている中で、非常に多くの機能改善要望や機能追加要望が出てきています。 顧客からの数億レコードにもなる大量データの加工をSQLやPythonを用いて作成し、集計後、データストアに投入する機構の構築に携わっていただきます。 社員エンジニアとスクラムチームを形成し、スクラムイベントを通じて、開発メンバー全員でスプリントを消化していく体制になります。 今回の募集は、新バージョンの機能改善やオプション機能の開発が 急務であり、エンジニアリソースが不足しているためとなっております。 【日本語ネイティブの方、活躍中！】 【20代・30代・40代、活躍中！】 【出社可能な方、活躍中！】

作業内容 社内データ分析基盤開発・保守・運用業務を担っていただきます。■Python/Shell/Rubyで開発されているバッチ系システムが主 ・データレイクへの取り込み ・中間テーブル生成 ■追加機能開発 / 不具合調査・修正 / 社内ユーザーからの問合せ対応 ・社内ユーザコミュニケーションや要件定義も含む ・インフラからコードデプロイまでを担当 - ローカルで実装、Sandbox環境で動作検証、Productionデプロイ

作業内容 データプラットフォームのシステムアーキテクチャの作成やシステム開発を行なう上で必要なOSSを中心とした技術要素の選定をご担当頂きます。

作業内容 Webサイト、モバイルアプリに関するQA業務をご担当いただきます。 ■業務内容 ・探索的テスト、機能テスト、レビュー、不具合分析 ・プロセス改善提案

作業内容 AWS上にIoTデータを集積したレイクハウスを設計・構築いたします。 設計・構築の依頼はAWS Glue、StepFunctionsによる設計・構築、テストが依頼範囲となります。 データ規模が大きいシステムのため、AWS Glue、Sparkの技術に明るく性能面、コスト面から最適化のアプローチができる方を希望します。