← Back to jobs

Data Engineer @ DCG

Skills

bigqueryci cdclouddata engineeringdevopsetlgcporaclepostgresqlpythonsqlPythonPostgreSQLGCPSQL

Description

  • Minimum 3 lata komercyjnego doświadczenia w projektowaniu i implementacji procesów integracji lub przetwarzania danych
  • Praktyczne doświadczenie w pracy z Google Cloud Platform, w szczególności z BigQuery, Cloud Storage i Pub/Sub
  • Praktyczna znajomość Oracle, w tym tworzenia i optymalizacji zapytań SQL oraz pracy z dużymi wolumenami danych
  • Doświadczenie developerskie z Informatica PowerCenter, umożliwiające samodzielną analizę i modyfikację procesów ETL
  • Znajomość zagadnień modelowania danych oraz projektowania procesów przetwarzania danych
  • Umiejętność optymalizacji zapytań SQL pod kątem wydajności
  • Znajomość zagadnień związanych z jakością, spójnością i walidacją danych
  • Doświadczenie w przygotowywaniu i przeprowadzaniu testów oraz tworzeniu dokumentacji technicznej
,(Projektowanie, implementacja i rozwój rozwiązań Data Engineering na Google Cloud Platform, przede wszystkim z wykorzystaniem BigQuery, Cloud Storage i Pub/Sub, Migracja i przebudowa procesów przetwarzania oraz zasilania danych ze środowisk Oracle/on-premise do GCP, Projektowanie i rozwój procesów wsadowych (batch) oraz strumieniowych (streaming), z uwzględnieniem kontroli jakości danych, obsługi błędów i mechanizmów ponawiania, Projektowanie struktur i modeli danych w BigQuery z uwzględnieniem wydajności, skalowalności oraz optymalizacji kosztów, Analiza danych oraz przygotowywanie logicznych i fizycznych modeli danych dla Oracle, PostgreSQL i środowisk GCP, Tworzenie, analiza i optymalizacja zapytań SQL, w tym analiza planów wykonania i identyfikacja wąskich gardeł przy przetwarzaniu dużych wolumenów danych, Analiza istniejących procesów Informatica PowerCenter oraz ich migracja do rozwiązań docelowych w GCP, Implementacja logiki transformacji, walidacji i integracji danych z wykorzystaniem SQL oraz Python, Przeprowadzanie analiz technicznych, analiz wpływu i zależności oraz udział w uzgadnianiu specyfikacji rozwiązań, Przygotowywanie testów jednostkowych i integracyjnych oraz wsparcie testów systemowych, wydajnościowych, regresyjnych i UAT, Przygotowywanie zmian do wdrożenia, instrukcji wdrożeniowych oraz wsparcie wdrożeń i weryfikacji powdrożeniowej, Diagnozowanie i rozwiązywanie incydentów związanych z przetwarzaniem i jakością danych, Tworzenie i aktualizacja dokumentacji technicznej oraz praca z repozytoriami kodu i procesami CI/CD zgodnie z podejściem DevOps) Requirements: Python, GCP, BigQuery, pub/sub, Oracle, SQL, PostgreSQL, ETL, Informatica PowerCenter

Get similar jobs in Poland by email

We'll email you when new jobs similar to this one appear.

Similar jobs

Explore more Data Engineer jobs in Poland.

Finding similar jobs…