Summary
โจ AIโGenerated
Build and operate a next-generation financial data platform as a Data Engineer. You will design real-time streaming pipelines and lakehouse architecture, develop data serving layers, automate infrastructure, and implement governance, security, and regulatory controls across large-scale financial datasets.
Highlights
Opportunity to build a next-generation financial data lakehouse, design real-time streaming pipelines, work with modern cloud data technologies, and implement data governance and regulatory compliance.
Description
์ง๋ฌด Summary
๋ฅ์คํธ์ฆ๊ถ AI๋ฐ์ดํฐํ๋ซํผํ๊ณผ ํจ๊ป ์ฐจ์ธ๋ ๊ธ์ต ๋ฐ์ดํฐ ๋ ์ดํฌํ์ฐ์ค๋ฅผ ๋ง๋ค์ด๊ฐ ๋ฐ์ดํฐ ์์ง๋์ด(๊ฒฝ๋ ฅ)๋ฅผ ๋ชจ์งํฉ๋๋ค.
Confluent Kafka ๊ธฐ๋ฐ ์ค์๊ฐ ์คํธ๋ฆฌ๋ฐ๊ณผ Databricks Delta Lake ๊ธฐ๋ฐ ๋ ์ดํฌํ์ฐ์ค ์ํคํ
์ฒ๋ฅผ ์ค๊ณยท๊ตฌ์ถํ๊ณ , Flink CDC๋ฅผ ํ์ฉํ ๊ฑฐ๋ยท์์ธยท๊ณ ๊ฐ ํ๋ ๋ฐ์ดํฐ์ ์ค์๊ฐ ์์ง๋ถํฐ ์๋น๊น์ง End-to-End ๋ฐ์ดํฐ ํ์ดํ๋ผ์ธ์ ์ฑ
์์ง๋๋ค.
IaC(Terraform, Ansible)๋ก ์ธํ๋ผ๋ฅผ ์๋ํํ๊ณ , Unity Catalog ๊ธฐ๋ฐ ๋ฐ์ดํฐ ๊ฑฐ๋ฒ๋์ค์ ๊ธ์ต ๊ท์ ์ค์๋ฅผ ๊ธฐ์ ์ ์ผ๋ก ๊ตฌํํฉ๋๋ค.
[์ฃผ์ ์
๋ฌด์ฑ
์]
์ค์๊ฐ ๋ฐ์ดํฐ ํ์ดํ๋ผ์ธ ๊ตฌ์ถ: Confluent Kafka(KRaft ๋ชจ๋) ๊ธฐ๋ฐ ์คํธ๋ฆฌ๋ฐ ์ํคํ
์ฒ๋ฅผ ์ด์ํ๊ณ , Flink CDC๋ฅผ ํ์ฉํ์ฌ Oracle ๊ณ์ ๊ณ ์์คํ
์ ๊ฑฐ๋ยท์์ธ ๋ฐ์ดํฐ๋ฅผ exactly-once ๋ณด์ฅ์ผ๋ก ์ค์๊ฐ ์์งํฉ๋๋ค.๋ฐ์ดํฐ ๋ ์ดํฌํ์ฐ์ค ์ค๊ณยท์ด์: Databricks Delta Lake ์์ Bronze/Silver/Gold ๋ฉ๋ฌ๋ฆฌ์จ ์ํคํ
์ฒ๋ฅผ ๊ตฌ์ถํ๊ณ , Delta Live Tables(DLT)์ Lakeflow๋ฅผ ํ์ฉํ์ฌ ์ ์ธ์ ๋ฐ์ดํฐ ํ์ดํ๋ผ์ธ์ ๊ฐ๋ฐํฉ๋๋ค.๋ฐ์ดํฐ ์๋น ๋ ์ด์ด ๊ฐ๋ฐ: OpenSearch(ํ
์คํธ/์๋งจํฑ ๊ฒ์), Redis(์ค์๊ฐ ๋ญํน/์บ์ฑ), FastAPI ๊ธฐ๋ฐ REST API๋ฅผ ํตํด ๋ค์ํ ์๋น์์๊ฒ ๋ฐ์ดํฐ๋ฅผ ์ ๊ณตํ๋ ๋ฉํฐ์์ง ์๋น ์ํคํ
์ฒ๋ฅผ ๊ตฌ์ถํฉ๋๋ค.AWS ํด๋ผ์ฐ๋ ์๋น์ค ํ์ฉ: S3(๋ฐ์ดํฐ ๋ ์ดํฌ ์คํ ๋ฆฌ์ง), EC2(๋ฐ์ดํฐ ์ฒ๋ฆฌ ์ํฌ๋ก๋), EKS(์ปจํ
์ด๋ ๊ธฐ๋ฐ ์๋น์ค) ๋ฑ AWS ์๋น์ค๋ฅผ ํ์ฉํ์ฌ ๋ฐ์ดํฐ ํ์ดํ๋ผ์ธ๊ณผ ์๋น ๋ ์ด์ด๋ฅผ ๊ตฌ์ถยท์ด์ํฉ๋๋ค.๋ฐ์ดํฐ ๊ฑฐ๋ฒ๋์ค ๋ฐ ๊ท์ ์ค์: Databricks Unity Catalog ๊ธฐ๋ฐ ๋ฐ์ดํฐ ์ ๊ทผ ์ ์ด, PII ๋ง์คํน/ํ์ง, ๊ธ์ต ๊ท์ ์ค์๋ฅผ ์ํ ์์นด์ด๋น ๋ฐ ๋ณด์ ์ํคํ
์ฒ๋ฅผ ๊ตฌํํฉ๋๋ค.ํฌ๋ก์คํ ํ์
: AI/ML ์์ง๋์ด, ํ๋ก๋ํธ ์์ง๋์ด, ๋ฐ์ดํฐ ๋ถ์๊ฐ์ ๊ธด๋ฐํ ํ์
ํ์ฌ ์์ธ ๋ฐ์ดํฐ, ๋ด์ค ๋ฐ์ดํฐ, ํ๋ ๋ถ์ ๋ฐ์ดํฐ ๋ฑ์ ์๊ตฌ์ฌํญ์ ํ์
ํ๊ณ ์ต์ ์ ๋ฐ์ดํฐ ์๋ฃจ์
์ ์ ๊ณตํฉ๋๋ค.
[ํ์ ์๊ฒฉ์๊ฑด]
5๋
์ด์์ ๋ฐ์ดํฐ ์์ง๋์ด ๊ฒฝ๋ ฅPython ๋๋ Java ์ค ํ๋ ์ด์์ ํ๋ก๊ทธ๋๋ฐ ์ธ์ด์ ๋ฅ์ํ์ ๋ถSQL ํ์ฉ ๋ฅ๋ ฅ์ด ๋ฐ์ด๋๊ณ ๋ฐ์ดํฐ ๋ชจ๋ธ๋ง์ ๋ํ ๊น์ ์ดํด๋ฅผ ๊ฐ์ถ์ ๋ถApache Kafka ๊ธฐ๋ฐ ๋๊ท๋ชจ ์ค์๊ฐ ์คํธ๋ฆฌ๋ฐ ๋ฐ์ดํฐ ์ฒ๋ฆฌ ๊ฒฝํ์ด ์์ผ์ ๋ถApache Spark ๋๋ Databricks ๋ฑ ๋์ฉ๋ ๋ฐ์ดํฐ ์ฒ๋ฆฌ ํ๋ ์์ํฌ ์ฌ์ฉ ๊ฒฝํ์ด ์์ผ์ ๋ถCDC(Change Data Capture) ํ์ดํ๋ผ์ธ ๊ตฌ์ถ ๊ฒฝํ์ด ์์ผ์ ๋ถ (Flink CDC, Debezium ๋ฑ)AWS ๋ฑ ํผ๋ธ๋ฆญ ํด๋ผ์ฐ๋ ํ๊ฒฝ์์ ๋ฐ์ดํฐ ์ธํ๋ผ ๊ตฌ์ถ ๋ฐ ์ด์ ๊ฒฝํ์ด ์์ผ์ ๋ถRDBMS(Oracle, PostgreSQL ๋ฑ)์ ๋ํ ์ดํด๊ฐ ์์ผ์ ๋ถ
[์ ํธ ์๊ฒฉ์๊ฑด]
์ฆ๊ถ, ์ํ, ์นด๋์ฌ ๋ฑ ๊ธ์ต ๋๋ฉ์ธ์์ ๋ฐ์ดํฐ ํ๋ซํผ ๊ตฌ์ถ/์ด์ ๊ฒฝํ์ด ์์ผ์ ๋ถDatabricks(Delta Lake, Unity Catalog, DLT) ๋๋ ์ ์ฌ ๋ ์ดํฌํ์ฐ์ค ํ๋ซํผ ์ด์ ๊ฒฝํ์ด ์์ผ์ ๋ถConfluent Platform(Schema Registry, KRaft, Cluster Linking) ์ด์ ๊ฒฝํ์ด ์์ผ์ ๋ถTerraform, Ansible ๋ฑ IaC ๋๊ตฌ๋ฅผ ํ์ฉํ ์ธํ๋ผ ์๋ํ ๊ฒฝํ์ด ์์ผ์ ๋ถ๋ฐ์ดํฐ ํ์ง ๋ชจ๋ํฐ๋ง ๋ฐ ๋ฐ์ดํฐ ๊ฑฐ๋ฒ๋์ค ์ฒด๊ณ ๊ตฌ์ถ ๊ฒฝํ์ด ์์ผ์ ๋ถOpenSearch, Redis ๋ฑ ์๋น ์์ง ์ด์ ๊ฒฝํ์ด ์์ผ์ ๋ถ์ ์๊ธ์ต๊ฐ๋
๊ท์ ๋ฑ ๊ธ์ต ๊ท์ ํ๊ฒฝ์ ๋ํ ์ดํด๊ฐ ์์ผ์ ๋ถCI/CD ํ์ดํ๋ผ์ธ ๊ตฌ์ถ ๋ฐ DevOps ๋ฌธํ์ ๋ํ ์ดํด๊ฐ ๋์ผ์ ๋ถAI ์ฝ๋ฉ ์์ด์ ํธ(Claude Code, Codex, Cursor ๋ฑ)๋ฅผ ํ์ฉํ Agentic Engineering ๊ฒฝํ ๋๋ ๊ด์ฌ์ด ์์ผ์ ๋ถAI ๋๊ตฌ์ ์ถ๋ ฅ์ ๊ฒ์ฆยท์กฐํฉํ์ฌ ๋ณตํฉ์ ์ธ ์์ง๋์ด๋ง ์ฐ์ถ๋ฌผ์ ๋ง๋ค์ด๋ด๋ Compound Engineering ์ญ๋์ด ์์ผ์ ๋ถAI Harness(MCP ์๋ฒ, ์ปค์คํ
์คํฌ, ํ
๋ฑ)๋ฅผ ์ค๊ณยท๊ตฌ์ฑํ์ฌ ๊ฐ๋ฐ ์์ฐ์ฑ์ ๊ทน๋ํํ ๊ฒฝํ์ด ์์ผ์ ๋ถ
[์ ์ถ ์๋ฅ (ํ์)]
๊ตญ๋ฌธ ์ด๋ ฅ์ ๋ฐ ์๊ธฐ์๊ฐ์(์์ ์์) ์ ์ถ(์ ํ) GitHub/๊ธฐ์ ๋ธ๋ก๊ทธ/ํฌํธํด๋ฆฌ์ค ๋งํฌ ์ฒจ๋ถ
---
[์ ์์ฌํญ]
์๊ธฐ ์์
์ ์ฐจ๋ ๊ธฐ๋ณธ ํ๋ก์ธ์ค์ด๋ฉฐ, ํ์ฌ์ ์ฌ์ ์ ๋ฐ๋ผ ์ ํ ์ ์ฐจ๊ฐ ์ถ๊ฐ ๋๋ ๋ณ๊ฒฝ๋ ์ ์์ต๋๋ค.์ธ๋ถ ์ฌํญ(์ง์ ์๊ฒฉ, ์ ํ ๋ฐฉ์ ๋ฑ)์ ๊ณต๊ณ ๋ณ๋ก ์์ดํ๋ฉฐ, ์ง์์๋ ๊ณต๊ณ ๋ด์ฉ์ ์ถฉ๋ถํ ํ์ธํ ์ฑ
์์ด ์์ต๋๋ค.์ง์์ ๋ฐ ์ ์ถ ์๋ฃ์ ๊ธฐ์ฌ๋ ๋ด์ฉ์ด ์ฌ์ค๊ณผ ๋ค๋ฅด๊ฑฐ๋ ํ์๋ก ํ๋ช
๋ ๊ฒฝ์ฐ, ์ ํ ์งํ ์ค ๋๋ ํฉ๊ฒฉ ์ดํ๋ผ๋ ์ฑ์ฉ์ด ์ทจ์๋ ์ ์์ต๋๋ค.์ ํ ์งํ ๊ณผ์ ์์ ํ์ ์, ์ง์์์ ์ฌ์ ๋์๋ฅผ ๋ฐ์ ๋ ํผ๋ฐ์ค ์ฒดํฌ ๋ฑ ์ถ๊ฐ ๊ฒ์ฆ ์ ์ฐจ๊ฐ ์งํ๋ ์ ์์ต๋๋ค.์ฅ์ ์ธ ๋ฐ ๊ตญ๊ฐ๋ณดํ๋์์๋ ๊ด๋ จ ๋ฒ๋ น์ ๋ฐ๋ผ ์ฐ๋ํฉ๋๋ค.์ํํ ์ฑ์ฉ ์ด์์ ์ํด ๋์ผ ๊ธฐ๊ฐ ๋ด ๋ณต์ ํฌ์ง์
์ ๋ํ ๋์ ์ง์์ ์ ํ๋ ์ ์์ต๋๋ค.๋ณธ ์ฑ์ฉ์ ์์์ฑ์ฉ์ผ๋ก ์งํ๋๋ฉฐ, ์ ํฉํ ์ธ์ฌ ์ฑ์ฉ ์ ๊ณต๊ณ ๋ ์ฌ์ ๊ณ ์ง ์์ด ์กฐ๊ธฐ ๋ง๊ฐ๋ ์ ์์ต๋๋ค.๋ฉด์ ๋ฐฉ์ ๋ฐ ์์ ์๊ฐ์ ์ ํ ๋จ๊ณ ๋ฐ ์ํฉ์ ๋ฐ๋ผ ๋ณ๊ฒฝ๋ ์ ์์ต๋๋ค.๋ณต์ง ๋ฐ ํํ์ ํ์ฌ์ ๋ด๋ถ ๊ท์ , ์ทจ์
๊ท์น ๋ฐ ๊ฐ๋ณ ๊ทผ๋ก๊ณ์ฝ์ ๋ฐ๋ผ ๋ณ๊ฒฝ ๋๋ ์ ํ๋ ์ ์์ผ๋ฉฐ, ๊ทผ๋ก ํํ์ ๋ฐ๋ผ ์ ์ฉ ๋ฒ์๊ฐ ์์ดํ ์ ์์ต๋๋ค.
*๋ฌธ์: TAํ recruit@nextsecurities.com