D15 · L3 · 05 — L2 · ERP & Core SC Systems IntegrationL2 · Integración de ERP y Sistemas Núcleo de la Cadena

Data architecture for supply chain: data lakes, APIs & real-time integrationArquitectura de datos para SC: data lakes, APIs e integración en tiempo real

Supply chain data architecture is not IT — it is the foundation of every decision in the chain.

La arquitectura de datos de SC no es IT — es el fundamento de todas las decisiones de la cadena.

01What it isQué es

Supply chain data architecture is the design of how operational, real-time and external data are captured, stored and served — typically a lakehouse plus event streaming and an API layer — so each decision gets data at the freshness it needs and every team computes KPIs the same way.

La arquitectura de datos de la cadena de suministro es el diseño de cómo se capturan, almacenan y sirven los datos operativos, en tiempo real y externos — típicamente un lakehouse con streaming de eventos y una capa de APIs — para que cada decisión reciba datos con la frescura que necesita y todos los equipos calculen los KPIs igual.

02Why it mattersPor qué importa

Analytics and AI cannot outperform the data they receive: stale, siloed or inconsistently defined data produces late exceptions and arguments about whose OTIF is right. The value of big data analytics in logistics and supply chain depends on the infrastructure and integration that make data usable across functions (Wang, Gunasekaran, Ngai and Papadopoulos, 2016 — International Journal of Production Economics).

La analítica y la IA no pueden superar a los datos que reciben: datos viejos, en silos o con definiciones inconsistentes producen excepciones tardías y discusiones sobre cuál OTIF es el correcto. El valor de la analítica de big data en logística y cadena de suministro depende de la infraestructura y la integración que hacen utilizables los datos entre funciones (Wang, Gunasekaran, Ngai y Papadopoulos, 2016 — International Journal of Production Economics).

03How it is doneCómo se hace

1
Set freshness per decision. Classify each dataset as real-time, near-real-time or batch according to the decision it feeds, and write the SLA.
2
Define metrics once. Build a shared semantic layer so OTIF, fill rate and inventory mean the same thing in every dashboard.
3
Monitor the pipelines. Alert on failed or late pipeline runs before users notice gaps and fall back to manual extracts.
1
Fija la frescura por decisión. Clasifica cada conjunto de datos como tiempo real, casi tiempo real o por lotes según la decisión que alimenta, y escribe el SLA.
2
Define las métricas una vez. Construye una capa semántica compartida para que OTIF, fill rate e inventario signifiquen lo mismo en cada tablero.
3
Monitorea los pipelines. Alerta sobre corridas fallidas o tardías antes de que los usuarios noten huecos y regresen a extracciones manuales.

04The concept in depthEl concepto a fondo

📊Supply chain data architecture: from operational data to analytical decisions›
Modern supply chains generate data across all layers: transactional (ERP, WMS, TMS), real-time operational (IoT, RFID, GPS), and external (weather, retailer POS, market signals). The supply chain data architecture must capture all of these, make them available at the right latency, and integrate them for analytics and AI. A common current reference architecture: Data Lakehouse (Databricks or Snowflake) + API integration layer + Kafka event streaming for real-time data. This architecture supports both real-time operational decisions (<5 minutes) and deep analytics (historical data across all systems in a unified semantic layer).
📊The 3 data tiers and their supply chain latency requirements›
(1) Real-time operational tier (latency target: <1 minute): inventory ATP, shipment exception alerts, production line status. Technology: Kafka event streaming + in-memory cache (Redis). (2) Near-real-time analytical tier (latency target: <15 minutes): S&OP dashboards, OTIF monitoring, demand planning. Technology: lakehouse (Delta Lake/Snowflake) + BI layer (Power BI, Tableau). (3) Batch analytical tier (latency target: <24 hours): cost-to-serve analysis, supplier scorecards, network optimization, quarterly strategic models. Technology: data warehouse + dbt + BI. All three tiers are needed; the mistake is building only batch when operational decisions require real-time.
🔢API-first vs. file-based integration: the data freshness tradeoff›
File-based integration (SFTP, batch ETL): data arrives in batches (hourly, daily). Low infrastructure cost. Appropriate for non-time-sensitive flows. API-first integration (REST, webhooks, Kafka): data arrives event-by-event in near-real-time. Required for ATP, exception management, and IoT. The practical design principle: build the lakehouse with both real-time Kafka ingestion for critical operational data and batch ETL for legacy systems, with a clear data freshness SLA for each dataset.
🏆Intermediate vs. Advanced›
Intermediate: works with supply chain data pipelines and dashboards; understands data latency requirements; identifies and reports data quality anomalies.

Advanced: designs the supply chain data architecture; leads the lakehouse and streaming platform implementation; manages API integration layer and data governance framework.
📊Arquitectura de datos de la cadena de suministro: de los datos operativos a las decisiones analíticas›
Las cadenas de suministro modernas generan datos en todas sus capas: transaccionales (ERP, WMS, TMS), operativos en tiempo real (IoT, RFID, GPS) y externos (clima, punto de venta de los minoristas, señales de mercado). La arquitectura de datos debe capturarlos todos, ponerlos a disposición con la latencia adecuada e integrarlos para analítica e IA. Una arquitectura de referencia común hoy: Data Lakehouse (Databricks o Snowflake) + capa de integración por API + streaming de eventos con Kafka para datos en tiempo real. Esta arquitectura soporta tanto decisiones operativas en tiempo real (<5 minutos) como analítica profunda (datos históricos de todos los sistemas en una capa semántica unificada).
📊Los 3 niveles de datos y sus requerimientos de latencia en la cadena de suministro›
(1) Nivel operativo en tiempo real (latencia objetivo: <1 minuto): ATP de inventario, alertas de excepción de embarques, estatus de líneas de producción. Tecnología: streaming de eventos con Kafka + caché en memoria (Redis). (2) Nivel analítico casi en tiempo real (latencia objetivo: <15 minutos): tableros de S&OP, monitoreo de OTIF, planeación de demanda. Tecnología: lakehouse (Delta Lake/Snowflake) + capa de BI (Power BI, Tableau). (3) Nivel analítico por lotes (latencia objetivo: <24 horas): análisis de costo de servir, evaluaciones de proveedores, optimización de red, modelos estratégicos trimestrales. Tecnología: data warehouse + dbt + BI. Los tres niveles son necesarios; el error es construir solo el de lotes cuando las decisiones operativas requieren tiempo real.
🔢Integración API-first vs. por archivos: el dilema de la frescura de los datos›
Integración por archivos (SFTP, ETL por lotes): los datos llegan en lotes (cada hora, cada día). Bajo costo de infraestructura. Adecuada para flujos no sensibles al tiempo. Integración API-first (REST, webhooks, Kafka): los datos llegan evento por evento, casi en tiempo real. Necesaria para ATP, gestión de excepciones e IoT. El principio práctico de diseño: construir el lakehouse con ingesta en tiempo real vía Kafka para los datos operativos críticos y ETL por lotes para los sistemas legados, con un SLA claro de frescura para cada conjunto de datos.
🏆Intermedio vs. Avanzado›
Intermedio: trabaja con pipelines de datos y tableros de la cadena de suministro; entiende los requerimientos de latencia; identifica y reporta anomalías de calidad de datos.

Avanzado: diseña la arquitectura de datos de la cadena de suministro; lidera la implementación del lakehouse y de la plataforma de streaming; gestiona la capa de integración por API y el marco de gobierno de datos.

05In practiceEn la práctica

📊Build the lakehouse with a shared semantic layer from day 1 — metric proliferation starts on day 2 without it›
When finance OTIF and operations OTIF use different calculation logic, the supply chain review becomes a debate about data instead of decisions. A unified semantic layer defines the one OTIF that everyone uses.
🔢Implement real-time Kafka streaming for time-sensitive supply chain data — batch ETL cannot support operational ATP or exception management›
Batch ETL delivers data in hourly or daily windows. If ATP must reflect a goods receipt that happened 3 hours ago, batch architecture will over-commit inventory. Real-time streaming is mandatory for ATP, exception alerts, and IoT data.
🔗Define data ownership and quality SLAs per domain before ingesting data — a lakehouse without governance becomes a data swamp›
Each source system must have a designated data owner with an accountability SLA for completeness and accuracy. Without this governance, the lakehouse accumulates poor-quality data that corrupts downstream analytics.
📊Monitor pipeline reliability and latency as platform KPIs — a broken pipeline is invisible until it causes a business decision failure›
Pipeline reliability and latency must be monitored continuously with automatic alerts. A pipeline that fails silently generates data gaps that users fill with manual extracts — recreating the exact problem the lakehouse was built to solve.
📊Construye el lakehouse con una capa semántica compartida desde el día 1 — sin ella, la proliferación de métricas empieza el día 2›
Cuando el OTIF de finanzas y el de operaciones usan lógicas de cálculo distintas, la revisión de la cadena se vuelve un debate sobre datos en lugar de decisiones. Una capa semántica unificada define el único OTIF que todos usan.
🔢Implementa streaming en tiempo real con Kafka para los datos sensibles al tiempo — el ETL por lotes no puede soportar ATP operativo ni gestión de excepciones›
El ETL por lotes entrega datos en ventanas horarias o diarias. Si el ATP debe reflejar una entrada de mercancía de hace 3 horas, una arquitectura por lotes comprometerá inventario de más. El streaming en tiempo real es indispensable para ATP, alertas de excepción y datos de IoT.
🔗Define la propiedad de los datos y SLAs de calidad por dominio antes de ingerirlos — un lakehouse sin gobierno se convierte en un pantano de datos›
Cada sistema fuente debe tener un dueño de datos designado con un SLA de completitud y exactitud. Sin este gobierno, el lakehouse acumula datos de mala calidad que corrompen la analítica posterior.
📊Monitorea la confiabilidad y la latencia de los pipelines como KPIs de la plataforma — un pipeline roto es invisible hasta que provoca una mala decisión de negocio›
La confiabilidad y la latencia de los pipelines deben monitorearse de forma continua con alertas automáticas. Un pipeline que falla en silencio genera huecos de datos que los usuarios llenan con extracciones manuales — recreando justo el problema que el lakehouse debía resolver.

06Illustrative caseCaso ilustrativo

Illustrative case built from typical industry values — not data from a specific company.Caso ilustrativo construido con valores típicos de la industria — no son datos de una empresa específica.
Illustrative case: Databricks Lakehouse implementation — FMCG distributor, 8 data sources (3 ERPs, 2 WMS, 1 TMS, IoT, retailer POS)
The company implements a Databricks Data Lakehouse to unify supply chain data from 8 sources and reduce KPI reporting time from 3 days to real-time.
Data architecture KPIBefore lakehouse (siloed batch ETL)After Databricks Lakehouse
Supply chain data latency (warehouse event to dashboard visibility)12–24 hours average · Nightly ETL · Planning team worked with yesterday’s data<8 minutes average · Kafka streaming for ERP and WMS events · Working with today’s operational reality
Cross-system KPI calculation (OTIF requiring WMS + TMS + ERP data)Manual monthly calculation · 3 analysts · 4 days · Different answers from different teamsAutomated real-time OTIF · Single source of truth · 0 analyst effort · Available daily
Time to deploy a new supply chain analytical model8–12 weeks · Data extraction from multiple systems required each time2–3 weeks · All data already in lakehouse with shared semantic layer · New models built on existing clean data
Result: Databricks investment: $4.2M MXN. Annual value: $9.8M MXN (analytical labor + inventory optimization + faster exception response). Payback: 5.1 months.
Illustrative case built from typical industry values — not data from a specific company.Caso ilustrativo construido con valores típicos de la industria — no son datos de una empresa específica.
Caso ilustrativo: implementación de Databricks Lakehouse — distribuidor de consumo masivo, 8 fuentes de datos (3 ERPs, 2 WMS, 1 TMS, IoT, punto de venta de minoristas)
La empresa implementa un Data Lakehouse en Databricks para unificar los datos de la cadena de suministro de 8 fuentes y pasar el reporte de KPIs de 3 días a tiempo real.
KPI de arquitectura de datosAntes del lakehouse (ETL por lotes en silos)Después con Databricks Lakehouse
Latencia de datos de la cadena (del evento en almacén a la visibilidad en el tablero)12–24 horas en promedio · ETL nocturno · Planeación trabajaba con los datos de ayer<8 minutos en promedio · Streaming con Kafka para eventos de ERP y WMS · Se trabaja con la realidad operativa de hoy
Cálculo de KPIs entre sistemas (OTIF que requiere datos de WMS + TMS + ERP)Cálculo manual mensual · 3 analistas · 4 días · Respuestas distintas según el equipoOTIF automatizado en tiempo real · Fuente única de verdad · 0 esfuerzo de analistas · Disponible diariamente
Tiempo para desplegar un nuevo modelo analítico de la cadena8–12 semanas · Cada vez se requería extraer datos de varios sistemas2–3 semanas · Todos los datos ya están en el lakehouse con capa semántica compartida · Los nuevos modelos se construyen sobre datos limpios existentes
Resultado: Inversión en Databricks: $4.2M MXN. Valor anual: $9.8M MXN (mano de obra analítica + optimización de inventario + respuesta más rápida a excepciones). Recuperación: 5.1 meses.

07How it is measuredCómo se mide

📊Supply Chain Data Freshness (minutes from operational event to dashboard)›
Supply Chain Data Freshness (minutes from operational event to dashboard)
Average time from when an operational event occurs (goods receipt, order creation, shipment scan) to when the event is visible in supply chain dashboards
Benchmark: <15 minutes for operational supply chain dashboards · <24 hours for strategic analytics · >4 hours for operational data indicates batch-only architecture
⚠️ Supply chain data older than 4 hours for operational decisions means planners are reacting to yesterday’s supply chain. Exceptions detected 4 hours late generate significantly higher recovery costs than exceptions detected in real time.
📊Data Pipeline Reliability % (successful pipeline runs / total scheduled runs)›
Data Pipeline Reliability % (successful pipeline runs / total scheduled runs)
(Data pipeline runs completing successfully with valid output / Total scheduled pipeline runs) × 100
Benchmark: >99.5% pipeline reliability for production supply chain data pipelines · <97% indicates infrastructure or data quality issues requiring remediation
🔑 A pipeline with 95% reliability on a 15-minute schedule fails 4.8 times/day — generating 4.8 gaps in supply chain visibility that downstream users fill with manual data extracts, recreating the silo problem the lakehouse was built to solve.
📊Frescura de datos de la cadena de suministro (minutos del evento operativo al tablero)›
Frescura de datos de la cadena de suministro (minutos del evento operativo al tablero)
Tiempo promedio desde que ocurre un evento operativo (entrada de mercancía, creación de pedido, escaneo de embarque) hasta que es visible en los tableros de la cadena de suministro
Referencia: <15 minutos para tableros operativos · <24 horas para analítica estratégica · >4 horas en datos operativos indica una arquitectura solo por lotes
⚠️ Datos de más de 4 horas de antigüedad para decisiones operativas significan que los planeadores reaccionan a la cadena de suministro de ayer. Las excepciones detectadas con 4 horas de retraso generan costos de recuperación significativamente mayores que las detectadas en tiempo real.
📊Confiabilidad de pipelines de datos % (corridas exitosas / total de corridas programadas)›
Confiabilidad de pipelines de datos % (corridas exitosas / total de corridas programadas)
(Corridas de pipelines completadas con éxito y salida válida / Total de corridas programadas) × 100
Referencia: >99.5% de confiabilidad en pipelines productivos de la cadena de suministro · <97% indica problemas de infraestructura o calidad de datos que requieren corrección
🔑 Un pipeline con 95% de confiabilidad y frecuencia de 15 minutos falla 4.8 veces al día — generando 4.8 huecos de visibilidad que los usuarios llenan con extracciones manuales, recreando el problema de silos que el lakehouse debía resolver.

08What you would useQué se usa

📌 Supply Chain Data Architecture
🟦Databricks Data Intelligence Platform / Snowflake AI Data Cloud›
Module: Data Lakehouse for Supply Chain Analytics

Databricks leads for ML-heavy workloads and streaming data integration. Snowflake leads for SQL-heavy analytics and multi-cloud data sharing. Both support the medallion architecture (bronze/silver/gold) that is the reference pattern for supply chain lakehouses.
🟦Apache Kafka (Confluent) / Amazon Kinesis Data Streams / Azure Event Hubs›
Module: Real-Time Event Streaming for Supply Chain

Apache Kafka via Confluent is the reference streaming platform for supply chain real-time data. Amazon Kinesis Data Streams and Azure Event Hubs provide managed alternatives for single-cloud architectures.
📌 Arquitectura de datos de la cadena de suministro
🟦Databricks Data Intelligence Platform / Snowflake AI Data Cloud›
Módulo: Data Lakehouse para analítica de la cadena de suministro

Databricks destaca en cargas intensivas de ML y en integración de datos en streaming. Snowflake destaca en analítica intensiva en SQL y en intercambio de datos multinube. Ambos soportan la arquitectura medallón (bronce/plata/oro), el patrón de referencia para lakehouses de cadena de suministro.
🟦Apache Kafka (Confluent) / Amazon Kinesis Data Streams / Azure Event Hubs›
Módulo: Streaming de eventos en tiempo real para la cadena de suministro

Apache Kafka vía Confluent es la plataforma de streaming de referencia para datos en tiempo real de la cadena de suministro. Amazon Kinesis Data Streams y Azure Event Hubs ofrecen alternativas administradas para arquitecturas de una sola nube.
The bottom lineEn corto

Decide how fresh each decision's data must be and define each KPI once; the technology choice follows.

Decide qué tan frescos deben ser los datos de cada decisión y define cada KPI una sola vez; la tecnología viene después.

All D15 componentsTodos los componentes de D15D15 artifactsArtifacts de D15SCRA