1. Faro

Nivel 2 · Conserva un registro por persona

La solicitud

De Tyler Morgan, Ingeniero de Datos Junior

“Encontramos los correos de clientes duplicados el mes pasado. Ahora necesito un mapa de fusión para el CRM: para cada registro duplicado, ¿qué customer_id conservamos? Conserva a quien se registró primero.”

Tu objetivo

Trata las filas de clientes como la misma persona cuando LOWER(TRIM(email)) coincide. Numera las filas de cada persona con ROW_NUMBER, primero el signup_date más temprano (desempata por customer_id), y conserva la fila 1. Devuelve una fila por registro descartado con: email (recortado y en minúsculas), kept_customer_id y dropped_customer_id. Ordena por dropped_customer_id ascendente.

  • Lee de la tabla customerspendiente
  • Muestra exactamente email kept_customer_id dropped_customer_idpendiente
  • 18 filas, ordenadas como se pidependiente

Tu consulta

SQL

Cargando el editor…

    ResultadoVista previa de customers · presiona Ejecutar para ver el tuyo
    Vista previa de customers
    customer_idfirst_namelast_nameemailcity
    1OwenHudsonowen.hudson@icloud.comSan Francisco
    2DouglasMendozadmendoza69@gmail.comAtlanta
    3HenryBrookshbrooks@lakesidecafe.comLos Angeles
    4BrianGrahambgraham@bluecedarhomes.comSeattle

    Mote revisa tu resultado

    Presiona Ejecutar. Cada fila que cumple el objetivo se vuelve una luciérnaga en tu linterna.

    Tablas

    Datos de la tienda Harbor & Pine, listos para consultar.

    customers2,018 filas · 9 columnas
    • customer_idinteger
    • first_namevarchar
    • last_namevarchar
    • emailvarchar
    • cityvarchar
    • statevarchar
    • signup_datedate
    • segmentvarchar
    • referral_sourcevarchar
    Primeras 5 filas de customers
    customer_idfirst_namelast_nameemailcitystatesignup_datesegmentreferral_source
    1OwenHudsonowen.hudson@icloud.comSan FranciscoCA2022-06-02consumersearch
    2DouglasMendozadmendoza69@gmail.comAtlantaGA2022-06-02consumerNULL
    3HenryBrookshbrooks@lakesidecafe.comLos AngelesCA2022-06-04businessNULL
    4BrianGrahambgraham@bluecedarhomes.comSeattleWA2022-06-06businesspinterest
    5KyleJimenezkjimenez27@yahoo.comIndianapolisIN2022-06-07consumerNULL
    products120 filas · 8 columnas
    • product_idinteger
    • namevarchar
    • categoryvarchar
    • subcategoryvarchar
    • unit_pricedecimal
    • unit_costdecimal
    • launched_ondate
    • is_activeboolean
    Primeras 5 filas de products
    product_idnamecategorysubcategoryunit_priceunit_costlaunched_onis_active
    101Vale Velvet LoveseatFurnitureSofas1659.00NULL2023-09-11true
    102Alder Oak Coffee TableFurnitureTables919.00503.502024-05-16true
    103Orchard Rattan Dining ChairFurnitureChairs789.00429.872023-05-27true
    104Upland Oak BookcaseFurnitureStorage429.00214.702022-12-20true
    105Avery Leather Bed FrameFurnitureBeds449.00232.702021-08-31true
    orders12,000 filas · 7 columnas
    • order_idinteger
    • customer_idinteger
    • order_datetimestamp
    • statusvarchar
    • channelvarchar
    • shipping_feedecimal
    • coupon_codevarchar
    Primeras 5 filas de orders
    order_idcustomer_idorder_datestatuschannelshipping_feecoupon_code
    10011252023-01-01 20:51:19completedweb0.00NULL
    10021562023-01-02 07:58:46completedweb0.00NULL
    1003222023-01-02 10:25:27completedmarketplace4.99WELCOME10
    1004482023-01-02 11:21:51completedmarketplace4.99WELCOME10
    1005822023-01-02 11:43:36completedweb0.00WELCOME10
    order_items30,338 filas · 6 columnas
    • order_item_idinteger
    • order_idinteger
    • product_idinteger
    • quantityinteger
    • unit_pricedecimal
    • discount_pctdecimal
    Primeras 5 filas de order_items
    order_item_idorder_idproduct_idquantityunit_pricediscount_pct
    11001121931.990.00
    21001154311.990.00
    31002154411.990.00
    410021941149.000.00
    51002193219.990.00
    returns1,673 filas · 5 columnas
    • return_idinteger
    • order_item_idinteger
    • returned_ondate
    • reasonvarchar
    • refund_amountdecimal
    Primeras 5 filas de returns
    return_idorder_item_idreturned_onreasonrefund_amount
    1142023-01-10damaged83.69
    2422023-01-10wrong_item19.99
    31052023-01-14wrong_item10.99
    4242023-01-16changed_mind26.99
    51262023-01-16late20.99
    employees60 filas · 8 columnas
    • employee_idinteger
    • first_namevarchar
    • last_namevarchar
    • departmentvarchar
    • titlevarchar
    • manager_idinteger
    • hire_datedate
    • salaryinteger
    Primeras 5 filas de employees
    employee_idfirst_namelast_namedepartmenttitlemanager_idhire_datesalary
    1CatherineHaleExecutiveChief Executive OfficerNULL2016-03-01285000
    2RobertKimExecutiveChief Operating Officer12017-01-09235000
    3MeganCollinsSalesHead of Sales12018-04-16172000
    4ChloeGutierrezSalesAccount Executive32020-01-2172000
    5FrankBellSalesAccount Executive32023-05-2173000
    web_sessions40,000 filas · 7 columnas
    • session_idinteger
    • customer_idinteger
    • started_attimestamp
    • devicevarchar
    • sourcevarchar
    • pages_viewedinteger
    • convertedboolean
    Primeras 5 filas de web_sessions
    session_idcustomer_idstarted_atdevicesourcepages_viewedconverted
    1NULL2023-01-01 23:02:24mobilepaid1false
    2182023-01-01 15:07:49desktoppaid1false
    3NULL2023-01-01 16:55:46desktopdirect7false
    4NULL2023-01-01 12:43:28mobileorganic3false
    5NULL2023-01-01 13:06:21mobilesocial2false
    marketing_spend3,276 filas · 3 columnas
    • spend_datedate
    • channelvarchar
    • amountdecimal
    Primeras 5 filas de marketing_spend
    spend_datechannelamount
    2023-01-01paid492.99
    2023-01-01email37.38
    2023-01-01social200.53
    2023-01-02paid709.13
    2023-01-02email64.13

    La lección

    El capítulo 7 encontró clientes duplicados con GROUP BY ... HAVING COUNT(*) > 1. Eso te dice qué emails se repiten, pero un group-by colapsa las filas, así que no puedes conservar fácilmente un registro entero y descartar el resto. ROW_NUMBER sí puede.

    El patrón de deduplicación

    Numera las filas dentro de cada grupo de duplicados, en el orden que decide al ganador, y conserva el número 1:

    WITH ranked AS (
      SELECT
        *,
        ROW_NUMBER() OVER (
          PARTITION BY LOWER(TRIM(email))      -- what makes two rows the same person
          ORDER BY signup_date, customer_id    -- who wins: earliest, then lowest id
        ) AS rn
      FROM customers
    )
    SELECT * FROM ranked WHERE rn = 1;

    Esa ventana esconde tres decisiones, y cada una debería ser deliberada:

    • La clave en PARTITION BY. Aquí, un email limpio. Con estos datos la columna email en bruto tiene 2,012 valores distintos, la limpia 2,000.
    • El ganador en ORDER BY. El alta más temprana es una regla común. Otras son “el registro con más pedidos” o “el actualizado más recientemente”.
    • Un desempate. customer_id hace que el resultado sea el mismo en cada ejecución.

    La consulta de arriba devuelve 2,000 filas de 2,018: una por persona.

    Conservar y mapear

    Borrar duplicados rara vez basta. Los pedidos, tickets y correos pueden apuntar a los ids descartados, así que el equipo del CRM necesita un mapa de cada id descartado al id que sobrevive. Une las filas clasificadas consigo mismas, los duplicados con el ganador de la misma clave. Por ejemplo, el cliente 2014 (BJONES76@GMAIL.COM) se asigna al cliente 1698 (bjones76@gmail.com). En este conjunto de datos ninguno de los 18 duplicados tiene todavía un pedido, así que la fusión no pierde nada.

    Errores comunes

    • Particionar por la columna en bruto. El starter hace esto y encuentra solo 6 duplicados, las copias exactas. Los otros 12 difieren por mayúsculas o por un espacio inicial.
    • Usar RANK en lugar de ROW_NUMBER. Dos registros con la misma fecha de alta recibirían ambos el puesto 1 y ambos sobrevivirían.
    • SELECT DISTINCT. Solo elimina filas idénticas en todas las columnas. Las personas duplicadas casi siempre difieren en algo (el id, al menos).
    • Filtrar rn en el mismo SELECT. Un valor de ventana no puede ir en el WHERE de esa consulta. Calcúlalo en una CTE y filtra por fuera. DuckDB, Snowflake y BigQuery también aceptan QUALIFY rn = 1.

    En SQL Server

    El patrón es idéntico, y es un favorito de los cursos y entrevistas de T-SQL. SQL Server no tiene QUALIFY, así que la CTE es obligatoria. Una CTE puede incluso borrar los duplicados en el sitio:

    WITH ranked AS (
      SELECT *, ROW_NUMBER() OVER (PARTITION BY LOWER(TRIM(email)) ORDER BY signup_date, customer_id) AS rn
      FROM customers
    )
    DELETE FROM ranked WHERE rn > 1;

    Elige qué puede ejecutarse en este sitio. Puedes cambiarlo cuando quieras desde "Configurar cookies", al pie de cada página.