=== Job Execution Log === Job: DataHub Weekly Refresh Execution ID: 18 Start Time: 2025-12-09 13:30:00 Command: C:\PYTHON\DataHub\start_weekly_refresh_local.bat Working Directory: C:\PYTHON\DataHub ================================================== ============================================================================ DataHub - Weekly Refresh (Modalita Locale) ============================================================================ Database temporaneo: C:\PYTHON\DataHub\db\temp.db Database produzione: \\Mediaset.it\share\Indirizzo_controllo_risores\SOFTWARE\DataHub\DataHub.db ============================================================================ 2025-12-09 13:30:01 - data_ingestion_orchestrator - INFO - Inizializzazione schema database richiesta... 2025-12-09 13:30:01 - data_ingestion_orchestrator - INFO - Esecuzione comandi 'CREATE TABLE IF NOT EXISTS'... 2025-12-09 13:30:01 - data_ingestion_orchestrator - INFO - Creazione/Verifica indici... 2025-12-09 13:30:02 - data_ingestion_orchestrator - INFO - Schema database verificato/creato con successo. ============================================================ : DataHub - Gestione CoreDB = : Data: 09/12/2025 13:30:01 = ============================================================ INIZIALIZZAZIONE DATABASE ------------------------------\n Percorso database target: C:\PYTHON\DataHub\db\temp.db \n\u2705 Database inizializzato o gią esistente con successo (incluse tabelle Staging, Core base, Reporting base). \n==============================\n 2025-12-09 13:30:02 - update_ref_data - INFO - Avvio aggiornamento tabelle di dati di riferimento... 2025-12-09 13:30:02 - update_ref_data - INFO - Lettura dati da: C:\PYTHON\DataHub\config\reti_cluster.csv 2025-12-09 13:30:02 - update_ref_data - INFO - Lette 34 righe valide dal CSV. 2025-12-09 13:30:02 - update_ref_data - INFO - Pulizia tabella 'reti_cluster' nel database... 2025-12-09 13:30:02 - update_ref_data - INFO - Inserimento nuovi dati in 'reti_cluster'... 2025-12-09 13:30:02 - update_ref_data - INFO - Aggiornamento tabella 'reti_cluster' completato con successo. Inserite 34 righe. 2025-12-09 13:30:02 - update_ref_data - INFO - Aggiornamento dati di riferimento completato in 0.05 secondi. ============================================================ : DataHub - Gestione CoreDB = : Data: 09/12/2025 13:30:02 = ============================================================ AGGIORNAMENTO DATI DI RIFERIMENTO ------------------------------\n \n\u2705 Aggiornamento dati di riferimento completato con successo. \n==============================\n 2025-12-09 13:30:03 - data_ingestion_orchestrator - INFO - Avvio processo completo di DataIngestion orchestrato... 2025-12-09 13:30:03 - data_ingestion_orchestrator - INFO - --- Avvio importazione per: PRODOTTI --- 2025-12-09 13:30:03 - prodotti_importer - INFO - Avvio importazione per 'stg_prodotti' da \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_prod.csv 2025-12-09 13:30:03 - prodotti_importer - INFO - Lettura file con: encoding='cp1252', delimitatore=';', skip righe=3 C:\PYTHON\DataHub\data_ingestion\base_importer.py:80: ParserWarning: Skipping line 10528: expected 25 fields, saw 27 Skipping line 15725: expected 25 fields, saw 26 Skipping line 123518: expected 25 fields, saw 27 df = pd.read_csv( 2025-12-09 13:30:05 - prodotti_importer - INFO - File letto: 223,445 righe. 2025-12-09 13:30:05 - prodotti_importer - INFO - Pulizia tabella di staging 'stg_prodotti'... 2025-12-09 13:30:06 - prodotti_importer - INFO - Pulizia completata. 2025-12-09 13:30:06 - prodotti_importer - INFO - Inserimento di 223,445 righe in 'stg_prodotti'... 2025-12-09 13:30:07 - prodotti_importer - INFO - Inserimento dati in staging completato con successo. 2025-12-09 13:30:07 - data_ingestion_orchestrator - INFO - --- Fine importazione per: PRODOTTI --- 2025-12-09 13:30:07 - data_ingestion_orchestrator - INFO - --- Avvio importazione per: EMESSO --- 2025-12-09 13:30:07 - emesso_importer - INFO - Avvio importazione per 'stg_emesso' da \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_emesso.csv 2025-12-09 13:30:07 - emesso_importer - INFO - Lettura file con: encoding='cp1252', delimitatore=';', skip righe=3 2025-12-09 13:33:12 - emesso_importer - INFO - File letto: 17,659,961 righe. 2025-12-09 13:33:12 - emesso_importer - INFO - Applicando filtro reti: ['7D', 'B5', 'B6', 'BP', 'C5', 'CL', 'CM', 'DD', 'DE', 'DG', 'FH', 'FI', 'FT', 'FU', 'GI', 'I1', 'I2', 'KA', 'KB', 'KI', 'KQ', 'LA', 'LB', 'LT', 'MC', 'N1', 'N2', 'N3', 'N4', 'NM', 'NP', 'R4', 'TS', 'WB'] 2025-12-09 13:33:15 - emesso_importer - INFO - Filtro reti applicato. Righe scartate: 9,082,765 2025-12-09 13:33:15 - emesso_importer - INFO - Pulizia tabella di staging 'stg_emesso'... 2025-12-09 13:33:15 - emesso_importer - INFO - Pulizia completata. 2025-12-09 13:33:15 - emesso_importer - INFO - Inserimento di 8,577,196 righe in 'stg_emesso'... 2025-12-09 13:33:51 - emesso_importer - INFO - Inserimento dati in staging completato con successo. 2025-12-09 13:34:00 - data_ingestion_orchestrator - INFO - --- Fine importazione per: EMESSO --- 2025-12-09 13:34:00 - data_ingestion_orchestrator - INFO - --- Avvio importazione per: DIRITTI --- 2025-12-09 13:34:00 - diritti_importer - INFO - Avvio importazione per 'stg_diritti' da \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_acq.csv 2025-12-09 13:34:00 - diritti_importer - INFO - Lettura file con: encoding='cp1252', delimitatore=';', skip righe=3 2025-12-09 13:34:06 - diritti_importer - INFO - File letto: 270,532 righe. 2025-12-09 13:34:06 - diritti_importer - INFO - Pulizia tabella di staging 'stg_diritti'... 2025-12-09 13:34:06 - diritti_importer - INFO - Pulizia completata. 2025-12-09 13:34:06 - diritti_importer - INFO - Inserimento di 270,532 righe in 'stg_diritti'... 2025-12-09 13:34:12 - diritti_importer - INFO - Inserimento dati in staging completato con successo. 2025-12-09 13:34:12 - data_ingestion_orchestrator - INFO - --- Fine importazione per: DIRITTI --- 2025-12-09 13:34:12 - data_ingestion_orchestrator - INFO - --- Avvio importazione per: IMDB --- 2025-12-09 13:34:12 - imdb_importer - INFO - Avvio importazione per 'stg_imdb' da \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_imdb.csv 2025-12-09 13:34:12 - imdb_importer - INFO - Lettura file con: encoding='cp1252', delimitatore=';', skip righe=3 C:\PYTHON\DataHub\data_ingestion\base_importer.py:80: ParserWarning: Skipping line 32739: expected 5 fields, saw 6 Skipping line 104706: expected 5 fields, saw 6 df = pd.read_csv( 2025-12-09 13:34:13 - imdb_importer - INFO - File letto: 109,105 righe. 2025-12-09 13:34:13 - imdb_importer - INFO - Pulizia tabella di staging 'stg_imdb'... 2025-12-09 13:34:13 - imdb_importer - INFO - Pulizia completata. 2025-12-09 13:34:13 - imdb_importer - INFO - Inserimento di 109,105 righe in 'stg_imdb'... 2025-12-09 13:34:13 - imdb_importer - INFO - Inserimento dati in staging completato con successo. 2025-12-09 13:34:13 - data_ingestion_orchestrator - INFO - --- Fine importazione per: IMDB --- 2025-12-09 13:34:13 - data_ingestion_orchestrator - INFO - --- Avvio importazione per: BOXOFFICE --- 2025-12-09 13:34:13 - boxoffice_importer - INFO - Avvio importazione per 'stg_boxoffice' da \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_box_totali.csv 2025-12-09 13:34:13 - boxoffice_importer - INFO - Lettura file con: encoding='cp1252', delimitatore=';', skip righe=3 2025-12-09 13:34:13 - boxoffice_importer - INFO - File letto: 236,867 righe. 2025-12-09 13:34:13 - boxoffice_importer - INFO - Pulizia tabella di staging 'stg_boxoffice'... 2025-12-09 13:34:13 - boxoffice_importer - INFO - Pulizia completata. 2025-12-09 13:34:13 - boxoffice_importer - INFO - Inserimento di 236,867 righe in 'stg_boxoffice'... 2025-12-09 13:34:14 - boxoffice_importer - INFO - Inserimento dati in staging completato con successo. 2025-12-09 13:34:14 - data_ingestion_orchestrator - INFO - --- Fine importazione per: BOXOFFICE --- 2025-12-09 13:34:14 - data_ingestion_orchestrator - INFO - --- Avvio importazione per: CAST --- 2025-12-09 13:34:14 - cast_importer - INFO - Avvio importazione per 'stg_cast' da \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_cast.csv 2025-12-09 13:34:14 - cast_importer - INFO - Lettura file con: encoding='cp1252', delimitatore=';', skip righe=3 C:\PYTHON\DataHub\data_ingestion\base_importer.py:80: ParserWarning: Skipping line 769632: expected 8 fields, saw 9 Skipping line 988693: expected 8 fields, saw 9 Skipping line 1223851: expected 8 fields, saw 9 Skipping line 1443371: expected 8 fields, saw 9 Skipping line 1646146: expected 8 fields, saw 9 Skipping line 1653296: expected 8 fields, saw 9 Skipping line 1658380: expected 8 fields, saw 9 df = pd.read_csv( 2025-12-09 13:34:18 - cast_importer - INFO - File letto: 1,749,477 righe. 2025-12-09 13:34:18 - cast_importer - INFO - Pulizia tabella di staging 'stg_cast'... 2025-12-09 13:34:18 - cast_importer - INFO - Pulizia completata. 2025-12-09 13:34:18 - cast_importer - INFO - Inserimento di 1,749,477 righe in 'stg_cast'... 2025-12-09 13:34:26 - cast_importer - INFO - Inserimento dati in staging completato con successo. 2025-12-09 13:34:26 - data_ingestion_orchestrator - INFO - --- Fine importazione per: CAST --- 2025-12-09 13:34:26 - data_ingestion_orchestrator - INFO - --- Avvio importazione per: VEG --- 2025-12-09 13:34:26 - veg_importer - INFO - Avvio importazione per 'stg_veg' da \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_veg.csv 2025-12-09 13:34:26 - veg_importer - INFO - Lettura file con: encoding='cp1252', delimitatore=';', skip righe=3 2025-12-09 13:34:27 - veg_importer - INFO - File letto: 194,950 righe. 2025-12-09 13:34:27 - veg_importer - INFO - Pulizia tabella di staging 'stg_veg'... 2025-12-09 13:34:27 - veg_importer - INFO - Pulizia completata. 2025-12-09 13:34:27 - veg_importer - INFO - Inserimento di 194,950 righe in 'stg_veg'... 2025-12-09 13:34:27 - veg_importer - INFO - Inserimento dati in staging completato con successo. 2025-12-09 13:34:27 - data_ingestion_orchestrator - INFO - --- Fine importazione per: VEG --- 2025-12-09 13:34:27 - data_ingestion_orchestrator - INFO - --- Avvio importazione per: SCELTE_RETE --- 2025-12-09 13:34:27 - scelte_rete_importer - INFO - Avvio importazione per 'stg_scelte_rete' da \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_scelte_rete.csv 2025-12-09 13:34:27 - scelte_rete_importer - INFO - Lettura file con: encoding='cp1252', delimitatore=';', skip righe=3 2025-12-09 13:34:28 - scelte_rete_importer - INFO - File letto: 416,009 righe. 2025-12-09 13:34:28 - scelte_rete_importer - INFO - Pulizia tabella di staging 'stg_scelte_rete'... 2025-12-09 13:34:28 - scelte_rete_importer - INFO - Pulizia completata. 2025-12-09 13:34:28 - scelte_rete_importer - INFO - Inserimento di 416,009 righe in 'stg_scelte_rete'... 2025-12-09 13:34:29 - scelte_rete_importer - INFO - Inserimento dati in staging completato con successo. 2025-12-09 13:34:29 - data_ingestion_orchestrator - INFO - --- Fine importazione per: SCELTE_RETE --- 2025-12-09 13:34:29 - data_ingestion_orchestrator - INFO - --- Avvio importazione per: BOX_DETTAGLIO --- 2025-12-09 13:34:29 - box_dettaglio_importer - INFO - Avvio importazione per 'stg_box_dettaglio' da \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_box_dettaglio.csv 2025-12-09 13:34:29 - box_dettaglio_importer - INFO - Lettura file con: encoding='cp1252', delimitatore=';', skip righe=3 2025-12-09 13:34:31 - box_dettaglio_importer - INFO - File letto: 973,098 righe. 2025-12-09 13:34:31 - box_dettaglio_importer - INFO - Pulizia tabella di staging 'stg_box_dettaglio'... 2025-12-09 13:34:31 - box_dettaglio_importer - INFO - Pulizia completata. 2025-12-09 13:34:31 - box_dettaglio_importer - INFO - Inserimento di 973,098 righe in 'stg_box_dettaglio'... 2025-12-09 13:34:32 - box_dettaglio_importer - INFO - Inserimento dati in staging completato con successo. 2025-12-09 13:34:32 - data_ingestion_orchestrator - INFO - --- Fine importazione per: BOX_DETTAGLIO --- 2025-12-09 13:34:32 - data_ingestion_orchestrator - INFO - --- Avvio importazione per: GEMMA --- 2025-12-09 13:34:32 - gemma_importer - INFO - Avvio importazione per 'stg_gemma' da \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_gemma.csv 2025-12-09 13:34:32 - gemma_importer - INFO - Lettura file con: encoding='cp1252', delimitatore=';', skip righe=0 2025-12-09 13:34:33 - gemma_importer - INFO - File letto: 50,408 righe. 2025-12-09 13:34:33 - gemma_importer - INFO - Pulizia tabella di staging 'stg_gemma'... 2025-12-09 13:34:33 - gemma_importer - INFO - Pulizia completata. 2025-12-09 13:34:33 - gemma_importer - INFO - Inserimento di 50,408 righe in 'stg_gemma'... 2025-12-09 13:34:34 - gemma_importer - INFO - Inserimento dati in staging completato con successo. 2025-12-09 13:34:34 - data_ingestion_orchestrator - INFO - --- Fine importazione per: GEMMA --- 2025-12-09 13:34:34 - data_ingestion_orchestrator - INFO - --- Avvio importazione per: OSSERVATORIO --- 2025-12-09 13:34:34 - osservatorio_importer - INFO - Avvio importazione per 'stg_osservatorio' da \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\osservatorio.txt 2025-12-09 13:34:34 - osservatorio_importer - INFO - Lettura file senza header con: encoding='cp1252', delimitatore=';' C:\PYTHON\DataHub\data_ingestion\_osservatorio_importer.py:32: ParserWarning: Skipping line 4119: expected 26 fields, saw 27 df = pd.read_csv( 2025-12-09 13:34:35 - osservatorio_importer - INFO - File letto: 34,901 righe. 2025-12-09 13:34:35 - osservatorio_importer - INFO - Pulizia tabella di staging 'stg_osservatorio'... 2025-12-09 13:34:35 - osservatorio_importer - INFO - Pulizia completata. 2025-12-09 13:34:35 - osservatorio_importer - INFO - Inserimento di 34,901 righe in 'stg_osservatorio'... 2025-12-09 13:34:35 - osservatorio_importer - INFO - Inserimento dati in staging completato con successo. 2025-12-09 13:34:35 - data_ingestion_orchestrator - INFO - --- Fine importazione per: OSSERVATORIO --- 2025-12-09 13:34:35 - data_ingestion_orchestrator - INFO - Processo completo di DataIngestion terminato in 272.45 secondi. ============================================================ : DataHub - Gestione CoreDB = : Data: 09/12/2025 13:30:03 = ============================================================ IMPORTAZIONE DATI (Staging) ------------------------------\n Utilizzando percorso da server per prodotti: \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_prod.csv Utilizzando percorso da server per emesso: \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_emesso.csv Utilizzando percorso da server per diritti: \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_acq.csv Utilizzando percorso da server per imdb: \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_imdb.csv Utilizzando percorso da server per boxoffice: \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_box_totali.csv Utilizzando percorso da server per cast: \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_cast.csv Utilizzando percorso da server per veg: \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_veg.csv Utilizzando percorso da server per scelte_rete: \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_scelte_rete.csv Utilizzando percorso da server per box_dettaglio: \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_box_dettaglio.csv Utilizzando percorso da server per gemma: \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_gemma.csv Utilizzando percorso da server per osservatorio: \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\osservatorio.txt Utilizzando filtro reti predefinito: 7D, B5, B6, BP, C5, CL, CM, DD, DE, DG, FH, FI, FT, FU, GI, I1, I2, KA, KB, KI, KQ, LA, LB, LT, MC, N1, N2, N3, N4, NM, NP, R4, TS, WB \nAvvio processo di ingestione (Staging)... Processo di ingestione (Staging) terminato. \n============================== RISULTATI IMPORTAZIONE (Staging) ============================== \n\u2705 Prodotti Staging: - Righe lette da CSV: 223,445 - Righe inserite staging: 223,445 \n\u2705 Emesso Staging: - Righe lette da CSV: 17,659,961 - Righe inserite staging: 8,577,196 - Righe filtrate (pre-staging): 9,082,765 - Reti importate: 7D, B5, B6, BP, C5, CL, CM, DD, DE, DG, FH, FI, FT, FU, GI, I1, I2, KA, KB, KI, KQ, LA, LB, LT, MC, N1, N2, N3, N4, NM, NP, R4, TS, WB \n\u2705 Diritti Staging: - Righe lette da CSV: 270,532 - Righe inserite staging: 270,532 \n\u2705 Imdb Staging: - Righe lette da CSV: 109,105 - Righe inserite staging: 109,105 \n\u2705 Boxoffice Staging: - Righe lette da CSV: 236,867 - Righe inserite staging: 236,867 \n\u2705 Cast Staging: - Righe lette da CSV: 1,749,477 - Righe inserite staging: 1,749,477 \n\u2705 Veg Staging: - Righe lette da CSV: 194,950 - Righe inserite staging: 194,950 \n\u2705 Scelte_rete Staging: - Righe lette da CSV: 416,009 - Righe inserite staging: 416,009 \n\u2705 Box_dettaglio Staging: - Righe lette da CSV: 973,098 - Righe inserite staging: 973,098 \n\u2705 Gemma Staging: - Righe lette da CSV: 50,408 - Righe inserite staging: 50,408 \n\u2705 Osservatorio Staging: - Righe lette da CSV: 34,901 - Righe inserite staging: 34,901 \n------------------------------ Percorso database utilizzato: C:\PYTHON\DataHub\db\temp.db Controlla i file di log per maggiori dettagli. NOTA: I dati sono stati caricati nelle tabelle STAGING (stg_*). Eseguire il comando 'transform' per popolare le tabelle Core. ==============================\n 2025-12-09 13:34:37 - transform_process - INFO - Avvio processo di trasformazione da Staging a Core... 2025-12-09 13:34:37 - transform_process - INFO - Database target: C:\PYTHON\DataHub\db\temp.db 2025-12-09 13:34:37 - transform_process - INFO - --- Inizio Trasformazione Prodotti --- 2025-12-09 13:34:37 - transform_process - INFO - Inizio trasformazione Prodotti (stg_prodotti -> prodotti) 2025-12-09 13:34:37 - transform_process - INFO - Lettura dati da stg_prodotti... 2025-12-09 13:34:39 - transform_process - INFO - Lette 223445 righe da stg_prodotti. 2025-12-09 13:34:39 - transform_process - INFO - Applicazione DataQualityGate Prodotti... 2025-12-09 13:34:42 - prodotti_dqg_transform - WARNING - AVVISO DQG Prodotti: Trovati 174 record con anno di produzione nel futuro (basato su colonna 'anno_produzione'). Saranno impostati a NULL. 2025-12-09 13:34:42 - prodotti_dqg_transform - WARNING - AVVISO: Rimosse 7 righe con chiavi primarie nulle 2025-12-09 13:34:43 - prodotti_dqg_transform - INFO - Report di qualitą salvato in: C:\PYTHON\DataHub\logs\quality_report_prodotti_20251209_133443.txt 2025-12-09 13:34:43 - transform_process - INFO - DQG Prodotti completato: 223438 righe valide rimanenti. 2025-12-09 13:34:43 - transform_process - INFO - Calcolo hash MD5 per righe prodotti... 2025-12-09 13:34:55 - transform_process - INFO - Hash MD5 calcolato per 223438 righe prodotti. 2025-12-09 13:34:55 - transform_process - INFO - Pulizia tabella 'prodotti' Core... 2025-12-09 13:34:55 - transform_process - INFO - Tabella 'prodotti' Core pulita (0 righe eliminate). 2025-12-09 13:34:55 - transform_process - INFO - Inserimento di 223438 righe in 'prodotti' Core... 2025-12-09 13:35:01 - transform_process - INFO - Inserimento in 'prodotti' Core terminato (righe tentate: 223438, fallite stimate: 0). 2025-12-09 13:35:01 - transform_process - INFO - Esecuzione logica post-trasformazione Prodotti Core... 2025-12-09 13:35:01 - transform_process - INFO - Avvio operazioni post-trasformazione su 'prodotti' Core... 2025-12-09 13:35:01 - transform_process - INFO - Prodotti Core: Righe totali prima della pulizia duplicati (post-transform): 223,434 2025-12-09 13:35:02 - transform_process - INFO - Prodotti Core: Nessun duplicato (basato su ROWID/PK) da rimuovere. 2025-12-09 13:35:02 - transform_process - INFO - Prodotti Core: Creazione/Verifica indici... 2025-12-09 13:35:02 - transform_process - INFO - Indici 'prodotti' Core creati/verificati. 2025-12-09 13:35:02 - transform_process - INFO - Prodotti Core: Esecuzione VACUUM... 2025-12-09 13:35:27 - transform_process - INFO - VACUUM completato in 24.99s 2025-12-09 13:35:27 - transform_process - INFO - Prodotti Core: Operazioni post-trasformazione terminate (Successo Generale Post: True). 2025-12-09 13:35:27 - transform_process - INFO - Trasformazione Prodotti terminata. 2025-12-09 13:35:27 - transform_process - INFO - --- Fine Trasformazione Prodotti (Status: SUCCESS) --- 2025-12-09 13:35:27 - transform_process - INFO - --- Inizio Trasformazione Emesso --- 2025-12-09 13:35:27 - transform_process - INFO - Avvio trasformazione Emesso (modalitą a blocchi, con calcolo timestamp)... 2025-12-09 13:35:27 - transform_process - INFO - Lettura chiavi Prodotto/Edizione valide da 'prodotti'... 2025-12-09 13:35:27 - transform_process - INFO - Trovate 223,434 chiavi Prodotto/Edizione valide. 2025-12-09 13:35:27 - transform_process - INFO - Pulizia tabella 'emesso' Core prima dell'inserimento... 2025-12-09 13:35:27 - transform_process - INFO - Tabella 'emesso' Core pulita. 2025-12-09 13:35:27 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 0)... 2025-12-09 13:35:44 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 200,000)... 2025-12-09 13:36:09 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 400,000)... 2025-12-09 13:36:34 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 600,000)... 2025-12-09 13:37:03 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 800,000)... 2025-12-09 13:37:31 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 1,000,000)... 2025-12-09 13:38:02 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 1,200,000)... 2025-12-09 13:38:32 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 1,400,000)... 2025-12-09 13:39:04 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 1,600,000)... 2025-12-09 13:39:36 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 1,800,000)... 2025-12-09 13:40:18 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 2,000,000)... 2025-12-09 13:41:01 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 2,200,000)... 2025-12-09 13:41:40 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 2,400,000)... 2025-12-09 13:42:17 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 2,600,000)... 2025-12-09 13:42:57 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 2,800,000)... 2025-12-09 13:43:52 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 3,000,000)... 2025-12-09 13:44:34 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 3,200,000)... 2025-12-09 13:45:28 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 3,400,000)... 2025-12-09 13:46:16 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 3,600,000)... 2025-12-09 13:47:27 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 3,800,000)... 2025-12-09 13:48:10 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 4,000,000)... 2025-12-09 13:48:56 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 4,200,000)... 2025-12-09 13:49:46 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 4,400,000)... 2025-12-09 13:50:35 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 4,600,000)... 2025-12-09 13:51:32 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 4,800,000)... 2025-12-09 13:52:21 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 5,000,000)... 2025-12-09 13:53:07 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 5,200,000)... 2025-12-09 13:53:54 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 5,400,000)... 2025-12-09 13:54:43 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 5,600,000)... 2025-12-09 13:55:41 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 5,800,000)... 2025-12-09 13:56:37 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 6,000,000)... 2025-12-09 13:57:32 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 6,200,000)... 2025-12-09 13:58:28 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 6,400,000)... 2025-12-09 13:59:36 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 6,600,000)... 2025-12-09 14:01:25 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 6,800,000)... 2025-12-09 14:02:43 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 7,000,000)... 2025-12-09 14:04:36 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 7,200,000)... 2025-12-09 14:06:33 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 7,400,000)... 2025-12-09 14:07:48 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 7,600,000)... 2025-12-09 14:09:02 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 7,800,000)... 2025-12-09 14:10:09 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 8,000,000)... 2025-12-09 14:11:30 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 8,200,000)... 2025-12-09 14:12:43 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 8,400,000)... 2025-12-09 14:13:52 - transform_process - INFO - Lettura blocco di 200,000 righe da stg_emesso (offset: 8,600,000)... 2025-12-09 14:13:54 - transform_process - INFO - Nessun'altra riga da processare. Fine del ciclo. 2025-12-09 14:13:54 - transform_process - INFO - Processo a blocchi completato. Totale righe inserite in 'emesso' Core: 8,577,196 2025-12-09 14:13:54 - transform_process - INFO - Avvio operazioni post-trasformazione su 'emesso' Core... 2025-12-09 14:13:54 - transform_process - INFO - 'emesso' Core: Creazione/Verifica indici... 2025-12-09 14:14:23 - transform_process - INFO - Indici 'emesso' Core creati/verificati. 2025-12-09 14:14:23 - transform_process - INFO - 'emesso' Core: Esecuzione VACUUM (potrebbe richiedere tempo)... 2025-12-09 14:16:35 - transform_process - INFO - VACUUM 'emesso' completato in 131.42s 2025-12-09 14:16:35 - transform_process - INFO - 'emesso' Core: Operazioni post-trasformazione terminate (Successo: True). 2025-12-09 14:16:35 - transform_process - INFO - Trasformazione Emesso (SUCCESS) completata in 2467.57s. Trasformazione Emesso completata. 2025-12-09 14:16:35 - transform_process - INFO - Statistiche finali: {'righe_lette_staging': 8577196, 'righe_scartate_tipo_err': 0, 'righe_scartate_fk_mancante': np.int64(0), 'righe_inserite_core': 8577196, 'righe_fallite_core_db': 0, 'righe_con_timestamp_nullo': np.int64(0)} 2025-12-09 14:16:35 - transform_process - INFO - --- Fine Trasformazione Emesso (Status: SUCCESS) --- 2025-12-09 14:16:35 - transform_process - INFO - --- Inizio Trasformazione Diritti --- 2025-12-09 14:16:35 - transform_process - INFO - Avvio trasformazione Diritti (schema aggiornato).. 2025-12-09 14:16:35 - transform_process - INFO - Caricamento mappa fornitore -> cluster... 2025-12-09 14:16:35 - transform_process - INFO - Caricata mappa con 1288 regole di clustering. 2025-12-09 14:16:35 - transform_process - INFO - Lettura chiavi Prodotto/Edizione valide da 'prodotti'... 2025-12-09 14:16:35 - transform_process - INFO - Trovate 223,434 chiavi Prodotto/Edizione valide. 2025-12-09 14:16:35 - transform_process - INFO - Lettura dati da stg_diritti... 2025-12-09 14:16:40 - transform_process - INFO - Rinomina colonne e applicazione filtri Diritti... 2025-12-09 14:16:40 - transform_process - INFO - Applicazione filtri per tipo_diritto='Free' e piattaforma='Analogico'... 2025-12-09 14:16:40 - transform_process - INFO - Filtro diritti applicato. Righe rimanenti: 50,910. Righe scartate: 219,622. 2025-12-09 14:16:40 - transform_process - INFO - Applicazione del clustering fornitori... 2025-12-09 14:16:40 - transform_process - INFO - Clustering fornitori completato. 2025-12-09 14:16:40 - transform_process - INFO - Conversione tipi e validazione dati Diritti filtrati... C:\PYTHON\DataHub\modules\transformation\_diritti_transformer.py:170: UserWarning: Could not infer format, so each element will be parsed individually, falling back to `dateutil`. To ensure parsing is consistent and as-expected, please specify a format. converted.loc[failed_mask] = pd.to_datetime(series[failed_mask], errors='coerce') 2025-12-09 14:16:41 - transform_process - INFO - Filtro tipi chiavi: 50,910 righe valide. 0 scartate. 2025-12-09 14:16:42 - transform_process - INFO - Validazione FK: 50,910 righe valide. 0 scartate. 2025-12-09 14:16:42 - transform_process - INFO - Preparazione dati finestre (approccio vettorizzato)... 2025-12-09 14:16:42 - transform_process - INFO - Estratti 3,436 record finestra validi. 2025-12-09 14:16:42 - transform_process - INFO - Pulizia tabelle core 'diritti' e 'diritti_windows'... 2025-12-09 14:16:42 - transform_process - INFO - Calcolo hash MD5 per righe diritti... 2025-12-09 14:16:44 - transform_process - INFO - Hash MD5 calcolato per 50910 righe diritti. 2025-12-09 14:16:50 - transform_process - INFO - Avvio operazioni post-trasformazione su 'diritti' e 'diritti_windows' Core (nuovo schema)... 2025-12-09 14:16:50 - transform_process - INFO - 'diritti' Core: Verifica indici... 2025-12-09 14:16:50 - transform_process - INFO - Indici aggiuntivi 'diritti' Core creati/verificati. 2025-12-09 14:16:50 - transform_process - INFO - 'diritti_windows' Core: Verifica indici... 2025-12-09 14:16:50 - transform_process - INFO - Indici 'diritti_windows' Core creati/verificati. 2025-12-09 14:16:50 - transform_process - INFO - Operazioni post-trasformazione Diritti terminate (Successo: True). 2025-12-09 14:16:50 - transform_process - INFO - Trasformazione Diritti (SUCCESS) completata in 15.59s. Trasformazione Diritti completata. 2025-12-09 14:16:50 - transform_process - INFO - Statistiche: {'righe_lette_staging': 270532, 'righe_scartate_tipo_err': 0, 'righe_scartate_fk_mancante': np.int64(0), 'righe_diritti_valide': 50910, 'righe_windows_valide': 3436, 'righe_inserite_diritti_core': 50895, 'righe_fallite_diritti_core': 15, 'righe_inserite_windows_core': 3381, 'righe_fallite_windows_core': 0} 2025-12-09 14:16:51 - transform_process - INFO - --- Fine Trasformazione Diritti (Status: SUCCESS) --- 2025-12-09 14:16:51 - transform_process - INFO - --- Inizio Trasformazione Cast --- 2025-12-09 14:16:51 - transform_process - INFO - Inizio trasformazione Cast (stg_cast -> cast) 2025-12-09 14:16:51 - transform_process - INFO - Lettura ID Prodotto validi dalla tabella 'prodotti' Core... 2025-12-09 14:16:51 - transform_process - INFO - Trovati 206,292 ID Prodotto unici validi. 2025-12-09 14:16:51 - transform_process - INFO - Lettura dati da stg_cast... 2025-12-09 14:16:55 - transform_process - INFO - Lette 1,749,477 righe da stg_cast. 2025-12-09 14:16:55 - transform_process - INFO - Applicazione CastQualityGate... 2025-12-09 14:17:10 - cast_dqg_transform - WARNING - AVVISO DQG Cast: Rimosse 2 righe con 'prodotto' nullo o non valido. 2025-12-09 14:17:10 - cast_dqg_transform - INFO - Report di qualitą salvato in: C:\PYTHON\DataHub\logs\quality_report_cast_20251209_141710.txt 2025-12-09 14:17:10 - transform_process - INFO - DQG Cast completato: 1,749,475 righe valide rimanenti (Scartate DQG: 2). 2025-12-09 14:17:10 - transform_process - INFO - Esecuzione pulizia aggiuntiva su nome e cognome... 2025-12-09 14:17:14 - transform_process - INFO - Pulizia aggiuntiva completata. 2025-12-09 14:17:14 - transform_process - INFO - Validazione formato numerico preliminare per colonne INT... 2025-12-09 14:17:18 - transform_process - WARNING - Validazione Formato 'progr_cast': Trovate 94 righe con valori non intero valido (o NA/Blank). 2025-12-09 14:17:18 - transform_process - INFO - Marcati 94 valori con formato non intero valido come NA. 2025-12-09 14:17:18 - transform_process - INFO - Conversione tipi finale per 'cast' Core... 2025-12-09 14:17:18 - transform_process - INFO - Conversione tipi finale e filtro NA 'prodotto' completati. Righe rimanenti: 1,749,475. Totale scartate per tipo/formato/NA_prodotto: 94 2025-12-09 14:17:18 - transform_process - INFO - Validazione Foreign Key logica ('prodotto')... 2025-12-09 14:17:18 - transform_process - INFO - Validazione FK completata. Righe con FK valida: 1,749,427. Scartate FK: 48. 2025-12-09 14:17:18 - transform_process - INFO - Preparazione dati e pulizia tabella 'cast' Core... 2025-12-09 14:17:18 - transform_process - INFO - Calcolo hash MD5 per righe cast... 2025-12-09 14:17:55 - transform_process - INFO - Hash MD5 calcolato per 1749427 righe cast. 2025-12-09 14:17:55 - transform_process - INFO - Pulizia tabella 'cast' Core prima dell'inserimento... 2025-12-09 14:17:55 - transform_process - INFO - Tabella 'cast' Core pulita (0 righe eliminate). 2025-12-09 14:17:55 - transform_process - INFO - Inizio inserimento di 1,749,427 righe in 'cast' Core... 2025-12-09 14:19:08 - transform_process - INFO - Commit transazione 'cast' completato. 2025-12-09 14:19:08 - transform_process - INFO - Inserite (stimate) 1,749,427 righe in 'cast'. Fallite: 0. 2025-12-09 14:19:08 - transform_process - INFO - Esecuzione logica post-trasformazione Cast Core... 2025-12-09 14:19:08 - transform_process - INFO - Avvio operazioni post-trasformazione su 'cast' Core... 2025-12-09 14:19:08 - transform_process - INFO - 'cast' Core: Creazione/Verifica indici... 2025-12-09 14:19:11 - transform_process - INFO - Indici 'cast' Core creati/verificati. 2025-12-09 14:19:11 - transform_process - INFO - 'cast' Core: Operazioni post-trasformazione terminate (Successo Indici: True). 2025-12-09 14:19:11 - transform_process - INFO - Trasformazione Cast completata in 140.06 secondi. Status: SUCCESS 2025-12-09 14:19:11 - transform_process - INFO - Statistiche finali Cast: righe_lette_staging=1,749,477, righe_dopo_dqg=1,749,475, righe_scartate_dqg=2, dqg_valori_null_corretti=10026, dqg_formati_corretti=3, dqg_avvisi=1, righe_scartate_formato_preliminare=94, righe_scartate_tipo_err=94, righe_scartate_prodotto_na=0, prodotti_validi_refs=1,749,427, righe_scartate_fk_mancante=48, righe_inserite_core=1,749,427, righe_fallite_core_db=0 2025-12-09 14:19:12 - transform_process - INFO - --- Fine Trasformazione Cast (Status: SUCCESS) --- 2025-12-09 14:19:12 - transform_process - INFO - --- Inizio Trasformazione Gemma --- 2025-12-09 14:19:12 - transform_process - INFO - Inizio trasformazione Gemma (stg_gemma -> gemma) 2025-12-09 14:19:12 - transform_process - INFO - Lettura dati da stg_gemma... 2025-12-09 14:19:13 - transform_process - INFO - Lette 50,408 righe da stg_gemma. 2025-12-09 14:19:13 - transform_process - INFO - Applicazione logica di trasformazione per i campi 'V_*'... 2025-12-09 14:19:13 - transform_process - INFO - Aggiornati 9089 record nella colonna 'V_C5' con '!'. 2025-12-09 14:19:13 - transform_process - INFO - Aggiornati 10509 record nella colonna 'V_I1' con '!'. 2025-12-09 14:19:13 - transform_process - INFO - Aggiornati 9275 record nella colonna 'V_R4' con '!'. 2025-12-09 14:19:13 - transform_process - INFO - Aggiornati 11618 record nella colonna 'V_LA5' con '!'. 2025-12-09 14:19:13 - transform_process - INFO - Aggiornati 12198 record nella colonna 'V_I2' con '!'. 2025-12-09 14:19:13 - transform_process - INFO - Aggiornati 11743 record nella colonna 'V_IRIS' con '!'. 2025-12-09 14:19:13 - transform_process - INFO - Aggiornati 12048 record nella colonna 'V_TOP' con '!'. 2025-12-09 14:19:13 - transform_process - INFO - Aggiornati 8728 record nella colonna 'V_FOC' con '!'. 2025-12-09 14:19:13 - transform_process - INFO - Aggiornati 11928 record nella colonna 'V_C20' con '!'. 2025-12-09 14:19:13 - transform_process - INFO - Aggiornati 12172 record nella colonna 'V_CI34' con '!'. 2025-12-09 14:19:13 - transform_process - INFO - Aggiornati 12225 record nella colonna 'V_C27' con '!'. 2025-12-09 14:19:13 - transform_process - INFO - Aggiornati 12111 record nella colonna 'V_CIN' con '!'. 2025-12-09 14:19:13 - transform_process - INFO - Aggiornati 11702 record nella colonna 'V_INF' con '!'. 2025-12-09 14:19:13 - transform_process - INFO - Aggiornati 12153 record nella colonna 'V_EMO' con '!'. 2025-12-09 14:19:13 - transform_process - INFO - Aggiornati 12161 record nella colonna 'V_ENE' con '!'. 2025-12-09 14:19:13 - transform_process - INFO - Aggiornati 12201 record nella colonna 'V_COM' con '!'. 2025-12-09 14:19:13 - transform_process - INFO - Aggiornati 12204 record nella colonna 'V_STO' con '!'. 2025-12-09 14:19:13 - transform_process - INFO - Aggiornati 12176 record nella colonna 'V_CRI' con '!'. 2025-12-09 14:19:13 - transform_process - INFO - Aggiornati 12205 record nella colonna 'V_ACT' con '!'. 2025-12-09 14:19:13 - transform_process - INFO - Logica di trasformazione completata. Totale campi aggiornati: 218,446. 2025-12-09 14:19:13 - transform_process - INFO - Pulizia e inserimento dati nella tabella 'gemma' Core... 2025-12-09 14:19:13 - transform_process - INFO - Calcolo hash MD5 per righe gemma... 2025-12-09 14:19:17 - transform_process - INFO - Hash MD5 calcolato per 50408 righe gemma. 2025-12-09 14:19:17 - transform_process - INFO - [Gemma] record pre-delete in 'gemma': 0 2025-12-09 14:19:17 - transform_process - INFO - Tabella 'gemma' Core pulita. Inizio inserimento di 50,408 righe. 2025-12-09 14:19:18 - transform_process - INFO - Inserite 50,408 righe nella tabella 'gemma' Core. 2025-12-09 14:19:18 - transform_process - INFO - Trasformazione Gemma completata in 5.68 secondi. Status: SUCCESS 2025-12-09 14:19:18 - transform_process - INFO - --- Fine Trasformazione Gemma (Status: SUCCESS) --- 2025-12-09 14:19:18 - transform_process - INFO - --- Inizio Trasformazione Boxoffice --- 2025-12-09 14:19:18 - transform_process - INFO - Avvio trasformazione Box Office (stg_boxoffice -> boxoffice)... 2025-12-09 14:19:18 - transform_process - INFO - Lettura dati da stg_boxoffice... 2025-12-09 14:19:18 - transform_process - INFO - Pulizia e conversione tipi... 2025-12-09 14:19:19 - transform_process - INFO - Aggregazione dati per prodotto... 2025-12-09 14:19:19 - transform_process - INFO - Pulizia e inserimento nella tabella 'boxoffice' Core... 2025-12-09 14:19:19 - transform_process - INFO - Trasformazione Box Office completata in 1.37s. Inserite 206284 righe. 2025-12-09 14:19:19 - transform_process - INFO - --- Fine Trasformazione Boxoffice (Status: SUCCESS) --- 2025-12-09 14:19:19 - transform_process - INFO - Processo di trasformazione terminato (blocco finally). Durata: 2682.22 secondi. ============================================================ : DataHub - Gestione CoreDB = : Data: 09/12/2025 13:34:37 = ============================================================ TRASFORMAZIONE DATI (Staging -> Core) ------------------------------\n Database target: C:\PYTHON\DataHub\db\temp.db \n============================== RISULTATI TRASFORMAZIONE (Staging -> Core) ============================== - Prodotti: \u2705 SUCCESS - Trasformazione completata. Righe finali in 'prodotti': 223,434. - Emesso: \u2705 SUCCESS - Trasformazione Emesso (SUCCESS) completata in 2467.57s. Trasformazione Emesso completata. - Diritti: \u2705 SUCCESS - Trasformazione Diritti (SUCCESS) completata in 15.59s. Trasformazione Diritti completata. - Cast: \u2705 SUCCESS - Trasformazione Cast completata. - Gemma: \u2705 SUCCESS - Trasformazione Gemma completata. - Boxoffice: \u2705 SUCCESS - Trasformazione Box Office completata in 1.37s. Inserite 206284 righe. - Veg: \u2139\ufe0f SKIPPED - Logica transform_veg sospesa/non applicabile qui. ------------------------------ \n\u2705 Trasformazione completata con successo per tutte le tabelle eseguite/applicabili. Tempo totale trasformazione: 2682.22 secondi. ==============================\n 2025-12-09 14:19:21 - recalc_process - INFO - --- Avvio ricalcolo Prima Visione --- 2025-12-09 14:19:21 - recalc_process - INFO - Avvio ricalcolo flag 'prima_visione' (logica aggiornata)... 2025-12-09 14:19:21 - recalc_process - INFO - Lettura dati da 'prodotti' per l'anno di produzione... 2025-12-09 14:19:21 - recalc_process - INFO - Lettura dati da 'emesso' (inclusa colonna timestamp e ncparpgm)... 2025-12-09 14:19:45 - recalc_process - INFO - Letti 8,577,196 record validi da 'emesso'. 2025-12-09 14:19:48 - recalc_process - INFO - Unione dei dati di emesso e prodotti... 2025-12-09 14:19:53 - recalc_process - INFO - Identificazione della prima emissione assoluta per ogni prodotto... 2025-12-09 14:20:34 - recalc_process - INFO - Identificati 119266 record come prime emissioni assolute. 2025-12-09 14:20:34 - recalc_process - INFO - Applicazione delle nuove regole di ricalcolo... 2025-12-09 14:20:36 - recalc_process - INFO - Applicata regola 'Non-FILM' a 8173726 record. 2025-12-09 14:20:37 - recalc_process - INFO - Applicata regola 'FILM < 1984' a 180195 record. 2025-12-09 14:20:39 - recalc_process - INFO - Applicata regola speciale 'FILM >= 1984 con ncparpgm > 1' a 173 record. 2025-12-09 14:20:41 - recalc_process - INFO - Applicata regola standard 'FILM >= 1984' a 223102 record (16516 S, 206586 N). 2025-12-09 14:20:46 - recalc_process - INFO - Pronti per aggiornare: 221451 record a 'S' e 8355745 record a 'N'. 2025-12-09 14:20:46 - recalc_process - INFO - Reset della colonna 'prima_visione_recalc' a NULL... 2025-12-09 14:20:55 - recalc_process - INFO - Aggiornamento record a 'S'... 2025-12-09 14:21:21 - recalc_process - INFO - Aggiornamento record a 'N'... 2025-12-09 14:25:02 - recalc_process - INFO - Ricalcolo 'prima_visione' (logica aggiornata) completato con successo in 341.47 secondi. 2025-12-09 14:25:19 - recalc_process - INFO - --- Fine ricalcolo Prima Visione --- ============================================================ : DataHub - Gestione CoreDB = : Data: 09/12/2025 14:19:21 = ============================================================ RICALCOLO DATI CORE ------------------------------\n \n\u2705 Ricalcolo Prima Visione completato con successo. \n==============================\n 2025-12-09 14:25:20 - recalc_process - INFO - --- Avvio calcolo Main Prime Time Event --- 2025-12-09 14:25:20 - recalc_process - INFO - Avvio calcolo flag 'is_primetime_main'... 2025-12-09 14:25:20 - recalc_process - INFO - Reset della colonna 'is_primetime_main' a 0 per i record in fascia 'PR'... 2025-12-09 14:25:37 - recalc_process - INFO - Reset completato. 2025-12-09 14:25:37 - recalc_process - INFO - Identificazione dei casi semplici (1 solo programma in PR)... 2025-12-09 14:25:44 - recalc_process - INFO - Aggiornati 99796 record per i casi semplici. 2025-12-09 14:25:44 - recalc_process - INFO - Identificazione dei casi complessi (pił di 1 programma in PR)... 2025-12-09 14:25:46 - recalc_process - INFO - Trovati 310241 record appartenenti a casi complessi. Calcolo della copertura di Prime Time... 2025-12-09 14:25:53 - recalc_process - INFO - Aggiornati 100612 record per i casi complessi. 2025-12-09 14:25:53 - recalc_process - INFO - Calcolo 'is_primetime_main' completato con successo in 33.24 secondi. 2025-12-09 14:25:53 - recalc_process - INFO - --- Fine calcolo Main Prime Time Event --- ============================================================ : DataHub - Gestione CoreDB = : Data: 09/12/2025 14:25:20 = ============================================================ RICALCOLO DATI CORE ------------------------------\n \n\u2705 Calcolo Main Prime Time completato con successo. \n==============================\n 2025-12-09 14:25:54 - enrich_process - INFO - --- Avvio arricchimento Emesso con Diritti --- 2025-12-09 14:25:54 - enrich_process - INFO - Avvio arricchimento 'emesso' con dati dei diritti... 2025-12-09 14:25:54 - enrich_process - INFO - Caricata mappa con 1288 regole di clustering. 2025-12-09 14:25:54 - enrich_process - INFO - Lettura tabella 'diritti' (solo Free/Analogico) in memoria... 2025-12-09 14:25:54 - enrich_process - INFO - Caricati e clusterizzati 50895 record di diritti validi. 2025-12-09 14:25:54 - enrich_process - INFO - Reset delle colonne di arricchimento in 'emesso'... 2025-12-09 14:28:33 - enrich_process - INFO - Arricchimento 'emesso' completato con successo in 159.11 secondi. Totale righe arricchite: 1266042. 2025-12-09 14:28:33 - enrich_process - INFO - --- Fine arricchimento Emesso con Diritti --- ============================================================ : DataHub - Gestione CoreDB = : Data: 09/12/2025 14:25:54 = ============================================================ ARRICCHIMENTO DATI CORE ------------------------------\n \n\u2705 Arricchimento Emesso completato con successo. \n==============================\n ============================================================ : DataHub - Gestione CoreDB = : Data: 09/12/2025 14:28:34 = ============================================================ EXPORT DATABASE PRODUZIONE ------------------------------\n ====================================================================== EXPORT DATABASE PRODUZIONE (Build Local + Copy) ====================================================================== Inizio: 2025-12-09 14:28:34 Strategia: 1. Copia DB produzione dal server in locale (se esiste) 2. Export tabelle gestite su disco locale (veloce) 3. Ottimizzazione DB locale 4. Copia DB finale sul server (singola operazione) ====================================================================== Connessione database di lavoro: C:\PYTHON\DataHub\db\temp.db OK Connesso a database di lavoro ====================================================================== PREPARAZIONE DATABASE LOCALE ====================================================================== Copia DB produzione dal server in locale... Da: \\Mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\DataHub\DataHub.db (2887.71 MB) A: C:\PYTHON\DataHub\db\DataHub_production_temp.db OK Copiato (2887.71 MB) Questo preserva eventuali tabelle extra non gestite Connessione database locale: C:\PYTHON\DataHub\db\DataHub_production_temp.db OK Connesso con ottimizzazioni per disco locale ====================================================================== ====================================================================== Tabelle da esportare: 9 Tabelle da saltare (staging): 11 ====================================================================== Tabelle ESCLUSE (staging): - stg_box_dettaglio - stg_boxoffice - stg_cast - stg_diritti - stg_emesso - stg_gemma - stg_imdb - stg_osservatorio - stg_prodotti - stg_scelte_rete - stg_veg ====================================================================== Inizio export tabelle... ====================================================================== [1/9] Exporting boxoffice... 50000/206284 (24%)... 100000/206284 (48%)... 150000/206284 (73%)... 200000/206284 (97%)... 206284/206284 (100%)...OK 206284 record [2/9] Exporting cast... 50000/1749427 (3%)... 100000/1749427 (6%)... 150000/1749427 (9%)... 200000/1749427 (11%)... 250000/1749427 (14%)... 300000/1749427 (17%)... 350000/1749427 (20%)... 400000/1749427 (23%)... 450000/1749427 (26%)... 500000/1749427 (29%)... 550000/1749427 (31%)... 600000/1749427 (34%)... 650000/1749427 (37%)... 700000/1749427 (40%)... 750000/1749427 (43%)... 800000/1749427 (46%)... 850000/1749427 (49%)... 900000/1749427 (51%)... 950000/1749427 (54%)... 1000000/1749427 (57%)... 1050000/1749427 (60%)... 1100000/1749427 (63%)... 1150000/1749427 (66%)... 1200000/1749427 (69%)... 1250000/1749427 (71%)... 1300000/1749427 (74%)... 1350000/1749427 (77%)... 1400000/1749427 (80%)... 1450000/1749427 (83%)... 1500000/1749427 (86%)... 1550000/1749427 (89%)... 1600000/1749427 (91%)... 1650000/1749427 (94%)... 1700000/1749427 (97%)... 1749427/1749427 (100%)...OK 1749427 record [3/9] Exporting diritti... OK 50895 record [4/9] Exporting diritti_windows... OK 3381 record [5/9] Exporting emesso... 50000/8577196 (1%)... 100000/8577196 (1%)... 150000/8577196 (2%)... 200000/8577196 (2%)... 250000/8577196 (3%)... 300000/8577196 (3%)... 350000/8577196 (4%)... 400000/8577196 (5%)... 450000/8577196 (5%)... 500000/8577196 (6%)... 550000/8577196 (6%)... 600000/8577196 (7%)... 650000/8577196 (8%)... 700000/8577196 (8%)... 750000/8577196 (9%)... 800000/8577196 (9%)... 850000/8577196 (10%)... 900000/8577196 (10%)... 950000/8577196 (11%)... 1000000/8577196 (12%)... 1050000/8577196 (12%)... 1100000/8577196 (13%)... 1150000/8577196 (13%)... 1200000/8577196 (14%)... 1250000/8577196 (15%)... 1300000/8577196 (15%)... 1350000/8577196 (16%)... 1400000/8577196 (16%)... 1450000/8577196 (17%)... 1500000/8577196 (17%)... 1550000/8577196 (18%)... 1600000/8577196 (19%)... 1650000/8577196 (19%)... 1700000/8577196 (20%)... 1750000/8577196 (20%)... 1800000/8577196 (21%)... 1850000/8577196 (22%)... 1900000/8577196 (22%)... 1950000/8577196 (23%)... 2000000/8577196 (23%)... 2050000/8577196 (24%)... 2100000/8577196 (24%)... 2150000/8577196 (25%)... 2200000/8577196 (26%)... 2250000/8577196 (26%)... 2300000/8577196 (27%)... 2350000/8577196 (27%)... 2400000/8577196 (28%)... 2450000/8577196 (29%)... 2500000/8577196 (29%)... 2550000/8577196 (30%)... 2600000/8577196 (30%)... 2650000/8577196 (31%)... 2700000/8577196 (31%)... 2750000/8577196 (32%)... 2800000/8577196 (33%)... 2850000/8577196 (33%)... 2900000/8577196 (34%)... 2950000/8577196 (34%)... 3000000/8577196 (35%)... 3050000/8577196 (36%)... 3100000/8577196 (36%)... 3150000/8577196 (37%)... 3200000/8577196 (37%)... 3250000/8577196 (38%)... 3300000/8577196 (38%)... 3350000/8577196 (39%)... 3400000/8577196 (40%)... 3450000/8577196 (40%)... 3500000/8577196 (41%)... 3550000/8577196 (41%)... 3600000/8577196 (42%)... 3650000/8577196 (43%)... 3700000/8577196 (43%)... 3750000/8577196 (44%)... 3800000/8577196 (44%)... 3850000/8577196 (45%)... 3900000/8577196 (45%)... 3950000/8577196 (46%)... 4000000/8577196 (47%)... 4050000/8577196 (47%)... 4100000/8577196 (48%)... 4150000/8577196 (48%)... 4200000/8577196 (49%)... 4250000/8577196 (50%)... 4300000/8577196 (50%)... 4350000/8577196 (51%)... 4400000/8577196 (51%)... 4450000/8577196 (52%)... 4500000/8577196 (52%)... 4550000/8577196 (53%)... 4600000/8577196 (54%)... 4650000/8577196 (54%)... 4700000/8577196 (55%)... 4750000/8577196 (55%)... 4800000/8577196 (56%)... 4850000/8577196 (57%)... 4900000/8577196 (57%)... 4950000/8577196 (58%)... 5000000/8577196 (58%)... 5050000/8577196 (59%)... 5100000/8577196 (59%)... 5150000/8577196 (60%)... 5200000/8577196 (61%)... 5250000/8577196 (61%)... 5300000/8577196 (62%)... 5350000/8577196 (62%)... 5400000/8577196 (63%)... 5450000/8577196 (64%)... 5500000/8577196 (64%)... 5550000/8577196 (65%)... 5600000/8577196 (65%)... 5650000/8577196 (66%)... 5700000/8577196 (66%)... 5750000/8577196 (67%)... 5800000/8577196 (68%)... 5850000/8577196 (68%)... 5900000/8577196 (69%)... 5950000/8577196 (69%)... 6000000/8577196 (70%)... 6050000/8577196 (71%)... 6100000/8577196 (71%)... 6150000/8577196 (72%)... 6200000/8577196 (72%)... 6250000/8577196 (73%)... 6300000/8577196 (73%)... 6350000/8577196 (74%)... 6400000/8577196 (75%)... 6450000/8577196 (75%)... 6500000/8577196 (76%)... 6550000/8577196 (76%)... 6600000/8577196 (77%)... 6650000/8577196 (78%)... 6700000/8577196 (78%)... 6750000/8577196 (79%)... 6800000/8577196 (79%)... 6850000/8577196 (80%)... 6900000/8577196 (80%)... 6950000/8577196 (81%)... 7000000/8577196 (82%)... 7050000/8577196 (82%)... 7100000/8577196 (83%)... 7150000/8577196 (83%)... 7200000/8577196 (84%)... 7250000/8577196 (85%)... 7300000/8577196 (85%)... 7350000/8577196 (86%)... 7400000/8577196 (86%)... 7450000/8577196 (87%)... 7500000/8577196 (87%)... 7550000/8577196 (88%)... 7600000/8577196 (89%)... 7650000/8577196 (89%)... 7700000/8577196 (90%)... 7750000/8577196 (90%)... 7800000/8577196 (91%)... 7850000/8577196 (92%)... 7900000/8577196 (92%)... 7950000/8577196 (93%)... 8000000/8577196 (93%)... 8050000/8577196 (94%)... 8100000/8577196 (94%)... 8150000/8577196 (95%)... 8200000/8577196 (96%)... 8250000/8577196 (96%)... 8300000/8577196 (97%)... 8350000/8577196 (97%)... 8400000/8577196 (98%)... 8450000/8577196 (99%)... 8500000/8577196 (99%)... 8550000/8577196 (100%)... 8577196/8577196 (100%)...OK 8577196 record [6/9] Exporting gemma... OK 50408 record [7/9] Exporting prodotti... 50000/223434 (22%)... 100000/223434 (45%)... 150000/223434 (67%)... 200000/223434 (90%)... 223434/223434 (100%)...OK 223434 record [8/9] Exporting reti_cluster... OK 34 record [9/9] Exporting rpt_prodotti_summary... OK 0 record ====================================================================== Export completato: - Tabelle esportate: 9 - Tabelle fallite: 0 - Tabelle saltate (staging): 11 ====================================================================== ====================================================================== OTTIMIZZAZIONE DATABASE LOCALE ====================================================================== Esecuzione VACUUM... OK VACUUM eseguito Esecuzione ANALYZE... OK ANALYZE eseguito ====================================================================== ====================================================================== COPIA DATABASE SU SERVER PRODUZIONE ====================================================================== Connessione database locale chiusa Backup database server esistente... A: \\Mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\DataHub\DataHub.db.backup_20251209_143841 OK Backup creato Copia database su server... Da: C:\PYTHON\DataHub\db\DataHub_production_temp.db A: \\Mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\DataHub\DataHub.db Dimensione: 2891.48 MB OK Copia completata in 78.4 secondi Verificato: 2891.48 MB Pulizia file temporanei... OK Rimosso: C:\PYTHON\DataHub\db\DataHub_production_temp.db ====================================================================== ====================================================================== SOMMARIO EXPORT DATABASE PRODUZIONE ====================================================================== Database Lavoro (source): Path: C:\PYTHON\DataHub\db\temp.db Size: 4146.05 MB Database Produzione (target sul server): Path: \\Mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\DataHub\DataHub.db Size: 2891.48 MB Riduzione: 30.3% Tabelle: Esportate: 9 Saltate (staging): 11 Strategia: Build Local + Copy - Export eseguito su disco locale (veloce) - Singola copia file su server UNC (efficiente) ====================================================================== Completato in 11m 33s (694.0 secondi) Fine: 2025-12-09 14:40:08 \n\u2705 Export database produzione completato con successo. ================================================================================ DATAHUB - WEEKLY REFRESH ================================================================================ Database temporaneo: C:\PYTHON\DataHub\db\temp.db Database produzione: \\Mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\DataHub\DataHub.db Data/Ora inizio: 2025-12-09 13:30:00 Totale step da eseguire: 8 ================================================================================ --- CANCELLAZIONE DATABASE ESISTENTE --- File database 'C:\PYTHON\DataHub\db\temp.db' eliminato con successo. ================================================================================ STEP 1/8: INIZIALIZZAZIONE DATABASE ================================================================================ Comando: C:\Users\Mauro Gagliardi\AppData\Local\Programs\Python\Python313\python.exe C:\PYTHON\DataHub\main.py init -------------------------------------------------------------------------------- -------------------------------------------------------------------------------- [OK] STEP 1/8 COMPLETATO in 0m 1s: INIZIALIZZAZIONE DATABASE ================================================================================ ================================================================================ STEP 2/8: AGGIORNAMENTO DATI DI RIFERIMENTO (RETI, ECC.) ================================================================================ Comando: C:\Users\Mauro Gagliardi\AppData\Local\Programs\Python\Python313\python.exe C:\PYTHON\DataHub\main.py update-ref-data -------------------------------------------------------------------------------- -------------------------------------------------------------------------------- [OK] STEP 2/8 COMPLETATO in 0m 0s: AGGIORNAMENTO DATI DI RIFERIMENTO (RETI, ECC.) ================================================================================ ================================================================================ STEP 3/8: IMPORTAZIONE DATI IN STAGING ================================================================================ Comando: C:\Users\Mauro Gagliardi\AppData\Local\Programs\Python\Python313\python.exe C:\PYTHON\DataHub\main.py import --all -------------------------------------------------------------------------------- -------------------------------------------------------------------------------- [OK] STEP 3/8 COMPLETATO in 4m 33s: IMPORTAZIONE DATI IN STAGING ================================================================================ ================================================================================ STEP 4/8: TRASFORMAZIONE DATI (STAGING -> CORE) ================================================================================ Comando: C:\Users\Mauro Gagliardi\AppData\Local\Programs\Python\Python313\python.exe C:\PYTHON\DataHub\main.py transform --all -------------------------------------------------------------------------------- -------------------------------------------------------------------------------- [OK] STEP 4/8 COMPLETATO in 44m 43s: TRASFORMAZIONE DATI (STAGING -> CORE) ================================================================================ ================================================================================ STEP 5/8: RICALCOLO PRIMA TV ================================================================================ Comando: C:\Users\Mauro Gagliardi\AppData\Local\Programs\Python\Python313\python.exe C:\PYTHON\DataHub\main.py recalc --prima-visione -------------------------------------------------------------------------------- -------------------------------------------------------------------------------- [OK] STEP 5/8 COMPLETATO in 5m 59s: RICALCOLO PRIMA TV ================================================================================ ================================================================================ STEP 6/8: CALCOLO EVENTO PRINCIPALE PRIME TIME ================================================================================ Comando: C:\Users\Mauro Gagliardi\AppData\Local\Programs\Python\Python313\python.exe C:\PYTHON\DataHub\main.py recalc --primetime-main -------------------------------------------------------------------------------- -------------------------------------------------------------------------------- [OK] STEP 6/8 COMPLETATO in 0m 34s: CALCOLO EVENTO PRINCIPALE PRIME TIME ================================================================================ ================================================================================ STEP 7/8: ARRICCHIMENTO EMESSO CON DIRITTI ================================================================================ Comando: C:\Users\Mauro Gagliardi\AppData\Local\Programs\Python\Python313\python.exe C:\PYTHON\DataHub\main.py enrich --emesso-diritti -------------------------------------------------------------------------------- -------------------------------------------------------------------------------- [OK] STEP 7/8 COMPLETATO in 2m 39s: ARRICCHIMENTO EMESSO CON DIRITTI ================================================================================ ================================================================================ STEP 8/8: EXPORT DATABASE PRODUZIONE ================================================================================ Comando: C:\Users\Mauro Gagliardi\AppData\Local\Programs\Python\Python313\python.exe C:\PYTHON\DataHub\main.py export-production -------------------------------------------------------------------------------- -------------------------------------------------------------------------------- [OK] STEP 8/8 COMPLETATO in 11m 34s: EXPORT DATABASE PRODUZIONE ================================================================================ ================================================================================ PROCESSO WEEKLY REFRESH COMPLETATO CON SUCCESSO! Tempo totale di esecuzione: 70m 7s Data/Ora fine: 2025-12-09 14:40:08 ================================================================================ ============================================================================ Weekly Refresh completato - Avvio Daily Refresh... ============================================================================ ============================================================================ DataHub - Daily Incremental Refresh ============================================================================ Database temporaneo: C:\PYTHON\DataHub\db\temp.db Database produzione: \\Mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\DataHub\DataHub.db ============================================================================ 2025-12-09 14:40:09 - data_ingestion_orchestrator - INFO - Avvio processo completo di DataIngestion orchestrato... 2025-12-09 14:40:09 - data_ingestion_orchestrator - INFO - --- Avvio importazione per: GEMMA --- 2025-12-09 14:40:09 - gemma_importer - INFO - Avvio importazione per 'stg_gemma' da \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_gemma.csv 2025-12-09 14:40:09 - gemma_importer - INFO - Lettura file con: encoding='cp1252', delimitatore=';', skip righe=0 2025-12-09 14:40:10 - gemma_importer - INFO - File letto: 50,408 righe. 2025-12-09 14:40:10 - gemma_importer - INFO - Pulizia tabella di staging 'stg_gemma'... 2025-12-09 14:40:10 - gemma_importer - INFO - Pulizia completata. 2025-12-09 14:40:10 - gemma_importer - INFO - Inserimento di 50,408 righe in 'stg_gemma'... 2025-12-09 14:40:11 - gemma_importer - INFO - Inserimento dati in staging completato con successo. 2025-12-09 14:40:11 - data_ingestion_orchestrator - INFO - --- Fine importazione per: GEMMA --- 2025-12-09 14:40:11 - data_ingestion_orchestrator - INFO - Processo completo di DataIngestion terminato in 1.78 secondi. ============================================================ : DataHub - Gestione CoreDB = : Data: 09/12/2025 14:40:09 = ============================================================ IMPORTAZIONE DATI (Staging) ------------------------------\n Utilizzando percorso da server per gemma: \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\estr_gemma.csv \nAvvio processo di ingestione (Staging)... Processo di ingestione (Staging) terminato. \n============================== RISULTATI IMPORTAZIONE (Staging) ============================== \n\u2705 Gemma Staging: - Righe lette da CSV: 50,408 - Righe inserite staging: 50,408 \n------------------------------ Percorso database utilizzato: C:\PYTHON\DataHub\db\temp.db Controlla i file di log per maggiori dettagli. NOTA: I dati sono stati caricati nelle tabelle STAGING (stg_*). Eseguire il comando 'transform' per popolare le tabelle Core. ==============================\n 2025-12-09 14:40:12 - data_ingestion_orchestrator - INFO - Avvio processo completo di DataIngestion orchestrato... 2025-12-09 14:40:12 - data_ingestion_orchestrator - INFO - --- Avvio importazione per: OSSERVATORIO --- 2025-12-09 14:40:12 - osservatorio_importer - INFO - Avvio importazione per 'stg_osservatorio' da \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\osservatorio.txt 2025-12-09 14:40:12 - osservatorio_importer - INFO - Lettura file senza header con: encoding='cp1252', delimitatore=';' C:\PYTHON\DataHub\data_ingestion\_osservatorio_importer.py:32: ParserWarning: Skipping line 4119: expected 26 fields, saw 27 df = pd.read_csv( 2025-12-09 14:40:13 - osservatorio_importer - INFO - File letto: 34,901 righe. 2025-12-09 14:40:13 - osservatorio_importer - INFO - Pulizia tabella di staging 'stg_osservatorio'... 2025-12-09 14:40:13 - osservatorio_importer - INFO - Pulizia completata. 2025-12-09 14:40:13 - osservatorio_importer - INFO - Inserimento di 34,901 righe in 'stg_osservatorio'... 2025-12-09 14:40:13 - osservatorio_importer - INFO - Inserimento dati in staging completato con successo. 2025-12-09 14:40:13 - data_ingestion_orchestrator - INFO - --- Fine importazione per: OSSERVATORIO --- 2025-12-09 14:40:13 - data_ingestion_orchestrator - INFO - Processo completo di DataIngestion terminato in 1.81 secondi. ============================================================ : DataHub - Gestione CoreDB = : Data: 09/12/2025 14:40:12 = ============================================================ IMPORTAZIONE DATI (Staging) ------------------------------\n Utilizzando percorso da server per osservatorio: \\mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\SCHEDULATORE\INPUT\osservatorio.txt \nAvvio processo di ingestione (Staging)... Processo di ingestione (Staging) terminato. \n============================== RISULTATI IMPORTAZIONE (Staging) ============================== \n\u2705 Osservatorio Staging: - Righe lette da CSV: 34,901 - Righe inserite staging: 34,901 \n------------------------------ Percorso database utilizzato: C:\PYTHON\DataHub\db\temp.db Controlla i file di log per maggiori dettagli. NOTA: I dati sono stati caricati nelle tabelle STAGING (stg_*). Eseguire il comando 'transform' per popolare le tabelle Core. ==============================\n 2025-12-09 14:40:14 - transform_process - INFO - Avvio processo di trasformazione da Staging a Core... 2025-12-09 14:40:14 - transform_process - INFO - Database target: C:\PYTHON\DataHub\db\temp.db 2025-12-09 14:40:14 - transform_process - INFO - --- Inizio Trasformazione Gemma --- 2025-12-09 14:40:14 - transform_process - INFO - Inizio trasformazione Gemma (stg_gemma -> gemma) 2025-12-09 14:40:14 - transform_process - INFO - Lettura dati da stg_gemma... 2025-12-09 14:40:14 - transform_process - INFO - Lette 50,408 righe da stg_gemma. 2025-12-09 14:40:14 - transform_process - INFO - Applicazione logica di trasformazione per i campi 'V_*'... 2025-12-09 14:40:15 - transform_process - INFO - Aggiornati 9089 record nella colonna 'V_C5' con '!'. 2025-12-09 14:40:15 - transform_process - INFO - Aggiornati 10509 record nella colonna 'V_I1' con '!'. 2025-12-09 14:40:15 - transform_process - INFO - Aggiornati 9275 record nella colonna 'V_R4' con '!'. 2025-12-09 14:40:15 - transform_process - INFO - Aggiornati 11618 record nella colonna 'V_LA5' con '!'. 2025-12-09 14:40:15 - transform_process - INFO - Aggiornati 12198 record nella colonna 'V_I2' con '!'. 2025-12-09 14:40:15 - transform_process - INFO - Aggiornati 11743 record nella colonna 'V_IRIS' con '!'. 2025-12-09 14:40:15 - transform_process - INFO - Aggiornati 12048 record nella colonna 'V_TOP' con '!'. 2025-12-09 14:40:15 - transform_process - INFO - Aggiornati 8728 record nella colonna 'V_FOC' con '!'. 2025-12-09 14:40:15 - transform_process - INFO - Aggiornati 11928 record nella colonna 'V_C20' con '!'. 2025-12-09 14:40:15 - transform_process - INFO - Aggiornati 12172 record nella colonna 'V_CI34' con '!'. 2025-12-09 14:40:15 - transform_process - INFO - Aggiornati 12225 record nella colonna 'V_C27' con '!'. 2025-12-09 14:40:15 - transform_process - INFO - Aggiornati 12111 record nella colonna 'V_CIN' con '!'. 2025-12-09 14:40:15 - transform_process - INFO - Aggiornati 11702 record nella colonna 'V_INF' con '!'. 2025-12-09 14:40:15 - transform_process - INFO - Aggiornati 12153 record nella colonna 'V_EMO' con '!'. 2025-12-09 14:40:15 - transform_process - INFO - Aggiornati 12161 record nella colonna 'V_ENE' con '!'. 2025-12-09 14:40:15 - transform_process - INFO - Aggiornati 12201 record nella colonna 'V_COM' con '!'. 2025-12-09 14:40:15 - transform_process - INFO - Aggiornati 12204 record nella colonna 'V_STO' con '!'. 2025-12-09 14:40:15 - transform_process - INFO - Aggiornati 12176 record nella colonna 'V_CRI' con '!'. 2025-12-09 14:40:15 - transform_process - INFO - Aggiornati 12205 record nella colonna 'V_ACT' con '!'. 2025-12-09 14:40:15 - transform_process - INFO - Logica di trasformazione completata. Totale campi aggiornati: 218,446. 2025-12-09 14:40:15 - transform_process - INFO - Pulizia e inserimento dati nella tabella 'gemma' Core... 2025-12-09 14:40:15 - transform_process - INFO - Calcolo hash MD5 per righe gemma... 2025-12-09 14:40:19 - transform_process - INFO - Hash MD5 calcolato per 50408 righe gemma. 2025-12-09 14:40:19 - transform_process - INFO - [Gemma] record pre-delete in 'gemma': 50408 2025-12-09 14:40:19 - transform_process - INFO - Tabella 'gemma' Core pulita. Inizio inserimento di 50,408 righe. 2025-12-09 14:40:20 - transform_process - INFO - Inserite 50,408 righe nella tabella 'gemma' Core. 2025-12-09 14:40:20 - transform_process - INFO - Trasformazione Gemma completata in 5.69 secondi. Status: SUCCESS 2025-12-09 14:40:20 - transform_process - INFO - --- Fine Trasformazione Gemma (Status: SUCCESS) --- 2025-12-09 14:40:20 - transform_process - INFO - Processo di trasformazione terminato (blocco finally). Durata: 5.73 secondi. ============================================================ : DataHub - Gestione CoreDB = : Data: 09/12/2025 14:40:14 = ============================================================ TRASFORMAZIONE DATI (Staging -> Core) ------------------------------\n Database target: C:\PYTHON\DataHub\db\temp.db \n============================== RISULTATI TRASFORMAZIONE (Staging -> Core) ============================== - Prodotti: \u2139\ufe0f SKIPPED - Saltata a causa di fallimento precedente. - Emesso: \u2139\ufe0f SKIPPED - Saltata a causa di fallimento precedente. - Diritti: \u2139\ufe0f SKIPPED - Saltata a causa di fallimento precedente. - Cast: \u2139\ufe0f SKIPPED - Saltata a causa di fallimento precedente. - Gemma: \u2705 SUCCESS - Trasformazione Gemma completata. - Boxoffice: \u2139\ufe0f SKIPPED - Dati Boxoffice gestiti nella fase Consolidate. - Veg: \u2139\ufe0f SKIPPED - Logica transform_veg sospesa/non applicabile qui. ------------------------------ \n\u2705 Trasformazione completata con successo per tutte le tabelle eseguite/applicabili. Tempo totale trasformazione: 5.73 secondi. ==============================\n Traceback (most recent call last): File "C:\PYTHON\DataHub\project_utils\export_production_db.py", line 555, in run print(f" - {source} \u2192 {target}") ~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^ File "C:\Users\Mauro Gagliardi\AppData\Local\Programs\Python\Python313\Lib\encodings\cp1252.py", line 19, in encode return codecs.charmap_encode(input,self.errors,encoding_table)[0] ~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ UnicodeEncodeError: 'charmap' codec can't encode character '\u2192' in position 21: character maps to ============================================================ : DataHub - Gestione CoreDB = : Data: 09/12/2025 14:40:20 = ============================================================ EXPORT DATABASE PRODUZIONE ------------------------------\n ====================================================================== EXPORT INCREMENTALE DAILY (Direct Update) ====================================================================== Inizio: 2025-12-09 14:40:20 Tabelle da aggiornare: - gemma ERRORE FATALE: 'charmap' codec can't encode character '\u2192' in position 21: character maps to \n\u274c Export database produzione fallito. Controllare i log sopra. ================================================================================ DATAHUB - DAILY REFRESH ================================================================================ Database temporaneo: C:\PYTHON\DataHub\db\temp.db Database produzione: \\Mediaset.it\share\Indirizzo_controllo_risorse\SOFTWARE\DataHub\DataHub.db Data/Ora inizio: 2025-12-09 14:40:08 Totale step da eseguire: 4 ================================================================================ ================================================================================ STEP 1/4: IMPORTAZIONE DATI GIORNALIERI (GEMMA) ================================================================================ Comando: C:\Users\Mauro Gagliardi\AppData\Local\Programs\Python\Python313\python.exe C:\PYTHON\DataHub\main.py import --gemma -------------------------------------------------------------------------------- -------------------------------------------------------------------------------- [OK] STEP 1/4 COMPLETATO in 0m 2s: IMPORTAZIONE DATI GIORNALIERI (GEMMA) ================================================================================ ================================================================================ STEP 2/4: IMPORTAZIONE DATI GIORNALIERI (OSSERVATORIO) ================================================================================ Comando: C:\Users\Mauro Gagliardi\AppData\Local\Programs\Python\Python313\python.exe C:\PYTHON\DataHub\main.py import --osservatorio -------------------------------------------------------------------------------- -------------------------------------------------------------------------------- [OK] STEP 2/4 COMPLETATO in 0m 2s: IMPORTAZIONE DATI GIORNALIERI (OSSERVATORIO) ================================================================================ ================================================================================ STEP 3/4: TRASFORMAZIONE DATI GIORNALIERI (GEMMA) ================================================================================ Comando: C:\Users\Mauro Gagliardi\AppData\Local\Programs\Python\Python313\python.exe C:\PYTHON\DataHub\main.py transform --gemma -------------------------------------------------------------------------------- -------------------------------------------------------------------------------- [OK] STEP 3/4 COMPLETATO in 0m 6s: TRASFORMAZIONE DATI GIORNALIERI (GEMMA) ================================================================================ ================================================================================ STEP 4/4: EXPORT INCREMENTALE DATABASE PRODUZIONE ================================================================================ Comando: C:\Users\Mauro Gagliardi\AppData\Local\Programs\Python\Python313\python.exe C:\PYTHON\DataHub\main.py export-daily -------------------------------------------------------------------------------- -------------------------------------------------------------------------------- [ERRORE] STEP 4/4 FALLITO dopo 0m 0s: EXPORT INCREMENTALE DATABASE PRODUZIONE Codice di errore: 1 ================================================================================ [ERRORE] PROCESSO INTERROTTO A CAUSA DI ERRORE. ================================================================================ PROCESSO DAILY REFRESH TERMINATO CON ERRORI Tempo totale di esecuzione: 0m 12s Data/Ora fine: 2025-12-09 14:40:20 ================================================================================ ============================================================================ Daily Refresh terminato - Premere un tasto per chiudere la finestra ============================================================================