Changeset d16323b in intercambio


Ignore:
Timestamp:
Sep 8, 2014, 8:45:55 AM (10 years ago)
Author:
jbecerra <jbecerra@…>
Branches:
master
Children:
4d5e736
Parents:
c81f47e
Message:

Refinamiento de scripts de carga y actualización de procesos ETL

Files:
2 edited

Legend:

Unmodified
Added
Removed
  • smid_actualizacion.sh

    r65d547c rd16323b  
     1#! /bin/bash -l
     2#Parametros del Repositorio Spoon
     3export REPOSITORY_NAME="smid_etl"
     4export REPOSITORY_USER="admin"
     5export REPOSITORY_PASS="admin"
     6#Ubicación de Kitchen
     7export PATH_KITCHEN="/home/jbecerra/pentaho/data-integration"
     8
     9#stdout variables usadas
     10echo "REPOSITORY_NAME=$REPOSITORY_NAME"
     11echo "REPOSITORY_USER=$REPOSITORY_USER"
     12echo "REPOSITORY_PASS=$REPOSITORY_PASS"
     13echo "PATH_KITCHEN=$PATH_KITCHEN"
     14
    115#Cargar las tablas de dimensiones
    2 h="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_actualizar_dimensiones_grupo_0"
    3 i="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_actualizar_dimensiones_grupo_2"
     16h="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_actualizar_dimensiones_grupo_0"
     17i="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_actualizar_dimensiones_grupo_2"
    418#Cargar las tablas de hechos
    5 k="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_actualizar_hechos_grupo_1"
    6 l="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_actualizar_hechos_grupo_2"
    7 m="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_actualizar_hechos_grupo_3"
    8 n="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_actualizar_hechos_grupo_4"
    9 o="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_actualizar_hechos_grupo_5"
    10 p="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_actualizar_hechos_grupo_6"
    11 q="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_actualizar_hechos_grupo_7"
     19k="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_actualizar_hechos_grupo_1"
     20l="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_actualizar_hechos_grupo_2"
     21m="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_actualizar_hechos_grupo_3"
     22n="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_actualizar_hechos_grupo_4"
     23o="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_actualizar_hechos_grupo_5"
     24p="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_actualizar_hechos_grupo_6"
     25q="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_actualizar_hechos_grupo_7"
    1226       
    1327#Limpiar Directorio raiz Kitchen
     
    1832
    1933echo "Eliminando archivos bandera"
    20 ./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_borrar_directorio_flag > job_borrar_dorectorio_flag.txt
     34$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_borrar_directorio_flag > job_borrar_dorectorio_flag.txt
    2135       
    2236echo "Comenzando a ejecutar los Jobs"
    2337echo "Comienza actualización de dimensiones"
    24 $h > job_actualizar_dimensiones_grupo_1.txt | tee >($i > job_actualizar_dimensiones_grupo_2.txt )
     38$h > job_actualizar_dimensiones_grupo_1.txt &
     39$i > job_actualizar_dimensiones_grupo_2.txt &
     40wait
    2541echo "Finalizada actualización de dimensiones"
    2642
    2743echo "Comienza actualización de tablas de hechos"
    28 $k > job_actualizar_hechos_grupo_1.txt | tee >($l > job_actualizar_hechos_grupo_2.txt) | tee >($m > job_actualizar_hechos_grupo_3.txt) | tee >($n > job_actualizar_hechos_grupo_4.txt) | tee >($o > job_actualizar_hechos_grupo_5.txt) | $p > job_actualizar_hechos_grupo_6.txt
    29        
     44echo '                                 (  0%)'
     45$k > job_actualizar_hechos_grupo_1.txt &
     46$l > job_actualizar_hechos_grupo_2.txt &
     47wait
     48echo '##########                       ( 30%)'
     49$m > job_actualizar_hechos_grupo_3.txt &
     50$n > job_actualizar_hechos_grupo_4.txt &
     51wait
     52echo '####################             ( 60%)'
     53$o > job_actualizar_hechos_grupo_5.txt &
     54$p > job_actualizar_hechos_grupo_6.txt &
     55wait
     56echo '##############################   ( 90%)'
    3057$q > job_actualizar_hechos_grupo_7.txt
     58echo '#################################(100%)'
    3159echo "Finalizada actualización de tablas de hechos"
    3260echo "Proceso de actualización completado"
  • smid_carga_inicial.sh

    raf73296 rd16323b  
     1#! /bin/bash -l
     2#Parametros del Repositorio Spoon
     3export REPOSITORY_NAME="smid_etl"
     4export REPOSITORY_USER="admin"
     5export REPOSITORY_PASS="admin"
     6#Ubicación de Kitchen
     7export PATH_KITCHEN="/home/jbecerra/pentaho/data-integration"
     8
     9#stdout variables usadas
     10echo "REPOSITORY_NAME=$REPOSITORY_NAME"
     11echo "REPOSITORY_USER=$REPOSITORY_USER"
     12echo "REPOSITORY_PASS=$REPOSITORY_PASS"
     13echo "PATH_KITCHEN=$PATH_KITCHEN"
     14
    115#Limpiar todas las tablas de hechos
    2 a="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_limpiar_grupo_1"
    3 b="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_limpiar_grupo_2"
    4 c="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_limpiar_grupo_3"
    5 d="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_limpiar_grupo_4"
    6 e="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_limpiar_grupo_5"
    7 f="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_limpiar_grupo_6"
    8 g="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_limpiar_grupo_7"
     16a="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_limpiar_grupo_1"
     17b="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_limpiar_grupo_2"
     18c="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_limpiar_grupo_3"
     19d="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_limpiar_grupo_4"
     20e="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_limpiar_grupo_5"
     21f="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_limpiar_grupo_6"
     22g="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_limpiar_grupo_7"
    923#Cargar las tablas de dimensiones
    10 h="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_cargar_dimensiones_grupo_0"
    11 i="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_cargar_dimensiones_grupo_1"
    12 j="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_cargar_dimensiones_grupo_2"
     24h="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_cargar_dimensiones_grupo_0"
     25i="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_cargar_dimensiones_grupo_1"
     26j="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_cargar_dimensiones_grupo_2"
    1327#Cargar las tablas de hechos
    14 k="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_cargar_hechos_grupo_1"
    15 l="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_cargar_hechos_grupo_2"
    16 m="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_cargar_hechos_grupo_3"
    17 n="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_cargar_hechos_grupo_4"
    18 o="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_cargar_hechos_grupo_5"
    19 p="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_cargar_hechos_grupo_6"
    20 q="./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_cargar_hechos_grupo_7"
     28k="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_cargar_hechos_grupo_1"
     29l="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_cargar_hechos_grupo_2"
     30m="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_cargar_hechos_grupo_3"
     31n="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_cargar_hechos_grupo_4"
     32o="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_cargar_hechos_grupo_5"
     33p="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_cargar_hechos_grupo_6"
     34q="$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_cargar_hechos_grupo_7"
    2135
    2236#Limpiar Directorio raiz Kitchen
     
    2842echo "Comenzando a ejecutar los Jobs"
    2943echo "Eliminando archivos bandera"
    30 ./kitchen.sh -rep=smid_etl -user=admin -pass=admin -dir=carga_inicial -job=job_borrar_directorio_flag > job_borrar_directorio_flag.log
     44$PATH_KITCHEN/kitchen.sh -rep=$REPOSITORY_NAME -user=$REPOSITORY_USER -pass=$REPOSITORY_PASS -dir=carga_inicial -job=job_borrar_directorio_flag > job_borrar_directorio_flag.log
    3145
    3246echo 'Limpiando tablas de hechos'
    3347echo '                                 (  0%)'
    34 $a > job_limpiar_grupo_1.log | tee >($b > job_limpiar_grupo_2.log)
     48$a > job_limpiar_grupo_1.log &
     49$b > job_limpiar_grupo_2.log &
     50wait
    3551echo '##########                       ( 30%)'
    36 $c > job_limpiar_grupo_3.log | tee >($d > job_limpiar_grupo_4.log)
     52$c > job_limpiar_grupo_3.log &
     53$d > job_limpiar_grupo_4.log &
     54wait
    3755echo '####################             ( 60%)'
    38 $e > job_limpiar_grupo_5.log | tee >($f > job_limpiar_grupo_6.log)
     56$e > job_limpiar_grupo_5.log &
     57$f > job_limpiar_grupo_6.log &
     58wait
    3959echo '##############################   ( 90%)'
    4060$g > job_limpiar_grupo_7.log
     
    4363echo "Comienza carga de dimensiones"
    4464echo '                                 (  0%)'
    45 $h > job_cargar_dimensiones_grupo_0.log | tee >($i > job_cargar_dimensiones_grupo_1.log )
     65$h > job_cargar_dimensiones_grupo_0.log &
     66$i > job_cargar_dimensiones_grupo_1.log &
     67wait
    4668echo '##############################   ( 90%)'
    4769$j > job_cargar_dimensiones_grupo_2.log
     
    5173echo "Comienza carga de tablas de hechos"
    5274echo '                                 (  0%)'
    53 $k > job_cargar_hechos_grupo_1.log | tee >($l > job_cargar_hechos_grupo_2.log)
     75$k > job_cargar_hechos_grupo_1.log &
     76$l > job_cargar_hechos_grupo_2.log &
     77wait
    5478echo '##########                       ( 30%)'
    55 $m > job_cargar_hechos_grupo_3.log | tee >($n > job_cargar_hechos_grupo_4.log)
     79$m > job_cargar_hechos_grupo_3.log &
     80$n > job_cargar_hechos_grupo_4.log &
     81wait
    5682echo '####################             ( 60%)'
    57 $o > job_cargar_hechos_grupo_5.log | tee >($p > job_cargar_hechos_grupo_6.log)
     83$o > job_cargar_hechos_grupo_5.log &
     84$p > job_cargar_hechos_grupo_6.log &
     85wait
    5886echo '##############################   ( 90%)'
    5987$q > job_cargar_hechos_grupo_7.log
Note: See TracChangeset for help on using the changeset viewer.