MySQL Replication




Miguel Ángel Nieto <miguelangel@irontec.com>
 Irontec – Internet y Sistemas sobre GNU/Linux
Irontec – MySQL Replication

                                             Introducción

●   Un solo servidor de MySQL se convierte en el SPOF de
    nuestra infraestructura.
●   Si no hay datos, no hay servicio.
●
    apt­get install mysql es solo el primer paso, luego
    queda mucho por hacer.
●   En la era 2.0 todo está en bases de datos, su
    optimización es imprescindible.
●   MySQL nos ofrece muchas posibilidades.




                                                               2
Irontec – MySQL Replication

                                            Introducción




●   ¿Cómo evitamos un SPOF? Añadiendo más máquinas.
●   Pero las máquinas deben ser iguales en cuanto a la
    parte lógica, los datos deben estar replicados y
    mantenerse sincronizados.
●   La replicación nos ayuda a solventar en parte este
    problema.


                                                              3
Irontec – MySQL Replication

                                                   Introducción

●   ¿Que nos ofrece la replicación?

      –   Seguridad. Los datos están replicados en distintas
            máquinas físicas, por lo que tenemos un live backup.
      –   Balanceo de carga. Podemos distribuir la carga entre
            distintas máquinas.
      –   Alta disponibilidad. Al tener datos en varias máquinas,
            si una se cae otra puede tomar el control.
      –   Quebraderos de cabeza. La informática es la ciencia
            menos exacta que existe.




                                                                     4
Irontec – MySQL Replication

                                                         Seguridad

●   Una copia de la base de datos se puede hacer de varias
    formas:
      –   Mysqldump
      –   Copiando las tablas del disco en caliente (parando antes la
            BBDD).
      –   Replicación
      –   etc...
●   La principal diferencia es que la replicación nos ofrece
    un backup siempre actualizado. Las demás será de la
    fecha de su programación.
●   Utilizad siempre dos métodos como mínimo.
    Nunca se debe dejar la replicación como único sistema
    de backup.
                                                                       5
Irontec – MySQL Replication

                            Arquitecturas de replicación

●   Tenemos varias formas de montar una arquitectura de
    replicación.
      –   Maestro-Maestro
      –   Maestro-Esclavo
      –   Circular
●   Según lo que se necesite, se monta una u otra.




                                                                6
Irontec – MySQL Replication

                                             Limitaciones




●   Un esclavo solo puede tener un maestro. Por el
    contrario, un maestro múltiples esclavos.
●   No es recomendable montar una replicación por WAN.
    La replicación es asíncrona y sensible a latencias.
●   En un servidor esclavo esta prohibido escribir datos,
    solo se usarán selects.
                                                               7
Irontec – MySQL Replication

                                           Maestro-Esclavo

●   Un maestro, múltiples esclavos.
●   En el maestro se escribe, en el esclavo se lee.




                                                                  8
Irontec – MySQL Replication

                                                 Maestro-Esclavo

●    Primero debemos configurar el maestro.
     Imprescindible:
        –   Habilitar los logs binarios.
        –   Crear un usuario que permita conectarse a los esclavos.
        –   Habilitar sync_binlog.
        –   Elegir un server-id.

    log­bin=mysql­bin
    server­id=1
    sync_binlog=1




                                                                         9
Irontec – MySQL Replication

                                      Maestro-Esclavo

●   Dar permisos de conexión a los eslavos y dumpeamos
    la BD:

    mysqldump BD ­­master­data=2 > dump_file;

 mysql> grant replication slave on *.* to 
'replication'@10.10.10.1 identified by 'slave';

 mysql> grant replication slave on *.* to 
'replication'@10.10.10.2 identified by 'slave';




                                                              10
Irontec – MySQL Replication

                                            Maestro-Esclavo

●   Configuramos el eslavo:
      –   Seleccionamos un ID diferente para cada uno.
      –   Importamos la BD.
      –   Nos configuramos como esclavo de un maestro.
$mysql ­u root ­p < dump

server­id=101

mysql> CHANGE MASTER TO MASTER_HOST = ‘10.10.10.100’, 
MASTER_USER = ‘replication’, MASTER_PASSWORD = ‘slave’, 
MASTER_LOG_FILE = ‘master_log_file’, MASTER_LOG_POS = 
master_log_pos;




                                                                    11
Irontec – MySQL Replication

                                      Maestro-Esclavo

●   Master_log_pos y Master_log_file indican al esclavo
    desde que posición del log binario deben leer, de
    forma que no se repliquen datos que ya tenemos.
●   Podemos sacarlo con un dump como ya hemos visto o
    con el comando show master status;
●   El log binario debe estár habilitado :)




                                                              12
Irontec – MySQL Replication

                                           Maestro-Esclavo

●   No se debe dejar al servidor la elección de cuando
    escribir los datos al disco duro.
●   Si el servidor se cae sin que algunos datos se escriban
    en el log, es posible que estos se pierdan (dependerá
    del sistema de ficheros).
●   sync_binlog por defecto es 0, que deja que el servidor
    decida cuando realizar la escritura al disco.
●   Se recomienda un valor de 1, para que se fuerce la
    escritura.
●   Esto también es lento, dependerá de los discos duros
    instalados.
●   Si el servidor se cae, como mucho perderemos una
    transacción.                                            13
Irontec – MySQL Replication

                                         Maestro-Esclavo

●   Para comprobar si la replicación es correcta tenemos el
    comando show slave status.
●   Este nos tiene que mostrar lo siguiente:
[...]
Slave_IO_Running: Yes
Slave_SQL_Running: Yes
[...]
Seconds_Behind_Master: 0

    Slave_IO_Running: Se encarga de conectarse al
    maestro para comprobar cambios
    Slave_SQL_Running: Se encarga de escribir las
    sentencias SQL.
    Seconds_Behind_Master: El lag en segundos entre
    el maestro y el esclavo.
                                                                 14
Irontec – MySQL Replication

                                         Maestro-Esclavo

●   Otras opciones:
      –   replicate-do-db
      –   Replicate-ignore-db
      –   binlog-do-db
      –   binlog-ignore-db
      –   replicate-do-table
      –   replicate-wild-do-table
      –   replicate-ignore-table
      –   replicate-wild-ignore-table




                                                                 15
Irontec – MySQL Replication

 Maestro-Esclavo




                         16
Irontec – MySQL Replication

                                                       Maestro-Esclavo

●   El diagrama de las tablas es demasiado grande y no
    entra ;)
    http://dev.mysql.com/doc/refman/5.0/en/replication-rules-table-options.html
●   Para rellenar la diapositiva pondré un dibujo:




    No se quien es el autor :(

                                                                              17
Irontec – MySQL Replication

                                         Maestro-Maestro

●   Lo que se escribe en uno se replica en el otro.
●   Se puede escribir en los dos.




                                                                 18
Irontec – MySQL Replication

                                          Maestro-Maestro

●   La arquitectura maestro-maestro es igual a la maestro
    esclavo.
●   Aquí los hosts realizan las dos tareas, maestro y esclavo
    al mismo tiempo.
●   Esta arquitectura soporta como máximo dos hosts, ya
    que un esclavo solo puede tener como máximo un
    maestro.
             A es maestro de B. B es maestro de A.
              A es esclavo de B. B es esclavo de A.




                                                                  19
Irontec – MySQL Replication

                                                    Maestro-Maestro

●   Se debe tener en cuenta, al igual que antes, lo
    siguiente:
      –   Habilitar el log binario.
      –   Seleccionar un server-id.
      –   Establecer el valor de sync_binlog.
      –   Crear los usuarios para la replicación.
●   El funcionamiento, opciones, monitorización, etc. es
    todo igual.




                                                                         20
Irontec – MySQL Replication

                                          Maestro-Maestro

●   Los auto-incrementales son el gran problema de este
    tipo de arquitectura. Si se realizan dos insert al mismo
    tiempo que incluya un campo autoincremental,
    podemos tener un problema de ID duplicado.
●   A envía a B un artículo cuyo ID autoincremental es
    3000, B envía un artículo diferente a A cuyo
    autoincremental es 3000 también. La replicación se
    rompe.
       –   auto_increment_increment = 2
       –   auto_increment_offset = 1
●   ¿Cómo sería para el server B?


                                                                  21
Irontec – MySQL Replication

                                                        Circular

●   Lo que se escribe en uno se replica en el siguiente, este
    en el siguiente, este en... A → B → C → D → A
●   Es la menos recomendable. En realidad está casi
    prohibida también ;)




                                                                  22
Irontec – MySQL Replication

                                                       Circular

●   Es una forma de disponer de más de dos servidores en
    arquitectura maestro-maestro.
●   Contra más sean los hosts implicados, mayor el caos de
    su administración.
                     A→B→C→D→E→A
●   Si el host C se cae (por ejemplo) la replicación se
    rompe. Lo escrito en B no se replica, lo escrito en D se
    replica en todos menos en C, etc.
●   Si se cae por ejemplo B y D, el caos es infinito. La
    solución es salir corriendo.
●   A no ser que no exista otra solución, no se
    recomienda.
                                                                 23
Irontec – MySQL Replication

                                                       Circular

●   Los logs que reciben los esclavos, deben logearlos en el
    log binario para enviarselo al siguiente en la cadena.
    Esto no es el funcionamiento por defecto, los que se
    recibe como esclavo no se logea. Para cambiarlo:
      –   log­slave­updates
●   En algún momento de la cadena nos llegarán nuestros
    propios logs. Para evitar formar un bucle:
      –   Replicate­same­server­id=0
●   También habrá que tener cuidado con los auto-
    incrementales:
      –   auto_increment_increment=4
      –   auto_increment_offset=1



                                                                 24
Irontec – MySQL Replication

 Replicación rota




                         25
Irontec – MySQL Replication

                                          Replicación rota

●   Es recomendable tener el error-log habilitado, ahí se
    guardará, entre otras cosas, cualquier error relacionado
    con la replicación.
●   ¡EJEMPLO!
Sep 11 11:13:16 test2 mysqld[6776]: 090911 11:13:16 
[ERROR] Slave: Error 'Table 't' already exists' on 
query. Default database: 'mysql'. Query: 'CREATE 
TABLE t (c CHAR(20) CHARACTER SET utf8 COLLATE 
utf8_bin)', Error_code: 1050

Sep 11 11:13:16 test2 mysqld[6776]: 090911 11:13:16 
[ERROR] Error running query, slave SQL thread 
aborted. Fix the problem, and restart the slave SQL 
thread with "SLAVE START". We stopped at log 'mysql­
bin.000003' position 421


                                                                 26
Irontec – MySQL Replication

                                          Replicación rota

●    Forma rápida y no tan buena de solucionarlo:
●    Decirle al esclavo que ignore esa querie y continue con
     la replicación:

    mysql> stop slave; Query OK, 0 rows affected (0.00 
    sec) 

    mysql> SET GLOBAL SQL_SLAVE_SKIP_COUNTER = 1; Query 
    OK, 0 rows affected (0.00 sec) 

    mysql> start slave;




                                                                 27
Irontec – MySQL Replication

                                         Replicación rota

●   Forma buena (y algo lenta) de solucionarlo:
                     http://www.maatkit.org/
●   Maatkit makes MySQL easier to manage.
●   Lo de “easier” ponedlo entre muchas comillas.
●   Son una colección de herramientas que nos puede
    ayudar en la administración de nuestro servidores, y en
    este caso en particular, en rescatar una replicación.
●   Todas las utilidades:
                   http://www.maatkit.org/doc/




                                                                 28
Irontec – MySQL Replication

                                           Replicación rota

●    Para saber si dos tables están sincronizadas, podemos
     sacar un checksum de estas y comparar:
       –   mk­table­checksum
●    Para sincronizar los datos de dos tablas:
       –   mk­table­sync


    $ mk­table­checksum h=host1,u=user,p=password h=host2

 $ mk­table­sync –execute 
u=user,p=pass,h=host1,D=db,t=tbl host2




                                                                   29
Irontec – MySQL Replication

                                                             SandBox

●   Para crear una laboratorio de pruebas podemos:
      –   Montar equipos físicos e instalarlos (de locos).
      –   Montar máquinas virtuales.
      –   Usar ¡sandbox!




                                                                         30
Irontec – MySQL Replication

                                                         SandBox

●   SandBox nos permite:
      –   Montar sistemas de replicación
      –   Probar versiones nuevas de MySQL facilmente
      –   Manejar múltiples instancias de MySQL desde un único
            punto.
      –   Te olvidas de rmps, sources, debs... ¡tar.gz binario!
      –   Testear
      –   Testear
      –   Testear...




                                                                     31
Irontec – MySQL Replication

                                                       SandBox

●   No es un producto oficial de MySQL.
●   Está escrito el perl (puag!) y aún así funciona bien.

                 http://mysqlsandbox.net/
●   Tendremos que descargar un paquete tar.gz de MySQL
    y Sandbox.




                                                                   32
Irontec – MySQL Replication

                                                          Instalación

●   ¡Como root!
root@shyris:~# tar ­xzf MySQL­Sandbox­3.0.05.tar.gz

root@shyris:~# cd MySQL­Sandbox­3.0.05/

root@shyris:~/MySQL­Sandbox­3.0.05# perl Makefile.PL

root@shyris:~/MySQL­Sandbox­3.0.05# make

root@shyris:~/MySQL­Sandbox­3.0.05# make test

root@shyris:~/MySQL­Sandbox­3.0.05# make install

root@shyris:/usr/local/bin# ls
low_level_make_sandbox        make_multiple_sandbox     make_sandbox 
                make_sandbox_from_source  sb      test_sandbox
make_multiple_custom_sandbox  make_replication_sandbox  
make_sandbox_from_installed  msandbox                  sbtool 




                                                                         33
Irontec – MySQL Replication

                                          Uso de SandBox

●   Crear un sandbox con una única instancia de MySQL


punisher@shyris:~$ make_sandbox /home/punisher/MySQL/mysql­
5.0.86­percona­highperf­b19.tar.gz 
unpacking /home/punisher/MySQL/mysql­5.0.86­percona­
highperf­b19.tar.gz
Executing low_level_make_sandbox 
­­basedir=/home/punisher/MySQL/5.0.86 
   ­­sandbox_directory=msb_5_0_86 
   ­­install_version=5.0 
   ­­sandbox_port=5086 
   ­­no_ver_after_name 
   ­­my_clause=log­error=msandbox.err




                                                                 34
Irontec – MySQL Replication

                            Uso de SandBox

●   Parar sandbox:
      –   stop
●   Arrancar sandbox:
      –   start
●   Utilizar sandbox:
      –   use
●   Reiniciar sandbox:
      –   restart
●   Limpiar el sandbox:
      –   clean



                                                   35
Irontec – MySQL Replication

                           Crear entorno maestro-esclavo

●   Facil, sencillo y para toda la familia:

punisher@shyris:~$ make_replication_sandbox 
­­how_many_slaves=2 /home/punisher/MySQL/mysql­5.0.86­
percona­highperf­b19.tar.gz 
installing and starting master
installing slave 1
installing slave 2
starting slave 1
. sandbox server started
starting slave 2
. sandbox server started
initializing slave 1
initializing slave 2
replication directory installed in 
$HOME/sandboxes/rsandbox_5_0_86




                                                                       36
Irontec – MySQL Replication

                           Crear entorno maestro-esclavo

●   Acceder al maestro
      –   m1
●   Acceder al esclavo 1
      –   s1
●   Acceder al esclavo 2
      –   s2
●   Chequear esclavos
      –   check_slaves




                                                                37
Irontec – MySQL Replication

                          Crear entorno maestro-maestro

●   Es muy dificil, ¡atentos!

punisher@shyris:~$ make_replication_sandbox 
­­master_master /home/punisher/MySQL/mysql­5.0.86­percona­
highperf­b19.tar.gz 
installing node 1
installing node 2
# server: 1: 
# server: 2: 
# server: 1: 
# server: 2: 
Circular replication activated
group directory installed in 
$HOME/sandboxes/rcsandbox_5_0_86




                                                                 38
Irontec – MySQL Replication

                                Crear replicación circular
punisher@shyris:~$ make_replication_sandbox ­­circular=4 
/home/punisher/MySQL/mysql­5.0.86­percona­highperf­b19.tar.gz 
# server: 1: 
# server: 2: 
executing "clear" on node 1
executing "clear" on node 2
installing node 1
installing node 2
installing node 3
installing node 4
# server: 1: 
# server: 2: 
# server: 3: 
# server: 4: 
# server: 1: 
# server: 2: 
# server: 3: 
# server: 4: 
Circular replication activated
group directory installed in $HOME/sandboxes/rcsandbox_5_0_86



                                                                  39
Irontec – MySQL Replication

                                                          MMM

●   Cuando ya sabemos que queremos y lo montamos,
    llega el mantenimiento.
●   Si tenemos un cluster de, por ejemplo, 2 maestros y 50
    esclavos, comprobar el correcto funcionamiento es
    complicado.
●   ¿Y si deseamos parar algún esclavo?
●   ¿Y si deseamos parar algún maestro?
●   Es necesario reducir el tiempo de parada de
    servicio al mínimo.




                                                                40
Irontec – MySQL Replication

                   MMM




                         41
Irontec – MySQL Replication

                                                                 MMM

●   También el Perl. El mundo se ha vuelto loco...
●   Características:
      –   Monitorización de la replicación
      –   Monitorización de los hosts
      –   Gestión del failover
      –   Balanceo de IPs entre nodos
      –   Gestión de grupos de escritura/lectura




                                                                       42
Irontec – MySQL Replication

                                                                MMM

●   La alta disponibilidad se hace mediante el balanceo de
    Ips virtuales que saltarán de un servidor a otro en caso
    de ser necesario.
      –   Exclusivo: Una única IP para muchos hosts. Si el host que
            la tiene se cae se balancea a otro. Generalmente se usa
            en los nodos de escritura.
      –   Balanceado: Una IP por cada host. Si uno de los hosts se
            cae la IP se balancea a cualquier otro, pasando a tener
            dos IPs virtuales. Se usa para nodos en lectura.




                                                                      43
Irontec – MySQL Replication

                                                                  MMM

●   Se pueden meter los servidores dentro de dos roles,
    escritura y lectura. Escritura es obligatorio, mientras que
    el de lectura no tiene porque definirse.
●   La diferencia es lógica:
       –   Nodos de escritura son aquellos en los que los datos se
            escribirán.
       –   Nodos de lectura son aquellos de los cuales se leerán
            datos.
●   Escritura (maestro) – Lectura (esclavo)




                                                                        44
Irontec – MySQL Replication

                                                            MMM

                     http://mysql-mmm.org/
●   En el sistema de control se instalará:
      –   mysql-mmm-common_2.0.10-1_all.deb
      –   mysql-mmm-monitor_2.0.10-1_all.deb
●   En los nodos:
      –   mysql-mmm-common_2.0.10-1_all.deb
      –   mysql-mmm-agent_2.0.10-1_all.deb
●   ¡Junto con todas las dependencias!




                                                                  45
Irontec – MySQL Replication

                                                          MMM

●   Los ficheros de configuración se guardan en /etc/mysql-
    mmm
●   Todos tendrán un fichero llamado
    mmm_common.conf que será exactamente igual.
●   El nodo de control mmm_mon.conf
●   Los servidores de MySQL mmm_agent.conf




                                                                46
Irontec – MySQL Replication

                                                                 MMM

●   mmm_common.conf
●   Incluye la configuración de:
      –   Los Hosts
      –   Sus Ips
      –   Los roles
      –   Usuario/Contraseña del agente
      –   Usuario/Contraseña para la replicación
      –   La interfaz de red en la que se trabaja




                                                                       47
Irontec – MySQL Replication

                                                                MMM

●   mmm_mon.conf
●   Incluye la configuración de:
      –   Usuario/Contraseña para la monitorización
      –   Ips a las que pingar
      –   Ruta de los binarios
      –   Ruta del PID
      –   Nidel de debug




                                                                      48
Irontec – MySQL Replication

                                                          MMM

●   mmm_agent
●   Incluye la configuración de:
      –   El nombre de este servidor
      –   Todo el mmm_common.conf
      –   Y nada más :P




                                                                49
Irontec – MySQL Replication

                                                                     MMM

●    Como hemos visto, hay varios usuarios y contraseñas
     definidos. Hay que crerlos en MySQL.

    GRANT REPLICATION CLIENT ON *.* TO 'mmm_monitor'@'10.100.1.%' 
    IDENTIFIED BY 'RepMonitor';

    GRANT SUPER, REPLICATION CLIENT, PROCESS ON *.* TO 
    'mmm_agent'@'10.100.1.%' IDENTIFIED BY 'RepAgent';

    GRANT REPLICATION SLAVE ON *.* TO 'replication'@'10.100.1.%' 
    IDENTIFIED BY 'slave';




        –   El usuario monitor se usa para comprobar el estado de los
               servidores Mysql.
        –   El usuario agent se usa para cambiar el read only mode,
               poner offline un equipo, ejecutar un change_master, etc.
        –   El usuario replication slave... para replicación ;)      50
Irontec – MySQL Replication

                                                                    MMM

●   Una vez puesto en marcha los servicios, se deben
    poner online los servidores desde el comando de
    control.
    MMM:~# mmm_control show
      db1(10.100.1.1) master/AWAITING_RECOVERY. Roles: 
      db2(10.100.1.2) master/AWAITING_RECOVERY. Roles: 
      db3(10.100.1.3) slave/AWAITING_RECOVERY. Roles: 
      db4(10.100.1.4) slave/AWAITING_RECOVERY. Roles:

    MMM:~# mmm_control set_online db1
    OK: State of 'db1' changed to ONLINE. Now you can wait 
    some time and check its new roles!
    MMM:~# mmm_control set_online db2
    OK: State of 'db2' changed to ONLINE. Now you can wait 
    some time and check its new roles!
    MMM:~# mmm_control set_online db3
    OK: State of 'db3' changed to ONLINE. Now you can wait 
    some time and check its new roles!
    MMM:~# mmm_control set_online db4
    OK: State of 'db4' changed to ONLINE. Now you can wait 
    some time and check its new roles!
                                                                          51
Irontec – MySQL Replication

                                                                  MMM

●   ¡Ejemplo! Parando un servidor en producción:

    MMM:~# mmm_control set_offline db1
    OK: State of 'db1' changed to ADMIN_OFFLINE. Now you can 
    wait some time and check all roles!


    MMM:~# mmm_control show
      db1(10.100.1.1) master/ADMIN_OFFLINE. Roles: 
      db2(10.100.1.2) master/ONLINE. Roles: 
    writer(10.100.1.10)
      db3(10.100.1.3) slave/ONLINE. Roles: reader(10.100.1.12)
      db4(10.100.1.4) slave/ONLINE. Roles: reader(10.100.1.11)




                                                                        52
Irontec – MySQL Replication

                                              MySQL Proxy

●   El balanceo de carga se puede hacer bien por hardware
    como por software.
●   Existe un software creado para MySQL que nos puede
    “ayudar”.
●   Para que te ayude debes saber LUA.
           http://forge.mysql.com/wiki/MySQL_Proxy
●   Es un proxy que se pone entre el cliente y los servidores
    de MySQL.




                                                                 53
Irontec – MySQL Replication

                                              MySQL Proxy

●   Trae scripts de ejemplo, que entre otras cosas te
    permite:
      –   Reescribir queries.
      –   Balanceo de carga.
      –   Loggeo avanzado.
      –   Failover.
      –   Análisis de queries.




                                                                 54
Irontec – MySQL Replication

                                  Se acabó




miguelangel@irontec.com


      miguel2angel


http://miguelangelnieto.net



                                              55

Replicación Mysql

  • 1.
    MySQL Replication Miguel ÁngelNieto <miguelangel@irontec.com> Irontec – Internet y Sistemas sobre GNU/Linux
  • 2.
    Irontec – MySQLReplication Introducción ● Un solo servidor de MySQL se convierte en el SPOF de nuestra infraestructura. ● Si no hay datos, no hay servicio. ● apt­get install mysql es solo el primer paso, luego queda mucho por hacer. ● En la era 2.0 todo está en bases de datos, su optimización es imprescindible. ● MySQL nos ofrece muchas posibilidades. 2
  • 3.
    Irontec – MySQLReplication Introducción ● ¿Cómo evitamos un SPOF? Añadiendo más máquinas. ● Pero las máquinas deben ser iguales en cuanto a la parte lógica, los datos deben estar replicados y mantenerse sincronizados. ● La replicación nos ayuda a solventar en parte este problema. 3
  • 4.
    Irontec – MySQLReplication Introducción ● ¿Que nos ofrece la replicación? – Seguridad. Los datos están replicados en distintas máquinas físicas, por lo que tenemos un live backup. – Balanceo de carga. Podemos distribuir la carga entre distintas máquinas. – Alta disponibilidad. Al tener datos en varias máquinas, si una se cae otra puede tomar el control. – Quebraderos de cabeza. La informática es la ciencia menos exacta que existe. 4
  • 5.
    Irontec – MySQLReplication Seguridad ● Una copia de la base de datos se puede hacer de varias formas: – Mysqldump – Copiando las tablas del disco en caliente (parando antes la BBDD). – Replicación – etc... ● La principal diferencia es que la replicación nos ofrece un backup siempre actualizado. Las demás será de la fecha de su programación. ● Utilizad siempre dos métodos como mínimo. Nunca se debe dejar la replicación como único sistema de backup. 5
  • 6.
    Irontec – MySQLReplication Arquitecturas de replicación ● Tenemos varias formas de montar una arquitectura de replicación. – Maestro-Maestro – Maestro-Esclavo – Circular ● Según lo que se necesite, se monta una u otra. 6
  • 7.
    Irontec – MySQLReplication Limitaciones ● Un esclavo solo puede tener un maestro. Por el contrario, un maestro múltiples esclavos. ● No es recomendable montar una replicación por WAN. La replicación es asíncrona y sensible a latencias. ● En un servidor esclavo esta prohibido escribir datos, solo se usarán selects. 7
  • 8.
    Irontec – MySQLReplication Maestro-Esclavo ● Un maestro, múltiples esclavos. ● En el maestro se escribe, en el esclavo se lee. 8
  • 9.
    Irontec – MySQLReplication Maestro-Esclavo ● Primero debemos configurar el maestro. Imprescindible: – Habilitar los logs binarios. – Crear un usuario que permita conectarse a los esclavos. – Habilitar sync_binlog. – Elegir un server-id. log­bin=mysql­bin server­id=1 sync_binlog=1 9
  • 10.
    Irontec – MySQLReplication Maestro-Esclavo ● Dar permisos de conexión a los eslavos y dumpeamos la BD: mysqldump BD ­­master­data=2 > dump_file; mysql> grant replication slave on *.* to  'replication'@10.10.10.1 identified by 'slave'; mysql> grant replication slave on *.* to  'replication'@10.10.10.2 identified by 'slave'; 10
  • 11.
    Irontec – MySQLReplication Maestro-Esclavo ● Configuramos el eslavo: – Seleccionamos un ID diferente para cada uno. – Importamos la BD. – Nos configuramos como esclavo de un maestro. $mysql ­u root ­p < dump server­id=101 mysql> CHANGE MASTER TO MASTER_HOST = ‘10.10.10.100’,  MASTER_USER = ‘replication’, MASTER_PASSWORD = ‘slave’,  MASTER_LOG_FILE = ‘master_log_file’, MASTER_LOG_POS =  master_log_pos; 11
  • 12.
    Irontec – MySQLReplication Maestro-Esclavo ● Master_log_pos y Master_log_file indican al esclavo desde que posición del log binario deben leer, de forma que no se repliquen datos que ya tenemos. ● Podemos sacarlo con un dump como ya hemos visto o con el comando show master status; ● El log binario debe estár habilitado :) 12
  • 13.
    Irontec – MySQLReplication Maestro-Esclavo ● No se debe dejar al servidor la elección de cuando escribir los datos al disco duro. ● Si el servidor se cae sin que algunos datos se escriban en el log, es posible que estos se pierdan (dependerá del sistema de ficheros). ● sync_binlog por defecto es 0, que deja que el servidor decida cuando realizar la escritura al disco. ● Se recomienda un valor de 1, para que se fuerce la escritura. ● Esto también es lento, dependerá de los discos duros instalados. ● Si el servidor se cae, como mucho perderemos una transacción. 13
  • 14.
    Irontec – MySQLReplication Maestro-Esclavo ● Para comprobar si la replicación es correcta tenemos el comando show slave status. ● Este nos tiene que mostrar lo siguiente: [...] Slave_IO_Running: Yes Slave_SQL_Running: Yes [...] Seconds_Behind_Master: 0 Slave_IO_Running: Se encarga de conectarse al maestro para comprobar cambios Slave_SQL_Running: Se encarga de escribir las sentencias SQL. Seconds_Behind_Master: El lag en segundos entre el maestro y el esclavo. 14
  • 15.
    Irontec – MySQLReplication Maestro-Esclavo ● Otras opciones: – replicate-do-db – Replicate-ignore-db – binlog-do-db – binlog-ignore-db – replicate-do-table – replicate-wild-do-table – replicate-ignore-table – replicate-wild-ignore-table 15
  • 16.
    Irontec – MySQLReplication Maestro-Esclavo 16
  • 17.
    Irontec – MySQLReplication Maestro-Esclavo ● El diagrama de las tablas es demasiado grande y no entra ;) http://dev.mysql.com/doc/refman/5.0/en/replication-rules-table-options.html ● Para rellenar la diapositiva pondré un dibujo: No se quien es el autor :( 17
  • 18.
    Irontec – MySQLReplication Maestro-Maestro ● Lo que se escribe en uno se replica en el otro. ● Se puede escribir en los dos. 18
  • 19.
    Irontec – MySQLReplication Maestro-Maestro ● La arquitectura maestro-maestro es igual a la maestro esclavo. ● Aquí los hosts realizan las dos tareas, maestro y esclavo al mismo tiempo. ● Esta arquitectura soporta como máximo dos hosts, ya que un esclavo solo puede tener como máximo un maestro. A es maestro de B. B es maestro de A. A es esclavo de B. B es esclavo de A. 19
  • 20.
    Irontec – MySQLReplication Maestro-Maestro ● Se debe tener en cuenta, al igual que antes, lo siguiente: – Habilitar el log binario. – Seleccionar un server-id. – Establecer el valor de sync_binlog. – Crear los usuarios para la replicación. ● El funcionamiento, opciones, monitorización, etc. es todo igual. 20
  • 21.
    Irontec – MySQLReplication Maestro-Maestro ● Los auto-incrementales son el gran problema de este tipo de arquitectura. Si se realizan dos insert al mismo tiempo que incluya un campo autoincremental, podemos tener un problema de ID duplicado. ● A envía a B un artículo cuyo ID autoincremental es 3000, B envía un artículo diferente a A cuyo autoincremental es 3000 también. La replicación se rompe. – auto_increment_increment = 2 – auto_increment_offset = 1 ● ¿Cómo sería para el server B? 21
  • 22.
    Irontec – MySQLReplication Circular ● Lo que se escribe en uno se replica en el siguiente, este en el siguiente, este en... A → B → C → D → A ● Es la menos recomendable. En realidad está casi prohibida también ;) 22
  • 23.
    Irontec – MySQLReplication Circular ● Es una forma de disponer de más de dos servidores en arquitectura maestro-maestro. ● Contra más sean los hosts implicados, mayor el caos de su administración. A→B→C→D→E→A ● Si el host C se cae (por ejemplo) la replicación se rompe. Lo escrito en B no se replica, lo escrito en D se replica en todos menos en C, etc. ● Si se cae por ejemplo B y D, el caos es infinito. La solución es salir corriendo. ● A no ser que no exista otra solución, no se recomienda. 23
  • 24.
    Irontec – MySQLReplication Circular ● Los logs que reciben los esclavos, deben logearlos en el log binario para enviarselo al siguiente en la cadena. Esto no es el funcionamiento por defecto, los que se recibe como esclavo no se logea. Para cambiarlo: – log­slave­updates ● En algún momento de la cadena nos llegarán nuestros propios logs. Para evitar formar un bucle: – Replicate­same­server­id=0 ● También habrá que tener cuidado con los auto- incrementales: – auto_increment_increment=4 – auto_increment_offset=1 24
  • 25.
    Irontec – MySQLReplication Replicación rota 25
  • 26.
    Irontec – MySQLReplication Replicación rota ● Es recomendable tener el error-log habilitado, ahí se guardará, entre otras cosas, cualquier error relacionado con la replicación. ● ¡EJEMPLO! Sep 11 11:13:16 test2 mysqld[6776]: 090911 11:13:16  [ERROR] Slave: Error 'Table 't' already exists' on  query. Default database: 'mysql'. Query: 'CREATE  TABLE t (c CHAR(20) CHARACTER SET utf8 COLLATE  utf8_bin)', Error_code: 1050 Sep 11 11:13:16 test2 mysqld[6776]: 090911 11:13:16  [ERROR] Error running query, slave SQL thread  aborted. Fix the problem, and restart the slave SQL  thread with "SLAVE START". We stopped at log 'mysql­ bin.000003' position 421 26
  • 27.
    Irontec – MySQLReplication Replicación rota ● Forma rápida y no tan buena de solucionarlo: ● Decirle al esclavo que ignore esa querie y continue con la replicación: mysql> stop slave; Query OK, 0 rows affected (0.00  sec)  mysql> SET GLOBAL SQL_SLAVE_SKIP_COUNTER = 1; Query  OK, 0 rows affected (0.00 sec)  mysql> start slave; 27
  • 28.
    Irontec – MySQLReplication Replicación rota ● Forma buena (y algo lenta) de solucionarlo: http://www.maatkit.org/ ● Maatkit makes MySQL easier to manage. ● Lo de “easier” ponedlo entre muchas comillas. ● Son una colección de herramientas que nos puede ayudar en la administración de nuestro servidores, y en este caso en particular, en rescatar una replicación. ● Todas las utilidades: http://www.maatkit.org/doc/ 28
  • 29.
    Irontec – MySQLReplication Replicación rota ● Para saber si dos tables están sincronizadas, podemos sacar un checksum de estas y comparar: – mk­table­checksum ● Para sincronizar los datos de dos tablas: – mk­table­sync $ mk­table­checksum h=host1,u=user,p=password h=host2 $ mk­table­sync –execute  u=user,p=pass,h=host1,D=db,t=tbl host2 29
  • 30.
    Irontec – MySQLReplication SandBox ● Para crear una laboratorio de pruebas podemos: – Montar equipos físicos e instalarlos (de locos). – Montar máquinas virtuales. – Usar ¡sandbox! 30
  • 31.
    Irontec – MySQLReplication SandBox ● SandBox nos permite: – Montar sistemas de replicación – Probar versiones nuevas de MySQL facilmente – Manejar múltiples instancias de MySQL desde un único punto. – Te olvidas de rmps, sources, debs... ¡tar.gz binario! – Testear – Testear – Testear... 31
  • 32.
    Irontec – MySQLReplication SandBox ● No es un producto oficial de MySQL. ● Está escrito el perl (puag!) y aún así funciona bien. http://mysqlsandbox.net/ ● Tendremos que descargar un paquete tar.gz de MySQL y Sandbox. 32
  • 33.
    Irontec – MySQLReplication Instalación ● ¡Como root! root@shyris:~# tar ­xzf MySQL­Sandbox­3.0.05.tar.gz root@shyris:~# cd MySQL­Sandbox­3.0.05/ root@shyris:~/MySQL­Sandbox­3.0.05# perl Makefile.PL root@shyris:~/MySQL­Sandbox­3.0.05# make root@shyris:~/MySQL­Sandbox­3.0.05# make test root@shyris:~/MySQL­Sandbox­3.0.05# make install root@shyris:/usr/local/bin# ls low_level_make_sandbox        make_multiple_sandbox     make_sandbox                  make_sandbox_from_source  sb      test_sandbox make_multiple_custom_sandbox  make_replication_sandbox   make_sandbox_from_installed  msandbox                  sbtool  33
  • 34.
    Irontec – MySQLReplication Uso de SandBox ● Crear un sandbox con una única instancia de MySQL punisher@shyris:~$ make_sandbox /home/punisher/MySQL/mysql­ 5.0.86­percona­highperf­b19.tar.gz  unpacking /home/punisher/MySQL/mysql­5.0.86­percona­ highperf­b19.tar.gz Executing low_level_make_sandbox  ­­basedir=/home/punisher/MySQL/5.0.86  ­­sandbox_directory=msb_5_0_86  ­­install_version=5.0  ­­sandbox_port=5086  ­­no_ver_after_name  ­­my_clause=log­error=msandbox.err 34
  • 35.
    Irontec – MySQLReplication Uso de SandBox ● Parar sandbox: – stop ● Arrancar sandbox: – start ● Utilizar sandbox: – use ● Reiniciar sandbox: – restart ● Limpiar el sandbox: – clean 35
  • 36.
    Irontec – MySQLReplication Crear entorno maestro-esclavo ● Facil, sencillo y para toda la familia: punisher@shyris:~$ make_replication_sandbox  ­­how_many_slaves=2 /home/punisher/MySQL/mysql­5.0.86­ percona­highperf­b19.tar.gz  installing and starting master installing slave 1 installing slave 2 starting slave 1 . sandbox server started starting slave 2 . sandbox server started initializing slave 1 initializing slave 2 replication directory installed in  $HOME/sandboxes/rsandbox_5_0_86 36
  • 37.
    Irontec – MySQLReplication Crear entorno maestro-esclavo ● Acceder al maestro – m1 ● Acceder al esclavo 1 – s1 ● Acceder al esclavo 2 – s2 ● Chequear esclavos – check_slaves 37
  • 38.
    Irontec – MySQLReplication Crear entorno maestro-maestro ● Es muy dificil, ¡atentos! punisher@shyris:~$ make_replication_sandbox  ­­master_master /home/punisher/MySQL/mysql­5.0.86­percona­ highperf­b19.tar.gz  installing node 1 installing node 2 # server: 1:  # server: 2:  # server: 1:  # server: 2:  Circular replication activated group directory installed in  $HOME/sandboxes/rcsandbox_5_0_86 38
  • 39.
    Irontec – MySQLReplication Crear replicación circular punisher@shyris:~$ make_replication_sandbox ­­circular=4  /home/punisher/MySQL/mysql­5.0.86­percona­highperf­b19.tar.gz  # server: 1:  # server: 2:  executing "clear" on node 1 executing "clear" on node 2 installing node 1 installing node 2 installing node 3 installing node 4 # server: 1:  # server: 2:  # server: 3:  # server: 4:  # server: 1:  # server: 2:  # server: 3:  # server: 4:  Circular replication activated group directory installed in $HOME/sandboxes/rcsandbox_5_0_86 39
  • 40.
    Irontec – MySQLReplication MMM ● Cuando ya sabemos que queremos y lo montamos, llega el mantenimiento. ● Si tenemos un cluster de, por ejemplo, 2 maestros y 50 esclavos, comprobar el correcto funcionamiento es complicado. ● ¿Y si deseamos parar algún esclavo? ● ¿Y si deseamos parar algún maestro? ● Es necesario reducir el tiempo de parada de servicio al mínimo. 40
  • 41.
    Irontec – MySQLReplication MMM 41
  • 42.
    Irontec – MySQLReplication MMM ● También el Perl. El mundo se ha vuelto loco... ● Características: – Monitorización de la replicación – Monitorización de los hosts – Gestión del failover – Balanceo de IPs entre nodos – Gestión de grupos de escritura/lectura 42
  • 43.
    Irontec – MySQLReplication MMM ● La alta disponibilidad se hace mediante el balanceo de Ips virtuales que saltarán de un servidor a otro en caso de ser necesario. – Exclusivo: Una única IP para muchos hosts. Si el host que la tiene se cae se balancea a otro. Generalmente se usa en los nodos de escritura. – Balanceado: Una IP por cada host. Si uno de los hosts se cae la IP se balancea a cualquier otro, pasando a tener dos IPs virtuales. Se usa para nodos en lectura. 43
  • 44.
    Irontec – MySQLReplication MMM ● Se pueden meter los servidores dentro de dos roles, escritura y lectura. Escritura es obligatorio, mientras que el de lectura no tiene porque definirse. ● La diferencia es lógica: – Nodos de escritura son aquellos en los que los datos se escribirán. – Nodos de lectura son aquellos de los cuales se leerán datos. ● Escritura (maestro) – Lectura (esclavo) 44
  • 45.
    Irontec – MySQLReplication MMM http://mysql-mmm.org/ ● En el sistema de control se instalará: – mysql-mmm-common_2.0.10-1_all.deb – mysql-mmm-monitor_2.0.10-1_all.deb ● En los nodos: – mysql-mmm-common_2.0.10-1_all.deb – mysql-mmm-agent_2.0.10-1_all.deb ● ¡Junto con todas las dependencias! 45
  • 46.
    Irontec – MySQLReplication MMM ● Los ficheros de configuración se guardan en /etc/mysql- mmm ● Todos tendrán un fichero llamado mmm_common.conf que será exactamente igual. ● El nodo de control mmm_mon.conf ● Los servidores de MySQL mmm_agent.conf 46
  • 47.
    Irontec – MySQLReplication MMM ● mmm_common.conf ● Incluye la configuración de: – Los Hosts – Sus Ips – Los roles – Usuario/Contraseña del agente – Usuario/Contraseña para la replicación – La interfaz de red en la que se trabaja 47
  • 48.
    Irontec – MySQLReplication MMM ● mmm_mon.conf ● Incluye la configuración de: – Usuario/Contraseña para la monitorización – Ips a las que pingar – Ruta de los binarios – Ruta del PID – Nidel de debug 48
  • 49.
    Irontec – MySQLReplication MMM ● mmm_agent ● Incluye la configuración de: – El nombre de este servidor – Todo el mmm_common.conf – Y nada más :P 49
  • 50.
    Irontec – MySQLReplication MMM ● Como hemos visto, hay varios usuarios y contraseñas definidos. Hay que crerlos en MySQL. GRANT REPLICATION CLIENT ON *.* TO 'mmm_monitor'@'10.100.1.%'  IDENTIFIED BY 'RepMonitor'; GRANT SUPER, REPLICATION CLIENT, PROCESS ON *.* TO  'mmm_agent'@'10.100.1.%' IDENTIFIED BY 'RepAgent'; GRANT REPLICATION SLAVE ON *.* TO 'replication'@'10.100.1.%'  IDENTIFIED BY 'slave'; – El usuario monitor se usa para comprobar el estado de los servidores Mysql. – El usuario agent se usa para cambiar el read only mode, poner offline un equipo, ejecutar un change_master, etc. – El usuario replication slave... para replicación ;) 50
  • 51.
    Irontec – MySQLReplication MMM ● Una vez puesto en marcha los servicios, se deben poner online los servidores desde el comando de control. MMM:~# mmm_control show   db1(10.100.1.1) master/AWAITING_RECOVERY. Roles:    db2(10.100.1.2) master/AWAITING_RECOVERY. Roles:    db3(10.100.1.3) slave/AWAITING_RECOVERY. Roles:    db4(10.100.1.4) slave/AWAITING_RECOVERY. Roles: MMM:~# mmm_control set_online db1 OK: State of 'db1' changed to ONLINE. Now you can wait  some time and check its new roles! MMM:~# mmm_control set_online db2 OK: State of 'db2' changed to ONLINE. Now you can wait  some time and check its new roles! MMM:~# mmm_control set_online db3 OK: State of 'db3' changed to ONLINE. Now you can wait  some time and check its new roles! MMM:~# mmm_control set_online db4 OK: State of 'db4' changed to ONLINE. Now you can wait  some time and check its new roles! 51
  • 52.
    Irontec – MySQLReplication MMM ● ¡Ejemplo! Parando un servidor en producción: MMM:~# mmm_control set_offline db1 OK: State of 'db1' changed to ADMIN_OFFLINE. Now you can  wait some time and check all roles! MMM:~# mmm_control show   db1(10.100.1.1) master/ADMIN_OFFLINE. Roles:    db2(10.100.1.2) master/ONLINE. Roles:  writer(10.100.1.10)   db3(10.100.1.3) slave/ONLINE. Roles: reader(10.100.1.12)   db4(10.100.1.4) slave/ONLINE. Roles: reader(10.100.1.11) 52
  • 53.
    Irontec – MySQLReplication MySQL Proxy ● El balanceo de carga se puede hacer bien por hardware como por software. ● Existe un software creado para MySQL que nos puede “ayudar”. ● Para que te ayude debes saber LUA. http://forge.mysql.com/wiki/MySQL_Proxy ● Es un proxy que se pone entre el cliente y los servidores de MySQL. 53
  • 54.
    Irontec – MySQLReplication MySQL Proxy ● Trae scripts de ejemplo, que entre otras cosas te permite: – Reescribir queries. – Balanceo de carga. – Loggeo avanzado. – Failover. – Análisis de queries. 54
  • 55.
    Irontec – MySQLReplication Se acabó miguelangel@irontec.com miguel2angel http://miguelangelnieto.net 55