nareswara.com

Collin Charles melaporkan dari blognya bahwa Red Hat Enterprise Linux 7 akan melepas database MySQL dan menggantinya dengan database MariaDB. Pengumuman ini dikeluarkan pada #rhsummit yang sedang berlangsung di xxx.

Sejak MySQL di akuisisi oleh ORACLE pada tahun 2010, para pengembang MySQL memisahkan diri dan membuat versi terbuka dan mandri yang di beri nama MariaDB. MariaDB masih kompatible dengan MySQL, sehingga jikalau applikasi kita beralih dari database MySQL ke MariaDB dapat langsung berjalan.

Kabar ini tentu saja akan menggembirakan para pengguna MariaDB dan membantu para pemakai MySQL yang risau setelah pengakuisisian MySQL oleh Oracle. Termasuk saya tentunya, bagaimana dengan anda ?

OLTP adalah singkatan dari On-line Transaction Processing. Menurut Wikipedia,

Online transaction processing, or OLTP, is a class of information systems that facilitate and manage transaction-oriented applications, typically for data entry and retrieval transaction processing. The term is somewhat ambiguous; some understand a “transaction” in the context of computer or database transactions, while others (such as the Transaction Processing Performance Council) define it in terms of business or commercial transactions.^[1] OLTP has also been used to refer to processing in which the system responds immediately to user requests. An automatic teller machine (ATM) for a bank is an example of a commercial transaction processing application.

Jadi, OLTP adalah sistem informasi yang berbasis transaksi. Transaksi dalam konteks Applikasi OLTP adalah satu proses transaksi atau satu cyle, ada awal ada akhir. Proses transaksi di dalam applikasi sendiri bervariasi jenisnya,  antara lain :

• Proses penyimpanan 1 form, contoh 1 Purchase Order, 1 Sales Order, 1 Material Incoming dan lain lain
• Proses End of Month, contoh proses akhir bulan Accounting, akhir bulan Banking, dan lain lain

Sekarang  bucardo sudah berjalan dengan lancar. Kadang kala kita perlu mengatur object postgresql di dalam bucardo sync. Object ini adalah table dan sequence. Kedua object ini dapat kita tambahkan atau kita hapus.

Contoh yang saya miliki adalah sebagai berikut :

• Table A, ingin saya replikasi dari db1 ke db2, tetapi tidak untuk db3.
• Sequence B, ingin saya replikasi dari db1 ke db3, tetapi tidak untuk db2.

Berikut langkah langkah untuk menambah suatu object ke dalam sync :

• stop bucardo
• bucardo add table schema.nama_table herd=my_herd
• bucardo add sequence schema.nama_sequence herd=my_herd
• bucardo validate sync my_sync
• start bucardo

Dan untuk menghapus, langkah langkah nya sebagai berikut :

• stop bucardo
• bucardo remove table schema.nama_table
• bucardo remove sequence schema.nama_sequence
• bucardo validate sync my_sync
• start bucardo

Jika setelah menghapus suatu object, kita menemukan pesan errod di dalam file log, seperti ini :

“(23143) [Mon Dec 3 13:18:24 2012] VAC Warning! VAC was killed at line 6486: DBD::Pg::st pg_result failed: ERROR: relation “bucardo.delta_265672″ does not exist”

artinya ada object postgresql yang secara fisik sudah tidak ada di postgresql tetapi masih terdaftar di dalam sistem bucardo. Mengapa ini dapat terjadi ? bucardo yang kita pakai bukan versi stabil, masih versi beta atau alpha. Tenang saja, kita bisa memperbaikinya kan.

Untuk membetulkannya:

• bucardo stop
• login ke db1
• cek melalui perintah
  • select * from pg_class where oid = 265672
• jika tidak ada hasilnya, berarti object memang tidak ada.
• delete from bucardo.bucardo_delta_targets where tablename = 265672
• if no result…. ulang step ke db yang lainnya  ..dan seterusnya
• bucardo start

Bagaimana pengalaman anda dengan bucardo ? mohon infonya.

Yup betul. Pagi ini saya mendapati server bucardo saya mati. Hardware error. Saya coba restart server, selalu terhenti dengan pesan kesalahan ada pada perangkat keras. Sedikit panik sih, tetapi harus tetap tenang.  Saya hitung pilihan yang saya punya.

• 1 Mesin DB slave
• Tidak ada backup database bucardo
• Server DB Master dan Server DB Slave masih berfungsi.

Pilihan yang ada adalah install bucardo di mesin DB Slave, dan register ulang semua tabel yang akan di replikasi. Seharusnya proses registrasi ulang ini dapat di hindari, tetapi karena saya tidak punya backup database bucardo, jadi harus registrasi ulang. Kalau ini berjalan, saya harus ikutkan database bucardo dalam skema backup saya.

Ada sedikit kekhawatiran dalam hati, jangan jangan bucardo nya tidak mau replikasi karena saya install database bucardo yang baru. Dalam hati berharap semoga bucardo nya tetap dapat melakukan replikasi.

So, setelah install ulang bucardo di mesin DB Slave, registrasi ulang, maka sekarang saatnya untuk start bucardo. Sambil berharap harap cemas, saya start bucardo dan tail -f log.bucardo.

Ternyata berjalan normal, tanpa kurang suatu apapun. L E G A.

Bagaimana dengan teman teman, ada memiliki pengalaman seperti ini ?

Teman teman pasti tahu tentang instagram.  Instagram adalah website social networking dan berbagi photo secara online. User dapat meng-upload foto dan membagikannya ke teman teman yang lainnya. Foto yang di upload, dapat juga di modifikasi dengan penggunaan filter. Banyak sekali filter yang dimilikinya. Instagram sangat populer, mereka mengklaim sudah mendapatkan 100 juta pengguna pada february 2013.

Instagram menggunakan database PostgreSQL sebagai database backend mereka dan framework Django sebagai framework applikasi mereka. Instagram juga memiliki beberapa server postgresql yang bekerja secara shared. Saya masih tidak paham apakah mereka menggunakan clustering atau replication, selengkapnya dapat teman teman baca disini.

Nah, team engineering instagram membagikan 5 tips Postgresql yang sangat membantu database mereka :

• Partial Indexes
  • Partial index ini adalah index yang dibuat berdasarkan karakteristik query yang kita buat. Dan dalam proses pencariannya memakan waktu yang lama. Karakteristiknya juga selalu tetap dan tidak pernah berubah.
  • Contoh karakteristik query selalu memakai where item_name ilike ‘software%’.
  • Maka partial indexnya adalah … Create Index idx1 on mytable where item_name ilike ‘software%’;
  • Saya sendiri belum pernah memakai partial index ini, karena karakteristik query saya lebih banyak memakai ‘%software%’ dibandingkan dengan ‘software%’; Jadi walaupun saya pakai partial index untuk kolom tersebut, tetap saja tidak akan terpakai indexnya, mengapa ? karena saya memakai  ilike ‘%…%’, yang mana akan melakukan pencarian sequential dari awal tabel hingga akhir tabel.
• Functional Indexes
  • Index yang dibuat dengan menggunakan fungsi, contohnya substr, lower, upper, concatenate dan seterusnya.
  • Karakter query yang di pergunakan juga bersifat tetap dan tidak pernah berubah.
  • Contoh karakter query yang selalu memakai where … substr(item_name, 0, 8 ) = ‘software’
  • Maka functional indexnya adalah … Create index idx1 on mytable (substr(item_name,0,8))
  • Saya sendiri jarang memakai functional index, saya pernah pakai untuk concatenate, penggabungan dua kolom.
• pg_reorg For Compaction
  • Seperti yang pernah saya tulis, database postgresql juga pasti akan mengalami fragmentasi suatu saat nanti, demikian juga database postgresql yang dipakai di instagram.
  • Team instagram memakai pg_reorg untuk melakukan defrag.
  • Saya sendiri masih memakai cara manual, tetapi prinsipnya sama dengan yang dipakai pg_reorg, yakni dengan metode CTAS.
• WAL-E for WAL archiving and backups
  • WAL-E adalah program untuk membackup file postgresql WAL archive file yang dapat melakukan archive secara terus menerus.
  • Saya sendiri belum pernah menggunakannya. Karena karakteristik backup saya beda.
• Autocommit mode and async mode in psycopg2
  • Tips ini dipergunakan jika kita menggunakan psycopg2.
  • Saya tidak memakai psycopg2, jadi belum bisa berkomentar.

Berdasarkan tips tips tersebut, team instagram mampu membuat PostgreSQL mereka melaju dengan sangat cepat. Secepat apa ? terus terang saya juga tidak tahu. Yang pasti, tips seperti partial index dan functional index itu sangat membantu sekali, walaupun saya belum pernah menggunakannya. Tetapi dari simulasi yang saya lakukan, hasilnya memang menggembirakan.

Bagaimana pendapat teman teman ?

Woa, apa tidak salah itu ? Menurut pengalaman saya, tidak, itu benar adanya. Tetapi setiap orang pasti memiliki pendapat masing masing. Jadi pendapat saya ini pun bisa di sanggah juga.

Mari kita lihat apa tujuan backup tersebut. Menurut Wikipedia, Backup adalah “ a backup, or the process of backing up, refers to the copying and archiving of computer data so it may be used to restore the original after a data loss event.”.

Jadi backup adalah proses untuk menduplikasi data dan menyimpannya sehingga data tersebut dapat dipergunakan untuk proses restore atau mengembalikan data setelah terjadinya kejadian kehilangan data.

Proses kehilangan data dapat disebabkan oleh berbagai hal, antara lain :

• Kesalahan Manusia (Human Error)
  • salah delete data
  • pencurian
• Kegagalan Perangkat Keras (Hardware Failure)
  • komputer rusak
  • kontroller media penyimpanan rusak
• Kejadian Alam ( Catastropic Damage)
  • banjir
  • puting beliung
  • gempa bumi
• Virus Komputer (Computer Virus)
• Kesalahan Perangkat Lunak (Software Bugs)
• dan sebagainya.

Sistem RAID tidak dapat menangani semua penyebab kehilangan data, hanya sebagian kecil dari bagian kegagalan perangkat keras saja. Sehingga RAID tidak seharusnya dipergunakan untuk BACKUP DATA.

RAID adalah teknologi yang dirancang untuk meningkatkan performa media penyimpanan dengan cara menggabungkan beberapa media penyimpanan dalan satu unit yang besar. RAID sekarang adalah teknologi yang murah dan mudah di dapat. RAID arti lengkapnya adalah Redundant Array of Independent Disks. Kata kata Redundant inilah yang sering disalah artikan sebagai BACKUP.

Jadi BACKUP lebih luas artinya daripada RAID. Saya tetap memerlukan RAID, tetapi RAID bukan untuk BACKUP.

Ini tulisan pertama saya di tahun 2013.  Semoga di tahun ini saya bisa menghasilkan lebih banyak tulisan lagi.

Blog ini sudah berumur 2 tahun dengan hanya memiliki 49 tulisan. Sangat tidak produktif. Hal ini dikarenakan artikel yang saya buat harus berdasarkan pengalaman sehari hari. Pengalaman pengalaman itulah yang saya tuangkan dalam bentuk tulisan.

Sebenarnya ada banyak hal yang dapat diubah kedalam bentuk artikel, tetapi karena kesibukan dan terbatasnya waktu, seringkali hanya berupa draft saja. Ini bukan pembelaan diri, tetapi begitu lah adanya. Oleh karena itu harapan di tahun 2013 ini adalah mengeluarkan lebih banyak artikel.

Anyway, selamat tahun 2013 buat semua teman teman. Kalau ada permintaan artikel yang ingin di bahas, jangan segan segan kirim email ke saya.

Setelah memakai Bucardo sekaian lama, saya memiliki kebutuhan untuk merubah struktur tabel. Menambah kolom, merubah tipe data, melebarkan kolom, atau menambah constraint. Proses ini harus dilakukan dengan kondisi tidak ada proses replikasi yang sedang berjalan atau dengan kata lain Bucardo harus berhenti.

Berikut adalah langkah langkah merubah struktur tabel :

• Matikan Bucardo
  • bucardo stop
• Ubah stuktur tabel di semua lokasi
  • psql -h 192.168.0.2 -U postgres
  • alter table my_table add column ….
  • alter table add constraint my_constraint …
  • Ulangi hingga semua lokasi memiliki struktur table yang sama
• Jalankan Bucardo kembali
  • Bucardo Start

Setelah itu kita hanya perlu memonitor file log.bucardo, jikalau tidak ada error berarti proses perubahan struktur tabel berhasil dilakukan. Silahkan mencoba.

Beberapa waktu yang lalu, saya memutuskan untuk menambahkan 1 server lagi kedalam replikasi master to master yang saya pergunakan. Saya memakai Bucardo untuk menangani replikasi master to master. Performancenya cukup memuaskan saya. Nah saat ini saya merasa perlu untuk menambah 1 server lagi untuk membagi beban kerja di server.

Pada awalnya tujuan memakai 2 server hanya untuk keperluan berbagi beban server dan backup di dalam 1 lokasi gedung, ternyata diperjalanannya untuk lokasi kota yang lain perlu juga di bagi beban servernya dan backup jika sewaktu waktu jaringan antar kota terputus, sehingga tidak akan mengganggu transaksi lokal. Untuk instalasi awal replikasi master to master dengan bucardo dapat anda baca disini.

Informasi :

• db1 memiliki ip address 192.16.0.1
• db2 memiliki ip address 192.16.0.2
• db1 dan db2 berada dalam 1 gedung
• db3 memiliki ip address 192.16.1.3
• db3 berada di kota yang berbeda

Nah berikut adalah langkah langkah untuk menambahkan Server Database db3  ke dalam replikasi :

• Login ke Server Bucardo dan stop replikasinya.
  • bucardo stop
• Login ke Server Applikasi dan stop semua applikasi yang terkoneksi ke Server Database
• Login ke Server Database ke 1 , backup dan kirim Server Database ke 3
  • pg_dump -h 127.0.0.1 -U postgres my_database > my_database.dmp
  • scp my_database.dmp root@192.16.1.3:/root
• Login ke Server Database ke 3, buat database baru, dan restore database backupnya
  • psql -h 127.0.0.1 -U postgres -c “create database my_database; ” template1
  • psql -h 127.0.0.1 -U postgres -d my_database < my_database.dmp
• Login ke Server Bucardo, daftarkan Server Database ke 3, dan syncronize ulang
  • bucardo add db db3 dbname=eis dbhost=192.16.1.3 dbuser=postgres dbpass=password
  • bucardo remove sync db_sync
  • bucardo remove dbgroup db_group
  • bucardo add dbgroup db1:source db2:source db3:source
  • bucardo add sync db_sync herd=db_herd dbs=db_group
  • bucardo start
• Kemudian check log.bucardo, kita akan menemukan pesan kesalahan seperti ini :
  • “(23143) [Mon Dec 3 13:18:24 2012] VAC Warning! VAC was killed at line 6486: DBD::Pg::st pg_result failed: ERROR: relation “bucardo.delta_265672? does not exist”
  • Tenang, pesan kesalahan ini terjadi karena kita melakukan restore database beserta object object bucardo dari server asal.
  • Setelah kita restore database dan kemudian bucardo kita start, maka bucardo akan melakukan proses sinkronisasi objectnya. Karena kita melakukan restore, tentu saja object id atau OID dari object table di server yang baru akan berbeda dengan object id dari server yang lama. Oleh karena itu, bucardo akan mendaftarkan ulang object table di server yang baru, sehingga kita harus menghapus object id yang lama secara manual.
  • Mari kita periksa table bucardo_delta_targets, disinilah object table di daftarkan.
    • select * from bucardo.bucardo_delta_targets;
  • Kita akan mendapati, daftar table dengan perbedaan di tanggal registrasi, di kolom cdate. Yang perlu kita lakukan adalah menghapus semua table yang memiliki tanggal cdate tidak sama dengan saat ini atau saat prosess restore.
    • delete from bucardo.bucardo_delta_targets where to_char(cdate,’dd/mm/yyyy’) <> to_char(now(),’dd/mm/yyyy’);
  • Setelah itu periksa kembali file log.bucardo, seharusnya pesan kesalahan sudah tidak muncul lagi.
• Done

Nah, sekarang kita memiliki 3 server di dalam replikasi master to master kita, db1 dan db2 dalam 1 gedung, db3 berada di kota yang lain. Dengan cara ini, apabila terjadi putusnya jaringan antar kota, maka user di kota yang lain tetap dapat menjalankan applikasi. Dan pada saat jaringan tersambung kembali maka bucardo akan melakukan sinkronisasi data kembali. Bagaimana pendapat anda ?

Saya memakai software project management bernama Redmine. Redmine adalah software gratis dan open source, project management dan bug tracking software berbasis web, Fiturnya termasuk kalender , Gantt-Chart dan menangani banyak project secara bersamaan.

Redmine yang saya pakai adalah versi 0.7.3, dan akan saya upgrade ke version 1.3.2 di mesin Ubuntu 12.04. Berikut adalah langkah langkah yang saya lakukan untuk melakukan upgrade.

Langkah di server lama adalah sebagai berikut :