Panduan ini membahas cara praktis membuat mail server menggunakan Mailu, sebuah solusi modular berbasis Docker. Dengan Mailu, kamu bisa langsung menjalankan layanan email lengkap seperti SMTP, IMAP, Webmail, Antivirus, dan Antispam tanpa harus mengonfigurasi setiap komponen secara manual.
Pre Install
Pointing Domain
Silakan buat domain record/pointing
Karena saya ingin mengakses Mailu Web dari domain mail.warscloud.net dan webmail.warscloud.net jadi saya menambahkan 2 record A, sesuaikan tergantung kebutuhan.
warscloud.net MX mail.warscloud.net
mail.warscloud.net A 103.103.103.103
webmail.warscloud.net A 103.103.103.103
Untuk reverse domain silakan set PTR seperti contoh berikut
103.103.103.103.in-addr.arpa PTR mail.warscloud.net
Untuk PTR record ini silakan request/set di penyedia VPS, ISP, atau jika IP milik sendiri silakan minta untuk delegasi Reverse Domain ke RIR/LIR dimana kamu mendapatkan alokasi IP tersebut seperti IDNIC, APNIC, RIPE, atau ARIN
Install Docker Engine
Untuk cara install docker engine bisa dilihat dibawah ini
Instalasi dan Konfigurasi Mailu
Kunjungi halaman berikut untuk melakukan setup file docker-compose
https://setup.mailu.io/2024.06
Setup seperti dibawah ini

Pada version, silakan pilih version yang ingin digunakan

Keterangan:
Main mail domain and server display name: ini adalah domain utama yang akan menjadi domain setelah @ contoh: [email protected]
Outgoing message rate limit (per user): ini adalah batasan pengiriman email per hari/per user
Website name: Nantinya di halaman webmail akan ada navigasi, dan nama inilah yang akan muncul
Linked Website URL: Ketika nama Website yang didefinisikan diatas di klik akan menuju link ini

Pada step 2 ini, saya memilih beberapa fitur dasar

Keterangan:
IPv4 listen address: Silakan isi sesuai dengan IP yang digunakan
Public hostnames: ini adalah daftar hostname yang nantinya akan digunakan dan akan dilakukan generate SSL oleh letsencrypt
Pastikan daftar domain yang di isikan di bagian Public hostnames sudah ada A record nya, karena dibutuhkan pada saat pertama kali run untuk request SSL letsencrypt.
Semua yang telah di definisikan diatas bisa diubah jika diperlukan di file/mailu/mailu.env
Jika sudah klik Setup Mailu
Selanjutnya akan muncul summary dan diberikan petunjuk langkah selanjutnya seperti berikut

Silakan ikuti tutorial tersebut
Atau, disini saya akan menjalakan dan menjelaskan step nya
Buat directory untuk menyimpan data-data mailu
mkdir /mailu
Pindah ke directory /mailu dan ambil file docker-compose.yml dan mailu.env
cd /mailu
wget https://setup.mailu.io/2024.06/file/xxx-xxx-xxxx/docker-compose.yml
wget https://setup.mailu.io/2024.06/file/xxx-xxx-xxxx/mailu.env
Pindah ke Directory /mailu dan jalankan service docker container
cd /mailu
docker compose -p mailu up -d
Setelah semua service/container berjalan, buat password user admin untuk login ke mailu web
docker compose -p mailu exec admin flask mailu admin admin warscloud.net PASSWORD
Lalu akses web mailu menggunakan domain yang kita definisikan di Public hostnames
Tampilan awal mailu

Post Installation
Setup SPF, DKIM, DMARC
Silakan navigasi ke menu Mail Domains, lalu klik icon Details


Silakan set domain record seperti di atas, sesuaikan.
Jika domain di simpan di Cloudflare kita bisa Download zonefile lalu import, dengan ini kita tidak perlu satu-persatu menambahkan record manual
Selanjutnya silakan klik Generate keys dibagian pojok kanan atas untuk melakukan konfigurasi DKIM


Jika muncul konfirmasi klik Confirm

Lalu akan muncul panduan record yang lebih lengkap seperti DKIM dan DMARC, lakukan langkah yang sama. tambahkan record secara manual atau download zonefile lalu import ke cloudflare
Instalasi dan konfigurasi Mailu sudah selesai, silakan lakukan test pengiriman internal antar internal domain dan ke ekternal domain seperti Gmail, Yahoo, Dll.
Troubleshoot
Mengatasi too many redirect pada saat login ke Webmail

Stop service
cd /mailu
docker compose down
Edit file /mailu/mailu.env
nano /mailu/mailu.env
Ubah baris
# Path to redirect / to
WEBROOT_REDIRECT=/webmail
Menjadi
# Path to redirect / to
WEBROOT_REDIRECT=/admin
Pengembangan Lebih Lanjut (Opsional)
Mencegah User Tertentu Mengirim Email
Pembatasan pengiriman email bagi sebagian pengguna diterapkan sebagai langkah preventif untuk meningkatkan keamanan sistem. Hal ini dilakukan karena tidak semua anggota atau karyawan memiliki pemahaman yang memadai tentang keamanan siber, khususnya terkait ancaman seperti phishing dan penyalahgunaan akun. Tanpa pembatasan, akun yang tidak diawasi dengan baik dapat dimanfaatkan untuk mengirim spam atau menjadi sumber serangan siber, yang dapat merusak reputasi domain dan membahayakan infrastruktur email perusahaan. Oleh karena itu, akun tertentu hanya diizinkan menerima email, bukan mengirim.
Secara default postfix memperbolehkan semua user bisa mengirim email.
Opsi 1: List user di definisikan berdasarkan list non regex (lmdb)
Buat file override postfix.cf
nano /mailu/overrides/postfix/postfix.cf
Masukkan baris berikut
smtpd_sender_restrictions = check_sender_access lmdb:/overrides/sender_access
Buat file sender_access
nano /mailu/overrides/postfix/sender_access
Masukkan list user yang akan dilakukan pembatasan pengiriman email dengan format seperti berikut
[email protected] REJECT
[email protected] REJECT
Terakahir restart, Lakukan docker-compose down & up
cd /mailu
docker compose down && docker compose -p mailu up -d
Opsi 2: List user di definisikan berdasarkan list regex
Buat file override postfix.cf
nano /mailu/overrides/postfix/postfix.cf
Masukkan baris berikut
smtpd_sender_restrictions = check_sender_access regexp:/overrides/sender_access.regex
Buat file sender_access.regex
nano /mailu/overrides/postfix/sender_access.regex
Masukkan list user yang ingin di izinkan dan di tolak dengan format regex.
Contoh dibawah ini saya ingin mengizinkan [email protected] mengirim email, dan user lainnya dengan @domain.com tidak saya izinkan mengirim email
/^usersuper@domain\.com$/ OK
/@domain\.com$/ REJECT
Urutan eksekusi list user dimulai dari atas, jika ada rule yang lebih spesifik tempatkan di awal baris
Auto blacklist
Ubah docker compose
sudo nano /mailu/docker-compose.yml
Ubah bagian berikut:
smtp:
image: ${DOCKER_ORG:-ghcr.io/mailu}/${DOCKER_PREFIX:-}postfix:${MAILU_VERSION:-2024.06}
restart: always
env_file: mailu.env
logging:
driver: journald
options:
tag: mailu-smtp
volumes:
- "/mailu/mailqueue:/queue"
- "/mailu/overrides/postfix:/overrides:ro"
depends_on:
- front
- resolver
dns:
- 192.168.203.254
Menjadi seperti berikut:
smtp:
image: ${DOCKER_ORG:-ghcr.io/mailu}/${DOCKER_PREFIX:-}postfix:${MAILU_VERSION:-2024.06}
restart: always
env_file: mailu.env
logging:
driver: journald
options:
tag: mailu-smtp
volumes:
- "/mailu/mailqueue:/queue"
- "/mailu/overrides/postfix:/overrides:rw"
depends_on:
- front
- resolver
dns:
- 192.168.203.254
Simpan file, lalu terapkan perubahan dengan melakukan re-create container:
cd /mailu
docker compose down && docker compose up -d
Kita perlu memberi tahu Postfix untuk melakukan pengecekan terhadap daftar blacklist setiap kali ada email keluar.
Edit file /mailu/overrides/postfix/postfix.cf
sudo nano /mailu/overrides/postfix/postfix.cf
Tambahkan baris berikut (letakkan deklarasi lmdb di paling depan jika Anda menggabungkannya dengan file manual regexp lain dengan pemisah koma):
smtpd_recipient_restrictions = check_recipient_access lmdb:/overrides/bounce_blacklist_auto
Buat file teks kosong yang akan bertindak sebagai tempat penampungan alamat blacklist, lalu inisialisasi awal (compile) menjadi database biner .lmdb
touch /mailu/overrides/postfix/bounce_blacklist_auto
docker exec -it mailu-smtp-1 postmap /overrides/bounce_blacklist_auto
docker exec -it mailu-smtp-1 postfix reload
Buat sebuah script bash yang akan berjalan di background untuk memonitor log container SMTP. Script ini akan mendeteksi kode error 5.1.1 (alamat tidak ada) dan 5.4.4 (domain tidak ada), lalu langsung menyuntikkannya ke file blacklist.
nano /usr/local/bin/mailu-bounce-automator.sh
Masukkan baris berikut:
#!/bin/bash
# Script Daemon: Auto-Blacklist Bounced Email (User Unknown & NXDOMAIN)
# Path diletakkan sesuai volume mount host
BLACKLIST_FILE="/mailu/overrides/postfix/bounce_blacklist_auto"
# Nama container SMTP Mailu Anda
CONTAINER_NAME="mailu-smtp-1"
echo "[$(date)] Memulai Mailu Bounce Automator Daemon..."
# Memantau log secara real-time untuk error spesifik (5.1.1 dan 5.4.4)
docker logs -n 0 -f "$CONTAINER_NAME" 2>&1 | grep -i --line-buffered -E "postfix/smtp.*status=bounced.*(user unknown|no such user|not found|5\.1\.1|address rejected|host or domain name not found|5\.4\.4)" | while read -r line; do
# Mengekstrak alamat email yang gagal dikirimi pesan
EMAIL=$(echo "$line" | grep -oP 'to=<\K[^>]+')
if [ -n "$EMAIL" ]; then
# Mengecek agar tidak terjadi entri ganda di dalam file
if ! grep -q "^$EMAIL[[:space:]]" "$BLACKLIST_FILE"; then
echo "[$(date)] Mendeteksi Invalid Destination: $EMAIL. Menambahkan ke blacklist..."
# Menulis ke dalam file daftar hitam dengan aksi REJECT
echo "$EMAIL REJECT 5.1.1 Alamat email atau domain tujuan tidak tersedia (Auto-Blacklist)." >> "$BLACKLIST_FILE"
# Re-compile hash map LMDB langsung dari dalam container secara live
docker exec "$CONTAINER_NAME" postmap /overrides/bounce_blacklist_auto
# Memaksa Postfix membaca ulang database ke memori (Tanpa restart container)
docker exec "$CONTAINER_NAME" postfix reload
echo "[$(date)] Hash map Postfix berhasil diperbarui untuk $EMAIL."
fi
fi
done
Ubah hak akses file agar dapat dieksekusi (executable):
chmod +x /usr/local/bin/mailu-bounce-automator.sh
Agar script di atas dapat berjalan terus-menerus tanpa henti dan otomatis menyala ketika server mengalami restart (reboot), kita menjadikannya sebagai sebuah service di sistem operasi.
Buat file service baru:
nano /etc/systemd/system/mailu-bounce-automator.service
Masukkan konfigurasi berikut:
[Unit]
Description=Mailu Bounced Email Auto-Blacklist Daemon
After=docker.service
Requires=docker.service
[Service]
Type=simple
ExecStart=/usr/local/bin/mailu-bounce-automator.sh
Restart=always
RestartSec=10
SyslogIdentifier=mailu-bounce-automator
[Install]
WantedBy=multi-user.target
Muat ulang (reload) sistem daemon, lalu aktifkan dan jalankan service tersebut:
systemctl daemon-reload
systemctl enable --now mailu-bounce-automator
Sistem automasi sudah selesai dan berjalan. Untuk memantau aktivitas sistem, mendeteksi jika ada email baru yang diblokir, atau melihat status layanan, Anda cukup menggunakan utilitas bawaan Linux:
Melihat status service:
systemctl status mailu-bounce-automator
Melihat log secara real-time:
journalctl -u mailu-bounce-automator -f
Maintenance & Adminisrasi
Melihat email yang masih dalam antrian, keterangannya, beserta ID nya
Silakan exec ke container mailu-smtp ‘docker exec -it mailu-smtp-1 bash‘, lalu ketikkan perintah berikut:
mailq
Menghapus email tertentu yang masih dalam antrian:
postsuper -d QUEUE_ID
Menhapus semua email yang ada di antrian:
postsuper -d ALL
Hentika sementara pengiriman (stop postfix)
postfix stop
Ketika setelah dilakukan stop akan keluar dari exec container, untuk menjalankan kembali silakan exec kembali kedalam container
Jalankan kembali pengiriman (start postfix)
postfix start
Paksa kirim ulang email dengan domain tertentu yang masih dalam antrian
postqueue -f domain.com
Paksa kirim ulang semua email yang masih dalam antrian
postqueue -f
Melihat email yang gagal terkirim
docker logs mailu-postfix | grep deferred
Melihat email yang berhasil terkirim:
docker logs mailu-postfix | grep status=sent
Melihat bounce email
docker logs mailu-postfix | grep bounced
Troubleshoot
Mengatasi ketika melihat compose logs terdapat error terkait DNS/domain seperti berikut
admin-1 | CRITICAL:root:Your DNS resolver at 127.0.0.11 is not working (All nameservers failed to answer the query example.org. IN A: Server Do53:127.0.0.11@53 answered SERVFAIL). Please see https://mailu.io/master/faq.html#the-admin-container-won-t-start-and-its-log-says-critical-your-dns-resolver-isn-t-doing-dnssec-validation
admin-1 | CRITICAL:root:Your DNS resolver at 127.0.0.11 is not working (All nameservers failed to answer the query example.org. IN A: Server Do53:127.0.0.11@53 answered SERVFAIL). Please see https://mailu.io/master/faq.html#the-admin-container-won-t-start-and-its-log-says-critical-your-dns-resolver-isn-t-doing-dnssec-validation
admin-1 | CRITICAL:root:Your DNS resolver at 127.0.0.11 is not working (All nameservers failed to answer the query example.org. IN A: Server Do53:127.0.0.11@53 answered SERVFAIL). Please see https://mailu.io/master/faq.html#the-admin-container-won-t-start-and-its-log-says-critical-your-dns-resolver-isn-t-doing-dnssec-validation
admin-1 | CRITICAL:root:Your DNS resolver at 127.0.0.11 is not working (All nameservers failed to answer the query example.org. IN A: Server Do53:127.0.0.11@53 answered SERVFAIL). Please see https://mailu.io/master/faq.html#the-admin-container-won-t-start-and-its-log-says-critical-your-dns-resolver-isn-t-doing-dnssec-validation
admin-1 | CRITICAL:root:Your DNS resolver at 127.0.0.11 is not working (All nameservers failed to answer the query example.org. IN A: Server Do53:127.0.0.11@53 answered SERVFAIL). Please see https://mailu.io/master/faq.html#the-admin-container-won-t-start-and-its-log-says-critical-your-dns-resolver-isn-t-doing-dnssec-validation
admin-1 | CRITICAL:root:Your DNS resolver at 127.0.0.11 is not working (All nameservers failed to answer the query example.org. IN A: Server Do53:127.0.0.11@53 answered SERVFAIL). Please see https://mailu.io/master/faq.html#the-admin-container-won-t-start-and-its-log-says-critical-your-dns-resolver-isn-t-doing-dnssec-validation
admin-1 | CRITICAL:root:Your DNS resolver at 127.0.0.11 is not working (All nameservers failed to answer the query example.org. IN A: Server Do53:127.0.0.11@53 answered SERVFAIL). Please see https://mailu.io/master/faq.html#the-admin-container-won-t-start-and-its-log-says-critical-your-dns-resolver-isn-t-doing-dnssec-validation
admin-1 | CRITICAL:root:Your DNS resolver at 127.0.0.11 is not working (All nameservers failed to answer the query example.org. IN A: Server Do53:127.0.0.11@53 answered SERVFAIL). Please see https://mailu.io/master/faq.html#the-admin-container-won-t-start-and-its-log-says-critical-your-dns-resolver-isn-t-doing-dnssec-validation
admin-1 | CRITICAL:root:Your DNS resolver at 127.0.0.11 is not working (All nameservers failed to answer the query example.org. IN A: Server Do53:127.0.0.11@53 answered SERVFAIL). Please see https://mailu.io/master/faq.html#the-admin-container-won-t-start-and-its-log-says-critical-your-dns-resolver-isn-t-doing-dnssec-validation
Lakukan pull image terbaru agar menggunakan image terbaru dan buat ulang
docker compose pull && docker compose up -d
Sumber & referensi:
https://mailu.io
https://youtu.be/ScarlmgD0dU?si=cqBGw1ugkAzj1WM3