Membangun Mail Server Dengan Mailu – Docker

Panduan ini membahas cara praktis membuat mail server menggunakan Mailu, sebuah solusi modular berbasis Docker. Dengan Mailu, kamu bisa langsung menjalankan layanan email lengkap seperti SMTP, IMAP, Webmail, Antivirus, dan Antispam tanpa harus mengonfigurasi setiap komponen secara manual.

Pre Install

Pointing Domain

Silakan buat domain record/pointing

Karena saya ingin mengakses Mailu Web dari domain mail.warscloud.net dan webmail.warscloud.net jadi saya menambahkan 2 record A, sesuaikan tergantung kebutuhan.

warscloud.net MX mail.warscloud.net

mail.warscloud.net A 103.103.103.103

webmail.warscloud.net A 103.103.103.103

Untuk reverse domain silakan set PTR seperti contoh berikut

103.103.103.103.in-addr.arpa PTR mail.warscloud.net

Untuk PTR record ini silakan request/set di penyedia VPS, ISP, atau jika IP milik sendiri silakan minta untuk delegasi Reverse Domain ke RIR/LIR dimana kamu mendapatkan alokasi IP tersebut seperti IDNIC, APNIC, RIPE, atau ARIN

Install Docker Engine

Untuk cara install docker engine bisa dilihat dibawah ini

Instalasi dan Konfigurasi Mailu

Kunjungi halaman berikut untuk melakukan setup file docker-compose

https://setup.mailu.io/2024.06

Setup seperti dibawah ini

Pada version, silakan pilih version yang ingin digunakan

Keterangan:

Main mail domain and server display name: ini adalah domain utama yang akan menjadi domain setelah @ contoh: [email protected]

Outgoing message rate limit (per user): ini adalah batasan pengiriman email per hari/per user

Website name: Nantinya di halaman webmail akan ada navigasi, dan nama inilah yang akan muncul

Linked Website URL: Ketika nama Website yang didefinisikan diatas di klik akan menuju link ini

Pada step 2 ini, saya memilih beberapa fitur dasar

Keterangan:

IPv4 listen address: Silakan isi sesuai dengan IP yang digunakan

Public hostnames: ini adalah daftar hostname yang nantinya akan digunakan dan akan dilakukan generate SSL oleh letsencrypt

Pastikan daftar domain yang di isikan di bagian Public hostnames sudah ada A record nya, karena dibutuhkan pada saat pertama kali run untuk request SSL letsencrypt.
Semua yang telah di definisikan diatas bisa diubah jika diperlukan di file /mailu/mailu.env

Jika sudah klik Setup Mailu

Selanjutnya akan muncul summary dan diberikan petunjuk langkah selanjutnya seperti berikut

Silakan ikuti tutorial tersebut

Atau, disini saya akan menjalakan dan menjelaskan step nya

Buat directory untuk menyimpan data-data mailu

mkdir /mailu

Pindah ke directory /mailu dan ambil file docker-compose.yml dan mailu.env

cd /mailu
wget https://setup.mailu.io/2024.06/file/xxx-xxx-xxxx/docker-compose.yml
wget https://setup.mailu.io/2024.06/file/xxx-xxx-xxxx/mailu.env

Pindah ke Directory /mailu dan jalankan service docker container

cd /mailu
docker compose -p mailu up -d

Setelah semua service/container berjalan, buat password user admin untuk login ke mailu web

docker compose -p mailu exec admin flask mailu admin admin warscloud.net PASSWORD

Lalu akses web mailu menggunakan domain yang kita definisikan di Public hostnames

Tampilan awal mailu

Post Installation

Setup SPF, DKIM, DMARC

Silakan navigasi ke menu Mail Domains, lalu klik icon Details

Silakan set domain record seperti di atas, sesuaikan.
Jika domain di simpan di Cloudflare kita bisa Download zonefile lalu import, dengan ini kita tidak perlu satu-persatu menambahkan record manual

Selanjutnya silakan klik Generate keys dibagian pojok kanan atas untuk melakukan konfigurasi DKIM

Jika muncul konfirmasi klik Confirm

Lalu akan muncul panduan record yang lebih lengkap seperti DKIM dan DMARC, lakukan langkah yang sama. tambahkan record secara manual atau download zonefile lalu import ke cloudflare

Instalasi dan konfigurasi Mailu sudah selesai, silakan lakukan test pengiriman internal antar internal domain dan ke ekternal domain seperti Gmail, Yahoo, Dll.

Troubleshoot

Mengatasi too many redirect pada saat login ke Webmail

Stop service

cd /mailu
docker compose down

Edit file /mailu/mailu.env

nano /mailu/mailu.env

Ubah baris

# Path to redirect / to
WEBROOT_REDIRECT=/webmail

Menjadi

# Path to redirect / to
WEBROOT_REDIRECT=/admin

Pengembangan Lebih Lanjut (Opsional)

Mencegah User Tertentu Mengirim Email

Pembatasan pengiriman email bagi sebagian pengguna diterapkan sebagai langkah preventif untuk meningkatkan keamanan sistem. Hal ini dilakukan karena tidak semua anggota atau karyawan memiliki pemahaman yang memadai tentang keamanan siber, khususnya terkait ancaman seperti phishing dan penyalahgunaan akun. Tanpa pembatasan, akun yang tidak diawasi dengan baik dapat dimanfaatkan untuk mengirim spam atau menjadi sumber serangan siber, yang dapat merusak reputasi domain dan membahayakan infrastruktur email perusahaan. Oleh karena itu, akun tertentu hanya diizinkan menerima email, bukan mengirim.

Secara default postfix memperbolehkan semua user bisa mengirim email.

Opsi 1: List user di definisikan berdasarkan list non regex (lmdb)

Buat file override postfix.cf

nano /mailu/overrides/postfix/postfix.cf

Masukkan baris berikut

smtpd_sender_restrictions = check_sender_access lmdb:/overrides/sender_access

Buat file sender_access

nano /mailu/overrides/postfix/sender_access

Masukkan list user yang akan dilakukan pembatasan pengiriman email dengan format seperti berikut

[email protected]        REJECT
[email protected]        REJECT

Terakahir restart, Lakukan docker-compose down & up

cd /mailu
docker compose down && docker compose -p mailu up -d

Opsi 2: List user di definisikan berdasarkan list regex

Buat file override postfix.cf

nano /mailu/overrides/postfix/postfix.cf

Masukkan baris berikut

smtpd_sender_restrictions = check_sender_access regexp:/overrides/sender_access.regex

Buat file sender_access.regex

nano /mailu/overrides/postfix/sender_access.regex

Masukkan list user yang ingin di izinkan dan di tolak dengan format regex.
Contoh dibawah ini saya ingin mengizinkan [email protected] mengirim email, dan user lainnya dengan @domain.com tidak saya izinkan mengirim email

/^usersuper@domain\.com$/    OK
/@domain\.com$/              REJECT

Urutan eksekusi list user dimulai dari atas, jika ada rule yang lebih spesifik tempatkan di awal baris

Auto blacklist

Ubah docker compose

sudo nano /mailu/docker-compose.yml 

Ubah bagian berikut:

  smtp:
    image: ${DOCKER_ORG:-ghcr.io/mailu}/${DOCKER_PREFIX:-}postfix:${MAILU_VERSION:-2024.06}
    restart: always
    env_file: mailu.env
    logging:
      driver: journald
      options:
        tag: mailu-smtp
    volumes:
      - "/mailu/mailqueue:/queue"
      - "/mailu/overrides/postfix:/overrides:ro"
    depends_on:
      - front
      - resolver
    dns:
      - 192.168.203.254

Menjadi seperti berikut:

  smtp:
    image: ${DOCKER_ORG:-ghcr.io/mailu}/${DOCKER_PREFIX:-}postfix:${MAILU_VERSION:-2024.06}
    restart: always
    env_file: mailu.env
    logging:
      driver: journald
      options:
        tag: mailu-smtp
    volumes:
      - "/mailu/mailqueue:/queue"
      - "/mailu/overrides/postfix:/overrides:rw"
    depends_on:
      - front
      - resolver
    dns:
      - 192.168.203.254

Simpan file, lalu terapkan perubahan dengan melakukan re-create container:

cd /mailu
docker compose down && docker compose up -d

Kita perlu memberi tahu Postfix untuk melakukan pengecekan terhadap daftar blacklist setiap kali ada email keluar.
Edit file /mailu/overrides/postfix/postfix.cf

sudo nano /mailu/overrides/postfix/postfix.cf

Tambahkan baris berikut (letakkan deklarasi lmdb di paling depan jika Anda menggabungkannya dengan file manual regexp lain dengan pemisah koma):

smtpd_recipient_restrictions = check_recipient_access lmdb:/overrides/bounce_blacklist_auto

Buat file teks kosong yang akan bertindak sebagai tempat penampungan alamat blacklist, lalu inisialisasi awal (compile) menjadi database biner .lmdb

touch /mailu/overrides/postfix/bounce_blacklist_auto
docker exec -it mailu-smtp-1 postmap /overrides/bounce_blacklist_auto
docker exec -it mailu-smtp-1 postfix reload

Buat sebuah script bash yang akan berjalan di background untuk memonitor log container SMTP. Script ini akan mendeteksi kode error 5.1.1 (alamat tidak ada) dan 5.4.4 (domain tidak ada), lalu langsung menyuntikkannya ke file blacklist.

nano /usr/local/bin/mailu-bounce-automator.sh

Masukkan baris berikut:

#!/bin/bash
# Script Daemon: Auto-Blacklist Bounced Email (User Unknown & NXDOMAIN)

# Path diletakkan sesuai volume mount host
BLACKLIST_FILE="/mailu/overrides/postfix/bounce_blacklist_auto"
# Nama container SMTP Mailu Anda
CONTAINER_NAME="mailu-smtp-1"

echo "[$(date)] Memulai Mailu Bounce Automator Daemon..."

# Memantau log secara real-time untuk error spesifik (5.1.1 dan 5.4.4)
docker logs -n 0 -f "$CONTAINER_NAME" 2>&1 | grep -i --line-buffered -E "postfix/smtp.*status=bounced.*(user unknown|no such user|not found|5\.1\.1|address rejected|host or domain name not found|5\.4\.4)" | while read -r line; do

    # Mengekstrak alamat email yang gagal dikirimi pesan
    EMAIL=$(echo "$line" | grep -oP 'to=<\K[^>]+')

    if [ -n "$EMAIL" ]; then
        # Mengecek agar tidak terjadi entri ganda di dalam file
        if ! grep -q "^$EMAIL[[:space:]]" "$BLACKLIST_FILE"; then
            echo "[$(date)] Mendeteksi Invalid Destination: $EMAIL. Menambahkan ke blacklist..."

            # Menulis ke dalam file daftar hitam dengan aksi REJECT
            echo "$EMAIL REJECT 5.1.1 Alamat email atau domain tujuan tidak tersedia (Auto-Blacklist)." >> "$BLACKLIST_FILE"

            # Re-compile hash map LMDB langsung dari dalam container secara live
            docker exec "$CONTAINER_NAME" postmap /overrides/bounce_blacklist_auto

            # Memaksa Postfix membaca ulang database ke memori (Tanpa restart container)
            docker exec "$CONTAINER_NAME" postfix reload

            echo "[$(date)] Hash map Postfix berhasil diperbarui untuk $EMAIL."
        fi
    fi
done

Ubah hak akses file agar dapat dieksekusi (executable):

chmod +x /usr/local/bin/mailu-bounce-automator.sh

Agar script di atas dapat berjalan terus-menerus tanpa henti dan otomatis menyala ketika server mengalami restart (reboot), kita menjadikannya sebagai sebuah service di sistem operasi.

Buat file service baru:

nano /etc/systemd/system/mailu-bounce-automator.service

Masukkan konfigurasi berikut:

[Unit]
Description=Mailu Bounced Email Auto-Blacklist Daemon
After=docker.service
Requires=docker.service

[Service]
Type=simple
ExecStart=/usr/local/bin/mailu-bounce-automator.sh
Restart=always
RestartSec=10
SyslogIdentifier=mailu-bounce-automator

[Install]
WantedBy=multi-user.target

Muat ulang (reload) sistem daemon, lalu aktifkan dan jalankan service tersebut:

systemctl daemon-reload
systemctl enable --now mailu-bounce-automator

Sistem automasi sudah selesai dan berjalan. Untuk memantau aktivitas sistem, mendeteksi jika ada email baru yang diblokir, atau melihat status layanan, Anda cukup menggunakan utilitas bawaan Linux:
Melihat status service:

systemctl status mailu-bounce-automator

Melihat log secara real-time:

journalctl -u mailu-bounce-automator -f

Maintenance & Adminisrasi

Melihat email yang masih dalam antrian, keterangannya, beserta ID nya

Silakan exec ke container mailu-smtp ‘docker exec -it mailu-smtp-1 bash‘, lalu ketikkan perintah berikut:

mailq

Menghapus email tertentu yang masih dalam antrian:

postsuper -d QUEUE_ID

Menhapus semua email yang ada di antrian:

postsuper -d ALL

Hentika sementara pengiriman (stop postfix)

postfix stop

Ketika setelah dilakukan stop akan keluar dari exec container, untuk menjalankan kembali silakan exec kembali kedalam container

Jalankan kembali pengiriman (start postfix)

postfix start

Paksa kirim ulang email dengan domain tertentu yang masih dalam antrian

postqueue -f domain.com

Paksa kirim ulang semua email yang masih dalam antrian

postqueue -f

Melihat email yang gagal terkirim

docker logs mailu-postfix | grep deferred

Melihat email yang berhasil terkirim:

docker logs mailu-postfix | grep status=sent

Melihat bounce email

docker logs mailu-postfix | grep bounced

Troubleshoot

Mengatasi ketika melihat compose logs terdapat error terkait DNS/domain seperti berikut

admin-1  | CRITICAL:root:Your DNS resolver at 127.0.0.11 is not working (All nameservers failed to answer the query example.org. IN A: Server Do53:127.0.0.11@53 answered SERVFAIL). Please see https://mailu.io/master/faq.html#the-admin-container-won-t-start-and-its-log-says-critical-your-dns-resolver-isn-t-doing-dnssec-validation
admin-1  | CRITICAL:root:Your DNS resolver at 127.0.0.11 is not working (All nameservers failed to answer the query example.org. IN A: Server Do53:127.0.0.11@53 answered SERVFAIL). Please see https://mailu.io/master/faq.html#the-admin-container-won-t-start-and-its-log-says-critical-your-dns-resolver-isn-t-doing-dnssec-validation
admin-1  | CRITICAL:root:Your DNS resolver at 127.0.0.11 is not working (All nameservers failed to answer the query example.org. IN A: Server Do53:127.0.0.11@53 answered SERVFAIL). Please see https://mailu.io/master/faq.html#the-admin-container-won-t-start-and-its-log-says-critical-your-dns-resolver-isn-t-doing-dnssec-validation
admin-1  | CRITICAL:root:Your DNS resolver at 127.0.0.11 is not working (All nameservers failed to answer the query example.org. IN A: Server Do53:127.0.0.11@53 answered SERVFAIL). Please see https://mailu.io/master/faq.html#the-admin-container-won-t-start-and-its-log-says-critical-your-dns-resolver-isn-t-doing-dnssec-validation
admin-1  | CRITICAL:root:Your DNS resolver at 127.0.0.11 is not working (All nameservers failed to answer the query example.org. IN A: Server Do53:127.0.0.11@53 answered SERVFAIL). Please see https://mailu.io/master/faq.html#the-admin-container-won-t-start-and-its-log-says-critical-your-dns-resolver-isn-t-doing-dnssec-validation
admin-1  | CRITICAL:root:Your DNS resolver at 127.0.0.11 is not working (All nameservers failed to answer the query example.org. IN A: Server Do53:127.0.0.11@53 answered SERVFAIL). Please see https://mailu.io/master/faq.html#the-admin-container-won-t-start-and-its-log-says-critical-your-dns-resolver-isn-t-doing-dnssec-validation
admin-1  | CRITICAL:root:Your DNS resolver at 127.0.0.11 is not working (All nameservers failed to answer the query example.org. IN A: Server Do53:127.0.0.11@53 answered SERVFAIL). Please see https://mailu.io/master/faq.html#the-admin-container-won-t-start-and-its-log-says-critical-your-dns-resolver-isn-t-doing-dnssec-validation
admin-1  | CRITICAL:root:Your DNS resolver at 127.0.0.11 is not working (All nameservers failed to answer the query example.org. IN A: Server Do53:127.0.0.11@53 answered SERVFAIL). Please see https://mailu.io/master/faq.html#the-admin-container-won-t-start-and-its-log-says-critical-your-dns-resolver-isn-t-doing-dnssec-validation
admin-1  | CRITICAL:root:Your DNS resolver at 127.0.0.11 is not working (All nameservers failed to answer the query example.org. IN A: Server Do53:127.0.0.11@53 answered SERVFAIL). Please see https://mailu.io/master/faq.html#the-admin-container-won-t-start-and-its-log-says-critical-your-dns-resolver-isn-t-doing-dnssec-validation

Lakukan pull image terbaru agar menggunakan image terbaru dan buat ulang

docker compose pull && docker compose up -d

Sumber & referensi:

https://mailu.io

https://youtu.be/ScarlmgD0dU?si=cqBGw1ugkAzj1WM3