hafis.

Panduan Akses SSH: Cara Aman Masuk ke Server Linux Tanpa Password

Panduan langkah demi langkah mengamankan akses server Linux dengan beralih dari autentikasi password ke SSH Key di Windows, macOS, dan Linux.

Jika Anda sering mengelola server (VPS/VM), login menggunakan password setiap kali membuka terminal sering kali merepotkan dan rentan terhadap serangan brute-force.

Tutorial ini memandu Anda mengubah metode login ke server Linux apa pun—baik VPS, mesin virtual, Raspberry Pi, komputer kantor, maupun mesin jarak jauh lainnya—dari metode password menjadi SSH Key. Metode ini bekerja layaknya kunci digital yang jauh lebih aman dan membuat proses masuk ke server dari terminal lokal menjadi instan.

Mengapa Tidak Menggunakan Password Saja?

Secara bawaan (default), Anda sebenarnya dapat masuk ke terminal server dari laptop hanya dengan bermodalkan password. Anda cukup mengetik ssh username@IP_Server, memasukkan password yang diberikan penyedia layanan, dan koneksi pun langsung terbuka.

Namun, ada tiga alasan utama mengapa penggunaan SSH Key sangat disarankan sejak awal:

  1. Keamanan Tingkat Tinggi: Password biasa dicocokkan langsung di server, sehingga penyerang dapat mengerahkan bot untuk menebak kata sandi jutaan kali per detik dari jarak jauh (brute-force attack). Sebaliknya, SSH Key mengandalkan pasangan kunci kriptografi di mana kunci privat tersimpan aman di laptop Anda. Server hanya akan membukakan pintu bagi perangkat yang memegang kunci yang sesuai, terutama setelah login password dinonaktifkan.
  2. Kepraktisan Akses: Setelah SSH Key terpasang, Anda dapat keluar-masuk server berkali-kali secara instan tanpa perlu mengetik password berulang kali.
  3. Syarat Utama Otomatisasi: Jika nantinya Anda ingin melakukan remote development menggunakan aplikasi seperti VS Code atau menjalankan skrip otomatisasi deployment, autentikasi berbasis SSH Key merupakan prasyarat wajib.

Prasyarat

Sebelum memulai, pastikan hal-hal berikut sudah siap:

  1. Server Linux aktif beserta IP dan akun awal: Anda memiliki akses ke mesin Linux yang sedang menyala serta mengetahui alamat IP (Publik atau Lokal/LAN), username, dan akses masuk awal (password atau akses konsol/fisik).
  2. Layanan OpenSSH Server berjalan: Pada VPS cloud, layanan ini umumnya sudah aktif otomatis. Namun pada mesin lokal seperti Ubuntu Desktop atau Raspberry Pi baru, pastikan OpenSSH Server sudah terpasang (misalnya di Ubuntu/Debian dengan menjalankan sudo apt update && sudo apt install -y openssh-server di mesin tersebut).

Langkah 1: Membuat SSH Key di Komputer Lokal

Sebelum menghubungkan komputer ke server, buat terlebih dahulu pasangan kunci digital pada komputer lokal Anda. Kunci ini nantinya berfungsi sebagai identitas akses permanen.

PERINGATAN PENTING: Jika Anda sebelumnya sudah pernah membuat SSH Key di terminal komputer Anda (misalnya untuk GitHub, GitLab, atau server lain), lewati proses pembuatan kunci dan langsung menuju bagian Verifikasi dan Salin Kunci pada poin 4 di bawah. Menjalankan ulang pembuatan kunci pada lokasi default dan mengonfirmasi penimpaan (overwrite) akan merusak akses kunci lama Anda.

  1. Buka Terminal Lokal: Buka PowerShell atau Command Prompt (CMD) di Windows, atau Terminal di macOS/Linux.

  2. Jalankan Perintah Pembuatan Kunci: Jika Anda yakin belum memiliki SSH Key, buat kunci menggunakan algoritma modern Ed25519 yang lebih ringkas, cepat, dan aman dibanding RSA lawas:

    ssh-keygen -t ed25519 -C "admin"
    • Opsi -C "admin" hanyalah label komentar di bagian akhir isi berkas .pub untuk menandai pemilik atau perangkat kunci (bukan nama berkas; nama berkas default tetap id_ed25519 dan id_ed25519.pub).

    • Jika ingin memberi nama berkas khusus agar terpisah per server (dan tidak menimpa kunci yang sudah ada), tambahkan opsi -f sesuai terminal Anda (karena terminal Windows tidak menerjemahkan ~ pada ssh-keygen -f):

      • CMD Windows:

        ssh-keygen -t ed25519 -f "%USERPROFILE%\.ssh\server-proyek" -C "server-proyek"
      • PowerShell Windows:

        ssh-keygen -t ed25519 -f "$env:USERPROFILE\.ssh\server-proyek" -C "server-proyek"
      • macOS / Linux:

        ssh-keygen -t ed25519 -f ~/.ssh/server-proyek -C "server-proyek"

      Saat login nantinya, tambahkan -i sesuai lokasi kunci (atau daftarkan lewat IdentityFile di berkas config):

      • CMD Windows:

        ssh -i "%USERPROFILE%\.ssh\server-proyek" user@IP
      • PowerShell Windows:

        ssh -i "$env:USERPROFILE\.ssh\server-proyek" user@IP
      • macOS / Linux:

        ssh -i ~/.ssh/server-proyek user@IP
    • (Catatan: Gunakan perintah di bawah ini hanya jika Anda perlu terhubung ke server atau perangkat sangat lawas dengan OpenSSH di bawah versi 6.5 yang belum mendukung Ed25519:)

      ssh-keygen -t rsa -b 4096 -C "admin"
  3. Ikuti Petunjuk di Layar:

    • Saat muncul pesan Enter file in which to save the key..., tekan Enter untuk menggunakan lokasi default.
    • Saat muncul pesan Enter passphrase (empty for no passphrase)..., tekan Enter dua kali untuk mengosongkannya pada tahap awal ini.
  4. Verifikasi dan Salin Kunci Publik: Tampilkan isi kunci publik (public key) menggunakan perintah sesuai terminal yang Anda pakai. Pastikan tanda kutip ganda ditulis persis seperti contoh berikut untuk menghindari error apabila nama folder user komputer Anda mengandung spasi.

    • Windows (Command Prompt):

      type "%USERPROFILE%\.ssh\id_ed25519.pub"
    • Windows (PowerShell):

      Get-Content "$env:USERPROFILE\.ssh\id_ed25519.pub"
    • macOS / Linux:

      cat ~/.ssh/id_ed25519.pub

    (Catatan: Jika Anda menggunakan kunci lama yang dibuat sebelumnya dengan RSA, ganti id_ed25519.pub pada perintah di atas menjadi id_rsa.pub.)

    Salin (copy) seluruh satu baris teks yang tampil di layar terminal—biasanya diawali dengan ssh-ed25519 (atau ssh-rsa) dan diakhiri dengan admin atau alamat email Anda. Simpan teks tersebut karena akan ditempelkan (paste) ke dalam server pada langkah berikutnya.

Langkah 2: Menanamkan SSH Key ke Server

Agar server dapat mengenali perangkat Anda, kunci publik yang baru disalin perlu didaftarkan ke dalam server. Metode ini berlaku secara universal untuk semua distribusi Linux.

Karena komputer Anda belum memiliki akses berbasis kunci, masuklah ke server secara manual terlebih dahulu:

  1. Masuk ke server secara manual: Terdapat dua cara umum untuk melakukannya:

    • Akses fisik: Hubungkan keyboard dan monitor langsung ke mesin server, lalu login ke terminal.
    • Via Password: Buka terminal di laptop Anda, masuk menggunakan koneksi SSH biasa dengan perintah ssh username@IP_Server, lalu ketikkan password-nya.
  2. Setelah berhasil masuk ke terminal server, buat folder tersembunyi .ssh (jika belum tersedia) dengan perintah:

    mkdir -p ~/.ssh
  3. Atur izin akses folder tersebut agar hanya dapat diakses oleh pemilik akun:

    chmod 700 ~/.ssh
  4. Buka atau buat berkas authorized_keys menggunakan editor teks nano dengan opsi -w agar baris panjang tidak terpotong otomatis (line-wrap):

    nano -w ~/.ssh/authorized_keys
  5. Tempelkan kunci publik pada baris baru: Jika berkas sudah berisi kunci lama (misalnya kunci bawaan dari penyedia VPS), arahkan kursor ke baris kosong paling bawah terlebih dahulu agar tidak merusak kunci yang sudah ada. Setelah itu, tempelkan (paste) teks kunci publik Anda sebagai satu baris utuh tanpa terpecah Enter:

    • Windows / Linux Terminal: Klik kanan pada jendela terminal, atau tekan Ctrl + Shift + V / Shift + Insert.
    • macOS Terminal: Tekan Cmd + V.
  6. Simpan berkas dengan menekan Ctrl + O lalu Enter, kemudian keluar dari editor dengan menekan Ctrl + X.

  7. Terakhir, batasi izin akses berkas authorized_keys agar sesuai standar keamanan SSH:

    chmod 600 ~/.ssh/authorized_keys

Langkah 3: Menguji Akses SSH Tanpa Password

Setelah konfigurasi selesai, uji koneksi terlebih dahulu untuk memastikan perangkat Anda dapat masuk ke server dengan SSH Key.

  1. Buka terminal lokal baru di komputer Anda (Command Prompt, PowerShell, atau Terminal).

  2. Jalankan perintah SSH dengan format ssh username@IP_Server. Sebagai contoh, jika username Anda adalah ubuntu dan alamat IP server adalah 192.168.1.10:

    ssh ubuntu@192.168.1.10
  3. Tekan Enter.

  4. Konfirmasi Keamanan: Pada koneksi pertama, terminal akan menanyakan: Are you sure you want to continue connecting (yes/no/[fingerprint])?. Ketik yes lalu tekan Enter.

  5. Jika berhasil, prompt terminal akan langsung berpindah ke lingkungan Linux server (misalnya ubuntu@server-proyek:~$) tanpa meminta password sama sekali.

Langkah 4: Menonaktifkan Login Password (Sangat Disarankan)

Memasang SSH Key saja sudah memudahkan akses, tetapi serangan brute-force tetap bisa mengincar password akun Anda selama login berbasis password masih diizinkan oleh server. Untuk menutup celah tersebut, matikan autentikasi password setelah Langkah 3 dipastikan berhasil.

PERINGATAN PENTING: Pastikan Anda sudah berhasil masuk menggunakan SSH Key pada Langkah 3, dan biarkan sesi terminal SSH yang sedang terhubung tersebut tetap terbuka selama proses ini sebagai cadangan apabila terjadi kesalahan konfigurasi.

  1. Pada sesi terminal server yang masih terbuka, periksa berkas konfigurasi mana saja yang aktif mengatur autentikasi password. OpenSSH membaca berkas secara berurutan dan aturan pertama yang terbaca menang, sehingga berkas bawaan penyedia VPS (seperti 00-*.conf, 50-cloud-init.conf, atau 60-cloudimg-settings.conf di /etc/ssh/sshd_config.d/) sering menimpa pengaturan di /etc/ssh/sshd_config:

    grep -rnE "PasswordAuthentication|KbdInteractiveAuthentication" /etc/ssh/sshd_config /etc/ssh/sshd_config.d/
  2. Buka setiap berkas dari hasil perintah di atas yang memiliki baris aktif (tanpa tanda # di depan) menggunakan sudo nano—misalnya sudo nano /etc/ssh/sshd_config.d/50-cloud-init.conf atau sudo nano /etc/ssh/sshd_config—lalu ubah nilainya menjadi no:

    PasswordAuthentication no
    KbdInteractiveAuthentication no

    (Simpan perubahan dengan Ctrl + O, Enter, lalu keluar dengan Ctrl + X. Jika Anda login sebagai root, pastikan baris PermitRootLogin tetap yes atau prohibit-password agar akses SSH Key untuk root tetap diizinkan.)

  3. Validasi sintaks konfigurasi SSH sebelum menerapkan perubahan:

    sudo sshd -t

    Pastikan perintah di atas selesai tanpa pesan error.

  4. Muat ulang layanan SSH agar konfigurasi baru aktif:

    sudo systemctl restart ssh

    (Pada distro berbasis RHEL, CentOS, AlmaLinux, atau Rocky Linux, nama layanannya adalah sshd, sehingga perintahnya sudo systemctl restart sshd.)

  5. Periksa pengaturan efektif yang aktif di server untuk memastikan password login benar-benar nonaktif:

    sudo sshd -T | grep -E "passwordauthentication|kbdinteractiveauthentication"

    Pastikan keduanya menghasilkan nilai no.

  6. Uji ulang dari jendela terminal lokal yang baru (tanpa menutup sesi cadangan) dengan perintah ssh username@IP_Server. Setelah yakin masih bisa masuk lancar memakai SSH Key, barulah Anda dapat menutup kedua sesi dengan mengetik:

    exit

Penutup

Dengan memasang SSH Key dan menonaktifkan autentikasi password, akses ke server Linux Anda kini jauh lebih tahan terhadap serangan brute-force sekaligus tetap praktis untuk penggunaan harian dan alur kerja otomatisasi.

Untuk langkah berikutnya—mulai dari melindungi private key dengan passphrase, membuat shortcut di berkas config, hingga menghubungkan server ke VS Code—lanjutkan ke Tips Lanjutan SSH: Keamanan Ekstra, Shortcut, dan Integrasi VS Code.