RANKYOAST – Memahami cara membuat sitemap dan robots.txt adalah langkah awal agar website kamu mudah ditemukan di Google. Mesin pencari perlu tahu halaman mana yang harus dirayapi dan mana yang perlu diabaikan. Di sinilah sitemap dan robots.txt berperan penting.
Apa Itu Sitemap?
Sitemap adalah file XML yang berisi daftar URL di website kamu. File ini membantu Google dan mesin pencari lain memahami struktur situs dan menemukan semua halaman penting.
Misalnya, kalau kamu punya halaman produk, blog, dan kategori, sitemap akan menginformasikan semuanya secara sistematis.
Manfaat sitemap:
- Mempercepat proses pengindeksan
- Memberi tahu mesin pencari tentang update terbaru
- Membantu halaman baru cepat dikenali
Apa Itu Robots.txt?
Robots.txt adalah file teks sederhana yang diletakkan di root domain (misalnya yourdomain.com/robots.txt
). File ini berfungsi memberi instruksi kepada bot mesin pencari tentang halaman mana yang boleh atau tidak boleh dirayapi.
Contoh penggunaannya:
- Blokir halaman admin atau login
- Cegah pengindeksan halaman duplikat
- Optimalkan alokasi crawl budget
Langkah Membuat Sitemap
- Gunakan Plugin SEO
Kalau kamu pakai WordPress, plugin seperti Yoast SEO atau Rank Math bisa otomatis membuat sitemap. - Gunakan Generator Online
Untuk non-WordPress, kamu bisa pakai tools seperti:- XML-sitemaps.com
- Screaming Frog SEO Spider
- Upload ke Root Directory
Jika manual, upload file sitemap ke folder utama website (https://namadomain.com/sitemap.xml
). - Daftarkan di Google Search Console
Masuk ke Search Console > Sitemaps > Tambahkan URL sitemap > Klik Submit.
Langkah Membuat Robots.txt
- Buat File Baru
Gunakan text editor seperti Notepad dan simpan dengan namarobots.txt
. - Tulis Instruksi
Contoh isi paling dasar: makefileCopyEditUser-agent: * Disallow: /wp-admin/ Allow: / Sitemap: https://namadomain.com/sitemap.xml
- Upload ke Root Directory
Tempatkan dihttps://namadomain.com/robots.txt
.
Tips Tambahan
- Jangan blokir halaman penting di robots.txt
- Pastikan file robots.txt dan sitemap saling terhubung
- Selalu uji dengan robots.txt tester di Search Console
Kesimpulan
Menyiapkan sitemap dan robots.txt adalah langkah penting dalam optimasi teknis SEO. Dengan struktur yang jelas dan arahan yang tepat, mesin pencari bisa merayapi dan mengindeks situs kamu secara efisien. Jangan biarkan konten bagusmu tak terlihat hanya karena file teknis ini terabaikan.