Perangkak web[1] (bahasa Inggris: web crawler), merupakan mesin/perangkat lunak yang secara sistematis menjelajahi Waring Wera Wanua dan biasanya dioperasikan oleh mesin pencari untuk tujuan pengindeksan[2] maupun untuk tujuan pengarsipan.[3]

Cara kerja perangkak web adalah dengan cara mengunjungi URL web tujuan, dan berkomunikasi dengan peladen web yang merespons URL tersebut, perangkak web mengidentifikasi semua pranala di halaman web yang diambil dan menambahkannya ke daftar URL yang akan dikunjungi, atau yang dikenal dengan istilah crawl frontier. Pada saat perangkak web melakukan pengarsipan, perangkap akan menyalin dan menyimpan informasi yang ada pada web tersebut, kemudian arsip web akan disimpan, sehingga dapat dilihat, dibaca, dan dinavigasi seolah-olah berada di web asli langsung.[4]

Daftar perangkak web

sunting

Beberapa perangkak web adalah sebagai berikut:

Perangkak web dengan sumber terbuka

sunting

Beberapa perangkak web sumber terbuka:

Perangkap web komersial

sunting

Beberapa perangkap web berbayar:

Referensi

sunting
  1. ^ "Arti kata perangkak web". Badan Pengembangan dan Pembinaan Bahasa, Kemendikbud. KBBI Daring. Diakses tanggal 17 Desember 2025.
  2. ^ Bai, Quan; Xiong, Gang; Zhao, Yong; He, Longtao (2014-01-01). "Analysis and Detection of Bogus Behavior in Web Crawler Measurement". Procedia Computer Science. 2nd International Conference on Information Technology and Quantitative Management, ITQM 2014 (dalam bahasa Inggris). 31: 1084–1091. doi:10.1016/j.procs.2014.05.363. ISSN 1877-0509.
  3. ^ Smithers, Matt (2024-09-11). "Web Archiving: The process of collecting and storing websites and web pages for long-term access and preservation". CLOCKSS (dalam bahasa American English). Diakses tanggal 2025-05-28.
  4. ^ Web archiving. Julien Masanès. Berlin: Springer. 2006. ISBN 978-3-540-46332-0. OCLC 262691786. Pemeliharaan CS1: Lain-lain (link)

📚 Artikel Terkait di Wikipedia

Peladen web

dan skrip di samping konten teks. Agen pengguna, umumnya peramban web atau perayap web, memulai komunikasi dengan membuat permintaan untuk sumber daya tertentu

Perplexity AI

hanya mengandalkan perayap web kami sendiri, kami juga mengandalkan perayap web pihak ketiga." Srinivas menjelaskan bahwa perayap web yang diidentifikasi

Bingbot

Bingbot adalah robot perayap web (web crawler) yang dikembangkan oleh Microsoft dan mulai digunakan pada Oktober 2010. Bot ini berfungsi untuk mengindeks

Direktori web

direktori juga tidak dlakukan oleh perayap web tetapi oleh manusia. Kategorisasi ini biasanya didasarkan pada seluruh situs web lebih dari satu halaman atau

Protokol Transfer Hiperteks

pencarian (perayap web), peramban suara, aplikasi seluler, dan perangkat lunak lain yang mengakses, menggunakan, atau menampilkan konten web. HTTP dirancang

Web semantik

perayap web otomatis dapat mengakses lebih banyak informasi dari laman di internet dan merangkai informasi tersebut untuk para pengguna. Istilah "Web

MakeIndex

MakeIndex adalah situs website online / portal web pertama di Indonesia untuk mempercepat perayapan mesin pencari dengan menciptakan algoritma yang memungkinkan

Google Search Console

mempermudah perayap mesin pencari dalam memahami struktur situs. Sitemap yang dikirimkan harus valid dan dapat dirayapi oleh robot perayap. Protokol sitemap