Feedfetcher
Feedfetcher adalah cara Google meng-crawl feed RSS atau Atom untuk Google Podcast, Google Berita, dan PubSubHubbub. Feedfetcher menyimpan dan secara berkala memperbarui feed yang diminta oleh pengguna aplikasi atau layanan. Hanya feed podcast yang diindeks di Google Penelusuran. Namun, jika suatu feed tidak mengikuti spesifikasi Atom atau RSS, feed tersebut mungkin masih diindeks. Berikut adalah beberapa jawaban tentang sebagian besar pertanyaan umum mengenai cara pengambil feed yang dikontrol pengguna ini berfungsi.
Bagaimana cara meminta agar Google tidak mengambil beberapa atau semua feed situs saya?
Saat pengguna menambahkan layanan atau aplikasi yang menggunakan data Feedfetcher, Feedfetcher Google berupaya mendapatkan konten feed untuk menampilkannya. Karena permintaannya berasal dari tindakan eksplisit yang dilakukan oleh pengguna manusia, dan bukan dari crawler otomatis, Feedfetcher tidak mengikuti panduan robots.txt.
Jika feed tersedia untuk publik, Google tidak dapat membatasi akses pengguna. Salah satu
solusinya adalah mengonfigurasi situs agar menampilkan pesan status error 404
, 410
, atau yang lainnya ke
agen pengguna Feedfetcher-Google
.
Jika feed Anda disediakan oleh layanan hosting situs atau blog, harap bekerja sama langsung dengan layanan tersebut untuk membatasi akses ke feed.
Seberapa sering Feedfetcher mengambil feed saya?
Feedfetcher seharusnya tidak mengambil feed dari kebanyakan situs lebih dari satu kali tiap jam secara rata-rata. Beberapa situs yang sering diperbarui mungkin lebih sering dimuat ulang. Namun, perlu diketahui bahwa karena adanya penundaan jaringan, kemungkinan Feedfetcher akan terlihat lebih sering mengambil feed dalam periode waktu yang singkat.
Mengapa Feedfetcher mencoba mendownload link yang tidak benar dari server saya, atau dari domain yang tidak ada?
Feedfetcher mengambil feed sesuai dengan permintaan layanan atau aplikasi yang diinstal pengguna. Kemungkinan pengguna telah meminta URL feed yang tidak ada.
Mengapa Feedfetcher mendownload informasi dari server web "rahasia" saya?
Feedfetcher mengambil feed sesuai dengan permintaan layanan atau aplikasi yang diinstal pengguna. Kemungkinan permintaan berasal dari pengguna yang mengetahui tentang server "rahasia" Anda atau tidak sengaja mengetikkannya.
Mengapa Feedfetcher tidak mematuhi file robots.txt saya?
Feedfetcher hanya mengambil feed setelah pengguna secara eksplisit memulai layanan atau aplikasi yang meminta data dari feed. Feedfetcher bertindak sebagai agen langsung pengguna manusia, bukan robot, jadi Feedfetcher akan mengabaikan entri robots.txt. Karena Feedfetcher bertindak sebagai agen untuk beberapa pengguna, Feedfetcher akan menghemat bandwidth dengan membuat permintaan untuk feed umum hanya satu kali untuk semua pengguna yang meminta feed melalui aplikasi atau layanan. Feed yang umum adalah RSS dan Atom.
Anda dapat mencegah agar Feedfetcher tidak meng-crawl situs dengan mengonfigurasi server agar menampilkan pesan status error 404
,
410
, atau yang lainnya ke agen pengguna Feedfetcher-Google
.
Mengapa ada kunjungan dari beberapa mesin di Google.com, yang semuanya memiliki agen pengguna Feedfetcher?
Feedfetcher dirancang untuk didistribusikan pada beberapa mesin untuk meningkatkan performa dan skalanya seiring pertumbuhan web. Untuk mengurangi penggunaan bandwidth, mesin yang digunakan sering kali berada di dekat situs yang diambilnya dalam jaringan.
Dapatkah Anda memberi tahu saya alamat IP tempat asal Feedfetcher membuat permintaan sehingga saya dapat memfilter log?
Alamat IP yang digunakan oleh Feedfetcher berubah dari waktu ke waktu. Cara terbaik untuk mengidentifikasi
permintaan Feedfetcher adalah dengan mencari agen penggunanya, Feedfetcher-Google
.
Mengapa Feedfetcher beberapa kali mendownload halaman yang sama di situs saya?
Secara umum, Feedfetcher hanya mendownload satu salinan dari setiap file di situs Anda selama pengambilan feed tertentu. Sangat jarang mesin dihentikan dan dimulai ulang, yang dapat menyebabkannya kembali mengambil halaman yang baru dikunjunginya.
Jenis link apa yang diikuti Feedfetcher?
Tidak seperti web crawler pada umumnya, Feedfetcher tidak mengikuti link sama sekali. Sebagai gantinya, Feedfetcher mengikuti permintaan yang diberikan oleh pengguna layanan atau aplikasi yang menggunakan Feedfetcher.
Pertanyaan saya terkait Feedfetcher tidak terjawab di sini. Di mana saya bisa mendapatkan bantuan lainnya?
Jika Anda masih mengalami kesulitan, cobalah posting pertanyaan Anda di forum Pusat Penelusuran.