REPgiúp webmaster điều hướng hoạt động của robot (hay còn gọi là crawler, spider- phần mềm dò tìm dữ liệu của các cỗ máy tìm kiếm) đối với website của mình. Webmaster có thể dùng file Robots.txt để ngăn chặn robot xâm nhập các thư mục và file trên server của mình và thẻ Meta Robots giúp ngăn chặn robots ở cấp độ từng trang riêng lẻ.
Về Robots.txt, cả 3 đại gia tìm kiếm đều hỗ trợ các chỉ dẫn (directive) sau:
Về thẻ Meta Robots, cả Google, Yahoo! và Microsoft đều thỏa thuận:
Thực ra Giao thức ngăn chặn Robots - REPđã được hiểu ngầm là 1 tiêu chuẩn chưa chính thức (de-facto standard) của các cỗ máy tìm kiếm từ những năm 1990. Tuy nhiên đây là lần đầu tiên Google, Yahoo! và Microsoft “cộng tác” (collaborating) hay “làm việc với nhau” (working together) về REP, mặc dù họ chưa xây dựng nên 1 tiêu chuẩn mới (như đã từng dựng trang Sitemaps.org năm 2006 hướng dẫn Sitemap cho website) mà chỉ mới tuyên bố trên blog của họ.
(Theo Blog Google, Yahoo! và Microsoft)
* Các bạn vui lòng tham khảo chi tiết tại:
Những tin mới hơn
Những tin cũ hơn
Tên gọi: NukeViet phát âm là [Nu-Ke-Việt], đây là cách đọc riêng, không phải là cách phát âm chuẩn của tiếng Anh. Ý nghĩa: NukeViet là từ ghép từ chữ Nuke và Việt Nam. Sở dĩ có tên gọi này là vì phiên bản 1.0 và 2.0 của NukeViet được phát triển từ mã nguồn mở PHP-Nuke. Mặc dù từ phiên bản 3.0,...
Thứ bảy - 31/05/2025 06:06
Số TBMT: IB2500233849-00. Bên mời thầu: CHI NHÁNH TẬP ĐOÀN BƯU CHÍNH VIỄN THÔNG VIỆT NAM – VIỄN THÔNG THÀNH PHỐ HỒ CHÍ MINH. Đóng thầu: 09:00 09/06/25Thứ bảy - 31/05/2025 06:05
Số TBMT: IB2500210480-02. Bên mời thầu: Ban Quản lý dự án đầu tư xây dựng tỉnh Hải Dương. Đóng thầu: 07:15 11/06/25Thứ bảy - 31/05/2025 06:05
Số TBMT: IB2500245202-00. Bên mời thầu: Bệnh viện đa khoa thành phố Cần Thơ. Đóng thầu: 09:00 07/06/25Thứ bảy - 31/05/2025 05:59
Số TBMT: IB2500245473-00. Bên mời thầu: Ủy ban nhân dân xã Chu Phan. Đóng thầu: 14:00 09/06/25Thứ bảy - 31/05/2025 05:47
Số TBMT: IB2500208080-00. Bên mời thầu: CÔNG TY TNHH KỸ THUẬT XÂY DỰNG BẮC HẢI. Đóng thầu: 08:00 09/06/25Thứ bảy - 31/05/2025 05:42
Số TBMT: IB2500234589-00. Bên mời thầu: Ban quản lý dự án đầu tư xây dựng huyện Mường Lát. Đóng thầu: 08:15 11/06/25Thứ bảy - 31/05/2025 05:42
Số TBMT: IB2500226943-00. Bên mời thầu: Ban Quản lý dự án đầu tư xây dựng thành phố Vị Thanh, tỉnh Hậu Giang. Đóng thầu: 09:00 18/06/25Thứ bảy - 31/05/2025 05:41
Số TBMT: IB2500242906-00. Bên mời thầu: Ban Quản lý dự án đầu tư xây dựng thành phố Vị Thanh, tỉnh Hậu Giang. Đóng thầu: 09:00 18/06/25Thứ bảy - 31/05/2025 05:40
Số TBMT: IB2500245240-00. Bên mời thầu: CÔNG TY CỔ PHẦN TƯ VẤN XÂY DỰNG TRƯỜNG HỌC. Đóng thầu: 15:00 07/06/25Thứ bảy - 31/05/2025 05:33
Số TBMT: IB2500243561-00. Bên mời thầu: Ban Quản lý dự án đầu tư xây dựng huyện Đại Từ. Đóng thầu: 10:00 07/06/25Thứ bảy - 31/05/2025 06:05
Số KHLCNT: PL2500135666-00. Chủ đầu tư: Công ty TNHH MTV Đóng và sửa chữa tàu Hải Long. Ngày đăng tải: 17:05 31/05/25Thứ bảy - 31/05/2025 06:03
Số KHLCNT: PL2500135663-00. Chủ đầu tư: Ban quản lý dự án huyện thống nhất. Ngày đăng tải: 17:03 31/05/25Thứ bảy - 31/05/2025 06:02
Số KHLCNT: PL2500135665-00. Chủ đầu tư: Lữ đoàn 139, Binh chủng thông tin liên lạc. Ngày đăng tải: 17:02 31/05/25Thứ bảy - 31/05/2025 06:02
Số KHLCNT: PL2500135662-00. Chủ đầu tư: Phòng Văn hoá và Thông tin huyện Chợ Mới. Ngày đăng tải: 17:02 31/05/25Thứ bảy - 31/05/2025 06:01
Số KHLCNT: PL2500135664-00. Chủ đầu tư: Trường THCS Lạc Long. Ngày đăng tải: 17:01 31/05/25