Robots.txt Nedir? Nasıl Kullanılır?

“robots.txt” bir web sitesinin search engine robots (ya da “bots”) tarafından hangi sayfaların indexlenmesine izin verildiğini ve hangilerinin yasaklandığını belirleyen bir dosya formatıdır.
SEO, Search Engine Optimization kelimelerinin kısaltmasıdır. Bu, bir web sitesinin veya web sayfasının arama motorları tarafından daha iyi anlaşılmasını ve daha yüksek arama sonuçları sayfasında görünmesini sağlamaya yönelik bir takım teknik ve stratejik çabalardır.
“robots.txt” bir web sitesinin search engine robots (ya da “bots”) tarafından hangi sayfaların indexlenmesine izin verildiğini ve hangilerinin yasaklandığını belirleyen bir dosya formatıdır.