User-agent: * # all agents Disallow: /akademibokhandeln/ Disallow: /batch-job/ Disallow: /batches/ Disallow: /bin/ Disallow: /book_pics/ Disallow: /book_pics.xxx/ Disallow: /edifact/ Disallow: /filer/ Disallow: /img/ Disallow: /lib/ Disallow: /logs/ Disallow: /perl/ Disallow: /pics/ Disallow: /rtz/ Disallow: /se/help/ Disallow: /se/info_ssl/ Disallow: /se/passagen/ Disallow: /se/special/ Disallow: /staff/ Disallow: /swf/ Disallow: /users/ # Nedanstående spindlar verkar läsa robots.txt enligt http://awstats.bokus.com/. # Spindlarna bedöms irrelevanta för vår verksamhet och de har därför blockerats. # 061204/Martin S: Onödig (crawls pages for Google mobile index) User-agent: Googlebot-Mobile Disallow: / # 061204/Martin S: Onödig (crawls pages for our Google image index) # Hmm, ser dock ut som vi får en hel del trafik via Google Images (3.1 % av träffarna okt 2006). Släpp på den. # User-agent: Googlebot-Image # Disallow: / # 061204/Martin S: Onödig (crawls pages to determine Google AdSense content. We only use this bot to crawl your site if you show AdSense ads on your site.) User-agent: Mediapartners-Google Disallow: / # 061204/Martin S: Spindel för sökmotorn Gigablast. Sög hem 1.08 GB under okt 2006. Irrelevant. User-agent: Gigabot Disallow: / User-agent: GigaBot Disallow: / User-agent: gigabot Disallow: / # 061204/Martin S: Okänd spindel. Sög hem 2.06 GB under okt 2006 i okänt syfte. Irrelevant. User-agent: The Python Robot Disallow: / # 061204/Martin S: Okänd spindel. Sög hem 72.92 MB under okt 2006 i okänt syfte. Irrelevant. User-agent: WebVac Disallow: / # 061204/Martin S: Asiatisk spindel. Sög hem 2.44 MB under okt 2006. Irrelevant. User-agent: BaiDuSpider Disallow: / # 061204/Martin S: Spindel för sökmotorn Entireweb.com. Sög hem 1.06 MB under okt 2006. Irrelevant. User-agent: Speedy Spider Disallow: / # 070115/Martin S: Sög hem 29.91 Mb under dec 2006. Irrelevant. User-agent: BBot Disallow: / # 070115/Martin S: Mirago. Sög hem 23 Mb under dec 2006. Irrelevant. User-agent: HenryTheMiragoRobot Disallow: / User-agent: Mirago Disallow: / # 070115/Martin S: Sög hem 2.62 Gb under nov 2006. Irrelevant. User-agent: WISENutbot Disallow: / # 070115/Martin S: Sög hem 70 Mb under nov 2006. Irrelevant. User-agent: EchO! Disallow: / # 070131/Martin S: Sög hem 3.51 MB under jan 2007. Irrelevant. User-agent: arks Disallow: / # 070208/Martin S: Sög hem 152.14 MB under jan 2007. Irrelevant. User-agent: Voyager Disallow: / # 070208/Martin S: Annat mög. User-agent: Ingrid Disallow: / # 070208/Martin S: Annat mög. User-agent: Turn It In Disallow: / # 070208/Martin S: Sög hem 1.84 GB under 2006. User-agent: ASpider (Associative Spider) Disallow: / # 070214/Martin S: Alexa (IA Archiver). Sög hem 249.58 MB under januari 2006. Vi har inte råd att släppa in Alexa. User-agent: ia_archiver Disallow: / # 070214/Martin S: AskJeeves. Sög hem 648.74 MB under januari 2006. Vi har inte råd att släppa in AskJeeves. User-agent: Jeeves Disallow: / User-agent: Ask Jeeves Disallow: / User-agent: Teoma Disallow: / # 070214/Martin S: Sög hem 1.13 MB under januari 2006. Irrelevant. User-agent: Monster Disallow: / # 081208/Martin S: Rysk sökmotor. Sög hem 439.25 MB under nov 2008. Irrelevant. User-agent: Yandex Disallow: / # 081208/Martin S: Något forskningsprojekt. Sög hem 532.64 MB under nov 2008. Irrelevant. User-agent: MJ12bot Disallow: / # 081208/Martin S: Något forskningsprojekt. Sög hem 459.49 MB under nov 2008. Irrelevant. User-agent: MSNBot-media Disallow: /