Объем доступной для конкретного пользователя информации в Интернете во многом ограничивается возможностями поисковых систем. Поэтому очень важно иметь представление о том, как работают поисковые системы, как много страниц они "видят", и насколько актуальна предоставляемая ими информация.
Каждая поисковая система состоит из двух частей - поискового HTTP-робота и модуля обработки запроса пользователя. HTTP-робот - это программа, которая собирает доступную в виде текста информацию. Вся собранная информация записывается в index-файл. Поиск осуществляется другой программой, которая извлекает запрашиваемую пользователем информацию из index-файла.
Качество работы отдельно взятой поисковой системы сильно зависит от качества работы обоих программных модулей системы.
Для того чтобы оценить работу HTTP-роботов различных поисковых систем, на одном из Рунетовских сайтов с объемом страниц выше среднего, была установлена специальная система, отслеживающая все характерные для индексирующих роботов обращения.
Ниже представлена таблица, составленная на основе показаний нашей системы в период с середины лета 2000 года по конец декабря 2000 года:
Глубина индексации определена следующим образом. За 100% взята вся доступная на подопытном сайте текстовая информация по ссылкам от головного файла. Значения выше 100% означают, что данный робот получил доступ к файлам не доступным по ссылкам с домашней страницы сайта или же закачал не текстовые, а мультимедийные или бинарные файлы, как это делает "FAST-WebCrawler".
Частота индексации показывает, как часто HTTP-робот возвращается, чтобы отследить и зафиксировать изменения или обновления произошедшие на отдельном сайте. Чаще всего HTTP-роботы запрашивают заглавный файл отдельного сайта. Исключением является робот системы NorthernLight - "Gulliver", который чаще обращался к файлам находящимся ниже заглавного документа.
Многолетние наблюдения за индексирующими роботами выявили характерные особенности в их "поведении". Наиболее стабильным себя показал робот системы Lycos - "Lycos_Spider_(T-Rex)". Однако поисковая система Lycos дает весьма поверхностный охват Интернета, несмотря на грозное название своего HTTP-робота.
Относительно новые поисковые системы Google и AllTheWeb действительно дают нам возможность искать в Интернете, а не в какой-то его части. Робот системы AllTheWeb - "FAST-WebCrawler" замечен нами относительно недавно, однако по многим показателям он превосходит своих конкурентов. HTTP-робот системы Google - "Googlebot" замечен много раньше, да и сложно было бы его не заметить поскольку это один из самых активных роботов.
Очень хорошо зарекомендовала себя система NorthernLight. Один из самых больших индекс-файлов Интернета, подкреплен отличным поисковым модулем с расширенным синтаксисом запросов.
Робот корпорации Inktomi - "Slurp" используется несколькими поисковыми системами. Самая заметная из них http://www.hotbot.com/. "Slurp" - самый активный робот в Интернете.
AltaVista судя по всему обладает самым грамотным программным обеспечением, однако уступает в мощности, например, системе Google. К сожалению, компания AltaVista закрыла свой, на наш взгляд, наиболее удачный поисковый проект http://www.raging.com.
Поисковая система Яндекс по многим показателям зарекомендовала себя, как система мирового уровня. Яндекс действительно обладает конкурентоспособным программным обеспечением. Однако система "заточена" под кириллицу и индексирует преимущественно сайты в зоне RU. Поэтому мы относим Яндекс к системе третьего(локального) класса.
Возможности поискового робота системы Rambler, значительно уступают возможностям HTTP-робота системы Яндекс. Однако Rambler активно использует информацию, введенную пользователями вручную через формы регистрации. За счет этого Rambler нередко выдает более актуальную информацию, чем Яндекс.
Наша профессиональная оценка "ценности" поисковых систем приведена в следующей таблице:
В этой таблице мы представили результаты сравнения компонентов одной поисковой системы с компонентами другой. Три звездочки - высшая оценка, указывают на то, что в данном компоненте система ни в чем не уступает конкурентам. Две звездочки соответственно указывают, на относительное отставание системы в конкретном компоненте.
Синтаксисом системы мы называем возможности языка запросов поискового модуля системы. Оценивая этот важнейший компонент, мы учитывали также качество реализации заявленного системой синтаксиса запросов.
Корректность робота - параметр, указывающий на то, с какой интенсивностью HTTP-робот запрашивает документы отдельного сайта. Оценку в две звездочки мы поставили HTTP-роботам, которые могут вызывать загрузку сервера из-за слишком интенсивного обращения. Замечено, что роботы Rambler'а и Яндекс'а могут вызывать загрузку серверов. Справедливости ради стоит заметить, что тесты проводились на российских серверах, поэтому большая интенсивность обращений HTTP-роботов ведущих российских систем вполне оправдана.
Поисковые системы мы разделили на пять классов. К первому классу причислены системы с наибольшим объемом индекс файла, обеспечивающим наиболее обширный охват Интернета. Ко второму классу причислены системы индексирующие Интернет выборочно, т.е. прежде всего основные документы отдельно взятого сайта. К третьему классу причислены локальные системы, т.е. системы осуществляющие поиск в заданных рамках. Например, Яндекс - ограничивается Рунетом, а EuroSeek изначально ориентирован на индексирование европейской части Интернета. К четвертому классу мы причислили локальные системы, со схемой выборочной индексации, похожей на схему индексации систем второго класса. И, наконец, к пятому классу мы причислили тематические поисковые системы. Типичный пример системы пятого класса поисковая система Referat.cc.
Помимо упомянутых HTTP-роботов, в просторах Интернета замечено еще несколько десятков индексирующих и не индексирующих роботов. Хороший пример нетрадиционного использования собранной таким образом информации - http://www.findsame.com/ (HTTP-робот "DIIbot") - система, предназначенная для поиска сходных документов.
Подавляющее большинство не вошедших в наш обзор поисковых систем либо не имеют своего индексирующего робота, либо являются системами 2-го, 3-го, 4-го или 5-го класса.
Системы, не имеющие своего HTTP-робота, как правило, используют возможности других поисковых систем. Такие системы либо используют HTTP-роботы, описанные выше, либо являются мета-поисковыми системами.
Классическим вариантом мета-поисковой системы, является система MetaBot.Ru. Эта система одновременно опрашивает несколько ведущих поисковых систем и выдает пользователю компактный, предварительно отсортированный и тщательно проанализированный список результатов.
Наблюдается также интеграция технологий между разными поисковыми системами.
HotBot использует симбиоз технологий Inktomi и DirectHit. DirectHit - технология, отслеживающая выбор пользователя для каждого конкретного запроса. Собранная таким образом информация влияет на позиции ссылок в результатах поиска.
По оценкам наших специалистов AltaVista на голову превосходит всех конкурентов по некоторым важнейшим показателям. Google, пожалуй, самая дружелюбная и понятная пользователю поисковая система. Недаром популярный каталог Yahoo использует технологию Google. Мы рекомендуем пользоваться также поисковой системой по серверам новостей - Google Groups. В группах новостей можно найти ответ практически на любой вопрос. Яндекс, по мнению как специалистов так и пользователей, наиболее мощная и грамотная российская поисковая система.
Мета-поисковая система MetaBot.Ru, была создана нами по итогам масштабных исследований и призвана объединить лучшие качества лучших поисковых систем в единый поисковый проект с общим интерфейсом и общим синтаксисом запросов. Мы постарались минимизировать недостатки мета-поисковой технологии и максимально использовали ее преимущества.
Знаете ли Вы, как разрешается парадокс Ольберса? (Фотометрический парадокс, парадокс Ольберса - это один из парадоксов космологии, заключающийся в том, что во Вселенной, равномерно заполненной звёздами, яркость неба (в том числе ночного) должна быть примерно равна яркости солнечного диска. Это должно иметь место потому, что по любому направлению неба луч зрения рано или поздно упрется в поверхность звезды. Иными словами парадос Ольберса заключается в том, что если Вселенная бесконечна, то черного неба мы не увидим, так как излучение дальних звезд будет суммироваться с излучением ближних, и небо должно иметь среднюю температуру фотосфер звезд. При поглощении света межзвездным веществом, оно будет разогреваться до температуры звездных фотосфер и излучать также ярко, как звезды. Однако в дело вступает явление "усталости света", открытое Эдвином Хабблом, который показал, что чем дальше от нас расположена галактика, тем больше становится красным свет ее излучения, то есть фотоны как бы "устают", отдают свою энергию межзвездной среде. На очень больших расстояниях галактики видны только в радиодиапазоне, так как их свет вовсе потерял энергию идя через бескрайние просторы Вселенной. Подробнее читайте в FAQ по эфирной физике.
