Автор Тема: spyder для своего сайта  (Прочитано 3096 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Оффлайн Sniper

  • Завсегдатай
  • Пользователь
  • **
  • Сообщений: 86
  • +0/-0
  • 0
    • Просмотр профиля
    • http://www.40000.ru
spyder для своего сайта
« : 17 Июня 2004, 11:05:25 »
Значит так.
У меня на сайте есть поиск. На сайте инфа часть в базе, а часть в файлах, причем ссылки на эти файлы в базе (MySQL).
Работает так: запускаю раз в сутки робота, который;
"Перебирает" все файлы, ищет их имена в базе, "просит" у базы эти имена, и в соответствии с результатом запросов, формирует ссылку на раздел сайта и заносит все это (ссылку на раздел и содержимое файлов) в таблицу search.
А уже из этой таблицы - поиск по сайту.

Работает это (робот) неплохо, но громоздкий слижжжжком, если что меняется (структура сайта) - просто мрак! приходится много переписывать в роботе.

Внимание, вопрос. Можно ли средствами ПХП написать робота а-ля Яндех? То есть, чтобы он "просто" ходил по сайту как юзерь (руководствуясь только меню) и заносил бы все из адрессной строки и результаты в базу.
Пока играет музыка - танцуй...

Оффлайн Neter

  • Жустер
  • Старожил
  • ****
  • Сообщений: 324
  • +0/-0
  • 2
    • Просмотр профиля
spyder для своего сайта
« Ответ #1 : 17 Июня 2004, 12:14:56 »
Ответ знатоков: Можно :)
Мне тормоз послужил толчком...

Оффлайн pauk

  • Фанат форума
  • Постоялец
  • ***
  • Сообщений: 201
  • +0/-0
  • 0
    • Просмотр профиля
    • http://tax-free.pp.ua/
spyder для своего сайта
« Ответ #2 : 17 Июня 2004, 12:34:07 »
Цитировать
Sniper:
Можно ли средствами ПХП написать робота а-ля Яндех?

Если разработчики Яндекс осилили, то значит можно, для одного сайта это сделать даже проще
Hi!

Оффлайн Sniper

  • Завсегдатай
  • Пользователь
  • **
  • Сообщений: 86
  • +0/-0
  • 0
    • Просмотр профиля
    • http://www.40000.ru
spyder для своего сайта
« Ответ #3 : 17 Июня 2004, 20:49:36 »
Neter
Цитировать
Ответ знатоков: Можно

ты наверное подабатываешь экономическим аналитиком - абсолютно точный и совершенно бесполезный ответ.

pauk
Цитировать
Если разработчики Яндекс осилили, то значит можно, для одного сайта это сделать даже проще

Если движок я ндекса написан на ПХП, то я цветной телевизор.
Пока играет музыка - танцуй...

Оффлайн Neter

  • Жустер
  • Старожил
  • ****
  • Сообщений: 324
  • +0/-0
  • 2
    • Просмотр профиля
spyder для своего сайта
« Ответ #4 : 17 Июня 2004, 23:54:34 »
Цитировать
Sniper:
ты наверное подабатываешь экономическим аналитиком

Догадливый :) Ты - спросил, я - ответил, думать за тебя и рассказывать как его написать я не буду.

Цитировать
Sniper:
Если движок я ндекса написан на ПХП, то я цветной телевизор.

Ну не цветной.. но.. кхм.. На РНР его тоже можно написать.  Ключевым фактором здесь является скорость, но для одного сайта это не кретично.
Мне тормоз послужил толчком...

Оффлайн CGVictor

  • теперь местный
  • Глобальный модератор
  • Ветеран
  • *****
  • Сообщений: 2511
  • +0/-0
  • 2
    • Просмотр профиля
    • http://cg.net.ru
spyder для своего сайта
« Ответ #5 : 19 Июня 2004, 12:40:40 »
Госспооди!
Скрипт:
- открывает страницу
- собирает с нее все ссылки
- удаляет проверенные
- удаляет лево-доменные
- индексирует страницу
- переходит к следующей
Что непонятного? Пишут - в другом разделе!
LJ: Backslashed life (rss)

 

Sitemap 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28