Модераторы: skyboy, MoLeX, Aliance, ksnk

Поиск:

Ответ в темуСоздание новой темы Создание опроса
> Поисковый робот, Как это делается? 
:(
    Опции темы
Grizzly
Дата 19.5.2005, 09:07 (ссылка)    |    (голосов: 0) Загрузка ... Загрузка ... Быстрая цитата Цитата


Unregistered











Суть заключается в следующем: Надо написать бодяжку которая бы шерстила новости и пихала в базу данных, а с какого конца подойти не представляю.... Может кто сталкивался? Посоветуйте..
  Вверх
simanyay
Дата 19.5.2005, 09:23 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Антон Ковалёв
****


Профиль
Группа: Участник
Сообщений: 2053
Регистрация: 22.8.2002

Репутация: нет
Всего: 36



Если эти новости доступны через RSS, то надо написать аггрегатор, который будет обрабатывать этот RSS и пихать в базу новости. Для дополнительной информации ищи по след. ключевым фразам:
1. RSS aggregator PHP
2. XML, XSLT, PHP


--------------------
«It's better to be a pirate than to join the Navy» — Steve Jobs.
PM MAIL WWW   Вверх
Grizzly
Дата 19.5.2005, 09:28 (ссылка)    |    (голосов: 0) Загрузка ... Загрузка ... Быстрая цитата Цитата


Unregistered











Спасибо попробую
  Вверх
simanyay
Дата 19.5.2005, 09:49 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Антон Ковалёв
****


Профиль
Группа: Участник
Сообщений: 2053
Регистрация: 22.8.2002

Репутация: нет
Всего: 36



Anytime.

А ещё советую стать постоянным участником форума. Здесь много чего интересного происходит smile


--------------------
«It's better to be a pirate than to join the Navy» — Steve Jobs.
PM MAIL WWW   Вверх
MuToGeN
Дата 30.5.2005, 15:55 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Лесник
****


Профиль
Группа: Модератор
Сообщений: 4379
Регистрация: 15.8.2002
Где: Москва

Репутация: 4
Всего: 32



Еще на тему ATOM поискать можно.


--------------------
Three pings for the token rings,
Five pings for the UNIX machines,
Hundred pings for the broken links,
One special ping to check them all
Through Simple Network Management Protocol!
PM MAIL ICQ   Вверх
kometa_triatlon
Дата 30.5.2005, 21:23 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 384
Регистрация: 7.1.2005
Где: Киев

Репутация: нет
Всего: 6



А разве поисковые роботы пишутся на PHP?


--------------------
Всё очень просто: сказки обман,
Солнечный остров скрылся в туман,
Замков воздушных не носит земля,
Кто-то ошибся, ты или я.

--------------
Программирование - самое большое удовольствие, которое вы можете получить, будучи одетым.
PM MAIL ICQ   Вверх
Irokez
Дата 30.5.2005, 21:30 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


индеец
***


Профиль
Группа: Участник Клуба
Сообщений: 1180
Регистрация: 20.10.2004

Репутация: 4
Всего: 53



Цитата(kometa_triatlon @ 30.5.2005, 21:23)
А разве поисковые роботы пишутся на PHP?

понимаю, что вопрос глупый, но кто мне может объяснить почему на пхп нельзя написать поисковый робот? скольких людей не спрашивал, никто мне внятно не смог объяснить ..
PM   Вверх
simanyay
Дата 30.5.2005, 21:31 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Антон Ковалёв
****


Профиль
Группа: Участник
Сообщений: 2053
Регистрация: 22.8.2002

Репутация: нет
Всего: 36



Цитата(kometa_triatlon @ 30.5.2005, 23:23)
А разве поисковые роботы пишутся на PHP?


Если для какого-нибудь сайта или электронной библиотеки, то почему бы и нет? Хотя, не встречал


--------------------
«It's better to be a pirate than to join the Navy» — Steve Jobs.
PM MAIL WWW   Вверх
kometa_triatlon
Дата 31.5.2005, 00:27 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 384
Регистрация: 7.1.2005
Где: Киев

Репутация: нет
Всего: 6



Цитата
Наверняка, на сях получится лучше... и по памяти, и по быстродействию... несмотря на то, что либы придется доставлять, чтоб чувствовать себя так же свободно, как в PHP.
На перле не пробовала. Но php хуже уже тем, что в нем довольно много скрыто от самого кодера... Да и не уверена, что он до конца избавлен от утечек памяти...


Цитата
реально, но так никто не делает.
Это всё равно, что на комбайне, который пшеницу убирает, возить муку в город на базар.
Теоретически можно, но на практике односельчане будут на тебя смотреть, как на идиота.


Цитата
Я знаю только один поисковик написанный на PHP, правда итальянский.
http://www.outseek.net - бррр жуткий сайт


Я так понял, PHP не для этих целей создан, поэтому скорость и производительность программ не годятся.
Короче, если система маленькая, то еще куда ни шло, а вот если серьезно, то надо писать на С. Хотя я так понял на С++ с использованием STL.


--------------------
Всё очень просто: сказки обман,
Солнечный остров скрылся в туман,
Замков воздушных не носит земля,
Кто-то ошибся, ты или я.

--------------
Программирование - самое большое удовольствие, которое вы можете получить, будучи одетым.
PM MAIL ICQ   Вверх
Tolik
Дата 8.6.2005, 13:17 (ссылка)    |    (голосов: 0) Загрузка ... Загрузка ... Быстрая цитата Цитата


Unregistered











Сами поисковые роботы пишуться на PHP и PERL, например: всеми известный яндекс, представляет собой смесь двух языков: php and perl.

А вот роботы, которые индексируют сайт, действительно поставленны под более мощные интерпритаторы, например Си.... Если индексацию производить методами php - То на эт о уйдёт немеренное колличество временни, даже трудно представить как какая-то php функция индексирует 6 миллионов сайтов, читает контектн с каждой страницы сайта и всё это "запихивает" в базу.

  Вверх
xolod
Дата 11.6.2005, 18:58 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Шустрый
*


Профиль
Группа: Участник
Сообщений: 148
Регистрация: 24.5.2005
Где: Когда: Что:

Репутация: 1
Всего: 13



Цитата(Tolik @ 8.6.2005, 13:17)
яндекс, представляет собой смесь двух языков: php and perl

Хм...

Цитата(Tolik @ 8.6.2005, 13:17)
более мощные интерпритаторы, например Си.

Еще более начал сомневаться

Цитата(Tolik @ 8.6.2005, 13:17)
индексацию производить методами php - То на эт о уйдёт немеренное колличество временни

Все, окончательно добили, Tolik

Теперь про первое:
Яндекс работает на C++ (распределенные вычисления, алгоритм нечеткого поиска по кворуму, учет морфологии русского и английского) и Perl (для запросов к движку и вывода информации)
и про второе:
С++ -- не интерпретатор
а так же про третее:
средства PHP -- есть средства C++ и написанного на нем движка Zend, если использовать Zend Optimizer никакого немеренного колличества временни не понадобиться.
PM MAIL   Вверх
simanyay
Дата 11.6.2005, 19:11 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Антон Ковалёв
****


Профиль
Группа: Участник
Сообщений: 2053
Регистрация: 22.8.2002

Репутация: нет
Всего: 36



А я уж думал, что про Яндекс на PHP все просто посмеются и промолчат smile

Цитата(xolod @ 11.6.2005, 20:58)
средства PHP -- есть средства C++ и написанного на нем движка Zend, если использовать Zend Optimizer никакого немеренного колличества временни не понадобиться.


Добавлю, что при правильном проектировании и реализации поиск по среднему сайту может успешно быть создан и без оптимизаторов PHP.


--------------------
«It's better to be a pirate than to join the Navy» — Steve Jobs.
PM MAIL WWW   Вверх
Irokez
Дата 11.6.2005, 19:23 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


индеец
***


Профиль
Группа: Участник Клуба
Сообщений: 1180
Регистрация: 20.10.2004

Репутация: 4
Всего: 53



Цитата(xolod @ 11.6.2005, 18:58)
средства PHP -- есть средства C++

если не ошибаюсь, то php на чистом c написан, а не на с++..
PM   Вверх
Mal Hack
Дата 11.6.2005, 19:34 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Мудрый...
****


Профиль
Группа: Участник Клуба
Сообщений: 9926
Регистрация: 15.2.2004

Репутация: 8
Всего: 261



Цитата(Tolik @ 8.6.2005, 14:17)
яндекс, представляет собой смесь двух языков: php and perl.

Я вот почему думаю, что у них используется свой Лебедевский Parser + XML + Perl...
PM ICQ   Вверх
simanyay
Дата 11.6.2005, 19:38 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Антон Ковалёв
****


Профиль
Группа: Участник
Сообщений: 2053
Регистрация: 22.8.2002

Репутация: нет
Всего: 36



Цитата(Mal @ 11.6.2005, 21:34)
Я вот почему думаю, что у них используется свой Лебедевский Parser + XML + Perl...


Даже сами Лебедевщики для более менее крупных проектов Parser не используют. Про Perl знаю, что используют, а для чего - не знаю. А XML + XSLT у них для вывода информации, если судить по их службам (Яндекс.Игры и т.д.)


--------------------
«It's better to be a pirate than to join the Navy» — Steve Jobs.
PM MAIL WWW   Вверх
Mal Hack
Дата 11.6.2005, 19:45 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Мудрый...
****


Профиль
Группа: Участник Клуба
Сообщений: 9926
Регистрация: 15.2.2004

Репутация: 8
Всего: 261



Цитата(simanyay @ 11.6.2005, 20:38)
Даже сами Лебедевщики для более менее крупных проектов Parser не используют.

А тогда смысл существования этог Parser'a?
PM ICQ   Вверх
simanyay
Дата 11.6.2005, 19:53 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Антон Ковалёв
****


Профиль
Группа: Участник
Сообщений: 2053
Регистрация: 22.8.2002

Репутация: нет
Всего: 36



Цитата(Mal @ 11.6.2005, 21:45)
А тогда смысл существования этог Parser'a?


А фиг его знает. Можно Лебедеву письмецо накатать, авось месяца через 2-3 ответит.

P.S. А на чём написана Imprimatur?


--------------------
«It's better to be a pirate than to join the Navy» — Steve Jobs.
PM MAIL WWW   Вверх
Irokez
Дата 11.6.2005, 19:56 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


индеец
***


Профиль
Группа: Участник Клуба
Сообщений: 1180
Регистрация: 20.10.2004

Репутация: 4
Всего: 53



Цитата(Mal @ 11.6.2005, 19:45)
А тогда смысл существования этог Parser'a?

свой язык для создания сайтов
PM   Вверх
xolod
Дата 11.6.2005, 21:39 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Шустрый
*


Профиль
Группа: Участник
Сообщений: 148
Регистрация: 24.5.2005
Где: Когда: Что:

Репутация: 1
Всего: 13



Irokez
Судя по исходному коду, расположенному на http://www.php.net/downloads.php на С++, да и с реализацией на просто С, если логически поразмыслить, возникли бы проблемы.

Цитата(Mal @ 11.6.2005, 19:45)
А тогда смысл существования этог Parser'a?

Продвижение студии, как бренда. Желание быстрого и удобного создания сайтов практически без заморочек. Язык то прост до безобразия, а возможностей довольно много.

Цитата(simanyay @ 11.6.2005, 19:53)
А на чём написана Imprimatur?

Кто ж ее знает. Она же закрыта для простых смертных...

А насчет C++/Perl -- друг работает на ООО "Яндекс", то есть сведения вполне достоверные.
PM MAIL   Вверх
simanyay
Дата 11.6.2005, 21:48 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Антон Ковалёв
****


Профиль
Группа: Участник
Сообщений: 2053
Регистрация: 22.8.2002

Репутация: нет
Всего: 36



Цитата(xolod @ 11.6.2005, 23:39)
А насчет C++/Perl -- друг работает на ООО "Яндекс", то есть сведения вполне достоверные.


Познакомь smile




--------------------
«It's better to be a pirate than to join the Navy» — Steve Jobs.
PM MAIL WWW   Вверх
xolod
Дата 11.6.2005, 22:25 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Шустрый
*


Профиль
Группа: Участник
Сообщений: 148
Регистрация: 24.5.2005
Где: Когда: Что:

Репутация: 1
Всего: 13



Что, на работу тудЫ захотелось? smile
Без проблем, в кафешке "Пластилин" (Москва) 14 будем. По твоему профилю проблематично определить город, но если ты в столице -- милости прошу. Познакомимся.
Конкретно договориться можно по электропочте pavel-skripkin[@]yandex.ru или xolod[@]fryazino.net.

Это сообщение отредактировал(а) xolod - 11.6.2005, 22:26
PM MAIL   Вверх
simanyay
Дата 11.6.2005, 22:31 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Антон Ковалёв
****


Профиль
Группа: Участник
Сообщений: 2053
Регистрация: 22.8.2002

Репутация: нет
Всего: 36



Цитата(xolod @ 12.6.2005, 00:25)
Что, на работу тудЫ захотелось? smile
Без проблем, в кафешке "Пластилин" (Москва) 14 будем. По твоему профилю проблематично определить город, но если ты в столице -- милости прошу. Познакомимся.
Конкретно договориться можно по электропочте pavel-skripkin[@]yandex.ru или xolod[@]fryazino.net.


С Трантора в Москву далёко лететь smile Ладно, будем с Гугловцами будем знакомиться. Хотя тоже далеко.
Добавлено @ 22:32
Цитата(simanyay @ 12.6.2005, 00:31)
Без проблем, в кафешке "Пластилин" (Москва) 14 будем.


Это вы на "100 дудликов" пойдёте? Эх жаль, что я не в Москве smile

Ладно, хватит флудить.


--------------------
«It's better to be a pirate than to join the Navy» — Steve Jobs.
PM MAIL WWW   Вверх
Master
Дата 16.6.2005, 10:40 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
***


Профиль
Группа: Участник Клуба
Сообщений: 1530
Регистрация: 13.5.2003
Где: Mother Russia

Репутация: нет
Всего: 10



ну яндекс конечно написан не на парсере smile
но например на http://www.parser.ru/powered_by_parser/ мона поглядеть что есть крупные проекты написаные на парсере, хотя мне он показался неудобным... я ещё тока с появления его 3 версии его поюзал пол годика и с ужасом перебрался обратно к родному ПхП smile


--------------------
Вавилон, Вавилон
Что ты построил, что разрушил?
Вавилон, Вавилон
Плавятся души дьявольским огнем.
PM WWW ICQ   Вверх
ИНВЕСТ
Дата 22.9.2005, 13:07 (ссылка)    |    (голосов: 0) Загрузка ... Загрузка ... Быстрая цитата Цитата


Unregistered











Почитал вашу писанину. Вроде люди вы не глупые. Можете скооперироваться и написать свой поиск, только не хуже Яндекса? Выслушаю ваши мнения на этот счет, в том числе конкретные предложения.
  Вверх
KLez
Дата 22.9.2005, 13:43 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Новичок



Профиль
Группа: Участник
Сообщений: 2
Регистрация: 22.9.2005

Репутация: нет
Всего: нет



Мы флеймели флеймели , так и никто не предложил конкретного ответа .Типа я написал, оцените .
PM MAIL   Вверх
MuToGeN
Дата 22.9.2005, 17:55 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Лесник
****


Профиль
Группа: Модератор
Сообщений: 4379
Регистрация: 15.8.2002
Где: Москва

Репутация: 4
Всего: 32



Цитата(KLez @ 22.9.2005, 13:43)
оцените
Что именно?


--------------------
Three pings for the token rings,
Five pings for the UNIX machines,
Hundred pings for the broken links,
One special ping to check them all
Through Simple Network Management Protocol!
PM MAIL ICQ   Вверх
Страницы: (2) [Все] 1 2 
Ответ в темуСоздание новой темы Создание опроса

Внимание: данный раздел предназначен для решения сложных, нестандартных задач.

 
0 Пользователей читают эту тему (0 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема | PHP: Для профи | Следующая тема »


 




[ Время генерации скрипта: 0.1308 ]   [ Использовано запросов: 22 ]   [ GZIP включён ]


Реклама на сайте     Информационное спонсорство

 
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности     Powered by Invision Power Board(R) 1.3 © 2003  IPS, Inc.