![]() |
|
Модераторы: Snowy, Poseidon, MetalFan |
![]()
|
|
| Mach3 |
|
|||
|
Бывалый ![]() Профиль Группа: Участник Сообщений: 158 Регистрация: 26.11.2005 Репутация: -1 Всего: 2 |
Привет...
Хочу написать программу, но не представляю алгоритм ее действий... Программа должна делать следующее: С сайта drom.ru загружать информацию о продаваемых машинах и сохранять в БД или в таблице Excel с последующей выборкой по заданным условиям... Практики работы с веб страницами небыло, поэтому не совсем понимаю какая последовательность действий программы должна быть... Поделитесь соображениями по этому поводу... И еще: где проще и лучше будет хранить эти данные? В БД или Excel? Заранее благодарен... Это сообщение отредактировал(а) Mach3 - 8.7.2008, 02:18 --------------------
Век живи - век учись... |
|||
|
||||
| Frees |
|
|||
![]() Эксперт ![]() ![]() ![]() ![]() Профиль Группа: Завсегдатай Сообщений: 2233 Регистрация: 2.12.2005 Где: Екатеринбург Репутация: нет Всего: 54 |
зависит от того как будеш пользовать эту информацию. я бы в базе хранил в ехель всегда можно экспортнуть а для начала просто попробуй скачать страницу с сайтагде лежит нужная информауия а уже попытаться разобрать HTML это 2 шаг для доступа к сайту используй indy -------------------- Кольцов Виктор Владимирович |
|||
|
||||
| Rodman |
|
|||
|
CIO ![]() ![]() ![]() ![]() Профиль Группа: Участник Сообщений: 6144 Регистрация: 7.5.2006 Где: Ukraine ⇛ Kyiv ci ty Репутация: нет Всего: 122 |
компонент
|
|||
|
||||
| Frees |
|
|||
![]() Эксперт ![]() ![]() ![]() ![]() Профиль Группа: Завсегдатай Сообщений: 2233 Регистрация: 2.12.2005 Где: Екатеринбург Репутация: нет Всего: 54 |
я бы скорее сказал для изъятия текста с сервера -------------------- Кольцов Виктор Владимирович |
|||
|
||||
| Mach3 |
|
|||
|
Бывалый ![]() Профиль Группа: Участник Сообщений: 158 Регистрация: 26.11.2005 Репутация: -1 Всего: 2 |
Т.е. сначала я загружаю страницу..
Потом парсирую.. Отсеиваю нужную мне информацию.. А как я буду загружать следующую страницу... 1,2,3,4... надо каждый раз вытаскивать ссылку из страницы ? Это сообщение отредактировал(а) Mach3 - 8.7.2008, 16:08 --------------------
Век живи - век учись... |
|||
|
||||
| Mach3 |
|
|||
|
Бывалый ![]() Профиль Группа: Участник Сообщений: 158 Регистрация: 26.11.2005 Репутация: -1 Всего: 2 |
Вернуло: --------------------------- <html><head><meta http-equiv="Content-Type" content="text/html; charset=windows-1251"></head><body><b><font color=red>Внимание!</font></b><p>Массовое скачивание страниц этого сайта специальными программами запрещено! Если вы попробуете обойти это ограничение, ваш IP-адрес может быть забанен на неопределенный срок!</body></html> --------------------------- Как быть? --------------------
Век живи - век учись... |
|||
|
||||
| Rodman |
|
|||
|
CIO ![]() ![]() ![]() ![]() Профиль Группа: Участник Сообщений: 6144 Регистрация: 7.5.2006 Где: Ukraine ⇛ Kyiv ci ty Репутация: нет Всего: 122 |
||||
|
||||
| Frees |
|
|||
![]() Эксперт ![]() ![]() ![]() ![]() Профиль Группа: Завсегдатай Сообщений: 2233 Регистрация: 2.12.2005 Где: Екатеринбург Репутация: нет Всего: 54 |
а есть способ работать с html как с xml?
или нужно самаму все парсить? Добавлено через 58 секунд Rodman, он имеет в виду может как быть с тем что ему угражают баном Добавлено через 2 минуты и 46 секунд прикинуться учздщкукщь. и выдерживать паузу перед скачиванием может и поможет -------------------- Кольцов Виктор Владимирович |
|||
|
||||
| Mach3 |
|
|||
|
Бывалый ![]() Профиль Группа: Участник Сообщений: 158 Регистрация: 26.11.2005 Репутация: -1 Всего: 2 |
А можно поподробнее? Как сервер определяет браузер ли посылает запрос? --------------------
Век живи - век учись... |
|||
|
||||
| Elfebet |
|
|||
![]() Опытный ![]() ![]() Профиль Группа: Участник Сообщений: 545 Регистрация: 15.5.2006 Где: Украина. Запорожь е. Репутация: нет Всего: 14 |
в компоненте TIdHTTP есть свойство UserAgent вот там ты можеш написать к примеру
и сервер будет считать что ты загрузил страницу с Internet Explorer 6.0 -------------------- Программист не должен всё знать... он должен знать где можно посмотреть |
|||
|
||||
| Frees |
|
|||
![]() Эксперт ![]() ![]() ![]() ![]() Профиль Группа: Завсегдатай Сообщений: 2233 Регистрация: 2.12.2005 Где: Екатеринбург Репутация: нет Всего: 54 |
ну тут надо подробнее выяснить как сервер определяет что ты робот. но это тебе в другой раздел форума.
-------------------- Кольцов Виктор Владимирович |
|||
|
||||
| Mach3 |
|
|||
|
Бывалый ![]() Профиль Группа: Участник Сообщений: 158 Регистрация: 26.11.2005 Репутация: -1 Всего: 2 |
Какую бы строку не пытался из StringStream засунуть в String выдаёт ошибку.. Что не так делаю? Может лучше/проще загружать в TStringList? --------------------
Век живи - век учись... |
|||
|
||||
![]()
|
| Правила форума "Delphi: Сети" | |
|
|
Запрещено: 1. Публиковать ссылки на вскрытые компоненты 2. Обсуждать взлом компонентов и делится вскрытыми компонентами
Если Вам помогли и атмосфера форума Вам понравилась, то заходите к нам чаще! С уважением, Snowy, Poseidon, MetalFan. |
| 0 Пользователей читают эту тему (0 Гостей и 0 Скрытых Пользователей) | |
| 0 Пользователей: | |
| « Предыдущая тема | Delphi: Сети | Следующая тема » |
|
|
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности Powered by Invision Power Board(R) 1.3 © 2003 IPS, Inc. |