Ну что GoogleEarth-то смотрели?

Основной форум пользователей GPS (Global Positioning System)
Правила форума
Для предотврашения спама первые сообщения вновь зарегистрированных пользователей проходят ручную премодерацию.
Bushman
Сообщения: 2841
Зарегистрирован: 15 июл 2002, 16:44

Re: 2 Bushman

Сообщение Bushman » 02 май 2006, 11:17

"Для колхозников" могу обрисовать общий смысл (требуется понимание HTTP 1.1):
Запускается анализатор IP-пакетов, который может подробно показать содержимое HTTP-запросов. Например, это можно посмотреть в Outpost Firewall с установленным HTTPLog в режиме полного отчета. Или поставить любой сниффер типа CommView, UltraSniffer, Iris. Далее - пускаем GoogleEarth и идем туда, где нам интересно, до макс. увеличения. Лазаем по интересующей территории. Далее - смотрим в логе запросов, какие файлики (я так понимаю, что от детальность зависит длина их имени) запрашивались, и запрашиваем эти же самые файлики чем-нибудь подходящим, имитируя ранее перехваченные запросы GoogleEarth.
А еще можно поставить кэширующий proxy-сервер между GE и собственно гуглом, и сохранять все, что будет запрошено.
Ну а дальше - задача привести скачанное в читаемый вид. 8)


A-4
Сообщения: 53
Зарегистрирован: 22 июн 2006, 21:44

Re:Злопамятность kh.google.com

Сообщение A-4 » 02 май 2006, 11:22

Скачивал hi-res tiles скриптом (сеанс не спиральный, а 100 матриц по 100 tiles, с паузами), таки через некоторое время пошло 403. Это надолго/навсегда?


A-4
Сообщения: 53
Зарегистрирован: 22 июн 2006, 21:44

Re: 2 Bushman

Сообщение A-4 » 02 май 2006, 11:39

В теме <i>Как устроен Google Maps</i> (<A HREF="http://www.gps-forum.ru/cgi-bin/forum/s ... Wladich</b> пишет 2005-12-17: <i>Эх, еще бы кто-нибудь рассказал, как шифруются jpg-и в Google Earth...</i> Возможно, он уже пробовал копаться в этом вопросе.

Bushman
Сообщения: 2841
Зарегистрирован: 15 июл 2002, 16:44

Re:Злопамятность kh.google.com

Сообщение Bushman » 02 май 2006, 11:42

Честно говоря - не имею понятия. Чтобы отследить, надо долго глядеть, что творится.
Возможно, у них существует какое-то дополнительное средство. Например, сессия обновляется раньше, чем истекает. В анализ топологии запрошенных данных не верится.
Вертятся идеи кэшировать запрошенные данные в том виде, в каком они приходят. А еще мне когда-то попадалось упоминание утилиты, которая тырит из видеопамяти текстуры. 8)


A-4
Сообщения: 53
Зарегистрирован: 22 июн 2006, 21:44

Re:Злопамятность kh.google.com

Сообщение A-4 » 02 май 2006, 12:47

Анализ топологии маловероятен, но вычислять какую-то signature (почерк) запросов можно.

Скорее всего, был превышен лимит количества/частоты TCP сеансов, т.к. использовался цикл с <i>wget ... -O tile_name ...</i>. Было взято 1.3 ГБ (это сравнимо с величинами, упоминаемыми в этой конференции), и теперь даже браузер imagery не показывает, только maps.

Текстуры в видеопамяти будут "после OpenGL" :-(



Wladich
Сообщения: 81
Зарегистрирован: 23 авг 2012, 13:23

Re:Злопамятность kh.google.com

Сообщение Wladich » 02 май 2006, 23:34

Таки мы всё еще maps.google.com обсуждаем? Тогда лечится только так: в браузере идем на адрес любого тайла, там нам говорят "403, вы робот, если не робот введите буковки с картинки". После чего в браузере уже работает. Следующая задача -- удалить куки из качалки (не помню точно, я кажется отключал и снова включал их в регете). После чего работает и в качалке. Но теперь 403 вылетает быстрее. Т.е. надо ставить совсем маленькую скорость -- мне кажется, что защита срабатывает на кол-во запросов в ед.времени, причем "единица" довольно длинная, порядка десятков минут.

Насчет тайлов с google earth -- да, смотрел сниффером -- с виду вылитые jpg-и, только зашифрованные -- у всех файлов одинаковое начало, по размеру оч.похоже на заголовок и таблицу jpg-a.


A-4
Сообщения: 53
Зарегистрирован: 22 июн 2006, 21:44

Re:Злопамятность kh.google.com

Сообщение A-4 » 03 май 2006, 17:56

Заработало. Браузер не использовал (вычислял url=f(lat,lon)), поэтому сразу и не сообразил куки посмотреть. <i>...у всех файлов одинаковое начало...</i> - а может это какая-то экономия, что-то типа "отпиливания" заголовков данных при переходе от маршрутизации к участку point-to-point? P.S. Нет ли ошибок в прямом/обратном преобразовании координат Google из статьи на <A HREF="http://great-zopuh.chat.ru">http://great-zopuh.chat.ru</A>? У меня "назад точно не попадает" и сдвиг на полрастра.

digger
Сообщения: 9
Зарегистрирован: 15 июн 2006, 00:45

Re: 2 Bushman

Сообщение digger » 03 май 2006, 21:24

А точно они в GE похожи именно на jpg-и? Не знаю, на что похожа "таблица jpg-a" (http://www.gps-forum.ru/cgi-bin/forum/s ... apsed&sb=5) и легко ли ее спутать с палитрой, но глядя "через GE" на поля вокруг Жулян (Киев, Украина) возникает стойкое впечатление, что ge-tiles нарисованы таки 256-цветовой палитрой. Показалось? Или это они изначально так отфильтрованы-обработаны?

digger
Сообщения: 9
Зарегистрирован: 15 июн 2006, 00:45

Re:Злопамятность kh.google.com

Сообщение digger » 03 май 2006, 21:51

Первый раз рубануло через 6 часов качания в 4 потока (Offline Explorer, маскирующийся под MSIE). После переключения на другой IP (совсем другой) оно меня "узнало" минут через 20. Видимо там какая-то эвристика с учетом количества запросов и чего-то вроде cookies или user-agent'а.
Вот уже 6 часов льется в 2 потока через третий IP. Экспериментируем дальше.

<i>с виду вылитые jpg-и, только зашифрованные</i>
А может заархивированные? Не даром же в директории google earth zlib.dll валяется.



Wladich
Сообщения: 81
Зарегистрирован: 23 авг 2012, 13:23

Re:Злопамятность kh.google.com

Сообщение Wladich » 04 май 2006, 14:56

>>>>с виду вылитые jpg-и, только зашифрованные >>А может заархивированные? Не даром же в директории google earth zlib.dll >>валяется. Всё, что дальше -- это догадки. Всё может быть, но мысль сжимать jpg-и довольно странная, а вот kml-и в самый раз. Насчет палитры -- тоже врядли: палитра как раз должна быть разной для разных тайлов, а начало (первые 626 байт) идентичные (сравнивал Москву и побережье Антарктиды). Для особо интересующихся: Вид запроса: (Request-Line):GET /flatfile?f1-013013322-i.35 HTTP/1.1 Accept:text/plain, text/html, text/xml, text/xml-external-parsed-entity, application/octet-stream, image/* Cookie:$Version="0"; SessionId="1IlzjgADEAEAAQAwjYKrjKwI/RDsFTdfckxf/cRhwyeOgAmSMKh0zmOQog8oGjXRMFMJVAO1f2W3RJiG"; State="1" User-Agent:kh_lt/LT3.0.0336 Host:kh.google.com Connection:Keep-Alive Примеры тайлов: <A HREF="http://rock-et-al.webhost.ru/temp/gresp ... br>mg1.jpg, mg2.jpg -- с maps.google.com ge1.bin, ge2.bin, ge4.bin -- из google earth Посмотрите в HEX-вьюере, может чего надумаете

Ответить

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 165 гостей