Перейти к содержимому













Фотография
Скачать

Ide для создания скриптов для парсинга на основе phantomjs+casperjs



  • Авторизуйтесь для ответа в теме
Сообщений в теме: 8

#1 modi34

modi34
  • Сливапер LVL 5
  • Сообщений: 77
  • Регистрация: 30.08.2014
  • Заработано: 0 руб.
Репутация: 118

Награды: 12

  
  
  
  
  
  
  
  

Отправлено 16 Сентябрь 2014 - 08:27

Цена продажника: 9$
Ссылка на продажник: https://gumroad.com/l/casperjside

 
Описание программы:

описание что есть что

 

Очень часто вижу тут дорогие скрипты, программы для парсинга и скрапинга контента, но мало кто знает что самая крутая штука для скрапинга (сохранения инфы из интернета у себя на компьютере) являются такие бесплатные опен серс скрипты как phantomjs и slimerjs с дополнением  в виде фреймворка casperjs. Phantom и slimer по сути являются полноценными браузерами, которые работают на основе js скрипта который вы должны написать - возможности неограниченные... хотите выкачивайте любой контент с любых сайтов, хотите регайтесь на сайтах, хотите запускайте тесты любой сложности итп... можно все что захотите - единственная сложность нужны базовые знания js и английский тоже не будет лишним для чтения апи... Разница между этими двумя скриптами в том какой двиок браузера они используют - один работает на webkit (phantom) и второй на gecko (slimer - многие справедливо считают что js движок мозилы лучше). Casperjs объединяет оба проекта единым удобным апи с кучей крутых функций.

 

чем то это штука похожа на знаменитый плагин для firefox imacros, но гораздо круче... например прямо сейчас я выкачиваю все курсы одного поп сайта (что-то около 600 видео в .mp4) - общий вес видимо больше 30 гигов будет, там все видео описания и доп материалы. все что я сделал это написал скрипт и запустил - он сам все качает раскладывает по папкам, которые сам создает и сам переименовывает папки и файлы... Перед скачкой каждого курса скрипт логинится на сайте где нужно что-то скачать... и самое крутое он вообще не напрягает мой компьютер тк я прописал грузить html но не обрабатывать его...

 

Описание раздачи

Написание подобных скриптов может быть не таким простым как кажется тк не все очевидно и до много приходится доходить методом проб и ошибок и запускать и тестировать скрипты в командной строке, редакторе итп не очень удобно. Для облегчения процесса написания подобных вещей был создан сайт https://www.casperbox.com/  и тк онлайн сервисы не вызывают доверия у людей которые понимают как они работают была создана версия этого сайта для компьютеров на основе node-webkit, что означает что эта прога работает и в windows и в linux и  в os x - ей я и делюсь с вами.

 

С огромным удовольствием пощу это тут тк прога на основе node-webkit и по моему мнению программы на основе node-webkit  обязаны быть 100% бесплатными, но купить все же пришлось)

 

 

Скачать:

Скрытый контент:

  Для просмотра содержимого необходимо 9 очков репутации (вам не хватает 9)

 Скачать без ограничений   Купить этот материал за 390 руб.


Сообщение отредактировал modi34: 30 Январь 2015 - 19:54

  • 4

#2 RusZarj

RusZarj
  • Сливапер LVL 6
  • Сообщений: 1 398
  • Регистрация: 27.01.2014
  • Заработано: 103 руб.
Репутация: 755

Награды: 24

  
  
  
  
  
  
  
  

Отправлено 16 Сентябрь 2014 - 09:03

Кинь простые примеры регистраций например, где есть инпут, чекбокс и капча. 


  • 0

#3 modi34

modi34
  • Сливапер LVL 5
  • Сообщений: 77
  • Регистрация: 30.08.2014
  • Заработано: 0 руб.
Репутация: 118

Награды: 12

  
  
  
  
  
  
  
  

Отправлено 16 Сентябрь 2014 - 09:11

Кинь простые примеры регистраций например, где есть инпут, чекбокс и капча. 

вот пример капчи с декодером - https://github.com/nikicat/fetchraif   - я лично с капчей пока не работал...

// ! script start
casper.start(site+'/library/topic:'+topic, function() {
    // loging in
    this.fill('form#new_user_session', {
        'user_session[email]':       email,
        'user_session[password]':    password,
    }, true);
    this.echo( "loged in" );
});

вот кусок кода из моего скрипта для логинки...

 

регистрации у меня тоже нет)) я недавно casper освоил но она по тому же принципу...


Сообщение отредактировал modi34: 16 Сентябрь 2014 - 09:27

  • 0

#4 zxpro

zxpro
  • Сливапер LVL 4
  • Сообщений: 180
  • Регистрация: 01.12.2013
  • Заработано: 1 руб.
Репутация: 66

Награды: 11

  
  
  
  
  
  
  
  

Отправлено 16 Сентябрь 2014 - 10:24

что за поп сайт?

можно пример скрипта?


  • 0

#5 modi34

modi34
  • Сливапер LVL 5
  • Сообщений: 77
  • Регистрация: 30.08.2014
  • Заработано: 0 руб.
Репутация: 118

Награды: 12

  
  
  
  
  
  
  
  

Отправлено 16 Сентябрь 2014 - 10:41



что за поп сайт?

можно пример скрипта?

да, можно, но я в нем не до конца уверен еще - кривоват местами и лучше наверное можно сделать... как минимум рефакторинг провести)

 

Скрытый контент:

  Для просмотра содержимого необходимо 5 очков репутации (вам не хватает 5)

 Скачать без ограничений   Купить этот материал за 390 руб.

 
в целом я планирую курсы от туда сюда выложить чуть позже... но если мой кривой код кому полезен будет буду рад)))
 
я заметил что народ удеми интересуется - в скором времени я для удеми скриптик запилю и в node-webkit оберну))) там будет просто форма с ссылкой на курс логином и паролем и скрипт все выкачает что найдет))

Сообщение отредактировал modi34: 16 Сентябрь 2014 - 10:43

  • 3

#6 sergTigra1982

sergTigra1982
  • Сливапер LVL 5
  • Сообщений: 808
  • Регистрация: 01.06.2014
  • Заработано: 55 руб.
Репутация: 346

Награды: 21

  
  
  
  
  
  
  
  

Отправлено 25 Сентябрь 2014 - 10:23

Плюс, слежу за темой)


  • 0

#7 modi34

modi34
  • Сливапер LVL 5
  • Сообщений: 77
  • Регистрация: 30.08.2014
  • Заработано: 0 руб.
Репутация: 118

Награды: 12

  
  
  
  
  
  
  
  

Отправлено 25 Сентябрь 2014 - 16:48

Обновил ссылки

25.09.14 - обновление с 0.1.0 до 0.3.1, к сожалению от разраба нет норм описания...

все что написал разраб: добавился autocompleteon по api casperjs 'Ctrl + Space' или 'Alt + Space' чтобы включить...

2014_09_25_17_55_58.png

после выбора вставляется снипет с демо параметрами. В целом очень удобно + появились оповещения об ошибках и предупреждения, подсказки в процессе написания кода

2014_09_25_17_59_22.png


Сообщение отредактировал modi34: 25 Сентябрь 2014 - 17:05

  • 0

#8 lovelymateinthesky

lovelymateinthesky
  • Сливапер LVL 5
  • Сообщений: 279
  • Регистрация: 22.10.2014
  • Заработано: 9 руб.
Репутация: 297

Награды: 13

  
  
  
  
  
  
  
  

Отправлено 30 Январь 2015 - 01:48

Обновите ссылку пожалуйста.


  • 0

#9 modi34

modi34
  • Сливапер LVL 5
  • Сообщений: 77
  • Регистрация: 30.08.2014
  • Заработано: 0 руб.
Репутация: 118

Награды: 12

  
  
  
  
  
  
  
  

Отправлено 30 Январь 2015 - 20:11

Обновите ссылку пожалуйста.

обновил ссылки - добавил последнюю доступную версию 0.4.0 - там из нового автокомплит и несколько фиксов


  • 0



Похожие темы Collapse

  Название темы Форум Автор Статистика Последнее сообщение

Количество пользователей, читающих эту тему: 1

0 пользователей, 1 гостей, 0 анонимных

×

Зарегистрируйся моментально!