Category: wget/curl

phantomjs – парсинг web с поддержкой js

    • (macbook, phamtomjs) На macook и ios можно запускать shortcuts, там писать код (ниже пример с выгрузкой страницы html с запуском js!) и автоматизировать запуск (на ios через сами shortcuts, на macbook через cron/shorty)
    crontsb -l
*/2 * * * * /Users/rpv/lesta_shortcut.sh
<br><br> Читать дальше

w3m

w3m bash.im – текстовый браузер. В теории можно серфить, на практике использовал только как-то с опцией –dump чтобы удалить все теги без каких-то sub/replace и прочих инструментов.

w3m -dump yandex.ru
<br><br> Читать дальше

PHP wget/curl

Для простых get-запросов достаточен file_get_contents, для чего-то более сложного рекомендуют использовать библиотеку curl. Примеры использования Curl можно взять тут.
Пример
Выгрузка содержимого страницы в php. Юзал fopen насколько помню, чтобы отдать URL с переменной нужно заменить скобки ” на “”.
<br><br> Читать дальше