Получить страницу с Javascript в Python

Я хотел бы загрузить веб-страницу, сгенерированную Javascript, и сохранить ее в строковой переменной в Python. Страница создается при нажатии кнопки.

Если бы я знал результирующий URL, я бы использовал urllib2, но это не тот случай.

Благодарю вас

Ответ 1

Вы можете использовать Selenium Webdriver:

#!/usr/bin/env python
from contextlib import closing
from selenium.webdriver import Firefox # pip install selenium
from selenium.webdriver.support.ui import WebDriverWait

# use firefox to get page with javascript generated content
with closing(Firefox()) as browser:
     browser.get(url)
     button = browser.find_element_by_name('button')
     button.click()
     # wait for the page to load
     WebDriverWait(browser, timeout=10).until(
         lambda x: x.find_element_by_id('someId_that_must_be_on_new_page'))
     # store it to string variable
     page_source = browser.page_source
print(page_source)