셀레니움은 이제 그만, Playwright로 네이버 뉴스 크롤링하기

웹 테스트와 자동화를 위한 프레임워크, Playwright. 

단순 반복업무인 웹크롤링(Crawling)에서도 Playwright는 강력한 성능을 발휘합니다. 

범용적인 브라우저 지원과, 불필요한 요소 로딩 생략까지 매우 다재다능한 도구입니다. 

본 포스팅에서는 Playwright의 기본 개념과 설치, 크롤링에 활용하는 예제를 다루고 있습니다.


[목차]

0. Playwright란? 

  1. Playwright 설치 

  2. 브라우저 켜기 

  3. 네이버 뉴스 크롤링 

  4. 결론



---

https://blog.hashscraper.com/playwright-web-browser-automation/

마이크로소프트 Playwright를 사용한 웹 브라우저 자동화 | Hashscraper-Blogㅣ해시스크래퍼 블로그

Hashscraper

마이크로소프트 Playwright를 사용한 웹 브라우저 자동화 | Hashscraper-Blogㅣ해시스크래퍼 블로그

더 많은 콘텐츠를 보고 싶다면?

또는

이미 회원이신가요?

2023년 11월 2일 오전 1:24

댓글 0

    함께 읽은 게시물

    《접근성, 누구라도 경험하는 가치》

    ... 더 보기

    ‘망했다’는 순간에 우주 제일의 기회가 있다

    - 아, 난 망한 것 같아. 이런 경력으로 어디 가겠어? - 이 나이에 이러고 있으면… 그냥 대충 살아야지 뭐 - 다들 너무 잘났는데… 난 정말 뭐하는 걸까 삶은 성장하지 않는 자에게 가차없이 쇠망치를 내려칩니다. 알을 깨지 않고 안주하는 자는, 쇠망치를 맞으며 자신이 망했다고 생각합니다. 난 포지션을 잘못 잡았고, 너무 나이가 많고, 이제 기회는 없고, 다들 너무 잘났고 뛰어나다고. 아 진짜 뭘 어떻게 해야되지? 아무짝에도 도움이 되지 않는 걱정은 미뤄두고 일단 치킨을 시킵니다. 넷플릭스를 켭니다. 게임을 시작합니다. 날카로웠던 정신은 무뎌지고, 살아났던 감각이 다시 죽어가죠. 한때 레이저를 쏟아대던 눈빛, 세상을 다 가졌던 표정은 이제 거울 반대편에서 좀비처럼 나를 응시하고 있을 뿐입니다. 그냥 대충 살아야지 뭐. 오늘은 저에게 개인적으로 큰 의미가 있는 날입니다. 5년전의 나, 10년전의 내가 읽었다면 큰 가치를 느꼈을 콘텐츠를 기획해서 발행한 날입니다. 제가 쓴 것은 아니지만, 커리어 여정에서 길을 잃은 사람에게 힘이 되어주는 지도가 있으면 좋겠다고 생각했습니다. 서문에 쓴 이야기는 다름 아닌 제 이야기이며, 이런 문... 더 보기

    Vanilla JS 사세여~

    조회 946


    초중고딩 어렸을 적 과학시간에 석유와 석탄이 만들어지는 원리와 과정을 배울 때마다 이해가 되지 않아서 그냥 외웠었다. 석유는 공룡을 비롯 동물이 죽어서 만들어지고 석탄은 식물이 죽어서 만들어진다고 배웠는데, 석탄이야 식물이 워낙 많았고 죽으면 자연스럽게 땅에 묻히니 그럴 수도 있겠다 이해가 되었지만, 석유는 아무리 생각해도 말이 안되었다. 동물이 화석이 될 확율이 극도로 낮다는 점을 생각하면 동물이 한꺼번에 같은 장소에서 갑자기 많이 죽어서 결국 석유까지 될 확율은 매장되어 있는 석유량을 볼 때 더 말이 안된다고 생각했기 때문이다. 그래서 배울 때마다 당시 과학선생님들께 이해가 안된다고 질문을 드렸으나 속시원한 답을 들어본 적은 없었다. 그렇게 10대에 그 궁금증을 묻고 지금까지 잊고 살았다. 그러다 우연히 생각나서 찾아보니...


    비행기가 나는 과학적 원리와 마찬가지로 과학자들조차 속 시원하게 설명하기 어려운 질문 중 하나라고 한다. 많은 학설 중 다수의 과학자와 전문가들이 동의하는 하나는 바다 미생물 이론인데, 이 이야기는 들으면서 고개가 끄덕여질 정도로 납득이 되더라.

    ... 더 보기

    간밤에 OpenAI가 오픈소스 모델을 발표했네요.

    ... 더 보기

    < 몇 번 졌는지는 중요하지 않다, 인생은 결국 득실차다 >

    1

    ... 더 보기

     • 

    댓글 1 • 저장 2 • 조회 825