AI Sustainability: How Microsoft, Google Cloud, IBM & Dell are Working on Reducing AI's Climate Harms
TechRepublic
[TechRepublic] AI 지속 가능성
생성형AI가 어마무시한 전력을 사용하고 있고, OpenAI의 한해 사용량이 미국전략 사용량과 맞먹다는 확인되지 않는 루머들도 있는 것이 사실이다. 이와 관련한 글로벌 빅테크 기업들의 기후 변화등의 개선에 대한 노력들을 공유해본다.
> 제너레이티브 AI는 얼마나 많은 에너지를 소비하며, 그 사용으로 인해 어떤 영향을 미칠 수 있을까?
Microsoft, 허깅 페이스, 앨런 AI 연구소 및 여러 대학의 연구팀이 2022년에 제안한 이 표준을 사용하여 8개의 NVIDIA V100 GPU에서 36시간 동안 소형 언어 트랜스포머 모델을 훈련하는 데 37.3kWh가 사용된다는 사실을 발견했다.
평균적으로 언어 모델 훈련은 1갤런의 가스를 사용하는 것과 비슷한 양의 이산화탄소를 배출한다. 이론적으로 큰 모델인 60억 개의 매개변수가 있는 언어 모델 중 일부만 훈련해도 가정에 1년 동안 전력을 공급하는 것과 같은 양의 이산화탄소가 배출된다
UC 리버사이드의 전기 및 컴퓨터 공학 부교수인 샤오레이 렌은 예일 환경 360과의 인터뷰에서 GPT-3와 10~50회 정도 대화할 때 담수 0.5리터가 소비된다고 말했다.
2024년 2월에 열린 보쉬 커넥티드월드 컨퍼런스에서 SpaceX와 테슬라의 엘론 머스크는 발전형 AI 칩이 전력 부족을 초래할 수 있다고 주장했다
> 거대 기술 기업들은 전력 사용 측면에서 AI의 지속가능성을 어떻게 해결하고 있을까?
Microsoft
Microsoft의 경우, 모든 데이터 센터와 시설에 100% 추가 재생 에너지로 전력을 공급하는 것이 목표 중 하나이다
또한 Microsoft는 재생 에너지 프로젝트와의 전력 구매 계약을 향후 5년에서 20년 동안 미리 설정된 에너지 가격으로 협상한다.
IBM
AI 모델의 '재활용'을 통해 지속 가능한 전력 사용 문제를 해결하고 있다.
처음부터 큰 모델을 학습시키는 대신 작은 모델을 '성장'시키는 기술로, MIT와 함께 개발했다. 즉, 올바른 데이터로 학습된 소규모 모델을 사용하는 것이 에너지 효율이 더 높으며 동일한 결과 또는 더 나은 결과를 얻을 수 있다
Google
자체 GPU에 액체 냉각을 활용하여 더 빠르게 실행할 수 있을 뿐만 아니라 훨씬 더 에너지 효율적이고 결과적으로 더 비용 효율적인 방식으로 실행한다.
소프트웨어를 사용하여 가동 시간을 관리한다
Google은 칩에서 매우 많은 연산을 실행하기 때문에 AI 작업당 평균 탄소 비용이 적다
> 거대 기술 기업들은 물 사용 측면에서 AI의 지속가능성을 어떻게 다루고 있을까?
Microsoft
Microsoft는 환경 보고서에서 제너레이티브 AI 프로세스를 따로 구분하지 않지만, 총 물 소비량이 2020년 4,196,461입방미터에서 2022년 6,399,415입방미터로 급증한 것으로 나타났다.
물 재활용, 재생수 사용, 공기 대 물 발전 및 단열 냉각과 같은 기술에 투자하는 등 물 보충 프로젝트를 계약했다.
IBM
IBM 연구 데이터 센터의 현대화 작업에는 냉각에 도움이 되는 지하 저수지가 포함될 예정이며, 일정 기간 동안 전력 공급이 중단될 수도 있다.
AI를 사용하여 IBM의 에너지 데이터를 캡처하고 분석하여 에너지 소비에 대한 관리를 하고 있다.
NVIDIA
환경 영향 대신 AI의 사회적 영향에 초점
개인 정보 보호법을 준수하고, 모델의 설계와 한계에 대한 투명성을 제공하며, 의도한 대로 안전하게 작동하고, 원치 않는 편견을 최대한 줄인 모델을 만들기 위해 노력한다
> 개선방안 제언
조직에서 발생하는 탄소 배출량을 측정, 추적, 이해하고 줄이는 것은 매우 중요하다.
조직의 탄소 데이터를 사전 예방적 의사 결정에 최대한 활용하려면 탄소 회계 소프트웨어와 데이터 인프라에 대한 팀과 기술 투자가 필요하다.
** 상세 내용은 원문을 참고해주세요~
원문: https://www.techrepublic.com/article/tech-giants-ai-sustainability/?utm_source=Sailthru&utm_medium=email&utm_campaign=e312_04.23.24_ICP_RMM&utm_term=daily-tech-insider-active
다음 내용이 궁금하다면?
이미 회원이신가요?
2024년 4월 23일 오전 8:23
댓글 0
함께 읽은 게시물
“똑같이 출근하는데 더 즐거울 수 있다는 것, 그게 조직문화이자 일하는 방법이거든요. 월급 받으려고 회사에 가는 사람과, 월급 때문에 다니긴 하지만 일하는 게 재미있어서 회사 가는 사람은 완전히 다른 퍼포먼스를 보여준다고 봐요. 그걸 어떻게 만들어 낼 수 있느냐가 ‘즐겁게’라는 단어의 핵심일 거예요.” <일하는 사람의 생각> 中
... 더 보기![[HR인사이트] 박웅현이 말하는 ‘직원을 회사의 팬으로 만들기’](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
우수인재 확보를 위한 기업 간 경쟁에서 이기기 위해서는 채용 브랜드를 강화해야 한다. 하지만 인재가 오는 것만 기다릴 수는 없다. 어떻게든 기존 구성원들을 육성하여 역량 수준을 높이지 않으면 안 된다. 우리 기업의 인재육성 투자는 과연 충분한 수준일까?
... 더 보기
