AI Sustainability: How Microsoft, Google Cloud, IBM & Dell are Working on Reducing AI's Climate Harms
TechRepublic
[TechRepublic] AI 지속 가능성
생성형AI가 어마무시한 전력을 사용하고 있고, OpenAI의 한해 사용량이 미국전략 사용량과 맞먹다는 확인되지 않는 루머들도 있는 것이 사실이다. 이와 관련한 글로벌 빅테크 기업들의 기후 변화등의 개선에 대한 노력들을 공유해본다.
> 제너레이티브 AI는 얼마나 많은 에너지를 소비하며, 그 사용으로 인해 어떤 영향을 미칠 수 있을까?
Microsoft, 허깅 페이스, 앨런 AI 연구소 및 여러 대학의 연구팀이 2022년에 제안한 이 표준을 사용하여 8개의 NVIDIA V100 GPU에서 36시간 동안 소형 언어 트랜스포머 모델을 훈련하는 데 37.3kWh가 사용된다는 사실을 발견했다.
평균적으로 언어 모델 훈련은 1갤런의 가스를 사용하는 것과 비슷한 양의 이산화탄소를 배출한다. 이론적으로 큰 모델인 60억 개의 매개변수가 있는 언어 모델 중 일부만 훈련해도 가정에 1년 동안 전력을 공급하는 것과 같은 양의 이산화탄소가 배출된다
UC 리버사이드의 전기 및 컴퓨터 공학 부교수인 샤오레이 렌은 예일 환경 360과의 인터뷰에서 GPT-3와 10~50회 정도 대화할 때 담수 0.5리터가 소비된다고 말했다.
2024년 2월에 열린 보쉬 커넥티드월드 컨퍼런스에서 SpaceX와 테슬라의 엘론 머스크는 발전형 AI 칩이 전력 부족을 초래할 수 있다고 주장했다
> 거대 기술 기업들은 전력 사용 측면에서 AI의 지속가능성을 어떻게 해결하고 있을까?
Microsoft
Microsoft의 경우, 모든 데이터 센터와 시설에 100% 추가 재생 에너지로 전력을 공급하는 것이 목표 중 하나이다
또한 Microsoft는 재생 에너지 프로젝트와의 전력 구매 계약을 향후 5년에서 20년 동안 미리 설정된 에너지 가격으로 협상한다.
IBM
AI 모델의 '재활용'을 통해 지속 가능한 전력 사용 문제를 해결하고 있다.
처음부터 큰 모델을 학습시키는 대신 작은 모델을 '성장'시키는 기술로, MIT와 함께 개발했다. 즉, 올바른 데이터로 학습된 소규모 모델을 사용하는 것이 에너지 효율이 더 높으며 동일한 결과 또는 더 나은 결과를 얻을 수 있다
Google
자체 GPU에 액체 냉각을 활용하여 더 빠르게 실행할 수 있을 뿐만 아니라 훨씬 더 에너지 효율적이고 결과적으로 더 비용 효율적인 방식으로 실행한다.
소프트웨어를 사용하여 가동 시간을 관리한다
Google은 칩에서 매우 많은 연산을 실행하기 때문에 AI 작업당 평균 탄소 비용이 적다
> 거대 기술 기업들은 물 사용 측면에서 AI의 지속가능성을 어떻게 다루고 있을까?
Microsoft
Microsoft는 환경 보고서에서 제너레이티브 AI 프로세스를 따로 구분하지 않지만, 총 물 소비량이 2020년 4,196,461입방미터에서 2022년 6,399,415입방미터로 급증한 것으로 나타났다.
물 재활용, 재생수 사용, 공기 대 물 발전 및 단열 냉각과 같은 기술에 투자하는 등 물 보충 프로젝트를 계약했다.
IBM
IBM 연구 데이터 센터의 현대화 작업에는 냉각에 도움이 되는 지하 저수지가 포함될 예정이며, 일정 기간 동안 전력 공급이 중단될 수도 있다.
AI를 사용하여 IBM의 에너지 데이터를 캡처하고 분석하여 에너지 소비에 대한 관리를 하고 있다.
NVIDIA
환경 영향 대신 AI의 사회적 영향에 초점
개인 정보 보호법을 준수하고, 모델의 설계와 한계에 대한 투명성을 제공하며, 의도한 대로 안전하게 작동하고, 원치 않는 편견을 최대한 줄인 모델을 만들기 위해 노력한다
> 개선방안 제언
조직에서 발생하는 탄소 배출량을 측정, 추적, 이해하고 줄이는 것은 매우 중요하다.
조직의 탄소 데이터를 사전 예방적 의사 결정에 최대한 활용하려면 탄소 회계 소프트웨어와 데이터 인프라에 대한 팀과 기술 투자가 필요하다.
** 상세 내용은 원문을 참고해주세요~
원문: https://www.techrepublic.com/article/tech-giants-ai-sustainability/?utm_source=Sailthru&utm_medium=email&utm_campaign=e312_04.23.24_ICP_RMM&utm_term=daily-tech-insider-active
다음 내용이 궁금하다면?
이미 회원이신가요?
2024년 4월 23일 오전 8:23
댓글 0
함께 읽은 게시물
콜드메일, 견적 확인 그 이상입니다.
기
... 더 보기
제품팀이 실패율을 줄이기 위해 읽어야 할 단 한 권의 책이 있다면?📕
실
... 더 보기인코드 엔터테인먼트는 21일 “스틱벤처스, CJ인베스트먼트, SL인베스트먼트, 미래에셋벤처투자 등 클럽딜로 120억대 투자 계약을 체결했다”면서 “이를 토대로 향후 K팝과 K컬처를 주도하는 글로벌 종합 엔터사로 성장할 것”이라고 밝혔다.
... 더 보기2021년 출범한 이후 3년간 적자를 기록하던 토스증권은 지난해 처음으로 연간 흑자를 달성했다. 자기자본이 3000억원도 되지 않는 토스증권이 거둔 영업이익은 지난해 기준 1500억원에 달한다. 토스증권과 비슷한 수준의 영업이익을 거둔 대신증권(1374억원)의 자기자본은 3조원 이상, 교보증권(1677억원)의 자기자본은 2조원에 육박한다.
... 더 보기리더들을 패닉에 빠뜨리는 구역이 두 군데 있습니다. 바로, 잡플래닛과 블라인드죠. 뼈빠지게 노력하고 야근도 불사하며 조직운영을 위해 일하고 있는데, 올라온 글은 불만 밖에 없습니다. ‘좋게 좋게 생각하자, 좋은 피드백만 받을 순 없잖아. 이런 의견도 수용해서 발전해야지’라고 생각해도 가슴 깊숙한 곳에서 밀려오는 허무함과 허탈함은 어쩔 도리가 없습니다.
... 더 보기
