AI Sustainability: How Microsoft, Google Cloud, IBM & Dell are Working on Reducing AI's Climate Harms
TechRepublic
[TechRepublic] AI 지속 가능성
생성형AI가 어마무시한 전력을 사용하고 있고, OpenAI의 한해 사용량이 미국전략 사용량과 맞먹다는 확인되지 않는 루머들도 있는 것이 사실이다. 이와 관련한 글로벌 빅테크 기업들의 기후 변화등의 개선에 대한 노력들을 공유해본다.
> 제너레이티브 AI는 얼마나 많은 에너지를 소비하며, 그 사용으로 인해 어떤 영향을 미칠 수 있을까?
Microsoft, 허깅 페이스, 앨런 AI 연구소 및 여러 대학의 연구팀이 2022년에 제안한 이 표준을 사용하여 8개의 NVIDIA V100 GPU에서 36시간 동안 소형 언어 트랜스포머 모델을 훈련하는 데 37.3kWh가 사용된다는 사실을 발견했다.
평균적으로 언어 모델 훈련은 1갤런의 가스를 사용하는 것과 비슷한 양의 이산화탄소를 배출한다. 이론적으로 큰 모델인 60억 개의 매개변수가 있는 언어 모델 중 일부만 훈련해도 가정에 1년 동안 전력을 공급하는 것과 같은 양의 이산화탄소가 배출된다
UC 리버사이드의 전기 및 컴퓨터 공학 부교수인 샤오레이 렌은 예일 환경 360과의 인터뷰에서 GPT-3와 10~50회 정도 대화할 때 담수 0.5리터가 소비된다고 말했다.
2024년 2월에 열린 보쉬 커넥티드월드 컨퍼런스에서 SpaceX와 테슬라의 엘론 머스크는 발전형 AI 칩이 전력 부족을 초래할 수 있다고 주장했다
> 거대 기술 기업들은 전력 사용 측면에서 AI의 지속가능성을 어떻게 해결하고 있을까?
Microsoft
Microsoft의 경우, 모든 데이터 센터와 시설에 100% 추가 재생 에너지로 전력을 공급하는 것이 목표 중 하나이다
또한 Microsoft는 재생 에너지 프로젝트와의 전력 구매 계약을 향후 5년에서 20년 동안 미리 설정된 에너지 가격으로 협상한다.
IBM
AI 모델의 '재활용'을 통해 지속 가능한 전력 사용 문제를 해결하고 있다.
처음부터 큰 모델을 학습시키는 대신 작은 모델을 '성장'시키는 기술로, MIT와 함께 개발했다. 즉, 올바른 데이터로 학습된 소규모 모델을 사용하는 것이 에너지 효율이 더 높으며 동일한 결과 또는 더 나은 결과를 얻을 수 있다
Google
자체 GPU에 액체 냉각을 활용하여 더 빠르게 실행할 수 있을 뿐만 아니라 훨씬 더 에너지 효율적이고 결과적으로 더 비용 효율적인 방식으로 실행한다.
소프트웨어를 사용하여 가동 시간을 관리한다
Google은 칩에서 매우 많은 연산을 실행하기 때문에 AI 작업당 평균 탄소 비용이 적다
> 거대 기술 기업들은 물 사용 측면에서 AI의 지속가능성을 어떻게 다루고 있을까?
Microsoft
Microsoft는 환경 보고서에서 제너레이티브 AI 프로세스를 따로 구분하지 않지만, 총 물 소비량이 2020년 4,196,461입방미터에서 2022년 6,399,415입방미터로 급증한 것으로 나타났다.
물 재활용, 재생수 사용, 공기 대 물 발전 및 단열 냉각과 같은 기술에 투자하는 등 물 보충 프로젝트를 계약했다.
IBM
IBM 연구 데이터 센터의 현대화 작업에는 냉각에 도움이 되는 지하 저수지가 포함될 예정이며, 일정 기간 동안 전력 공급이 중단될 수도 있다.
AI를 사용하여 IBM의 에너지 데이터를 캡처하고 분석하여 에너지 소비에 대한 관리를 하고 있다.
NVIDIA
환경 영향 대신 AI의 사회적 영향에 초점
개인 정보 보호법을 준수하고, 모델의 설계와 한계에 대한 투명성을 제공하며, 의도한 대로 안전하게 작동하고, 원치 않는 편견을 최대한 줄인 모델을 만들기 위해 노력한다
> 개선방안 제언
조직에서 발생하는 탄소 배출량을 측정, 추적, 이해하고 줄이는 것은 매우 중요하다.
조직의 탄소 데이터를 사전 예방적 의사 결정에 최대한 활용하려면 탄소 회계 소프트웨어와 데이터 인프라에 대한 팀과 기술 투자가 필요하다.
** 상세 내용은 원문을 참고해주세요~
원문: https://www.techrepublic.com/article/tech-giants-ai-sustainability/?utm_source=Sailthru&utm_medium=email&utm_campaign=e312_04.23.24_ICP_RMM&utm_term=daily-tech-insider-active
다음 내용이 궁금하다면?
이미 회원이신가요?
2024년 4월 23일 오전 8:23
댓글 0
함께 읽은 게시물
방송이나 유튜브 보다보면 경제전문가라 말하는 하락론자와 비관론자가 판을 치는데, 최소 지난 수년, 더 나아가 20여년동안 매번 틀려도 여전히 전문가라고 말하고 다니는 걸 보면 재미있다.
모든 인간사가 그렇듯 인간은 믿고 싶은대로 믿는 존재라 그렇게 믿고 싶은 사람들의 감정적 지지를 받아 밥벌이하고 있다는 건 이해가 된다. 하지만 확율적으로 벌어지기 어려운 천재지변 수준의 사건으로 벌어지는 현상이나 전체 흐름에서 일시적으로 벌어지는 현상, 혹은 인간의 욕망과 본성이 외부적 요인으로 잠시 억눌린 상황에서 현실적 경험 없이 뇌피셜로 몇몇 논리적 근거만으로 설명되는 현상을 바탕으로 자산 가치 떨어지고 세상 망할 것처럼 이야기하는데, 결국 제대로 맞추지도 못하는 사람들을 여전히 추종하는 건 글쎄...
... 더 보기
