[TechRepublic] AI 지속 가능성

생성형AI가 어마무시한 전력을 사용하고 있고, OpenAI의 한해 사용량이 미국전략 사용량과 맞먹다는 확인되지 않는 루머들도 있는 것이 사실이다. 이와 관련한 글로벌 빅테크 기업들의 기후 변화등의 개선에 대한 노력들을 공유해본다. > 제너레이티브 AI는 얼마나 많은 에너지를 소비하며, 그 사용으로 인해 어떤 영향을 미칠 수 있을까? * Microsoft, 허깅 페이스, 앨런 AI 연구소 및 여러 대학의 연구팀이 2022년에 제안한 이 표준을 사용하여 8개의 NVIDIA V100 GPU에서 36시간 동안 소형 언어 트랜스포머 모델을 훈련하는 데 37.3kWh가 사용된다는 사실을 발견했다. * 평균적으로 언어 모델 훈련은 1갤런의 가스를 사용하는 것과 비슷한 양의 이산화탄소를 배출한다. 이론적으로 큰 모델인 60억 개의 매개변수가 있는 언어 모델 중 일부만 훈련해도 가정에 1년 동안 전력을 공급하는 것과 같은 양의 이산화탄소가 배출된다 * UC 리버사이드의 전기 및 컴퓨터 공학 부교수인 샤오레이 렌은 예일 환경 360과의 인터뷰에서 GPT-3와 10~50회 정도 대화할 때 담수 0.5리터가 소비된다고 말했다. * 2024년 2월에 열린 보쉬 커넥티드월드 컨퍼런스에서 SpaceX와 테슬라의 엘론 머스크는 발전형 AI 칩이 전력 부족을 초래할 수 있다고 주장했다 > 거대 기술 기업들은 전력 사용 측면에서 AI의 지속가능성을 어떻게 해결하고 있을까? * Microsoft * Microsoft의 경우, 모든 데이터 센터와 시설에 100% 추가 재생 에너지로 전력을 공급하는 것이 목표 중 하나이다 * 또한 Microsoft는 재생 에너지 프로젝트와의 전력 구매 계약을 향후 5년에서 20년 동안 미리 설정된 에너지 가격으로 협상한다. * IBM * AI 모델의 '재활용'을 통해 지속 가능한 전력 사용 문제를 해결하고 있다. * 처음부터 큰 모델을 학습시키는 대신 작은 모델을 '성장'시키는 기술로, MIT와 함께 개발했다. 즉, 올바른 데이터로 학습된 소규모 모델을 사용하는 것이 에너지 효율이 더 높으며 동일한 결과 또는 더 나은 결과를 얻을 수 있다 * Google * 자체 GPU에 액체 냉각을 활용하여 더 빠르게 실행할 수 있을 뿐만 아니라 훨씬 더 에너지 효율적이고 결과적으로 더 비용 효율적인 방식으로 실행한다. * 소프트웨어를 사용하여 가동 시간을 관리한다 * Google은 칩에서 매우 많은 연산을 실행하기 때문에 AI 작업당 평균 탄소 비용이 적다 > 거대 기술 기업들은 물 사용 측면에서 AI의 지속가능성을 어떻게 다루고 있을까? * Microsoft * Microsoft는 환경 보고서에서 제너레이티브 AI 프로세스를 따로 구분하지 않지만, 총 물 소비량이 2020년 4,196,461입방미터에서 2022년 6,399,415입방미터로 급증한 것으로 나타났다. * 물 재활용, 재생수 사용, 공기 대 물 발전 및 단열 냉각과 같은 기술에 투자하는 등 물 보충 프로젝트를 계약했다. * IBM * IBM 연구 데이터 센터의 현대화 작업에는 냉각에 도움이 되는 지하 저수지가 포함될 예정이며, 일정 기간 동안 전력 공급이 중단될 수도 있다. * AI를 사용하여 IBM의 에너지 데이터를 캡처하고 분석하여 에너지 소비에 대한 관리를 하고 있다. * NVIDIA * 환경 영향 대신 AI의 사회적 영향에 초점 * 개인 정보 보호법을 준수하고, 모델의 설계와 한계에 대한 투명성을 제공하며, 의도한 대로 안전하게 작동하고, 원치 않는 편견을 최대한 줄인 모델을 만들기 위해 노력한다 > 개선방안 제언 * 조직에서 발생하는 탄소 배출량을 측정, 추적, 이해하고 줄이는 것은 매우 중요하다. * 조직의 탄소 데이터를 사전 예방적 의사 결정에 최대한 활용하려면 탄소 회계 소프트웨어와 데이터 인프라에 대한 팀과 기술 투자가 필요하다. ** 상세 내용은 원문을 참고해주세요~ * 원문: https://www.techrepublic.com/article/tech-giants-ai-sustainability/?utm_source=Sailthru&utm_medium=email&utm_campaign=e312_04.23.24_ICP_RMM&utm_term=daily-tech-insider-active