Community

GPT-3 질문 20~50개당 물 500㎖ 소비한다고요? 😲

물 500㎖라고 하면 무척 적은 양 같지만, Chat GPT 한 달 사용자 수가 18억 명이예요. 전체 사용자 수를 고려하면 물 총소비량은 어마어마하겠죠. 지난 4월, 캘리포니아 리버사이드 대학교와 텍사스 알링턴 대학교의 연구원들은 이라는 논문에서 AI의 물 소비량 추정치를 발표했어요. 저자들은 GPT-3 훈련에 필요한 맑은 담수의 양이 원자로 냉각탑을 채우는 데 필요한 양과 같다는 사실을 발견했어요. [💧 왜 물먹는 챗봇일까?] 1️⃣ 데이터 센터 서버실은 섭씨 10도에서 26도 사이로 유지해야 하기 때문에 냉각탑을 설치하고 냉수를 증발시켜 온도를 유지해요. 2️⃣ 부식이나 박테리아 번식을 피하기 위해 깨끗한 담수를 사용할 수밖에 없어요. [🌡 데이터 센터 온도를 유지하는 이유는 무엇일까요?] 컴퓨터의 성능을 최대로 유지하기 위해서는 발열 관리가 필수예요. 열이 너무 많이 발생할 경우 컴퓨터의 구성 요소가 손상되고 시스템 전반의 처리 속도가 저하되는 등 성능에 문제가 나타날 수 있기 때문에 온도 유지가 중요해요. Google은 현재 북미 전역에 14개의 데이터 센터를 운영 중이라고 해요. 이 14개 데이터 센터가 Google 검색, 업무용 제품군, 대규모 언어 모델인 LaMDa 및 Bard를 구동해요. 구글 데이터 센터는 텍사스와 같은 더운 주에 위치해 있어 GPT-3보다 더 많은 물이 필요할 것으로 예상해요. [🤔 위 문제를 어떻게 해결할 수 있을까요?] 💡 AI 모델을 학습시키는 장소와 시기가 중요해요. 외부 온도는 데이터센터를 냉각하는 데 필요한 물의 양에 영향을 미칠 수 있어요. 💡 챗봇 사용자가 '물 효율이 좋은 시간대'에 챗봇을 사용하는 것을 선택할 수 있도록 해요. 💡AI 모델의 투명성을 높여, AI 모델이 언제 어디서 학습되는지 물 효율성 관련 정보를 공개해요. 💭 어떻게 하면 함께 위 문제를 해결할 수 있을까요? 여러분의 생각을 공유해 주세요. [💬 AI 분야에서 중요한 소식을 빠르게 듣고 싶어요!] 1. PM이 선별한 AI툴, AI트렌드, 쉬운 AI 활용하는 방법을 @tech_toolkit 인스타그램에서 매일 올리고 있어요. ➡️ t.ly/tech_toolkit 2. 매주 월요일 오전 8시 AI Ethics에 대해서 함께 생각할 수 있는 뉴스레터를 다양한 분야의 5명이 함께 만들고 있어요. ➡️ t.ly/aiethics

알림

알림이 없습니다