[영문기사 공부] 생성형 AI를 친환경적으로 만드는 방법 (上)

by Ajay Kumar and Tom Davenport / Harvard business review
July 20, 2023

 

생성형 AI를 친환경적으로 만드는 방법

대중들은 ChatGPT, BERT, LaMDA, GPT-3, DALL-E-2, MidJourney 및 Stable Diffusion과 같은 새로운 생성형 AI 도구의 능력에 감탄했지만, 이러한 모델의 숨겨진 환경 비용과 영향은 자주 간과됩니다. 이러한 시스템의 개발 및 사용은 엄청나게 에너지 집약적이고, 물리적 인프라를 유지하려면 전력 소비가 수반됩니다. 현재 이러한 도구는 이제 막 대중화되기 시작했지만 이러한 비용이 가까운 미래에 극적으로 증가할 준비가 되어있다고 생각하는 것이 합리적입니다.

정보 통신 기술 시스템을 저장하고 관리하도록 설계된 물리적 시설인, 데이터 센터 산업은 전 세계 온실 가스(GHG) 배출량의 2~3%를 차지합니다. 전 세계의 이러한 데이터 양은 2년마다 크기가 두 배로 늘어납니다.

 

생성형 AI를 친환경적으로 만드는 방법

잘 알려진 거의 모든 생성형 AI 모델은 주요 탄소 발자국을 생성하는 수천 대의 서버를 갖춘 "하이퍼스케일" 클라우드 공급자에 의해 생성됩니다. 특히 이러한 모델은 그래픽 처리 장치(GPU) 칩에서 실행됩니다. 현재 세 가지 주요 하이퍼 스케일 클라우드 공급자는 Amazon AWS, Google Cloud 및 Microsoft Azure입니다.

생성형 AI 모델의 탄소 발자국을 결정하는 요인은 무엇일까요? 대형 생성형 모델들은 에너지 사용 및 탄소 배출 측면에서 서로 동일하지 않습니다. ML(머신러닝) 모델의 탄소 발자국을 결정할 때 고려해야 하는 제각기의 세 가지 값들은 :

- 모델 학습으로 인한 탄소 발자국
- ML모델이 전개된 후 추론을 실행하는 탄소 발자국
- 필요한 모든 컴퓨팅 하드웨어 및 클라우드 데이터 센터 기능을 생산하는 데 필요한 탄소 발자국

 

생성형 AI를 친환경적으로 만드는 방법

학습 모델은 생성 AI에서 가장 에너지 집약적인 요소입니다. 일부 연구에 따르면 '미세 조정 학습'은 초기 학습보다 훨씬 적은 에너지와 컴퓨팅 성능을 소비합니다. 그러나 많은 기관이 미세 조정 접근 방식을 채택하고 자주 수행하면 전체 에너지 소비가 상당히 높아질 수 있습니다.

2011년 한 연구에서는 일반적인 랩톱 컴퓨터에서 사용되는 에너지의 70%가 제조 과정에서 발생하며 데스크톱 컴퓨터는 훨씬 더 높을 것이라고 추정했습니다. AI 모델을 실행하는 데 사용되는 복잡하고 강력한 GPU 칩과 서버는, 노트북과 데스크톱보다 훨씬 높을 것으로 보입니다.