[영문기사 공부] 생성형 AI를 친환경적으로 만드는 방법 (中)

by Ajay Kumar and Tom Davenport / Harvard business review
July 20, 2023

생성형 AI를 친환경적으로 만드는 방법

AI 모델링, 배포, 사용을 더 친환경적으로 지속 가능하게 만들려는 움직임이 있습니다. 이것의 목표는 전력 소모가 많은 방식을 보다 적합하고 환경을 고려한 방식으로 대체하는 것입니다. 환경에 해를 끼치지 않고 광범위하게 배포할 수 있도록 AI 알고리즘을 친환경적으로 만들기 위해서는, 공급자와 사용자 모두의 변화가 필요합니다. 특히 생성형 모델은 높은 에너지 소비를 감안하여 더 널리 보급되기 전에 친환경적으로 변해야 합니다. 우리는 AI와 생성형 AI가 이러한 방향으로 이끌 수 있는 여러 가지 방법을 알고 있으며 아래에서 설명할 것입니다.

 

생성형 AI를 친환경적으로 만드는 방법

기존의 대형 생성 모델을 사용하고 직접 생성하는 것을 지양하세요. 대규모 언어 및 이미지 모델을 제공하는 업체는 이미 많이 있으며 앞으로 더 많아질 것입니다. 그것들을 만들고 훈련시키는 데는 엄청난 양의 에너지가 필요합니다. 대형 공급업체나 클라우드 제공업체가 아닌 다른 회사는 처음부터 자체 대형 모델을 생성할 필요가 거의 없습니다. 그들은 이미 클라우드에서 필요한 교육 데이터와 방대한 양의 컴퓨팅 기능에 액세스 할 수 있으므로 이를 획득할 필요가 없습니다.

 

생성형 AI를 친환경적으로 만드는 방법

기존 모델을 미세 조정하십시오. 회사가 자체 콘텐츠에 대해 학습된 생성 모델을 원하는 경우 처음부터 모델 학습을 시작할 것이 아니라 기존 모델을 개선해야 합니다. 특정 콘텐츠 도메인에 대한 미세 조정 및 신속한 교육은 처음부터 새로운 대형 모델을 교육하는 것보다 훨씬 적은 에너지를 소비합니다. 또한 일반적으로 훈련된 모델보다 많은 비즈니스에 더 높은 가치를 제공할 수 있습니다. 이는 자체 콘텐츠에 대한 생성 모델을 채택하려는 회사의 주요 초점이 되어야 합니다.

 

생성형 AI를 친환경적으로 만드는 방법

에너지 절약 계산법을 사용하세요. 생성형 AI 에너지 소비를 줄이는 또 다른 접근 방식은 TinyML과 같이 계산 비용이 덜 드는 접근 방식을 사용하여 데이터를 처리하는 것입니다. TinyML 프레임워크를 사용하면 대역폭 요구 사항이 낮은 마이크로 컨트롤러처럼 소형 저전력 엣지 장치에서 ML(머신러닝) 모델을 실행할 수 있습니다(처리를 위해 데이터를 서버로 보낼 필요 없음). 일반 CPU는 평균 70와트의 전력을 소비하고 GPU는 400와트의 전력을 소비하는 반면, 작은 마이크로 컨트롤러는 데이터를 데이터 서버로 보내지 않고 국소적으로 처리하는 것에 수천 마이크로와트(1000분의 1 전력)만 소비합니다.