그린 컴퓨팅 및 지속 가능한 엔지니어링

지속 가능한 엔지니어링은 Slide Creator의 핵심 분야입니다. 우리는 효율적인 코드가 그린 코드라고 믿습니다. 우리의 "그린 컴퓨팅" 이니셔티브는 Python의 첫 번째 라인부터 추론 클러스터의 최종 GPU 명령까지 전체 소프트웨어 수명주기를 최적화하는 데 중점을 둡니다.

1. 효율적인 모델 아키텍처

AI가 환경에 미치는 가장 큰 영향은 모델 크기에서 비롯됩니다. 우리는 다음을 통해 "모델 팽창"에 맞서 싸우고 있습니다.

증류:우리는 대규모 고에너지 교사 모델을 사용하여 10%의 에너지 비용으로 95%의 정확도로 레이아웃 작업을 수행하는 소형의 고효율 "학생" 모델을 교육합니다.

희소 활성화:우리의 최신 엔진은 희소 주의 메커니즘을 활용합니다. 즉, 특정 설계 작업에 필요한 뉴런만 "발동"하여 추론 중에 엄청난 양의 컴퓨팅을 절약합니다.

2. 인프라 최적화

우리는 2025년까지 100% 재생 가능 에너지 사용을 약속하는 클라우드 제공업체와만 파트너십을 맺고 있습니다. 제공업체를 넘어 우리는 다음과 같이 사용량을 최적화합니다.

자동 확장 클러스터:추론 클러스터는 유휴 에너지 소비를 방지하기 위해 사용량이 적은 시간(예: 각 지역의 오전 3시) 동안 0으로 축소됩니다.

Arm 기반 컴퓨팅:우리는 GPU가 아닌 워크로드를 기존 x86 아키텍처보다 최대 40% 향상된 와트당 성능을 제공하는 Arm 기반 프로세서(예: AWS Graviton)로 마이그레이션하고 있습니다.

3. 그린 소프트웨어 엔지니어링 원칙

우리 개발자들은 다음을 따릅니다.그린소프트웨어공학의 원리:

탄소 강도 인식:우리의 CI/CD 파이프라인은 로컬 그리드에서 탄소 강도가 낮은 시간 동안 대규모 테스트를 실행하고 프로세스를 구축하도록 구성되었습니다.

데이터 전송 최소화:우리는 모든 설계 자산과 모델 가중치에 고급 압축을 사용하여 네트워크를 통해 데이터를 이동하는 데 드는 에너지 비용을 줄입니다.

에너지 비례:우리는 시스템에서 소비하는 에너지가 사용자에게 전달되는 가치에 비례하도록 노력합니다.

4. 하드웨어 수명주기 및 전자 폐기물

우리는 AI를 구동하는 하드웨어가 결국 전자 폐기물이 된다는 것을 알고 있습니다.

파트너 심사:우리는 강력한 하드웨어 재활용 및 순환 경제 프로그램을 통해 데이터 센터 파트너를 우선시합니다.

서버 수명:상당한 성능 손실 없이 이전 GPU 세대에서 실행되도록 코드를 최적화함으로써 하드웨어의 유효 수명을 연장하고 새로운 제조에 대한 수요를 줄입니다.

5. 직원 환경 영향

그린 컴퓨팅은 우리 팀까지 확장됩니다. Slide Creator는 40명 이상의 직원이 매일 출퇴근하는 데 따른 탄소 비용을 없애는 원격 우선 기업입니다. NYC 본사에서 만날 때 우리는 종이 없는 사무실을 운영하고 모든 직원을 위해 에너지 효율적인 하드웨어를 활용합니다.

우리의 기후 목표에 대한 자세한 내용은 다음을 참조하세요.기후 약속.