메타, 유휴 추론 용량으로 광고 추천 강화
최근 30일 조회수 —좋아요 —핵심 요약
메타가 분산된 유휴 추론 자원을 활용해 안정성을 유지하며 광고 후보와 고성능 모델 적용을 확대했다.
메타가 추론 서버 곳곳에 일시적으로 남는 유휴 용량을 모아 광고 추천을 강화하는 시스템을 구축했다고 12일 밝혔다. 별도 설비를 주문하지 않고도 더 많은 광고 후보를 평가하거나 더 강력한 모델을 적용해 광고 관련성과 광고주 성과를 높이는 방식이다.1
추론 인프라는 전체 용량이 부족해도 시간대·지역·가속기 종류에 따라 일부 자원이 놀 수 있다. 최대 수요에 맞춘 설비와 실제 트래픽의 차이, 모델 개발과 장비 도입 시점의 불일치, 지역별 CPU·가속기 구성 차이, 하드웨어 간 호환성 제약 때문이다. 메타는 이렇게 흩어진 용량을 공동 기회 용량 풀로 묶었다.
시스템은 두 가지 방식으로 작업량을 조절한다. RMA(Rank More Ads)는 순위 결정 단계에서 평가할 광고 후보 수를 늘리고, SBM(Serve Better Models)은 요청 가운데 고성능 모델로 보내는 비율을 높인다. 기본 서비스용 용량은 물리적·논리적으로 분리하며, 각각의 피드백 제어와 서버·클라이언트 양쪽의 가치 기반 부하 차단으로 유휴 자원이 갑자기 회수돼도 선택 작업부터 줄인다. 메타는 이를 통해 기본 지연시간과 안정성을 보호하면서 광고 추론 작업을 용량 변화에 맞춰 확장·축소한다고 설명했다.
Footnotes
-
Meta Engineering, 「Turning Opportunistic AI Inference Capacity Into Better Ads Recommendations」 ↩
읽기 목록은 이 브라우저에 저장됩니다.
출처
- Turning Opportunistic AI Inference Capacity Into Better Ads Recommendations — Meta Engineering · 자료: 2026. 10. 13.
이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.