최신 AI 뉴스를 한눈에.

LooseLeaf: 컴퓨팅 노트북을 위한 서버리스 GPU 지원

arXiv:2610.33275v1 발표 유형: 신규 초록: 컴퓨팅 노트북은 세션 전체 동안 GPU를 할당하지만, GPU는 셀이 실행되는 동안에만 계산을 수행하고 그 외에는 대기 상태로 남아 있습니다. 서버리스 실행 방식에서는 셀 간에 GPU를 해제할 수 있지만, 새로 생성된 워커에서 누적된 노트북 상태를 다시 구축하는 과정은 각 GPU 셀마다 상당한 비용을 초래합니다. 본 논문에서는 대화형 노트북을 위한 서버리스 GPU 플랫폼인 LooseLeaf를 제안합니다. LooseLeaf는 각 셀의 상태와 import 클로저를 추출하며, 해당 셀이 필요로 하는 최소한의 변수와 패키지를 파악합니다. 실제 세계의 노트북 5,000개를 대상으로 한 분석 결과, 이러한 클로저는 크기가 작으며, 사용자가 셀을 편집하는 데에도 이를 준비하는 데 몇 초밖에 걸리지 않는 것으로 나타났습니다. LooseLeaf는 사용자가 셀을 편집하는 동안 이러한 클로저를 포함한 GPU 워커를 미리 준비합니다. 실행 후, 워커는…

클라우드의 LLM: 아키텍처, 오케스트레이션 및 추론에 관한 논의

arXiv:2610.33475v1 발표 유형: 신규 초록: 클라우드 데이터센터 전반에 걸쳐 기반 대규모 언어 모델(LLM)이 광범위하게 배치됨에 따라, 무상태 딥러닝에서 분산형 메모리 집약적 생성 워크로드로의 근본적인 패러다임 전환이 이루어지고 있다. 그러나 엄격한 서비스 수준 목표(SLO) 하에서 대규모 기반 모델을 서비스하는 과정에서는 중요한 물리적 및 시스템 병목 현상이 드러난다. 이러한 과제에는 지속적인 고대역폭 메모리(HBM) 장벽, 연산 중심의 프리필링과 메모리 대역폭 중심의 디코딩 간의 운영 비대칭성, 폭발적으로 증가하는 키-값(KV) 캐시, 부담스러운 서버리스 콜드 스타트, 그리고 하드웨어 신뢰성 취약점 등이 포함된다. 기존 문헌 리뷰들은 여전히 계층별로 분리되어 있어, 저수준 가속기 가상화와 클러스터를 서로 분리하고 있다.

듀얼페이스: LLM 서비스를 위한 분리형 스케줄링 및 협력적 GPU–CPU 디코딩

arXiv:2610.33501v1 발표 유형: 신규 초록: 대규모 언어 모델(LLM) 서비스는 추론 처리량을 높이기 위해 배치 처리에 의존하지만, 키-값(KV) 캐시는 시퀀스 길이와 함께 증가하여 GPU 상주 동시성을 제한한다. CPU 오프로드를 통해 호스트 메모리를 활용하면 KV 용량을 확장할 수 있지만, 기존 시스템은 여전히 대부분 GPU 중심으로 작동한다: CPU 상주 요청은 GPU 스케줄러가 적절한 겹침 기회를 제공할 때에만 진행된다. 그 결과, 호스트 메모리와 CPU 연산은 독립적인 서비스 자원으로 작용하지 못하며, 이로 인해 부하 하에서 CPU 측 진행이 간헐적으로 발생하고 꼬리 부분의 토큰 간 지연(ITL)이 부풀어 오르게 된다. 우리는 호스트를 독립적으로 스케줄링되는 디코딩 엔진으로 전환하는 LLM 서비스 런타임인 DualPace를 제안한다. DualPace는 두 개의 엔진 간에 스케줄링 권한을 분리한다: GPU 엔진

앤타로픽은 AI 붐을 뒷받침하기 위해 가스를 연소하고 있다

상장 준비를 앞두고, 앤트로픽의 S-1 서류는 생성형 AI가 메탄에 의존하고 있음을 여실히 드러냅니다. “전력 공급과 충분한 전력 가용성을 갖춘 데이터센터 입지 확보를 둘러싼 경쟁은 치열합니다.” 월요일 미국 증권거래위원회에 제출된 문서에서 앤트로픽은 데이터센터들이 점점 더 “천연가스”에 의존하고 있음을 인정했습니다 […]

2026년 뉴욕 기후 주간에서 MIT는 글로벌 네트워크와 연결됩니다

MIT 커뮤니티의 다양한 구성원들이 데이터센터와 초강력 온실가스부터 농업과 교육에 이르기까지 다양한 주제에 대해 논의를 열었습니다.

ASRock 크리에이터 라데온 AI 프로 R9700 리뷰: AMD 스타일의 워크스테이션 추론

오늘은 워크스테이션용 ASRock의 고급형 Radeon AI 추론 카드인 Creator Radeon AI Pro R9700을 살펴봅니다. 32GB의 RAM과 1,700달러의 가격대를 갖춘 이 카드는 로컬 AI 추론을 위한 워크스테이션을 구성하는 데 있어 매우 합리적인 선택입니다. 본 글 ‘ASRock Creator Radeon AI Pro R9700 리뷰: AMD 스타일의 워크스테이션 추론’은 ServeTheHome에 처음 게재되었습니다.

스페이스X, 아폴로와 400억 달러 규모의 GPU 파이낸싱 계약 체결

스페이스X는 AI 칩 및 관련 데이터센터 장비 구매를 위한 약 400억 달러 규모의 자금 조달에 대해 법적 구속력 있는 계약을 체결했다고 월요일 규제 당국에 제출한 서류에서 밝혔다. 스페이스X는 성명을 통해 이를 사상 최대 규모의 GPU 관련 확정 자금 조달이라고 평가했다.

엔비디아 미네르바가 텔레메트리의 혼란을 어떻게 최고 수준의 GPU 출력으로 전환하는가

AI 팩토리는 지금까지 만들어진 운영 환경 중에서도 가장 기술적으로 복잡한 곳들 중 하나입니다. 수십만 개의 GPU, NVIDIA 스펙트럼-X 이더넷...

AI 수요 속에서 마벨의 초기 칩 제조 베팅이 성과를 거두다

8년 전, 칩 제조업체 마벨 테크놀로지 인코퍼레이션은 나노미터 기술을 한 단계 앞서 나가기로 결정했고, 그 이후로 성장세는 꾸준히 이어지고 있다. 반도체 제조에서 나노미터 표기는 트랜지스터의 정확한 물리적 크기가 아니라, 프로세스 노드로 불리는 칩 제조 기술 세대를 나타낸다. 고급 프로세스 노드는 일반적으로 더 높은 트랜지스터 밀도와 성능 향상을 가능하게 한다 […] 포스트 ‘AI 수요 속에서 마벨의 초기 칩 제조 모험에 대한 보상이 나타나다’는 실리콘앵글에 처음 게재되었다.

NVIDIA 미션 컨트롤 2.5가 쿠버네티스에 자율 복구 기능을 어떻게 제공하는가

수천 개의 GPU에서 대규모 AI 모델을 학습시키는 작업은 클러스터의 복원력을 최적화하기 위해 모니터링과 자동화가 내장되어야 하는 고위험 작업입니다...

징둥 광고는 화웨이 쿤펑과 협력해 생성형 광고 추론 지연을 15% 단축했으며, 618 대규모 프로모션에서 핵심 시나리오 검증을 완료했습니다.

징둥 광고는 화웨이 쿤펑과 협력하여 링취우 인터넷을 통해 300TB 규모의 공유 메모리 풀을 구축하고 RPC 통신을 재구성함으로써, 엔드투엔드 추론 지연 시간을 15% 단축하고 KV 캐시와 RPC 성능을 크게 향상시켰으며, 2026년 618 대규모 프로모션의 핵심 시나리오에서 5% 트래픽을 통해 검증을 완료했습니다. 또한 이 협력은 서치 및 추천 등 검색·추천 시나리오에 긍정적인 파급 효과를 가져왔으며, SuperCache, Agent 샌드박스 등 애지네틱 AI의 최첨단 분야에도 적극적으로 진출하고 있습니다.

추천 이유이 보도는 2026년 10월 26일에 tmtpost.com에서 발표된 독창적인 기술 뉴스를 바탕으로 하며, 실제 적용된 기술 협업을 중점적으로 다룹니다. 협력 주체(징둥 광고/화웨이 쿤펑), 기술 경로(링취우 상호 연결, 이중 캐시, UB 프로토콜 직접 연결 URMA), 정량적 성과(지연 시간 15% 감소, TP99 최적화 85% 이상), 검증 시나리오(618 대규모 프로모션 트래픽의 5%), 그리고 발전 계획(SuperCache, Agent 샌드박스) 등이 명확히 공개됩니다. 모든 핵심 사실은 자료 내에서 상호 확인 가능하며, 외부 정보의 추가나 주관적 추론은 포함되지 않습니다.

중국 최초의 AI 극장용 영화 ‘삼성퇴: 미래의 과거사’ 개봉: 기술적 이정표와 시장의 냉대가 공존

2026년 10월 23일, 보나필름이 제작한 ‘삼성퇴: 미래의 과거사’는 국내 최초로 상영허가를 취득하고, 전 과정에서 AI의 참여를 바탕으로 제작되어 상업 극장에서 정식으로 개봉한 장편 영화로서 전국 극장에 상영됐다. 이 작품은 전편에 디지털 캐릭터만 등장하며 실사 배우는 출연하지 않았고, 제작비는 수천만 위안에 달했지만 첫 주말 박스오피스 수익은 약 118만 위안에 그쳤으며, 상영 편수와 관객 점유율도 저조해, 서사적 수용도와 산업화 적용 간의 현실적 괴리를 여실히 드러냈다.

추천 이유해당 보도는 타이메디아가 2026년 10월 26일에 발표한 심층 기사를 바탕으로 하며, 영화의 기술적 정체성(최초의 AI 극장용 장편 영화), 제작 현황(120만 장의 원본 이미지, 600:1의 폐기 비율, 프레임별 수작업 처리), 산업적 의의(심사 및 배급 전 과정의 흐름 구축)와 시장 반응(낮은 흥행 성과, 관람료 논란, 관객의 관망 태도)을 종합적으로 담고 있습니다. 정보 요소가 완전하고 출처가 명확하며 시의성이 높으며, 자료의 사실적 한계를 넘어서지 않았습니다.

칭화대학교와 홍콩중문대학교가 공동으로 오픈소스 AKV를 출시했습니다: LLM 에이전트를 위한 KV 캐시 엔지니어링 서비스 시스템

칭화대학교와 홍콩중문대학교의 연구진은 2026년 10월 26일, SGLang 기반으로 구축된 대규모 언어모델(LLM) 에이전트 전용 KV 캐시 엔지니어링 서버인 AKV를 오픈소스로 공개했습니다. 이 시스템은 기존의 텍스트 히스토리 요약 방식이 아닌, 에이전트가 스스로 KV 캐시를 적극적으로 버리고 재배치하도록 함으로써, 4개의 에이전트 벤치마크에서 추론 비용을 평균 27.7% 절감하고, 과제 평균 점수를 1.7점 상승시켰습니다. 해당 코드는 Apache-2.0 라이선스를 적용했으며, 현재 Qwen, GPT-OSS-120B, MiniMax-M2.7 등의 모델을 지원합니다.

추천 이유이 성과는 LLM 에이전트의 효율적 추론을 위한 새로운 패러다임을 제시합니다. 텍스트 절단이나 요약에 의존하는 ‘컨텍스트 엔지니어링’과 달리, AKV는 KV 캐시 상태를 직접 조작하여 중복 프리필을 방지함으로써 장거리 상호작용에서의 KV 부하를 크게 완화합니다. 실제 실험 결과, 높은 동시성 환경에서 P95 지연 시간이 229.9초에서 30.6초로 감소하여 명확한 엔지니어링 가치와 재현 가능성을 입증했습니다. 해당 정보는 MarkTechPost가 발표한 권위 있는 기술 보고서에 근거하며, 게시일시(2026-10-26T07:56:45Z)가 현재 시각과 일치해 최신 공개된 진행 상황임을 나타냅니다.

상하이종합지수 등 4개 지수의 구성 규칙이 오늘부터 조정된다; 국유자산감독관리위원회는 국유기업 개혁 심화를 추진한다; S&P의 새 규정은 3,750억 달러 규모의 펀드에 영향을 미칠 것이다.

2026년 10월 26일부터 상하이종합지수, 상하이A주지수, 상하이유통지수 및 과학혁신종합지수가 개정된 편제 방안을 정식으로 시행하며, 개별 구성 종목의 가중치 상한을 15%로 신설한다. 국무원 국유자산감독위원회는 10월 23일에 새로운 국유자산 및 국유기업 개혁 과제의 착실히 이행을 강조했다. 같은 날(10월 25일), S&P 다우존스는 성장주와 가치주의 구분 기준을 조정한다고 발표했으며, 새 규정은 12월 21일부터 발효되어 약 3,750억 달러 규모의 패시브형 펀드에 영향을 미칠 예정이다.

추천 이유세 가지 정책과 시장 규칙의 변화는 모두 뚜렷한 시의성과 체계적 영향을 지닌다: 지수 가중치 상한선은 A주 시장의 핵심 벤치마크의 안정성과 직결되며, 국유자산감독위원회의 입장 표명은 중앙 차원에서 국유기업 개혁의 난관 돌파를 위한 긴박한 추진 의지를 보여준다. 또한 S&P의 규칙 재편은 가치투자의 논리를 재구성하며, 그 파급 규모가 수천억 달러에 이르러 글로벌 자본시장의 중요한 변수로 작용하고 있다. 모든 정보는 타이미디어가 2026년 10월 25일에 발표한 권위 있는 종합 보도에 근거하며, 시점, 주체, 조치 및 영향 규모 등이 명확히 검증 가능하다.

도쿄의 연구팀이 200 Gb/s PAM4 실리콘 광 변조기 기술에 관한 논문을 발표하여 DSP 요구 사항을 낮췄다.

도쿄 과학연구소, 요코하마 국립대학교, 일본 산업기술종합연구소(AIST) 및 광자전자기술연구협회(PETRA)는 공동으로 ‘네이처 커뮤니케이션스’에 논문을 발표하여, 내장형 전기광학 균형기를 갖춘 슬로우 빛 실리콘 변조기를 개발했으며, 이를 통해 단일 파장에서 200 Gb/s PAM4 속도를 달성하고 디지털 신호 처리(DSP) 비용을 크게 절감했다고 보고했다.

추천 이유이 성과는 AI 데이터센터의 다테라비트 매초 수준 광 상호연결 요구에 대응하여, 전통적인 실리콘 기반 마허-젠델 변조기의 변조 효율 및 치수 측면에서의 한계를 극복하고, 높은 대역폭, 저전력 소모, 소형화 가능성을 갖추고 있다. 해당 논문은 Nature Communications(2026년 17권, 기사번호 10446)에 정식으로 게재되었으며, 출처는 권위 있는 업계 매체인 Semiconductor Engineering이다. 게재일시(2026-10-25)는 현재 시스템 시간보다 늦지 않으며, 정보는 완전하고 신뢰할 수 있다.

인피니언과 울프스피드의 계약 연장: 200mm 실리콘 카바이드 웨이퍼 공급 계약 체결

인피니언과 울프스피드는 2026년 10월 15일에 실리콘 카바이드 웨이퍼 공급 계약을 확대·연장한다고 발표했으며, 협력을 150mm 규격에서 200mm 규격으로 확대해 인피니언의 200mm 제조 전환을 지원하고 공급망의 탄력성을 강화할 예정이다. 한편 울프스피드는 이를 통해 주요 고객들 사이에서 200mm 소재의 장기적 활용을 확대하겠지만, 자사의 소재 사업은 여전히 매출 감소와 마이너스 영업이익률이라는 압박에 직면해 있다.

추천 이유이 사건은 글로벌 실리콘카바이드 산업 경쟁의 중심축이 본격적으로 대형 기판과 제조 공정으로 이전되었음을 의미하며, 산업 사슬 상하위 간 협력에 의한 200mm급 양산 추진을 촉진하는 핵심 신호입니다. 재료 출처는 명확하며(타이메디아, 2026년 10월 25일 발표), 모든 사실은 원문에 명시된 시점, 주체, 데이터 및 제약 조건과 엄격히 일치합니다. 추론, 보완 또는 확장은 전혀 포함되어 있지 않습니다.

패널 제조사들이 AI로 인한 상류 원자재 비용 압박에 대응하기 위해 일제히 가격을 인상했지만, 하류 수요처의 수용도가 낮고 최종 제품의 품질 관리에도 부담이 가중되고 있다.

2026년 9월부터 TCL 화싱, BOE, 혜커 등 패널 제조사들이 잇따라 가격 인상 공지를 발표했는데, 주요 원인은 AI 대규모 모델의 발전으로 HBM 수요가 급증하면서 기성 공정 칩의 생산 용량을 압도하고, 드라이버 IC, PCB, 유리 기판 등 핵심 소재의 가격을 상승시켰기 때문이다. 코닝 등 상류 공급업체들도 동시에 가격을 인상했다. 비용 부담이 분명히 존재함에도 불구하고, 하위 단계의 TV·디스플레이 브랜드들의 구매 가격은 아직 전반적으로 오르지 않았으며, 최종 사용자들 사이에서는 과열, 블랙 스폿 등 품질 관리 관련 문제가 빈번히 발생해, 가격 인상이 실제 거래와 체험 개선으로 이어지지는 못한 상황이다.

추천 이유재료 시스템은 AI 산업이 직접적으로 연관되지 않은 하드웨어 업계에 미치는 크로스체인 전파 메커니즘을 규명한다—AI가 패널 수요를 직접적으로 견인하는 것이 아니라, 웨이퍼 생산능력의 재배분을 통해 전 체인에 걸친 비용 재정립을 촉발한다는 점이다. 동시에 가격 인상 행태와 시장의 실제 반응(가격 정체, 출하량 감소, 사용자 불만) 간의 뚜렷한 괴리를 보여주며, 이는 산업의 협상력과 제품 경쟁력 간의 불일치라는 근본적인 모순을 부각한다.

미국의 반 데이터센터 운동이 참고할 수 있는 글로벌 경험: 아일랜드 전력망 위기부터 뉴질랜드 지역사회 AI 실천까지

파리 마르크스는 저서 『초대규모』에서 전 세계 데이터센터의 투쟁사를 정리하며, 아일랜드가 전력망 용량 포화로 인해 규제를 도입하고 기업들이 자체적으로 가스 발전소를 건설하는 사례를 지적했다. 또한 뉴질랜드는 지역 클라우드를 활용해 마오리어 음성인식을 지원하는 비약탈적 AI 모델을 모색하고 있다. 한편 미국에서 현재 격화되고 있는 반대 움직임은 사실 오래전부터 예고되어 온 전 세계적 갈등의 재현에 불과하다.

언더독 살루키 27B: GSQ-RCO 기반 2비트 Qwen3.8-27B 도구 호출 모델 기술 분석

이 글에서는 Underdog가 발표한 Saluki 27B 모델을 소개합니다. 이 모델은 7.9 GB 크기의 2비트 양자화 Qwen3.8-27B 변형으로, ISTA-DASLab의 GSQ-RCO 방법을 기반으로 구축되었으며, 120개의 작업에 대한 BFCL v4 도구 호출 벤치마크에서 원래의 54 GB 풀 정밀도 모델을 능가한다고 주장됩니다. 다만 모든 성능 관련 결론은 해당 개발자의 발표에 근거한 것으로, 독립적인 검증은 이루어지지 않았습니다.

인텔, 미국 FCC의 외국산 제조 로봇 금지 조치로부터 면제를 획득해 반도체 공장의 자동화 물류를 보장

미국 연방통신위원회(FCC)는 2026년 10월 22일, 원래의 금지 조항이 모호하여 핵심 반도체 제조 장비까지 잘못 영향을 미칠 수 있다는 우려를 고려해, 인텔이 미국 내 웨이퍼 공장에서 특정 외국산 자동 안내 차량(AGV)을 계속 사용할 수 있도록 1년간의 면제 허가를 승인했다.