NVIDIA 英伟达

NVIDIA H100 GPU가 출시되었습니다

NVIDIA H100 GPU가 출시되었으며, 성능이 향상되고 비용은 절감되었습니다.

엔비디아 네모클로우를 사용해 귀하가 관리하는 스택 위에 특화된 에이전트 구축

자율 에이전트를 구축하려면 모델, 하네스 및 도메인 특화 도구가 필요합니다. 에이전트를 보다 안전하게 배포하기 위해 개발자는 정책을 강제하는 런타임 환경과 함께...

엔비디아, 음성 텍스트 변환 거대 모델 Nemotron 3.5 Transcribe 출시—8명이 동시에 말해도 정확한 인식 가능

엔비디아가 새로운 음성 텍스트 변환 거대 모델 Nemotron 3.5 Transcribe를 공식 오픈소스로 제공했습니다. 이 모델은 전문적인 음성 처리를 목표로 하며, 다국어 텍스트 변환 정확도, 장시간 오디오 처리, 다중 화자 분리 등 핵심 지표에서 업계 최고 수준을 자랑합니다. 혼합 전문가(MoE) 아키텍처를 채택한 이 모델의 총 파라미터 수는 약 340억 개로, 매번 전방향 전파 시 일부 파라미터만 활성화되어 효율성을 높입니다. 전체적으로 볼 때, 전문 음성 텍스트 변환 분야에 있어 새로운 오픈소스 옵션을 제공합니다.

미국, 엔비디아 CEO를 겨냥한 중국 스파이 음모 수사

중국에 엔비디아 칩을 불법으로 판매한 혐의를 받는 싱가포르 AI 클라우드 기업의 고위 임원도 중국 스파이였을 수 있다고 소식통들이 뉴욕타임스에 밝혔다.

시퀀스 학습 루프 - 이슈 #960: 지난주 인공지능 인프라 동향

DeepSeek, Google, 그리고 NVIDIA가 에이전트 스택을 구축하다

OpenAI가 구글로부터 TPU 칩을 구매할 계획인 것으로 드러나며, 컴퓨팅 파워 공급망의 구도가 다시 변화하고 있다.

10월 28일 소식에 따르면, OpenAI는 인공지능 칩을 구글로부터 구매할 예정이다. OpenAI는 오랫동안 엔비디아 GPU의 주요 구매자로, 대규모 모델 학습과 추론을 수행하는 데 이를 의존해 왔다. 컴퓨팅 파워 수요가 급증함에 따라 기업들은 AI 모델 실행에 적합하면서도 비용 효율성이 높은 대체方案을 모색하고 있다. 구글이 자체 개발한 TPU는 최근 몇 년간 점차 두각을 나타내며 잠재적 선택지로 부상했다. 이러한 움직임은 AI 칩 조달의 다변화 추세를 반영하는 것으로 보인다.

NVIDIA CUDA 13.4를 사용한 Kubernetes에서의 메모리 강제 적용 GPU 공유

많은 AI 워크로드는 GPU의 일부분만 필요로 합니다. 각 워크로드에 전체 GPU 장치를 할당하면 여유 용량이 발생할 수 있습니다. GPU를 공유함으로써 플랫폼 팀은 더 많은 워크로드를 처리할 수 있습니다...

엔비디아 RTX 스파크, 게임 내 뉴럴 렌더링과 AI 캐릭터 구동에 힘을 실다

NVIDIA RTX Spark는 슬림형 노트북과 컴팩트한 데스크톱에서 AI 개발, 제작 및 게임을 위한 새로운 Windows PC 플랫폼입니다. NVIDIA Blackwell RTX를 탑재한...

로컬 규칙을 이해하도록 NVIDIA Nemotron을 미세 조정하기: 단순히 로컬 언어만이 아닌

AI 도입이 전 세계적으로 확대됨에 따라, 다양한 언어와 문화권의 사람들이 일상생활의 더 많은 영역에서 이를 활용하고 있습니다. 범용 언어 모델은...

NVIDIA DGX Spark에서 MoE 추론을 향상시키는 3가지 방법

토큰을 더 빠르게 생성하려면 먼저 추론 성능을 제한하는 요인을 파악하는 것부터 시작합니다. NVIDIA에서 Inclusion AI의 Ling-3.0-flash를 대상으로 한 배치 크기 1 평가에서는...

제너럴 컴퓨트, 시리즈 A 라운드에서 1억 달러 조달… 네오클라우드 재앙론에 맞서다

제너럴 컴퓨트는 엔비디아 생태계 외부의 추론 칩에 베팅하고 있습니다.

엔비디아, 기업들이 더 적은 GPU로 AI 모델을 실행할 수 있도록 지원하는 인도 스타트업을 후원

심플리스마트는 연간화된 매출액이 6개월 만에 14배로 증가했으며, 미국 시장이 전체 매출의 절반 이상을 차지한다고 밝혔습니다.

네오클라우드라는 곧 무너질 듯한 벽을, 젠슨 황은 떠받치고 일론 머스크는 밀어낸다

황런쉰은 여전히 네오클라우드라는 벽을 지탱하려 애쓰고 있지만, 머스크는 이미 그 붕괴를 예언했다. AI 버블의 첫 번째 도미노 조각은 어쩌면 이들 기업들 사이에 숨어 있을지도 모른다. 10월 25일, 머스크는 X에서 다음과 같은 경고를 내렸다: 최근 몇 주 동안 채권 시장은 AI 데이터센터 외에 실질적인 수익이 없는 기업들에게 거의 자금을 제공하지 않고 있다. 그는 200여 개에 달하는 네오클라우드 기업들이 ‘구피급’(guppy-level)의 폐업과 통합을 맞게 될 것이며, 결국 소수의 기업만이 살아남을 수 있을 것이라고 전망했다. 그러나 불과 사흘 전, 엔비디아의 CEO 황런쉰은 거의 정반대의 판단을 내놓았다. 10월 22일, 황런쉰은 CNBC와의 인터뷰에서 네오클라우드의 컴퓨팅 파워 수요는 여전히 매우 강력하며, 실제로 이들의 성장을 제약하는 것은 운영자본 부족뿐이고, 자금 조달의 어려움도 결국 해결될 것이라고 단호히 주장했다. 두 사람 모두 AI 컴퓨팅 파워 수요를 긍정적으로 보고 있지만, 컴퓨팅 파워 임대 사업의 운영에 대해서는…

TMA를 언제, 왜 사용해야 하는가: NVIDIA Hopper GPU에서의 텐서 메모리 가속에 대한 워크로드 기반 특성 분석

arXiv:2610.34907v1 발표 유형: 신규 초록: NVIDIA Hopper에서 도입된 텐서 메모리 가속기(TMA)는 실제 생산 환경의 GPU 커널에서 광범위하게 사용되고 있지만, 그 활용은 상당히 선택적입니다. CUTLASS, FlashAttention-3, FlashInfer 등에서 활동하는 전문 커널 개발자들은 커널 내 일부 텐서 피연산자에 대해 TMA를 적용하되, 다른 피연산자에 대해서는 cp.async, 직접 글로벌 로드, 또는 분산 공유 메모리(DSM)로 대체합니다. 벤더 문서에서는 API를 설명하고, 최근의 마이크로벤치마킹 연구에서는 TMA의 처리량을 단독으로 평가하고 있지만, 이러한 접근 방식들은 실무 현장에서 실제로 직면하는 질문에 답하지 못합니다: 커널 내 특정 메모리 피연산자가 주어졌을 때, 이를 TMA로 처리해야 하는지, 그리고 만약 그렇다면 클러스터 멀티캐스트를 함께 사용할 것인지 여부를 결정하는 문제입니다. 우리는 H100을 대상으로 한 워크로드 기반 특성 분석 연구를 통해 이와 같은 간극을 해소하고자 합니다. 우리는 TMA와 다중

엣지 AI 일일 뉴스레터(10월 27일)

오늘의 핵심 정보는 AI 자본과 거버넌스의 구조적 전환에 초점을 맞추고 있습니다. Anthropic은 S-1 서류를 공개적으로 제출하고, ANT 코드로 나스닥에 상장했으며, H1 기준 매출은 163억 달러로 전년 동기 대비 약 13.5배 증가했지만 순손실은 807억 달러(이 중 약 720억 달러는 비현금성 공정가치 평가 손실)에 달했습니다. 또한 최소 5,180억 달러 규모의 취소 불가능한 컴퓨팅 파워 계약을 확보했고, 기업 가치는 최대 2조 달러까지 목표로 설정했습니다. 엔비디아는 최대 100억 달러 규모의 지분 인수를 협상 중으로, 이는 공개 시장에서 AI에 대한 가치평가 논리에 대한 첫 번째 압력 테스트가 되었습니다. 회사 설명서에는 80쪽 분량의 위험 요인 항목을 통해 모델의 자기 보존 성향에 대한 경고를 포함시켰습니다. OpenAI는 GPT‑6.1 Terra를 발표하며, 표준 API 가격을 절반으로 인하하고 단일 작업당 비용을 약 9배 낮췄습니다. 또한 측정 단위를 토큰에서 ‘완료된 작업’으로 전환해, 가격 결정권을 연구소에서 기업의 CFO로 이전했습니다. 메타는 AI 인프라 구축을 위한 자금 조달을 위해 최대 950억 달러 규모의 주식 발행을 추진하고 있으며, 엔비디아, AMD, 브로드컴 등이 총 50억 달러 규모의 참여를 검토하고 있어 공급망이 단순한 매매 관계에서 자본 간의 상호 연계로 전환되고 있습니다. 마이크로소프트는 약 6만 명의 직원에게 일괄 퇴직 제안을 내렸습니다. 규제 및 거버넌스 차원에서는 텍사스주가 OpenAI와 올트먼을 상대로 소송을 제기했고, 델라웨어주는 미국 최초의 AI 기업 관련 법안을 마련했습니다. 미 중간선거에서는 데이터센터 관련 39건의 주민투표가 진행되었으며, 클라우드는 조지아주 유료 웹사이트 차단을 우회해 접근하는 등 책임과 권한의 경계를 둘러싼 논쟁이 전개되고 있습니다. 국내 동향에서는 범용 대형 모델이 로봇의 동작 제어 영역으로 빠르게 확장되고 있고, 애플의 폴더블 디스플레이 아이폰 듀오가 큰 인기를 끌면서 랜스테크의 생산 라인이 전면 가동되고 있습니다. 오픈소스 측면에서는 엔비디아가 로봇 데이터 엔진 플로라를 오픈소스로 공개해 데이터 라벨링 비용을 약 1/125 수준으로 낮췄으며, 리눅스 재단의 보고서는 PR의 약 25%가 저품질 ‘AI 슬롭’에 해당해 효율성 재배치에 숨은 위험이 존재함을 지적했습니다.

엔비디아 미네르바가 텔레메트리의 혼란을 어떻게 최고 수준의 GPU 출력으로 전환하는가

AI 팩토리는 지금까지 만들어진 운영 환경 중에서도 가장 기술적으로 복잡한 곳들 중 하나입니다. 수십만 개의 GPU, NVIDIA 스펙트럼-X 이더넷...

NVIDIA 미션 컨트롤 2.5가 쿠버네티스에 자율 복구 기능을 어떻게 제공하는가

수천 개의 GPU에서 대규모 AI 모델을 학습시키는 작업은 클러스터의 복원력을 최적화하기 위해 모니터링과 자동화가 내장되어야 하는 고위험 작업입니다...

오픈 ISA 슈퍼컴퓨팅을 향하여: HPC 워크로드에 대한 RISC-V, Arm, x86 아키텍처 비교 연구

arXiv:2610.32632v1 발표 유형: 신규 초록: RISC-V는 고성능 컴퓨팅(HPC)의 후보 아키텍처로 부상하고 있지만, 기존의 x86 및 Arm 프로세서와의 경쟁력은 아직 평가하기 어렵습니다. 이는 기존 연구들이 서로 다른 플랫폼, 워크로드, 방법론을 사용하고 있으며, 에너지 효율성을 거의 고려하지 않기 때문입니다. 본 연구에서는 공통된 소프트웨어 스택과 방법론을 활용하여 최신 HPC용 RISC-V, Arm, x86 프로세서를 평가합니다. 우리는 Sophgo SG2044를 특성화하고, NVIDIA Grace CPU 슈퍼칩 및 Intel Xeon Platinum 8480+와 함께 STREAM, HPL, HPL-MxP, HPCG 등 네 가지 HPC 벤치마크와 iPIC3D, PLUTO, OpenFOAM, llama.cpp 등 네 가지 대표 애플리케이션에서 비교 분석을 수행했습니다. 본 연구에서 사용된 OpenBLAS 기반 HPL-MxP 버전은

아폴로 수석 경제학자는 AI가 기술 산업 외의 미국 기업들에 대해 “재무적 수익이 전혀 없다”고 밝혔다.

아폴로 글로벌 매니지먼트의 수석 이코노미스트 토르스텐 슬록은 S&P 493(스탠더드 앤드 푸어스 500에서 7대 기술 대기업을 제외한 지수)을 분석한 결과, 비기술 기업의 이익 마진이 1인당 매출과 동등하며, AI가 생산성을 높였다는 증거는 없다고 밝혔다. 그는 AI가 책임성, 신뢰, 기업 문화 등 비즈니스의 핵심 요소에 대한 이해가 부족하기 때문에 아직 재무적 성과를 창출하지 못했다고 지적했다.

추천 이유：이 주장은 주요 상장 기업 그룹(S&P 493)에 대한 실증적 관찰에 근거하며, 명확한 데이터 범위와 제한 조건을 언급하고(Alphabet, Amazon 등 7개의 기술 기업은 제외), 최근 여러 연구의 결론과도 부합하여 검증 가능한 분석 틀과 명확한 인과관계의 경계를 갖추고 있다.

저가형 지능과 고가형 야망: DeepInfer, DSX POD 및 AI 투자 확대

제958호 《The Sequence Radar》는 추론 소프트웨어, 모듈형 AI 공장 및 기업용 AI 투자를 함께 살펴봅니다: 단일 추론 비용이 더 저렴하다고 해서 반드시 업계의 총투자 규모가 낮아지는 것은 아닙니다. 본 글은 원문을 그대로 정리했으며, DeepSeek와 엔비디아 공식 자료를 통해 기술 범위와 제공 조건을 보완했습니다.