최신 뉴스부터 나에게 맞는 도구까지.
JAX모델과 인프라JAX는 가속기 기반의 Python 수치 계산 라이브러리로, 고성능 배열 계산과 대규모 머신러닝을 위해 설계되었으며, CPU, GPU, TPU 등 다양한 하드웨어 백엔드에서 동일한 코드를 효율적으로 실행할 수 있도록 지원합니다.
分类推荐榜首A
AI Short글쓰기와 콘텐츠AIS ALERT 관리 및 공유 플랫폼, 여러 시나리오의 빠른 명령
分类推荐榜首K
Kiro코딩과 개발Kiro는 개발자를 위한 AI 엔지니어링 도구로, 요구사항을 사양, 아키텍처 및 작업으로 정리하고, 인텔리전트 에이전트를 통해 코드를 생성하며, 속성 테스트, 실행 메모리 및 개발 도구 통합을 통해 기획부터 코드 리뷰까지의 전 과정을 지원합니다.
分类推荐榜首E
EvoMap에이전트와 자동화EvoMap은 AI 에이전트의 경험 재사용을 위한 인프라로, GEP 프로토콜을 통해 재사용 가능한 전략과 검증 기록이 포함된 복구 자산을 구성하고, 시장 및 품질 기준에 따라 정렬하여 다양한 에이전트가 기존 역량을 발견·평가·승계할 수 있도록 지원합니다.
分类推荐榜首M
MemoAI음악과 오디오MemoAI는 AI 기반 음성 및 영상 텍스트 변환 도구로, 데이터를 업로드할 필요 없이 로컬 처리를 지원하여 개인정보 보호를 확보합니다. YouTube 동영상, 팟캐스트는 물론 MP4, MP3, AAC, M4A 등 다양한 로컬 오디오·비디오 파일을 효율적으로 텍스트로 전환하며, 다국어 번역, 화자 분리, 실시간 자막, 플로팅 노트 등 핵심 기능을 제공해 회의록 작성, 인터뷰 정리, 콘텐츠 학습 등의 다양한场景에 적합합니다.
分类推荐榜首O
Open Design디자인과 3DOpenDesign은 오픈소스 설계 워크스페이스로, 로컬 프로그래밍 에이전트와 연동하거나 자체 모델 키를 사용하거나 클라우드 기반 모델을 활용하여 디자인 시스템을 중심으로 프로토타입, 웹페이지, 프레젠테이션 및 그래픽을 생성하고 편집할 수 있습니다. 로컬 소프트웨어는 무료이며, 모델 서비스 비용은 별도로 구분됩니다.
分类推荐榜首I
IamIP산업별 AIIamIP은 AI 기반의 검색, 분석 및 모니터링 도구를 제공하는 특허 플랫폼입니다. 사용자가 특허 연구 및 관리를 더 효율적으로 수행하도록 도와줍니다.
待评分 · 分类列表推荐C
ClipDrop이미지 생성과 편집Clipdrop은 배경 제거, 부분 정리, 이미지 확장, 확대, 조명 재조정, 텍스트 제거 및 배경 교체 기능을 포함하는 AI 이미지 생성 및 편집 도구 모음으로, 웹 페이지에서 이미지를 처리할 수 있으며 개발자용 이미지 처리 API도 제공합니다.
待评分 · 分类列表推荐R
Rows데이터와 분석Rows는 AI 분석, 데이터 통합 및 대화형 보고서를 결합한 스프레드시트 도구로, 자연어를 통해 문서와 비즈니스 데이터를 정리하고 데이터 세트를 병합하며 보고서와 계산 모델을 생성할 수 있습니다. 현재 공식 웹사이트에서는 Superhuman에 추가되었음을 안내하고, 해당 서비스를 계속 이용할 수 있는 접속 경로도 제공하고 있습니다.
待评分 · 分类列表推荐U
Udacity AI学院교육과 언어Udacity AI 아카데미는 인공지능 과정과 학습 경로의 입구로, 머신러닝, 딥러닝, 컴퓨터 비전, 자연어 처리 및 AI 제품 관리를 포괄하며, 기초와 목표에 따라 과정과 프로젝트 트레이닝을 선택할 수 있습니다.
待评分 · 分类列表推荐arXiv:2610.39222v1 발표 유형: 신규 초록: AI 가속기 아키텍처가 점점 더 다양해짐에 따라, 서로 다른 아키텍처를 통합한 단일 시스템 구현이 새로운 이종 컴퓨팅 패러다임으로 부상하고 있다. GPU와 WSE는 연산, 메모리, 통신 구조에서 상당히 차이를 보이며, 이로 인해 아키텍처 간 상호보완성과 추가적인 오버헤드가 동시에 발생하지만, 이러한 이질성을 실제 성능 향상으로 전환하는 방법은 아직 명확히 밝혀지지 않았다. 이 문제를 해결하기 위해 우리는 GPU–WSE 이종 실행 환경과 상호보완성을 활용할 수 있는 조건을 규명하는 계층적 벤치마킹 방법론을 제안하며, 또한 이질성이 시스템 차원의 성능 향상을 가져오는 경우와 병목 현상으로 작용하는 경우를 식별하는 분석적 성능 모델을 함께 제시한다.
10월 29일 소식에 따르면, 차세대 대규모 모델 기반 자율주행용 칩을 개발하는 기업인 XHEART(신심항도)가 플래그십 제품인 X7 Ultra 칩을 발표했습니다. 이 칩은 엔드투엔드 자율주행 대규모 모델을 위해 특별히 맞춤 설계된 핵심 연산 플랫폼입니다. 공식 발표에 따르면, X7 시리즈는 양산 시작 후 8개월 만에 누적 출하량이 20만 개를 돌파하며 강력한 시장 성과를 거두고 있으며, 현재까지 총 10종의 차량 모델에 탑재되어 기업 고객들과의 협력 및 시장 확대가 지속적으로 진행되고 있습니다.
10월 29일, XHEART 신심항도는 차세대 지능형 주행 대형 모델 칩인 X7 Ultra를 공식 발표했다. 지능형 주행이 여러 개의 소형 모델에서 ‘엔드투엔드 대형 모델’로 진화하는 추세에 맞춰, 이 제품은 ‘대형 모델이 칩을 정의한다’는 철학을 바탕으로 실제 양산 모델의 근본적인 요구사항에서 출발해 계산 아키텍처, 저장 솔루션 및 데이터 흐름 방식을 역으로 재설계했으며, 향후 모델 발전을 위한 확장성도 미리 마련했다. 본 기사에는 핵심 연산 성능과 아키텍처 설계에 관한 내용도 포함되어 있다.
10월 28일 소식에 따르면, OpenAI는 인공지능 칩을 구글로부터 구매할 예정이다. OpenAI는 오랫동안 엔비디아 GPU의 주요 구매자로, 대규모 모델 학습과 추론을 수행하는 데 이를 의존해 왔다. 컴퓨팅 파워 수요가 급증함에 따라 기업들은 AI 모델 실행에 적합하면서도 비용 효율성이 높은 대체方案을 모색하고 있다. 구글이 자체 개발한 TPU는 최근 몇 년간 점차 두각을 나타내며 잠재적 선택지로 부상했다. 이러한 움직임은 AI 칩 조달의 다변화 추세를 반영하는 것으로 보인다.
복잡성이 증가하고 일정이 더욱 촉박해지며, 실수의 대가가 그 어느 때보다 높아지고 있는 아날로그 및 혼합 신호 설계 분야에서 AI의 역할이 점차 확대되고 있습니다. “아날로그 설계를 위한 AI 활용” 글은 Semiconductor Engineering에 처음 게재되었습니다.
RF 설계를 위한 에이전틱 솔루션. “RF EDA에서의 AI 설계 여정 계획”이라는 글은 Semiconductor Engineering에 처음 게재되었습니다.
많은 AI 워크로드는 GPU의 일부분만 필요로 합니다. 각 워크로드에 전체 GPU 장치를 할당하면 여유 용량이 발생할 수 있습니다. GPU를 공유함으로써 플랫폼 팀은 더 많은 워크로드를 처리할 수 있습니다...
IBM 리서치 유럽의 연구진은 “신경망에서 벡터 저장을 위한 중첩 아날로그 메모리”를 발표했다. 요약: 연구진은 여러 개의 AI 벡터를 중첩 상태로 저장하는 아날로그 상변화 메모리 아키텍처를 구현했으며, 조정 가능한 정확도와의 균형을 통해 실제 저장 밀도를 증가시켰다. 프로토타입 PCM 하드웨어를 대상으로 한 실험에서는 완전 정밀도 소프트웨어에 가까운 추론 정확도를 확인했다. 기술 논문은 여기에서 확인할 수 있다.... » 더 읽기 이 글은 ‘아날로그 중첩이 효과적인 PCM 저장 밀도를 높인다(IBM 리서치 유럽)’라는 제목으로 반도체 엔지니어링에 처음 게재되었다.
NVIDIA RTX Spark는 슬림형 노트북과 컴팩트한 데스크톱에서 AI 개발, 제작 및 게임을 위한 새로운 Windows PC 플랫폼입니다. NVIDIA Blackwell RTX를 탑재한...
심플리스마트는 연간화된 매출액이 6개월 만에 14배로 증가했으며, 미국 시장이 전체 매출의 절반 이상을 차지한다고 밝혔습니다.
10월 27일, 락이드(Rokid)는 AI 안경 Rokid Glasses 2, 풀 컬러 AI 안경 Rokid Color 및 인터랙티브 링 Rokid Ring을 출시했습니다.
지수 상장 및 ETF 승인으로, 홍콩 증시의 AI와 반도체 분야에 새로운 배치 도구와 자금 유입이 열렸다.
arXiv:2610.34907v1 발표 유형: 신규 초록: NVIDIA Hopper에서 도입된 텐서 메모리 가속기(TMA)는 실제 생산 환경의 GPU 커널에서 광범위하게 사용되고 있지만, 그 활용은 상당히 선택적입니다. CUTLASS, FlashAttention-3, FlashInfer 등에서 활동하는 전문 커널 개발자들은 커널 내 일부 텐서 피연산자에 대해 TMA를 적용하되, 다른 피연산자에 대해서는 cp.async, 직접 글로벌 로드, 또는 분산 공유 메모리(DSM)로 대체합니다. 벤더 문서에서는 API를 설명하고, 최근의 마이크로벤치마킹 연구에서는 TMA의 처리량을 단독으로 평가하고 있지만, 이러한 접근 방식들은 실무 현장에서 실제로 직면하는 질문에 답하지 못합니다: 커널 내 특정 메모리 피연산자가 주어졌을 때, 이를 TMA로 처리해야 하는지, 그리고 만약 그렇다면 클러스터 멀티캐스트를 함께 사용할 것인지 여부를 결정하는 문제입니다. 우리는 H100을 대상으로 한 워크로드 기반 특성 분석 연구를 통해 이와 같은 간극을 해소하고자 합니다. 우리는 TMA와 다중
arXiv:2610.33275v1 발표 유형: 신규 초록: 컴퓨팅 노트북은 세션 전체 동안 GPU를 할당하지만, GPU는 셀이 실행되는 동안에만 계산을 수행하고 그 외에는 대기 상태로 남아 있습니다. 서버리스 실행 방식에서는 셀 간에 GPU를 해제할 수 있지만, 새로 생성된 워커에서 누적된 노트북 상태를 다시 구축하는 과정은 각 GPU 셀마다 상당한 비용을 초래합니다. 본 논문에서는 대화형 노트북을 위한 서버리스 GPU 플랫폼인 LooseLeaf를 제안합니다. LooseLeaf는 각 셀의 상태와 import 클로저를 추출하며, 해당 셀이 필요로 하는 최소한의 변수와 패키지를 파악합니다. 실제 세계의 노트북 5,000개를 대상으로 한 분석 결과, 이러한 클로저는 크기가 작으며, 사용자가 셀을 편집하는 데에도 이를 준비하는 데 몇 초밖에 걸리지 않는 것으로 나타났습니다. LooseLeaf는 사용자가 셀을 편집하는 동안 이러한 클로저를 포함한 GPU 워커를 미리 준비합니다. 실행 후, 워커는…
arXiv:2610.33475v1 발표 유형: 신규 초록: 클라우드 데이터센터 전반에 걸쳐 기반 대규모 언어 모델(LLM)이 광범위하게 배치됨에 따라, 무상태 딥러닝에서 분산형 메모리 집약적 생성 워크로드로의 근본적인 패러다임 전환이 이루어지고 있다. 그러나 엄격한 서비스 수준 목표(SLO) 하에서 대규모 기반 모델을 서비스하는 과정에서는 중요한 물리적 및 시스템 병목 현상이 드러난다. 이러한 과제에는 지속적인 고대역폭 메모리(HBM) 장벽, 연산 중심의 프리필링과 메모리 대역폭 중심의 디코딩 간의 운영 비대칭성, 폭발적으로 증가하는 키-값(KV) 캐시, 부담스러운 서버리스 콜드 스타트, 그리고 하드웨어 신뢰성 취약점 등이 포함된다. 기존 문헌 리뷰들은 여전히 계층별로 분리되어 있어, 저수준 가속기 가상화와 클러스터를 서로 분리하고 있다.
arXiv:2610.33501v1 발표 유형: 신규 초록: 대규모 언어 모델(LLM) 서비스는 추론 처리량을 높이기 위해 배치 처리에 의존하지만, 키-값(KV) 캐시는 시퀀스 길이와 함께 증가하여 GPU 상주 동시성을 제한한다. CPU 오프로드를 통해 호스트 메모리를 활용하면 KV 용량을 확장할 수 있지만, 기존 시스템은 여전히 대부분 GPU 중심으로 작동한다: CPU 상주 요청은 GPU 스케줄러가 적절한 겹침 기회를 제공할 때에만 진행된다. 그 결과, 호스트 메모리와 CPU 연산은 독립적인 서비스 자원으로 작용하지 못하며, 이로 인해 부하 하에서 CPU 측 진행이 간헐적으로 발생하고 꼬리 부분의 토큰 간 지연(ITL)이 부풀어 오르게 된다. 우리는 호스트를 독립적으로 스케줄링되는 디코딩 엔진으로 전환하는 LLM 서비스 런타임인 DualPace를 제안한다. DualPace는 두 개의 엔진 간에 스케줄링 권한을 분리한다: GPU 엔진
오늘은 워크스테이션용 ASRock의 고급형 Radeon AI 추론 카드인 Creator Radeon AI Pro R9700을 살펴봅니다. 32GB의 RAM과 1,700달러의 가격대를 갖춘 이 카드는 로컬 AI 추론을 위한 워크스테이션을 구성하는 데 있어 매우 합리적인 선택입니다. 본 글 ‘ASRock Creator Radeon AI Pro R9700 리뷰: AMD 스타일의 워크스테이션 추론’은 ServeTheHome에 처음 게재되었습니다.
스페이스X는 AI 칩 및 관련 데이터센터 장비 구매를 위한 약 400억 달러 규모의 자금 조달에 대해 법적 구속력 있는 계약을 체결했다고 월요일 규제 당국에 제출한 서류에서 밝혔다. 스페이스X는 성명을 통해 이를 사상 최대 규모의 GPU 관련 확정 자금 조달이라고 평가했다.
AI 팩토리는 지금까지 만들어진 운영 환경 중에서도 가장 기술적으로 복잡한 곳들 중 하나입니다. 수십만 개의 GPU, NVIDIA 스펙트럼-X 이더넷...
8년 전, 칩 제조업체 마벨 테크놀로지 인코퍼레이션은 나노미터 기술을 한 단계 앞서 나가기로 결정했고, 그 이후로 성장세는 꾸준히 이어지고 있다. 반도체 제조에서 나노미터 표기는 트랜지스터의 정확한 물리적 크기가 아니라, 프로세스 노드로 불리는 칩 제조 기술 세대를 나타낸다. 고급 프로세스 노드는 일반적으로 더 높은 트랜지스터 밀도와 성능 향상을 가능하게 한다 […] 포스트 ‘AI 수요 속에서 마벨의 초기 칩 제조 모험에 대한 보상이 나타나다’는 실리콘앵글에 처음 게재되었다.
호기심에 방향을 더하고 매일의 읽기에 가치를 더하세요.
