TorchNeuron 프로파일링(파트 1): AWS Trainium에서의 시스템 수준 프로파일링.
TorchNeuron 프로파일링(파트 1): AWS Trainium에서의 시스템 수준 프로파일링.
최신 뉴스부터 나에게 맞는 도구까지.
OpenDesign은 오픈소스 설계 워크스페이스로, 로컬 프로그래밍 에이전트와 연동하거나 자체 모델 키를 사용하거나 클라우드 기반 모델을 활용하여 디자인 시스템을 중심으로 프로토타입, 웹페이지, 프레젠테이션 및 그래픽을 생성하고 편집할 수 있습니다. 로컬 소프트웨어는 무료이며, 모델 서비스 비용은 별도로 구분됩니다.
分类推荐榜首A
AI Short글쓰기와 콘텐츠AIS ALERT 관리 및 공유 플랫폼, 여러 시나리오의 빠른 명령
分类推荐榜首EEvoMap은 AI 에이전트의 경험 재사용을 위한 인프라로, GEP 프로토콜을 통해 재사용 가능한 전략과 검증 기록이 포함된 복구 자산을 구성하고, 시장 및 품질 기준에 따라 정렬하여 다양한 에이전트가 기존 역량을 발견·평가·승계할 수 있도록 지원합니다.
分类推荐榜首KKiro는 개발자를 위한 AI 엔지니어링 도구로, 요구사항을 사양, 아키텍처 및 작업으로 정리하고, 인텔리전트 에이전트를 통해 코드를 생성하며, 속성 테스트, 실행 메모리 및 개발 도구 통합을 통해 기획부터 코드 리뷰까지의 전 과정을 지원합니다.
分类推荐榜首JJAX는 가속기 기반의 Python 수치 계산 라이브러리로, 고성능 배열 계산과 대규모 머신러닝을 위해 설계되었으며, CPU, GPU, TPU 등 다양한 하드웨어 백엔드에서 동일한 코드를 효율적으로 실행할 수 있도록 지원합니다.
分类推荐榜首M
MemoAI음악과 오디오MemoAI는 AI 기반 음성 및 영상 텍스트 변환 도구로, 데이터를 업로드할 필요 없이 로컬 처리를 지원하여 개인정보 보호를 확보합니다. YouTube 동영상, 팟캐스트는 물론 MP4, MP3, AAC, M4A 등 다양한 로컬 오디오·비디오 파일을 효율적으로 텍스트로 전환하며, 다국어 번역, 화자 분리, 실시간 자막, 플로팅 노트 등 핵심 기능을 제공해 회의록 작성, 인터뷰 정리, 콘텐츠 학습 등의 다양한场景에 적합합니다.
分类推荐榜首MMy Glow Up AI는 등록 없이 무료로 제공되는 자拍照 분석을 통해 맞춤형 머리스타일 제안과 미용 계획을 제공합니다.
待评分 · 分类列表推荐IIamIP은 AI 기반의 검색, 분석 및 모니터링 도구를 제공하는 특허 플랫폼입니다. 사용자가 특허 연구 및 관리를 더 효율적으로 수행하도록 도와줍니다.
待评分 · 分类列表推荐F고객 중심 AI 스마트 바디。
待评分 · 分类列表推荐UUdacity AI 아카데미는 인공지능 과정과 학습 경로의 입구로, 머신러닝, 딥러닝, 컴퓨터 비전, 자연어 처리 및 AI 제품 관리를 포괄하며, 기초와 목표에 따라 과정과 프로젝트 트레이닝을 선택할 수 있습니다.
待评分 · 分类列表推荐TorchNeuron 프로파일링(파트 1): AWS Trainium에서의 시스템 수준 프로파일링.
NVIDIA는 Hugging Face와 협력해 OpenUSD 기반의 무료 개방형 시뮬레이션 준비(SimReady) 3D 아셋 라이브러리인 SimReady Central을 출시했습니다. 초기 버전에는 로봇 본체, 지그, AI 공장 인프라 등 다양한 분야를 포괄하는 검증된 산업용 아셋 2,000여 개가 포함되어 있으며, 개발자가 물리 기반 AI 학습 환경과 디지털 트윈 시나리오를 신속히 구축할 수 있도록 지원합니다.
AT&T는 OpenAI와 협력하여 법률 지식에 대한 접근성을 높이고 있습니다. 그들의 LegalEdge 팀이 인입 절차와 법적 판단의 규모 확대를 어떻게 재설계하고 있는지 알아보세요.
OpenAI가 유통 파트너들과 협력하여 일관된 안전장치를 유지하고, 책임 있는 접근을 지원하며, 우리의 이용 약관에서 기대사항을 명확히 하는 방식.
Cloudflare는 OpenAI Daybreak을 활용해 취약점을 조사하고 수정안을 제안하여 검토합니다. 또한 개발자들은 Codex를 사용해 더 빠르게 개발하고 코드 품질을 향상시킵니다.
Dharma-AI는 VocabX 방법을 제안하여, 포르투갈어 작문 자동 채점과 같은 특정 작업에 맞춰 언어 모델의 어휘표를 재구성함으로써 단어 빈도가 아닌 단어 비용을 최적화 목표로 삼습니다. 모델 구조, 파라미터 또는 학습 프로세스를 수정하지 않은 상태에서, 실험 결과 추론 비용이 77% 감소하는 동시에 평가 점수(bench score)가 0.703에서 0.810으로 향상되었습니다.
이 글은 Hugging Face와 Amazon이 공동으로 발표한 기술 블로그 시리즈의 첫 번째 편으로, AWS Trainium AI 가속 칩에서 TorchNeuron을 활용한 PyTorch 모델 추론 성능 분석 방법을 체계적으로 소개합니다. 여기에는 Neuron 백엔드 통합 원리, torch.profiler 구성 방법, NeuronConfig 및 NeuronProfiler 도구의 사용법, Neuron Explorer를 이용한 시각적 추적 등이 포함되며, RMSNorm을 사례로 삼아 세 가지 구현 방식(순수 PyTorch, torch.rms_norm 내장형 병합, torch.compile 자동 병합) 간의 장치별 처리 시간 차이를 비교합니다.
NVIDIA는 오픈소스 시계열 예측 모델인 Kumo Forecast(구 NV-Tesseract Forecasting)를 출시했습니다. 이 모델은 MOMENT-1-large Transformer 아키텍처를 기반으로 하며, 직접 예측과 도메인 인식 표현 및 검색(DARR)의 두 가지 경로 추론을 지원하고, 모델 구조를 수정할 필요 없이 내장된 해석 가능성 프레임워크를 탑재하고 있습니다.
OpenAI, PerturbAI, 그리고 Scripps Research가 어떻게 분산형 AI 에이전트를 사용해 수백만 개의 뇌세포 데이터에서 유망한 연구 방향을 찾아냈는지 확인해 보세요.
폴렌 로보틱스와 허깅 페이스가 공동으로 저비용 오픈소스 이족 보행 로봇인 마이크로덕을 발표했으며, NVIDIA 아이시스 랩 3.0과 뉴턴 물리 엔진을 통합해 GPU 기반 병렬 시뮬레이션에서 보행 전략을 학습할 수 있도록 지원합니다. 도메인 랜덤화와 고정밀 액추에이터 모델링(기어 간극, 지연, 마찰 등 포함)을 통해 시뮬레이션에서 실제 로봇으로의 전이 안정성을 높이고, 최종적으로 ONNX 모델을 내보내 실제 로봇에 직접 배포할 수 있습니다.
NVIDIA는 사전 훈련된 관계형 기반 모델인 Kumo Relational을 출시했으며, 이 모델은 기업용 관계형 데이터베이스에서 이탈 예측, 사기 탐지, 수요 예측 등 다양한 예측 작업을 직접 수행할 수 있습니다. 작업 미세조정, 특성 엔지니어링 또는 테이블 평탄화가 필요하지 않습니다. 15개 데이터베이스에 걸친 41개의 벤치마크에서 XGBoost 등 감독 학습 모델을 전면적으로 능가했으며, SAP SALT 기업 벤치마크에서는 MRR 지표에서 AutoGluon보다 8% 앞섰습니다. 또한 5,000억 행 규모의 데이터베이스를 지원하며, Predictive Query Language(PQL)를 통해 코드 없이 예측 호출을 구현할 수 있습니다.
OpenAI와 Google Cloud는 최첨단 모델과 Codex 워크플로를 Gemini의 Model Garden에 제공하며, 이는 Google Cloud Marketplace를 통해 이용할 수 있습니다.
AWS는 모델 컨텍스트 프로토콜(MCP) 기반의 모듈형 에이전트 아키텍처를 출시했으며, AgentCore를 통해 엔터프라이즈급 도구 인터페이스를 통합적으로 관리합니다. 또한 Amazon Quick은 비즈니스 사용자를 위한 자연어 기반 대화형 인터페이스를 제공하여 ERP, 구매, 모니터링 등 다양한 시스템 간에 실시간으로 승인 중심의 공급망 의사결정 지원을 구현합니다. 이 솔루션은 기술 미리보기 단계로, 생산 환경 적용이나 고객 도입을 보장하지 않습니다.
AWS 팀은 Amazon SageMaker HyperPod에서 GPT-OSS-20B를 대상으로 다국어 추론 미세조정 실험을 수행했으며, LoRA 기반의 효율적 파라미터 미세조정을 적용했습니다. SFT는 영어·프랑스어·독일어·스페인어·이탈리아어 등 5개 언어에 대한 추론 정확도를 22%에서 100%로 끌어올렸지만, 답변 언어의 정확도는 62%에 그쳤습니다. GRPO는 이를 바탕으로 답변 언어 정확도를 70%까지 추가로 개선했으며, 추론 언어 성능에는 별다른 손상을 주지 않았습니다. 다만 이익의 정도는 언어마다 상이하여, 예를 들어 스페인어는 30%p 향상된 반면 이탈리아어는 20%p 하락했습니다. 실험 결과는 GRPO가 새로운 능력을 제로 상태에서 창출할 수 없으며, 기존에 간헐적으로 나타나던 행동만을 최적화할 수 있음을 분명히 보여줍니다.
Meta를 상대로 제기된 여러 건의 AI 학습 관련 저작권 소송에서 법원은 Meta가 Anna’s Archive, LibGen 등과 같은 그림자 도서관에서 불법 복제 도서를 다운로드한 책임을 인정한 임원들을 명확히 지목해야 한다고 판결했다. 앞서 Meta는 책임을 일선 직원들에게 전가하며, 초기 AI 데이터 수집 과정이 ‘비공식적 절차’에 해당하고 다운로드 행위에 대해 ‘공식적인 의사결정’이 내려지지 않았다고 주장해 왔다.
Octave Reliance는 Amazon Bedrock을 기반으로 엄격한 테넌트 격리형 AI 인프라를 구축했으며, Cohere Embed v4와 AgentCore 마이크로 가상머신 런타임을 통합해 의료기기, 제약 및 식품 제조 산업 전반에 걸친 컴플레인 트라이애지 어시스턴트를 구현했습니다. 이를 통해 20억 건이 넘는 규제 대상 문서(불만 사항, CAPA, 감사 발견 등)에 대한 의미 기반 검색을 지원하며, 전체 과정에서 테넌트 간 데이터 유출을 완전히 차단합니다.
아마존 웹 서비스는 캐나다 고객들이 Amazon Bedrock을 통해 ca-central-1(캐나다 중부) 및 ca-west-1(캐나다 서부/캘거리) 리전에서 OpenAI GPT-5.6, GPT-6 및 GPT-6.1 모델을 크로스리전 추론(CRIS) 방식으로 호출할 수 있다고 발표했습니다. 실제 추론은 북미 또는 전 세계 AWS 상용 리전에서 이루어지며, 데이터는 캐나다 원본 리전에 정적 상태로 저장됩니다.
AWS는 2026년 10월 26일에 에이전트 레지스트리 서비스의 전면적인 이용 가능을 발표했으며, 이 관리형 서비스는 하이브리드 의미론과 키워드 검색을 통해 런타임에 승인된 모델 컨텍스트 프로토콜(MCP) 서버와 에이전트 간(A2A) 에이전트를 동적으로 발견하고 인스턴스화하며 실행함으로써, 하드코딩된 도구 통합을 대체하고 기업 수준의 AI 에이전트 규모화 편성에서 발생하는 병목 문제를 해결합니다.
블라드 미할체아, 패트릭 바움가르트너, 프랑크 델포르트 세 명의 베테랑 자바 챔피언이 프로덕션 환경과 오픈소스 프로젝트에서 GitHub Copilot을 활용한 실무 경험을 공유했습니다. 이들은 AI가 자동으로 코드를 생성하는 데 의존하기보다는, 인간이 주도하는 문제 정의, 컨텍스트 기반 고정, 반복적 검증 및 최종 책임 소재의 중요성을 강조했습니다.
연구실장 크리스 화이트는 전시 데이터 분석에 대한 새로운 접근법부터 인신매매 방지 도구에 이르기까지, 현실 세계에 실질적인 영향을 미치는 연구 과제들을 수행해 왔습니다. 그는 프로그램 매니저 위슝 리우와 함께 이러한 연구를 이끌어 온 배경과 더 많은 이야기를 나눕니다. “봉사의 소명: 기술, 연구, 그리고 긍정적 영향”이라는 글은 마이크로소프트 리서치에서 처음 게재되었습니다.
호기심에 방향을 더하고 매일의 읽기에 가치를 더하세요.