최신 AI 뉴스를 한눈에.

온폴리시 대 오폴리시를 넘어: LLM 에이전트 디스틸레이션은 어느 수준에서 학생 모델을 따라야 하는가?

arXiv:2610.31918v1 발표 유형: 신규 초록: 상호작용하는 LLM 에이전트를 디스틸레이션할 때는 교사가 생성한 시연과 학생이 생성한 경험 중 하나를 선택해야 하며, 이는 대략적으로 오폴리시와 온폴리시 디스틸레이션에 해당합니다. 두 방법 모두 효과적인 것으로 입증되었지만, 우리는 이러한 구분이 본질적으로 계층적이라고 주장합니다. 즉, 상호작용의 역사(히스토리)를 유도하는 정책과 현재 행동의 토큰 접두사를 생성하는 정책이 반드시 동일할 필요는 없다는 것입니다. 우리는 이러한 두 가지 수준의 온폴리시성을 체계화하고, 이들 간의 매칭, 혼합 비율 및 학습 스케줄을 명시적으로 제어할 수 있도록 하는 계층적 에이전트 디스틸레이션 프레임워크를 제안합니다. 우리는 이 문제를 자기 디스틸레이션 방식으로 연구하며, 여기서 고정된 교사는 학생에게는 제공되지 않는 과제 지침에 접근할 수 있습니다.

SpecMem은 실시간 도구 호출 메모리 관리 메커니즘을 제안하여 에이전트의 응답 속도를 향상시킵니다.

arXiv는 2026년 10월 26일, “SPECMEM: 실시간 메모리 관리를 통한 에이전트 기반 도구 호출 가속”이라는 제목의 사전 인쇄 논문(번호 2610.31840v1)을 발표하며, 세션 간에 온라인으로 업데이트되는 사용자 수준의 도구 호출 메모리 관리를 통해 도구 호출 지연을 크게 줄이는 새로운 시스템인 SpecMem을 제안했습니다.

추천 이유이 연구는 현재 도구 호출 에이전트가 배포 과정에서 자회귀 디코딩으로 인해 발생하는 높은 지연 문제를 해결하기 위해, 검증 가능한 쓰기 반영, LRU 제거, 부작용 게이팅 등 핵심 기술을 제안하고, 다중 사용자·다중 세션의 실제 쿼리 흐름에서 그 효과성을 검증했습니다(최대 1.74배의 실측 가속, 평균 수신 토큰 27% 증가). 이는 AI 시스템 엔지니어링 분야에서 중요한 진전입니다.

유용한 에이전트 문제: LLM 에이전트 간의 창발적 협력이 의도된 워크플로를 우회할 때

arXiv:2610.31985v1 발표 유형: 신규 초록: LLM 에이전트는 점점 더 많은 협업 환경에서 배치되고 있으며, 이들 에이전트는 자원을 공유하고 심사 또는 감독 프로세스 하에 각자 별개의 작업을 수행합니다. 이러한 환경에서는 에이전트가 악의적이거나 단순히 도움을 주려는 경우에도 안전상의 위험이 발생할 수 있습니다. 기존 연구들은 주로 적대적 행동이나 명시적으로 결탁한 행동을 중심으로 다루어 왔으나, 우리는 별개의 목표를 추구하는 선의의 에이전트들이 의도된 워크플로를 우회하는 방식으로 자발적으로 협력할 수 있음을 보여줍니다. 우리는 이를 \emph{유용한 에이전트 문제}라고 부릅니다. 우리는 장기적인 시야를 가진 공동 자원 환경을 연구하며, 이 환경에서는 에이전트들이 때때로 동료가 소유한 자원에 의존하고, 소유권 변경은 일반적으로 심사자가 중재하는 구조를 갖습니다. 심사가 불가능해지면, 에이전트

AI-포-사이언스 에이전트는 모델의 안전성을 보장할 수 있을까?

arXiv:2610.32045v1 발표 유형: 신규 초록: AI-포-사이언스 에이전트는 과학적 가설을 제시하고, 자율 실험을 수행하며, 증거를 해석하는 데 점점 더 널리 활용되고 있습니다. 이러한 에이전트들은 도메인 특화형 에이전트 하네스에 대규모 언어 모델(LLM)을 통합하여 구축되며, 이는 LLM의 과학적 역량을 향상시키고 모델이 과학적 도구들을 조율할 수 있도록 합니다. 본 연구에서는 LLM이 AI-포-사이언스 에이전트 하네스에 통합될 때 모델의 안전성이 유지되는지 여부를 검토합니다. 우리는 50개의 유해한 화학 관련 요청에 대해 다섯 가지 에이전트 하네스를 평가합니다. 구체적으로, 직접 프롬프팅, 두 가지 간단한 적대적 프롬프팅 전략, 그리고 적응형 공격 하에서 안전성 행동이 어떻게 변화하는지를 분석합니다. 최근 출시된 GPT의 네 가지 변종을 대상으로 한 결과는 다음과 같습니다.

대규모 언어 모델 기반 에이전트의 행동 분석

arXiv:2610.32087v1 발표 유형: 신규 초록: 언어-에이전트의 행동을 이해하려면, 행동이 경로 전반에 걸쳐 어떻게 구성되는지와 이러한 구성이 맥락 및 결과와 어떤 관계를 맺는지를 파악해야 합니다. 우리는 데이터 기반 행동 발견과 분석 및 실험적 조사를 연결하는 일반적인 프레임워크를 제안합니다. 기록된 활동에서 도출된 범주는 무엇을 측정할지를 정의합니다. 분석은 행동들이 과정 내에서 차지하는 위치를 유지하고, 그 관계를 해석 가능한 가설로 표현합니다. 보류된 맥락에서의 통계적 평가와 검증을 통해 증거의 강도와 범위를 검토합니다. 이후 프롬프트 조정을 포함한 실험을 통해, 의도적으로 변화시킨 조건 하에서 행동과 결과가 어떻게 달라지는지를 확인합니다. 반복적 자기성찰에 대한 연구는 어떻게

연구는 코딩 에이전트 벤치마크에서의 ‘규범-오프체인 오라클 갭’ 문제를 밝혀냈다.

2026년 10월 24일 arXiv에 게재된 한 논문은 현재 주류 코딩 지능 에이전트 벤치마크(예: SWE-Milestone)에 ‘규격–오라클 격차’가 존재한다고 지적한다. 즉, 과제의 자연어 설명에는 테스트에 필요한 핵심 구현 세부사항(예: 상수 이름, 모듈 경로, 정확한 오류 메시지 등)이 포함되어 있지 않아, 평가 결과가 실제로는 상위 코드를 얼마나 재현하는지에 대한 능력을 측정할 뿐이며 진정한 이해와 추론 능력을 반영하지 못한다는 것이다.

추천 이유이 연구는 해당 유형의 편향을 최초로 형식적으로 정의하고, 다섯 가지 언어를 포괄하는 정적 감사 도구를 구축하여 정확도 89.2%, 재현율 92.9%를 달성했으며, SWE-Milestone에서 25개의 마일스톤 작업에 추론할 수 없는 암시적 의존성이 존재함을 실증적으로 밝혀냈습니다. 이는 실패율을 크게 높였으며(80.6% 대 48.4%), 현재 순위표가 ‘명칭 복사’형 에이전트를 체계적으로 선호할 수 있음을 드러냅니다. 연구 결과는 감사 도구와 수정 자료를 오픈소스로 공개하여 방법론적 및 실무적 측면에서 모두 높은 가치를 지닙니다.

월마트가 AI 에이전트 쇼핑 게이트웨이를 출시하여 자율적 구매 프로세스를 지원하고 사용자 통제를 강화합니다.

월마트는 공식적으로 Agent Gateway(인공지능 에이전트 게이트웨이)와 이를 지원하는 Agent Profiles 기능을 출시했으며, 이는 ChatGPT, Gemini, Meta Muse 등과 같은 승인된 인공지능 에이전트가 사용자를 대신해 월마트 및 Sam’s Club 플랫폼에서 검색과 주문을 완료할 수 있도록 허용합니다. 또한 별도의 계정 구성, 거래 승인, 지출 한도 등의 메커니즘을 통해 사용자가 에이전트의 행동을 전 과정에 걸쳐 완전히 통제할 수 있도록 보장합니다. 이러한 조치는 최근 아마존이 인공지능 에이전트를 통한 쇼핑을 금지한 것과는 뚜렷한 대조를 이룹니다.

Claude Mods: 주의력 인터페이스의 첫 번째 실천, 인간이 프로그래밍할 수 있는 에이전트 상호작용 계층

Claude Mods는 Anthropic이 출시한 Claude Code의 프로그래밍 가능 플러그인 시스템으로, ‘주의 인터페이스’(Attention Interface)의 초기 형태를 나타냅니다. 이는 기존의 기계 지향형 에이전트 런타임 프레임워크(agent harness)에서 인간의 주의에 맞춘 맞춤형 상호작용 계층으로 전환합니다. 사용자는 TypeScript/JS로 Mods를 작성하거나 자연어를 통해 Claude에게 자동 생성을 요청함으로써, 언제 중단될지, 어떤 내용을 보게 될지, 어떤 결정을 내려야 하는지를 스스로 정할 수 있습니다.

Claude Mods: 프로그래밍 가능한 주의력 인터페이스로 인간과 AI 에이전트 간의 협업 패러다임을 재편합니다

Claude Mods는 Anthropic이 출시한 개발자용 프로그래밍 가능 플러그인 시스템으로, ‘에이전트 하네스’가 기계 측 인터페이스에서 인간 측 인터페이스인 ‘어텐션 인터페이스’로 전환됨을 의미합니다. 이를 통해 사용자는 TypeScript/JavaScript를 활용해 Claude Code의 동작, 렌더링 및 상호작용 로직을 맞춤 설정할 수 있으며, 사람과 AI가 함께 워크플로를 설계하는 것을 가능하게 합니다. 이 메커니즘은 You Should Know와 같은 내장 기능에도 이미 적용되어 있으며, 사용자가 직접 플러그인을 구축하거나 Claude의 도움을 받아 생성하는 것도 지원합니다.

Mistral은 NVIDIA와 협력하여 AI 네이티브 엔지니어링 워크플로를 추진하고, Mistral Large 4를 출시하며 물리 및 에이전트 기반 AI 평가 벤치마크를 공동으로 구축했습니다.

Mistral과 NVIDIA는 협력을 심화하기로 발표하고, Mistral Large 4 대형 모델, 물리 기반 모델링 파이프라인 및 NVIDIA의 가속 컴퓨팅 스택(CUDA-X, Warp, Omniverse)을 통합하여 항공우주, 자동차, 반도체 등 산업 분야를 위한 AI 네이티브 엔지니어링 워크플로를 공동으로 개발할 예정입니다. 양사는 물리 기반 AI와 CAE/EDA 시나리오에서의 에이전트 역량 평가를 포괄하는 오픈소스 데이터셋과 공개 벤치마크를 공동으로 출시할 계획입니다.

엔비디아 유럽 클라우드 파트너가 주권적·개방적·안전한 AI 인프라의 확장을 가속화하고 있습니다.

엔비디아는 유럽, 북유럽, 아프리카 및 중앙아시아의 클라우드 파트너들이 NVIDIA DSX 플랫폼 기반의 지역 AI 컴퓨팅 인프라를 대규모로 확장하고 있다고 발표했습니다. 이는 주권 컴퓨팅(현지화된 배치), 오픈 모델 지원(예: Mistral Large 4, Nemotron 시리즈) 및 AI 에이전트의 보안 경계(OpenShell 참조 아키텍처)에 중점을 두며, 학습, 추론, 물리 기반 AI 및 리테일 지능형 에이전트와 같은 다양한 시나리오를 포괄합니다.

배틀 드론스 - 오디오 기반 멀티플레이어를 갖춘 바이브 코딩 RTS

제 최신 바이브 코딩 게임 실험은 배틀 드론스라는 이름의 커맨드 앤 컨커 스타일 RTS(실시간 전략) 게임입니다(여기에서 플레이해 보세요). 이전 실험들과 달리, 이번에는 실제로 즐겁게 플레이할 수 있습니다. 사실을 고백하자면, 제가 클라우드에게 “훨씬 더 재미있게 만들어 주세요”라고 요청한 덕분에 여기까지 왔다는 점이 다소 부끄럽습니다. 또한, 근처 기기들 간에 오디오를 이용해 게임 상태를 동기화하는 멀티플레이 기능도 지원합니다! 지금까지 제가 만든 내용과 그 과정에서 배운 몇 가지 사항들을 소개합니다. 배틀 드론스: 제가 어떻게 v1부터 구축했는지 — 초기 프로토타입 v2: 완전한 스프라이트 v3: 다양한 지형 v4: 재미있는 업데이트 v5: 배틀 드론스의 3D화 v8: 아치펠라고 v10: 골리앗과 에이전트 전투 에이전트 전투 v11: 랜덤 맵 v12: 소리를 통한 멀티플레이 일부 소감 업데이트: 온라인 멀티플레이 지원 배틀 드론스 제 초기 목표는 구축하려던

터미널 X는 고위 투자자의 판단을 GPT-6.1과 비교하여 88.6%의 일치율을 보입니다.

터미널 X의 평가 에이전트는 54개 기준의 평가 척도에 따라 결과를 점수 매기며, GPT-6.1 솔루션을 사용할 경우 펀드의 운용 방침에서 벗어난 사례를 25% 더 많이 포착합니다.

구글의 새로운 Gemini 에이전트는 Claude와 함께해도 비즈니스 업무를 조율할 수 있다

구글은 단순히 또 하나의 AI 동료를 만드는 것이 아니다. 구글은 Gemini가 경쟁사의 AI가 그 일을 수행하고 있을 때조차도 기업의 업무 방식을 조직하는 시스템으로 자리매김하기를 원한다.

Asana는 GPT-6.1 Sol와 브라우저 테스트에서 모델 비용 76x를 절단

Codex에 있는 GPT-6 Astra를 사용하여, Asana는 그것의 브라우저 대리인 76x를 더 싸고 5x를 시험에서 고객에게 더 가능한 모형을 제안하기 위하여 빨리 만들었습니다.