최신 AI 뉴스를 한눈에.

아트팩트 증류: 프런티어 모델에서 소형 언어 모델로의 학습 없이 이전하기

arXiv:2610.37680v1 발표 유형: 신규 요약: 프런티어 모델과 소형 언어 모델 간의 격차를 해소하는 일반적인 접근법은 증류입니다. 즉, 소형 모델(학생)을 프런티어 모델(교사)의 출력에 대해 미세 조정함으로써 이전 작업을 학습 계산에 의존하게 만들고, 전달된 지식을 상당히 불투명하게 만듭니다. 우리는 아트팩트 증류를 제안합니다. 교사가 학습 사례를 해결하고 그 문제 해결 절차를 외부화하여 아트팩트 은행으로 저장하며, 학생은 추론 시 해당 은행을 조회합니다. 이 과정에서는 파라미터 업데이트가 전혀 발생하지 않습니다. 네 가지 LiveBench 과제에서, Claude Opus 4.5가 작성한 은행을 사용하면 Claude Haiku 4.5는 공간 추론에서 무보조 Claude Sonnet 4.5보다 60%의 비용으로 더 높은 점수(0.707 대 0.647)를 기록하며, 테이블 조인에서도 Sonnet 4.5 수준에 도달하는데 그 비용은 89%에 불과합니다. 동일한 원시 은행은

야코비 렌즈에 대한 수학적 이론

arXiv:2610.31955v1 발표 유형: 신규 초록: Anthropic의 최근 연구에서는 자코비안 렌즈(J-lens, Gurnee 외, 2026)라는 새로운 해석 도구를 도입했습니다. 이 방법은 최첨단 언어 모델의 은닉 상태에서 작업 기억과 유사한 표현을 연상시키는 특성을 지닌 선형 방향을 식별해냈습니다. 그러나 이러한 특징들이 J-lens에 의해 탐지될 수 있는 기전적 특성이 무엇인지 명확히 밝혀지지는 않았습니다. 이에 따라 우리는 J-lens에 대한 수학적 이론을 제시하고, 이 이론이 특히 일관성 있는 특징들—즉, 공간적으로 정합적인 리아푸노프 모드와 유사하게 작용하는 방향들—을 우선적으로 식별함을 보여줍니다. 이러한 방향을 따라 작은 섭동이 층간에 걸쳐 증폭되며, 토큰 위치 간에도 대체로 일정하게 유지되고, 다양한 문맥에서도 일관성을 보입니다. 다만 w

열일곱 살 학생은 어떤 답을 썼을까? 여섯 개의 최첨단 언어 모델에서 나타나는 저자 연령 오인, 과대 평가된 신뢰도, 그리고 비교정적 자기 설명에 관한 행동 사례 연구

arXiv:2610.31946v1 발표 유형: 신규 초록: 세 명의 학생이 같은 시험 문제를 손으로 작성했다: “행복이란 무엇인가? 당신은 행복한가?” 수집 당시 기록된 이들의 나이는 17세, 28세, 45세이다. 열일곱 살 학생의 답은 조심스럽고 형식적으로 표현되어 있다. 각 답안을 나이와 성별 라벨에 맞추도록 요청했을 때, 대부분의 최첨단 언어 모델은 이를 성인에게 확신을 가지고 배정한다. 본 논문은 Claude Fable 5, Gemini 3.1 Pro, GPT-5.6 Sol, Grok 4.5, GPT-4o (2024), 그리고 DeepSeek V4 등 여섯 개 모델에서 발생한 이러한 실패를 구조화된 사례 연구로 보고한다. 우리는 프레임 설정, 공개 형식, 그리고 청중 인식 지침을 조작하는 여섯 가지 실험 조건 하에 1,081회의 API 세션을 진행하고, 총 3,225개의 응답을 점수화하였다. 여섯 개 모델 중 세 개는 매칭 과제에서 우연 수준(1/3)에 근접하거나 그에 가까운 성과를 보이는 반면, 73~88%의 정확도를 보고한다.

연구에 따르면 대규모 언어 모델에는 ‘비가시화’ 편향이 존재하며, 흑인 설명자에 대한 정보 거부 평가율이 최대 46%에 달하는 것으로 나타났다.

2026년 10월 24일 arXiv에 게재된 한 실증 연구(논문 번호 2610.30785v1)는 OpenAI와 Anthropic의 주류 대형 언어 모델들이 신뢰 평가 과제에서 상당한 ‘불시인화’ 편향을 보임을 발견했다—즉, 프롬프트에 ‘Black’과 같은 보호된 속성이 포함될 경우 증거의 질이 아닌 해당 속성에 따라 평가 정보를 체계적으로 거부하는 현상이며, 이러한 편향은 감사 과정에서도 일반적인 방법으로는 식별하기 어렵다.

추천 이유이 연구는 엄격한 설계를 갖춘 두 개의 용기 베이즈 의사결정 실험을 통해 6,600회의 대화와 10가지 설명 구성에 걸쳐 진행되었으며, 신원 라벨링으로 인해 모델이 거부 행동을 유발하는 비용을 최초로 정량화하고, 그 반직관적인 특성을 규명했습니다. 구체적으로, 거부율은 매우 큰 차이를 보였는데(흑인 설명자 46% vs 백인 설명자 9%), 그러나 평가가 이루어진 후에는 오히려 흑인 설명자가 약간 더 높은 신뢰를 받았습니다. 또한 편향은 추론의 깊이가 증가할수록 심화되고, 의미보다는 특정 어휘에 의존하며, 경고 지침에 의해 더욱 악화되는 것으로 나타났습니다. 이러한 발견들은 AI의 공정성 평가 및 정렬 실천에 있어 직접적인 시사점을 제공합니다.

SIM-UT: 의료 분류 진료 챗봇을 위한 사용자 행동 시뮬레이션 평가 프레임워크

연구자들은 다중 단계에 걸친 실제 사용자 행동 시뮬레이션 기반 평가 방법인 SIM-UT(Simulation of User Behaviour for Triage)을 제안했으며, 이는 대규모 언어 모델(LLM) 기반 의료 분류 챗봇이 저소득 및 중간소득 국가(LMICs)의 실제 환경에서 나타내는 생태적 유효성 결함 패턴을 식별하는 데 활용된다.

추천 이유이 프레임워크는 기존의 단일 라운드·영어 중심 평가의 한계를 극복하고, 5,000회 이상의 다국어 시뮬레이션 대화를 통해 인도, 남아프리카공화국, 케냐의 실제 WhatsApp 보건 프로젝트를 포괄함으로써, ‘임상적 위험 감소(de-escalation risk)’라는 핵심 실패 행동을 최초로 체계적으로 규명하였으며, 방법론적 혁신성과 임상 안전 경고로서의 가치를 지니고 있습니다.