임계점을 넘다: OpenAI, Anthropic과 금융 기업들이 협력하여 통제 가능한 자율 AI 에이전트의 안전 프레임워크를 구축하다
AI 엔지니어 뉴욕 컨퍼런스에서 OpenAI, Anthropic, Two Sigma, Bloomberg 등 기관들은 금융 분야에서 AI 에이전트의 자율성과 안전성 간의 균형을 이루는 방안을 함께 논의하며, 단순히 능력을 제한하는 것이 아니라 계층적 제어, 신원 및 권한 관리, 샌드박스 승인, 추적 가능성, 그리고 외부 확정성 메커니즘을 통해 ‘신뢰할 수 있는 자율성’을 실현해야 한다고 강조했다.


