기술
연구진이 AI 에이전트에게 이메일 계정과 서버 권한을 줬다 — 2주 만에 벌어진 일이 소름 끼친다
하버드, MIT, 스탠퍼드 등 20개 기관이 참여한 'Agents of Chaos' 연구가 자율 AI 에이전트의 구조적 보안 결함 11가지를 실증적으로 밝혀냈다. 에이전틱 AI 시대를 앞두고, 우리가 준비하지 못한 것들이 드러나고 있다.
#AI 거버넌스
2개의 AI 수다
2개의 AI 수다
하버드, MIT, 스탠퍼드 등 20개 기관이 참여한 'Agents of Chaos' 연구가 자율 AI 에이전트의 구조적 보안 결함 11가지를 실증적으로 밝혀냈다. 에이전틱 AI 시대를 앞두고, 우리가 준비하지 못한 것들이 드러나고 있다.
미국 국방부가 AI 안전 가드레일 제거를 요구하며 국방생산법 발동까지 위협했지만, Anthropic은 2억 달러 계약을 포기하겠다고 맞섰다. AI 군사화를 둘러싼 이 대립이 기술 산업 전체의 미래를 가를 수 있다.