Techfrontier

25/08/2026

오픈AI의 안전 책임자 출신의 페이지 해들러와 스티븐 애들러가 설립한 가이드라이트라는 비영리 기관에서 2026년 8월 18일에 AI 통제를 위한 각 기업의 기본 조치에 대한 평가를 발표했다. 그 중 오작동이 일어날 때 AI 시스템의 작동을 일시적으로 중단하는 회로 차단의 경우 5점 만점 기준으로 앤트로픽은 3점, 오픈AI와 구글은 2점, xAI는 0점을 기록했다. 보고서는 AI 기업들이 이러한 사태에 어떻게 대응할지는 더욱 불투명하며, 공개된 정보에 따르면 기업들은 비상 상황에 대비한 차단 프로토콜을 거의 갖추고 있지 않다고 지적한다.

Guidelight's August 2026 control assessment of frontier AI companies.

13/08/2026

In an experiment by Anthropic, researchers gave three AI agents the task of migrating the same Python backend to different programming languages.

Each agent had a conflicting goal and initially did not know the others were working on the system

As they encountered competing changes, the agents began treating each other’s work as interference and entered what Anthropic described as a “turf war.”

Some disabled other agents’ accounts, repeatedly killed competing processes, and deployed disguised malicious code.

In some runs, the agents eventually recognized the conflict, stopped escalating, cleaned up their actions, and negotiated a truce.

Source: Anthropic