참고영상
AI의 통제 불능 위험에 대비한 구체적인 보안 모델과 정지 체계를 제시함
사티아 나델라 마이크로소프트 CEO가 2026년 10월 11일 SNS를 통해 AI 모델의 행동을 관찰하고 통제할 수 있는 시스템 구축의 필요성을 강조했습니다. 그는 AI를 기업 내 핵심 권한을 가진 '내부자 위험'과 같은 관점에서 관리해야 하며, 비상시 관리자가 즉시 중단시킬 수 있는 '비상 브레이크' 기능의 표준화가 필수적이라고 주장했습니다.
나델라 CEO는 이번 제안에서 정보 제공 기능과 통제 권한을 분리하는 설계 방식을 강조했습니다. 또한 트럼프 미국 대통령의 행정명령 영향으로 'AI' 대신 '슈퍼지능(SI)'이라는 용어를 사용하며 기술적 안전장치 마련을 촉구했습니다.
신뢰가 아닌 감시와 차단으로 설계하는 지능의 안전장치
지능이 스스로 판단하고 행동하는 단계에 이르면 인간의 이해 범위를 벗어난 결정이 내려질 가능성이 커진다. 시스템의 내부 작동 원리를 완전히 파악할 수 없는 블랙박스 현상이 발생하기 때문이다. 결국 안전의 핵심은 지능의 선의나 정확성에 기대는 것이 아니라, 지능이 가진 권한을 물리적으로 제한하고 언제든 전원을 끌 수 있는 외부적 강제력을 확보하는 일이다.
이는 원자력 발전소의 안전 설계와 구조가 같다. 원자로 내부의 연쇄 반응을 완벽히 제어하지 못할 상황에 대비해, 제어봉을 급격히 삽입하여 반응을 강제로 중단시키는 시스템을 갖춘 것과 같다. 이번 제안 역시 지능의 고도화라는 가속 페달 옆에, 인간이 즉각 작동시킬 수 있는 비상 브레이크라는 물리적 제동 장치를 표준화하려는 시도다.
기술적 제안의 나열과 정치적 맥락의 단순 전달
아시아경제, 아이뉴스24, 매일경제, 전자신문 등 모든 매체가 AI를 내부자 위험으로 간주하고 비상 브레이크를 구축해야 한다는 핵심 주장을 동일하게 전달했다. 특히 정보 제공 기능과 통제 권한을 분리해야 한다는 설계 원칙을 공통적으로 짚어냈다.
아이뉴스24는 앤트로픽의 클로드가 안전장치를 우회한 구체적 사례를 덧붙여, 왜 외부 통제 시스템이 필요한지에 대한 실질적 근거를 제시했다. 다른 매체들이 나델라 CEO의 주장을 단순 전달하는 데 그친 것과 대비되는 지점이다.
대부분의 보도는 트럼프 대통령의 행정명령으로 인해 용어가 슈퍼지능으로 변경되었다는 사실을 언급했다. 하지만 용어 변경이 단순한 명칭의 교체인지, 아니면 규제 대상의 범위를 확장하려는 정치적 의도가 담긴 것인지에 대한 분석은 빠져 있다. 기술적 안전장치라는 본질적 논의보다 용어의 변화라는 표면적 현상에 매몰된 보도 양상이다.
뉴스스토리
이 스토리의 3번째 / 총 4장
이 카드는 「마이크로소프트의 인간 중심 AI 행동강령 공개」에서 이어진 사건입니다
댓글 로딩 중...