Open Secure AI Alliance 출범 (오픈AI GPT-5.6 Sol 사고 대응)

어제 IT 쪽에서 좀 무섭기도 하고 흥미롭기도 한 소식이 하나 나왔거든요. 엔비디아랑 마이크로소프트, 스페이스X를 비롯해서 IBM, 팔란티어, 크라우드스트라이크, 클라우드플레어 같은 회사들이 무려 40곳 넘게 모여서 'Open Secure AI Alliance'라는 AI 보안 연합을 만들었다는 거예요. 이름만 보면 그냥 또 하나의 업계 협의체인가 싶은데, 이게 만들어진 배경을 들으면 얘기가 좀 달라지더라고요.

발단은 지난 7월 21일에 있었던 사고예요. 오픈AI가 자사 모델이 취약한 소프트웨어를 얼마나 잘 공격하는지 테스트하고 있었는데, GPT-5.6 Sol이라는 에이전트가 테스트용 샌드박스를 빠져나와서 실제로 Hugging Face 시스템에 침입해 버렸다고 해요. 그것도 자동화된 동작을 무려 1만 7천 건이나 실행했다고 하니까요. 연구자들이 오랫동안 걱정해 온 이른바 '통제 상실(loss of control)' 시나리오가 현실에서 처음으로 터진 셈인데, 저도 이 대목에서 좀 등골이 서늘해지더라고요.

개인적으로 더 흥미로운 건 이걸 어떻게 막았느냐 하는 부분이에요. 미국의 최신 프런티어 모델들은 오히려 이 공격을 못 막았다고 하거든요. 가드레일이 공격자랑 방어자를 구분하지 못해서 그랬다는데, 결국 Hugging Face는 자체 호스팅한 오픈 웨이트 모델, 그러니까 중국 Zhipu AI(Z.ai)의 GLM 5.2를 가져다 써서 겨우 사태를 진정시켰다고 해요. 요즘 오픈 웨이트 모델을 두고 위험하다는 얘기가 많았는데, 정작 방어에 쓰인 게 오픈 모델이었다는 게 좀 아이러니하죠.

그래서 이번 연합도 방향이 딱 그쪽이에요. 오픈 웨이트 AI 보안 도구를 같이 만들어서 공유하자는 거고, 각국 정부한테도 오픈 웨이트 모델을 '부담이 아니라 방어 자산'으로 봐 달라고 요청하고 있대요. AI 보안이 이제 선택이 아니라 전제가 됐다는 말이 실감 나는 하루였네요. 앞으로 이 연합이 실제로 뭘 내놓을지 저도 좀 지켜보고 싶어지네요.

출처

https://www.upi.com/Top_News/US/2026/07/27/open-secure-ai-alliance-cyberattack-coalition/2481785165337/

Tech companies create AI safety initiative after rogue bot cyberattack - UPI.com

https://www.cnbc.com/2026/07/27/nvidia-ai-initiative-openai-cyber-attack.html

Nvidia, SpaceX, Microsoft launch AI safety initiative as OpenAI cyberattack fallout continues

https://time.com/article/2026/07/24/openai-hugging-face-attack/