Anthropic, OpenAI, Google은 공동 산업 표준 기구 설립을 논의한 것으로 The Information의 보도에 따르면 알려졌다. 이는 최대 프론티어 연구소들이 자체 모델을 평가할 안전 기준을 수립할 기회를 제공하게 된다.
민감한 작업에 프론티어 모델을 활용할지 여부를 평가하는 기업들에게 공통 표준의 도입은 채택에 대한 확신을 높여줄 것이다. 그러나 동일한 체계가 최대 플레이어들에게 힘을 실어줄 수도 있다. OECD는 이미 높은 고정 비용, 컴퓨팅 자원 부족, 집중된 인프라로 인해 기업들이 AI 시장에 진입하기 어렵다고 경고한 바 있다. 규정 준수 비용은 소규모 연구소들이 직면해야 할 또 다른 장벽이 될 수 있다.
이미 제안된 방안들 7월 14일, Google DeepMind의 수장인 데미스 하사비스는 금융산업규제기구(FINRA)에서 영감을 얻은 미국 기반 프론티어 AI 표준 기구 이니셔티브를 제안했다.
그의 제안에서 프론티어 연구소들은 자발적으로 첨단 기술을 평가에 제출하고, 출시 전 30일간의 평가 기간을 거치게 된다. 평가자들은 사이버 보안, 생물학적 위협, 조작과 같은 위험을 제시하지 않는지 기술의 안전성을 평가하게 된다.
외교협회(CFR)는 백악관이 이미 하사비스가 도입한 아이디어를 검토 중이라고 보도했다. 그의 제안에 따르면, 미국에서 프론티어 기술을 배포하기 위해서는 추후 단계에서 평가 과정을 통과하는 것이 의무화될 것이다.
9월에 게재된 "우리는 프론티어에 보조를 맞춰야 한다"는 제목의 기사에서 Anthropic의 CEO 다리오 아모데이는 다른 관점에서 문제를 바라본다. 그에 따르면 안전 노력이 AI 역량을 따라잡을 수 있도록 추가 시간이 필요하다. 아모데이가 제시하는 해결책은 METR과 같은 독립 평가자들이 프론티어 연구소를 장기간 방문할 수 있도록 허용하는 것이며, 이는 민주주의 국가들의 주요 AI 기업 간 안전 표준에 관한 협력을 위한 길을 열어줄 것이다.
이번이 첫 시도가 아닌 이유 산업 주도의 안전 기구는 이미 한동안 존재해 왔다는 점을 주목하는 것이 중요하다. 실제로 2023년에는 6개 주요 AI 기업이 참여한 프론티어 모델 포럼(Frontier Model Forum)이 결성되어 1천만 달러 이상의 AI 안전 기금을 통해 독립적인 안전 연구 프로그램을 구축하는 노력의 일환으로 운영되었다.
에이전틱 AI 재단(Agentic AI Foundation)은 2025년 12월 리눅스 재단의 일부로 설립되었으며, AI 에이전트를 위한 개방형 표준과 인프라를 개발하는 것을 목표로 한다. 이 재단을 구성한 프로젝트에는 Anthropic의 모델 컨텍스트 프로토콜(Model Context Protocol), Block의 goose, OpenAI의 AGENTS.md가 포함된다.
OpenAI는 2026년 6월 13개 회원사와 함께 설립된 Appia 재단의 설립에 협력했다. 이 재단은 AI 거버넌스의 일반 원칙을 AI 공급망 전반에서 사용될 사양, 테스트, 규정 준수 증명으로 전환하는 것을 목표로 한다.
프론티어 AI 표준 비교: FMF, Appia, AAIF, EU GPAI 규범 및 미국 제안
조정에 대한 요구는 산업 기구 너머에서도 관찰된다. Cryptopolitan이 보도한 바에 따르면, OpenAI의 글로벌 업무 책임자인 크리스 레한은 미국과 중국이 글로벌 AI 안전 체계를 지지해야 한다고 주장하며, 이 이니셔티브를 국제 핵 협력에 비유했다.
아무도 해결하지 못한 해자 문제 핵심 문제는 독립성이다. CFR의 분석에 따르면, 업계가 자금을 조달하는 규제 기관은 2008년 금융 위기 이전의 발행자 지불 신용평가 시스템에서 볼 수 있었던 것과 유사한 이해 충돌에 직면할 수 있으며, 규제 기관의 프론티어 모델 접근, 평가자의 전문성, 국가 안보 조치, 현재 테스트 방법의 신뢰성에 관한 일련의 미해결 질문을 제기한다.
역량도 또 다른 도전 과제이다. GovAI가 제공한 전망에 따르면 2025년부터 2028년까지 14~16개의 모델이 현재까지의 최대 훈련 규모와 동일한 수준에 속할 수 있으며, 이는 주기적인 평가가 아닌 지속적인 검토 역량이 필요함을 의미한다.
경쟁 또한 중요하다. 주로 대형 연구소들이 수립한 표준은 고정 비용이 될 수 있으며, 이는 스타트업보다 기존 기업들이 감당하기 더 쉽다. 일부 자발적 체계가 의무 요건으로 전환된다면, 안전 규정 준수가 시장 진입 장벽으로 작용하지 않도록 방지하는 메커니즘을 도입할 필요가 있다.
무엇이 만들어지든 유럽과 연계되어야 한다. 2025년 7월 AI법 준수를 입증하는 자발적 방법으로 도입된 유럽연합의 범용 AI 실천 규범(General-Purpose AI Code of Practice)에는 이미 Anthropic, Google, Microsoft, OpenAI가 서명 기관으로 포함되어 있다. 따라서 새로운 미국 또는 산업 주도의 표준 기구는 거버넌스 환경을 새로 만드는 것이 아니라 이미 혼잡한 환경에 진입해야 할 것이다.
이 글을 읽고 있다면, 당신은 이미 앞서 나가고 있는 것입니다. 뉴스레터로 계속 앞서 나가세요.