미국 상원 협상가들이 가장 고도화된 AI 모델 개발자들에게 재앙적 위험으로부터 보호할 법적 의무를 부과하고, 연방 정부에 안전하지 않은 출시를 차단할 권한을 부여할 수 있는 법안을 검토 중이라고 로이터가 보도했습니다.
최고 수준의 AI 기업들에게 이는 안전 기준이 대부분 자발적 노력에서 법적 의무로 전환되는 것을 의미합니다. 더 넓은 시장의 관점에서 보면, 더 엄격한 규제가 소비자와 투자자 사이에서 신뢰를 조성할지, 아니면 이를 감당할 수 있는 소수의 기업만 강화할지가 핵심 질문입니다.
자발적 서약에서 '주의 의무'로 로이터에 따르면, 이 제안은 프론티어 AI 모델 개발자들을 위한 소위 '주의 의무(duty of care)'를 창설하는 것을 목표로 합니다. 이를 위해 다양한 조건들이 검토되고 있습니다. 이 제안에는 다음의 요구사항이 포함됩니다: 재앙적 위험을 최소화하는 AI 모델을 설계할 개발자의 의무, 미국 정부의 안전하지 않은 AI 모델 차단 권한 유보, 정부 결정에 대한 법원 항소, 그리고 AI 테스트에 국립 연구소 및 정부 파트너의 참여. 이 제안은 동일한 문제를 규율하는 일부 기존 주 차원의 법률보다 우선할 가능성이 있습니다.
로이터에 따르면, 프론티어 AI 개발에 참여하는 미국 기술 기업으로는 구글(알파벳), 앤트로픽, 오픈AI가 있습니다.
이 협상에는 상원 다수당 대표 존 튠, 상원 상무위원회 위원장 테드 크루즈, 상원의원 에이미 클로버샤가 참여하고 있으며, 상원의원 마리아 캔트웰도 참여하고 있습니다.
클로버샤 의원은 로이터에 자신의 목표가 다음과 같다고 밝혔습니다:
"AI 모델이 제기하는 가장 큰 위험에 대한 정부의 감독"
그녀는 이러한 감독에는 개발자들이 정부 전문가들과 협력하여 고급 모델을 검증하고 테스트하도록 요구하는 것이 포함되어야 한다고 말했습니다.
크루즈 의원은 프론티어 AI의 가장 심각한 가능성 중 일부를 지적하는 유사한 제안을 제시했습니다. X의 게시물에서 크루즈 의원은 클로버샤 및 튠 의원과 협력하여 다음과 같은 목표를 추진하고 있다고 밝혔습니다:
"생물학적 또는 핵 위협과 관련된 재앙적 위험에 대응"
이러한 우려는 왜 협상가들이 전체 AI 산업에 동일한 조건을 요구하는 대신 가장 고도화된 모델에 노력을 집중하는지 설명해 줍니다.
또 다른 중요한 고려 사항은 연방 규정이 주 차원의 일부 제한보다 우선해야 하는지 여부입니다. 이러한 접근 방식은 일반적으로 트럼프 행정부의 AI 입법 프레임워크와 일치합니다. 이 프레임워크는 무질서한 주 법률 체계가 미국의 AI 기술 개발 경험을 저해할 것이라고 주장하며, 보다 일관된 국가 차원의 프레임워크를 요구합니다.
의원들이 위험을 이론적인 것으로 취급하지 않게 된 이유 입법자들은 이론적 상황뿐만 아니라 AI 에이전트가 스스로 행동하고 외부 시스템에 침투한 사건, 그리고 주요 업계 기업에서 일하는 연구자들이 제기한 우려에도 대응하고 있습니다.
IAPP는 협상이 전직 앤트로픽 연구원인 제이콥 콕슨의 사임과 자기 개선형 AI 경쟁에 대한 그의 우려로 촉발되었다고 밝혔습니다.
의회의 요구가 높아지고 있습니다. 조시 홀리 상원의원은 7월에 발생한 허깅페이스 사이버 공격에서 오픈AI의 역할을 조사하고 있으며, 버니 샌더스 상원의원은 초지능 개발 일시 중지를 목표로 하는 법안을 작업 중이라고 IAPP가 보도했습니다.
오픈AI도 집행 가능한 연방 입법을 지지합니다. 9월 9일에 게시된 정책 기사에서 크리스 레한 최고 글로벌 정무 책임자는 다음과 같은 내용을 촉구했습니다:
"역량 기반의 의무적 국가 AI 안전 규제."
이는 업계의 일부와 의회가 자발적 안전장치가 여전히 충분한지에 대한 중요한 질문에서 같은 편에 서게 만듭니다.
유럽은 이미 가장 위험한 모델을 규제하고 있습니다 미국이 미지의 영역을 탐색하는 것은 아닙니다. 유럽연합의 AI 법은 시스템적 위험 가능성이 있는 범용 AI 모델 제공자에게 새로운 책임을 부과했습니다. 이러한 의무는 모델 평가, 위험 관리, 사고 보고 및 사이버 보안 관련 문제를 다룹니다.
10^25 FLOP의 컴퓨팅 성능 임계값을 초과하는 모든 모델은 잠재적으로 시스템적 성격을 가진 것으로 간주됩니다. 그러나 유럽 위원회는 역량이나 영향과 같은 다른 기준에 따라 성능이 낮은 모델도 유사하게 분류할 권리가 있습니다.
미국 프론티어 AI 안전 법안: 주요 임계값, 연구소 및 투자 지분
규제 준수 비용이 가장 큰 연구소에 유리하게 작용할 수 있음 재정적 이해관계는 엄청납니다. 골드만삭스 리서치에 따르면, 글로벌 AI 투자 규모는 2026년에 약 1조 달러에 이를 것으로 예상되며, 여기에는 미국의 5,810억 달러가 포함됩니다.
새로운 테스트, 법률 및 문서화 요구사항은 모델 출시 일정, 인프라 예산, 기업 가치 평가 및 IPO 시기에 영향을 미칠 수 있습니다. 새로운 요구사항은 또한 대형 업체에 이점을 제공할 수 있는데, 소규모 기업은 비용을 감당하지 못할 수 있기 때문입니다.
이러한 긴장은 이미 자본 시장에서 나타나고 있습니다. 크립토폴리탄에 따르면, 데이비드 색스는 콕슨이 제기한 안전 의혹이 확인될 때까지 앤트로픽의 IPO를 보류할 것을 촉구했습니다. 앤트로픽의 투자자들은 약 2조 달러 규모의 기업 가치 평가에 대해 논의했으며, 이는 프론티어 모델의 안전 문제가 규제 당국뿐만 아니라 투자자들에게도 중요한 관심사가 되었음을 보여줍니다.
그러나 이 법안의 진행 상황은 불확실합니다. 로이터가 보도한 바와 같이, 하원은 11월 3일 중간선거를 준비하기 위해 단 1주일만 개회할 예정이며, 상원의원들은 3주간 유지될 것으로 예상됩니다. 협상 당사자들이 협상 중 합의에 도달하더라도, 남은 입법 일수가 법안 통과의 주요 장애물이 될 수 있습니다.
가장 똑똑한 암호화폐 전문가들은 이미 우리 뉴스레터를 읽고 있습니다. 함께하시겠습니까? 지금 가입하세요.