캘리포니아 주 뉴섬, AI 안전 공개를 의무화하는 법안 서명

Jody Godoy

캘리포니아 주지사 개빈 뉴섬은 월요일에 챗GPT 개발사인 오픈AI와 다른 대기업들이 최첨단 AI 모델로 인한 잠재적인 재앙적 위험을 어떻게 완화할 계획인지 공개하도록 하는 주법에 서명했다.

캘리포니아는 오픈AI, 알파벳의 GOOG 구글, 메타 플랫폼 META, 엔비디아 NVDA, 앤트로픽 등 최고의 AI 기업이 있는 곳으로, 이 법을 통해 경제에 중요한 산업을 규제하는 데 앞장서고자 한다고 뉴섬 주지사는 말했다.

"캘리포니아는 지역 사회를 보호하는 동시에 성장하는 AI 산업이 계속 번창할 수 있도록 규제를 마련할 수 있음을 입증했다."라고 뉴섬 주지사는 법안 관련 보도 자료에서 말했다.

뉴섬의 사무실은 SB 53으로 알려진 이 법이 지금까지 광범위한 AI 법안을 통과시키지 못한 미국 의회의 공백을 메우고 미국이 따라야 할 모델을 제공한다고 말했다.

뉴섬 주지사는 연방 표준이 마련되면 주 의회는 "SB 53이 정한 높은 기준을 유지하면서 이러한 표준에 부합하도록 해야 한다"고 말했다.

작년에 Newsom은 업계의 격렬한 반발에 직면했던 캘리포니아의 첫 번째 AI 입법 시도에 대해 거부권을 행사했다 . 이 법안은 AI 모델에 1억 달러 이상을 지출한 기업에게 매년 제3자 감사인을 고용해 위험 평가를 검토하도록 하고 주정부가 수억 달러의 벌금을 부과할 수 있도록 했다.

새로운 법에 따르면 매출이 5억 달러 이상인 기업은 첨단 기술이 인간의 통제를 벗어나거나 생물무기 개발에 도움이 될 수 있는 위험을 평가하고 그 평가 결과를 대중에게 공개해야 한다. 이 법은 위반 시 최대 100만 달러의 벌금을 부과할 수 있다.

AI 기업 Anthropic의 공동 설립자 잭 클라크는 이 법이 "공공 안전과 지속적인 혁신의 균형을 맞추는 강력한 프레임워크"라고 말했다.