캘리포니아 국회의원, 기술 기업의 반대에도 불구하고 AI 안전 법안 투표

스콧 위너(Scott Wiener) 주 상원의원이 작성한 캘리포니아 상원 법안 1047은 AI 기업이 안전성을 테스트하기 위해 대규모 모델을 구축하도록 요구하는 미국 최초의 법안이 될 것입니다.

캘리포니아 국회의원들은 이번 회기에서 인공지능과 관련된 수십 개의 법안을 검토하고 있습니다. 그러나 ‘AI 패러다임 선도를 위한 안전하고 확실한 혁신법’으로 불리는 와이너의 제안은 미국 ​​AI 발전의 본거지인 실리콘밸리의 거센 반대 때문에 전국적인 관심을 끌었다. 반대자들은 캘리포니아에 부담스러운 기술 요구 사항과 잠재적인 벌금을 부과하는 것이 혁신과 국가의 글로벌 경쟁력을 저해할 것이라고 말합니다.

OpenAI는 반대를 선언하고 주장하는 최신 AI 개발자입니다. 수요일에 메시지로 AI 규제는 연방 정부에 맡겨야 하며, 제안된 법안이 통과되면 기업은 캘리포니아를 떠날 것이라고 주장합니다.

현재 주 의회는 이 법안에 대한 표결을 실시할 예정입니다. 최근 당첨자가 수정되었습니다 기술 업계의 비판에 대해 그는 새로운 언어가 업계에서 제기된 모든 문제에 대응하지 못한다고 말했습니다.

와이너는 월요일 기자회견에서 “이것은 어떤 식으로든 혁신을 방해하지 않고 강력한 기술에 수반되는 위험을 극복하는 데 도움이 될 합리적이고 가벼운 법안”이라고 말했다.

법안은 무엇을 할 것인가?

이 법안은 교육에 1억 달러가 넘는 대규모 AI 모델을 구축하는 기업이 안전 테스트를 통해 발견한 시스템의 심각한 위험을 완화하도록 요구합니다. 여기에는 “완전 종료” 기능을 생성하거나 재앙적인 상황에서 잠재적으로 안전하지 않은 모델의 플러그를 뽑는 방법이 포함됩니다.

또한 개발자는 안전 위험을 해결하기 위한 기술 계획을 작성하고 해당 양식이 제공되는 동안 +5년 동안 해당 계획의 사본을 보관해야 합니다. Google, Meta, OpenAI와 같은 회사는 이미 상당한 AI 운영을 보유하고 있습니다. 자발적인 약속 Biden 행정부가 AI 위험 관리에 대한 책임을 맡을 가능성이 있지만 캘리포니아 법률은 이러한 의무에 대한 법적 및 집행 의무를 부과합니다.

매년 제3자 감사관이 회사의 법률 준수 여부를 평가합니다. 또한 기업은 법률 준수를 문서화하고 모든 안전 사고를 캘리포니아 법무장관에게 보고해야 합니다. 법무장관실은 첫 번째 위반에 대해 최대 $50,000의 민사 벌금을 부과할 수 있으며 후속 위반에 대해서는 추가로 $100,000를 부과할 수 있습니다.

비판은 무엇입니까?

많은 기술 업계에서는 제안된 법안이 너무 부담스럽다고 비판했습니다. 안전에 중점을 두고 마케팅하는 유명한 AI 회사인 Anthropic은 이전 버전의 법안이 AI 혁신을 저해하는 복잡한 법적 의무를 야기했을 것이라고 주장했습니다. 안전사고가 발생하지 않습니다.

OpenAI는 법안이 통과되면 요구 사항을 피하기 위해 기업이 캘리포니아를 떠날 것이라고 제안했습니다. 그녀는 또한 혼란스러운 일련의 법안이 주 전역에서 제정되는 것을 방지하기 위해 AI 규제를 의회에 맡겨야 한다고 주장했습니다.

우승자 그녀는 대답했다 미국 상원 외교위원회는 기업들이 캘리포니아를 떠나는 것은 “번거로운 주장”이라며, 캘리포니아 주민에게 서비스를 제공하는 기업에는 본사가 없더라도 법안 조항이 여전히 적용될 것이라고 지적했다.

지난 주 미국 의회 의원 8명이 발표했습니다. 충고하다 Gavin Newsom 주지사는 인공 지능을 만들고 사용하는 회사에 부과하는 의무 때문에 상원 법안 1047을 거부할 것입니다. 낸시 펠로시(Nancy Pelosi) 하원의원은 야당 동료들과 합류했습니다. 부르다 이 법안은 “의도는 좋지만 고려가 잘못되었습니다.”(Weiner는 명예 하원 의장 자리를 주시해 왔으며 이로 인해 향후 딸인 Christine Pelosi와의 대결이 필요할 수 있음) 폴리티코에 따르면.)

펠로시 의장과 국회의원들은 “인공지능의 대모”인 스탠포드 대학의 컴퓨터 과학자이자 전 구글 연구원인 비비 리(Vivi Li) 박사의 편에 섰습니다. 최근 논평에서 Lee는 이 법안이 “우리의 신흥 AI 생태계에 해를 끼칠 것”, 특히 “오늘날의 거대 기술 회사에 비해 이미 불리한 상황에 있는” 소규모 개발자들에게 해를 끼칠 것이라고 말했습니다.

지지자들은 뭐라고 말하나요?

법안 초안은 인공지능 분야의 많은 스타트업으로부터 지지를 받았다. 노션 공동 창업자 사이먼 라스트(Simon Last)와 인공지능의 대부인 요슈아 벤지오(Yoshua Bengio)와 제프리 힌튼(Geoffrey Hinton). Bengio는 이 법안이 혁신을 장려하면서 AI를 더욱 안전하게 만들기 위한 “긍정적이고 합리적인 조치”가 될 것이라고 말했습니다.

적절한 안전 조치가 없으면 이 법안 지지자들은 감독되지 않는 AI의 끔찍한 결과가 중요 인프라에 대한 위험 증가 및 핵무기 생성과 같은 실존적 위협을 초래할 수 있다고 우려합니다.

Weiner는 자신의 “간단하고 상식적인” 법안을 옹호하며, 이 법안은 가장 큰 AI 기업만이 안전 조치를 채택하도록 요구할 것이라고 지적했습니다. 그는 또한 미국 기술 정책에 대한 캘리포니아의 리더십을 칭찬하면서 의회가 가까운 시일 내에 인공 지능에 관한 실질적인 법안을 통과시킬 것인지에 대한 의구심을 불러일으켰습니다.

“캘리포니아주는 우리 주민을 보호하고 의회의 무활동으로 인해 남겨진 공백을 메우기 위해 계속해서 개입했습니다.”라고 Weiner는 응답하면서 데이터 개인 정보 보호 및 소셜 미디어 규제에 대한 연방 조치가 부족하다는 점을 지적했습니다.

다음은 무엇입니까?

법 초안에 대한 최근 성명에서 Weiner는 최신 개정안이 인공 지능 산업이 표현한 많은 우려를 고려했다고 말했습니다. 현재 버전에서는 정부에 거짓말을 한 경우 원래 법안에 있었던 것처럼 형사 처벌 대신 민사 처벌을 제안합니다. 또한 AI 모델을 감독할 새로운 주 규제 기관을 창설하겠다는 제안도 삭제합니다.

앤트로피는 말했다. 뉴섬에게 보낸 편지에서 개정된 법안의 이점은 AI 산업에 대한 잠재적인 피해보다 클 가능성이 높으며, 주요 이점은 AI 안전에 대해 대중에게 투명성을 제공하고 기업이 위험 완화에 투자하도록 하는 것입니다. 그러나 Anthropic은 광범위한 제한과 보고 요구 사항 확대 가능성에 대해 여전히 경계하고 있습니다.

Anthropic CEO Dario Amodei는 해당 프레임워크가 SB-1047인지 여부에 관계없이 “우리는 이 세 가지 요구 사항을 대략적으로 충족하는 첨단 AI 시스템을 관리하기 위한 프레임워크를 갖는 것이 중요하다고 생각합니다.”라고 주지사에게 말했습니다.

캘리포니아 의원들은 회기가 끝나는 8월 31일까지 법안을 통과시켜야 한다. 승인되면 9월 말까지 Gavin Newsom 주지사에게 최종 승인을 받게 됩니다. 주지사는 법안에 서명할 계획인지 여부를 밝히지 않았습니다.