California state senator Scott Wiener has introduced a new bill, SB 53, that would require Big Tech companies to disclose the risks of artificial intelligence. The bill mandates AI giants such as OpenAI, Anthropic, Google, and xAI—those with annual revenues exceeding $500 million—to publish safety reports for their most advanced models, focusing on catastrophic risks such as human casualties, cyberattacks, and chemical weapons. Wiener previously pushed SB 1047 in 2024, a bill that sought to impose corporate liability for AI-related harms, but it was struck down following strong opposition from Silicon Valley and a veto from Governor Gavin Newsom. SB 53 is considered less confrontational since it emphasizes transparency rather than liability, resulting in a milder industry response. Anthropic has publicly endorsed the bill, and Meta has expressed partial support, while OpenAI insists that AI labs should only be obligated to follow federal standards. Some venture capital firms have even argued that the bill could violate the Constitution’s Dormant Commerce Clause. Wiener, citing a lack of federal resolve on AI regulation, emphasized California’s responsibility to lead, saying, “AI safety must protect humanity without stifling innovation.”

캘리포니아주 상원의원 스콧 위너가 빅테크 기업에 AI 위험 공개를 의무화하는 새 법안 SB 53을 발의했다. 이 법안은 오픈AI, 앤트로픽, 구글, xAI 등 연 매출 5억 달러 이상 AI 기업에 최첨단 AI 모델의 안전 보고서 공개를 요구하며, 인명 피해·사이버 공격·화학무기 등 치명적 위험에 초점을 맞췄다. 앞서 위너는 2024년 기업 책임 강화를 골자로 한 SB 1047을 추진했지만 실리콘밸리 반발과 개빈 뉴섬 주지사의 거부권으로 무산됐다. 이번 SB 53은 기업 책임 규정보다는 ‘투명성 확보’에 중점을 둬 업계 반발이 덜한 것으로 평가된다. 앤트로픽은 공개 지지를 선언했고 메타도 일부 긍정적으로 평가했다. 그러나 오픈AI는 연방 규제만 따라야 한다는 입장을 밝혔고, 일부 벤처캐피털은 헌법 위반 가능성까지 제기했다. 위너는 연방 정부의 규제 의지 부족을 지적하며 “AI 안전은 혁신을 막지 않으면서도 인류를 보호해야 한다”며 캘리포니아의 선도 역할을 강조했다.