스터디

2024. 10. 01 (화)

무산된 'AI 규제법' 물러선 캘리포니아

[요약]

개빈 뉴섬 캘리포니아 주지사는 AI 개발사에 책임을 부과하는 AI 규제 법안에 거부권을 행사함. 그는 규제가 과학적이고 실증적 증거에 기반해야 한다고 주장하며, 테크업계의 강한 반발을 이유로 듦. 반면, 뉴섬 주지사는 신경 데이터를 민감 데이터로 보호하는 개인정보 보호법 개정안에는 서명함.

[용어]

- SB 1047: AI 개발사에 책임을 부과하고 안전성 시험을 의무화하는 AI 규제 법안

- 킬 스위치 (Kill Switch): AI 시스템이 문제가 발생했을 때 즉각적으로 작동을 중단시킬 수 있는 비상 정지 장치

[의견]

AI 규제 관련법은 기술 혁신과 사회적 책임을 균형 있게 고려해야 하며, 향후 이러한 법안들은 AI의 안전성, 투명성, 그리고 개인정보 보호를 중심으로 강화될 가능성이 큼. 각국 정부는 AI의 윤리적 문제와 사회적 요구를 반영하면서도, 지나친 규제로 혁신을 저해하지 않도록 신중한 접근이 필요함. 특히 글로벌 경쟁력을 유지하기 위해 국제 협력과 표준화 작업이 중요해질 것이며, 한국도 이러한 흐름에 맞춰 규제 체계를 강화해 나가는 동시에 기업의 책임성을 높이는 방향으로 나아가야 한다고 생각함.

<추가 자료>

SB 1047, 그게 뭔데?

• 안전 책임 의무화: 법안은 우선 개발 비용인 1억 달러(약 1300억원)가 넘는 거대언어모델(LLM)에 대한 안전 테스트를 의무화하는 내용을 담고 있다. 안전 테스트는 제3자가 진행해야 한다. 만약 AI 시스템이 많은 사람을 사망에 이르게 하거나, 5억 달러 이상의 피해를 일으키는 심각한 문제를 만들면 개발사가 책임져야 한다. 오픈소스 모델을 미세조정(파인튜닝)해 제작한 모델에 문제가 생기면, 원래 개발사도 책임지게 된다. 필요시 AI 모델을 즉시 강제로 중지할 수 있는 ‘킬 스위치’도 설치해야 한다는 규정도 담겨있다. AI 안전 문제에 대해 공개하려는 ‘내부고발자’에 대한 보호 내용도 포함됐다.

• 안 지키면 소송: 법안을 준수하지 않는 기업은 캘리포니아 법무장관으로부터 민사소송을 당할 수 있다. 본사 소재지에 상관없이 캘리포니아주에서 사업하는 모든 회사가 적용 대상이다. 이 때문에 실리콘밸리에서 사업을 영위하는 빅테크와 AI 스타트업들이 규제 대상에 해당한다.

이게 왜 중요해

EU에서 시작된 AI 규제 바람이 미국에서도 거세게 불기 시작했다. 딥페이크 등 AI의 어두운 측면이 드러나면서 규제를 요구하는 목소리도 커지고 있는 것. EU는 5월 세계 최초로 AI 기업과 기술을 포괄적으로 규제하는 ‘AI법’을 통과시켰다. 미국 내에서도 플로리다주, 뉴욕주 등이 AI 규제 법안을 추진하거나 입법한 바 있지만 이렇게 포괄적이고 강력한 규제 법안을 내놓은 것은 캘리포니아주가 처음이다.

빅테크 반응

• 기술 혁신 막는다: 오픈AI, 메타 등은 AI 개발을 어렵게 할 것이라며 반대했다. 특히 오픈AI는 공개 서한을 통해 “주정부가 아닌 연방정부가 AI를 규제해야 한다”고 주장했다. 실리콘밸리 대표 벤처캐피털(VC)인 앤드리슨호로위츠(a16z)도 “스타트업의 성장을 저해한다”며 반대했다. 법안이 통과되자 구글, 애플, 아마존 등 빅테크를 대표하는 단체인 ‘챔버 오브 프로그레스’도 “캘리포니아의 혁신 경제에 피해를 입힌다”며 이 법안에 주지사가 거부권을 행사할 것을 요구하는 성명을 발표했다.

• 공익을 위해 필요: 테슬라 최고경영자(CEO)이자 AI 기업 xAI를 설립한 일론 머스크는 지난 28일 자신의 X 계정에 “공공의 잠재적인 위험이 되는 모든 제품과 기술을 규제하는 것”이라며 법안에 찬성하는 글을 올렸다. 오픈AI의 맞수이자 ‘클로드’를 개발한 앤스로픽은 지난 21일 공개 서한을 통해 “해당 법안은 AI의 재앙적 위험을 다루고 있다”며 “개정된 법안에서 대기업이나 대형 연구소 외의 소규모 기업은 대상에 제외되기에, 혁신을 저해할 수 있는 문제는 크게 줄었다”며 법안에 긍정적인 태도를 취했다.

<생각해 볼 쟁점 세 가지>

1. 규제의 기준 – AI 기술의 위험성을 어떻게 평가할 것인가

• 개빈 뉴섬 주지사는 법안이 단순히 AI 모델의 크기나 비용을 기준으로 규제하려 했다고 비판. AI의 진정한 위험성은 AI 모델이 어떻게 사용되는지에 따라 달라지기 때문

• 자율주행차의 AI는 교통 상황에서 얼마나 안전한지, 혹은 의료 AI가 환자의 생명을 다루는 경우 얼마나 신뢰할 수 있는지에 따라 위험성이 달라짐. 따라서 과학적이고 실증적인 테스트가 필수적

2. 산업과 규제의 균형 – 테크업계 반발과 규제의 필요성

• 구글, 메타, 마이크로소프트 같은 빅테크 기업들은 이 법안이 모호하고 과도한 규제라며 강하게 반발. 규제는 안전성을 강화하지만, 동시에 혁신을 저해할 위험도 있음

• 샘 올트먼 오픈AI CEO는 이 규제를 '매우 나쁜 규제'라고 비판. 반면에, 시민 안전을 위해 AI의 책임을 명확히 할 필요가 있다는 주장도 강하게 제기됨. 이러한 균형을 찾는 것이 핵심

3. 정치적 부담 – 뉴섬 주지사의 선택과 실리콘밸리와의 관계

• 그는 이전에 여러 AI 규제 법안에 서명했지만, 이번 법안에는 거부권을 행사. 일각에서는 그가 실리콘밸리와 긴밀한 관계를 유지하고 있기 때문에 테크업계의 반발을 무시하기 어려웠을 것

• 실제로 뉴섬은 이날 테크업계의 반발이 적었던 개인정보 보호법 개정안에는 서명함. 이는 그가 테크 기업의 입장을 고려해 정치적 부담을 덜기 위한 전략일 수 있음.

2024. 10. 03(목)

"카카오T, 경쟁사에 횡포" vs "이용자 편의 위한 조치"

[기사 요약]

공정거래위원회는 카카오모빌리티가 시장지배적 지위를 남용해 경쟁사를 배제한 혐의로 724억 원의 과징금을 부과. 카카오모빌리티는 자사 호출 서비스를 자사 가맹택시에 우선적으로 제공하고, 경쟁사에 핵심 영업비밀 제공을 요구하며 독점적인 지위를 강화함. 카카오모빌리티는 공정위의 결정에 반발하며, 제휴 계약은 이용자 편의를 위한 것이었으며 과징금이 과도하다고 주장함.

[세부 정보]

- 2019년 카카오모빌리티가 카카오T 블루를 시작할 때 일반호출 서비스 카카오T의 점유율은 이미 90%를 넘음

- 2019년 14.2%이던 카카오T 블루의 점유율은 이듬해 51.8%로 상승. 2022년 점유율은 79.1%

[의견]

카카오모빌리티는 자사의 시장지배적 지위를 남용하여 경쟁사에 불리한 조건을 강요하고, 영업비밀을 요구한 후 이를 자사 전략에 활용하는 등 부당한 방식으로 시장 점유율을 확대함. 이러한 행위는 공정 거래를 저해하고 경쟁사를 배제하는 결과를 초래했으며, 이번 과징금 부과로 경영 전략의 전환이 불가피해졌음. 향후 카카오모빌리티는 공정 경쟁을 준수하는 경영 원칙을 확립하고, 이해관계자들과 투명하고 협력적인 관계를 구축해야 할 것임. 또한 규제 변화에 맞춘 준법 경영을 강화해 장기적인 신뢰와 경쟁력을 확보하는 것이 중요하다고 생각.