CA 주가 AI 산업에 대해 규제를 가하려는 것에 대해서 우려하는 목소리가 업계에서 나오고 있다.
경제 전문지 Financial Times 기고문에서 IT 벤처 투자 전문 회사, Andreessen Horowitz의 General Partner 안즈니 미드하는 SB 1047를 비판했다.
인공지능, AI가 미국 기술 분야에 새로운 혁신을 일으켰고 특히 생성형 AI는 자녀의 개인 학습부터 새로운 약 설계까지 사람의 삶 거의 모든 부문에 지대한 영향을 미치고 있는데 CA 주 의회에서 적극적으로 추진되고 있는 SB 1047이 이 모든 것을 위험에 처하게 하고 있다는 지적이다.
안즈니 미드하는 SB 1047이 법으로 확정되면 AI 개발을 저해할 위험이 높다고 기고문에서 강조했다.
안즈니 미드하는 SB 1047이 통과된다면 AI 투자에 매우 심각한 악영향을 미칠 것이고 전세계 기술 발전을 주도하는 기업가 정신에도 냉각 효과를 미치게될 것이라고 경고했다.
올해(2024년) 들어서 지금까지 미국 전체에서 각 주 주의원들이 600개가 넘는 AI 법안을 제안했는데 그 중에서도 SB 1047이 가장 AI 개발에 타격을 줄 것이라고 주장했다.
SB 1047은 개발자가 AI 모델을 사용해서 사람에게 해를 끼칠 수없음을 인증할 것을 요구한다.
그것은 불가능한 요구라는 것이 안즈니 미드하의 생각이다.
AI 모델은 무한하게 수정될 수있는 것이 특징이고 오픈 소스 모델은 대중이 소스 코드에 접근하는 것을 허용한다.
즉 대중이 AI 모델의 소스 코드에 누구나 접근할 수있고 이를 기반으로 Build를 할 수있도록 하기 때문에 개발자에게 AI 안전을 100% 요구하는 것은 안된다는 것이다.
어떤 버전의 AI 모델도 해를 끼치지 않을 것이라고 확실하게 보장할 수있는 개발자는 어디에도 없다는 의미다.
그러니까 개발자가 AI를 만드는 것은 사실이지만 그후에 오픈 소스를 통해서 AI는 계속 바뀐다는 점에서 모든 버전의 AI 안전을 보장하라는 요구는 비현실적이라는 설명이다.
SB 1047은 대형 기술회사만을 대상으로 한다고 하지만 문제는 그 기준점이 1억 달러의 ‘훈련 비용’ 임계값이라는 데 있다.
AI 개발 비용은 수십억 달러에 달하기 때문인데 1억 달러는 비교적 낮은 금액이라는 점에서 신생 기업들도 그 규제 대상이 될 가능성이 높다.
훈련 비용이라는 용어의 명확한 정의도 없다.
사전 훈련 또는 사후 훈련 같은 용어에 대해서 명확한 보편적 정의가 부족한 AI 초기 연구 단계에 있어 특히 SB 1047이 광범위하게 AI 개발을 규제할 수있다는 우려다.
결국 업계에서는 이같은 SB 1047이 현실화하면 대기업들은 버텨낼 수있을 것으로 보이지만 대부분 Startup 기업들은 죽을 것이라고 보고 있다.
이 때문에 유망한 오픈 소스 AI 기업들이 해외 이전을 준비하고 있는 분위기라는 소식이다.
무분별한 AI 개발로 인간 사회에 악영향을 미칠 것을 CA 주 의회가 우려하는 것을 이해할 수있지만 적어도 현실을 감안해서 규제를 해야한다는 것이다.
SB 1047 같은 비현실적이고 불가능한 요구를 하는 법안은 CA 주를 AI 개발 경쟁에서 뒤떨어지게할 수있다고 안즈니 미드하는 Financial Times 기고문에서 지적했다.
